[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"$f3r88i5o6l3fbc":3},{"post":4,"newer":52,"older":73,"related":89},{"slug":5,"no":6,"title":7,"description":8,"date":9,"time":10,"tags":11,"cover":14,"readingMinutes":15,"mark":16,"segments":17,"intro":25,"sections":26},"gallyucinacii-nejroseti",19,"Галлюцинации нейросети: почему ИИ врёт и как это исправить","Почему нейросеть уверенно выдумывает факты, ссылки и цены, как сделать выдумки редкими с помощью данных и инструкции и как проверять ответы до клиента.","2026-11-01","09:51",[12,13],"ИИ","Боты","https:\u002F\u002Fmedia.bogdanovmedia.ru\u002Fblog\u002Fb5489d74bdbe9dc1-1200x630.webp",4,"почему ИИ врёт",[18,19,20,21,22,23,24],46,79,86,131,124,70,107,"\u003Cdiv class=\"ar-lede\">\n\u003Cp>Галлюцинация — это когда нейросеть уверенно выдаёт неправду: несуществующую ссылку, выдуманную цену, закон, которого нет. Это не сбой и не злой умысел. Модель подбирает правдоподобный текст, а не проверяет факты. Убрать галлюцинации полностью нельзя, но их можно сделать редкими и ловить до того, как ответ увидит человек.\u003C\u002Fp>\n\u003C\u002Fdiv>\n",[27,32,36,40,44,48],{"id":28,"title":29,"html":30,"notes":31,"words":19},"chto-takoe-gallyutsinatsii-neyroseti","Что такое галлюцинации нейросети","\u003Cdl class=\"ar-def\">\u003Cdt>\u003Cspan class=\"mono\">Термин\u003C\u002Fspan>\u003Cb>Галлюцинация нейросети\u003C\u002Fb>\u003C\u002Fdt>\u003Cdd>Ответ, который звучит уверенно и правдоподобно, но не соответствует фактам. Модель не врёт нарочно: она не отличает «звучит правильно» от «правда».\u003C\u002Fdd>\u003C\u002Fdl>\n\u003Cp>Как это выглядит на практике:\u003C\u002Fp>\n\u003Cul>\n\u003Cli>ссылка на статью, которой нет, с правдоподобным адресом;\u003C\u002Fli>\n\u003Cli>цитата, которую никто не говорил;\u003C\u002Fli>\n\u003Cli>цена или срок, которых нет в вашем прайсе;\u003C\u002Fli>\n\u003Cli>статья закона с выдуманным номером;\u003C\u002Fli>\n\u003Cli>в коде — вызов функции, которой нет в библиотеке.\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>Самое опасное в галлюцинации — уверенный тон. Нейросеть не пишет «кажется» там, где выдумывает.\u003C\u002Fp>\n","",{"id":33,"title":34,"html":35,"notes":31,"words":20},"pochemu-neyroset-vret","Почему нейросеть врёт","\u003Col>\n\u003Cli>\u003Cstrong>Она продолжает текст, а не ищет истину.\u003C\u002Fstrong> Модель обучена подбирать следующее слово так, чтобы текст был похож на правильный. Похожий и правильный — разные вещи.\u003C\u002Fli>\n\u003Cli>\u003Cstrong>Её знания устарели.\u003C\u002Fstrong> Модель обучали на текстах до определённой даты. Вашего нового прайса, вчерашних изменений в законе и свободных мест на завтра она не знает.\u003C\u002Fli>\n\u003Cli>\u003Cstrong>В вопросе есть ложная предпосылка.\u003C\u002Fstrong> «Почему закон 2024 года запрещает…» — и модель объяснит, почему, даже если такого закона нет.\u003C\u002Fli>\n\u003Cli>\u003Cstrong>Ей не разрешили сказать «не знаю».\u003C\u002Fstrong> Если инструкция требует ответить, модель ответит — пусть и выдумкой.\u003C\u002Fli>\n\u003C\u002Fol>\n",{"id":37,"title":38,"html":39,"notes":31,"words":21},"kak-umenshit-gallyutsinatsii","Как уменьшить галлюцинации","\u003Col class=\"ar-steps\">\u003Cli>\u003Cspan aria-hidden=\"true\">1\u003C\u002Fspan>\u003Cdiv>\u003Cb>Дайте данные\u003C\u002Fb>\u003Cp>Цены, условия, свободные даты — в инструкции, базе знаний или через доступ к вашей системе. Модель, которой показали правильный ответ, выдумывает реже.\u003C\u002Fp>\u003C\u002Fdiv>\u003C\u002Fli>\u003Cli>\u003Cspan aria-hidden=\"true\">2\u003C\u002Fspan>\u003Cdiv>\u003Cb>Разрешите «не знаю»\u003C\u002Fb>\u003Cp>Строка в инструкции: «Если ответа нет в данных — так и скажи и предложи передать вопрос человеку».\u003C\u002Fp>\u003C\u002Fdiv>\u003C\u002Fli>\u003Cli>\u003Cspan aria-hidden=\"true\">3\u003C\u002Fspan>\u003Cdiv>\u003Cb>Снизьте креативность\u003C\u002Fb>\u003Cp>В настройках модели это «температура», в конструкторах — уровень креативности. Для фактов нужен низкий.\u003C\u002Fp>\u003C\u002Fdiv>\u003C\u002Fli>\u003Cli>\u003Cspan aria-hidden=\"true\">4\u003C\u002Fspan>\u003Cdiv>\u003Cb>Сузьте задачу\u003C\u002Fb>\u003Cp>Один вопрос — один ответ. «Выбери статус из списка» надёжнее, чем «опиши ситуацию».\u003C\u002Fp>\u003C\u002Fdiv>\u003C\u002Fli>\u003Cli>\u003Cspan aria-hidden=\"true\">5\u003C\u002Fspan>\u003Cdiv>\u003Cb>Просите опору\u003C\u002Fb>\u003Cp>«Процитируй строку из документа, на которой основан ответ». Если цитаты нет — ответ под подозрением.\u003C\u002Fp>\u003C\u002Fdiv>\u003C\u002Fli>\u003Cli>\u003Cspan aria-hidden=\"true\">6\u003C\u002Fspan>\u003Cdiv>\u003Cb>Сократите инструкцию\u003C\u002Fb>\u003Cp>Противоречивые правила путают модель. После аудита инструкции ИИ-продажника в прокате появился план сократить её в 6 раз.\u003C\u002Fp>\u003C\u002Fdiv>\u003C\u002Fli>\u003C\u002Fol>\n\u003Cp>Как дать нейросети ваши данные — инструкцией, базой знаний или доступом к CRM, — я разбирал в статье \u003Ca href=\"\u002Fblog\u002Fkak-obuchit-nejroset-na-svoih-dannyh\">«Как обучить нейросеть на своих данных»\u003C\u002Fa>.\u003C\u002Fp>\n",{"id":41,"title":42,"html":43,"notes":31,"words":22},"kak-proveryat-otvety-prezhde-chem-ih-uvidit-klient","Как проверять ответы, прежде чем их увидит клиент","\u003Cp>Если ИИ отвечает клиентам, одной хорошей инструкции мало. Нужна проверка каждого ответа до отправки.\u003C\u002Fp>\n\u003Cp>Так устроено в ИИ-менеджере проката байков, который я делал:\u003C\u002Fp>\n\u003Cdiv class=\"ar-flow\">\u003Cdiv class=\"ar-flow-row\">\u003Cdiv class=\"ar-node\">\u003Cb>Ответ ИИ\u003C\u002Fb>\u003Cspan>по данным из CRM\u003C\u002Fspan>\u003C\u002Fdiv>\u003Ci class=\"ar-arr\" aria-hidden=\"true\">\u003C\u002Fi>\u003Cdiv class=\"ar-node\">\u003Cb>Проверки кодом\u003C\u002Fb>\u003Cspan>16 правил\u003C\u002Fspan>\u003C\u002Fdiv>\u003Ci class=\"ar-arr\" aria-hidden=\"true\">\u003C\u002Fi>\u003Cdiv class=\"ar-node acc\">\u003Cb>Модель-судья\u003C\u002Fb>\u003Cspan>отдельная нейросеть\u003C\u002Fspan>\u003C\u002Fdiv>\u003Ci class=\"ar-arr\" aria-hidden=\"true\">\u003C\u002Fi>\u003Cdiv class=\"ar-node\">\u003Cb>Клиент\u003C\u002Fb>\u003Cspan>получает ответ\u003C\u002Fspan>\u003C\u002Fdiv>\u003C\u002Fdiv>\u003Cdiv class=\"ar-flow-loop\">\u003Cspan>↻ не прошёл → одна попытка исправиться, потом менеджер\u003C\u002Fspan>\u003C\u002Fdiv>\u003C\u002Fdiv>\n\u003Cp>Какие правила ставить кодом, зависит от бизнеса. Обычно это то, что проверяется точно: есть ли названная цена в каталоге, существует ли дата, нет ли в ответе чужих ссылок. Модель-судья читает ответ целиком и решает, отвечает ли он на вопрос и не противоречит ли данным.\u003C\u002Fp>\n\u003Cp>У ИИ-менеджера есть и запасной выход — инструмент «позвать человека». Если данных нет, бот не выдумывает, а передаёт диалог менеджеру. Подробно — в статье \u003Ca href=\"\u002Fblog\u002Fii-menedzher-v-chatah\">«ИИ-менеджер в чатах продаж»\u003C\u002Fa>.\u003C\u002Fp>\n",{"id":45,"title":46,"html":47,"notes":31,"words":23},"s-kodom-to-zhe-samoe","С кодом то же самое","\u003Cp>Нейросети пишут код уверенно — и так же уверенно ошибаются. Я сам работаю с ними каждый день:\u003C\u002Fp>\n\u003Cblockquote>\n\u003Cp>За одну рабочую сессию нейросеть пытается обмануть меня десятки раз. Подсунуть решение, которое выглядит правильным, а на деле ломает что-то рядом. Я это вижу и отлавливаю, потому что знаю, как должно быть.\u003C\u002Fp>\n\u003C\u002Fblockquote>\n\u003Cp>Если вы не можете проверить код сами, проверяйте результат: запускайте, сравнивайте цифры с известными, держите резервные копии.\u003C\u002Fp>\n",{"id":49,"title":50,"html":51,"notes":31,"words":24},"kak-ne-popastsya-samomu","Как не попасться самому","\u003Cdiv class=\"ar-check\">\u003Ch3>Проверка ответа нейросети\u003C\u002Fh3>\n\u003Cul>\n\u003Cli>\u003Clabel>\u003Cinput type=\"checkbox\">\u003Cspan>Ссылку откройте. Если страница не открывается, ссылка, скорее всего, выдумана.\u003C\u002Fspan>\u003C\u002Flabel>\u003C\u002Fli>\n\u003Cli>\u003Clabel>\u003Cinput type=\"checkbox\">\u003Cspan>Цифры сверьте с первоисточником, а не с другим ответом той же нейросети.\u003C\u002Fspan>\u003C\u002Flabel>\u003C\u002Fli>\n\u003Cli>\u003Clabel>\u003Cinput type=\"checkbox\">\u003Cspan>Статьи законов проверяйте в КонсультантПлюс или Гаранте.\u003C\u002Fspan>\u003C\u002Flabel>\u003C\u002Fli>\n\u003Cli>\u003Clabel>\u003Cinput type=\"checkbox\">\u003Cspan>Спросите: «На чём основан этот ответ?» Расплывчатое объяснение — повод насторожиться.\u003C\u002Fspan>\u003C\u002Flabel>\u003C\u002Fli>\n\u003Cli>\u003Clabel>\u003Cinput type=\"checkbox\">\u003Cspan>Задайте тот же вопрос другими словами. Разные ответы на один вопрос — признак выдумки.\u003C\u002Fspan>\u003C\u002Flabel>\u003C\u002Fli>\n\u003Cli>\u003Clabel>\u003Cinput type=\"checkbox\">\u003Cspan>Цитату ищите в поиске в кавычках.\u003C\u002Fspan>\u003C\u002Flabel>\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp class=\"ar-check-cnt\">Отмечено \u003Cb>0\u003C\u002Fb> из 6\u003C\u002Fp>\n\u003Cp>Если ответ нужен для решения о деньгах или здоровье, проверка обязательна всегда.\u003C\u002Fp>\n\u003C\u002Fdiv>\n\u003Cdiv class=\"ar-cta\">\u003Cspan class=\"mono\">Автор · Семён Богданов\u003C\u002Fspan>\u003Cb>ИИ отвечает вашим клиентам и иногда выдумывает?\u003C\u002Fb>\u003Cp>Напишите, где он ошибается и откуда берёт данные. Подскажу по опыту, какие проверки поставить, чтобы выдумки не доходили до клиентов. Можно просто задать вопрос.\u003C\u002Fp>\u003Ca class=\"a-btn\" href=\"https:\u002F\u002Ft.me\u002Ftrampai\" target=\"_blank\" rel=\"noopener\">Задать вопрос \u003Cspan aria-hidden=\"true\">→\u003C\u002Fspan>\u003C\u002Fa>\u003C\u002Fdiv>\n",{"slug":53,"no":54,"title":55,"description":56,"date":9,"time":57,"tags":58,"cover":62,"readingMinutes":15,"mark":63,"segments":64},"crm-dlya-prokata",20,"CRM для проката авто и мото: брони, депозиты, гараж","Что должно быть в CRM для проката: брони без накладок, депозит и штрафы, гараж с ремонтом и маслом, касса в разных валютах, сделки из мессенджеров. Чек-лист.","09:52",[59,60,61],"CRM","Отрасли","Мессенджеры","https:\u002F\u002Fmedia.bogdanovmedia.ru\u002Fblog\u002F468d47548eb771e7-1200x630.webp","брони, депозиты, гараж",[65,66,67,68,69,18,70,71,24,72],49,68,101,77,40,36,43,103,{"slug":74,"no":75,"title":76,"description":77,"date":9,"time":78,"tags":79,"cover":81,"readingMinutes":15,"mark":82,"segments":83},"vnedrenie-ii-v-biznes",18,"Внедрение ИИ в бизнес: с чего начать и где он окупается","Где ИИ в бизнесе уже работает, как выбрать первую задачу, сколько стоят токены на реальном объёме и как запустить нейросеть по ступеням, не рискуя клиентами.","09:50",[12,80],"Цены","https:\u002F\u002Fmedia.bogdanovmedia.ru\u002Fblog\u002Fd851fbc2e74fea8c-1200x630.webp","с чего начать",[84,85,86,87,72,88,72],53,111,83,96,81,[90,106,122],{"slug":91,"no":92,"title":93,"description":94,"date":9,"time":95,"tags":96,"cover":98,"readingMinutes":99,"mark":100,"segments":101},"avtomatizaciya-podbora-personala",26,"Автоматизация подбора персонала: бот ведёт первое собеседование","Как Telegram-бот ведёт кандидата от анкеты до договора, как нейросеть оценивает голосовые ответы, какие системы подбора есть и что с согласием кандидатов.","09:58",[12,97,13],"Телеграм","https:\u002F\u002Fmedia.bogdanovmedia.ru\u002Fblog\u002F5971d9ef9c015a47-1200x630.webp",3,"первое собеседование",[102,103,104,88,105,20,85],60,44,94,130,{"slug":107,"no":108,"title":109,"description":110,"date":9,"time":111,"tags":112,"cover":113,"readingMinutes":15,"mark":114,"segments":115},"ii-agent-dlya-biznesa",22,"ИИ-агент для бизнеса: что это и что он умеет на самом деле","Чем ИИ-агент отличается от чат-бота, как он устроен внутри, какие задачи бизнеса уже решает и где его нельзя оставлять без присмотра человека.","09:54",[12,13],"https:\u002F\u002Fmedia.bogdanovmedia.ru\u002Fblog\u002Fdbfed1c1dda6f32f-1200x630.webp","на самом деле",[116,117,118,119,120,121],41,76,113,98,122,187,{"slug":123,"no":124,"title":125,"description":126,"date":9,"time":127,"tags":128,"cover":129,"readingMinutes":15,"mark":130,"segments":131},"telegram-bot-s-nejrosetyu",14,"Телеграм-бот с нейросетью: как подключить ChatGPT к боту","Бот с нейросетью без кода: AI-агент в конструкторе, инструкция, база знаний и проверка перед запуском. Что с ChatGPT в России и бот на Python в конце.","06:37",[97,12,13],"https:\u002F\u002Fmedia.bogdanovmedia.ru\u002Fblog\u002F1a1bd21f33e2b4d5-1200x630.webp","подключить ChatGPT",[132,133,134,135,120,136,137],47,92,225,56,74,155]