Как обучить нейросеть на своих данных: 4 способа для бизнеса

ChatGPT, YandexGPT и GigaChat обучены заранее, на огромном массиве текстов. Вашего прайса там нет. Когда говорят «обучить нейросеть на своих данных», обычно хотят одного: чтобы она отвечала по этим данным и не выдумывала.

Для этого модель не переучивают. Ей показывают нужные данные вместе с вопросом. Это как дать новому сотруднику папку с регламентами вместо того, чтобы отправить его на год учиться.

ТерминRAG

Так называют базу знаний для нейросети. Сначала система ищет в ваших документах куски, похожие на вопрос. Потом нейросеть отвечает, опираясь на найденное. Сама модель при этом не меняется.

Чтобы сотрудники быстро находили ответы в регламентах и договорах, программист не нужен. У Яндекса, например, есть «Нейроэксперт». В одну базу загружается до 25 файлов и ссылок: документы, PDF, таблицы, презентации, аудио и видео. По словам Яндекса, сервис отвечает только по вашим источникам. Сейчас он в бета-версии.

1. 1
   Соберите документы

   Начните с 5–10 файлов, по которым сотрудники чаще всего спрашивают друг друга: прайс, условия, регламенты, ответы на частые вопросы.

2. 2
   Уберите старые версии

   Если в базе два прайса, нейросеть может ответить по старому. Оставьте по одному актуальному файлу на тему.

3. 3
   Загрузите и спросите

   Найдите «Нейроэксперт» в поиске Яндекса, создайте базу и загрузите файлы. Задайте 20 настоящих вопросов, которые вам задавали на этой неделе.

4. 4
   Сверьте ответы

   Отметьте, где ответ неверный или неполный. Чаще всего виноват документ: устарел, противоречит другому или ответа в нём просто нет.

5. 5
   Дайте доступ команде

   Базой можно поделиться по ссылке. Попросите сотрудников неделю спрашивать сначала её, а потом коллег.

Такая база — помощник для сотрудников. Если отвечать должна сама нейросеть и клиентам в мессенджере, нужен следующий шаг. Простой вариант без кода — бот с базой знаний в конструкторе, о нём статья «Телеграм-бот с нейросетью».

Клиенты спрашивают о том, что меняется каждый день: есть ли место на дату, сколько стоит, когда можно приехать. Этого нет ни в обученной модели, ни в документах. Это знает только ваша система.

Так устроен ИИ-менеджер в прокате байков в Таиланде, который я делал. Он не помнит цены — он их спрашивает. У него есть инструменты: свободные байки на даты, каталог и цены, ближайшая свободная дата, уведомить команду, позвать человека.

Правила общения лежат в инструкции, и она хранится как документ с версиями: видно, что поменяли и когда. Длиннее не значит лучше. После аудита инструкции ИИ-продажника появился план сократить её в 6 раз: лишние и противоречивые правила только путают модель.

Как довести такого помощника до живых клиентов и не потерять их по дороге, я разбирал в статье «ИИ-менеджер в чатах продаж».

Если базу знаний нужно встроить в свой бот или сайт, у российских облаков есть готовые инструменты.

• Yandex AI Studio. Встроенный поиск по файлам File Search работает с PDF, текстами, таблицами и сканами. Для новых проектов Яндекс советует Responses API, а старый AI Assistant API в документации помечен как нерекомендуемый.
• GigaChat API. Файл сначала загружается в хранилище, а его идентификатор передаётся в запросе к модели. Порядок описан в документации Сбера.

Доступ к CRM — это уже свой код. Нейросеть получает описание инструментов, а ваша система отвечает на её запросы. ИИ-менеджер проката работает через любой OpenAI-совместимый API, поэтому модель можно сменить без переписывания системы.

Дообучение нужно, когда важна манера, а не факты. Строгий формат ответа, свой стиль, сортировка обращений по категориям — задача узкая и повторяется тысячи раз.

Вторая причина — цена. Маленькую дообученную модель можно запускать вместо большой. Сервис Presentsimple.ai дообучил YandexGPT 4 Lite на результатах Pro-версии и, по оценке компании, снизил стоимость генерации презентаций.

Для фактов дообучение подходит плохо. Цены поменялись — учите заново, а модель всё равно может перепутать выученное. Главная работа здесь — собрать набор хороших примеров «вопрос — правильный ответ».

Даже с базой знаний нейросеть иногда отвечает неверно. Причины обычно три:

• Плохие документы. Две версии прайса, противоречивые регламенты или ответа просто нет.
• Поиск нашёл не тот кусок. Вопрос сформулирован иначе, чем текст в документе.
• Модель достраивает ответ. Если данных нет, она может выдать правдоподобную выдумку.

Что помогает:

• правило в инструкции: «если ответа нет в данных — скажи об этом и позови человека». У ИИ-менеджера проката для этого есть отдельный инструмент;
• тестовый набор из настоящих вопросов, по которому вы проверяете базу после каждого изменения;
• проверка ответа перед отправкой. В прокате ответ проходит 16 проверок в коде и отдельную модель-судью. Не прошёл — одна попытка исправиться, потом диалог уходит менеджеру.