Случаи, когда ИИ честно говорит: «Данных нет»: зачем это нужно вам

Один из главных принципов нашего подхода: система не должна выдумывать ответы. Если в ваших документах нет информации по вопросу, справочник честно говорит об этом, а не придумывает убедительный, но ложный ответ. Звучит неудобно: зачем нужен инструмент, который отказывается отвечать? Но на практике это важная особенность, которая защищает доверие жителей и предотвращает проблемы. Разберём, в чём суть и почему это нужно именно вам.

Почему модели склонны выдумывать

Большие языковые модели учатся предсказывать следующее слово в предложении. Они не проверяют факты и не различают, что есть в документах, а что — в общем обучении. Если модель не нашла точного ответа, она может «дополнить» его на основе похожих примеров, которые она видела в других контекстах. Результат звучит убедительно, но может не соответствовать вашим приказам, расписаниям или регламентам.

Для справочной задачи это особенно опасно. Житель спрашивает, когда отключат воду, и получает дату, которая не соответствует объявлениям ресурсоснабжающей организации. Или родитель уточняет график работы школьной столовой, и система называет время, которое не прописано в расписании. В обоих случаях проблема не в том, что система ошиблась, а в том, что она решила «помочь», добавив то, чего не было. Подробнее о том, как устроена работа с документами, читайте в статье «Как работает RAG: поиск по смыслам простыми словами».

Как работает честный ответ

Наш подход прост: система сначала ищет в ваших документах релевантные отрывки. Если она находит что-то подходящее, она формирует ответ на основе этих отрывков и указывает, из какого именно документа взята информация. Если же подходящих отрывков нет, она не пытается «дополнить» ответ из общих знаний. Вместо этого она честно говорит: «данных нет».

Важно, что это не означает, что система не работает. Она всё равно обрабатывает вопрос, проверяет базу и приходит к выводу, что подходящей информации нет. Просто она делает это прозрачно, а не маскирует под ответ. Подробный состав пилота и подход к безопасности описаны на странице цен.

Зачем это нужно вам

Честное отсутствие ответа защищает вас и ваших жителей от нескольких рисков:

• Доверие. Если житель знает, что система не выдумывает, он относится к ответам серьёзнее. Даже если система говорит «данных нет», он понимает, что это честный ответ, а не попытка уклониться. В следующий раз, когда система даёт точную справку с ссылкой на документ, он будет верить ей.
• Юридические риски. Если система даёт неверный ответ, ответственность остаётся за организацией, которая её использует. Когда система честно сообщает об отсутствии данных, вероятность выдать неточную информацию заметно снижается.
• Сотрудники видят, где пробелы. Если система регулярно говорит «данных нет» по каким-то вопросам, это сигнал: возможно, нужно обновить документы или добавить недостающую информацию. Это помогает поддерживать базу в актуальном состоянии.

Подробнее о том, как мы подходим к ответственности, описано в разделе «Что мы делаем».

Примеры из практики

Рассмотрим типовые ситуации:

• Житель спрашивает, когда будет отключена вода на его улице. Если в базе нет объявления по конкретному дому, система говорит: «Подтверждённых данных по этому вопросу в базе нет. Уточните в администрации по телефону приёмной». Это неудобно для жителя, но честно и безопасно для организации.
• Родитель спрашивает, можно ли взять еду с собой из школьной столовой. Если в расписании или регламенте нет упоминания этой возможности, система не придумывает ответ. Она говорит, что информации нет, и советует уточнить у сотрудников.
• Сотрудник проверяет, есть ли обновлённый график приёма. Система находит последнюю версию документа и указывает дату его редакции. Если документ устарел, система всё равно даёт ответ, но с пометкой о дате.

Во всех этих случаях система не пытается «помочь», добавляя то, чего нет. Она делает то, что должна: проверяет документы и честно сообщает результат. Подробнее о том, как это работает в администрациях, читайте в статье «Локальный ИИ для администрации района».

Итог: честность — основа доверия

Честное отсутствие ответа — это не недостаток системы, а её преимущество. Оно защищает вас от юридических рисков, помогает поддерживать базу в порядке и строит доверие с жителями. Система, которая всегда говорит что-то, даже если не уверена, в долгосрочной перспективе подрывает своё собственное доверие.

Мы настраиваем такие системы для школ, колледжей, управляющих компаний, администраций и клиник. Пилот стоит 150 000 ₽ разово и включает установку на ваше оборудование, загрузку до 50 документов, настройку одного канала для жителей и проверку на 30–50 типовых вопросах. Сопровождение — 30 000 ₽ в месяц. Подробности и условия на странице цен.