Чем локальный ИИ-справочник отличается от обычного ChatGPT

Когда вы обращаетесь к ChatGPT или похожему сервису, ваш вопрос уходит в облако, обрабатывается там большой моделью и возвращается к вам. Это удобно, но не для всех задач. Система, которую мы настраиваем, работает по-другому: она живёт на вашем сервере и отвечает только по вашим документам. В этой статье разберём, в чём именно разница и когда какой подход лучше.

Как устроена работа с вашими документами

ChatGPT и подобные модели не знают ваших внутренних приказов, расписаний и регламентов. Вы можете вручную вставлять текст в запрос, но модель всё равно не будет ссылаться на конкретный пункт документа — она просто пересказывает информацию по-своему. При этом она может добавить то, чего в ваших документах нет, или исказить детали, которые там есть. Это не вина модели: она учится предсказывать следующее слово, а не проверять факты.

Наш подход иной. Вы загружаете свои документы — приказы, расписания, контакты, регламенты — в базу знаний. Когда приходит вопрос, система ищет в этих документах релевантные отрывки и формирует ответ на их основе. Важно: она указывает, из какого именно документа взята информация. Если в базе нет данных по вопросу, она честно говорит об этом, а не придумывает ответ. Подробнее о том, как это работает в администрациях, читайте в статье «Локальный ИИ для администрации района».

Куда уходят данные

При работе с облачными сервисами тексты, которые вы вводите, проходят через серверы сторонней компании. Даже если они не используются напрямую, они покидают ваш контур. Для администраций, школ, управляющих компаний и клиников это может быть проблемой: внутренние регламенты, служебная информация — всё это требует особого обращения.

Наша система работает на вашем оборудовании. Данные не уходят во внешнее облако, они остаются на вашем сервере или компьютере. Вы контролируете, где хранятся документы и кто к ним имеет доступ. Это особенно важно, когда нужно соответствовать внутренним требованиям по защите информации. О том, что входит в пилот и как мы подходим к безопасности, описано на странице цен.

Работа без интернета

Облачные сервисы работают только при наличии стабильного интернета. Если связь пропадает, вы остаётесь без инструмента. Для организаций в отдалённых районах, где интернет нестабилен, это может быть критичным. Даже кратковременные сбои означают, что жители не могут получить справку, а сотрудники не видят ответы.

Наша модель отвечает на вопросы и без выхода в сеть. После начальной настройки и загрузки документов, справочник работает автономно. Вы можете использовать его в приёмной, на ресепшене или у сотрудника, не боясь, что вдруг пропадёт связь. Дополнительные каналы для жителей и интеграции описаны в разделе «Что мы делаем».

Честность ответа: система не выдумывает

Галлюцинации — одна из главных проблем больших языковых моделей. Модель может уверенно рассказать что-то, что не соответствует действительности, потому что она учится предсказывать следующее слово, а не проверять факты. В справочной задаче это особенно опасно: житель получает неверную информацию о приёме, о телефоне, о датах — и это приводит к лишним звонкам, недовольству и потере доверия к организации.

Наш подход прост: система ищет ответ в ваших документах и показывает, откуда он взят. Если подходящего ответа нет, она говорит: «данных нет». Это неудобно для модели, но удобно для вас — вы всегда знаете, можно ли полагаться на ответ. Такой подход лежит в основе всех наших решений, включая ИИ-справочник для малого бизнеса.

Какой подход выбирать

Если вам нужно общаться с клиентами в свободной форме, решать творческие задачи или анализировать большие объёмы информации из разных источников, облачный ИИ может быть полезен. Но если задача — отвечать на повторяющиеся вопросы по вашим документам, давать точные справки с ссылками на источники и работать в условиях, где данные должны оставаться у вас, локальный подход оправдан.

Мы настраиваем локальные ИИ-справочники для администраций, школ, колледжей, управляющих компаний, клиник и домов культуры. Пилот включает установку на ваше оборудование, загрузку до 50 документов, настройку одного канала для жителей и проверку на 30–50 типовых вопросах. Стоимость пилота — 150 000 ₽ разово, сопровождение — 30 000 ₽ в месяц. Условия и детали описаны на странице цен.