Галлюцинации нейросетей: почему ИИ уверенно врёт про вашу компанию
Ещё говорят: галлюцинация ИИ, выдумки нейросети, AI hallucination
Галлюцинация нейросети — выдуманный факт, который модель выдаёт тем же уверенным тоном, что и правду: несуществующая цена, чужой телефон, ссылка на страницу, которой нет. Причина в устройстве модели: фактов она не хранит и достраивает наиболее вероятное продолжение текста. Признака «я не уверена» у такого ответа обычно нет.
Для бизнеса это конкретный риск: клиент спрашивает бота про вашу компанию и получает выдуманные условия. Лечится это тем, чтобы верные факты лежали там, откуда модель их берёт. Спорить с ней бесполезно.
Модель достраивает текст по вероятности
Языковая модель не таблица фактов. Она предсказывает, какое слово вероятнее идёт следующим. Когда в обучении было много текстов вида «стоимость продвижения — от 30 000 рублей в месяц», модель уверенно подставит похожую сумму и в ответ про вашу компанию — просто потому, что так обычно пишут.
Отсюда главное свойство галлюцинации: она правдоподобна. Модель не путается в словах, она даёт гладкий и логичный ответ, в котором неверны детали. Именно поэтому её трудно заметить на глаз.
Какие бывают
| Тип | Как выглядит | Чем опасен для бизнеса |
|---|---|---|
| Выдуманный факт | цена, срок, состав услуги, которых у вас нет | клиент приходит с чужими ожиданиями |
| Смешение компаний | ваши услуги приписаны конкуренту и наоборот | работает на чужой бренд |
| Устаревшие данные | цены прошлого года, закрытый адрес | выглядит как обман, хотя обмана нет |
| Несуществующая ссылка | адрес страницы, которой никогда не было | человек упирается в 404 и уходит |
| Выдуманный источник | ссылка на «исследование», которого нет | бьёт по доверию к теме целиком |
Почему поиск галлюцинирует реже
В режиме поиска модель сначала находит документы и отвечает по ним — это схема RAG. Выдумывать становится незачем: текст лежит перед ней. Поэтому ответы Нейро и других поисковых ботов заметно точнее, чем ответ чат-бота, работающего по памяти.
Но риск не исчезает совсем. Он переезжает: теперь врёт источник, из которого модель читает. Если поиск принёс чужой каталог с устаревшей ценой, ответ будет аккуратным, связным и неверным.
Что может сделать владелец сайта
- Положить факты на сайт в явном виде цена числом, срок в днях, условия списком. Если на сайте цены нет, модель возьмёт её у того, у кого есть.
- Свести противоречия сайт, карточка в справочнике, каталоги и старые статьи должны говорить одно и то же. Расхождение — приглашение к выдумке.
- Убрать устаревшее закрытые адреса, снятые услуги, старые прайсы. Страница, которую вы забыли, продолжает отвечать за вас.
- Добавить машинно-читаемый слой разметка Schema.org и llms.txt — это тот же факт, записанный формально.
- Проверять регулярно раз в месяц задавать боту те же вопросы и смотреть, что изменилось. Отчёта об этом никто не пришлёт.
Всё это — часть работы, которую мы разбираем в статье GEO-оптимизация. Отдельной «защиты от галлюцинаций» не существует: есть порядок в фактах.
Чего сделать нельзя
- Нельзя исправить ответ напрямую. Кнопки «поправить факт о моей компании» у моделей нет; кнопка обратной связи влияет разве что на статистику.
- Нельзя отключить упоминания. Запретив краулерам обход, вы уберёте свой сайт из источников, но не уберёте себя из ответов: про вас напишут по чужим публикациям.
- Нельзя добиться гарантии. Ответ не детерминирован: на один и тот же вопрос завтра будет другая формулировка. Работает только снижение вероятности ошибки.
Частые вопросы
Почему нейросеть называет неправильную цену моих услуг?
Либо она отвечает по памяти без поиска — тогда сумма просто достроена по похожим текстам. Либо поиск нашёл вас там, где цифры устарели: в прошлогодней статье, в чужом каталоге, в кэше давно переписанной страницы. Первое лечится тем, чтобы актуальная цена лежала на сайте явно, второе — чисткой старых публикаций и совпадением цифр везде.
Можно ли пожаловаться и заставить исправить?
Прямого механизма нет. Есть обратная связь внутри сервисов, но она не правит конкретный ответ. Практический путь один: сделать так, чтобы верные данные было легче найти, чем неверные.
Помогает ли llms.txt против галлюцинаций?
Частично и без гарантий. Файл даёт короткую выжимку фактов, но ни один крупный поисковик не подтверждал, что учитывает его. Считать его страховкой можно, считать решением — нет.
Как часто проверять ответы про свою компанию?
Раз в месяц достаточно, а после изменения цен или услуг — сразу. Проверять стоит одним и тем же списком вопросов, иначе сравнивать будет не с чем.
Как называется, когда нейросеть выдаёт вымысел за факт?
Галлюцинация, в английских текстах hallucination, реже confabulation. Слово прижилось потому, что модель не обманывает намеренно: она достраивает правдоподобный ответ там, где данных нет, и сама не отличает достроенное от известного.
