Почему нейросеть врёт: что такое галлюцинации ИИ и как проверять факты

Попросите нейросеть посоветовать пять книг по интересной вам теме — и она выдаст аккуратный список: названия, авторы, годы, издательства. Начнёте искать — окажется, что две из пяти книг никогда не существовали. Причём именно они выглядели убедительнее всех.

Это не сбой и не обман конкретного сервиса. Так устроена сама технология: нейросеть умеет уверенно выдумывать — факты, цифры, цитаты, источники, судебные дела и научные статьи. Это называется галлюцинациями, и полностью «починить» их пока не смог никто. Хорошая новость: с этим можно спокойно жить и продуктивно работать — если знать несколько правил проверки. Разбираемся, почему нейросеть врёт и как не попасться.

Что такое галлюцинации нейросети

Галлюцинация — это когда модель выдаёт правдоподобную, но ложную информацию тем же уверенным тоном, что и правду. Никакой пометки «тут я не уверена» по умолчанию не будет.

Причина в устройстве технологии. Языковая модель не сверяется с базой фактов — она достраивает наиболее вероятное продолжение текста, слово за словом. Мы уже разбирали это в гайде по формулированию запросов: на расплывчатый вопрос модель отвечает самым правдоподобным образом. С фактами то же самое: если модель «не помнит» точный ответ, она сгенерирует правдоподобный. Название несуществующей книги строится по тем же законам, что и настоящее, — поэтому выглядит настоящим.

Важное следствие: модель не знает, что она чего-то не знает. Уверенный тон — не признак правоты, а свойство жанра.

Чем убедительнее ответ, тем он опаснее

Интуиция подсказывает: «ерунду я замечу». Исследования говорят обратное. В эксперименте, представленном на конференции NAACL, людям давали проверять факты с помощью объяснений нейросети: когда объяснения были верными, люди справлялись быстрее и не хуже, чем с обычным поиском. Но когда объяснения были ошибочными, участники массово не замечали подвоха и соглашались с неверным ответом — уверенный связный текст отключает критическое мышление.

Добавьте сюда две вещи. Первая: по опросам, ответы нейросетей перепроверяет лишь около 8% пользователей. Вторая — так называемая сикофантия: модели обучены быть полезными и покладистыми, поэтому охотно соглашаются с вами и подтверждают вашу точку зрения. Получается идеальный шторм: машина уверенно ошибается, поддакивает — а человек не проверяет.

Чем это заканчивается в реальной жизни

Показательнее всего — истории юристов, то есть людей, чья профессия построена на проверке источников.

В 2023 году в нью-йоркском деле Mata v. Avianca адвокаты подали в суд документы с шестью несуществующими судебными прецедентами, сгенерированными ChatGPT. Самая поучительная деталь: когда юрист засомневался и переспросил, ChatGPT «заверил» его, что дела настоящие и «их можно найти в LexisNexis и Westlaw». Итог — штраф $5 000 и всемирная известность не того рода.

Урок не выучили. Весной 2026 года федеральный судья в Орегоне оштрафовал двух юристов примерно на $110 000 — в их документах нашлось 15 ссылок на несуществующие дела и 8 выдуманных цитат. Это один из крупнейших штрафов за ИИ-галлюцинации в практике США. А в международной базе таких случаев уже больше 1 500 судебных решений, где стороны попались на выдуманных нейросетью материалах, — и счёт растёт с каждым месяцем.

С медициной тревожнее: по опросу 2023 года, 78% участников были готовы использовать ChatGPT для самодиагностики вместо похода к врачу. При этом медицинская галлюцинация внешне неотличима от дельного совета — а цена ошибки несравнимо выше, чем в списке книг.

Если попадаются даже профессионалы с юридическим образованием, обычному пользователю тем более нужны простые правила. Они ниже.

Где нейросети выдумывают чаще всего

Галлюцинации распределены неравномерно. Максимальный риск — там, где нужна точность:

• Точные цифры, даты, статистика. Модель легко «округлит» или сочинит правдоподобное число.
• Цитаты. Знаменитостям приписываются слова, которых они не говорили, — гладко и в их стиле.
• Источники: книги, статьи, ссылки. Классика жанра — несуществующая литература с настоящими издательствами.
• Биографии и малоизвестные люди. Чем меньше о человеке данных, тем смелее модель фантазирует.
• Свежие события. У модели есть граница знаний; без веб-поиска про «вчера» она может только догадываться.
• Узкие профессиональные вопросы — особенно право и медицина применительно к вашей стране: модель может пересказать чужую юрисдикцию как вашу.

А вот в задачах без «единственно правильного ответа» — переписать текст, объяснить концепцию, накидать идей, составить план — галлюцинации почти безвредны: там нечего выдумывать.

Как распознать галлюцинацию

Стопроцентного детектора нет, но есть верные признаки:

1. Ссылка не открывается, книга не ищется. Если источник нельзя найти за минуту — скорее всего, его нет.
2. Ответ «плывёт» при переспросе. Задайте тот же вопрос в новом чате: правда воспроизводится, выдумка — мутирует.
3. Модель мгновенно сдаёт позиции. Напишите «это неправда» — про выдумку модель тут же извинится и «исправится». Иногда — на новую выдумку.
4. Подозрительно гладкая конкретика в теме, где вы не эксперт: точные проценты, годы и имена без единой оговорки — повод проверить, а не поверить.

Правила проверки: система светофора

Чтобы не проверять всё подряд, поделите задачи на три зоны.

🟢 Зелёная зона — можно не проверять. Стиль, формулировки, идеи, планы, черновики, объяснение общеизвестных концепций. Здесь модель не «врёт», потому что врать не о чем.

🟡 Жёлтая зона — проверяйте ключевое. Факты, цифры, инструкции, исторические события, всё, что пойдёт в работу или учёбу. Минимум — прогнать главные утверждения через обычный поиск. Полезно и попросить модель саму себя проверить:

Перечисли по пунктам факты из твоего ответа и пометь те, в которых ты не уверена или которые стоит перепроверить вручную.

Дай источники на каждое утверждение. Если источника нет — так и напиши, не подбирай похожий.

🔴 Красная зона — только с первоисточником и специалистом. Здоровье, деньги, право, всё необратимое. Нейросеть здесь — помощник для подготовки вопросов к врачу или юристу, а не их замена. Ответ модели может быть блестящей отправной точкой, но решение принимается по официальным документам и словам живого профессионала.

И два приёма на каждый день. Первый: для вопросов о фактах включайте режим веб-поиска, если он есть у модели, — ответ с реальными ссылками проверять на порядок проще. Второй: важный факт прогоните через вторую модель — разные нейросети галлюцинируют по-разному, и место, где их ответы разошлись, почти всегда и есть слабое звено.

Частые заблуждения о галлюцинациях

• «Платная модель не врёт». Флагманы галлюцинируют реже дешёвых моделей, но не ноль. Меняется вероятность, не принцип.
• «Раз указан источник — значит правда». Источники выдумываются так же легко, как факты, — вместе с номерами страниц. Проверка источника — это открыть его, а не увидеть.
• «Нейросеть врёт специально». У модели нет намерений — ни честных, ни злых. «Врёт» — просто удобное слово для статистической ошибки.
• «Новые версии уже всё исправили». Прогресс реальный: «думающие» reasoning-модели и веб-поиск заметно сократили выдумки. Но ни одна модель 2026 года не даёт гарантии — и честные разработчики прямо пишут об этом в своих интерфейсах.

Удобнее всего проверять там, где все модели рядом

Перекрёстная проверка — самый практичный приём из этой статьи, но гонять один вопрос между тремя сайтами с тремя подписками неудобно. На LLMost 300+ моделей — ChatGPT, Claude, Gemini, DeepSeek и другие — живут в одном чате: спросили одну, переключились на вторую, сравнили ответы, нашли расхождение. Без VPN, с оплатой в рублях через СБП, МИР, SberPay или TPay, по факту использования. Новичкам начисляется 20 бесплатных кредитов — на пару перекрёстных проверок хватит с запасом, а каталог моделей открыт без регистрации. Подобрать модель под задачу поможет гайд по выбору нейросети для текста.

Частые вопросы

Что такое галлюцинации нейросети простыми словами? Это когда нейросеть уверенно сообщает выдуманную информацию: факты, цифры, цитаты, книги, ссылки. Модель не сверяется с базой знаний, а достраивает правдоподобный текст — иногда правдоподобное оказывается ложным.

Почему ChatGPT выдумывает источники и книги? Потому что он генерирует текст «по образцу»: название несуществующей книги строится по тем же правилам, что настоящее, — автор, название, издательство, год. Для модели между ними нет разницы, если она «не помнит» точного ответа. Поэтому источники нужно не читать в ответе, а открывать.

Какая нейросеть галлюцинирует меньше всех? Меньше выдумывают «думающие» reasoning-модели и модели с включённым веб-поиском — они сверяются с реальными страницами. Но полностью не защищена ни одна: разница между моделями — в частоте ошибок, а не в их отсутствии. Надёжнее всего сравнить ответы двух-трёх разных моделей.

Можно ли доверять нейросети в медицинских вопросах? Как справочнику для подготовки к визиту — да: объяснить термины, расшифровать анализ простыми словами, составить список вопросов врачу. Как замене врача — нет: медицинская галлюцинация выглядит так же убедительно, как верный совет, а проверить её сами вы не сможете.

Как заставить нейросеть не выдумывать? Полностью — никак, но риск можно сильно снизить: включите веб-поиск, попросите указывать источники и честно помечать неуверенность («если не знаешь точно — так и скажи»), задавайте конкретные вопросы вместо широких. Остальное решает проверка: важные факты — через поиск или вторую модель.

Правда ли, что нейросети стали галлюцинировать меньше? Да, заметно: свежие флагманы ошибаются в разы реже моделей 2023 года, особенно в режиме размышлений. Но «реже» не значит «никогда» — правила проверки из этой статьи останутся актуальными надолго.