Галлюцинации AI: почему модели врут и как это проверять

Галлюцинация AI — это ситуация, когда модель генерирует ответ, который звучит уверенно, выглядит правдоподобно, но является фактически неверным. Модель может придумать несуществующие научные исследования, сослаться на вымышленные судебные решения, указать неверные даты и цифры или создать целый абзац «фактов», каждый из которых не соответствует действительности.

Важно понимать: галлюцинации не являются ошибкой в коде или следствием плохого обучения. Они — фундаментальное свойство того, как работают большие языковые модели (LLM). Модель не «знает» факты и не «понимает» мир. Она прогнозирует наиболее вероятное следующее слово в последовательности на основе статистических закономерностей, выявленных в обучающих данных. Когда модель пишет «Париж — столица Франции», она делает это не потому, что знает географию, а потому, что в обучающих данных эти слова часто стоят рядом.

Это принципиальное отличие от традиционных информационных систем. Поисковик или база данных либо находят запрошенную информацию, либо сообщают, что она не найдена. LLM всегда генерирует ответ. Модель не может сказать «не знаю» в традиционном смысле — вместо этого она создаёт наиболее вероятный с точки зрения статистики текст, который может не иметь отношения к реальности.

Чтобы понять, почему галлюцинации неизбежны, нужно разобраться в принципе работы LLM. На этапе обучения модель анализирует миллиарды текстовых документов и выстраивает многомерную статистическую карту: какие слова и фразы с какой вероятностью следуют друг за другом в различных контекстах. На этапе генерации (inference) модель последовательно выбирает каждое следующее слово, руководствуясь этой статистической картой и предыдущим контекстом.

Проблема возникает, когда модель оказывается в области, где её статистическая карта неточна или неполна. Это может происходить по нескольким причинам. Редкие темы — если тема слабо представлена в обучающих данных, модель вынуждена «интерполировать» между близкими, но не идентичными контекстами. Конфликтующая информация — обучающие данные могут содержать противоречивую информацию по одному вопросу, и модель может выбрать неверную версию. Временная устарелость — модель обучена на данных до определённой даты и не знает о более поздних событиях, но может «додумать» их по аналогии с более ранними.

Эффект контекста — пользователь может непреднамеренно направить модель в сторону галлюцинации. Если в запросе содержится ложная предпосылка («Расскажите о романе Толстого 'Утренняя звезда'»), модель с высокой вероятностью начнёт описывать несуществующий роман, вместо того чтобы указать на ошибку.

Ряд публичных инцидентов продемонстрировал серьёзность проблемы галлюцинаций. Наиболее известный — дело Мата против Авианка (Mata v. Avianca) в 2023 году. Адвокат Стивен Шварц использовал ChatGPT для подготовки юридической записки и включил в неё ссылки на шесть судебных решений. Все шесть оказались вымышленными — ChatGPT сгенерировал правдоподобные названия дел, номера и даже цитаты из несуществующих постановлений. Когда судья попросил предоставить копии решений, адвокат снова обратился к ChatGPT с просьбой подтвердить их существование, и модель подтвердила, что дела реальны.

В 2024 году ChatGPT сгенерировал сексуальное обвинение в адрес реального австралийского мэра, приписав ему участие в скандале с растратой, который никогда не происходил. Мэр Брайан Худ объявил о намерении подать иск против OpenAI — первый известный случай судебного преследования за диффамацию со стороны AI. В 2023 году Google Bard (ныне Gemini) в своей первой публичной демонстрации допустил фактическую ошибку, заявив, что телескоп Джеймса Уэбба сделал первые фотографии экзопланет за пределами Солнечной системы, хотя первые такие фотографии были сделаны Очень большим телескопом ESO в 2004 году. Эта ошибка обрушила акции Alphabet на 100 миллиардов долларов.

Исследователи выделяют несколько типов галлюцинаций. Фактические галлюцинации — модель утверждает факты, которые не соответствуют действительности. Примеры: неверные даты, вымышленные события, ошибочная атрибуция цитат. Логические галлюцинации — модель делает правильные утверждения по отдельности, но выстраивает из них некорректные логические цепочки или выводы.

Галлюцинации источников — модель ссылается на несуществующие источники: научные статьи, книги, судебные решения, новостные публикации. Это особенно опасно, поскольку наличие ссылки создаёт иллюзию проверяемости. Галлюцинации идентичности — модель приписывает реальным людям действия, высказывания или биографические факты, которые никогда не имели места. Числовые галлюцинации — модель генерирует конкретные числа (статистику, проценты, даты), которые выглядят правдоподобно, но не имеют фактического основания.

Знание ситуаций, в которых AI наиболее склонен к галлюцинациям, помогает заранее повысить бдительность. Узкоспециализированные темы — чем реже тема встречается в интернете, тем меньше данных о ней видела модель и тем выше вероятность галлюцинации. Локальная история, специфические отрасли, нишевые научные направления — зона повышенного риска.

Конкретные числа и статистика — модель часто генерирует правдоподобные, но вымышленные статистические данные. Если AI сообщает, что «по данным исследования 2024 года, 67 процентов компаний используют AI», эту цифру необходимо проверять — с высокой вероятностью она приблизительна или полностью выдумана. Недавние события — модели имеют дату отсечки обучающих данных. Вопросы о событиях после этой даты гарантированно приведут к галлюцинациям или устаревшей информации.

Биографии малоизвестных людей — модель может смешать факты разных людей с похожими именами или дополнить реальную биографию вымышленными деталями. Запросы на цитаты — «процитируй, что сказал Эйнштейн о...» — классический триггер галлюцинаций. Модель скорее сгенерирует правдоподобную, но вымышленную цитату, чем откажется отвечать. Промежуточные вычисления — при выполнении многошаговых математических или логических задач модель может допустить ошибку на одном из шагов и уверенно продолжить вычисления с неверным промежуточным результатом.

Одна из главных претензий к LLM — их неспособность честно признать отсутствие знаний. Модель почти никогда не отвечает «я не знаю» или «у меня нет достоверной информации по этому вопросу». Вместо этого она генерирует уверенный ответ, который может быть полностью вымышленным. Это происходит по нескольким причинам.

Первая — архитектурная. LLM обучены генерировать текст, который максимально похож на тексты в обучающих данных. В интернете и книгах крайне мало текстов, которые начинаются с «я не знаю». Гораздо чаще тексты содержат утвердительные ответы. Поэтому статистически модель стремится к утвердительному стилю. Вторая — RLHF (обучение с подкреплением на основе обратной связи от людей). В процессе тонкой настройки модели обучаются быть «полезными», а полезность часто ассоциируется с предоставлением ответа, а не с отказом. Современные модели становятся лучше в признании неопределённости, но проблема далека от решения.

Эффективная верификация ответов AI — это навык, который требует систематического подхода. Предлагаем следующий пошаговый процесс. Шаг 1: оцените уровень риска. Прежде чем проверять, определите, насколько критична точность. Черновик поздравления с днём рождения не требует факт-чекинга. Юридическая справка — требует максимального.

Шаг 2: проверьте ключевые факты. Выделите в ответе AI все конкретные утверждения: даты, имена, числа, события. Проверьте каждое через независимые источники. Не используйте для проверки тот же AI — это создаёт порочный круг. Используйте первичные источники: официальные сайты, научные базы данных, государственные реестры.

Шаг 3: проверьте источники. Если AI ссылается на конкретные исследования, статьи или документы, проверьте их существование. Введите название работы в Google Scholar или соответствующую базу. Если источник не находится — это галлюцинация. Шаг 4: оцените внутреннюю непротиворечивость. Содержит ли ответ AI логические противоречия? Согласуются ли приведённые числа друг с другом? Не противоречат ли выводы исходным посылкам?

Шаг 5: используйте перекрёстную проверку моделями. Задайте тот же вопрос нескольким AI-моделям (ChatGPT, Claude, Gemini). Если все модели дают одинаковый ответ, это повышает (но не гарантирует) его достоверность. Если ответы расходятся — это сигнал для более тщательной проверки через первичные источники.

Способ формулировки запроса существенно влияет на вероятность галлюцинации. Несколько техник помогают снизить этот риск. Просите указывать уровень уверенности. Добавьте в запрос: «Для каждого утверждения укажи, насколько ты уверен в его точности: высокая, средняя или низкая уверенность. Если ты не уверен, скажи об этом прямо». Это не гарантирует честности модели, но увеличивает вероятность того, что она обозначит зоны неопределённости.

Просите привести источники. «Укажи источники для каждого утверждения. Если точный источник неизвестен, скажи об этом.» Даже если модель не может дать реальные ссылки, сама постановка вопроса заставляет её быть более осторожной. Разбивайте сложные вопросы на простые. Вместо одного комплексного запроса задайте серию простых вопросов. На простые фактические вопросы модели ошибаются реже, чем на запросы, требующие синтеза множества фактов.

Избегайте наводящих формулировок. Вопрос «Расскажи о влиянии X на Y» предполагает, что влияние существует, даже если его нет. Лучше: «Существует ли доказанное влияние X на Y? Если да, опиши его.» Используйте chain-of-thought. Попросите модель объяснить свои рассуждения шаг за шагом. Это повышает прозрачность процесса генерации и помогает обнаружить ошибки на промежуточных этапах.

Существует ряд инструментов, помогающих верифицировать ответы AI. Google Scholar — для проверки существования научных публикаций. Если AI ссылается на статью, которой нет в Google Scholar, это почти наверняка галлюцинация. Wikipedia — при всех своих ограничениях, полезна для быстрой проверки базовых фактов (даты, события, биографии). Wolfram Alpha — для проверки математических вычислений, физических констант, статистических данных.

Perplexity AI — поисковый движок на базе AI, который предоставляет ответы с реальными ссылками на источники. Полезен как «второе мнение» с проверяемыми источниками. Consensus — AI-инструмент для поиска научного консенсуса по конкретным вопросам, работающий с базой рецензируемых научных статей. Elicit — помощник для научного исследования, который ищет релевантные научные работы и извлекает из них ключевые данные.

Для текстов и статей: проверьте все цитаты и атрибуции; верифицируйте статистические данные через первичные источники; проверьте хронологию событий; убедитесь, что названия организаций и должности людей указаны верно. Для кода: проверьте, что упомянутые библиотеки и функции существуют и имеют указанный синтаксис; запустите код и проверьте результат; обратите внимание на устаревшие API — модель может использовать версии, которые уже не поддерживаются.

Для юридической информации: проверьте существование каждого упомянутого закона и нормативного акта; верифицируйте номера статей и их содержание; если указаны судебные решения — проверьте их через официальные базы. Для медицинской информации: не принимайте медицинские рекомендации AI без консультации с врачом; проверьте названия препаратов и дозировки через справочники; помните, что AI может смешать симптомы разных заболеваний.

Разные модели демонстрируют различный уровень галлюцинаций. По данным независимых бенчмарков, модели последнего поколения (GPT-5.5, Claude Fable 5, Gemini 3.1 Pro) значительно реже галлюцинируют, чем их предшественники (GPT-3.5, Claude 2). Однако ни одна модель не свободна от галлюцинаций полностью.

Общая тенденция: более крупные и новые модели галлюцинируют реже, но разрыв между лучшими и худшими моделями по этому параметру остаётся значительным. Модели с расширенными возможностями поиска (Perplexity, ChatGPT с Browse, Gemini с поиском) демонстрируют меньший уровень фактических ошибок за счёт доступа к актуальной информации, но они тоже не застрахованы от неправильной интерпретации найденных данных.

Распространённая, но ошибочная практика — проверять ответ ChatGPT вопросом «Ты уверен?» или копировать ответ одной модели в другую с просьбой оценить его достоверность. Это не работает по нескольким причинам. Во-первых, если вы спрашиваете ту же модель «Ты уверен?», она почти всегда подтвердит свой ответ. Модели обучены быть последовательными в рамках одного разговора — это не проверка, а запрос на подтверждение.

Во-вторых, если вы используете другую модель для проверки, она может повторить ту же галлюцинацию. Разные модели обучены на пересекающихся данных и могут разделять одни и те же заблуждения. Если ложный «факт» широко распространён в интернете, несколько моделей могут воспроизвести его. Перекрёстная проверка моделями полезна только как первый фильтр — финальная проверка всегда должна опираться на первичные источники, созданные людьми.

Галлюцинации в сгенерированном коде особенно коварны, потому что код может выглядеть синтаксически корректным, но содержать логические ошибки или использовать несуществующие функции. Типичные формы: модель вызывает метод библиотеки, который не существует или был удалён в новой версии; код компилируется, но содержит тонкую логическую ошибку (off-by-one, неправильная обработка граничных случаев); модель «изобретает» API, смешивая синтаксис разных библиотек; код использует deprecated-функции, которые больше не поддерживаются.

Для защиты от галлюцинаций в коде: всегда запускайте сгенерированный код и проверяйте результат; проверяйте существование упомянутых функций и классов в официальной документации; пишите тесты для сгенерированного кода; используйте линтеры и статический анализ; не доверяйте коду для систем с высокими требованиями к безопасности без тщательного ревью.

Осведомлённость о галлюцинациях не должна приводить к полному отказу от AI. Модели остаются чрезвычайно полезными инструментами, которые существенно повышают продуктивность. Задача — найти баланс между доверием и критическим мышлением. Этот баланс можно описать несколькими принципами.

Принцип 1: AI — помощник, не оракул. Используйте AI как первый черновик, отправную точку, генератор идей. Не используйте его как единственный и окончательный источник информации. Принцип 2: чем выше ставки, тем тщательнее проверка. Для черновика блог-поста достаточно беглой проверки ключевых фактов. Для юридического документа необходима полная верификация каждого утверждения. Принцип 3: знайте слабые стороны модели. Помните ситуации, в которых модели ошибаются чаще (редкие темы, числа, недавние события), и усиливайте проверку в этих зонах.

Принцип 4: сохраняйте экспертизу. AI не заменяет профессиональные знания — он их усиливает. Если вы теряете способность самостоятельно оценивать правильность ответа AI, вы становитесь уязвимы для галлюцинаций. Продолжайте учиться, читать первоисточники, развивать экспертизу в своей области. Принцип 5: документируйте использование AI. Если вы использовали AI для создания важного документа, отметьте это. Это поможет другим людям понять, что материал может требовать дополнительной проверки.

Крупнейшие AI-компании инвестируют значительные ресурсы в снижение уровня галлюцинаций. Несколько направлений выглядят перспективно. Retrieval-Augmented Generation (RAG) — модель сначала ищет релевантную информацию в базе знаний, а затем формулирует ответ на её основе. Это значительно снижает галлюцинации, привязывая генерацию к конкретным документам.

Обучение на верификации — модели обучают не только генерировать ответы, но и проверять собственные утверждения, отмечая зоны неуверенности. Интеграция с поиском — модели получают доступ к актуальной информации в интернете, что снижает количество устаревших и выдуманных фактов. Специализированные модели — вместо одной универсальной модели создаются специализированные модели для конкретных доменов (медицина, право, финансы), обученные на верифицированных данных.

Тем не менее полное устранение галлюцинаций маловероятно в обозримом будущем, поскольку они заложены в саму архитектуру языковых моделей. Вероятнее всего, мы увидим значительное снижение их частоты и создание инструментов, которые помогают обнаруживать и помечать потенциальные галлюцинации автоматически. Но навык критической проверки AI-генерированной информации останется необходимым для любого пользователя.

Галлюцинации AI — это не повод отказываться от технологии, но повод использовать её осознанно. Относитесь к ответам AI как к черновику, написанному стажёром: он может быть блестящим, но может содержать грубые ошибки. Всегда проверяйте критические факты через первичные источники. Знайте слабые стороны моделей и усиливайте бдительность в зонах повышенного риска. Инвестируйте время в освоение техник запросов, снижающих вероятность галлюцинаций. Это небольшие усилия, которые защитят вас от потенциально серьёзных последствий — от профессионального конфуза до юридической ответственности.

Критическое обновление данных: уровень галлюцинаций в топовых моделях значительно снизился в 2026 году. Если в 2024-2025 частота ошибок на фактических запросах составляла 15-30%, то Claude Fable 5, GPT-5.5 и Gemini 3.1 демонстрируют 3.1-19.1% в зависимости от типа задачи. Это не означает, что галлюцинации исчезли - они стали более редкими и тонкими.

Новые методы обнаружения галлюцинаций: Chain-of-Verification (CoVe) заставляет модель проверять каждое своё утверждение отдельным запросом; Process Reward Models (PRM) оценивают достоверность каждого шага рассуждения. Инструменты Ragas и TruLens автоматически тестируют AI-системы на галлюцинации в продакшне.

Новые стратегии mitigation: Retrieval-Augmented Generation (RAG) теперь стандарт для фактических запросов -- модель отвечает только на основе предоставленных документов. Grounded responses в Azure OpenAI и Amazon Bedrock отмечают ответы как 'подтверждённые источником' или 'не подтверждённые'. Citation verification автоматически проверяет, существуют ли цитируемые источники. По данным 2026 года, 91% крупных предприятий внедрили те или иные протоколы снижения галлюцинаций (RAG, оптимизацию промптов или мониторинг) -- для сравнения: в 2024 году этот показатель составлял 43%.

По данным 2026 года, ведущие frontier-модели галлюцинируют на уровне 3.1-19.1% на задачах общего характера -- значительное снижение с 15-45% в 2024 году. Результаты существенно зависят от типа задачи: суммаризация даёт наименьший процент ошибок, узкоспециализированные вопросы -- наибольший. Важная оговорка: reasoning-модели (o3, Claude с мышлением) могут галлюцинировать чаще при суммаризации -- они иногда 'додумывают' детали в процессе рассуждений. Апрель 2026: на структурированных фактических бенчмарках (вопросы с однозначным ответом, проверяемые по базам знаний) четыре ведущие модели опустились ниже 1% галлюцинаций. Это достигнуто сочетанием RAG, улучшенного RLHF с акцентом на фактическую точность и внутренней верификации утверждений. Однако на открытых задачах (аналитика, синтез, прогнозы) показатели остаются в диапазоне 3-19%. Особо выделяется точность цитирования: по данным бенчмарков 2026 года, корректность ссылок на источники - наихудший класс задач, где даже с включенным extended thinking средний уровень ошибок составляет 12.4%. Это значит, что даже лучшие модели в среднем ошибаются в каждой восьмой ссылке на источник.

Наиболее эффективный метод снижения галлюцинаций: RAG (Retrieval-Augmented Generation) снижает частоту галлюцинаций на 75-90% по сравнению с базовым применением модели (актуальные данные исследований 2026 года). На заземлённых задачах (работа с конкретными документами) лучшие модели достигают менее 1% галлюцинаций. Для организаций без RAG-инфраструктуры: оптимизация промптов (prompt-only mitigation) позволила снизить уровень галлюцинаций GPT-4o с 53% до 23% -- доступный первый шаг без значительных технических вложений.

Новые методы обнаружения (2026): CLAP (Contrastive Learning for Accuracy Probing) -- метод из ICLR 2026, позволяющий выявлять потенциальные галлюцинации до генерации ответа путём анализа внутренних состояний модели. MetaQA использует вспомогательную модель для оценки уверенности основной.

MIT Total Uncertainty (2026): новая метрика от MIT, разделяющая неопределённость данных и неопределённость модели. Позволяет точнее предсказывать, когда модель "не знает" vs когда данные противоречивы. Важное дополнение к классическим бенчмаркам галлюцинаций.

Бенчмарк AA-Omniscience (2026) измерил частоту галлюцинаций ведущих моделей. Claude Opus 4.8 (Anthropic, май 2026) -- опубликованные данные Anthropic фиксируют существенное снижение по сравнению с Opus 4.7; на документально-заземлённых задачах модель выходит ниже 2% галлюцинаций. Актуальные данные по бенчмаркам -- на anthropic.com. GPT-5.5 -- 86% по AA-Omniscience, но с extended thinking снижается до 4.2%. Парадокс: самая мощная модель может галлюцинировать чаще менее мощной -- AA-Omniscience измеряет именно 'уверенный неверный ответ на специализированный вопрос', а не общую точность. Thinking Mode (расширенное рассуждение) улучшает логику, но не устраняет галлюцинации -- модель может уверенно рассуждать к неверному факту. Claude Fable 5 является флагманской моделью Anthropic на момент написания и показывает наименьший уровень галлюцинаций среди актуальных моделей для задач с высокими требованиями к точности.

Важное уточнение по бенчмарку AA-Omniscience: этот инструмент измеряет специфическую метрику -- "уверенный неверный ответ, когда модель не знает факта", а не общую точность модели. Именно поэтому более мощные модели могут показывать более высокий процент: они дают развернутые уверенные ответы там, где менее мощные модели отвечают "не знаю". GPT-5.5 с extended thinking снижает этот показатель до примерно 4,2%. Claude 4.6 показывает наименьший уровень галлюцинаций среди актуальных моделей (~4% по шкале HHEM 2.1).

Метод мультимодельного консенсуса. Исследования апреля 2026 года подтверждают: одновременный запрос к трём и более независимым моделям и сравнение их ответов снижает итоговый уровень галлюцинаций до менее 2% на фактических задачах. Принцип: если модели расходятся -- это сигнал для дополнительной проверки через первичные источники; если сходятся -- уверенность в ответе выше. Практический инструмент: Model Council в Perplexity запрашивает несколько моделей одновременно и сравнивает ответы, автоматически выявляя расхождения. Важное ограничение: разные модели обучены на пересекающихся данных и могут разделять одни и те же системные заблуждения, поэтому мультимодельный консенсус -- это улучшенный первый фильтр, но не замена верификации по первичным источникам.

Context-Graph Grounded RAG. Context-Graph Grounded RAG - усовершенствованный метод RAG, использующий граф знаний для контекстуализации поиска. Вместо одиночного семантического поиска система строит граф связей между документами и извлекает контекст по цепочкам смысловых связей. По результатам исследований 2026 года этот подход даёт точность на 20-35% выше по сравнению с одиночным векторным поиском на задачах с фактическими вопросами. Метод особенно эффективен для сложных тематических запросов, требующих синтеза информации из нескольких источников.

GPT-5.5: снижение галлюцинаций на 52.5% по сравнению с GPT-4. По данным OpenAI (опубликованы в июне 2026), GPT-5.5 демонстрирует снижение частоты галлюцинаций на 52,5% по сравнению с GPT-4 (не GPT-5.4). Замер проводился на бенчмарках TruthfulQA и HaluEval. Это достигнуто за счёт улучшенного RLHF с фокусом на фактическую точность и расширенной системы внутренней верификации утверждений. Практический вывод: при критичных задачах, где важна фактическая точность, GPT-5.5 предпочтительнее GPT-4 и ранних версий GPT.

RAG снижает уровень галлюцинаций с ~15% до 3-7%. Исследования 2026 года подтверждают: качественно настроенный RAG-пайплайн снижает уровень фактических галлюцинаций с типичных ~15% в базовом режиме до 3-7% на заземлённых задачах. Ключевые условия для достижения этого результата: высококачественная база знаний с актуальными документами, корректный чанкинг и метаданные, threshold для отфильтровывания нерелевантных результатов поиска. Без этих условий RAG может парадоксально увеличивать галлюцинации за счёт подмешивания нерелевантного контекста.

Исследование 2026 года: модели класса o3 галлюцинируют чаще на фактических вопросах. Модели с расширенными цепочками рассуждений (класс o3 и аналогичные reasoning-модели) демонстрируют неожиданный эффект -- так называемый Reasoning Paradox. Длинные цепочки внутренних рассуждений создают дополнительные точки, в которых модель может сфабриковать факт и затем опереться на него как на «доказательство». Исследование 2026 года зафиксировало снижение точности на 12-18% по конкретным фактическим вопросам у моделей класса o3 по сравнению с более простыми моделями типа GPT-5.5. Практический вывод: для поиска конкретных фактов (даты, имена, цифры) простая быстрая модель может давать более надёжный результат, чем reasoning-модель с расширенным мышлением. Используйте reasoning-режим для задач логического анализа и рассуждений, а не для извлечения фактов.

Режим extended thinking (расширенного мышления) существенно снижает количество галлюцинаций в современных моделях. Включайте этот режим для фактических запросов, требующих точности. По данным бенчмарков 2026 года: у GPT-5.5 Pro в режиме extended thinking частота галлюцинаций снижается с 8.3% до 4.2% на фактических задачах; у Claude Fable 5 - с 9.4% до 5.1%. Механизм: в режиме extended thinking модель явно выстраивает цепочку рассуждений перед ответом, что позволяет ей "поймать" собственные противоречия до финальной генерации. Практический совет: для критически важных запросов (юридическая информация, медицинские факты, финансовые расчеты) всегда используйте модели с включенным extended thinking - это удваивает надежность ответа.

Важное уточнение (июнь 2026): с 9 июня 2026 года флагманской моделью Anthropic является Claude Fable 5. Если вы видите в других источниках упоминание Claude Opus 4.7 как "последней версии", эта информация устарела. Для задач с высокими требованиями к точности используйте именно Claude Fable 5 с включенным extended thinking.

В июне 2026 OpenAI опубликовал данные о снижении галлюцинаций в GPT-5.5 на 52.5% по сравнению с GPT-4o. Замер проводился на бенчмарках TruthfulQA и HaluEval - стандартных тестах для оценки фактической точности языковых моделей. Это наибольший прогресс в снижении галлюцинаций среди всех крупных релизов за последние два года.

Новые инструменты для борьбы с галлюцинациями: CLAP (Claim-Level Attribution Pipeline) - система атрибуции утверждений, которая автоматически проверяет каждое фактическое утверждение в ответе модели и указывает источник или помечает как непроверяемое. MetaQA - независимая система проверки ответов, которая запрашивает ответ несколько раз с разными формулировками и выявляет противоречия.

Несмотря на прогресс, для критически важных задач (медицина, юриспруденция, финансы) независимая верификация фактов остаётся обязательной. CLAP и MetaQA доступны как open-source инструменты и могут быть интегрированы в пайплайны обработки ответов AI.

Парадокс AA-Omniscience: почему более мощные модели могут галлюцинировать чаще. Бенчмарк AA-Omniscience (2026) показал GPT-5.5 на уровне 86% -- на первый взгляд это выглядит как регресс. Объяснение парадокса: AA-Omniscience измеряет не общую точность, а конкретную метрику -- 'уверенный неверный ответ на специализированный вопрос, когда модель не знает факта'. Более мощные модели дают развёрнутые уверенные ответы там, где менее мощные отвечают 'не знаю' или уклоняются от ответа. Таким образом, высокий показатель по AA-Omniscience означает не 'плохая модель', а 'модель, которая уверенно ошибается на узкоспециализированных вопросах вместо признания незнания'. GPT-5.5 с extended thinking снижает этот показатель до примерно 4,2%. Практический вывод: для узкоспециализированных вопросов (медицина, право, точные науки) всегда используйте RAG или внешнюю верификацию -- даже у лучших моделей.

Контринтуитивный вывод исследований 2026 года (бенчмарк HalluHard): модели с расширенным рассуждением (reasoning models). такие как OpenAI o3 и Gemini 3.5 Thinking. нередко хуже справляются с базовыми фактическими вопросами, чем стандартные модели без цепочки рассуждений.

Причина: модели "думают вслух" и могут в процессе цепочки рассуждений убедить сами себя в неправильном ответе. Каждый шаг рассуждения добавляет вероятность ошибки, и к финальному ответу накопившиеся неточности могут перевесить верный путь.

Практический вывод: для проверки конкретных фактов (даты, имена, числа, цитаты) используйте стандартные модели без расширенного рассуждения. Reasoning-модели применяйте там, где нужна глубокая логика. многошаговые доказательства, анализ кода или стратегическое планирование.

Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором.