Галлюцинации ИИ в закупках: как нейросеть выдумывает законы

Галлюцинации ИИ в закупках — это когда нейросеть уверенно выдаёт ответ, которого нет в реальности: ссылается на несуществующее письмо ФАС, цитирует выдуманную судебную практику, называет неверную редакцию статьи 44-ФЗ или путает дату вступления нормы в силу. Звучит гладко, выглядит убедительно, а на проверке рассыпается. Для специалиста по тендерам это не абстрактная проблема: одна выдуманная норма в обосновании жалобы или в расчёте НМЦК может стоить контракта, денег и репутации.

Ниже разберём, что такое галлюцинации ИИ на самом деле, какими они бывают в закупочном контексте и почему нейросети их допускают. В конце дадим чек-лист, который ловит фейк до того, как вы отправили заявку или жалобу.

Что такое галлюцинация ИИ простыми словами

Языковая модель не «знает» закон и не «помнит» судебную практику. Она предсказывает следующее слово по статистике: какое продолжение текста наиболее вероятно после того, что уже написано. Когда в обучающих данных по вашему узкому вопросу нет надёжной информации, модель не говорит «не знаю». Она достраивает правдоподобный, но вымышленный ответ. Внешне он неотличим от верного: тот же канцелярский стиль, те же ссылки на пункты, та же уверенная интонация.

Ключевая мысль, которую важно усвоить раз и навсегда: у модели нет понятия истины. Она оптимизирована на связность и правдоподобие текста, а не на его соответствие фактам. Поэтому модель одинаково гладко напишет и реальный пункт 1 части 1 статьи 31 44-ФЗ, и письмо ФАС с выдуманным номером и датой. Внутри неё нет встроенного механизма, который отличает одно от другого.

Реальный кейс: шесть выдуманных дел в суде

Самый известный пример — дело Mata v. Avianca в США (2023). Адвокат Стивен Шварц готовил возражение по иску к авиакомпании и попросил ChatGPT подобрать прецеденты. Нейросеть выдала шесть судебных дел с номерами, цитатами и «решениями». Ни одного из этих шести дел не существовало: модель придумала их целиком, вместе с названиями и реквизитами.

Шварц не проверил источники: он, по собственным словам, был уверен, что «сайт не может выдумывать дела». Когда оппоненты не нашли указанных прецедентов, всё вскрылось. Суд оштрафовал адвоката и его коллегу на 5 000 долларов и обязал направить разъяснительные письма судьям, чьи имена фигурировали в фейковых решениях.

Перенесите эту историю на госзакупки. Вы готовите жалобу в ФАС и просите нейросеть подкрепить позицию практикой. Модель выдаёт «решение УФАС № такое-то от такой-то даты», с виду безупречное. Вы вставляете его в жалобу. Комиссия проверяет реестр решений и не находит ничего. В лучшем случае ваш довод просто отклонят, в худшем поставят под сомнение всю жалобу.

Типы галлюцинаций ИИ в тендерах

В закупочном контексте выдумки модели концентрируются в нескольких предсказуемых местах:

• Выдуманные письма и разъяснения ФАС, Минфина, Казначейства: с правдоподобными номерами и датами, которых нет в природе.
• Несуществующая судебная и административная практика: «решения УФАС» и арбитражные дела с придуманными реквизитами и цитатами.
• Неверные нормы и редакции: ссылка на пункт, которого нет в статье, или на старую редакцию, отменённую год назад.
• Ошибочные даты и сроки: неправильная дата вступления постановления в силу, перепутанные сроки оплаты или подачи заявки.
• Выдуманные пороги и суммы: несуществующие лимиты закупок малого объёма, неверные размеры обеспечения, штрафов, пеней.
• Неправильные коды: ОКПД-2 или КТРУ, которые модель «собрала» по логике названия, но которых нет в классификаторе.
• Смешение 44-ФЗ и 223-ФЗ: перенос правил одного закона на другой, где они не действуют.

Почему нейросеть выдумывает законы

Помимо отсутствия понятия истины есть ещё несколько причин, по которым в тендерных задачах галлюцинации возникают особенно часто.

Во-первых, законодательство о закупках постоянно меняется. Постановления правительства, пороги, формы документов обновляются по нескольку раз в год. Модель обучена на срезе данных и не знает, что норму уже отменили или поправили. Она воспроизводит то, что было «вероятным» на момент обучения.

Во-вторых, узкая специфика. По массовым темам в интернете много текста, и модель отвечает точнее. По вашему конкретному вопросу (скажем, по редкой позиции КТРУ или нюансу нацрежима) надёжных данных мало, и модель достраивает пробел вымыслом.

В-третьих, перегрузка контекста. Чем больше документов вы загружаете в одну сессию, тем хуже модель удерживает детали. Исследования длинного контекста («lost in the middle») показывают характерную закономерность: информацию в начале и конце модель использует хорошо, а в середине теряет, и точность ответов по многодокументным задачам падает на десятки процентов. Практический вывод: при разборе тендерной документации не сваливайте в один запрос всё ТЗ, проект контракта и обоснование сразу. Дробите на части.

Любой вывод нейросети без ссылки на проверяемый первоисточник нельзя использовать для решения. Нет ссылки на ЕИС, реестр решений ФАС, КонсультантПлюс или официальный текст закона, считайте, что ответа нет.

Как поймать галлюцинацию: таблица

Тип галлюцинации	Пример	Как поймать
Выдуманное письмо ФАС	«Письмо ФАС № ИА/12345 от 03.04.2026»	Найти номер на сайте ФАС и в КонсультантПлюс; нет в базе — фейк
Несуществующая практика	«Решение УФАС по делу № 077/06/…»	Проверить в реестре жалоб/решений ЕИС и ФАС по реквизитам
Неверная норма	«Пункт 12 части 1 статьи 31»	Открыть актуальную редакцию 44-ФЗ и сверить пункт дословно
Ошибочная дата	«ПП № 2014 действует с 01.01.2025»	Сверить дату вступления в силу по официальному тексту
Выдуманный порог	«Лимит малой закупки — 700 тыс. ₽»	Сверить с действующей редакцией статьи 93 44-ФЗ
Неправильный код	«ОКПД-2 26.20.15» под ваш товар	Проверить код в официальном классификаторе и КТРУ

Чек-лист проверки ответа ИИ

Прежде чем вставить ответ нейросети в заявку, жалобу или расчёт, пройдите по пунктам:

1. Требуйте источник. Просите модель указать конкретный документ, номер и дату. Нет реквизитов, значит, ответ не годится.
2. Проверьте первоисточник руками. Откройте ЕИС, сайт ФАС, реестр решений или официальный текст закона и найдите норму сами.
3. Сверьте редакцию и дату. Убедитесь, что статья и постановление действуют в актуальной редакции, а не в отменённой.
4. Проверьте номера дел и писем. Любой номер решения, письма или дела ищите в официальной базе по реквизитам.
5. Сверьте цифры. Пороги, сроки, размеры обеспечения, штрафов и пеней — только по тексту закона, не по памяти модели.
6. Проверьте коды. ОКПД-2 и КТРУ сверяйте с классификатором, а не доверяйте «логичному» подбору.
7. Не перегружайте сессию. Дробите большие документы; разбирайте по одному блоку, чтобы модель не теряла детали.
8. Перепроверьте критичное дважды. Для жалоб, расчёта НМЦК и обоснований используйте второй независимый источник.

Правило простое: нейросеть — это черновик и навигатор, а не источник права. Она хорошо ускоряет рутину: структурирует ТЗ, готовит проект текста, подсказывает, где искать. Но финальное решение всегда опирается на проверенный первоисточник, а не на формулировку модели.

Именно поэтому в TenderScan анализ закупки построен вокруг данных из ЕИС и официальной документации, а не вокруг «свободного сочинения» модели: ИИ помогает быстро понять суть тендера и оценить риски, но опирается на реальные документы закупки, которые вы можете открыть и проверить сами.

Часто задаваемые вопросы

Можно ли вообще доверять нейросети в закупках?

Доверять стоит как помощнику для черновиков и навигации, а не как источнику норм. ИИ экономит время на рутине: разобрать ТЗ, набросать структуру жалобы, подсказать направление поиска. Но любую ссылку на закон, практику или цифру нужно проверить в первоисточнике перед использованием.

Как отличить выдуманное письмо ФАС от настоящего?

По реквизитам. У реального документа есть номер и дата, по которым он находится на официальном сайте ведомства и в правовых базах. Если по указанным реквизитам ничего не находится или номер выглядит «слишком ровным», это повод считать ссылку выдуманной, пока не доказано обратное.

Почему нейросеть делает это так уверенно?

Потому что она оптимизирована на правдоподобие текста, а не на истину. Модель не отличает реальный факт от выдуманного: оба для неё лишь вероятные последовательности слов. Уверенная интонация заложена в саму манеру отвечать и не говорит ничего о достоверности.

Снижается ли точность, если загрузить много документов сразу?

Да. Чем больше материала в одной сессии, тем выше риск, что модель потеряет детали в середине и начнёт додумывать. Разбивайте документацию на части и разбирайте по одному блоку: так ответы точнее, а галлюцинаций меньше.

Вывод

Галлюцинации ИИ — не редкий сбой, а свойство технологии: модель предсказывает правдоподобный текст, не зная, правда это или нет. В закупках цена такой ошибки высока: выдуманное письмо ФАС или несуществующая практика способны обрушить жалобу или заявку. Защита одна и она надёжна: ни одного вывода нейросети без проверки первоисточника. Используйте ИИ для скорости, а решения принимайте на основе документов из ЕИС и официальных текстов закона. Тогда нейросеть работает на вас, а не против вас.