Галлюцинация — это когда ИИ уверенно сообщает что-то несуществующее. Не потому что "врёт" в человеческом смысле — он просто генерирует текст, который статистически похож на правдивый ответ. Даты, законы, имена, цифры, названия — всё это может быть выдумано с абсолютно серьёзным видом.
Для случайных задач это терпимо. Но когда вы принимаете бизнес-решения, составляете договора или пишете контент, который будут проверять клиенты — нужен другой режим работы.
Четыре ситуации, где галлюцинации опасны
- Юридические и финансовые вопросы — законодательство, налоговые правила, регуляции для бизнеса в Канаде
- Статистика и исследования — цифры, источники, названия отчётов
- Факты о конкурентах или партнёрах — ИИ может придумать детали о реальных компаниях
- Технические инструкции — особенно когда речь о конкретных настройках платформ или API
Промпт-фильтр для рабочих запросов
Это короткое дополнение, которое я добавляю в конец любого промпта, где важна точность:
Важно: если ты не уверен в каком-либо факте, цифре или источнике —
прямо скажи об этом. Не угадывай и не заполняй пробелы.
Для сомнительных утверждений используй формулировки:
"по имеющимся данным", "предположительно", "стоит проверить".
Если вопрос требует актуальных данных, которых у тебя нет —
скажи это прямо и предложи, где это проверить.
Это один из самых ценных приёмов. Модель не становится умнее — но становится честнее.
Промпт "Проверь сам себя"
Когда ИИ дал ответ с конкретными фактами, я прошу его же их проверить:
Ты только что дал следующий ответ: [вставить ответ].
Теперь проверь его критически:
1. Какие факты, цифры или ссылки в этом ответе требуют независимой проверки?
2. Что из этого ты знаешь достаточно уверенно, а что — нет?
3. Где я должен проверить информацию самостоятельно и в каком источнике?
Будь честным. Если весь ответ надёжен — скажи почему.
Это не замена проверке — это фильтр, который выделяет самые рискованные утверждения.
Три правила работы с фактами
Правило источника. Попросите ИИ указать источник. Если он называет конкретную публикацию — проверьте, существует ли она. Если не может назвать источник — не используйте факт без проверки.
Правило актуальности. Знания модели ограничены датой обучения. Всё, что касается текущего законодательства, налоговых ставок, регуляций — проверяйте в актуальных источниках: canada.ca, CRA, провинциальные ресурсы.
Правило критической зоны. Для документов, которые увидят клиенты, партнёры или юристы — ИИ только черновик. Финальную проверку делает человек.
Когда доверять можно смело
ИИ надёжен там, где ошибка не катастрофична и легко проверяема: структура текста, стиль, идеи для контента, черновики, шаблоны, объяснение концепций. Там он работает как ускоритель — и его галлюцинации, если и есть, легко заметить.
Главное правило: чем выше цена ошибки, тем обязательнее проверка. Это не про недоверие к инструменту — это про понимание, как он устроен.