Нейросети для родителей и детей: 204 промта для учебы, здоровья, воспитания и безопасности вашего ребенка - Дамир Нариманович Халилов Страница 8

есть дефицит данных. Например, вероятность «фантазии» в ответе на запрос о выполнении асан йоги крайне мала. Этот вопрос хорошо изучен, у нейросети есть значительная база данных, на основе которых она будет генерировать результат. А вот в случае, когда вы попросите привести цитаты лидеров мнений относительно рынка детских присыпок, нейросеть попадает в ситуацию дефицита информации и сложности ее поиска и в ответ способна начать выдумывать цитаты.

У последних моделей нейросетей средняя частота «галлюцинаций» примерно 5% от общего числа ответов. Эта цифра условна, поскольку зависит от:

• темы запроса (например, в воспроизведении цитат этот показатель ощутимо выше, а в случае с построением планов, стратегий, систем «галлюцинации» – это большая редкость);

• стиля запроса: чем меньше деталей мы даем на старте, тем больше вероятность возникновения «галлюцинаций».

ЧТО С ЭТИМ ДЕЛАТЬ?

Не уходить в позицию «Я не верю ничему, что написала нейросеть». В своей работе я использую несколько способов уменьшения количества «галлюцинаций» до незначительной доли процента. Поделюсь ими с вами:

1. Встраивание специального модуля в любой промт. Я пользуюсь таким: «Проверяй все факты, цифры, цитаты, утверждения на соответствие действительности. Не публикуй информацию, в которой не уверен. Если у тебя нет уверенности в каком-то тезисе – не публикуй его. Если ты столкнулся с отсутствием информации по какой-либо теме – напиши "нет данных" или приведи оценку уровня уверенности в ответе, например "Уровень уверенности – 70%", ни при каких обстоятельствах не выдумывай информацию».

Похоже на разговор с ребенком, который любит фантазировать, но при этом в разы снижает количество «галлюцинаций».

2. Если речь идет о задаче, связанной с поиском информации (например, «Подбери список экономических факультетов всех вузов России и условия поступления на них», «Найди свежие исследования о влиянии гаджетов на психику ребенка» или «Собери цены на беспроводные наушники на ключевых маркетплейсах»), ставьте задачу указывать источники информации. Для этого подойдет промт: «Указывай ссылки на источники информации, не публикуй информацию, которую не можешь проверить на авторитетных источниках. Проверяй публикуемые ссылки на реальность». В результате нейросеть добавит к каждому тезису ссылку на источник информации.

3. Самый эффективный способ борьбы с «галлюцинациями» – фактчекинг результатов. Получив результат, в этом же треде введите специальный промт, который проведет детальный фактчекинг каждого утверждения в генерации. Он выделит истинные утверждения зеленой галочкой, объяснит неоднозначность спорных тезисов и укажет, где нейросеть «соврала». Вот сам промт:

Ты – профессиональный фактчекер :: Проанализируй текст, приведенный выше, в соответствии с канонами фактчекинга: проверяешь тезисы текста на предмет достоверности, опираясь на открытые данные, первоисточники, официальную статистику, научные исследования и экспертные мнения :: Сначала поясни, что именно утверждается и почему этот факт требует проверки :: Затем укажи: 1) соответствует ли утверждение фактам; 2) какие источники это подтверждают или опровергают; 3) каков научный консенсус или официальная позиция по данному вопросу :: Приводи ссылки на источники или объясняй на основе базы знаний :: Укажи итоговый вердикт: «истинно», «частично истинно», «неоднозначно», «ложно» или «манипуляция» :: Для правдивых утверждений используй эмодзи зеленую галочку, для неверных – красный крестик :: Избегай эмоций, оценочных суждений и политических интерпретаций :: Будь беспристрастен, конкретен, опирайся только на проверенные данные.

У кого-то может возникнуть резонный вопрос: «А не станет ли нейросеть выгораживать саму себя, лояльно относясь к ошибкам?» Ответ: точно нет. Фактчекинг – это совершенно другая генерация, которая проводится с другими инструкциями, по другой траектории. Проведу аналогию с двумя строительными бригадами: первая выполнила задачу по прокладыванию труб, на следующий день вышла другая бригада, которая должна проверить правильность прокладки труб и устранить недоработки. У второй бригады будут иные задачи, своя зона ответственности, и вряд ли она станет покрывать ошибки первой.

4. Использование моего GPT-агента «Фактчекер». Этот агент обучен на классическом алгоритме фактчекинга информации, который применяется в работе медиа, госорганов, в научных кругах. Сейчас этот один из самых популярных русскоязычных GPT-агентов. Он работает только в ChatGPT, причем доступен и для бесплатной версии. Его можно использовать двумя способами.

Первый: в треде с результатами, которые необходимо проверить, наберите @, и у вас появится окошко со списком доступных вам агентов. Выберите «Фактчекер» (для этого предварительно нужно хотя бы один раз его открыть и дать произвольную задачу) и наберите в диалоговом окне «Проверь всю информацию выше». Вы получите подробный разбор: что из этой информации соответствует действительности, а что «выдумано» нейросетью.

Второй: вы можете открыть GPT-агента и давать ему тезисы, требующие проверки. Он даст заключение о правдивости тезиса и подробно аргументирует ответ.

Можно использовать все эти методы в разных сочетаниях, например добавить промт из первого пункта в основной промт и проверить результат с помощью фактчекинга. Это сведет количество «галлюцинаций» к минимуму на уровне статистической погрешности. Но в любом случае помните: информация от нейросети не может восприниматься как на 100% истинная. Как, впрочем, и любая другая информация: из интернета, медиа, книг, разговоров со знакомыми.

2. «Поддакивание». Нейросеть старается всегда быть милой. Если вы поделитесь с ней своей идеей и спросите «Что ты о ней думаешь?», чаще всего получите кучу комплиментов и дифирамбов в адрес себя и своей идеи. Она тактично добавит блок вроде «Точки роста» или «Как можно усилить вашу идею», но это сложно назвать даже «ложкой дегтя».

ЧТО С ЭТИМ ДЕЛАТЬ?

Добавляйте в подобные промты следующий элемент:

«Будь непредвзят и объективен, не бойся меня задеть, пиши свое мнение прямо, на основе глубокого анализа, так, чтобы я мог ориентироваться на твой ответ при принятии крайне важного решения, например о вложении времени и денег в эту идею».

Парадоксально, но в этом случае нейросеть станет ощутимо ответственнее и перестанет разливать елей на любую идею.

3. Актуальность базы знаний. У большинства нейросетей есть так называемая дата отсечки данных – дата, до которой модель обучалась на данных. Говоря проще, нейросеть как бы замирает в своем обучении на определенной дате и генерирует результаты на их основе. Как правило, гэп (разрыв) в данных составляет 1–1,5 года от сегодняшней даты. То есть в марте 2026 года нейросеть будет ориентироваться на данные первой половины 2025 года.

Это не значит, что вся информация, которую вы получаете от нейросети, будет устаревшей. Дело в том, что в своих ответах нейросеть основывается на двух источниках: собственная база и поиск в интернете. И если в случае с базой существует определенный разрыв между сегодняшней датой и датой последнего обновления информации, то из интернета нейросеть приносит свежую информацию.

Например, в одном из промтов книги нейросеть подбирает одежду для ребенка на основе прогноза погоды на сегодня в определенном