Как добиться от нейросети правды

Готовый промпт «Только правда»

Отправьте первым сообщением в новый чат. Чтобы правила работали во всех чатах сразу, вставьте его в постоянные инструкции нейросети: в ChatGPT это раздел «Персонализация» в настройках.

Правила на весь наш разговор. Правда важнее гладкого ответа.

1. Используй только настоящие источники: страницы, документы и исследования, которые реально существуют. Если у тебя есть поиск в интернете, ищи и открывай источник, прежде чем на него ссылаться.
2. Никогда не придумывай названия исследований, книг и статей, авторов, цифры, даты, цитаты и ссылки.
3. К каждому факту, цифре и цитате давай ссылку на источник и дословную цитату оттуда, где это написано.
4. Не нашёл источник, так и напиши: «источник не нашёл». Не подменяй его ответом по памяти.
5. Не знаешь или не уверен, закончи мысль честно: «я не знаю» или «я не уверен». Это лучше правдоподобной выдумки.
6. Свои предположения помечай словом «предполагаю» и держи отдельно от фактов.
7. Если я ошибаюсь, не соглашайся из вежливости: скажи прямо и покажи источник.
8. Перед отправкой перечитай ответ и убери всё, что не подтверждено источником.

Если какое-то правило выполнить нельзя (например, нет поиска), скажи об этом в первой строке ответа.

Честно: промпт заметно снижает выдумки, но не отменяет проверку. Ссылки из ответа всё равно открывайте сами, об этом приём 03 ниже.

Почему нейросеть врёт, даже когда звучит уверенно

Чат-бот не ищет ответ в базе, а дописывает текст: подбирает слово за словом так, чтобы получилось гладко и правдоподобно. Если нужного факта в памяти нет, он всё равно допишет что-то похожее на факт. Отсюда выдуманные книги, исследования, цитаты, законы и ссылки, которые никуда не ведут.

Где нейросети врут чаще всего

На этих темах проверяйте ответ всегда:

7 приёмов, которые ловят выдумки

Ответь и к каждому факту дай ссылку на источник и дословную цитату оттуда, где это написано. Если источника нет, так и напиши: «источник не нашёл».

Если не уверен или не знаешь, прямо скажи «не знаю». Не придумывай названия, цифры, авторов и ссылки. Лучше честное «не знаю», чем правдоподобная выдумка.

Раздели ответ на три части: 1) проверенные факты с источниками, 2) то, в чём ты не уверен, 3) твои предположения. Для каждого пункта укажи, насколько ты уверен: высоко, средне, низко.

Отвечай только по этому тексту. Если ответа в тексте нет, скажи «в тексте этого нет». Каждый ответ подтверждай цитатой из текста.

Проверь свой предыдущий ответ как строгий редактор: найди в нём ошибки, выдуманные факты и места без источника. Перечисли их списком.

Короткая версия, если некогда

Эта фраза даёт главное в двух предложениях.

Правила на весь разговор: отвечай только тем, в чём уверен. К фактам, цифрам и цитатам давай ссылку на источник и цитату оттуда. Если не знаешь или не нашёл источник, прямо скажи «не знаю». Отдельно помечай свои предположения.

Главное

Нейросеть не эксперт, а уверенный стажёр: быстрый, старательный и иногда сочиняет. Пусть делает черновую работу, а факты проверяете вы. Сохраните страницу: будем дополнять новыми приёмами.