Глава 3 · Почему AI уверенно ошибается
Семь уверенных ошибок
Все уверенные ошибки AI в семи типах: как выглядит и как ловить.
1. Выдуманный факт
Как выглядит: Событие, характеристика или «общеизвестный факт», которого нет
Как ловить: Спросите себя, откуда модель может это знать; найдите первоисточник
2. Выдуманный источник
Как выглядит: Исследование, закон, статья, цитата, ссылка
Как ловить: Откройте источник: существует ли он и говорит ли именно это
3. Устаревший факт
Как выглядит: Было правдой когда-то: цены, ставки, законы, должности
Как ловить: Спросите «на какую дату?»; всё изменчивое — только с поиском и датой
4. Искажённая деталь
Как выглядит: Факт верный, а цифра, дата, имя или срок — нет. Частая ошибка пересказа документов
Как ловить: «Покажи, где это написано» — и сверьте цитату с документом
5. Ошибка в расчёте или логике
Как выглядит: Стройное рассуждение с неверным итогом
Как ловить: Попросите показать расчёт или посчитать кодом; проверьте на простом примере
6.
Как выглядит: Согласие с вашей ошибкой или слишком тёплая оценка вашей идеи
Как ловить: Спрашивайте нейтрально, просите слабые места, не говорите, что идея ваша
7. «Я проверил»
Как выглядит: Утверждение, что он искал, открывал или перепроверял, хотя ничего такого не было
Как ловить: Ищите следы действия: ссылки, результаты поиска, цитаты из файла. Слова «я перепроверил» — не проверка
Тон ответа ничего не говорит о его правде: проверяйте то, на чём держится решение.