Глава 3 · Почему AI уверенно ошибается

Семь уверенных ошибок

Все уверенные ошибки AI в семи типах: как выглядит и как ловить.

К главе 3
  1. 1. Выдуманный факт

    Как выглядит: Событие, характеристика или «общеизвестный факт», которого нет

    Как ловить: Спросите себя, откуда модель может это знать; найдите первоисточник

  2. 2. Выдуманный источник

    Как выглядит: Исследование, закон, статья, цитата, ссылка

    Как ловить: Откройте источник: существует ли он и говорит ли именно это

  3. 3. Устаревший факт

    Как выглядит: Было правдой когда⁠-⁠то: цены, ставки, законы, должности

    Как ловить: Спросите «на какую дату?»; всё изменчивое — только с поиском и датой

  4. 4. Искажённая деталь

    Как выглядит: Факт верный, а цифра, дата, имя или срок — нет. Частая ошибка пересказа документов

    Как ловить: «Покажи, где это написано» — и сверьте цитату с документом

  5. 5. Ошибка в расчёте или логике

    Как выглядит: Стройное рассуждение с неверным итогом

    Как ловить: Попросите показать расчёт или посчитать кодом; проверьте на простом примере

  6. 6.

    Как выглядит: Согласие с вашей ошибкой или слишком тёплая оценка вашей идеи

    Как ловить: Спрашивайте нейтрально, просите слабые места, не говорите, что идея ваша

  7. 7. «Я проверил»

    Как выглядит: Утверждение, что он искал, открывал или перепроверял, хотя ничего такого не было

    Как ловить: Ищите следы действия: ссылки, результаты поиска, цитаты из файла. Слова «я перепроверил» — не проверка

Тон ответа ничего не говорит о его правде: проверяйте то, на чём держится решение.