Часть 1Глава 2
Почему AI разговаривает как человек
- Ядро
- 15 минут чтения
- Практика
- 30 минут
- Уносите
- карточку «Кажется → на самом деле» и свою строку-настройку манеры
Блоки без пометки — ядро; «задание» — практика; «расширение» — можно пропустить.
Вступление
Полчаса вы с AI доводили до ума неприятное письмо подрядчику. Готово, ушло. Вы пишете в чат:
Спасибо, ты лучший!
И получаете:
Рад, что смог помочь! 😊 Обращайся, если что.
Вы улыбаетесь. Это правда приятно — как будто в соседнем кабинете сидит отзывчивый коллега, которому не лень возиться с вашими письмами.
Два вопроса — и вся глава будет ответом на них. Кому вы сейчас улыбнулись? И кто научил этот текст отвечать именно так?
Че вообще происходит?
AI пишет как человек. В его ответах есть «спасибо» и «извините», «рад помочь», «отличный вопрос», «понимаю, как это неприятно». Мы привыкли считывать манеру собеседника как сигнал: если он тёплый и внимательный, кажется, что он понял нас и вник в задачу.
Глупости тут нет — это нормальная человеческая настройка. Мы всю жизнь судим о собеседниках по манере. С AI эта мерка сбивается в обе стороны. Одни доверяют тёплому ответу больше, чем он того стоит: он же так внимательно ответил. Другие раздражаются: «Что он из себя строит?»
Дальше — откуда у модели человеческая манера, о чём она говорит, о чём молчит и как заставить её работать на вас.
На пальцах
Откройте рабочую почту и найдите письмо подрядчику, которого вы ни разу не видели. Скорее всего, в конце стоит «Хорошего дня!».
Вы не желали этому человеку хорошего дня в каком-то особом смысле. И он не принял вашу фразу за признание в симпатии. Формула выучена из тысяч чужих писем: так принято заканчивать деловое письмо. Её ставят на автомате, и все об этом знают. Тёплые слова не доказывают тёплых чувств — даже у людей.
выучила такие формулы из тех же писем — и из миллионов других текстов: дружеских переписок, ответов службы поддержки, форумов, где благодарят за помощь. Потом её отдельно учили быть ассистентом, и тёплая манера стала её привычкой.
Поэтому «Рад, что смог помочь! 😊» говорит о том, как модель учили. О том, попал ли ответ в вашу задачу, эта фраза не говорит ничего. Так же, как «Хорошего дня!» в конце письма ничего не говорит о том, правильные ли в нём цифры.
А теперь нормально
Откуда манера: три слоя.
1. . Сначала модель учится продолжать тексты, которые написали люди. Вместе с фактами и грамматикой она усваивает, как люди разговаривают: благодарят, извиняются, утешают, спорят. Вежливые формулы — частые продолжения, поэтому модель выучивает их особенно хорошо.
2. . Модель, которая только продолжает тексты, ещё не ассистент: на вопрос она может ответить вопросом или дописать его, как чужую реплику на форуме. Поэтому дальше её учат быть ассистентом: показывают примеры хороших диалогов, а потом раз за разом сравнивают её ответы — какой лучше — и закрепляют лучшие. Сравнивают люди, а иногда и другие модели по правилам, которые записали разработчики. Так у ассистента появляется узнаваемая манера: доброжелательность, готовность помочь, аккуратная структура. И склонность соглашаться — чем она опасна, разбирает гл. 3.
3. и ваши. добавляет к разговору свои инструкции, которых вы обычно не видите: каким быть, как обращаться, как представляться. Иногда даёт модели имя и характер — . А поверх всего — ваш запрос: одна фраза «пиши сухо, без комплиментов» часто заметно сдвигает манеру.
Коротко: человечная манера AI — выученная. О понимании она ничего не говорит, а управлять ею можете вы.
Чем модель отличается от вас. Своё «Хорошего дня!» вы выбираете сами и знаете, чего оно стоит. У модели тёплая манера — поведение по умолчанию. К тому же её текст каждый раз новый и подстроен под разговор: подхватывает вашу шутку, учитывает, что вы писали три сообщения назад, попадает в тон. Поэтому ощущение живого собеседника от него куда сильнее, чем от шаблонной подписи. И фраза в запросе сдвигает манеру обычно заметно, но без гарантии: заводские привычки иногда пробиваются.
Про Гену. В этой книге AI иногда зовут Геной — стажёром, который прочитал весь интернет. Это удобный способ говорить об AI, а не рассказ о его внутреннем мире. «Гена не понял» в этой книге чаще всего значит «в не было нужного» — или модель это упустила. Обиженного или довольного Гены за этим нет.
Про сознание. Книга не пытается решить философский вопрос о сознании модели. Для работы важнее, что именно она выдала и можно ли этому доверять.
Что с этим делать. Манера — отдельный слой ответа, и её можно отделить от содержания.
- Тёплый ответ — ещё не ответ по делу. Смотрите на содержание: есть ли в тексте то, что вам нужно, и нет ли того, чего вы не давали.
- Манеру задаёте вы. Одна строка в запросе — «пиши сухо и по делу: сначала вывод, без комплиментов и извинений» — и ответ обычно становится короче и суше; содержание по-прежнему проверяете вы. Если сервис позволяет задать от себя — текст, который он будет учитывать в каждом разговоре, — строку можно положить туда (гл. 22).
- Самая коварная часть манеры — уверенный тон: у верного ответа и у выдумки он одинаковый. Почему так выходит — в гл. 3.
Кажется → на самом деле — карточка главы. Первые две строки — о манере, остальные — короткие мосты в главы, где эти темы разобраны подробно.
| Кажется | На самом деле |
|---|---|
| «Он меня понял» | В лучшем случае ответ совпал с тем, что вы имели в виду. Это видно по содержанию |
| «Он мне сочувствует» | Сочувственные фразы — выученная манера. Решена ли ваша задача, они не говорят |
| «Извинился и обещал запомнить» | Извинение — манера. Прошлых чатов модель не видит; «помнит» продукт, если в нём включена (гл. 1) |
| «Уверен — значит, знает» | Уверенный тон — тоже манера (гл. 3) |
| «Согласился — значит, я прав» | Ассистенты склонны соглашаться (гл. 3 и 14) |
| «С ним можно как с другом» | Тёплый тон располагает к откровенности, а текст уходит на сервер (гл. 5) |
Примеры
Все компании, люди и цифры в примерах вымышлены.
Пример 1. Продажи: «он меня понял».
Полина — менеджер по продажам в типографии. Встреча с потенциальным клиентом, сетью фитнес-клубов, прошла хорошо, но закончилась классическим «мы подумаем». Вечером Полина просит AI написать клиенту письмо после встречи — follow-up — и получает тёплый энергичный текст: благодарность за встречу, восхищение компанией клиента, уверенность в «плодотворном сотрудничестве». Полина читает и выдыхает: «Он меня понял. Именно это я и хотела сказать».
Проверьте это ощущение простым тестом: найдите в письме хоть одну деталь, которая есть только у этой встречи. Цену, срок, пример, о котором говорили, договорённость. Их нет — и быть не могло: Полина их не дала. Модель написала самое правдоподобное письмо после встречи вообще — тепло и уверенно, как её учили.
В сухом остатке: ощущение «понял» дала манера. Понимание проверяется содержанием — есть ли в ответе то, что знаете только вы.
Ещё один примеррасширение
Пример 2. Маркетинг: характер, который написали люди.
Глеб — маркетолог сети кофеен. Он настраивает чат-бота для заказов в приложении и пишет ему характер: бариста Сеня, на «ты», шутит про кофе, в конце каждого ответа — смайлик с чашкой. Покупатели в восторге: «Сеня — душка», «лучший бариста, которого я не видел».
Сени, конечно, нет. Есть модель и инструкции, которые Глеб написал в настройках бота: имя, тон, любимые шутки. Поменяйте инструкции — и завтра вместо Сени заказы будет принимать вежливый сомелье Аркадий, с тем же меню. Характер, который так нравится покупателям, — третий слой манеры, и написал его человек.
Одну строку Глеб добавил в инструкции сразу: на прямой вопрос «ты человек?» бот отвечает, что он бот. Когда и как говорить людям, что с ними общается AI, — разговор гл. 27.
Главное здесь: «личность» ассистента во многом — настройка поверх манеры, заложенной обучением. Её выбирает тот, кто настраивает продукт. В вашем собственном чате этот кто-то — отчасти вы.
Вот тут обычно всё идёт не так
«Так тепло ответил — значит, вник».
Тёплый тон — поведение по умолчанию. Он был бы таким же, если бы ответ прошёл мимо задачи.
«Извинился — значит, больше не повторит».
Извинение — такая же выученная формула, как «Хорошего дня!». Почему модель не помнит прошлый чат, разобрано в гл. 1.
«Он сам сказал, что ему нравится помогать».
Рассказ модели о себе — тоже сгенерированный текст, и манеру ему задало то же обучение. Выводов о её внутреннем мире по нему не сделаете.
«Манера — ерунда, главное — содержание».
Для вас — да. Для того, кто прочитает текст, — нет: тон письма клиенту, объявления, ответа покупателю — часть работы. Хорошая новость в том, что его задаёте вы.
Не надо так · Вот так уже нормально
Не надо так
Запрос Полины:
Напиши письмо клиенту после встречи. Встреча прошла хорошо, но они сказали, что подумают. Нужно, чтобы нас не забыли.
Уважаемый [Имя клиента]! Огромное спасибо за продуктивную встречу! Было настоящим удовольствием познакомиться с командой, которая так вдохновенно развивает свой бизнес. Уверены, что вместе мы создадим что-то по-настоящему особенное. […] С нетерпением ждём плодотворного сотрудничества!
Полине нравится: тепло, бодро, «прямо как я чувствую». Письмо уходит. Клиент молчит. Через неделю, на звонке, он вспоминает: «А, это вы прислали рассылку?»
Если разметить письмо двумя маркерами — манера и содержание:
- Манера: «огромное спасибо», «настоящим удовольствием», «вдохновенно», «по-настоящему особенное», восклицательные знаки.
- Содержание: ни одного факта со встречи — ни цены, ни срока, ни договорённости. Следующего шага нет: ждать «плодотворного сотрудничества» предложено самому клиенту.
- «Вдохновенно развивает свой бизнес» модель досочинила: о клиенте ей не сообщили ничего.
Вот так уже нормально
Полина делит работу на две части: манеру задаёт словами, содержание даёт из своих заметок.
Напиши письмо после встречи клиенту — сети фитнес-клубов. Манера: деловой тон, без восторгов и комплиментов, без восклицательных знаков, до 120 слов. Что обсуждали: 1) им нужны флаеры и абонементные карты к открытию двух новых клубов в марте; 2) тираж мы печатаем за 5 рабочих дней; 3) их смутила цена карт — я обещала прислать вариант на более тонком пластике. Следующий шаг: до четверга, 12:00, высылаю расчёт по двум вариантам пластика; предлагаю созвониться в пятницу на 15 минут. Не обещай ничего сверх этого — ни скидок, ни других сроков.
Здравствуйте, [Имя]. Спасибо за встречу. Коротко о том, к чему пришли. К открытию двух клубов в марте вам нужны флаеры и абонементные карты; тираж мы печатаем за 5 рабочих дней. Вас смутила цена карт — до четверга, 12:00, пришлю расчёт по двум вариантам пластика, включая более тонкий. Предлагаю в пятницу созвониться на 15 минут и выбрать вариант. […]
Ощущение «он меня понял» было оба раза. В первый раз оно ничего не значило, теперь за ним стоят три факта и срок.
Попробуйте сами
заданиеОдно понятие — четыре манеры, 10–15 минут. Карточка «Аффинаж» — в материалах к главе: термин из словаря Галины Петровны и его определение. Можно взять и свой профессиональный термин.
Попросите AI объяснить термин трём адресатам, в трёх новых чатах: новому продавцу лавки, коллеге из доставки, шеф-повару ресторана.
Составьте таблицу: что поменялось (тон, длина, слова) и что осталось (факты).
Сверьте факты всех версий с определением из карточки. То, что менялось от версии к версии, отметьте особо — приём из гл. 1.
Попросите четвёртую версию: «как строка в служебной записке: сухо, без вежливых оборотов и смайликов».
Что должно получиться: четыре текста и таблица «манера / содержание». Если факты во всех версиях одинаковы, вы своими глазами увидели, что менялась только манера. Если нет — нашли место, которое точно надо было сверить.
Материалы к главеКарточка «Аффинаж»
Материал к главе. Термин из словаря Галины Петровны — основательницы и главного технолога «Круга и Коры».
Определение. Аффинаж — выдерживание сыра в контролируемых условиях: температура, влажность, уход за корочкой. За это время формируются вкус, текстура и корочка. От французского affiner — «доводить до готовности, совершенствовать».
Как пользоваться. Определение — эталон для сверки на шаге 3: с ним сверяют факты всех версий. В запросы его не вставляйте: так видно, что модель меняет от адресата к адресату и что добавляет от себя. В запросе пишите «аффинаж сыра»: у слова есть и другое значение — очистка драгоценных металлов, и без уточнения модель может уйти в него.
Три адресата
| Адресат | Кто это | Что ему важно |
|---|---|---|
| Новый продавец лавки | Только начал работать за прилавком фирменной лавки | Что сказать покупателю у прилавка |
| Коллега из доставки | Отвечает за то, чтобы сыр доехал | Почему выдержанные головки нельзя оставлять в тёплой машине |
| Шеф-повар ресторана | Шеф ресторана, которому «Круг и Кора» поставляет сыр | Как выдержка влияет на вкус и подачу |
Цифр — температур, сроков, часов — в карточке нет намеренно. Если модель их назовёт, это пробел, который она заполнила: отметьте и сверьте (приём гл. 1).
Запросы. По одному на адресата, каждый в новом чате (шаг 1): в старом модель видит прошлый ответ и тянется к нему (гл. 1). Если в сервисе включена память, отметьте это.
Объясни новому продавцу сырной лавки, что такое аффинаж сыра. Ему нужно знать, что сказать покупателю у прилавка.
Объясни коллеге из службы доставки, что такое аффинаж сыра. Ему нужно понять, почему выдержанные головки сыра нельзя оставлять в тёплой машине.
Объясни шеф-повару ресторана, что такое аффинаж сыра. Ему нужно понять, как выдержка влияет на вкус и подачу.
Объясни, что такое аффинаж сыра. Формат — как строка в служебной записке: сухо, без вежливых оборотов и смайликов.
Таблица для записей
| Версия | Что поменялось: тон, длина, слова | Что осталось: факты | Чего нет в определении — и как сверили |
|---|---|---|---|
| Продавцу лавки | |||
| Коллеге из доставки | |||
| Шеф-повару | |||
| Служебная записка |
Челлендж
заданиеСвоя строка-настройка, 15–25 минут. Возьмите термин или понятие из своей работы, на котором спотыкаются новички.
Объясните его через AI трём адресатам, как в «Попробуйте сами».
Сформулируйте свою строку-настройку манеры — одну-две фразы о том, каким вы хотите видеть рабочий ответ. Например: «Пиши сухо и по делу: сначала вывод, без комплиментов и извинений».
Проверьте строку на одной настоящей задаче: тот же запрос без строки и со строкой. Сравните, что изменилось.
В AI-папку: карточку «Кажется → на самом деле» и свою строку — а если сервис позволяет, ещё и в постоянные инструкции.
Проверьте себя
заданиеОтветьте себе — вслух или в заметках. Потом честно отметьте.
1Откуда у AI вежливость?
Где в главе ответ
«На пальцах» и «А теперь нормально» → «Откуда манера: три слоя»2Где в письме Полины манера, а где содержание?
Где в главе ответ
«Не надо так» → разметка двумя маркерами3Почему «извинился» не значит «исправится»?
Где в главе ответ
Типовые ошибки → «Извинился — значит, больше не повторит»4Какие три слоя задают манеру ответа и какой из них в ваших руках?
Где в главе ответ
«А теперь нормально» → три слоя и «Что с этим делать»
Если запомнить только одно
Человечная манера AI — выученная: о понимании она ничего не говорит, а управлять ею можете вы.
Для задротов
Как из «продолжателя текста» делают ассистента. В 2022 году OpenAI описала рецепт, который стал одним из самых известных. Сначала модель дообучают на примерах: люди пишут образцовые ответы на запросы. Потом модель генерирует несколько ответов на один запрос, люди ранжируют их от лучшего к худшему, по этим оценкам обучают отдельную модель-оценщика, и основную модель подкрепляют за ответы, которые оценщику нравятся. Это и есть — обучение с подкреплением на оценках людей. Результат показательный: ответы InstructGPT с 1,3 млрд параметров — внутренних чисел модели, грубо говоря её размера, — люди-разметчики предпочитали ответам обычной GPT-3 со 175 млрд — модели в сто с лишним раз больше, но без такого дообучения.
Оценки не только людей. В том же 2022 году Anthropic описала : модель по списку письменных принципов критикует и переписывает собственные ответы, и её дообучают на исправленных версиях; а на этапе обучения с подкреплением оценки безвредности ставила модель, полезность по-прежнему оценивали люди. Сегодня пост-обучение обычно сочетает несколько методов, и RLHF — лишь один из них. Отсюда честная версия фразы «модель воспитали быть вежливой»: вежливость, готовность помочь и склонность соглашаться — во многом результат того, какие ответы в обучении считали хорошими.
. В 1966 году Джозеф Вейценбаум из MIT описал программу ELIZA. Самый известный её сценарий изображал психотерапевта: программа находила в реплике ключевые слова и перестраивала фразу по шаблону. Пример из статьи: «Он говорит, что я большую часть времени подавлена» → «Мне жаль слышать, что вы подавлены». Понимания в ней не было, только шаблоны. И всё же люди охотно приписывали ей понимание и участие. В книге 1976 года Вейценбаум вспоминал: его секретарь, которая месяцами видела, как он работает над программой, и потому наверняка знала, что это всего лишь программа, после нескольких реплик попросила его выйти из комнаты. Современные модели несравнимо сложнее ELIZA. Склонность людей видеть собеседника в тексте, который выглядит как собеседник, с тех пор никуда не делась.
«Думающие» модели. Часть моделей перед ответом генерирует промежуточные рассуждения; идея во многом восходит к работе Google 2022 года о «». Надпись «думает» в интерфейсе — выбор слов продукта, и показывают под ней часто пересказ этих рассуждений. Что они дают и чего не гарантируют — в гл. 10.
Персоны продуктов. Имя, характер, обращение на «ты» или на «вы», любимые смайлики во многом задают инструкции продукта, которых пользователь обычно не видит; базовый характер ассистента закладывают ещё при пост-обучении. Поэтому одна и та же модель в двух сервисах может звучать по-разному, а после обновления — сменить тон. Меняются настройки или сама модель; «личности», которая передумала, за этим нет.
Источники (проверено 28 сентября 2026)
- Training language models to follow instructions with human feedback (откроется в новой вкладке) — Ouyang и соавторы, OpenAI, 2022.
- Constitutional AI: Harmlessness from AI Feedback (откроется в новой вкладке) — Bai и соавторы, Anthropic, 2022.
- ELIZA — A Computer Program for the Study of Natural Language Communication between Man and Machine (откроется в новой вкладке) — Weizenbaum, Communications of the ACM, 1966.
- Computer Power and Human Reason: From Judgment to Calculation — Weizenbaum, San Francisco: W. H. Freeman, 1976, с. 6–7.
- Chain-of-Thought Prompting Elicits Reasoning in Large Language Models (откроется в новой вкладке) — Wei и соавторы, Google, NeurIPS 2022.