Техника безопасности: что нельзя скармливать AI

23:40. Артём дома дописывает описание фирменного сыра «Боровой» для сайта. Рецептуру из его понедельничного списка «внедрить к пятнице» вычеркнули сразу — но описание для сайта ведь совсем другое дело. Чтобы вышло точнее, он вставляет в бесплатный чат всю технологическую карту: рецептуру, температуры, закваски, поставщиков, себестоимость. Описание получается прекрасное.

Утром Артём с гордостью показывает описание Галине Петровне и объясняет, почему так точно:

— Я ему всю техкарту скормил!

Галина Петровна медленно снимает очки:

— Куда — ему?

Артём открывает рот — и понимает, что честного ответа у него нет. Какой⁠-⁠то бесплатный чат. Какой⁠-⁠то сервер. Где⁠-⁠то.

Почти каждый, кто работает с AI, хоть раз вставлял в чат то, что потом хотелось бы забрать обратно. Выгрузку с телефонами клиентов — «чтобы быстрее посчитать». Договор целиком — «пусть найдёт риски». Письмо коллеги с жалобой на руководителя — «помоги ответить помягче». Ничего злого: рабочие задачи, решённые самым быстрым способом.

Причина обычно одна: окно чата выглядит как личный разговор. Вы и собеседник, больше никого. Тёплый тон добавляет доверия (гл. 2). И кажется, что текст остаётся где⁠-⁠то между вами.

Бывает и обратная крайность: «AI — это утечка, не трогаю вообще». Так отказываются от помощи даже там, где никакого риска нет.

Эта глава — про середину: что происходит с текстом после отправки, какие данные можно отдавать, какие только в изменённом виде, какие по умолчанию не отправляют — и как изменить данные, не сломав задачу.

Вспомните открытку. Вы пишете её от руки, опускаете в ящик, и дальше её может прочитать любой, через чьи руки она пройдёт: сортировщик, почтальон, соседка, которая заберёт почту за вас. Никто этого не скрывает — так открытка устроена.

И это нормально. Открытки шлют миллионами: «С днём рождения!», «Привет из Сочи», «Скучаем». Просто на них не пишут PIN-код от карты, диагноз или то, что сказал начальник на закрытом совещании.

Правилу открытки, кстати, никто не учит. Вы сами понимаете, что на ней писать, потому что представляете, кто её прочитает. С чатом такое чутьё ещё не выработалось: окно выглядит как разговор один на один.

Чат с AI — та же открытка. Отправлять можно и нужно. Вопрос в том, что на ней написать.

Куда уходит текст. Когда вы отправляете сообщение, текст уходит на серверы — компьютеры компании, которая предоставляет сервис: модель работает там. Исключения есть — модели, которые работают на вашем компьютере или сервере вашей организации, — о них гл. 23. Что происходит с данными дальше, зависит от сервиса, тарифа, настроек и условий вашей организации: они могут храниться определённое время, а в некоторых режимах — использоваться для обучения и улучшения моделей — в настройках это обычно называют «использовать данные для обучения» — или просматриваться при проверках качества и безопасности. Правила конкретных сервисов меняются, поэтому живут в «Полевых заметках» — обновляемом разделе книги; здесь важен принцип.

К этому добавляются три бытовые вещи. Публичную ссылку считайте публикацией: точные правила доступа зависят от сервиса, но ссылку могут переслать дальше. Аккаунт могут взломать — и тогда вся история чатов окажется у чужого человека. А если в сервисе включена память, продукт переносит сведения о вас из разговора в разговор (гл. 1): рассказанное однажды может всплыть в другом чате.

Удалить — ещё не значит стереть. Удаление чата из интерфейса не обязательно означает мгновенное удаление всех копий: сроки и правила зависят от сервиса. Поэтому защита начинается до Enter, а не после.

Где аналогия ломается. Открытку читают по дороге, а у адресата её путь заканчивается. С чатом наоборот: в пути переписку обычно не читают, риски начинаются потом — текст в сервисе может остаться, и что с ним будет дальше, решаете уже не только вы. И ещё одно: в одобренных компанией инструментах условия бывают другими — отдельный договор с поставщиком сервиса, свои настройки.

Светофор данных — главный инструмент главы. Он делит данные на три цвета.

Пароли, ключи доступа и другие секреты для входа в системы не отправляют никогда — даже туда, где разрешено остальное красное.

Правила вашей компании важнее общего светофора.

Обезличивание так, чтобы задача осталась решаемой. Четыре приёма.

1. Убрать ненужное: для описания сыра рецептура не нужна.
2. Имена и названия заменить ролями и кодами: «Клиент А», «Поставщик 2», «[Имя]».
3. Точные цифры заменить диапазонами, если точность задаче не нужна: «выручка 40–50 млн» вместо «47 312 000».
4. Следить за уникальными сочетаниями. Должность, город и дата вместе узнают человека и без имени. «Финансовый директор новосибирского филиала, который уволился в марте», — это имя, только длиннее.

Перед Enter — два вопроса к данным: показал бы я это постороннему? И нужно ли это для задачи?

Если уже отправили — без паники. Ошибиться может каждый; хуже — промолчать. Дальше по порядку: был в тексте пароль или ключ доступа — смените его. Сообщите тому, кто в компании за это отвечает, что и куда ушло: чем раньше, тем больше вариантов. Удалите чат и публичную ссылку, если она была.

Зелёного больше, чем кажется. Перегиб «нельзя ничего» — такая же ошибка, как «можно всё». Большинство рабочих задач решается на зелёных данных или после пары замен: письмо без имени клиента, таблица без телефонов, презентация с «компанией Б» вместо названия. Светофор нужен, чтобы с AI можно было работать спокойно.

Всё, что вы вставили в чат, вы куда⁠-⁠то отправили. Поэтому отправляйте так, будто это прочитает посторонний: сортируйте данные по светофору и обезличивайте так, чтобы задача осталась решаемой. С завтрашнего дня рабочий текст уходит в чат только после светофора и замены лишнего.

Все компании, люди и цифры в примерах вымышлены.

Помоги выстроить презентацию для совета директоров на 10 слайдов.
Ключевые сообщения: выручка квартала X, рост Y% к прошлому году; маржа снизилась из-за цен на древесину; предлагаем сделку по покупке компании Б, условия — в диапазоне, который обсудим устно.
Для каждого слайда — заголовок-вывод и 2–3 пункта. Тон сдержанный.

1. «Да там ничего такого».

   Рабочие файлы хранят больше, чем кажется: скрытые колонки с телефонами, комментарии на полях, фамилии в названии файла. Прежде чем вставить, посмотрите на текст глазами постороннего.

2. «Заменил имя на инициалы — обезличил».

   Инициалы, должность и город — всё ещё конкретный человек. Обезличивание — когда по оставшимся данным человека не узнать даже тому, кто его знает.

3. «Скину коллеге ссылку на чат — так быстрее».

   Публичная ссылка — это публикация: коллега перешлёт её дальше, и чат прочитают люди, которым он не предназначался. Надёжнее скопировать нужный кусок в рабочий канал.

4. «В платной версии можно всё».

   Условия платных и корпоративных версий бывают другими, но «можно всё» из этого не следует. Что можно у вас, решают правила компании и настройки сервиса, — их и проверьте.