Что нельзя доверять AI-агенту: границы, которые задают до запуска

Разговор о границах обычно выглядит как список страхов: «а вдруг он напишет чушь», «а вдруг разошлёт клиентам ерунду». Это плохой разговор — он заканчивается либо «ну тогда не будем», либо «да ладно, разберёмся».

Полезнее считать границу частью конструкции. Не оговоркой, а шагом, на котором работа останавливается и ждёт человека. Тогда вопрос из «страшно или нет» превращается в «где именно поставить этот шаг».

Правило, по которому его ставят, одно: агент останавливается там, где цена ошибки выше, чем сэкономленное время. Дальше — пять мест, где это условие выполняется почти всегда.

1. Профессиональное суждение

Всё, что в вашей области считается консультацией: медицинской, юридической, финансовой, психологической.

Граница проходит не по теме, а по адресности. Написать пост о том, как устроена гигиена полости рта, — можно. Ответить в комментариях человеку, у которого болит зуб после пломбы, — нельзя, и не потому что агент сформулирует хуже врача. Заочная рекомендация без осмотра — это не забота, а риск: для пациента в первую очередь.

Практическая формулировка: агент не отвечает по существу и передаёт вопрос человеку. Не «отвечает осторожно», не «добавляет дисклеймер» — не отвечает.

Отдельный случай — регулируемая реклама. В медицине почти везде есть требования к тому, что можно обещать, и расходятся они по странам сильнее, чем кажется: во Франции ограничены и снимки «до и после», и отзывы пациентов как приём, а в России реклама медуслуг обязана нести предупреждение о противопоказаниях. Агент такие места помечает, но решение принимаете вы со своим юристом, потому что зависит оно от страны и от услуги.

2. Деньги и обязательства

Возврат, скидка, компенсация, перенос срока, списание, выплата. Всё, где после действия у кого-то меняется сумма или обязательство.

Здесь важно не путать два разных запрета:

• Агент не двигает деньги. Не инициирует возврат, не проводит платёж, не выводит средства. Это техническое ограничение, а не договорённость о вежливости.
• Агент не решает, стоит ли двигать. Он собирает факты — что оплачено, когда, что было обещано, что говорит ваше правило — и приносит вам готовое к решению.

Разница между «приготовил возврат и ждёт кнопки» и «сделал возврат и уведомил» — это разница между инструментом и проблемой.

Сюда же — цены и скидки в каталоге. Описание товара агент напишет. Цену не поменяет.

3. Публикация от вашего имени

Всё, что выходит наружу под именем человека или компании: пост, ответ на отзыв, письмо клиенту, коммерческое предложение.

Технически граница выглядит так: агент готовит черновик и останавливается. Публикует человек, чьё имя стоит под текстом.

Тут чаще всего экономят — и зря. Соблазн понятен: если каждый пост всё равно читать, где экономия? Экономия в том, что читать готовое быстрее, чем писать с нуля: минуты вместо часа. А отправка без чтения экономит эти минуты и покупает риск, который в плохой день стоит клиента.

Особый случай — ответы на отзывы. В регулируемой сфере ответ не должен подтверждать, что человек вообще был вашим пациентом или клиентом, и тем более обсуждать его случай. Владелец клиники в этом месте хочет «объяснить, как всё было на самом деле» — и ровно этим нарушает тайну. Агент такой ответ не публикует никогда.

4. Персональные данные и согласия

Фотографии, документы, медицинские сведения, всё, что идентифицирует человека.

Граница здесь не «аккуратно обращаться», а «нет согласия — нет материала». Если подписанного согласия, покрывающего публикацию, нет, работа останавливается на первом шаге. Не «замажем лицо», не «обрежем кадр» — материал просто не готовится.

Это единственная граница из пяти, где обход выглядит безобидно, а последствия наступают не у вас, а у человека, который вам доверился.

5. Отношения

Самая недооценённая. Есть решения, которые правильные по данным и разрушительные по отношениям.

Как подать клиенту слабый месяц. Стоит ли сказать, что срок сдвинется, сегодня или дождаться, пока станет точно. Отказать ли клиенту, которому ваша услуга не подходит, — даже если он готов платить.

Агент не откажется от денег. Это не изъян, это отсутствие того, что для отказа нужно. И отчёт он не смягчит и не раздует — но и не решит, каким тоном подавать плохую новость, потому что решение это про людей, а не про цифры.

Типичная ошибка проектирования

Границу пишут в дисклеймере, а не ставят в процессе.

Выглядит это так: в описании продукта сказано «требуется проверка человеком», а технически публикация происходит сама. Пока внимание есть — работает. Через месяц, в пятницу вечером, кто-то нажимает «ок» не читая.

Проверяемая формулировка: если процесс не может пойти дальше без вашего действия — граница есть. Если может, но не рекомендуется, — границы нет, есть пожелание.

Что спросить у себя до запуска

Пройдите по списку и на каждый пункт ответьте, где стоит шаг «на вас»:

• какие вопросы агент не отвечает ни при каких формулировках;
• какое действие меняет чью-то сумму или срок;
• что выходит наружу под чьим-то именем;
• где нужно согласие и что происходит, когда его нет;
• какое решение вы бы не отдали новому сотруднику в первую неделю.

Последний вопрос — самый рабочий. Агент в этом смысле и есть новый сотрудник: быстрый, безотказный, без контекста ваших отношений с клиентами и без чувства, что что-то не так.

И обратная сторона

Границы стоят денег. Каждый шаг «на вас» — это ваше время, и если их поставить двадцать, вы получите не помощника, а очередь на согласование.

Поэтому пять, а не двадцать. Всё остальное — разбор входящих, черновики, сверки, напоминания, сбор фактуры, оформление — отдаётся целиком, без промежуточных проверок. Смысл границ в том, чтобы их было мало и они стояли в правильных местах.