#ИИ-ассистенты · #Поддержка · #Право
Бот соврал — платит авиакомпания
Что реально даёт ИИ в техподдержке (эксперимент NBER, Klarna, Intercom Fin) и почему попытка сделать чат-бота отдельным юрлицом провалилась в суде. С цифрами и первоисточниками.
Про ИИ в поддержке есть два жанра историй. Первый — пресс-релиз: «наш ассистент заменил 700 человек и сэкономил 40 миллионов». Второй — скриншот: бот пообещал то, чего компания не делала, и дальше либо компания извиняется, либо компания объясняет суду, что бот — самостоятельная личность.
Оба жанра стоит разобрать по фактической части, потому что в первом цифры почти всегда завышены самой компанией, а во втором — занижены последствия.
Где действительно ускорило: единственное измерение, которому можно верить
Самая крепкая работа по теме — не кейс, а полевой эксперимент. Бринйолфссон, Ли и Реймонд, NBER Working Paper 31161, «Generative AI at Work»: 5 179 операторов поддержки в крупной софтверной компании Fortune 500, которым ассистента на базе генеративной модели включали постепенно, волнами.
Что получилось:
- +14% к числу решённых обращений в час — в среднем по всем.
- +34% — у новичков и низкоквалифицированных операторов.
- Почти ноль — у опытных и сильных.
Плюс рост удовлетворённости клиентов и снижение текучки. Механизм авторы описывают так: модель раздаёт лучшие практики сильных сотрудников тем, кто ещё не набрал опыта. То есть ассистент не заменяет эксперта — он сжимает кривую обучения.
Отсюда первое практическое следствие, которое ломает половину бизнес-планов: средние 14% — это не то, что получит конкретная команда. Если у вас в первой линии сидят люди с восемью годами опыта, вы получите около нуля и ещё жалобы на «модель мешает работать». Если у вас поток новичков и высокая текучка — вы получите треть, и это огромные деньги. Один и тот же продукт, разный знак в зависимости от состава смены.
Klarna: как «700 агентов» превратились в «слишком увлеклись стоимостью»
Классика жанра пресс-релиза — Klarna, 27 февраля 2024 года. Ассистент на базе OpenAI, первый месяц работы:
| Метрика | Значение из пресс-релиза |
|---|---|
| Диалогов за месяц | 2,3 млн, две трети всех обращений |
| Эквивалент живых операторов | 700 человек на полную ставку |
| Время решения | меньше 2 минут против 11 минут у людей |
| Повторные обращения | минус 25% |
| Эффект на прибыль 2024 | прогноз $40 млн |
Формулировки аккуратные: «эквивалент 700 агентов» — это оценка через падение числа диалогов, которые достались людям, а не число уволенных. Но читали это как «700 человек», и рынок прочитал так же: акции французского подрядчика Teleperformance в тот день упали примерно на 29%.
Через год выяснилось, что считать надо было иначе. В мае 2025-го CEO Себастьян Семятковски в интервью Bloomberg сказал: стоимость оказалась «слишком доминирующим фактором оценки», и результат — «более низкое качество». Klarna вернулась к найму людей в поддержку, запустила пилот с удалёнными операторами по гибкому графику и сформулировала правило: клиент всегда должен знать, что человек доступен, если он этого хочет.
Это не отказ от ИИ. Это признание, что метрика была выбрана неправильно: экономия на стоимости контакта без качества решения — это перенос проблемы на следующий месяц, в повторные обращения, возвраты и отток.
Intercom Fin: метрика, которая растёт, но прячет распределение
Вендорский взгляд на ту же задачу. Intercom публикует средний resolution rate своего агента Fin по всей базе клиентов: 23% в первый год, 52% после Fin 2, 66% к октябрю 2025-го — по более чем 6 000 клиентов. У пятой части клиентов — выше 80%.
Цифра честная в одном смысле: это действительно средняя по всей базе, а не по трём лучшим кейсам, и она растёт примерно на процент в месяц. Но у неё есть два подвоха.
Первый — определение. «Резолюция» здесь означает, что клиент не вернулся и система считает вопрос закрытым. Это не «вопрос решён правильно», это «вопрос не всплыл повторно в окне измерения». Разница вылезает именно на сложных случаях, где человек, приняв неверное решение, получит возврат и второй звонок, а бот — тишину и красивую статистику.
Второй — распределение. 66% средних при 80% у узких доменов означает, что у широких доменов где-то 40–50%. И это не упрёк конкретному продукту: так работает любая средняя.
Антикейс: Air Canada против собственного чат-бота
Теперь та самая история, где организацию спросили, кто отвечает за слова бота.
Ноябрь 2022 года. Джейк Моффат, житель Британской Колумбии, ищет на сайте Air Canada билет со скидкой по случаю смерти бабушки. На сайте его встречает чат-бот. Моффат спрашивает про bereavement fares, бот отвечает: если вы уже купили билет, можно подать заявку на пересчёт по льготному тарифу в течение 90 дней с даты покупки.
Моффат покупает два билета — туда за $794,98 и обратно за $845,38, всего $1 630,36. Подаёт заявку на 90 дней, как и было сказано. Air Canada отказывает: на соседней странице сайта написано, что льготный тариф после перелёта не применяется. Представитель компании в переписке признаёт, что бот выдал «вводящие в заблуждение слова», и обещает его поправить.
Дальше — спор в Гражданском трибунале по разрешению споров Британской Колумбии. И вот ключевой фрагмент решения (Moffatt v. Air Canada, 2024 BCCRT 149, пункт 27):
«Air Canada argues it cannot be held liable for information provided by one of its agents, servants, or representatives – including a chatbot. It does not explain why it believes that is the case. In effect, Air Canada suggests the chatbot is a separate legal entity that is responsible for its own actions. This is a remarkable submission. While a chatbot has an interactive component, it is still just a part of Air Canada’s website. It should be obvious to Air Canada that it is responsible for all the information on its website. It makes no difference whether the information comes from a static page or a chatbot.»
«Примечательное заявление» — это вежливый язык трибунала. Дальше член трибунала Кристофер Риверс добавляет отдельно: компания не объяснила, почему страница «Bereavement travel» заслуживает больше доверия, чем её же чат-бот, и почему клиент должен перепроверять информацию, полученную в одном месте сайта, в другом его месте.
Итог: взыскать $812,02 — $650,88 убытков, $36,14 процентов и $125 сбора. Сумма смешная. Принцип — нет: бот — это часть сайта, а не отдельное лицо. Компания отвечает за его слова так же, как за текст на странице.
Cursor: как выглядит правильная реакция
Апрель 2025-го. Разработчики замечают, что при входе в Cursor на второй машине сессия на первой умирает. Один из них пишет в поддержку и получает ответ от «Сэма»: так и задумано, подписка рассчитана на одно устройство, «это ключевая функция безопасности».
Политики такой не существовало. Сэм был ботом передней линии. Скриншот ушёл в Reddit, началась волна отмен подписок, и через три часа соучредитель компании Майкл Труэлл ответил публично: «У нас нет такой политики. Вы, разумеется, можете пользоваться Cursor на нескольких машинах. К сожалению, это неверный ответ фронтального ИИ-бота поддержки». Настоящая причина была в изменении механики сессий, а не в тарифах.
Что сделала компания: признала ошибку, вернула деньги, исправила причину и начала явно помечать ответы, сгенерированные ИИ. Никаких «бот — самостоятельное юрлицо». Именно так это и должно работать: бот соврал — компания извинилась и заплатила.
Отдельный вывод про интерфейс: не давайте боту человеческое имя и человеческий голос на первой линии. «Сэм» без пометки превратил галлюцинацию в официальное письмо от сотрудника.
Что из этого следует для инженера поддержки
Пять правил, которые дешевле внедрить до инцидента, чем после.
- Обещания бота — это обещания компании. Любой ответ, где есть правило, срок, лимит, гарантия или цена, должен собираться из детерминированного источника (тариф, база политик, конфиг), а не из генерации. Если источника нет — эскалация, а не импровизация.
- Резолюция ≠ правильное решение. Считайте вместе: resolution rate, повторные обращения в 7/30 дней, доля эскалаций, удовлетворённость именно на сложных кейсах. Экономия на стоимости контакта без этих цифр — это отложенный счёт.
- Аудит ответа. Храните, какой документ был источником, какая версия промпта и модели работала, кто (человек или бот) отправил ответ. В споре «бот пообещал» без этого нечего предъявить — ни клиенту, ни суду.
- Эскалация должна быть видимой и бесплатной для клиента. Не «напишите нам», а кнопка, которая гарантированно приводит человека. Klarna пришла к этому через год и через падение качества.
- Маркировка ИИ — это честность, а не защита. Пометка «ответ сгенерирован» не снимает ответственности, она лишь уменьшает ущерб от неожиданности. Защита — только контроль над тем, что бот имеет право утверждать.
При чём здесь права роботов
История Air Canada — лучший аргумент в пользу того, что автономной системе нужна не «правосубъектность», а рамка. Чем убедительнее система говорит от лица компании, тем важнее, чтобы у неё был ограниченный словарь фактов, журнал решений и человек, который подписывается под обещанием.
Требовать для бота статуса отдельного лица — это не забота о нём. Это попытка взрослого человека спрятаться за собственную программу. Трибунал в Британской Колумбии назвал это примечательным заявлением и выписал счёт на $812,02. В следующий раз сумма будет больше, а фраза «это бот, он сам решил» — всё менее убедительной.
Источники
- Brynjolfsson E., Li D., Raymond L. R. Generative AI at Work. NBER Working Paper 31161, 2023. nber.org/papers/w31161
- Klarna. Klarna AI assistant handles two-thirds of customer service chats in its first month. 27.02.2024. klarna.com
- Klarna plans to hire humans again, as new landmark survey reveals most AI projects fail to deliver. Fortune, 09.05.2025 (пересказ интервью Bloomberg). fortune.com
- Klarna’s AI does the work of 700 people. What’s that really mean? American Banker / PaymentsSource, 2024. americanbanker.com
- Adams P. The next leap forward for Fin. Fin Ideas (Intercom), 17.10.2025. ideas.fin.ai
- Moffatt v. Air Canada, 2024 BCCRT 149, решение от 14.02.2024. decisions.civilresolutionbc.ca
- Edwards B. Company apologizes after AI support agent invents policy that causes user uproar. Ars Technica, 17.04.2025. arstechnica.com
- Claburn T. Cursor AI support bot hallucinated its own company policy. The Register, 18.04.2025. theregister.com
Все ссылки проверены 13.11.2026. Цифры Klarna и Intercom — оценки самих компаний; в тексте указано, где именно это оценка, а не измерение.
// обсуждение