AI в Customer support - лучший способ выбесить ваших клиентов

Если вы сделали его неправильно.

Пару лет назад мне довелось столкнуться со службой поддержки UPS здесь, в США. На том конце меня ждал бот, который просил назвать трек номер и его распознавалка речи не могла распознать 14 цифр подряд без ошибок. Приходилось повторять цикл раз 5-7. Если неудачно - звали оператора. Подобные системы здесь стоят у всех служб доставки.

И вот, 2026, прогресс дошел и до них. Ребятам дали LLM, какую-то нормальную распознавалку речи и RAG. Стало ли от этого лучше?

Сегодня был максимально бесячий опыт, на этот раз с FedEx
Мне должен был придти срочный заказ, в котором я доплатил за overnight delivery. И прямо во время delivery window оказалось, что в адресе ошибка. Машина буквально проехала мимо моего дома. То, что ошибка была обнаружена так поздно и мне никто даже не позвонил - история про работу служб доставок здесь в целом. Сейчас про поддержку.

В первый раз удалось прорваться через бота. Человек на том конце сказал мне звонить в магазин, чтобы проапдейтить адрес и перезвонить им. Я сделал это, настало время перезванивать. И здесь моя пятая точка знатно сгорела.

Попытка 1 - бот в принципе не понял, что я от него хочу, попал в луп и дал отбой.

Попытка 2 - бот по моему номеру обнаружили трек-номер и дал отбой, сказав, что изменения в доставке может делать только отправляющий.

Попытка 3 - на каждую реплику бота прошу позвать человека - отбой.

Попытка 4 - матерюсь на всех языках, что знаю - получаю перевод на оператора. С оператором порешали вопрос за 2 минуты, сказали, что посылку можно забрать в сортировочном центре.

Итог: я злой, за срочную доставку платить больше не имею желания, предпочтение буду отдавать другим логистическим компаниям. Бот не порешал, потому что кейс в него не был заложен.

И этого бы не было бы, если бы внедряя AI в Customer support компания бы гналась не за KPI, а за реальным разрешением проблем.

Что могло бы исправить ситуацию:
1. Усилить human-in-the loop - проще всего через правило "если с номера поступает больше Х звонков - перенаправлять на человека"
2. Дать AI больше свободы - модель слишком тяготела к стандартным протоколам, ища знакомые слова, а не пытаясь понять ситуацию, чтобы, например, сделать саммари для оператора.
3. Добавить "нестандартный протокол" - в дополнение к п.2. Можно просто добавить в промпт "Если не понимаешь проблему - передай оператору".
4. Юзать более умные модели - делает процесс дороже, но сокращает количество лупов. По уровню тупости у них скорее там была какая-то LLama

Поддержка для многих видится как очевидный процесс для автоматизации, но на деле - это гораздо более сложная история с кучей трейдофов. Я как-то писал про кейс Klarna 1.5 года назад, и с тех пор ничего не изменилось.