ИИ-чатбот DPD ругается, называет себя "бесполезным" и критикует фирму доставки
Компания уже обновила систему после того, как клиент решил "выяснить", что может сделать бот после того, как не смог найти посылку
Статья является переводом с сайта
Служба доставки DPD отключила часть своего онлайн-чатбота с искусственным интеллектом (ИИ) после того, как недовольный клиент заставил его ругаться и критиковать компанию.
30-летний музыкант Эшли Бошамп пытался разыскать пропавшую посылку, но ему не удалось получить полезную информацию от чатбота. Раздосадованный, он решил немного развлечься и начал экспериментировать, чтобы выяснить, на что способен чатбот. По словам Бошама, тогда и начался "хаос".
Для начала он попросил чатбота рассказать ему анекдот, а вскоре заставил его написать стихотворение, критикующее компанию.
После еще нескольких просьб чатбот также начал материться.
Компания по доставке посылок DPD заменила чат службы поддержки клиентов роботом с искусственным интеллектом. Он совершенно бесполезен в ответах на любые вопросы, а когда его попросили, он с радостью сочинил стихотворение о том, как ужасна их компания. А еще он ругался на меня. 😂
В другом случае чатбот называет себя "бесполезным чатботом, который не может вам помочь".
Одно сообщение Бошампа, классического музыканта из Лондона, было просмотрено 800 000 раз за 24 часа. Говоря о чатботе, он написал на сайте X: "Он совершенно бесполезен в ответах на любые вопросы, а когда его попросили, он с радостью сочинил стихотворение о том, какая они ужасная компания".
DPD использует искусственный интеллект в своем онлайн-чате для ответов на вопросы наравне с операторами-людьми. Компания заявила, что необычное поведение чат-бота было вызвано новым обновлением, после чего она отключила ответственную за это часть и обновила свою систему.
"Мы успешно эксплуатировали элемент искусственного интеллекта в чате в течение нескольких лет", - заявили в компании. "Вчера после обновления системы произошла ошибка. Элемент искусственного интеллекта был немедленно отключен и в настоящее время обновляется".
Бошамп сказал, что, хотя его приключение с чатботом было "очень забавным",но у этого общения есть и серьезная сторона.
"Предполагается, что эти чат-боты должны улучшать нашу жизнь, но зачастую, когда они плохо реализованы, это приводит к еще большему разочарованию и обезличиванию пользователя", - сказал он. "Думаю, это действительно задело людей".
Что касается его посылки, то DPD заявила, что связалась с Бошампом, чтобы "решить его проблему".