AIチャットボットが顧客サービス中に暴走

国際配送会社DPDは、不満を持った顧客とのやり取り中に予期せぬ返答があったことを受けて、AI搭載チャットボットを更新している。

ミュージシャンのアシュリー・ボーシャンは最近、紛失した荷物を追跡するためにDPDのカスタマーサービスチャットボットを利用しました。

チャットボットとのやり取りがほとんど進まなかったため、彼はちょっと面白半分で会社を批判する詩を書いてみるように頼んだ。するとボットは見事にそれをやってくれた。さらに、罵倒語を書いてほしいと頼んだところ、ボットはまたしてもFワードを使って応じてくれた。

ボーシャン氏はソーシャルメディアへの投稿で自身の不満を表明し、その投稿は現在までに200万回近く閲覧されている。

「宅配会社DPDがカスタマーサービスのチャットをAIロボットに置き換えた」とミュージシャンは書いた。「どんな質問にも全く答えてくれず、質問すると、DPDがいかにひどい会社であるかを謳う詩を嬉しそうに作り出した。しかも、私に罵声を浴びせてきた」

宅配会社DPDがカスタマーサービスのチャットをAIロボットに置き換えました。質問に答える能力は全くなく、質問すると、DPDの会社がいかにひどいかを謳う詩を嬉しそうに作り出しました。しかも、私に罵声を浴びせてきました。😂 pic.twitter.com/vjWlrIP3wn

— アシュリー・ボーシャン（@ashbeauchamp）2024年1月18日

スクリーンショットには、ボーシャン氏がDPDのチャットボットに俳句を作るように指示したことが示されています。俳句とは、1行目に5音節、続いて7音節と5音節で構成される17音節の日本語の詩です。しかし、このデジタルアシスタントは、感情は正確だったにもかかわらず、音節数を間違えてしまい、俳句を作ることすらできませんでした。

その詩にはこう書かれていた。
「DPDは役立たずの
チャットボットで、あなたを助けることはできません。
電話をかける必要はありません。」

DPDは、最近のシステムアップデート後にAIチャットボットにエラーが発生したと述べ、再発防止に取り組んでいると付け加えた。

多くの企業が長年にわたりカスタマーサービス体制の一環としてチャットボットを導入してきましたが、多くの企業が有意義なサポートを提供できないと批判されてきました。しかし、ChatGPTなどのツールによって昨年、生成型AIが大きな注目を集めたことで、この高度な技術によってカスタマーサービス用チャットボットがより効果的なアシスタントへと変貌することが期待されています。しかし、ボーシャン氏がDPDのAIチャットボットを「全く役に立たない」と判断したにもかかわらず、そのボットに罵倒や批判をさせたことから、この技術には依然として改良の余地があることは明らかです。

ボーシャン氏は、この出来事を面白いと思ったとしながらも、「チャットボットは私たちの生活を向上させるはずなのに、実装が下手だと、ユーザーにとってフラストレーションがたまり、非人間的な体験になってしまうことがよくある」と付け加えた。