カスタマーサポートのAIチャットボットが、自社を批判し始め運用中止に

1: 稼げる名無しさん ：2024/01/28(日) 17:08:28.13 ID:Ze3xMILy0.net

ヨーロッパの宅配便会社が運用しているカスタマーサポートのチャットボットが、客の挑発に乗ってしまい、自社を批判する詩を創作したり、自社を「世界最悪の宅配会社」と白状してしまったそうだ。海外メディアが報じている。


日本語翻訳記事
https://switch-news.com/whole/post-102504/

英語原文
https://news.sky.com/story/dpd-customer-service-chatbot-swears-and-calls-company-worst-delivery-service-13052037

最近AIが凄いという報道は結構出るけれど、AIが何かを判断出来ているわけではなく教育した材料から導き出される答えを出力しているので、自社批判の他にも嘘を答えたり色々やらかすと思うお。