生成AIツールの普及により、ユーザーが人間の指導よりもAIが生成した情報に依存する場面が増えており、カスタマーサービスに従事するプロフェッショナルにとって新たな課題となっています。The Vergeの報告によると、ホスピタリティ、小売、公園管理を含む様々な分野のサービス従事者が、AIの「ハルシネーション（幻覚）」、すなわちモデルが誤った情報や無意味な情報を生成する現象の正確性を主張する顧客に直面しています。
飲食業界では、顧客がAIを使用してアレルギー警告に異議を唱えたり、存在しないワインのブランドを要求したりしているという報告が一部のスタッフから上がっています。ソムリエに勧めてもらう代わりに、チャットボットに相談することを選ぶ客もいます。同様に、パークレンジャーは、地理的な現実や物流上の制約を無視した、AIによって生成された無意味な旅程を携えてやってくる訪問者に気づいています。
この現象は、育児や事務作業にも及んでいます。専門家のアドバイスにもかかわらず、AIが生成した睡眠スケジュールに従う親もいると報告されており、企業側では、AIエージェントによって生成されたと思われる、複雑で無意味な可能性のある予約リクエストが増加しています。ユーザーに代わってタスクを実行できるシステムである「エージェント型AI」が一般的になるにつれ、AIが生成したエラーが現実世界の制約と衝突するやり取りへの対応に、労働者がますます困難を感じるようになっています。
出典
- AI hallucinations are making entitled customers even worse （The Verge AI, 2026-10-02）