Whisperの音声認識における幻覚の発生と、それに伴う深刻な影響

Whisperの音声認識システムでは、入力音声に存在しない文章や文言が生成される「幻覚」が発生する。これらの幻覚には、暴力的な内容、個人情報の虚偽、信頼性の低い情報源への誘導など、深刻な影響を及ぼす可能性がある。