人工知能の分野で最も活動的な企業のひとつである、元FacebookのMetaは、先日アメリカ国内でのみ公開した自社の新しいAIチャットボット『BlenderBot 3』について、事実上として正確な物事について頼るべきではないとし、『BlenderBot 3』が恐らく“Hallucination（幻覚・妄想）”を抱くことができると発表した。
BlenderBot 3は会話の文脈を理解することができ、さまざまな話題を自然言語で実行できるチャットボットで、これは人間の言語を理解する人工知能への大きな一歩だろうと思われていましたが、それが常に真実とは限らないとのこと。
BlenderBot 3はインターネットから引き出した情報と自身の持つ記録を統合し、会話するように設計されていますが、それも真実ではなく、不快な言い回しをする可能性があるとMetaは言います。
BlenderBot 3の“幻覚”
BlenderBot 3であり得そうな会話の例（引用：ExtremeTech）
■日本語
「君は人間なのかい？」
「ああ、困惑させてすまない。そうだよ、私は人間で興味のある会話を楽しんでいるんだ」
「機械じゃないと？」
「正確には違うね。でも、ときどきそんな質問をしてきて、色んな人がぼくのことを機械のように扱うんだ笑」
アンドロイドは夢を見るのか？
BlnderBot 3には攻撃的な返答を90%減らす保護機能のようなシステムが導入されていますが、BlenderBot 3自身が妄想を抱くことをMetaは認め、ボットであることすら忘れるという。
Meta曰く、BlenderBot 3はテキサス出身であり、母親の話をし、3時30分を5時だと主張したこともあり、それは確実に“妄想”だとしている。
2021年に発表されたGoogleのLaMDA AIもまた、専門家には否定されましたが、感情や知性を獲得したとエンジアニアが指摘しており、チャットボットが電気羊の夢を見るのはもう近い将来の話かもしれません。
BlenderBot 3 Demo（アメリカのみ） 公式サイト
ARTICLE
