
MetaのAIエージェント「Muse」で、他人のものに見える口座残高などが届く事例をReutersが報道。実際の漏洩かAIの誤生成かは未確認で、Metaは多くが誤生成だったと説明しています。

MetaのAIエージェント「Muse」で、他人の情報に見える銀行口座残高や、身に覚えのない会話が届く事例が報告されているようです。Reutersが11月18日、社内投稿を基に報じました。ただし、実際の情報漏洩なのか、AIが生成した架空の情報なのかは確認できていません。
ある従業員は、釣りに関する天候や潮汐の会話中、突然2つの金融機関の口座残高を通知されたと報告しています。この従業員は、Museに銀行口座を共有したことも、銀行関連の話をしたこともないと説明しています。
別の従業員からは、自分と無関係なコーヒーテーブルの受け取りについて、売り手への連絡を提案されたとの報告もありました。社内では、アカウント間で会話の内容が混在している可能性を懸念する声が出ているといいます。
また、Reutersなどの検証では、Androidの通知へのアクセス権限や、Macのアクセシビリティー・画面撮影機能を使い、MuseがSignalのメッセージを読み取れることも確認されました。同じ要求はiPhoneでは拒否されたということです。
Metaは、他のアプリへのアクセスには利用者が明示的に与えた権限が必要だと説明しています。また、情報混在が疑われた通知の多くはAIによる誤生成で、すでに対処したとしています。Reutersは、他人の機密情報が実際に送信されたかどうかを確認できなかったとしています。