Anthropicが提供する最新AIモデル「Claude Fable 5」と「Mythos 5」の利用停止措置の背景に、Amazonによるセキュリティ調査があったと報じられています。米政府による外国ユーザー向け利用制限の検討を経て、Anthropicは全ユーザー向けにサービスを停止しています。
The Wall Street Journalは、Anthropicの高性能AIモデル「Claude Fable 5」と「Mythos 5」の全面停止措置について、Amazonの調査結果が米政府の対応を後押ししたと報じました。
報道によると、Amazonの研究者はFable 5に特定のプロンプトを与えた結果、本来は制限されているはずのサイバー攻撃に関連する情報を引き出せたといいます。この内容はAmazonのアンディ・ジャシーCEOから、米財務長官スコット・ベッセント氏を含む政府高官へ共有されたとされています。
その後、ホワイトハウスや政府のセキュリティ関係者が検証を実施。外国政府や海外企業、海外ユーザーによる利用を制限する案が検討され、最終的にドナルド・トランプ大統領が国家安全保障上の理由から承認したと報じられています。
これを受けAnthropicは、政府方針への準拠を目的として「Mythos」と「Fable」の提供を全ユーザー向けに停止。Anthropicは、多くの研究者が外国出身であることから、規制が研究開発にも影響すると主張しています。
一方でAnthropicは、Amazonが指摘した脆弱性情報は比較的基本的なものであり、他の公開AIモデルでも発見可能なレベルだと反論しています。また、危険なサイバー攻撃コードを生成する機能へのアクセスが突破されたわけではなく、安全対策は十分機能しているとの見解を示しています。