OpenAIが、高性能AIによる深刻なリスクを評価してきた「Preparedness Team」を7月末に解体したことが分かりました。チームが担っていた生物・化学分野やサイバーセキュリティなどの安全対策は、既存の研究・安全部門に分散して引き継ぐとしています。
Financial Timesによると、OpenAIはAIモデルが重大、あるいは壊滅的な被害を引き起こす可能性を評価してきたPreparedness Teamを解体しました。OpenAIは安全対策そのものを廃止するのではなく、各リスク領域の担当者を既存チームに配置し、モデル開発との連携を強める方針としています。
Preparedness Teamは、OpenAIの先端AIがサイバー攻撃や生物・化学分野などで深刻な被害をもたらす能力を持つ可能性を評価し、必要な安全策を検討する役割を担っていました。OpenAIは2025年に更新した「Preparedness Framework」で、重大なリスクにつながる能力を「High」「Critical」などの基準で評価し、一定の水準に達したモデルには公開前の安全対策を求めています。
Financial Timesによると、チームの解体後は生物・化学やサイバーなど個別分野の責任をシニアスタッフが引き継ぎ、既存組織の中で対応します。チーム責任者だったDylan Scandinaro氏は、自らの能力向上や次世代モデルの開発にAI自身が関与する「再帰的自己改善AI」の安全性研究に移るとしています。
OpenAIではこれまでも、超知能の制御を研究する「Superalignment Team」など安全性に関係する専門組織が解体されています。一方、同社は5月に公開した「Frontier Governance Framework」で、Preparedness Frameworkを高度なAIの重大リスク管理における基盤として引き続き位置付けています。
今回の再編は、AIの能力向上に伴い安全性の重要性が増す中で行われました。OpenAIは8月、開発中のAIモデル「Astra」が極めて高度なサイバー攻撃能力を持つ可能性を否定できないとして、一部の開発を停止し安全対策を強化しています。
Preparedness Teamという独立組織はなくなるものの、OpenAIは安全研究をモデル開発やセキュリティ部門により深く組み込む方針を示しています。今後は、分散型の体制でも独立チームと同等以上のリスク監視機能を維持できるかが焦点となりそうです。