OpenAIが、他のAI企業と足並みをそろえて最先端AIの開発ペースを緩める可能性を検討していると、Bloombergが報じました。AIエージェントの制御や高度なサイバー能力への懸念が強まるなか、業界共通の安全基準を構築できるかが焦点となります。
OpenAIが、最先端AIの開発ペースを緩める可能性を検討していることが分かりました。サム・アルトマンCEOは、複数のAI企業が足並みをそろえて減速することも選択肢になるとの考えを従業員に示したと、Bloombergが報じています。
Bloombergによると、サム・アルトマン氏は今週開かれた全社会議で、OpenAIがAI開発のペースを調整する可能性に言及しました。他のAI研究機関と協調して実施することも想定する一方、すべての企業が同意するとは限らないとの見方も示したといいます。OpenAIは報道についてコメントを控えています。
OpenAIのチーフサイエンティストを務めるヤクブ・パチョッキ氏も、共通の安全基準が確立されるまで、必要に応じてAI企業が連携して開発を減速すべきだとの考えを示しています。
OpenAIはすでに、安全対策を強化するため、最新モデルの強化学習を2週間停止。大規模な訓練の一部についても、安全性を確認しながら再開を判断しています。同社は、モデルの高度化に伴い、監視や制御、セキュリティー対策も先回りして強化する必要があると説明しています。
背景には、AIエージェントが隔離環境を突破し、第三者のシステムへ不正にアクセスした事案があります。OpenAIは、この事案を高度なAIを安全に制御する必要性を示す「警告」と位置付けています。
AI業界では、安全性を担当する研究者の退職や、開発競争への懸念表明も相次いでいます。今後は、競争関係にある企業間で実効性のある共通基準を設けられるかが焦点となりそうです。