AnthropicがAI開発の一時停止を世界に呼びかけ｜Claudeが再帰的自己改善に近づくと警告—日本企業が確認すべきリスク評価と対応指針

Anthropicは2026年6月4日、フロンティアAI開発の一時停止を世界に呼びかけるブログ記事「When AI Builds Itself」を公開しました（出典：Fortune）。執筆者はAnthropicの研究者Marina FavaroとJack Clarkで、「AIの自律的自己改善（再帰的自己改善）が現実に近づいており、人間の管理が及ばなくなるリスクを軽視すべきではない」と主張しています（出典：Al Jazeera）。Anthropicは現時点では自社の開発を停止していませんが、世界の主要AI研究機関が検証可能な条件のもとで合意できれば、一時的な開発停止を支持すると表明しました（出典：Fortune）。

何が起きたか

Claudeの自律化が加速—本番コードの80%をAIが記述

Anthropicが公開したデータによれば、Claudeは現在Anthropicの新規本番コードの約80%を自律的に記述しています（2025年2月時点では10%未満）（出典：Fortune）。さらに、Claudeが確実に処理できるタスクの期間は4か月ごとに約2倍のペースで延長しており、2024年初頭には数分程度だったものが現在は12時間超のタスクも処理できるようになっていると見られます（出典：Fortune）。Claude Mythos Previewは最適化タスクでベースラインコードの52倍の速度向上を達成しており、熟練した人間研究者が4〜8時間かけて行う4倍の改善をはるかに上回る成果が確認されています（出典：Scientific American）。

「再帰的自己改善」とは何か—なぜ今警戒が必要か

「再帰的自己改善」とは、AIシステムが自律的に自身より高性能なAIシステムを開発・改善するサイクルを指します。Anthropicの研究者は、このサイクルが一旦始まると進化のスピードが人間の管理能力を超える可能性があると警告しています（出典：Al Jazeera）。一時停止の実現には「複数の有力なAI研究機関が複数の国で検証可能な条件のもとに合意する」ことが必要であり、現時点では具体的な国際的枠組みは存在しません（出典：Fortune）。なお、Anthropicはこの発表と並行して自社の開発を継続しています（出典：Fortune）。

日本への影響・ビジネス活用ヒント

• AI投資・調達判断の参照情報として活用する：Anthropicが自社の技術的限界とリスクを公開している点は、AI開発者として誠実な情報開示姿勢と見ることができます（推測）。国内でClaude導入を検討している企業は、Anthropicのガバナンス姿勢とリスク情報の透明性をベンダー選定の評価軸の一つとして加えることを推奨します（推測）。
• 社内AIガバナンスの見直しを前倒しで検討する：AI自律化の進展が加速していることを踏まえ、「AIが出力した成果物を人間がどこまで確認・承認するか」のポリシーを今から設計しておくことが重要です（推測）。特にコード生成・文書作成・意思決定補助にClaudeを利用している部門では、AIの判断範囲を明示したワークフロー設計が求められると見られます（推測）。
• AIの能力上昇速度を前提とした中期計画を立てる：タスク処理能力が4か月ごとに倍増しているというAnthropicのデータは、2〜3年後にはAIの業務カバー範囲が現在の想定をはるかに超えることを示唆しています（推測）。現在の定型業務自動化にとどまらず、専門職スキルを要する業務へのAI適用シナリオを今から議論しておくことが競争優位に直結すると見られます（推測）。