アメリカの主要な人工知能（AI）開発企業であるAnthropic（アンスロピック）が、米政府からの突然の命令を受け、開発した二つのAIシステム「Fable 5」と「Mythos 5」の利用を一時的に停止しました。この命令は、アメリカ国内外にいるすべての外国籍者が対象で、Anthropicで働く外国人従業員も含まれています。
何が起きたのか？：米政府の突然の指示 🗓️
2026年6月12日（現地時間）の午後、Anthropicは米政府から「国の安全を守るための利用制限命令」を受けました。この命令により、AIシステム「Fable 5」と「Mythos 5」へのアクセスが停止されることになりました。
しかし、Anthropicの発表によると、政府はこの命令を出した具体的な理由や、どのような安全保障上の懸念があるのかを詳しく説明しなかったといいます。
「安全機能の抜け穴」が問題か？ 🔓
政府が懸念している可能性として、「Fable 5」に「ジェイルブレイク」と呼ばれる、人工知能の安全機能を回避するような不正な利用方法が見つかったことが挙げられています。
これに対し、Anthropicは次のように反論しています。
- 見つかった「ジェイルブレイク」の手口は、ごくわずかで、すでに知られている簡単なものです。
- 他の多くの公開されているAIシステムでも、同様の単純な抜け穴が見つかる可能性があります。
- 「わずかな抜け穴が見つかっただけで、何億人ものユーザーが使うビジネス向けAIを停止するのは行き過ぎた措置だ」と考えています。
Anthropicの今後の対応と見解 💡
Anthropicは、今回の政府の命令は「誤解」に基づいていると見ており、現在、両AIシステムへのアクセスを再開できるよう、政府との話し合いを進めています。
この出来事は、AI技術が急速に進歩する中で、その安全性と利用のルール作りがいかに難しいかを浮き彫りにしています。技術開発と国家の安全保障、そして国際的な利用のバランスをどう取るか、今後の動向が注目されます。
出典：Anthropic