政府命令で先端AIの提供停止に発展する事態
米AI新興企業アンソロピックは6月12日、米政府の法的指示に従い、先端AIモデル「Claude Mythos 5」と「Claude Fable 5」へのアクセスを停止した。政府側の命令は、国家安全保障上の権限を根拠に、外国人による利用を止めるよう求める内容だった。アンソロピックはこれを受け、対象モデルについて全ユーザーからのアクセスを止めたと発表した。
停止対象となったミュトスは、ソフトウェアの脆弱性を見つける能力が高いモデルとされる。4月初旬には「Mythos Preview」として約50の初期パートナーに提供され、その後、15か国以上の約150組織に利用権が広がった。だが、不正侵入や攻撃プログラムの自動生成につながる能力を持つとして、一般公開は見送られてきた経緯がある。
アマゾンの検証結果が判断材料として浮上する
米紙ウォールストリート・ジャーナルは6月13日、米政府の指示の背景にアマゾンからの指摘があったと報じた。アマゾンの研究者が、一般向けの「Claude Fable 5」から、本来は制限されるはずのサイバー攻撃に悪用され得る情報を引き出したという。アマゾン側はこの結果を受け、ベッセント財務長官らに懸念を伝えたとされる。
アマゾンはアンソロピックの主要株主であり、4月には最大250億ドルの追加出資を発表していた。提携を深める企業からの指摘が、米政府の判断に影響した形となった。アマゾン担当者は、政府から潜在的な安全保障上のリスクについて助言を求められることは珍しくないと説明したと報じられている。
アンソロピックは誤解に基づく指示と反論する
アンソロピックは、政府の指示は誤解に基づくものだと反論している。同社は「フェイブル」のリリース前に、米政府や英研究機関、民間第三者機関、社内チームと協力し、数千時間にわたって安全対策を検証したと説明した。危険な利用を検知した場合には、性能が劣るモデルが代わって応答する仕組みも導入したとしている。
同社は、政府が問題視した「抜け穴」は軽微なものだと主張した。安全対策を広範囲に回避する事例は起きておらず、狭い可能性が確認されたにすぎないとして、商用モデルをリコールすべきだとの考えには同意できないとした。さらに、この基準が業界全体に適用されれば、フロンティアモデルの新規展開が実質的に止まると強調した。
輸出管理措置の発動が大きな焦点として浮上
今回の対応では、米政府が輸出管理制度に基づき、AIモデルの提供停止を命じた点が注目される。AIの基盤技術そのものに対し、国家安全保障上の観点から直接介入した異例の措置となった。先端AIがサイバー防衛や研究開発に使われる一方、悪用リスクも抱えることが改めて表面化した。
政府高官のデービッド・サックス氏は6月13日、信頼されているパートナーがフェイブルを検証した結果、ガードレールを破る方法が明らかになったとXに投稿した。政府は抜け穴の修正かモデル撤回を求めたが、アンソロピックのダリオ・アモディ最高経営責任者が応じなかったとも記した。一方、米オンラインメディアのセマフォーは、中国関連グループがミュトスにアクセスした疑いも報じたが、詳細は明らかになっていない。
安全性と開発競争の両立が改めて課題となる
アンソロピックは、24時間以内に検証結果の詳細を明らかにし、2つのモデルの早期再開を目指すとしている。今回の停止は、先端AIの公開を巡り、安全対策の基準をどこに置くのかという問題を突き付けた。サイバー攻撃への対応能力を高める技術が、同時に攻撃側にも利用され得る点が争点となっている。
米政府とアンソロピックの間では、AIの軍事利用を巡る認識のずれもあった。2月には、トランプ大統領が連邦政府機関にアンソロピックの技術を利用しないよう指示した経緯がある。今回の停止命令により、AI開発企業と政府の関係、さらに安全保障と技術競争のバランスが、より厳しく問われる局面に入った。