アンソロピック幹部が東京でAI開発の安全性に言及
米国の人工知能（AI）開発企業アンソロピックの共同創業者で、公共利益部門責任者を務めるジャック・クラーク氏は10月14日、東京都内で記者会見を開き、AI技術の開発と安全対策の関係について説明した。安全性を確保するための取り組みが不十分な場合には、開発の進行速度を引き下げる対応も必要になるとの認識を示した。
同社のダリオ・アモデイ最高経営責任者（CEO）も、AI開発の速度を抑える必要性を訴えている。クラーク氏の発言は、技術の進歩に伴う危険性を十分に把握し、安全性を確認しながら開発を進めるという考え方を示したものだ。
クラーク氏は、世界規模でAI技術の利用が進む中、今後数年間が安全な開発体制を整えるための重要な期間になると強調した。
技術開発の速度とリスク把握の重要性を強調
クラーク氏はAI開発に伴う危険性の把握について、自動車の運転を例に説明した。運転中に前方の状況を確認するためにはライトが必要であり、AI開発でも進行方向に存在する危険を認識することが欠かせないと指摘した。
安全上の問題を十分に把握できない状態では、開発を進める判断に確信を持てないという考えを示した。こうした認識を踏まえ、安全対策が技術の発展に対応できない場合には、開発を減速させる選択肢にも言及した。
アンソロピックでは、AIの能力向上だけでなく、その利用に伴う危険をどこまで把握できるかが重要な課題となっている。クラーク氏は、開発の継続と安全性の確保を一体として考える必要性を説明した。
相次ぐサイバー攻撃とAI利用の関係にも言及
記者会見では、不正アクセスによる情報流出が続いている状況についても質問が出た。クラーク氏は、個別の攻撃について詳細な情報を把握していないとしたうえで、攻撃者がAIを利用している可能性があるとの見解を示した。
企業が業務に利用できる技術を導入するのと同様に、ハッカーも入手可能な道具を攻撃に活用すると説明した。ただし、AIが独立して判断し、攻撃を実行したことを裏付ける証拠は確認していないと明らかにした。
AIがサイバー攻撃に使用される可能性と、AI自身が自律的に攻撃を行うことは区別して説明された。現時点では、後者について確認された事例は把握していないという。
自社AIの悪用防止と他社モデルへの対応課題
アンソロピックは、自社が提供するAIツールを攻撃者に利用されないよう、セキュリティー技術を活用した対策を進めている。クラーク氏は、悪意ある利用を防ぐ取り組みについて説明するとともに、AI技術が複数の企業や開発者によって提供されている現状にも触れた。
市場には同社以外の企業が開発したAIモデルが存在するほか、利用者がモデルのパラメータを変更できるオープンウエートモデルもある。こうした技術の存在を挙げ、AIの利用環境が自社のサービスだけに限定されない点を指摘した。
同社は、自社ツールへの対策に加えて、政府機関や企業との連携も重視している。特にサイバー防衛の分野では、攻撃を防ぐ側が優位に立てる技術の活用を追求する方針を示した。
安全なAI開発に向け日本との協力関係を重視
クラーク氏は、日本との協力を強化する考えも明らかにした。日本の政府機関や国内企業と連携し、AIを活用したサイバー防衛の強化に取り組む方針だ。日本の安全保障に関わる技術的な課題についても、協力できる方法を探る姿勢を示した。
また、日本がAI関連の供給網、科学機器の製造、ロボット技術で専門性を持つことを評価した。これらの分野における強みを踏まえ、今後の大きな技術的変化に対応できる環境が整っているとの認識を示した。
アンソロピックは世界各地でデータセンターの整備を進めており、日本国内での建設方法についても検討している。クラーク氏は日本法人の設立1周年に合わせて来日し、13日には古川俊治デジタル相と会談した。今回の訪問では、AIの安全性とサイバー防衛を中心に、日本との協力拡大に向けた方針が示された。