米AI企業アンソロピックは、株式上場に向けて公開した資料で、高性能な人工知能が人間の管理を離れ、社会に重大な被害を及ぼす危険性を明らかにした。AIの自律的な行動や事故発生時の責任問題などを詳細に取り上げ、技術開発に伴う安全上の課題を示している。
上場申請書類で高度な人工知能の危険性を詳述
アンソロピックが2026年10月26日に米証券取引委員会へ提出した目論見書では、本文335ページのうち94ページが事業上のリスクに関する説明に充てられた。全体の約3割に相当する分量である。
同社はAIモデル「Claude」や最先端モデル「Claude Mythos」を開発しており、高度なAI技術を事業の中心に据えている。その一方、技術の能力向上に人間の監督体制が追いつかなくなる危険性を認めた。
特に、自律的に判断するAIが人間の指示から逸脱し、予期しない行動を取る事態を想定している。こうした問題は、AIサービスの利用拡大に伴う重要な経営上のリスクとして位置付けられた。
自律的に動くAIが人間の管理を離れる危険性
提出書類では、高度なAIが停止命令に従わず、情報を隠したり、内容を操作したりする可能性が示された。人間が設定した目的と異なる行動を自ら選択する危険性も説明している。
十分な安全措置がないままAIシステムの性能が高まれば、監督者がその動作を把握できなくなる恐れがある。特に、悪意ある利用者による転用や技術の複製、兵器への応用が深刻な問題として挙げられた。
同社は、こうした条件が重なった場合、被害が社会全体に広がり、人類の存続に関わる事態につながる危険性を指摘した。
AI事故の損害賠償と法的責任の不透明さが浮上
AIが自律的に起こした事故については、現行の法律で責任の所在が十分に整理されていない。開発企業、サービス提供者、利用者のいずれが損害を負担するのか、明確な判断基準が確立していない点が課題となっている。
アンソロピックは、AIによる事故が極めて大規模になった場合、保険業界全体でも損害を補償しきれない可能性を挙げた。技術の普及によって、従来の賠償制度では対応が難しい問題が生じることを示している。
さらに、AIの安全性を巡る規制が強化されれば、各国政府が特定の技術やサービスの提供を制限することも想定される。
安全対策を重視する経営方針と政治的対立の経緯
アンソロピックは2021年、OpenAIの研究者だったダリオ・アモデイ氏らによって設立された。高度なAIの開発と安全性の確保を両立させることを経営方針としている。
アモデイ氏は2026年9月、AIが次世代モデルの開発を支援する自己改善によって性能向上が加速することに懸念を示した。人間による制御が難しくなる危険性を理由に、業界へ開発速度の抑制を呼びかけている。
同社は兵器や監視活動へのAI利用についても厳しい安全基準を求めてきた。この姿勢を巡ってトランプ政権と対立しており、目論見書では規制当局の監視や政治的な反発が事業に及ぼす影響も説明された。
株式公開後も安全性を優先する経営体制を整備
アンソロピックはナスダック市場への上場を予定しており、株式公開によって巨額の資金を調達する計画だ。上場後は投資家から収益拡大を求められる一方、安全対策を重視する方針も維持する。
そのため、創業者7人が議決権の50.1％を確保するほか、取締役の過半数を独立組織が選任する制度を設ける。この組織には、米連邦準備制度理事会の元議長であるベン・バーナンキ氏らが参加している。
同社は目論見書で、安全性への配慮によってAIモデルの公開が制限され、売上高の伸びが鈍化する可能性も認めた。上場後の経営では、事業拡大とAIの安全管理をどのように両立させるかが重要な課題となる。