自律型AI普及で企業の安全管理が新たな課題に
NTTドコモビジネスと日本IBMは10月7日、企業によるAIエージェントの利用を安全に進めるため、AIガバナンス分野で連携すると発表した。両社は同日、協業に関する基本合意書を締結し、AIの利用状況を継続的に把握しながら管理、監査できる仕組みの構築に向けた検討を始める。
生成AIは質問や指示に回答するだけでなく、自ら判断して作業を実行するAIエージェントへと利用範囲を広げている。企業の業務への導入が進む一方、自律性が高まることで従来とは異なる管理上の課題も生じている。
情報漏えいや不適切な判断を防ぐ統制策を検討
AIエージェントに与える目的や権限、担当範囲が明確でない場合、本来利用すべきでないデータを参照するなどの問題につながる。法令や社内規程との整合性を欠く処理を行うリスクもあり、企業側にはAIの行動を適切に制御する仕組みが求められている。
両社は、こうした想定外の動作を抑えるための安全機能について検討を進める。問題のある出力を停止する仕組みなどを整え、AIエージェントが扱える情報や実行可能な作業を適切に管理する環境の確立を目指す。誰が何をどの範囲まで利用できるのかを把握できる管理機能も検討対象となる。
AIの判断過程を確認できる仕組みづくりへ
企業がAIの出力を実務に取り入れるには、判断の根拠を把握できる仕組みが欠かせない。判断過程が不明確なままでは、人間が結果を確認して承認することが難しくなるためだ。両社は説明可能性を含め、AIの利用履歴を後から確認できる環境についても検討する。
さらに、AI関連の法規制やガイドラインが国や地域ごとに整備される中、それらに対応した継続的な統制と監査も課題となっている。AIを導入する段階だけでなく、実際の運用中にも利用状況を確認できる仕組みを構築し、企業がAIエージェントを管理できる体制につなげる。
両社のセキュリティー技術と知見を組み合わせ
NTTドコモビジネスは、データ・セキュリティーやデジタル・アイデンティティーの分野で技術を展開してきた。データを秘匿した状態で保管、加工、分析する「析秘」や、利用者の本人性や真正性の確認、権限管理を担う「SmartLiTA」などを提供している。
日本IBMはAIガバナンスに加え、AIセキュリティーやリスク管理の分野で製品とコンサルティングサービスを展開している。両社はそれぞれの技術や知見を組み合わせ、生成AIの導入やAIエージェントを使った業務効率化を対象に、必要となる管理要件を整理する。モデル管理やリスク管理なども検討範囲に含める。
機密データを扱う業務へのAI導入拡大目指す
安全性と管理体制を確保できれば、機密性の高い情報を取り扱う分野でもAIエージェントを導入しやすくなる。両社は金融業界、病院、自治体などを含む業務での活用を想定し、AIを安全に運用するための基盤づくりを進める。
今後はAIガバナンスの仕組みや具体的な利用方法、提供形態について検討と実証を行う。得られた成果を踏まえて事業化を検討し、AIエージェントの管理、統制、セキュリティー、運用を一体的に支える環境の実現を目指す。早ければ2026年度中のサービス開始を見込んでいる。