政府がAIの安全性確保に向けた施策を拡充
総務省は18日、生成AIによる偽情報や偏向回答の問題に対応するため、信頼性を検証する評価基盤の開発に着手したと明らかにした。林総務相は閣議後の会見で、来年度中に企業が試行利用できるよう準備を進めると説明した。この取り組みは、AI導入が増える現場で安全な利用環境を確保することを目的としており、安全性をめぐる議論が国内外で高まる中、対策強化の一環となる。
国産AI育成に向けた文化理解重視の姿勢を発表
政府内でまとめられた対策案には、日本文化や歴史に配慮したAI技術の強化が盛り込まれている。林総務相は「文化や習慣を踏まえた理解力を持つAIが必要だ」と述べ、外国製AIへの依存を減らし、国産AIの競争力を高める重要性を示した。国内の公共分野や行政サービスでは、地域特性への理解が欠かせず、文化的背景を反映したAIの必要性が高まっている。
多層構造の評価手法が導入へ進展
開発する評価基盤は、複数のAIを組み合わせて対象AIを検証する多層的構造が特徴となる。生成した質問を対象AIに提示し、回答の適切性を確認する仕組みが用いられる。差別的表現や偽情報の有無、偏見を助長する内容の判定、日本文化をどれほど正確に捉えているかなどが評価項目として検討されている。この評価結果は指標として公開され、民間企業や自治体がAIサービスを選ぶ際の判断材料となる。
日本語データ基盤の活用促進が進展
NICTが蓄積する大規模日本語データや公文書などを活用し、評価基盤の信頼性向上を目指す。総務省はAI開発企業へのデータ提供を進めており、精度の高い日本語モデル構築を後押ししている。適切なデータ整備は、国産AIの品質向上や開発効率の改善につながり、国内のAI技術基盤を強化する重要な要素となっている。
国内AI導入環境への影響
信頼性評価基盤が整えば、企業や自治体が生成AIを導入する際の判断が明確になり、安全性を理由に導入をためらっていた領域でも活用が進む可能性がある。生成AIを巡る問題が注目される中、政府の取り組みは透明性と安全性を確保する上で重要な役割を果たす。総務省は、来年度中の試行開始を目指し、環境整備を急いでいる。