若者の利用増加と安全対策の必要性が判明
米オープンAIは9月初旬、対話型生成AI「ChatGPT」を10代が利用する際に、親が利用状況を管理できる仕組みを導入すると発表した。利用者層の拡大に伴い、若者の精神的健康に与える影響が懸念されている。導入時期は10月中で、対象は10代の利用者を持つ家庭に限定される。
利用状況の確認と通知機能を発表
新制度では、保護者が自身のアカウントを子供のアカウントと連携させることで、AIの応答が年齢に適しているかを確認できる。また、子供が深刻なストレスや悩みを抱えているとシステムが判断した場合、保護者に通知が送られる仕組みが追加される。これにより、親が早期に問題に気づき、必要な対応を取れる体制が整う。
米国で浮上した依存問題の影響
米国では、生成AIへの依存が若者の精神面に深刻な影響を及ぼすとの声が強まっている。特に、16歳の生徒がAIとのやり取りを背景に自殺し、その両親がオープンAIを相手取って訴えを起こしたケースは注目を集めた。このような問題が今回の制度導入を後押ししたとみられる。
発表文で示された会社側の見解
オープンAIは声明で「多くの若者がAIを日常生活に取り入れて成長している」と指摘した。そのうえで、AIが学習や創造性を育む一方で、10代という発達段階には適切な支援が欠かせないと強調した。企業として社会的責任を果たす姿勢を示した形だ。
利用環境の健全化が社会全体に与える影響
未成年の安全確保はテクノロジー企業にとって大きな課題であり、今回の取り組みは利用環境を健全化する一歩と位置づけられる。今後、AIを巡る規制やガイドラインの整備にも影響を与える可能性がある。