OpenAIは、ティーンユーザーを対象としたChatGPTの新たな安全アップデートを実施した。このアップデートでは、AIチャットボットの「人間らしい」特徴を減らすことで、若い世代の利用者がより責任ある使い方をするよう促進することを目的としている。18歳未満と自らを識別するユーザー、またはOpenAIが18歳未満と認識したユーザーについては、ティーンアカウントがデフォルトとなる。ただし、この識別の具体的な方法については明確にされていない。

ティーンユーザー向けの新機能

ティーンユーザー向けに導入された新機能には、ChatGPTの「人間らしい」声の応答をオフにできる機能、ChatGPTがAIツールであることを定期的にリマインダーで知らせる機能、および「静かな時間」を設定してチャットボットを利用不可にする機能が含まれる。また、特定の時間帯には「スタディモード」がデフォルト設定となり、集中して教育的なやり取りを促進する。13歳未満のユーザーはChatGPTの利用が一切禁止されている。

親へのアラートと食事障害関連コンテンツ

このアップデートの重要な側面として、有害なプロンプトに関する親へのアラート機能が含まれる。特に、食事障害に関連するプロンプトについては、関連するコンテンツが親に通知される。この通知は、人間によるレビュー後に送信される。OpenAIは、リクエストから1時間以内にこれらのアラートを親に送信することを目指しており、オフラインでの関係性や現実世界の指導への支援を強調している。同社は、このアプローチが「オフラインでの支援が最も重要になる瞬間」に注力していると述べている。

広い文脈と専門家の意見

英国は現在、特化したAI規制を持っていないが、かつての首相ケア・スターマー氏の下で、18歳未満向けのAIチャットボットの制限が、若者のSNS利用に関する包括的な改革の一環として検討された。また、Anthropicが提供する Claude や Google が提供する Gemini AI（旧名は Bard）を含む他のAIプロバイダーも、子ども向けのAI利用を制限している。医学画像診断医であり、AI学術研究者のシューサン・シェルメルディン博士は、AIが若者の心に与える長期的な影響について指摘し、その影響を「超加工食品」に例えている。彼女は、医師が将来的には患者にAIの利用状況について尋ねるようになるかもしれないと提案している。それは、喫煙や飲酒習慣について尋ねるように、日常的に尋ねるようになる可能性があると。