OpenAI가 챗GPT의 새로운 안전 업데이트를 발표했습니다. 이 업데이트는 특히 청소년 사용자를 대상으로, AI 챗봇의 인간적인 특성을 줄이고 더 책임감 있고 건강한 사용을 장려하기 위한 기능이 포함됐습니다. 18세 미만 사용자는 가입 시나 OpenAI가 18세 미만으로 판단하는 경우, 기본적으로 청소년 계정으로 설정됩니다. 다만, 이 식별 방법에 대해 OpenAI는 구체적인 설명을 하지 않았습니다.

청소년 기능 추가

청소년을 위한 새로운 기능으로는 챗GPT의 인간처럼 들리는 음성 응답을 끌 수 있는 옵션, 챗GPT가 AI 도구임을 상기시키는 알림, 그리고 일정 시간 동안 챗GPT에 접근을 제한하는 ‘조용한 시간’이 포함됩니다. 또한, 특정 시간에는 ‘스터디 모드’가 기본 설정으로 적용되어 더 집중적이고 교육적인 대화를 유도합니다. 13세 미만 사용자는 챗GPT 사용이 금지됩니다.

부모 경고 및 식이장애 콘텐츠

이 업데이트의 주요 내용 중 하나는 부모에게 해로운 요청에 대한 경고를 보내는 기능입니다. 특히 식이장애와 관련된 요청에 대해 부모는 알림을 받게 됩니다. 이 콘텐츠는 공유되기 전에 인력이 검토합니다. OpenAI는 요청이 접수된 후 1시간 이내에 부모에게 알림을 보내려고 합니다. 이는 오프라인 관계와 현실 세계의 지도를 지원하려는 의지입니다. 회사는 ‘오프라인 지원이 가장 중요할 순간’에 집중하는 전략이라고 밝혔습니다.

전반적인 맥락과 전문가 의견

영국은 현재 특별한 AI 규제를 두고 있지 않지만, 전 총리 키어 스타머가 이끄는 정부는 18세 미만을 위한 AI 챗봇 제한을 고려했습니다. 이는 청소년의 소셜 미디어 사용을 다루는 개혁의 일부입니다. 다른 AI 제공업체인 앤행과 구글도 각각 클로드와 지미니 AI(이전 바드)를 통해 아동용 AI 사용을 제한하고 있습니다. 의료 영상 전문의이자 AI 학자인 수잔 셸머딘 박사는 AI가 젊은이들의 정신에 미치는 장기적 영향을 강조했습니다. 그녀는 AI의 영향이 초가공 식품과 비슷하다고 비교했습니다. 의사들이 언젠가 AI 사용을 환자에게 물어보는 것이 일상이 될 수 있다고 제안했습니다. 이는 흡연과 음주 습관을 묻는 것처럼 말입니다.