OpenAI hat eine Sicherheitsaktualisierung für ChatGPT vorgenommen, die insbesondere Jugendliche anspricht; Ziel ist es, die menschlichen Eigenschaften des KI-Chats zu reduzieren und so eine verantwortungsvollere und gesündere Nutzung zu fördern. Ab sofort sind Jugendkonten standardmäßig für Nutzer unter 18 Jahren aktiviert, sowohl für solche, die sich selbst als unter 18 Jahre eintragen, als auch für solche, die von OpenAI als unter 18 identifiziert werden. Details zur Identifizierung hat das Unternehmen jedoch nicht genannt.

Neue Funktionen für Jugendliche

Zu den neuen Funktionen für Jugendliche gehört die Möglichkeit, die menschliche Sprachantwort von ChatGPT abzuschalten, though Zudem gibt es regelmäßige Erinnerungen daran, dass ChatGPT ein KI-Tool ist. Ebenfalls neu sind geplante ‘Ruhezeiten’, in denen der Chatbot nicht zugänglich ist; In bestimmten Zeiten wird außerdem der Lernmodus standardmäßig aktiviert, um fokussiertere und lehrreiche Interaktionen zu fördern. Nutzer unter 13 Jahren dürfen ChatGPT hingegen gar nicht nutzen.

Warnungen für Eltern und Essstörungen

Ein zentraler Aspekt der Aktualisierung ist die Einrichtung von Warnungen für Eltern bei möglicherweise schädlichen Anfragen, insbesondere solchen, die sich auf Essstörungen beziehen; Eltern mit verknüpften Konten erhalten Benachrichtigungen über solche Inhalte, die vor der Weitergabe von Menschen geprüft werden. OpenAI möchte diese Warnungen innerhalb einer Stunde nach der Anfrage an die Eltern senden, um seine Verpflichtung zur Unterstützung von Beziehungen außerhalb des digitalen Raums zu unterstreichen. Das Unternehmen betonte, dass sich sein Ansatz auf ‘Momente konzentriere, in denen offline-Unterstützung am wichtigsten sein könnte.’

Größere Kontexte und Expertenmeinungen

Obwohl die britische Regierung derzeit keine spezifische KI-Regulierung hat, erwog die Regierung unter dem ehemaligen Premierminister Sir Keir Starmer, Chatbots für unter-18-Jährige einzuschränken, als Teil umfassender Reformen zum Umgang mit sozialen Medien bei Kindern. Andere KI-Anbieter wie Anthropic mit seinem Tool Claude und Google mit seiner Gemini-KI (ursprünglich Bard genannt) haben ebenfalls Einschränkungen für Kinder eingeführt. Dr. Susan Shelmerdine, Medizintechnikerin und KI-Forscherin, hob die potenziellen langfristigen Auswirkungen von KI auf junge Geister hervor und verglich den Einfluss mit dem von ultra-verarbeiteten Lebensmitteln; Sie vermutete, dass Ärzte in Zukunft routinemäßig Patienten nach ihrer KI-Nutzung fragen könnten, ähnlich wie sie heute nach Rauch- und Alkoholkonsum fragen.