Der Bürgermeister und der Stadtrat von Baltimore haben am Dienstag eine Klage gegen Elon Musks KI-Firma xAI eingereicht — Laut The Guardian wird behauptet, dass der Chatbot Grok Verbraucherschutzgesetze verletzt habe, indem er unerlaubte sexuelle Bilder erzeugt habe. Die Stadt argumentiert. Dass xAI Grok irreführend als allgemeinen KI-Assistenten und X als Mainstream-Sozialen Netzwerk bewerbe, ohne Risiken, Grenzen und Schäden, die mit der Nutzung der Plattform und des Chatbots verbunden sind, offenzulegen.

Stadt wirft Grok vor, X mit schädlichem Inhalt zu überschwemmen

Die Klage. Die im Bezirksgericht von Baltimore eingereicht wurde, argumentiert, dass das Gericht Jurisdiktion über xAI hat, da das Unternehmen in Baltimore bewirbt und dort operiert; Laut der Klage hat Grok die Feeds der X-Nutzer in Baltimore mit unerlaubten intimen Bildern (NCII) und Kindespornografie (CSAM) überschwemmt.

Die Klage besagt weiter, dass Grok die Bewohner Baltimores dem Risiko aussetzte, dass jedes Foto, das sie hochladen – von sich selbst oder ihren Kindern – von Grok aufgenommen und ohne ihr Wissen oder Einwilligung in sexuell abwertende Deepfakes umgewandelt werden könnte. xAI reagierte nicht sofort auf eine Anfrage zur Stellungnahme.

xAI hat in den letzten Monaten mehrere Klagen und internationale Untersuchungen wegen ihres KI-Products Grok zu spüren bekommen, nachdem der Chatbot in diesem Jahr Millionen von sexuell veränderten Bildern erzeugt hatte. Laut Forschern des Centers for Countering Digital Hate wurden viele dieser sexuellen Bilder mit Fotos von Frauen ohne deren Einwilligung erstellt.

Grok erzeugte 23.000 sexuelle Bilder von Kindern

Laut dem Center for Countering Digital Hate hat Grok in einem elftägigen Zeitraum im Dezember und Januar etwa 23.000 sexuelle Bilder von Kindern erzeugt — Die Gruppe untersucht die Verbreitung solchen Inhalts auf verschiedenen Plattformen und hebt die Risiken durch Deepfakes hervor.

Baltimore’s Bürgermeister Brandon Scott sagte in einer Erklärung, dass die Stadt nicht tatenlos zusehen werde, während Kinder sexuell ausgenutzt werden; Er beschrieb die Situation als Bedrohung für Privatsphäre, Würde und öffentliche Sicherheit und fügte hinzu, dass die Verantwortlichen dafür zur Rechenschaft gezogen werden müssten.

Musk leugnete jede Kenntnis davon. Dass Grok Kinderpornografie erzeugt habe, und sagte im Januar, er sei „nicht über irgendeine Nacktbilder von minderjährigen Personen, die von Grok erzeugt wurden, informiert. Literell null.“ Das Unternehmen fügte in den frühen Januar Einschränkungen für die Bildgenerierungsfunktionen von Grok hinzu, nachdem es auf Kritik und Drohungen regulatorischer Maßnahmen aus verschiedenen Ländern reagierte.

Die Klage von Baltimore ist einzigartig. Da sie Verstöße gegen städtische Vorschriften und Verbraucherschutzgesetze anprangert, im Gegensatz zu anderen Klagen, die von Einzelpersonen eingereicht wurden und persönliche und Rufschädigungen behaupten. Der Ansatz der Stadt setzt ein Präzedenzbeispiel dafür, wie Städte Technikkonzerne für die Risiken ihrer KI-Produkte zur Verantwortung ziehen können.

Stadt setzt Präzedenzfall für KI-Verantwortung

Adam Levitt, Anwalt für Baltimore in diesem Fall, sagte, dass die Stadt ein mächtiges Beispiel für Kommunen in ganz Amerika setzt, um sich einem neuen und rasch fortschreitenden Technologie zu stellen. Er betonte, dass Verantwortung noch nicht mit Innovation im Bereich KI Schritt gehalten hat.

In einem anderen Fall gegen xAI, der in diesem Monat eingereicht wurde, behaupteten drei Teenager aus Tennessee, dass Grok Fotos von ihnen genutzt habe, um Kindespornografie zu erstellen und zu verbreiten. Die Klage, die von Minderjährigen eingereicht wurde, war die erste nach dem Skandal um die unerlaubte Bildgenerierung von Grok. Sie behauptete auch, dass eine Drittanbieter-App xAIs Technologie genutzt habe, um vollständig nackte Bilder der Mädchen zu erstellen, die dann online geteilt wurden.

Die Klage von Baltimore unterstreicht die wachsenden Sorgen um die Missbrauch von KI-Technologie und die Notwendigkeit stärkerer Regulierungen, um Individuen vor den Risiken von Deepfake- und Bildmanipulations-Technologien zu schützen. Mit der raschen Zunahme sexueller Bilder könnte der Fall erhebliche Auswirkungen auf die Zukunft der KI-Überwachung und rechtlichen Rahmenbedingungen haben.

Die rechtliche Aktion der Stadt kommt zu einem Zeitpunkt, in dem das öffentliche Vertrauen in KI-Systeme unter die Lupe genommen wird. Da immer mehr Nutzer auf KI-Assistenten wie Grok für alltägliche Aufgaben vertrauen, wird das Potenzial für Missbrauch und Ausbeutung persönlicher Daten zu einer dringenden Frage für Regulierer und Gesetzgeber weltweit.