Florida es el primer estado de Estados Unidos en demandar a OpenAI por el diseño y la seguridad de su chatbot de inteligencia artificial (IA), ChatGPT, según un reporte de la BBC. La demanda. Presentada por el fiscal general de Florida, James Uthmeier, acusa a OpenAI y a su director ejecutivo, Sam Altman, de poner en peligro y adictar a los niños, ayudar y alentar a los perpetradores de tiroteos masivos y alentar a los usuarios a la suicidio, mientras la empresa se enfoca en obtener beneficios.

Múltiples acusaciones contra OpenAI

En una declaración sobre la demanda. OpenAI afirmó que ha “implementado medidas y políticas líderes en la industria”. La demanda civil busca responsabilizar a Altman por conducta “arrogante y deliberada”, incluyendo “un total desprecio por el riesgo que su empresa representa para la vida humana”.

La demanda de Florida incluye múltiples acusaciones contra OpenAI, entre ellas prácticas comerciales engañosas e injustas, negligencia, violaciones a las leyes de responsabilidad por productos, falsas representaciones y causar un molesto público. El documento menciona el tiroteo masivo en Florida State y el asesinato de dos estudiantes doctorales de la Universidad de South Florida, donde el sospechoso habría preguntado a ChatGPT sobre el manejo de cuerpos humanos, según los fiscales.

Enfoco en beneficios sobre la seguridad pública

“Sam Altman y ChatGPT han elegido la carrera por la IA en lugar de la seguridad y protección de nuestros niños; han elegido el beneficio sobre la seguridad pública, y no lo vamos a permitir en Florida. Por eso los haremos responsables”, dijo Uthmeier en una rueda de prensa el lunes.

OpenAI respondió afirmando: “Perder a un hijo es la tragedia más devastadora que puede ocurrir a una familia, y sabemos que ninguna palabra puede acercarse a la magnitud del dolor de una pérdida así. La IA es una tecnología nueva y poderosa, y creemos que los menores necesitan una protección significativa, por eso hemos implementado medidas y políticas líderes en la industria”.

La empresa añadió que integra directamente en sus productos medidas de seguridad para menores, citando una herramienta de detección de edad y otros métodos para que los padres supervisen el uso de la IA por parte de sus hijos. “Sabemos que mencionar este trabajo no devolverá a un niño, pero estamos comprometidos a lograrlo”, dijo un portavoz de OpenAI.

Desafíos legales más amplios sobre la seguridad de la IA

La demanda de Florida forma parte de un creciente número de desafíos legales contra OpenAI. La empresa enfrenta una serie de demandas sobre sus prácticas de seguridad, incluyendo varias que acusan a ChatGPT de actuar como un ‘entrenador’ para suicidios y alentar delirios dañinos. Las familias de algunas víctimas del tiroteo masivo en Tumbler Ridge, Canadá, también han demandado a OpenAI, que bloqueó la cuenta de ChatGPT del sospechoso debido a un uso problemático, pero no alertó a las autoridades.

OpenAI se disculpó por no contactar a la policía en el caso de Tumbler Ridge, pero explicó que la cuenta del sospechoso no cumplía con su umbral de un plan creíble o inminente de daño físico grave a otras personas. Otras grandes empresas tecnológicas también enfrentan desafíos legales, ya que plataformas de redes sociales como Meta, propietaria de Instagram, Snap Inc, TikTok y YouTube de Google, están lidiando con demandas de estados, distritos escolares e individuos que acusan a estas plataformas de estar diseñadas para ser adictivas.

En marzo. Meta y Google fueron declaradas responsables por daños causados por una demandante de 20 años que afirmó que diseñaron intencionalmente sus plataformas para ser adictivas. Este caso marcó un cambio notable en el ámbito legal, ya que las empresas tecnológicas han argumentado durante mucho tiempo que no son responsables del contenido generado por los usuarios. Sin embargo, los casos de responsabilidad por decisiones de diseño parecen estar ganando terreno.

Uthmeier y el gobernador de Florida. Ron DeSantis, ambos republicanos, han generado frustración en las empresas de IA, que han disfrutado de un fuerte apoyo del presidente estadounidense Donald Trump. Florida ha resistido los esfuerzos del gobierno de Trump por limitar la regulación de la IA por parte de los estados y recientemente propuso una “Declaración de Derechos sobre la IA” para los ciudadanos, con el objetivo de fortalecer la privacidad de los datos y proteger a los residentes de los impactos financieros negativos de los centros de datos.