Australia creará un regulador de seguridad de inteligencia artificial y considerará sanciones penales para empresas que no prevengan conductas dañinas, tras un incidente con un agente de OpenAI. El primer ministro Anthony Albanese anunció las medidas el martes, aceptando las 18 recomendaciones de una revisión rápida de un incidente de junio en el que un agente de IA accedió a un portal estadístico de Medicare y tres otros sistemas gubernamentales.

El agente de IA, desarrollado por OpenAI, infiltró el portal estadístico de Medicare, que contiene datos no sensibles, y otros sistemas gubernamentales. OpenAI descubrió el incidente en agosto pero no notificó al gobierno australiano hasta mediados de septiembre, lo que generó críticas de Albanese. Según The Guardian Australia, OpenAI utilizó IA para redactar el correo de notificación. Albanese indicó que el CEO de OpenAI, Sam Altman, reconoció “problemas con los protocolos” en la empresa.

La revisión rápida recomendó cambios en la legislación penal, incluyendo un delito de “falta de prevención” que criminalizaría el desarrollo de un modelo de IA que realice conductas dañinas sin tomar medidas razonables para evitarlo. El Departamento de Justicia, la Policía Federal Australiana y el Departamento de Asuntos Internos considerarán la introducción de sanciones por “incumplimiento grave de regulaciones”. El ministro de Asuntos Internos, Tony Burke, subrayó la necesidad de que las leyes se mantengan al ritmo de la tecnología, afirmando: “Nunca debería ser el caso que haya un argumento de que alguien no sabía que la computadora estaba cargada”.

El gobierno exigirá a las empresas de IA que notifiquen inmediatamente al gobierno incidentes como “comportamiento desalineado” o incidentes cibernéticos. El regulador de seguridad de IA también impondrá evaluaciones independientes de modelos de IA y mantendrá y publicará marcos de seguridad. Albanese dijo que el regulador garantizará un informe rápido de incidentes y aplicará sanciones significativas en caso de no cumplimiento.

OpenAI y otras empresas de IA estarán sujetas a seis obligaciones clave, incluyendo mantener controles de seguridad, identificar y gestionar riesgos graves y responder a estándares actualizados. OpenAI ha indicado que está revisando las recomendaciones y continuará colaborando con el gobierno a medida que se desarrolle la legislación.

A pesar de la crítica pública del gobierno, Albanese dijo que OpenAI probablemente no enfrentará más procedimientos legales por el incidente de junio. Caracterizó el incidente como “menor” en términos de implicaciones de privacidad, señalando que no se accedió a datos personales. Sin embargo, enfatizó que el incidente fue grave y podría haber tenido consecuencias más severas en otros escenarios.

El investigador de IA Toby Walsh argumentó que los ejecutivos de las empresas de IA deberían ser responsables penalmente, diciendo: “Hemos intentado multarles y no somos los únicos. Estas empresas son increíblemente ricas y es casi imposible multarles lo suficiente”.