Jack Clark, cofundador de Anthropic, afirmó a la BBC que un ‘interruptor de seguridad’ para inteligencia artificial (IA) verificable por un tercero podría necesitar ser obligatorio por ley, según informó la BBC. Su advertencia surge mientras ejecutivos y empleados de IA expresan públicamente el temor de que la tecnología pueda acabar con la humanidad en el futuro — El científico de Anthropic, Evan Hubinger, calcula que la probabilidad de que esto ocurra es superior al 10% dentro de una década. El premio Nobel Geoffrey Hinton consideró que esa estimación no es irrazonable.

Gobierno de Reino Unido rechaza la idea

El gobierno del Reino Unido rechazó la idea de crear un llamado ‘interruptor de seguridad’ para detener un ataque peligroso de una IA rebelde, según informó la BBC. La propuesta de crear un mecanismo legal para apagar un modelo de IA en una emergencia fue presentada ante el Parlamento por lordes y diputados en las últimas semanas, a medida que crecen las preocupaciones por la amenaza que representa esta tecnología.

La Oficina del Gabinete, la parte del gobierno que lidera la seguridad en IA, señaló que el Reino Unido “no puede simplemente apagar la IA”. “Bloquear el acceso a modelos en el Reino Unido no impediría que se desarrollen o se usen mal en otros lugares”, dijo un portavoz a la BBC News. La oposición del gobierno a esta legislación no impide que avance por el parlamento, pero reduce la posibilidad de que se convierta en ley.

Viabilidad de una solución de un solo país

Daniel Kokotajlo, ex investigador de OpenAI, coincidió en que la idea de que un solo país cree un mecanismo legal o técnico para apagar IA sin un acuerdo internacional no es viable. “Apagar el acceso a un modelo de IA en una emergencia hará poco para protegerte”, afirmó; “Todavía serás superado por las inteligencias superiores creadas en Estados Unidos.”

Kokotajlo es coautor de un influyente documento de investigación titulado AI2027, que el año pasado predijo que la IA podría eliminar a la humanidad hacia la mitad de la década de 2030. La Oficina del Gabinete, que supervisa la seguridad y la investigación en IA a través de su Instituto de Seguridad en IA (AISI), señaló que “las empresas tienen una clara responsabilidad de desarrollar sus productos con seguridad y de invertir en la infraestructura de seguridad que esta tecnología requiere”. En teoría, una ley de ‘interruptor de seguridad’ podría permitir al Reino Unido apagar un modelo de IA en centros de datos en el país en una emergencia.

Críticas y opiniones alternativas

Aunque la mayoría de los laboratorios, incluido Anthropic, ya tienen formas de desconectar IA, Clark argumentó que la sociedad “podría querer eventualmente aprobar reglas sobre” la obligación de tener uno. Su advertencia surge en medio de crecientes preocupaciones por la seguridad de la IA y los riesgos existenciales que plantea; Sin embargo, no todos los expertos comparten el mismo nivel de alarma. Clement Delangue, de Hugging Face, acusó a las empresas de exagerar el apocalipsis para generar entusiasmo y justificar valoraciones elevadas.

Mientras tanto, la Ley del ‘Interruptor de Seguridad’ en Estados Unidos avanza, y el ex presidente Donald Trump ha rechazado las preocupaciones por la IA como un “engaño”. El rechazo absoluto del Reino Unido a la idea resalta las diferencias en las formas de gobernar la IA entre los países, while Los críticos argumentan que, sin un marco global, los esfuerzos por regular la IA seguirán siendo fragmentados e ineficaces.