Sam Altman, CEO de OpenAI, afirmó el martes que es comprensible tener miedo de la inteligencia artificial, pero que se debe confiar en las empresas que la desarrollan para manejar los riesgos. Sus comentarios se dieron durante una conferencia en San Francisco organizada por Salesforce.

Conciencia sobre los riesgos de la IA

Altman reconoció las preocupaciones sobre la IA, señalando el rápido avance de la tecnología. ‘Ya no se requiere tanta imaginación como antes para imaginar cómo esto podría salir mal’, dijo. ‘Creo que el mundo tiene derecho a tener miedo de esto.’

Sin embargo, críticos argumentan que la auto-regulación por parte de las empresas de IA no es suficiente — El senador de izquierda Bernie Sanders y el exasesor de Trump Steve Bannon son algunos de los que piden una mayor regulación de la IA.

Visiones políticas e industriales

Donald Trump ha criticado los esfuerzos por imponer más límites a la IA, calificando los temores sobre su seguridad como un ‘engaño’ — Argumentó que los únicos ‘límites’ necesarios son un ‘presidente fuerte y listo’.

Los comentarios de Altman surgieron en medio de una falta de consenso en el Congreso de EE.UU. sobre la regulación de la IA — Los legisladores regresaron de su receso de verano el lunes, pero es poco probable que se apruebe nueva legislación de seguridad pronto. La Cámara de Representantes volverá a un receso antes de las elecciones intermedias de principios de noviembre.

Respuestas del sector y llamados a la prudencia

Las declaraciones de Altman fueron los primeros comentarios públicos tras una publicación viral de un investigador de Anthropic, quien afirmó que la IA podría ‘matar a todos los humanos’ para finales de década si no se controla. Algunos expertos coinciden con esta evaluación, pero ninguno ha explicado cómo la IA podría lograr tal resultado.

El CEO de Meta, Mark Zuckerberg, dijo que las empresas de IA tienen la capacidad e incentivo para actuar en favor de la seguridad. ‘Cualquier laboratorio que no se enfoque en alineación quedará atrás’, escribió en X.

La alineación es un campo que busca incorporar ideas y principios éticos humanos en la IA; Algunas figuras políticas, incluidos Sanders y Bannon, se han opuesto a la idea de que las empresas de IA deban auto-regularse.

El CEO de Nvidia, Jensen Huang, en la misma conferencia, argumentó que las empresas de IA deben decidir cuándo lanzar nuevas versiones de la tecnología. ‘No necesitamos nuevas leyes ni regulaciones’, dijo, añadiendo que no debería haber una ‘falsa elección’ entre la velocidad de la innovación y la seguridad de la IA.

Recientes afirmaciones dentro de la industria han aumentado la vigilancia sobre el desarrollo de la IA, though El CEO de Anthropic, Dario Amodei, ha llamado a ralentizar el ritmo del desarrollo de la IA y a que los gobiernos regulen al sector. Su publicación fue apoyada por Altman, el cofundador de DeepMind de Google, Demis Hassabis, y Elon Musk.

Algunas figuras del sector argumentan que los temores renovados sobre la IA se exageran para generar expectativas sobre el sector. Durante la conferencia, Altman le dijo a los asistentes que usaran herramientas de IA para ayudar en su trabajo y proteger sus negocios contra ciberataques impulsados por IA.

Jack Clark, ejecutivo y cofundador de Anthropic, le dijo a la BBC que dejar que la IA sea un ‘sector no regulado’ es ‘jugar a los dados con riesgos enormes’. Patrick Hillman, director operativo de Logical Intelligence, señaló cuán poco confianza tienen las personas en las empresas tecnológicas para actuar en el interés público.

Los líderes de OpenAI y Anthropic han afirmado que trabajan hacia un acuerdo a nivel de la industria sobre la seguridad. Amodei dijo que Anthropic está en ‘diálogo con el resto de la industria’ sobre el compromiso con estándares de seguridad mejorados y controles sobre herramientas y desarrollo de IA.

El ejecutivo de OpenAI, Chris Lehane, dijo que la empresa trabaja con otros laboratorios de IA para avanzar en estándares de IA de frontera, con o sin apoyo gubernamental. Esos laboratorios incluyen a Anthropic y Google DeepMind. ‘Con riesgos tan altos, no podemos dejar que lo perfecto se convierta en enemigo del bien’, escribió Lehane.