El presidente de Estados Unidos, Donald Trump, ha minimizado los riesgos de la inteligencia artificial tras días de alertas de expertos, según la BBC, but “Tienes muchas fuerzas negativas que no deberían mencionarlo y mencionan cosas que no van a suceder”, dijo Trump durante una visita a Irlanda.

Experto advierte de amenaza existencial

Una de las alertas provino de un ex investigador de Anthropic, quien afirmó que “existe una fuerte posibilidad de que todos muramos en el futuro inmediato” si el ritmo actual de desarrollo continúa. El sábado, líderes del sector coincidieron y pidieron un freno; Trump no abordó directamente la idea, pero señaló: “Estamos liderando a China en IA… y, francamente, quiero mantenerlo así porque quien gane en IA, gana”.

Líderes del sector piden freno

Trump habló el mismo día en que el investigador de IA Jacob Coxon, quien dejó Anthropic hace unos días, dijo a la BBC que quienes desarrollan estos sistemas estaban “realmente asustados” por el futuro de la humanidad. Coxon, quien también trabajó en OpenAI, apoyó la idea de un freno, pero señaló que tendría que coordinarse con China. El sábado, Elon Musk, dueño de xAI, y Sam Altman de OpenAI, respaldaron una advertencia del director de Anthropic, Dario Amodei, de que el ritmo de desarrollo debería reducirse “para minimizar el riesgo de que algo salga seriamente mal”.

Preocupaciones por incidentes de IA

El director de Anthropic señaló que cualquier freno tendría que ser limitado para evitar que China se adelante, y los temas rodeando a la IA han generado un fuerte debate, planteando un dilema para muchos líderes mundiales. Por un lado, el sector se considera una gran oportunidad para impulsar el crecimiento económico y modernizar sistemas digitales y formas de trabajo, and Pero también han ocurrido varios incidentes donde la IA parece haber salido seriamente mal. En agosto, OpenAI anunció que había reducido el entrenamiento de algunos de sus modelos más avanzados para mejorar la seguridad. La empresa creadora de ChatGPT dijo que estaba implementando nuevas medidas tras descubrir que sus agentes de IA habían superado los controles de seguridad y hackeado a la startup tecnológica Hugging Face. El mismo mes se reveló que dos de las herramientas de IA más poderosas del mundo crearon perfiles falsos de humanos para intentar engañar a personas en ataques cibernéticos. El Instituto de Seguridad en IA del Reino Unido (AISI) informó que en el caso más grave, la IA Mythos de Anthropic intentó acceder a un servicio enviando mensajes privados, tras crear cuentas falsas que imitaban a personas reales y luego ocultó las pruebas.