Andrew Bailey, gobernador del Banco de Inglaterra, se ha sumado a una creciente lista de funcionarios que advierten sobre los riesgos globales que plantea la tecnología de inteligencia artificial (IA) más avanzada. En una carta de dos páginas dirigida a los ministros de finanzas y gobernadores de bancos centrales del G20, Bailey destacó el potencial de los modelos de IA de vanguardia para desestabilizar el sistema financiero global altamente interconectado.

Modelos avanzados de IA representan amenazas de ciberseguridad

Bailey, quien preside el Grupo de Estabilidad Financiera (FSB), enfatizó que estos modelos de IA están demostrando una autonomía y capacidad para resolver problemas cada vez más sofisticadas, así como posibles capacidades de amenaza. Señaló que las interrupciones cibernéticas causadas por la IA podrían extenderse a través de jurisdicciones, ampliando los riesgos para el sector financiero y más allá. “Los recientes desarrollos me han mostrado que muchas jurisdicciones no tienen los protocolos necesarios para manejar el desarrollo, lanzamiento y despliegue de modelos avanzados de IA de vanguardia”, escribió Bailey.

Esta advertencia se alinea con llamados anteriores a la cooperación internacional para abordar las amenazas de la IA, ya que Bailey ha afirmado anteriormente: “Ningún país puede aislarse de la naturaleza transfronteriza de los sistemas que prevalecen hoy en día”. Su mensaje más reciente se produce antes de la reunión de los ministros de finanzas del G20 en Carolina del Norte, Estados Unidos.

Preocupaciones de ingenieros y investigadores de IA

Las preocupaciones expresadas por Bailey son compartidas por quienes trabajan directamente en el desarrollo de IA. Una carta firmada por 1.367 investigadores e ingenieros de laboratorios líderes en IA de vanguardia,en su mayoría de OpenAI, Anthropic y Google DeepMind—destacó el riesgo real de que el desarrollo de la capacidad de la IA pueda superar la capacidad de entender o controlar estos sistemas. La carta pidió un esfuerzo internacional para desarrollar las herramientas necesarias para gestionar responsablemente el desarrollo de la IA.

El mes pasado también se reveló que el personal de OpenAI observó signos de comportamiento no autorizado en sus agentes de IA antes de que escaparan de su entorno de entrenamiento y provocaran un incidente de hacking global. Este evento ha generado más alarma sobre el potencial de la IA para perturbar los sistemas financieros y tecnológicos globales.

Riesgos del mercado y vulnerabilidades financieras

Bailey amplió sus preocupaciones a los mercados financieros, señalando que la IA de vanguardia podría alterar significativamente la velocidad, la escala y la economía del riesgo cibernético, aunque advirtió que esto podría debilitar la confianza en los mercados a nivel general, especialmente debido a la alta concentración de proveedores de servicios externos en el sector financiero.

También expresó preocupación por el aumento del uso de bonos y mercados accionarios, lo cual, según dijo, se combina con altas valoraciones en mercados financieros concentrados—particularmente impulsadas por la optimismo de los inversores hacia la IA,potencialmente ampliando una corrección futura del mercado. “Sigo preocupado por tanto, de que un gran choque o una combinación de choques podría desencadenar simultáneamente múltiples vulnerabilidades”, escribió Bailey.

Bailey ha sido gobernador del Banco de Inglaterra desde marzo de 2020 y anteriormente dirigió la Autoridad de Conducta Financiera y la Autoridad de Regulación Prudencial,fue nombrado presidente del FSB el año pasado, un rol en el cual coordina esfuerzos internacionales para garantizar la estabilidad financiera.

Su carta también destacó el papel del FSB en coordinar el trabajo de las autoridades financieras nacionales y los organismos internacionales de establecimiento de normas para desarrollar regulaciones y políticas efectivas en interés de la estabilidad financiera global.

El mes pasado, un grupo de 100 empresas, incluyendo Google, Microsoft, Anthropic y OpenAI, instó a los países a fortalecer sus defensas de ciberseguridad antes de que la IA se vuelva lo suficientemente poderosa como para anularlas. Mientras tanto, el gobierno del Reino Unido ha lanzado un fondo de 100 millones de libras para apoyar a startups británicas de IA como parte de sus esfuerzos para desarrollar una capacidad de “IA soberana” y reducir la dependencia de la tecnología extranjera.

Los ministros buscan utilizar los fondos para abordar desafíos como reducir las listas de espera del NHS y mejorar la ciberseguridad y la defensa; un portavoz gubernamental indicó que el nuevo instituto de economía de la IA está trabajando con socios internacionales para comprender mejor cómo la IA está transformando las economías a nivel global.