Claude Mythos es uno de los modelos de inteligencia artificial más recientes desarrollados por Anthropic, como parte de su sistema de inteligencia artificial más amplio, llamado Claude. Este sistema incluye el asistente de inteligencia artificial de la empresa y una familia de modelos que compiten con el ChatGPT de OpenAI y el Gemini de Google.

Anthropic presentó el modelo a principios de abril como una ‘previsualización de Mythos’ y lo describió como notablemente capaz en tareas de seguridad informática. Sin embargo. Investigadores de Red-team. Que prueban modelos de inteligencia artificial ante solicitudes específicas, encontraron que Mythos podía localizar fallos dormidos en código de varias décadas y explotarlos con facilidad.

Debido a estas capacidades. Anthropic no hizo disponible a Mythos para su uso general; en su lugar, otorgó acceso a 12 empresas tecnológicas a través de un programa llamado Project Glasswing. Este proyecto tiene como objetivo fortalecer la resiliencia contra Mythos y asegurar el software más crítico del mundo.

Las empresas participantes en Project Glasswing incluyen a grandes gigantes tecnológicos como Amazon Web Services, Apple, Microsoft, Google, Nvidia, Broadcom y Crowdstrike — Además, Anthropic también proporcionó acceso a más de 40 organizaciones responsables del software crítico.

¿Por qué hay preocupaciones?

Anthropic afirma que durante las pruebas, Mythos superó a los humanos en tareas de ciberseguridad y hacking; puede identificar fallos críticos en sistemas antiguos con poca supervisión y sugerir formas de explotarlos. Un tal vulnerabilidad había estado presente en un sistema durante 27 años.

Seguramente, es suficientemente grave como para merecer la atención de todos los ministros de finanzas, dijo el ministro canadiense de finanzas, François-Philippe Champagne, refiriéndose a las discusiones sobre Mythos en una reunión del Fondo Monetario Internacional en Washington DC.

El jefe del Banco de Inglaterra. Andrew Bailey. Le dijo al BBC que la institución está examinando cuidadosamente los posibles riesgos que el desarrollo más reciente de la inteligencia artificial podría representar para el crimen cibernético. Mientras tanto. La UE también ha estado en discusiones con Anthropic sobre sus preocupaciones respecto a Mythos.

El CEO de Anthropic. Dario Amodei, dijo que la empresa está dispuesta a trabajar con funcionarios del gobierno estadounidense para ayudar a defenderse de los riesgos asociados con estos modelos. En un video lanzado junto con el lanzamiento de Project Glasswing, Amodei enfatizó la necesidad de colaboración para abordar posibles amenazas.

¿Qué han dicho los expertos en ciberseguridad sobre ello?

Ciaran Martin, exjefe del Centro de Ciberseguridad Nacional del Reino Unido, afirmó que la afirmación de que Mythos podría descubrir vulnerabilidades críticas más rápidamente que otros modelos de inteligencia artificial había ‘realmente conmocionado a la gente’.

Agregó que Mythos es esencialmente un ‘hacker muy bueno’ y puede explotar debilidades existentes que las organizaciones podrían no haber parchado. Sin embargo, muchos analistas independientes de ciberseguridad aún no han probado Mythos personalmente y siguen siendo escépticos sobre su rendimiento.

El Instituto de Seguridad de la Inteligencia Artificial del Reino Unido concluyó recientemente que, aunque Mythos es un modelo muy poderoso, su mayor amenaza sería contra sistemas mal protegidos y vulnerables. En teoría, si se implementan medidas básicas de ciberseguridad, este modelo se detendría.

Las preocupaciones relacionadas con la inteligencia artificial no son nuevas, y el desarrollo de nuevos modelos y herramientas es frecuente. Estos suelen venir con promesas de revolucionar nuestras vidas, para mejor o peor. Aprovechar esta mezcla de miedo y entusiasmo se ha convertido en un sello del sector de la inteligencia artificial y sus estrategias de marketing.

En el caso de Mythos, aún no sabemos lo suficiente para determinar si estas esperanzas o preocupaciones están justificadas o más reflejan la exageración que rodea a la industria. Según el Centro de Ciberseguridad de Seguridad Nacional, lo más importante que podemos hacer ahora es no alarmarnos y en su lugar enfocarnos en garantizar que las medidas básicas de ciberseguridad estén en vigor.

La mayoría de los hackers no necesitan herramientas de inteligencia artificial superpoderosas para comprometer sistemas cuando a menudo bastan ataques mucho más simples. Martin le dijo al BBC que, aunque algunos lo ven como un evento apocalíptico, otros creen que es en gran parte exageración. Añadió que, ya sea esta herramienta o las siguientes desarrolladas por Anthropic o sus competidores, existía una oportunidad para construir un mundo en línea más seguro.

En el mediano plazo, hay una oportunidad para utilizar estas herramientas para corregir muchas de las vulnerabilidades subyacentes en Internet, dijo Martin.