Anthropic, una empresa de inteligencia artificial con sede en San Francisco, ha anunciado que su modelo de IA aún no lanzado, llamado Claude Mythos, ha demostrado ser altamente eficaz para identificar debilidades en el software, según el Guardian. El modelo ya ha descubierto miles de vulnerabilidades en aplicaciones comúnmente utilizadas que carecen actualmente de parches o soluciones, lo que ha llevado a la empresa a colaborar con expertos en ciberseguridad para mejorar las defensas y restringir su distribución.

Acceso exclusivo para especialistas en ciberseguridad

Mike Krieger de Anthropic Labs afirmó en una conferencia de HumanX AI en San Francisco que la empresa no lanzará públicamente el modelo. En su lugar. Permitirá que especialistas en ciberseguridad y ingenieros de código abierto trabajen con Mythos para usarlo como herramienta defensiva, armando así a los expertos con anticipación, explicó Krieger.

Los avances en las capacidades de los modelos de IA han generado preocupaciones sobre el uso de estas herramientas por parte de hackers para descubrir contraseñas o romper cifrados diseñados para proteger datos. Según Anthropic. Las vulnerabilidades más antiguas identificadas por Mythos datan de hace 27 años y no habían sido notadas previamente por sus creadores, según informó el Guardian.

Riesgos de ciberseguridad y esfuerzos colaborativos

Claude Mythos es la última generación de la familia de modelos de IA de Anthropic, aunque una fuga reciente de parte de su código llevó a la empresa a publicar un comunicado advirtiendo sobre riesgos históricos de ciberseguridad. En un comunicado. Anthropic afirmó que los modelos de IA han alcanzado un nivel de capacidad de programación donde pueden superar a todos menos a los humanos más expertos en encontrar y explotar vulnerabilidades en el software. Las consecuencias potenciales para las economías, la seguridad pública y la seguridad nacional podrían ser graves.

Según Anthropic. Las vulnerabilidades expuestas por Mythos eran a menudo sutiles y difíciles de detectar sin la ayuda de IA. Como ejemplo. Señaló que Mythos identificó una falla previamente no notada en un software de video que había sido probado más de 5 millones de veces por sus creadores.

Como medida preventiva. Anthropic ha compartido una versión de Mythos con empresas de ciberseguridad como CrowdStrike y Palo Alto Networks, así como con Amazon, Apple y Microsoft, en un proyecto denominado “Glasswing”. Las empresas de redes como Cisco y Broadcom también participan en el proyecto, junto con la Fundación Linux, que promueve el sistema operativo Linux de código abierto y gratuito.

Proyecto colaborativo y compromiso de recursos

Anthony Grieco. Director de seguridad y confianza de Cisco, afirmó en un comunicado conjunto sobre Glasswing que el trabajo es demasiado importante y urgente para hacerlo solo. Añadió que las capacidades de IA han cruzado un umbral que cambia fundamentalmente la urgencia requerida para proteger la infraestructura crítica de amenazas cibernéticas, y no hay marcha atrás.

Aproximadamente 40 organizaciones involucradas en el diseño, mantenimiento o operación de sistemas informáticos se han unido a Glasswing. Según Anthropic. Los socios del proyecto compartirán sus hallazgos de Mythos, y la empresa está proporcionando alrededor de 100 millones de dólares en recursos computacionales para la misión. El trabajo temprano con modelos de IA ha demostrado que pueden ayudar a encontrar y corregir vulnerabilidades en software y hardware a una velocidad y escala nunca antes alcanzadas, según Grieco.

Elia Zaitsev, director técnico de CrowdStrike, señaló que el tiempo entre la identificación de una vulnerabilidad y su explotación por parte de un adversario se ha reducido a cero—lo que antes tomaba meses ahora ocurre en minutos con IA. Añadió que la vista previa de Claude Mythos demuestra lo que ahora es posible para los defensores a gran escala, y los adversarios inevitablemente buscarán explotar las mismas capacidades.

Anthropic ha tenido discusiones con el gobierno de EE.UU. sobre Mythos, a pesar de un decreto del Consejo de la Casa Blanca en febrero para terminar todos los contratos con la empresa. Ese mandato fue suspendido temporalmente por un juez federal mientras la empresa presenta un desafío legal que avanza por los tribunales.