Anthropic, eine KI-Start-up-Firma mit Sitz in San Francisco, hat bekannt gegeben, dass ihr noch nicht veröffentlichtes KI-Modell Claude Mythos in der Lage ist, Schwachstellen in Software effektiv zu erkennen, berichtet der Guardian. Das Modell hat bereits Tausende von Schwachstellen in gängigen Anwendungen identifiziert, die derzeit keine Patches oder Lösungen haben; Dies führte dazu, dass das Unternehmen mit Cybersecurity-Experten zusammenarbeitet, um die Sicherheit zu stärken und die Verbreitung des Modells einzuschränken.

Exklusiver Zugang für Cybersecurity-Experten

Mike Krieger von Anthropic Labs erklärte auf einer AI-Konferenz in San Francisco, dass das Unternehmen das Modell nicht der Öffentlichkeit zugänglich macht; Stattdessen erlaubt es Cybersecurity-Spezialisten und Open-Source-Ingenieuren, mit Mythos zu arbeiten, um es als Abwehrwerkzeug zu nutzen. Krieger erklärte, dass dies die Experten effektiv vorbereitet.

Die Fortschritte in der KI-Modelltechnik haben Bedenken hervorgerufen, dass Hacker solche Tools nutzen könnten, um Passwörter zu knacken oder Verschlüsselungssysteme zu brechen, die Daten schützen sollen. Laut Anthropic stammen die ältesten von Mythos entdeckten Schwachstellen bereits aus dem Jahr 1997 und wurden von ihren Erstellern nicht erkannt, berichtet der Guardian.

Cybersecurity-Risiken und gemeinsame Bemühungen

Claude Mythos ist die neueste Generation der KI-Modelle der Anthropic-Familie; Ein kürzlicher Leck der Quellcode führte dazu, dass das Start-up einen Blog-Beitrag veröffentlichte, in dem historische Cybersecurity-Risiken gewarnt wurden. Laut einem Blog-Beitrag von Anthropic haben KI-Modelle eine Codierungskapazität erreicht, die sie in der Lage macht, Schwachstellen in Software zu erkennen und auszunutzen, die selbst die meisten menschlichen Experten übertrifft. Die mögliche Auswirkung auf Wirtschaft, öffentliche Sicherheit und nationale Sicherheit könnte schwerwiegend sein.

Laut Anthropic sind die von Mythos entdeckten Schwachstellen oft subtil und schwer zu erkennen, ohne KI; Als Beispiel nannte das Unternehmen, dass Mythos eine bisher unbekannte Schwachstelle in Videosoftware identifizierte, die von ihren Erstellern mehr als 5 Millionen Mal getestet wurde.

In einer vorsichtigen Maßnahme hat Anthropic eine Version von Mythos an Cybersecurity-Unternehmen wie CrowdStrike und Palo Alto Networks sowie an Amazon, Apple und Microsoft weitergegeben. Das Projekt trägt den Namen „Glasswing“. Netzwerkgiganten wie Cisco und Broadcom sind ebenfalls an dem Projekt beteiligt, ebenso wie das Linux-Foundation, das den freien, Open-Source-Computerbetriebssystem Linux fördert.

Gemeinschaftsprojekt und Ressourcenverpflichtung

Anthony Grieco. Chief Security and Trust Officer von Cisco, erklärte in einer gemeinsamen Mitteilung über Glasswing, dass die Arbeit zu wichtig und dringlich sei, um sie allein durchzuführen. Er fügte hinzu. Dass die KI-Kapazitäten eine Schwelle überschritten haben, die die Dringlichkeit verändert hat, kritische Infrastrukturen vor Cyberbedrohungen zu schützen, und dass es keinen Rückweg mehr gibt.

Etwa 40 Organisationen. Die an der Gestaltung, Wartung oder Betrieb von Computersystemen beteiligt sind, sollen sich dem Projekt Glasswing angeschlossen haben, while Projektpartner sollen ihre Mythos-Erkenntnisse teilen, wie Anthropic mitteilte, das für das Projekt etwa 100 Millionen Dollar an Rechenressourcen bereitstellt. Frühe Arbeiten mit KI-Modellen haben gezeigt, dass sie Schwachstellen in Software und Hardware schneller und in größerem Maßstab erkennen und beheben können als zuvor möglich, sagte Grieco.

Elia Zaitsev, Chief Technology Officer von CrowdStrike, erklärte, dass der Zeitraum zwischen der Entdeckung einer Schwachstelle und ihrer Ausnutzung durch einen Angreifer sich verkleinert hat – was einst Monate dauerte, geschieht jetzt innerhalb von Minuten durch KI. Er fügte hinzu, dass die Preview von Claude Mythos zeigt, was jetzt für Verteidiger auf großem Maßstab möglich ist, und dass Angreifer unweigerlich versuchen werden, dieselben Fähigkeiten zu nutzen.

Anthropic hat Gespräche mit der US-Regierung über Mythos geführt, obwohl die Regierung im Februar einen Erlass verabschiedet hat, alle Verträge mit dem Start-up zu beenden. Dieser Erlass wurde von einem Richter eines Bundesgerichts ausgesetzt, während ein Rechtsstreit von Anthropic durch die Gerichte läuft.