Das KI-Modell Claude Mythos wurde von Anthropic entwickelt und ist Teil des breiteren KI-Systems namens Claude; Es umfasst den KI-Assistenten der Firma und eine Reihe von Modellen, die OpenAI’s ChatGPT und Googles Gemini konkurrieren.

Im April wurde das Modell als ‘Mythos Preview’ vorgestellt und als besonders fähig in Sicherheitsaufgaben beschrieben, as Forscher, die KI-Modelle auf spezifische Anfragen testen, fanden jedoch heraus, dass Mythos veraltete Code-Sicherheitslücken finden und diese leicht nutzen kann.

Dank dieser Fähigkeiten machte Anthropic Mythos nicht allgemein für Nutzer verfügbar; Stattdessen gewährte es Zugang zu 12 Technologieunternehmen über ein Projekt namens Project Glasswing; Ziel dieses Projekts ist es, die Widerstandsfähigkeit gegen Mythos zu stärken und die wichtigsten Software-Systeme der Welt zu sichern.

Zu den beteiligten Unternehmen zählen Technologieriesen wie Amazon Web Services, Apple, Microsoft, Google, Nvidia, Broadcom und Crowdstrike, and Anthropic gewährte zudem Zugang zu über 40 Organisationen, die für kritische Software verantwortlich sind.

Anthropic behauptet. Dass Mythos während der Tests in Sicherheits- und Hacker-Aufgaben menschliche Leistungen übertrau — Es kann kritische Fehler in alten Systemen erkennen und Vorschläge zur Ausnutzung machen. Ein solcher Fehler war bereits seit 27 Jahren in einem System vorhanden.

„Dies ist ernst genug, um die Aufmerksamkeit aller Finanzminister zu erfordern“, sagte der kanadische Finanzminister François-Philippe Champagne, auf Verweis auf Diskussionen über Mythos auf einer Sitzung des Internationalen Währungsfonds in Washington, D.C.

Andrew Bailey. Chef der Bank of England, sagte der BBC, dass die Institution die potenziellen Risiken, die die neueste KI-Entwicklung für Cyberkriminalität mit sich bringen könnte, sorgfältig prüft. Gleichzeitig führt die EU Diskussionen mit Anthropic über ihre Bedenken hinsichtlich Mythos.

Dario Amodei, CEO von Anthropic, sagte, dass das Unternehmen bereit sei, mit US-Regierungsbeamten zusammenzuarbeiten, um Risiken, die mit diesen Modellen verbunden sind, abzuwehren. In einem Video, das bei der Veröffentlichung von Project Glasswing veröffentlicht wurde, betonte Amodei die Notwendigkeit von Zusammenarbeit, um potenzielle Bedrohungen zu bekämpfen.

Ciaran Martin, ehemaliger Leiter des UK National Cyber Security Centres, sagte, dass die Behauptung, Mythos könne kritische Sicherheitslücken schneller als andere KI-Modelle erkennen, „die Leute wirklich erschütterte“.

Er fügte hinzu, dass Mythos im Grunde ein „sehr guter Hacker“ sei und bestehende Schwachstellen ausnutzen könne, gegen die Organisationen möglicherweise nicht abgesichert sind. Viele unabhängige Cybersecurity-Analysten haben Mythos jedoch noch nicht selbst getestet und bleiben skeptisch bezüglich seiner Leistung.

Das UK AI Safety Institute kam kürzlich zu dem Schluss, dass Mythos zwar ein sehr mächtiges Modell sei, aber seine größte Bedrohung für schlecht gesicherte Systeme sei. Theoretisch könne dieses Modell gestoppt werden, wenn grundlegende Cybersecurity-Maßnahmen vorhanden sind.

Fürchten um KI sind nicht neu, und die Entwicklung neuer Modelle und Tools ist häufig. Oft kommen diese mit Versprechen, unser Leben zu revolutionieren, für besser oder schlechter. Die Ausnutzung dieser Mischung aus Angst und Begeisterung ist zu einem Merkmal des KI-Sektors und seiner Marketingstrategien geworden.

Im Fall von Mythos wissen wir noch nicht genug, um zu entscheiden, ob diese Hoffnungen oder Ängste gerechtfertigt sind oder eher ein Spiegelbild der Hype-Unterstützung der Branche sind. Laut dem National Security Cyber Security Centre ist das Wichtigste, das wir jetzt tun können, nicht in Panik zu geraten und stattdessen darauf zu achten, dass grundlegende Cybersecurity-Maßnahmen vorhanden sind.

Die meisten Hacker benötigen keine Super-KI-Tools, um Systeme zu knacken, wenn einfache Angriffe oft ausreichen. Martin sagte der BBC, dass einige dies als apokalyptischen Ereignis betrachten, während andere glauben, dass es hauptsächlich Hype sei. Er fügte hinzu, dass es unabhängig davon, ob es dieses Tool oder zukünftige Werkzeuge von Anthropic oder seinen Wettbewerbern sei, eine Chance gebe, eine sicherere Online-Welt zu schaffen.

Im mittelfristigen Zeitraum gibt es eine Chance, diese Tools zu nutzen, um viele der grundlegenden Sicherheitslücken im Internet zu beheben, sagte Martin.