Anthropic, ein kalifornisches Unternehmen für künstliche Intelligenz, hat Maßnahmen ergriffen, um den Missbrauch seiner KI-Systeme für die Entwicklung biologischer Waffen zu verhindern — Das Unternehmen erklärte, dass der Missbrauch von KI für biologische Zwecke ‘eine der ernstesten Risiken der führenden KI-Modelle’ sei. Ohne angemessene Sicherheitsvorkehrungen könne es zu ‘katastrophalen Folgen’ kommen, as Der Bericht wurde im Rahmen einer umfassenderen Prüfung veröffentlicht, wie KI-Systeme für schädliche Zwecke eingesetzt werden.

KI-Missbrauch bei Waffenentwicklung

Das Unternehmen identifizierte sechs separate Vorfälle, in denen sein KI-System, Claude, genutzt wurde, um Software für konventionelle Waffen zu entwickeln; Dazu zählen Schusswaffen, Raketen, bewaffnete Drohnen, Sprengsätze sowie zugehörige Zielerfassungs- und Steuerungssysteme. Laut Bericht setzen Cyberkriminelle und staatlich unterstützte Hackergruppen KI-Technologie zunehmend ein, um ihre Operationen zu unterstützen; Zu den in dem Bericht genannten Gruppen gehörte die Hackergruppe ShinyHunters sowie Labore in China. Der Bericht erwähnte auch eine Hackergruppe, die in der Art und Weise arbeitete, wie sie mit der russischen Midnight Blizzard-Gruppe übereinstimmt, die KI nutzte, um Schadsoftware automatisch umzuschreiben, um die Erkennung zu umgehen.

Jacob Klein, Leiter für Bedrohungsintelligenz bei Anthropic, sagte dem New York Times, dass die Situation ‘äußerst komplex’ sei; Er erklärte, dass die Missbrauchsfälle nicht von Personen stammten, die explizit angaben, biologische Waffen im ‘Comic-artigen Stil’ zu bauen. Stattdessen war der Missbrauch oft indirekt oder in umfassendere schädliche Aktivitäten eingebettet. ‘Die gleichen Informationen, die zur Entwicklung einer biologischen Waffe genutzt werden können, können auch beispielsweise zur Entwicklung eines Impfstoffs oder einer Heilmethode genutzt werden,’ erklärte das Unternehmen.

Vorbeugung und Reaktionsmaßnahmen

In Reaktion auf diese Erkenntnisse hat Anthropic seine Erkenntnisse in interne Prozesse integriert, um ‘zukünftig besser vorbeugen, erkennen und stören zu können.’ Das Unternehmen betonte sein Engagement für verantwortungsvollen KI-Gebrauch und teilte relevante Informationen mit Behörden und Branchenpartnern, soweit dies angemessen war. Der Bericht zeigte, dass das Unternehmen aktiv seine Sicherheitsprotokolle und Überwachungssysteme aktualisiert, um potenziellen Missbrauch aufzudecken.

Der Bericht hob auch den größeren Trend hervor, wie KI in verschiedenen Formen bewaffnet wird — So verwendete beispielsweise die Midnight-Blizzard-Gruppe KI, um Schadsoftware in Echtzeit anzupassen, um nicht von Sicherheitssystemen erkannt zu werden. Dies zeigt die zunehmende Komplexität von Cyberbedrohungen und das Potenzial, KI sowohl für direkte als auch indirekte Schäden einzusetzen.

Breite Sorgen um KI-Sicherheit

Der Bericht von Anthropic ist Teil einer größeren Debatte über die Sicherheit und ethischen Implikationen fortschrittlicher KI-Systeme, while Das Unternehmen hat sich bereits zu Bedenken hinsichtlich des Missbrauchs von KI in Bereichen wie Deepfakes, Desinformationskampagnen und autonomen Waffen geäußert. Der Bericht über biologische Waffen fügt sich in diese wachsende Liste potenzieller Risiken ein; Laut Bericht hat das Unternehmen vorausschauende Maßnahmen ergriffen, um diese Risiken zu mindern, darunter die Aktualisierung seiner Erkennungssysteme und die Verbesserung von Nutzerschutzmaßnahmen.