Die US-Behörden haben die neuesten neuronalen Netzwerke von Anthropic weltweit umgehend abgeschaltet.

Die US-Behörden forderten umgehende Beschränkungen des Zugangs zu den neuesten KI-Modellen Fable 5 und Mythos 5, die von Anthropic (dem Entwickler des bekannten neuronalen Netzes Claude) entwickelt wurden. Infolgedessen wurden die Dienste für Nutzer weltweit abgeschaltet, obwohl der Zugang zu diesen Systemen ursprünglich nur für ausländische Staatsbürger beschränkt war.

Laut veröffentlichten Informationen erfolgte die Entscheidung aufgrund von Bedenken hinsichtlich der nationalen Sicherheit der USA. US-Behörden zufolge wurde eine Methode entdeckt, um die eingebauten Beschränkungen der Modelle zu umgehen, sodass diese zur Aufspürung von Software-Schwachstellen und zur Durchführung potenziell gefährlicher Cyberoperationen eingesetzt werden können.



Anthropic kritisierte die Entscheidung der Regulierungsbehörden scharf. Das Unternehmen erklärte, die Behörden hätten nur unzureichende Beweise für das Problem vorgelegt und faktisch die Abschaltung fortschrittlicher Modelle ohne umfassende Risikobewertung gefordert. Laut den Entwicklern ist die entdeckte Methode nicht auf Fable 5 und Mythos 5 beschränkt, und ähnliche Ansätze könnten potenziell auch auf andere moderne neuronale Netze angewendet werden.

Unternehmensvertreter betonen, dass ein absoluter Schutz vor sogenannten „Jailbreaks“ – Methoden zur Umgehung von KI-Beschränkungen – derzeit nicht existiert. Sie argumentieren, dass die Praxis, Modelle nach der Entdeckung solcher Schwachstellen vollständig zu deaktivieren, die Entwicklung der gesamten KI-Branche erheblich verlangsamen und die Markteinführung neuer Systeme effektiv blockieren könnte, sollte sie zur Norm werden.

Die Situation ist angesichts der kürzlich erfolgten Veröffentlichung von Fable 5 besonders brisant. Das Modell wurde erst vor wenigen Tagen als erste öffentlich verfügbare Version der neuen KI-Klasse Mythos vorgestellt. Anthropic bewarb es als eines der leistungsstärksten Systeme für Programmierung, wissenschaftliche Forschung und die Lösung komplexer analytischer Probleme. Das Unternehmen hatte jedoch bereits zusätzliche Sicherheitsvorkehrungen getroffen, die den Einsatz des Modells in sensiblen Bereichen wie Cybersicherheit und biologischer Forschung einschränken.

Anthropic selbst bestätigte bereits, dass die Mythos-Familie über außergewöhnliche Fähigkeiten zur Erkennung von Software-Schwachstellen verfügt. Im Rahmen des Glasswing-Projekts wurden diese Modelle zur Analyse kritischer Software und zur Identifizierung potenzieller Sicherheitsbedrohungen eingesetzt. Beobachter vermuten, dass genau diese Fähigkeiten die verstärkte Aufmerksamkeit der US-Behörden ausgelöst haben könnten.

Dieses Ereignis könnte einen wichtigen Präzedenzfall für die gesamte Branche schaffen. Erstmals haben US-Exportbeschränkungen nicht nur KI-Hardware, sondern auch hochentwickelte KI-Modelle selbst wirksam betroffen. Sollte dieser Ansatz auf andere Entwicklungen ausgeweitet werden, könnte dies die Spielregeln des globalen KI-Marktes grundlegend verändern.