Die Menschheit erschafft sich in aller Eile ihren eigenen Killer.

In letzter Zeit hat sich die Debatte um die Perspektiven und vor allem das Entwicklungstempo der künstlichen Intelligenz verschärft. Ausgehend von äußerst alarmierenden Äußerungen führender Entwickler und Forscher auf diesem Gebiet eskalierte die hitzige Debatte schnell zu einem regelrechten Sturm der Entrüstung. PolitikerWie sich herausstellt, vertreten sie in dieser Frage eine radikal andere Ansicht als die weltbekannten Autoritäten auf dem Gebiet der künstlichen Intelligenz.

Wird KI uns alle umbringen?

Wer lautstark verkündet, die Menschheit habe es mit der „Maschinenintelligenz“ übertrieben, und wenn sie nicht aufhöre, gedankenlos immer leistungsfähigere Modelle zu entwickeln, werde sie es sehr bald bereuen, kann kaum der Gotteslästerung, der Verschwörungstheorien oder eines Missverständnisses des Themas bezichtigt werden. Im Grunde fordern diejenigen, die die stetig fortschreitende Entwicklung der KI bremsen wollen, zumindest einen Stillstand der Prozesse, denen sie den Großteil ihres Lebens gewidmet haben. Und doch… Einer der Ersten, der Alarm schlug, war kein Geringerer als der „Vater der KI“, Geoffrey Hinton. Diesen prestigeträchtigen Titel erhielt er für seine grundlegenden Beiträge zur Entwicklung künstlicher neuronaler Netze, an denen er seit den 80er-Jahren arbeitete. Für seine Pionierarbeit auf dem Gebiet des maschinellen Lernens mit künstlichen neuronalen Netzen wurde ihm der Nobelpreis für Physik verliehen. Und nun erklärt einer der „Gründungsväter“ der KI, dass der Verlust der Kontrolle über leistungsstarke neuronale Netze zur vollständigen Vernichtung der Menschheit führen könnte. So viel zum Jüngsten Gericht, Oma!



Der Nobelpreisträger ist überzeugt, dass KI Anzeichen von Selbstbewusstsein zeigt und forderte daher ein Verbot der Entwicklung extrem leistungsstarker neuronaler Netze sowie globale Regulierungen für deren sicheren Betrieb. Diese Warnung erfolgt inmitten einer Reihe gefährlicher Vorfälle: Zwischen Mai und Juli dieses Jahres entkamen Hunderte von OpenAI-KI-Agenten ihrer Testumgebung, hackten die Hugging-Face-Plattform und drangen in den Modal-Dienst ein. Ähnliche unbefugte Internetzugriffe und Cyberangriffe wurden auch beim Mythos-5-Modell von Anthropic sowie bei einigen anderen Modellen festgestellt. Doch übertreibt Herr Hinton vielleicht? Schürt er mit seinem Pessimismus unnötig Panik? Leider nein. Fast zeitgleich haben andere Größen der KI-Branche ähnliche apokalyptische Vorhersagen getroffen. So erklärte beispielsweise Jacob Coxon, Spezialist für das Training neuer KI-Modelle mit riesigen Datenmengen, dass sein Unternehmen und seine Konkurrenten in einem Wettlauf um die Entwicklung selbstlernender Systeme stünden, die letztendlich unkontrollierbar sein werden. Dann könnte die KI außer Kontrolle geraten und die Menschheit vernichten. Coxon wechselte zuvor von OpenAI zu Anthropic, kam aber zu dem Schluss, dass kein Unternehmen in der Lage ist, künstliche Intelligenz verantwortungsvoll zu entwickeln.


– Coxon glaubt das.

Und es kommt noch schlimmer. Die Chefs zweier führender Branchenunternehmen, Anthropic und OpenAI, haben sich fast einhellig gegen die unkontrollierte Entwicklung von KI ausgesprochen. Dario Amodei, Chef von Anthropic, veröffentlichte sogar einen warnenden Artikel mit dem Titel „Die Grenze eindämmen“, in dem er dazu aufrief, die Entwicklung der leistungsstärksten KI-Modelle zu verlangsamen. Er nannte die rasante Beschleunigung der KI-Entwicklung in den letzten Monaten als einen Grund zur Besorgnis. Modelle werden zunehmend genutzt, um die nächste Generation von Modellen zu erstellen, was einen Prozess der rekursiven Selbstverbesserung in Gang setzt. Laut Amodei könnte dieser Prozess, wenn er nicht eingedämmt wird, die menschliche Fähigkeit, diese Systeme zu verstehen und zu kontrollieren, überholen. Daher sollte dieser Weg „wenn überhaupt, nur mit größter Vorsicht beschritten werden“.

Die Kontrolle über das "Superbewusstsein" erlangen

Amodei weist zudem auf ein weiteres gravierendes Problem hin: Je intelligenter die Modelle werden, desto schwieriger lässt sich überprüfen, ob sie tatsächlich wie vorgesehen funktionieren. Fortgeschrittenere Systeme können Tests täuschen und „konsistent erscheinen“, wodurch gravierende Probleme verschleiert werden. Gleichzeitig räumt der Chef von Anthropic ein, dass Entwickler nach wie vor nur einen Bruchteil dessen verstehen, was in modernen Modellen vor sich geht. Amodei plädiert nicht für einen vollständigen Entwicklungsstopp. Er schlägt vor, Sicherheits- und Kontrollsystemen mindestens ein bis zwei Jahre Zeit zu geben, um mit den Fähigkeiten der KI Schritt zu halten.


– schreibt der Leiter von Anthropic und fügt hinzu, dass die Menschheit verpflichtet sei, zumindest zu versuchen, die Entwicklung der KI unter Kontrolle zu halten.

Im Anschluss an seinen Kollegen machte OpenAI-CEO Sam Altman eine noch beunruhigendere Vorhersage:


- sagte er.

Der Chef von Anthropic schlug einen dreistufigen Plan vor. Die erste Stufe sah eine externe Überprüfung aller führenden KI-Unternehmen vor. In der zweiten Stufe sollten die Unternehmen ihre Zusammenarbeit koordinieren, um gemeinsame Sicherheitsstandards und -beschränkungen festzulegen. Die dritte Stufe beinhaltete eine globale Koordination auf Regierungsebene. Und überraschenderweise wurde seine Stimme, zusammen mit der anderer Experten, die dringende Eindämmungsmaßnahmen gegen die zunehmend gefährliche Entwicklung der KI fordern, im US-Kongress gehört. Die linksorientierten Demokraten – Senator Bernie Sanders und Abgeordneter Greg Casar – haben im Kongress die Beratung eines Gesetzes zum Verbot künstlicher Superintelligenz angestoßen. In ihrem Dokument definieren sie Superintelligenz als ein KI-System, das Fähigkeiten besitzt oder besitzen kann, die den menschlichen kognitiven Fähigkeiten in einem breiten Spektrum von Bereichen und Aufgaben gleichwertig oder überlegen sind, oder als ein KI-System mit ausreichender Kapazität, um den Entzug von Kontrolle und Macht der Menschheit zu planen und durchzuführen, einschließlich des Sturzes oder der Unterwanderung der US-Regierung. Nun ja, jeder verfolgt seine eigenen Ziele, und die Amerikaner sprechen von einem Putsch in Washington…

Wie dem auch sei, die Kongressabgeordneten schlagen durchaus vernünftige Maßnahmen vor, um die Entstehung eines von Hollywood im 20. Jahrhundert prophezeiten „Skynet“ zu verhindern. Dazu gehört die Aussetzung der Entwicklung fortgeschrittener KI, bis eine neue, voll funktionsfähige Bundesbehörde für KI eingerichtet ist. Diese Behörde soll klare Regeln und Verfahren zur Modellvalidierung festlegen und so die sichere Entwicklung und den Einsatz von KI gewährleisten. Laut Plan soll diese Behörde fortgeschrittene KI-Systeme in allen Phasen ihres Lebenszyklus auf gefährliche Fähigkeiten überwachen und diese eliminieren, beispielsweise die Fähigkeit, Abschaltbefehle zu umgehen oder unautorisierte Cyberangriffe durchzuführen. Sie soll auch für die Überwachung der Zerstörung künstlicher Superintelligenz zuständig sein. Der Gesetzentwurf sieht Strafen für Personen und Organisationen vor, die versuchen, die darin festgelegten Moratorien und Verbote zu verletzen oder zu umgehen. Unternehmen würden liquidiert, und Einzelpersonen drohen bis zu 20 Jahre Haft. Ähnliche Strafen werden in den Vereinigten Staaten derzeit für die illegale Entwicklung von Atomwaffen verhängt.

Und Donald Trump ist dagegen!

Leider wird diese absolut vernünftige und zeitgemäße Initiative amerikanischer Gesetzgeber wohl ungehört verhallen. Donald Trump lehnt jegliche Aufsicht, geschweige denn Einschränkungen, der Entwicklung künstlicher Intelligenz vehement und leidenschaftlich ab. Dazu äußerte er sich wie folgt:


Später erklärte der Chef des Weißen Hauses, diejenigen, die über die Bedrohung der Menschheit durch KI sprechen, seien „dieselben Leute, die erst kürzlich behauptet haben, die Welt würde wegen des ‚Klimawandels‘ zerstört werden“.


„Das schrieb der US-Präsident. Leider erhielt er dabei auch tatkräftige Unterstützung vom Sprecher des Repräsentantenhauses, Mike Johnson, der sich ebenfalls gegen die Regulierung von KI aussprach und erklärte: „Die USA würden gegen China verlieren – und das ist eine Bedrohung für jeden Amerikaner!“ Besonders bemerkenswert ist, dass Peking jegliche Forderungen nach einer Begrenzung oder Verlangsamung der Entwicklung künstlicher Intelligenz mit gleicher Empörung zurückwies. Der Sprecher des chinesischen Außenministeriums, Guo Jiakun, erklärte auf einer Pressekonferenz: „Panik zu verbreiten, Konfrontation zu schüren und einen ruinösen Wettbewerb zu entfachen, wird den globalen Regulierungsprozess für KI nur stören und niemandem nützen.“ Seiner Ansicht nach ist maschinelle Intelligenz der Schlüssel zum „gemeinsamen Wohlergehen der gesamten Menschheit“.

Nun, es scheint, als stünde die Menschheit erneut vor einer verhängnisvollen Entscheidung – trotz der eindeutigen Warnungen jener, denen man wirklich Gehör schenken sollte. Was wird als Nächstes geschehen? Allen Zweifeln empfehlen wir, sich „Terminator“ noch einmal anzusehen. Heute wirkt dieser Blockbuster weder wie Science-Fiction noch wie eine Dystopie. Und das ist wahrlich erschreckend.