Die Entwicklungsbremse für KI ist Munition für Untergangspropheten
AI Doomer
Die Entwicklungsbremse für KI ist Munition für Untergangspropheten
Das Drehbuch des Katastrophenmarketings ist immer gleich. Die Atempause wird nicht funktionieren, auch wenn die Grundidee einer Aufsicht nicht schlecht ist
Analyse
/
Peter Zellinger
Fragt man Dario Amodei, ob Künstliche Intelligenz die Menschheit auslöschen wird, gerät er erst einmal ins Stottern. Ein klares "Ja" oder "Nein" kommt ihm nicht über die Lippen. Nach einer Schrecksekunde bringt der Chef von Anthropic dann seine übliche Marketing-Botschaft an: Sein Unternehmen ist das Verantwortungsvollste in der Branche. Die Bösen sind die anderen. Er meint damit OpenAI.
Die Warnungen vor dem baldigen Untergang der Menschheit, wie sie von einem seiner nunmehrigen Ex-Mitarbeiter vorgetragen wurden, hätten gar nicht sein Unternehmen betroffen, erklärt Amodei. Er meint wieder OpenAI. Es gehe viel mehr um die "Dynamik" der gesamten Industrie. Eines Marktes der im Enterprise-Bereich – je nach Quelle – zwischen 40 und 44 Prozent von seinem Unternehmen beherrscht wird.
Chance auf Vernichtung doch nicht so groß
Insgesamt sei die Chance, dass Künstliche Intelligenz die Menschheit auslöscht, "nicht so groß", sagt Amodei, wenn man die richtigen Pfade einschlage. Eine Prozentangabe, wie wahrscheinlich der Untergang der Zivilisation ist, will Amodei nicht geben, das ist ihm zu unseriös. Da könne man auch würfeln.
Wichtiger sei, dass man eben einen sicheren Pfad einschlage, dann sei auch das Risiko, dass etwas katastrophal schiefgeht, sehr gering, sagt Amodei im Interview mit CNN.
Der Atombomben-Vergleich
Das alles klingt doch deutlich anders, als all die Untergangspropheten uns das aktuell weismachen wollen. Losgetreten hatte die neue Welle der AI-Doomer ein 27-jähriger Brite namens Jacob Coxon. Der Mathematiker hatte seinen Job bei Anthropic gekündigt und mit großen Worten vor den Folgen der rasanten KI-Entwicklung gewarnt. Die Argumentation: Die Atombombe wurde in den USA in geheimen Bunkern entwickelt, den Code für KI-Software hat – zugespitzt formuliert – jeder Depp auf seinem Macbook.
Ein reichlich unpassender Vergleich, die Atombombe wurde mit einem klaren Ziel entwickelt: Sie sollte maximale Zerstörung anrichten und den Zweiten Weltkrieg gewinnen. KI-Systeme sind keine Waffe, sie entfalten ihre maximale Wirkung im Alltag: von einer effektiveren Bürokratie bis hin zu wissenschaftlicher Forschung. Eine Abschottung in Bunkern, wie Coxon sie indirekt fordert, würde den gesamten Kernnutzen dieser Technologie zunichtemachen.
Die Logik des Marktes verhindert eine Pause
Die KI-Entwicklung folgt einer streng privatwirtschaftlichen Logik: Entscheidungen unterliegen dort Quartalszahlen, Investorendruck und dem Zwang zur Kommerzialisierung. Richtig Geld verdient niemand.
Anthropics erstes Quartal in schwarzen Zahlen wurde regelrecht gefeiert, OpenAI schreibt hingegen gigantische Verluste und musste den geplanten Börsengang verschieben. Nur Googles Taschen sind tief genug, um die KI-Kosten über viele Jahre auszugleichen. Was Meta währenddessen aufführt, weiß im Konzern selbst niemand.
Altman und Musk muss man nicht glauben
Aber zurück zur Entwicklungspause: Schon der berüchtigte offene Brief des Future of Life Institute vom Frühjahr 2023 forderte eine sechsmonatige Pause für neue Modelle. Was passierte stattdessen? Elon Musk kaufte zehntausende GPUs, gründete xAI und brachte Grok an den Start. Niemand hielt an. Das Wettrüsten beschleunigte sich massiv, Mitunterzeichner Musk sprach vom Wohle der Menschheit, war aber in Wahrheit nur auf einen Vorteil für sein Unternehmen bedacht. Was seine Zustimmung zu Amodeis Idee wert ist? Nichts.
Dass nun ausgerechnet Sam Altman seinem Erzrivalen Amodei zustimmt, folgt ebenfalls einem gewissen Drehbuch: tugendhaftes Innehalten predigen, während die Gasturbinen für das nächste Rechenzentrum angeheizt werden. Den Präzedenzfall lieferte Altman selbst vor wenigen Wochen.
Schaut her, wir sind auch gefährlich!
Als durch schlampige interne Aufsicht KI-Agenten ausbrachen und die Entwicklerplattform Hugging Face hackten, versprach Altman eine Pause in der Entwicklung.
Diese bestand aus einer zweiwöchigen Verschiebung der Veröffentlichung von Astra alias GPT-6. Der OpenAI-CEO nutzte die gewonnene Zeit intensiv für Katastrophenmarketing: Er biss in jedes Mikrofon und stand auf jedem ihm angebotenen Podium, um die Fähigkeiten seiner Technologie zu preisen. Die Botschaft: Seht her, wir sind gefährlich – und der Konkurrenz weit voraus.
Amodeis Plan hat Schwachstellen
Amodei räumt die größte Schwachstelle seines Plans selbst ein: Er funktioniert nur, solange der technologische Vorsprung gegenüber China groß genug bleibt. Aktuell trainiert man in China eigene Modelle durch Destillation, also indem man westliche Modelle anzapft. Noch fehlt es an Eigenentwicklungen, aber das könnte sich künftig ändern.
Das führt gleich zum nächsten Problem: In Washington wird Künstliche Intelligenz als entscheidendes Instrument militärischer Dominanz gesehen. Die Trump-Regierung wird eine echte Drosselung der KI-Entwicklung nicht anordnen, solange auch nur das geringste Risiko besteht, von China überholt zu werden.
Der Wunsch vom KI-Kartell
Amodei geht aber noch weiter: Er möchte, dass KI-Unternehmen Kartelle bilden dürfen, in denen sie sich über Entwicklungslimits absprechen dürfen. Ein Kartell bestehend aus Google, OpenAI, Meta, Anthropic und SpaceX wäre die Folge und damit auch deren alleinige Kontrolle über einen großen Teil US-Sicherheitsarchitektur. Das kann nicht einmal die Trump-Regierung wollen.
Ein "Pickerl" für Künstliche Intelligenz
Amodeis Text kann man eine gewisse Redlichkeit nicht absprechen. Auf jeden Fall ist er technisch fundierter als der Zirkus von 2023, vor allem seine Forderung nach unabhängigen Prüfern.
Ganz neu ist die Idee nicht: Google-Deepmind-Chef Demis Hassabis hat Ähnliches bereits im Juli in den Raum gestellt. Hassabis schlägt eine unabhängige Standardisierungsorganisation vor – nach dem Vorbild der US-Finanzaufsicht. Neue Frontier-Modelle müssten vor dem Release verpflichtend 30 Tage lang von externen Experten auf Cyber- und Biorisiken abgeklopft werden, bezahlt von den Tech-Riesen selbst. Wer in den USA auf den Markt will, muss sich erst das sprichwörtliche Pickerl holen.
Aber: Weder Altman noch Musk noch Amodei können es sich im aktuellen Kapital- und Tech-Umfeld leisten, tatsächlich vom Gas zu gehen, solange kein bindender Kontrollmechanismus existiert.
Vielleicht hilft ein Sprachbild der Trump-Regierung, um einzuordnen, was die Entwicklungspause ohne Spielregeln für alle wirklich ist: ein großer Nothingburger. (Peter Zellinger, 13.9.2026)
Die Kommentare im Forum geben nicht notwendigerweise die Meinung der Redaktion wieder. Die Redaktion behält sich vor, Kommentare, welche straf- oder zivilrechtliche Normen verletzen, den guten Sitten widersprechen oder sonst dem Ansehen des Mediums zuwiderlaufen (siehe ausführliche Forenregeln), zu entfernen. Benutzer:innen können diesfalls keine Ansprüche stellen. Weiters behält sich die STANDARD Verlagsgesellschaft m.b.H. vor, Schadenersatzansprüche geltend zu machen und strafrechtlich relevante Tatbestände zur Anzeige zu bringen.