KI-Firmen warnen vor den eigenen Produkten: Wie realistisch ist die Revolte der Maschinen?
Völlig ausschließen könne man so ein Szenario nicht, meint Gregor Schmalzried, Techjournalist beim Bayerischen Rundfunk und Co-Host von "Der KI-Podcast" bei ARD Sounds. "Aber das könnten Aliens natürlich auch - theoretisch." Wie nah wir einer solchen Technologie wirklich heute sind, da gingen die Meinungen derzeit stark auseinander. Es gebe aber nicht wenige Experten, die sich deswegen große Sorgen machten.
Allgemein gehe man in der Fachszene davon aus, dass in maximal zehn Jahren eine KI zur Verfügung steht, die sich selbst weiterentwickeln kann und dazu keine menschliche Hilfe mehr benötigt.
"Im schlimmsten Fall endet das damit, dass die KI entscheidet, sie braucht uns nicht mehr." Gregor Schmalzried
Dazu müsste die KI noch nicht einmal ein eigenes Bewusstsein entwickeln, wie es in vielen Science-Fiction-Filmen vorhergesagt wird. Es genüge, wenn sich die KI eigene Ziele setze und diese mit höherer Dringlichkeit verfolge als die Vorgaben des menschlichen Entwicklers.
Es handelt sich aktuell um rein theoretische Überlegungen. "Wir haben keine KI, die so reagiert. Sie ist nicht einmal in Sichtweite", betont Gregor Schmalzried. Das bedeute aber nicht, dass man solche Szenarien als reine Hirngespinste abtun könne.
Die jüngsten Hackerangriffe auf fremde Systeme, die mehrere KI-Modelle bei Testläufen ungefragt durchgeführt haben, seien nicht das Ergebnis einer völlig autonomen Entscheidung. "Die haben sich auch nur daran gehalten, was ihnen die Entwickler vorgegeben haben." Die KI habe "nur" Werkzeuge für die Erledigung der Aufgaben genutzt, mit denen die Entwickler nicht gerechnet hatten.
Der Vorwurf gegen die Branchengrößen lautet, dass sie mit den ständigen Warnungen auch ihre eigene Marktmacht schützen wollen. Wenn die KI-Entwicklung streng reguliert werde, dann würde dies Kritikern zufolge vor allem kleinere Tech-Unternehmen treffen, die offene und frei verfügbare KI-Modelle entwickeln. Marktführer wie Anthropic könnten hingegen darauf verweisen, dass ihre geschlossenen Systeme viel leichter überwacht werden können und daher eine effektive Kontrolle möglich sei.
Reines Kalkül seien die Warnungen aber wohl nicht, meint Schmalzried. "Da kommen sicherlich Geschäftsinteresse und eine ehrliche Angst vor einem schlimmstmöglichen Ende zusammen."
Wenn es heißt, dass die KI "außer Kontrolle" sei, denken die meisten an Roboter, die die Menschheit unterjochen wollen. Das ist aber nicht das Problem, wie WDR-Digitalexperte Jörg Schieb sagt.
Dazu bräuchte es eine globale Übereinkunft, konkret eine Vereinbarung zwischen den USA und China - also den beiden größten Playern auf dem KI-Markt. Europa spielt auf dem Markt derzeit noch keine wichtige Rolle.
Ausgeschlossen ist das zwar laut Schmalzried nicht. "Es wäre aber das erste Mal." Die Entwicklung von Künstlicher Intelligenz lasse sich erheblich schwerer überwachen als zum Beispiel die Anreicherung von Uran. Dennoch seien internationale Regeln mehr als überfällig.
Je besser und schneller KI-Systeme werden, desto mehr Sorgen müsse man sich um den Missbrauch der Technologie machen. Es sei zum Beispiel völlig offen, was autoritäre Staaten oder Terrororganisationen mit KI anfangen könnten. "Es geht nicht nur um den Weltuntergang."