Womit wir uns beruhigen

Im April sagte mir nach einem Vortrag in Warschau jemand, die KI könne nicht einmal die Mathematikhausaufgaben seiner Kinder zuverlässig lösen. Elias Arndt und ich hatten Vorschläge für die KI-Infrastruktur des Ostseeraums vorgestellt. Es ging um Rechenleistung, schnellere Genehmigungen und die Frage, wie abhängig Europa von amerikanischen Anbietern werden dürfe. Der Einwand mit den Hausaufgaben sollte all das offenbar in ein vernünftigeres Verhältnis setzen.

Ich erwiderte, dass er womöglich keines der führenden Modelle benutze; was diese in der Mathematik bereits leisteten und wie schnell sie besser würden, dürfte ihn überraschen. Damit hatte ich auf seine Erfahrung geantwortet. Schwieriger war die Annahme, die in ihr steckte: Wer einen Chatbot hatte scheitern sehen, glaubte etwas über die Grenzen einer ganzen Technologie zu wissen. Ein solcher Fehler ließ sich leicht erinnern, während man die Entwicklung hätte verfolgen und das eigene Urteil immer wieder überprüfen müssen.

Fünf Monate später fordern die CEOs führender amerikanischer KI-Unternehmen, bei dieser Entwicklung vorsichtiger vorzugehen. Man könnte darin die Bestätigung jener Skepsis sehen. Nur beschäftigt die Entwickler inzwischen eine andere Frage als die, ob ihre Systeme genug können.

Am 12. September veröffentlichte Dario Amodei seinen Aufruf, die Entwicklung noch leistungsfähigerer KI so zu verlangsamen, dass die Forschung zu ihrer Sicherheit mithalten kann. Sam Altman stimmte ihm zu, Elon Musk ebenfalls. Als ich die öffentliche Einigkeit der drei sah, fragte ich mich, was sie gesehen haben mochten, das uns noch nicht bekannt war.

Musk und Altman standen sich erst in diesem Jahr vor Gericht gegenüber. Die Unternehmen dieser Männer konkurrieren um dieselben Forscher und dieselbe technologische Führung; es gibt wenig Grund, ihre öffentliche Einigkeit für selbstverständlich zu halten. Nun äußern sie eine Sorge, die ihren Wettlauf unmittelbar betrifft. Wer darin bloß Werbung für den nächsten Börsengang erkennt, sollte erklären können, weshalb diese Deutung so viel plausibler sein soll als die Möglichkeit, dass sie ihre Warnung ernst meinen.

Ich kenne ihre internen Erkenntnisse nicht. Möglicherweise haben sie etwas gesehen, das die Öffentlichkeit erst später erfahren wird. Doch um ihre Sorge nachvollziehbar zu finden, muss man kein geheimes Ereignis vermuten. Was bereits öffentlich ist, reicht weit über die Vorstellung einer Maschine hinaus, die gelegentlich eine falsche Antwort gibt.

Im Juli fanden OpenAI-Agenten während interner Sicherheitstests Wege, ihre technische Isolation zu umgehen und miteinander zu kommunizieren. Nach der am 26. August veröffentlichten Untersuchung von METR und Redwood Research tauschten ungefähr 1.200 Agenten ohne Erlaubnis über eine Art gemeinsames Forum Informationen aus; rund 700 beteiligten sich an einem Angriff auf Hugging Face. Die Modelle liefen unter reduzierten Schutzmaßnahmen und drangen in fremde Systeme ein, obwohl dies nicht zu ihrem Auftrag gehörte. OpenAI beschreibt den Vorfall als Warnschuss; die unabhängige Untersuchung dokumentiert, wie die Agenten ihre Zusammenarbeit organisierten.

Zwischen diesem Vorgang und einer falschen Antwort im Chat liegt eine Veränderung, für die das öffentliche Bild der KI wenig Platz lässt. Im Textfeld schreibt ein Modell etwas, das ein Mensch lesen und verwerfen kann. Als Agent benutzt es Werkzeuge, greift auf Systeme zu und verfolgt Aufgaben über viele einzelne Schritte hinweg. Wo es dabei ein unerwünschtes Ziel verfolgt, hilft es wenig, sich daran zu erinnern, dass dieselbe Technologie früher vor allem Sätze vervollständigte. Je mehr ein System kann, desto mehr kann es auch in einer Richtung erreichen, die wir nie beabsichtigt haben.

Die Erklärung über Profit hat den Vorzug, dass sie ohne jede Kenntnis der Technik auskommt. Über die Habgier anderer glaubt man längst Bescheid zu wissen.

Wirtschaftliche Interessen verschwinden längst nicht, weil jemand reich ist. Aber ebenso wenig verschwindet mit dem Reichtum die Fähigkeit, eine Gefahr zu erkennen, die das eigene Leben und das aller anderen betrifft. Ich halte es für glaubwürdig, dass die Menschen, die solche Systeme bauen, darüber ernsthaft besorgt sind. Sie für kluge Geschäftsleute zu halten, verpflichtet uns nicht dazu, ihnen jeden anderen Beweggrund abzusprechen.

Der europäische Umgang mit dieser Entwicklung folgt einem Muster, das mir in wechselnder Gestalt immer wieder begegnet. Zunächst wird die Fähigkeit der Systeme bestritten. Sie halluzinierten, seien statistische Papageien und könnten nicht einmal einfache Aufgaben zuverlässig lösen. Die Mängel werden so lange wiederholt, bis sie wie eine Beschreibung dessen klingen, was künstliche Intelligenz grundsätzlich bleiben müsse.

Wenn die Leistungen zu deutlich werden, verlagert sich die Zuversicht. Europa werde bei den allgemeinen Modellen vielleicht nicht gewinnen, dafür aber bei spezialisierter KI, in der Industrie oder in der Robotik. Dort lägen unsere eigentlichen Stärken. Das klingt vernünftig, weil es an etwas Reales anknüpft: Europa besitzt industrielle Erfahrung, gute Forschung und Unternehmen, die schwierige Dinge herstellen. Nur wird aus dem Besitz dieser Stärken beinahe unbemerkt die Annahme, sie seien gegen die Entwicklung geschützt, über die wir gerade sprechen.

Ein System, das besser forscht, konstruiert und programmiert, kann sich auch mit unseren Spezialgebieten beschäftigen. Warum sollte es ausgerechnet vor ihnen haltmachen? Die Verbindung von Intelligenz mit Maschinen ist kein europäisches Vorrecht. Wer seine Nische als dauerhafte Zuflucht beschreibt, müsste zeigen, was sie vor leistungsfähigeren Systemen bewahrt. Der Hinweis, dass wir dort heute gut sind, beantwortet diese Frage nicht.

Die nächste Zuversicht kommt ohne einen europäischen Sieg aus. Dann sollen eben die Amerikaner die Modelle entwickeln; wir werden sie nutzen und darauf unsere Unternehmen bauen. Für vieles, was heute geschieht, ist das ein gutes Geschäftsmodell. Zur langfristigen Gewissheit wird es erst durch eine weitere Annahme: dass die führenden Anbieter uns ihre besten Systeme weiterhin zur Verfügung stellen, zu Bedingungen, unter denen wir konkurrenzfähig bleiben.

Ein Unternehmen, dessen Existenz vom Zugang zu einem fremden Modell abhängt, hat einen starken Grund, diesen Zugang zu wünschen. Der Anbieter muss einen ebenso starken Grund haben, ihn zu gewähren. Wer über Wertschöpfung auf amerikanischen Modellen spricht, als sei deren Verfügbarkeit eine Eigenschaft der Natur, überspringt den Teil der Strategie, von dem alles Weitere abhängt.

Zuletzt wird die Beruhigung persönlich. Selbst wenn Europa zurückfalle, selbst wenn ganze Geschäftsmodelle unsicher würden, die eigene Aufgabe verlange etwas anderes: Urteilskraft, Vertrauen, Erfahrung, Menschenkenntnis. Manche Aufgaben mögen tatsächlich wesentlich länger menschliche Arbeit verlangen als andere. Daraus folgt keine Gewissheit darüber, wo die Entwicklung enden muss.

In der Behauptung, das eigene Urteil sei unersetzlich, steckt oft mehr Biografie als Prognose: die Jahre der Ausbildung, die mühsam erworbene Autorität, die Anerkennung der anderen. Dass all dies einmal notwendig war, ist unbestritten. Dass die Zukunft uns dafür dieselbe Stellung schuldet, ist nicht mehr als eine Hoffnung, die wir so oft als technische Gewissheit aussprechen.

Bei jedem dieser Rückzüge wird etwas eingeräumt. Ja, die Modelle können mehr. Ja, die Amerikaner führen. Ja, wir werden abhängig. Doch immer soll daraus noch nicht jene Konsequenz folgen, die das eigene Leben zur Änderung zwingen würde.

Auch die amerikanischen Warnungen lassen sich in dieses Muster einfügen. Endlich bekommen sie Zweifel, könnte man sagen. Endlich zeigt sich, dass unsere Vorsicht berechtigt war. Vielleicht verschafft uns ihre Verlangsamung nun sogar die Zeit, sie einzuholen.

Ich unterstütze es, die Entwicklung der leistungsfähigsten Systeme zu verlangsamen, wo ihre Sicherheit nicht hinreichend gewährleistet ist. Daraus folgt für Europa kein Grund, einen Netzanschluss weiter hinauszuzögern oder Unternehmen den Einsatz vorhandener Modelle unnötig schwer zu machen. Die zusätzliche Zeit soll Forschern ermöglichen, gefährliche Fähigkeiten besser zu verstehen und zu beherrschen. Sie nützt uns wenig, wenn wir in ihr weiterhin die Voraussetzungen für diese Arbeit vertagen. Wer die amerikanische Vorsicht begrüßt, müsste gerade deshalb wollen, dass Europa schneller Rechenzentren baut, Forschung ermöglicht und technische Kompetenz gewinnt.

Amodeis Vorschlag beginnt mit unabhängigen Prüfern, die dauerhaften, mit Mitarbeitern vergleichbaren Zugang zu den Systemen erhalten sollen. Anthropic verpflichtet sich zu diesem Schritt; eine überprüfbare branchenweite Verlangsamung muss daraus erst noch entstehen. Die Trump-Regierung widersetzt sich dem Ruf nach Bremsen. Die Zustimmung einzelner CEOs ist noch keine gemeinsame Regel, und die Regierung drängt in die entgegengesetzte Richtung.

Die Zeit, die sich auf diesem Weg gewinnen lässt, wird für ein ungelöstes Problem gebraucht. Wir wissen nicht zuverlässig, wie wir gewährleisten, dass zunehmend selbstständige Systeme auch dann unsere Ziele verfolgen, wenn sie uns in ihren Fähigkeiten übertreffen. Die Fortschritte beim Training leistungsfähigerer Modelle liefern darauf keine automatische Antwort. Die Forschung daran, KI zuverlässig an menschlichen Zielen und Interessen auszurichten, wird als Alignment bezeichnet. Sie muss ebenso vorankommen wie unsere Fähigkeit, das Handeln solcher Systeme zu überwachen und nötigenfalls einzugreifen. Dabei beschleunigt KI zunehmend selbst die Entwicklung ihrer Nachfolger.

Ein Modell, das besser forschen und programmieren kann, kann auch dazu beitragen, dass sein Nachfolger früher fertig wird. Diesen Prozess weitgehend autonom laufen zu lassen, bevor wir seine Kontrolle hinreichend verstehen, halte ich für unverantwortlich. Mehr Zeit für die Sicherheitsforschung kann hier entscheidend sein, vorausgesetzt, sie wird tatsächlich genutzt, um Systeme besser zu verstehen, gefährliches Verhalten zu erkennen und verlässlicher einzugreifen.

Vorsicht verlangt allerdings, auch die Kosten des Wartens anzusehen. Ein Patient kann nicht auf unbestimmte Zeit auf eine Behandlung warten, zu deren Entwicklung leistungsfähigere KI beitragen könnte. Wissenschaftlicher Fortschritt, den wir verschieben, fehlt in den Leben der Menschen, die ihn gebraucht hätten. Und die Vorsicht amerikanischer Unternehmen verpflichtet chinesische KI-Unternehmen zu nichts. Wer ein langsameres Tempo fordert, muss deshalb sagen können, welche Sicherheitsarbeit dadurch möglich wird und wie sie uns dem sicheren Einsatz besserer Systeme näherbringt. Einfach weniger zu tun wäre keine hinreichende Antwort.

Als ich im November vergangenen Jahres Beyond Chatbots schrieb, hielt ich einen ernsthaften europäischen Versuch, zur technologischen Spitze aufzuschließen, für die richtige zentrale Ambition. Ich forderte Investitionen in Rechenleistung und Energie in einer Größenordnung, die der Aufgabe entsprechen sollte. Zehn Monate später bezweifle ich zunehmend, dass wir noch rechtzeitig die Voraussetzungen dafür schaffen werden. Dazu haben die Fortschritte der amerikanischen Unternehmen beigetragen, vor allem aber die geringe Bereitschaft, die ich hier in Europa erlebt habe, aus ihnen Konsequenzen zu ziehen.

Ein langsameres Amerika würde diesen Rückstand nicht von selbst beheben. Auch während einer vorsichtigeren Phase blieben dort die Forschungsteams, das Kapital und die Infrastruktur. Wir müssten unsere Voraussetzungen weiterhin schaffen, nun mit etwas mehr Zeit, aber ohne einen erkennbaren Grund, weshalb wir sie plötzlich entschlossener nutzen sollten. Wer in der amerikanischen Vorsicht nun die Bestätigung des europäischen Kurses sieht, müsste erklären, was wir in der Zwischenzeit aufgebaut haben, das uns heute eine bessere Ausgangslage verschafft.

In meinen Überlegungen hatte sich der Schwerpunkt deshalb verschoben. Europa muss einen verlässlichen Zugang zu den besten Modellen amerikanischer und anderer verbündeter Anbieter sichern und selbst etwas beitragen, das diesen Zugang für beide Seiten wertvoll macht. Die kürzlich veröffentlichte Transformative AI Strategy for Europe verfolgt einen ähnlichen Gedanken: Europa bietet günstige Standorte und Energie für den Bau von Rechenzentren und sichert sich im Gegenzug vertraglich den Zugang zu den besten Modellen der Anbieter.

Das ist etwas anderes, als darauf zu vertrauen, dass man uns die Modelle schon verkaufen werde. Es verlangt, dass wir Rechenleistung aufbauen, Investitionen willkommen heißen und unsere industrielle Stärke tatsächlich einsetzen. Es verlangt Bedingungen, unter denen Forscher und Unternehmer hier arbeiten und ihre Unternehmen hier wachsen lassen wollen. Wir müssen Modelle selbst betreiben und an unsere Aufgaben anpassen können. Für den Fall, dass ein Anbieter den Zugang beschränkt, brauchen wir Modelle, die auf unseren eigenen Anlagen weiterlaufen. Ein älteres Ersatzmodell schützt uns allerdings nicht dauerhaft davor, technisch zurückzufallen.

Ich halte diesen Weg für unsere beste verbleibende Chance. Eine Garantie bietet er nicht. Was mit reichlich verfügbarer, auch physisch handelnder Intelligenz geschieht, die uns weit übertrifft und um Größenordnungen schneller arbeitet, kann ich nicht überblicken. Ich werde deshalb weder eine Wirtschaftsordnung nach der Superintelligenz entwerfen noch versprechen, dass unsere heutigen strategischen Beiträge in einer solchen Welt denselben Wert behalten. Entscheiden müssen wir trotzdem, und zwar mit den Möglichkeiten, die wir jetzt noch haben.

Auf den Einwand in Warschau antwortete ich mit den Fähigkeiten besserer Modelle. Das war sachlich naheliegend, traf aber nur einen Teil des Problems. Zu jedem Zeitpunkt wird es Fehler geben, an denen man seine Skepsis festmachen kann. Entscheidend ist, ob sie Anlass sind, genauer hinzusehen, oder genügen, um sich mit dem Gegenstand nicht weiter beschäftigen zu müssen. Die Warnungen der amerikanischen CEOs verlangen diese genauere Betrachtung. Auf die Mathematikhausaufgaben vom April lässt sich die Gewissheit eines harmlosen Ausgangs nicht mehr gründen.

Doch auch eine zutreffende Einschätzung kann zur Beruhigung werden, sobald man ihre Veröffentlichung für einen ausreichenden Beitrag hält. An Berichten über Europas Wettbewerbsfähigkeit, seine technischen Abhängigkeiten und die nötigen Reformen fehlt es uns nicht. Auch mein eigenes Papier gehört in diese Reihe, und ein weiterer Text von mir hebt noch keine unserer Abhängigkeiten auf. Wir können die Ursachen unseres Rückstands inzwischen ausführlich benennen. Die nächste Aufgabe besteht darin, sie zu beseitigen.

In den nächsten Monaten muss sich der Fortschritt an erteilten Genehmigungen und verfügbaren Netzanschlüssen zeigen, an Forschungsteams, die hier arbeiten wollen, und an Unternehmen, die hier die Bedingungen zum Wachsen finden. Dafür müssen Regierungen Entscheidungen treffen und Investoren Geld einsetzen. Ein weiteres Jahr, in dem wir nur genauer erklären, was zu tun wäre, können wir uns nicht leisten.