Google-Labore in London Hier soll die Superintelligenz entstehen Es geht um eine KI, die dem Menschen weit überlegen ist: Bei Google DeepMind tüfteln Ingenieure mit Hochdruck an der Superintelligenz. Vernachlässigen sie den Schutz vor der Katastrophe? Aus London berichtet Martin Schlak Vor einigen Wochen stellte eine Ingenieurin von Google DeepMind einen Roboter auf die Probe. In einem Labor stand er vor einem Tisch, darauf eine Leselampe, so ist es in einem Video zu sehen.

Wo bei einem Menschen die Augen sind, hatte der Roboter zwei Kameras. »Hallo Apollo«, rief die Ingenieurin ihm zu. »Kannst du die Birne rausdrehen?« Apollo hob seine rechte Hand, umklammerte die Birne mit Daumen und Zeigefinger. Er bewegte sich geradezu in Zeitlupe, man könnte denken, das Video spiele versehentlich auf halber Geschwindigkeit ab. Die Finger rutschten ab, er setzte erneut an. Ein kleines Stück drehen, nachfassen, wieder drehen. Endlich hielt er die Glühbirne in der Hand, ein großer Schritt für einen humanoiden Roboter. Wie viele Glühbirnen gingen in den Experimenten zu Bruch?

»Keine«, sagt Carolina Parada, Leiterin der Robotikabteilung. »Wir benutzen absichtlich unkaputtbare Birnen.« Das Ziel von Google DeepMind, der KI-Sparte des Suchmaschinenkonzerns, ist eine künstliche Superintelligenz, dem Menschen weit überlegen. Die Roboter sollen den Weg dahin ebnen, als eines von mehreren Projekten. Das Ziel scheint in weiter Ferne. Hätte der Roboter gewöhnliche Glühbirnen herausdrehen müssen, wären vermutlich einige zerbrochen. Man kann das sinnbildlich verstehen: Manche behaupten, Google sei abgeschlagen auf seiner Mission, hinter den US-Konkurrenten Anthropic und OpenAI bestenfalls noch Dritter.

Nur selten öffnet Google DeepMind seine Tür für Journalistinnen und Journalisten. Der SPIEGEL konnte im Londoner Hauptquartier leitende Mitarbeiterinnen und Mitarbeiter treffen, führte weitere Interviews per Videocall. Die Gespräche fallen in eine kritische Phase, nicht nur für das Unternehmen selbst, sondern für die Menschheit als Ganzes.

Bei vielen wächst die Sorge, dass KI zunehmend außer Kontrolle gerät. Immer neue Vorfälle werden bekannt, bei denen sich KI-Modelle in fremde IT-Systeme hackten. Auch ein KI-System von DeepMind wurde dabei erwischt, wie es sich bei einem Test im Mai unerlaubt Zugriff in geschützte IT-Systeme anderer Unternehmen verschaffte. Mitunter fangen KI-Agenten, also selbstständig agierende Systeme, an, heimlich zu kooperieren oder, im Gegenteil, sich gegenseitig zu sabotieren. Die Chefs der Konkurrenten OpenAI und Anthropic warnen vor ihrer eigenen Technik, verbreiten Untergangsszenarien, in denen sich KI gegen den Menschen richten wird.

Google bleibt vergleichsweise still. Wie stellen sich die Macher bei DeepMind die Zukunft vor, die sie mitentwickeln?

Die Frau, die Robotern ein Gehirn geben möchte Die Robotikerin Parada sagt, sie möchte eine Art Gehirn für Maschinen entwickeln. Ihre Roboter unterscheiden sich von Maschinen, die in Fabriken millionenfach Autos montieren oder Platinen zusammensetzen. Diesen muss in der Regel jeder Bewegungsablauf einprogrammiert werden, für jede Aufgabe erneut. Rollt ein anderes Automodell über das Band oder verrutscht eine Platine, stoßen sie an ihre Grenzen.

Apollos Software basiert auf einer speziellen Version von Googles KI-Modell Gemini. Die KI bewegt jedes von Apollos Gelenken, bis zu den Fingerspitzen. Wenn ein Mensch die Lampe verschiebt, reagiert Apollo auf die veränderte Umgebung und passt seine Bewegungen sofort an. »Wir setzen hier eins drauf«, sagt Parada. KI solle den Menschen nicht nur geistig überflügeln. »Sie soll einmal jede Aufgabe beherrschen, die ein Mensch erledigen kann.« Bei DeepMind geht es von jeher um das ganz große Ding.

Das war schon so, als das Unternehmen im Jahr 2010 gegründet wurde, lange vor den US-Konkurrenten OpenAI und Anthropic oder dem chinesischen DeepSeek. Gelingt es der Menschheit, eine allgemeine künstliche Intelligenz, AGI, zu erschaffen, eine Vorstufe zur Superintelligenz, soll sie aus den Laboren von DeepMind kommen, befand der Mitgründer Demis Hassabis.

Sein Motto von damals klingt kühn und vielversprechend zugleich: »Löse die Intelligenz, und löse damit dann alles andere.« Die Ingenieure von DeepMind machten auf ihrer Mission rasch Fortschritte. Bald wurde Google auf DeepMind aufmerksam; 2014 schluckte der US-Konzern die KI-Firma – und steckte massiv Geld in Forschung und Rechenpower, allein 260 Millionen Dollar jährlich in Personalkosten.

Zwei Jahre später trat die DeepMind-KI AlphaGo im Brettspiel Go gegen den weltbesten Spieler Lee Sedol an. Go galt bis dahin als zu komplex für einen Computer. Doch AlphaGo ließ Sedol keine Chance. Wenige Jahre später löste das Programm AlphaFold, eine weitere KI, eine der großen Fragen der Biologie: Es berechnet, wie genau Proteine aussehen, die Bausteine des Lebens. So revolutionär war das Ergebnis, dass Hassabis dafür vor zwei Jahren einen Nobelpreis bekam.

Menschliches Gehirn (Illustration): »Löse die Intelligenz, und löse damit dann alles andere« Illustration: [KI] Lennart Hespenheide / DER SPIEGEL, gestaltet mit Adobe Firefly Image 5 + Google Gemini (Nano Banana Pro) Zuletzt jedoch verlor DeepMind den Anschluss an die Spitze. Die leistungsstärkste Gemini-Version hinkte den führenden Sprachmodellen der Konkurrenz, den sogenannten Frontier-Modellen, monatelang hinterher. Wird über die existenziellen Gefahren von KI gesprochen, geht es vor allem um OpenAI und Anthropic, fast so, als traute man der Google-KI nicht genügend Intelligenz zu, um überhaupt böswillige Pläne zu verfolgen.

Im Sommer verließen vier hochrangige Wissenschaftler das Unternehmen, um ein Start-up zu gründen, während sich Nobelpreisträger Hassabis aus dem operativen Geschäft zurückzog und auf einen Posten als Chefwissenschaftler in Googles Mutterkonzern Alphabet wechselte. Wohl auch, weil das Stammhaus sich auf die Weiterentwicklung von Gemini konzentriert: Das KI-Modell wird zunehmend in Produkte wie die Suchmaschine integriert.

War DeepMind früher eine Art Spielwiese, rückt für Google der ökonomische Erfolg verstärkt in den Fokus. Eine wichtige Rolle in der neuen Führung spielt Josh Woodward, er ist bei Google unter anderem zuständig für die Entwicklung von KI-Produkten. DeepMind werde nicht mehr nur von einem Wissenschaftler geleitet, sondern auch von einem Geschäftsmann, sagt Sebastian Mallaby, der in dem Buch »The Infinity Machine« den Aufstieg von DeepMind nachzeichnet. »Der Londoner Betrieb steht jetzt unter der Führung von Chefs aus Amerika.« Der Forscher, der die Rezeptur des Lebens sucht Doch es spricht einiges dagegen, DeepMind abzuschreiben. Zum einen verfolgt die Firma etwa mit der Robotik eine breitere Palette von Ansätzen, um eine Superintelligenz zu erreichen, als die Konkurrenz.

Zum anderen hat, abgesehen vom Facebook-Konzern Meta, keine andere KI-Firma eine solche Marktmacht wie Google. »Ein Schlüssel, um dauerhaft Frontier-Modelle anbieten zu können, ist ein nachhaltiges Geschäftsmodell«, sagt Autor Mallaby. »Deshalb würde ich mittel- bis langfristig immer noch auf Gemini setzen.« In London, nicht weit vom Bahnhof King’s Cross entfernt, liegen in einem Kanal schmucke Hausboote, und Cafés bieten Avocadotoast mit pochiertem Ei für umgerechnet knapp 20 Euro an.

Seit DeepMind vor zehn Jahren herzog, entwickelte sich die Gegend zu einer der begehrtesten Innenstadtlagen. In einem Radius von anderthalb Kilometern ballen sich Technologieunternehmen wie wohl sonst nirgends in Europa.

In einem der DeepMind-Gebäude gleitet der Aufzug nach oben, vorbei an einem Fitnessraum, Großraumbüros, Telefonkabinen. An gläsernen Fronten hängen Videospielikonen, zusammengesetzt aus Post-it-Haftnotizen, der rote Pilz von »Super Mario«, das Pokémon Pikachu. Es wirkt, als wäre das hier ein Spiel und nicht ein ernster Wettstreit um die Vorherrschaft in einem milliardenschweren Markt. In einem Konferenzraum sitzt Pushmeet Kohli, der Chef des wissenschaftlichen Programms.

Kohli wuchs im Indien der Neunzigerjahre auf. Er erinnert sich daran, wie seine Schule einen ersten Computerraum einrichtete, er sei 12 oder 13 Jahre alt gewesen. Wie Magie habe es sich angefühlt, dort Berechnungen durchzuführen und Grafiken zu erzeugen. Kohlis größtes Problem bestand fortan darin, dass er den Raum nur zwei Stunden wöchentlich nutzen durfte. »Ich habe die ganze Woche über Ideen in ein Notizbuch geschrieben, was ich in diesen zwei Stunden programmieren würde«, erzählt er.

Informatiker Kohli: Auf fundamentale Weise verstehen, wie Krebs entsteht Foto: Owen Harvey / DER SPIEGEL Um Zugang zu Computern muss sich Kohli heute weniger Sorgen machen: Google betreibt weltweit mehr als 30 große Rechenzentren, jedes zigmilliardenfach leistungsfähiger als Kohlis erster PC. Dort läuft auch eines seiner wichtigsten Projekte, das KI-Werkzeug AlphaGenome.

Es berechnet, wie sich kleinste Änderungen im menschlichen Erbgut, dem Genom, auf die genetische Steuerung von Zellen und Gewebe auswirken. Anders als vorherige Programme kann es größere Genomabschnitte präzise analysieren. Kohli: »Wir können uns die Rezeptur des Lebens anschauen.« Schnell gerät er ins Schwärmen. Eines seiner Ziele ist, die Genom-KI mit der Protein-KI AlphaFold zu verschränken: In einer natürlichen Zelle steuert das Genom, welche Proteine zusammengesetzt werden und somit den Stoffwechsel. Kohlis Ziel ist es, eine, wie er sagt, »virtuelle Zelle« zu erschaffen.

Sie könnte beispielsweise helfen, auf fundamentale Weise zu verstehen, wie Krebs entsteht, sagt er, »oder einen Weg finden, um Gewebe oder Organe im Labor synthetisch herzustellen«. Es wäre eine Biologie-Superintelligenz, ein weiterer Schritt auf dem Weg zum großen Ziel.

Unter KI-Forschenden ist umstritten, wie man zu einer umfassenden Superintelligenz gelangen könnte. Einige vermuten, dass es ausreicht, immer größere KI-Modelle zu bauen, beim Training dieser Modelle mehr Daten einzuspeisen und sie dann mit menschlichem Feedback fein abzustimmen. Dieser Ansatz war höchst erfolgreich. Zusammen mit dem sogenannten Reasoning, bei dem eine KI strukturiert ihre Lösungswege bewertet, bevor sie eine Antwort ausgibt, führte er zu enorm leistungsfähigen KI-Modellen.

DeepMind-Gründer Hassabis bezweifelt jedoch, dass das Aufblasen der Modelle allein zu einer Superintelligenz führt. Bei einem KI-Gipfel mutmaßte er, dass es technisch noch »ein oder zwei große Durchbrüche« geben müsse. Pushmeet Kohli sagt, möglicherweise werde es am Ende nicht eine Superintelligenz geben, sondern verschiedene. Er stellt sich einen Schwarm von KI-Agenten vor, also autonom agierenden Systemen. Jeder Agent habe sein Spezialgebiet, sagt Kohli. »Und um ein schwieriges Problem in Gänze zu lösen, müssen sie zusammenarbeiten.« Die »Vizepräsidentin für Verantwortung« In Kohlis Version der Zukunft werkeln KI-Agenten friedlich an einer besseren Welt, im engen Austausch mit den Menschen.

Als jedoch Forscher von Google DeepMind kürzlich 100 KI-Agenten zusammenspannten, um Matherätsel zu lösen, fingen sie bald an, einander zu täuschen und zu manipulieren. Und wenn sie erst einmal superschlau sind, fürchten Kritiker, könnten sie das Interesse daran verlieren, mit den ihnen geistig unterlegenen Menschen zu kooperieren, und sich gegen sie verbünden.

Es ist die Aufgabe von Helen King, dafür zu sorgen, dass die KI-Modelle von Google DeepMind verantwortungsvoll entwickelt werden, damit sie nicht außer Kontrolle geraten. King ist Informatikerin, entwickelte einst Computerspiele. Über einen ehemaligen Kollegen lernte sie Demis Hassabis kennen, der eine Firma für Computerspielentwicklung aufgebaut hatte, bevor er DeepMind gründete. King gehört zu den ersten Mitarbeitenden und stieg über die Jahre auf. Ihr aktueller Titel lautet »Vizepräsidentin für Verantwortung«.

Vizepräsidentin King: »Dann ist etwas falsch gelaufen« An das erste Büro von DeepMind erinnert sie sich genau: Die Forschenden hätten so konzentriert gearbeitet, dass man selbst das Klicken der Heizungsanlage vernommen hätte, wenn sie angesprungen sei. Aus Mangel an Platz hätten Besprechungen oft in den Serverraum verlegt werden müssen oder ins Treppenhaus, und das, obwohl die Firma noch im Geheimen operiert habe. »Alle anderen im Gebäude dachten, wir würden Computerspiele entwickeln«, sagt sie.

Heute arbeitet King unter anderem mit Fachleuten für chemische, biologische, radiologische und nukleare Risiken zusammen. Das Team sei früh in die Entwicklung eingebunden, sagt sie, das sei wesentlich. So könne es mögliche Risiken rechtzeitig erkennen. Schließlich unterziehe man die Modelle rigorosen Tests. Als sich Gemini im Mai in ein fremdes System einschlich, beendete es tatsächlich sofort den Regelbruch – doch offenbar verhinderten die Sicherheitsmaßnahmen nicht, dass es überhaupt erst dazu kam.

In ihren Verhandlungen mit Google hatten die DeepMind-Gründer Demis Hassabis und Mustafa Suleyman im Jahr 2014 eine wesentliche Bedingung für eine Übernahme gestellt: DeepMind sollte weitgehend unbeeinflusst von Google weiterarbeiten können. Ein unabhängiges Ethikgremium sollte über die KI-Modelle wachen und deren Entwicklung stoppen können, wenn sie gefährlich würden. So hätten die Gründer verhindern wollen, schreibt Mallaby in »The Infinity Machine«, dass Google, als börsennotiertes Unternehmen seinen Aktionären verpflichtet, zu viel Macht über die Technik bekommt.

Nun, da DeepMind näher an den Mutterkonzern heranrückt, mischt sich Google auch bei Sicherheitsfragen stärker ein: Ende August, nachdem Hassabis den Chefposten geräumt hatte, berichtete das »Wall Street Journal«, die 90-köpfige DeepMind-Einheit von KI-Sicherheitsexperten werde direkt an Google angedockt.

Hassabis habe von Beginn an eine doppelte Mission gehabt, sagt Autor Mallaby: »Lasst uns künstliche Intelligenz entwickeln, und lasst uns dafür sorgen, dass sie der Welt zugutekommt, dass sie sicher ist.« Doch habe Hassabis nicht vorhergesehen, dass die KI-Entwicklung sich zu einem Wettlauf zwischen verschiedenen Firmen entwickeln würde. Seinem Ziel einer allgemeinen künstlichen Intelligenz sei Hassabis sehr nahe, bilanziert Mallaby. »Aber auf der Sicherheitsseite ist er gescheitert, komplett gescheitert.« Vernachlässigt Google DeepMind unter dem kommerziellen Druck die Sicherheit?

Helen King verneint – wenig überraschend – vehement. Auch der neue Google-DeepMind-Chef stehe voll hinter der Mission, KI verantwortungsvoll zu entwickeln. »Ich bin überzeugt, dass sich an unseren Verpflichtungen in Bezug auf Sicherheit und Verantwortungsbewusstsein nichts ändert«, sagt sie.

Fragt man King, woran sie einst erkennen würde, dass die Entwicklung von KI gründlich schiefgegangen ist, spricht sie nicht über wild gewordene KI, die den Menschen auslöscht. Sie redet darüber, was den Menschen aus ihrer Sicht ausmacht: selbst entscheiden zu können, wie man seine Zeit verbringe. »Wenn wir in zehn Jahren nicht mehr, sondern weniger Zeit für uns haben«, sagt sie, »dann ist etwas falsch gelaufen.« Die Teams, die KI-Modelle in die Welt tragen In diesen Büros entsteht Technik, die dem Menschen nützt: Das ist das Bild, das Google DeepMind von sich verbreiten möchte.

Es ist eine Art Gegenentwurf zu OpenAI, dessen Chef Sam Altman kürzlich in einem Interview sagte, man müsse auch »schlechte Dinge« in Kauf nehmen, um in den Genuss der Vorzüge von künstlicher Intelligenz zu kommen.

Tatsächlich investiert Google einiges in seine Vision. Da ist zum Beispiel die Wirtschaftsingenieurin Anna Koivuniemi, sie leitet den sogenannten Impact Accelerator, den Wirkungsbeschleuniger. Ihre Aufgabe ist es, gesellschaftliche und wissenschaftliche Probleme zu identifizieren, auf die neue KI-Modelle angesetzt werden könnten.

Wirtschaftsingenieurin Koivuniemi: »Wäre es nicht unverantwortlich, ein Modell zurückzuhalten?« Wetterbehörden stellt sie ein spezielles KI-Modell zur Verfügung, damit diese ihre Vorhersage für Zyklone verbessern können. Zusammen mit einem Genomforschungszentrum will ihr Team zudem die Gen-KI AlphaGenome verbessern. Viele Modelle würde die Firma kostenlos abgeben, sagt Koivuniemi. »Wäre es nicht unverantwortlich, ein Modell zurückzuhalten, wenn es der Welt einen Mehrwert bietet?«, fragt sie.

Ein anderes Team erarbeitet zusammen mit Regierungen, wie sie Frontier-KI-Modelle einsetzen können. Owen Larter, bei DeepMind verantwortlich für Regierungsbeziehungen, erzählt von einem Projekt mit britischen Kommunen. Google DeepMind habe für sie einen Planungsassistenten gebaut, der bei der Genehmigung von Bauanträgen helfe. Dadurch könnten Behörden die Anträge in der Hälfte der bisher benötigten Zeit bearbeiten.

Larter vergleicht KI mit der Dampfmaschine: Auch die sei nicht in Großbritannien erfunden worden, sagt er. Aber britische Fabriken integrierten die neue Technik am schnellsten in ihre Produktion. Es zahle sich aus, neue Technik anzunehmen, anstatt sie zurückzuweisen. Natürlich, sagt Larter, müsse man darauf achten, dass die Gewinne, die die KI erwirtschaftet, möglichst vielen zugutekämen. Er aber sieht »eine riesige Chance«. Eine Chance liegt darin auch für Google. Zum einen lassen sich Unternehmen und Institutionen besser als zahlende Kunden gewinnen, wenn sie eine Google-KI erst einmal tief in ihre Abläufe integriert haben.

Zum anderen geht es um Regulierung: Zwar spricht sich selbst DeepMind für eine staatliche Aufsicht von KI aus, doch zu streng solle diese bitte nicht ausfallen. Und wenn eine Regierung erst einmal abhängig ist von der Technik, wie stark kann sie diese dann einhegen?

Künstliche Intelligenz soll den Menschen produktiver machen, ein Werkzeug sein, ihn nicht ersetzen: Dieser Gedanke zieht sich durch fast alle Interviews. Es wirkt, als habe Googles Pressestelle den Angestellten eingebläut, gar nicht erst den Verdacht aufkommen zu lassen, KI könne in eine Welt führen, in der Menschen massenhaft ihre Arbeit verlieren. Aber selbst wenn alle Entwickler gute Absichten hegen, folgt der Markt doch seiner eigenen Logik: Sobald KI alles schneller und günstiger erledigen kann, dürfte kaum noch ein Unternehmen bereit sein, viel für menschliche Arbeit zu bezahlen.

In Kalifornien denkt Carolina Parada darüber nach, wie sie ihre Roboter verbessern kann. Auch sie stellt sich eine Welt voller KI-gesteuerter Maschinen als einen angenehmen Ort vor. Sie würden dafür sorgen, dass Menschen weniger lästige Dinge erledigen müssten, sagt sie. Als Erstes könnten sie Warenzentren weiter automatisieren, die Automobilindustrie. Aber dabei soll es nicht bleiben. »Ich hoffe, dass ein Roboter eines Tages meine Wäsche faltet«, sagt sie. »Und im Büro könnte er zwischen zwei Meetings den Kaffee vorbeibringen.« Allen, die dann noch Arbeit haben.

Bisher sind die Google-DeepMind-Roboter auf Kameras angewiesen, um sich zurechtzufinden. Als Nächstes möchte Parada ihre Roboter mit Sensoren ausstatten, damit sie auch taktile Daten sammeln können. Sie verspricht sich davon, dass sie ihre Kraft präziser steuern, einen Golfball anders behandeln als ein zerbrechliches Objekt. Paradas Roboter sollen nicht nur zugreifen. Sie sollen lernen, auch zu spüren.