Mensch vs. Maschine

Für die einen ist KÜNSTLICHE INTELLIGENZ die grösste Erfindung der Menschheit. Für die anderen ist sie gefährlicher als ein Atomkrieg. Vor allem Elon Musk warnt vor der Macht der Algorithmen.

NZZ am Sonntag, 11. Juni 2017 · Lesedauer 5 Min.

Elon Musk braucht nicht viel Schlaf. Aber im Moment schläft sogar er zuwenig. Es sind nicht seine unzähligen Firmen, die den milliardenschweren Unternehmer wachhalten (am bekanntesten die Automarke Tesla, am spektakulärsten der Raketenbauer SpaceX). Was Elon Musk den Schlaf raubt, ist eine Studie, die er in Auftrag gegeben hat.

Musk wollte wissen, was die Folgen der sogenannten Singularität sein könnten. Damit ist der Moment gemeint, ab dem künstliche Intelligenz (KI) das Denkvermögen des Menschen überflügelt. Das Ergebnis der Studie klingt wie der Plot aus einem Science-Fiction-Roman. Allerdings sind ihre Verfasser nicht Schriftsteller, sondern KI-Experten.

Ihre Prognosen: KI könnte die Kontrolle über Regierungen und internationale Unternehmen erlangen. Sie könnte die Menschheit versklaven und in Konzentrationslager stecken. Sie könnte die Erde zerstören, das Sonnensystem, ja sogar das Universum. Und oh, bevor wir’s vergessen: Von KI könnten Gefahren ausgehen, die sich der beschränkte menschliche Verstand überhaupt nicht ausmalen kann.

Dabei ist doch bisher alles so wunderbar. KI weiss, welche TV-Serie mir als nächste gefällt. Sie lässt mich Energie sparen, weil die Heizung merkt, dass ich in den Ferien bin. Sie macht mein Smartphone zur ersten Frau, der meine Stimme Befehl ist. Tatsächlich aber wird KI für Elon Musk mit jeder weiteren Anwendung mächtiger – und gefährlicher.

Darum hat er die Stiftung OpenAI gegründet, die KI sicher machen soll. Rund eine Milliarde Dollar wirft Musk in die Schlacht gegen die „vielleicht grösste Bedrohung der Menschheit“, wie er sagt. Sein Ziel: Eine nationale, besser noch internationale Regulierung der KI-Forschung. Elon Musk will einen grossen roten KI-Panikknopf. Und damit die Möglichkeit, Demis Hassabis zu stoppen.

Die britische KI-Koryphäe sieht auf Bildern ganz nett aus. Doch für Musk beschwört Hassabis den Teufel herauf. Tatsächlich könnte der 40-Jährige im nächsten James Bond den Bösewicht spielen. Vor ein paar Jahren programmierte er das Computerspiel „Evil Genius“, in dem ein wahnsinniger Wissenschaftler die Weltherrschaft an sich reissen will. Mittlerweile macht Hassabis in den Augen von Musk genau das. Die vom früheren Schachgenie gegründete Firma DeepMind gilt als der Ort, wo die Singularität am ehesten eintreten könnte. Darum wurde sie 2014 für Unsummen von Google gekauft.

Nicht nur der Suchmaschinengigant investiert zünftig in KI, sondern das gesamte Silicon Valley. Kein Wunder: Das wirtschaftliche Potenzial von KI ist enorm. Das Hirn einer Intelligenzbestie ohne ihre Lohnforderungen: Welches Unternehmen, welche Behörde würde da nicht zuschlagen? Und der Moment, wo künstliche Mitarbeiter rund um die Uhr hochproduktiv sind, rückt näher.

Kürzlich trat ein KI-Programm von DeepMind gegen 60 Top-Spieler von Go an, dem komplexesten Brettspiel der Welt – die Algorithmen gewannen immer. Ein weiterer Meilenstein in der KI-Entwicklung erfolgte vergangenen Januar: Ein Programm schlug professionelle Pokerspieler bei „Texas Hold ’Em“. Was besonders überraschte: Der Computer konnte bluffen wie ein Mensch.

Entsprechend nervös ist Elon Musk. Kaum ein öffentlicher Auftritt vergeht, ohne dass er die Gefahren von KI beschwört. Er ist nicht allein. Stephen Hawking warnt ebenfalls vor der Herrschaft der Programme. „Voll entwickelte KI könnte die grösste Erfindung in der Geschichte der Menschheit werden“, verkündete der Astrophysiker. „Leider aber auch die letzte.“ Bill Gates macht sich ebenfalls Sorgen. KI ist für den Gründer von Microsoft „gefährlicher als ein Nuklearkrieg“.

Tatsächlich ist es äusserst schwierig, KI gleichsam mit einem moralischen Bewusstsein zu versehen. Denn erstens ist Ethik nicht Mathematik, kann also nicht einfach programmiert werden. Zweitens ist Moral kulturbedingt. Und drittens wird KI nach der Singularität nicht mehr die Angelegenheit schlauer Programmierer sein – sondern die von KI selbst.

KI wird sich modifizieren. Sie wird noch höhere KI programmieren. Sie wird menschliche Bedürfnisse und Triebe entwickeln. Und das bedeutet: KI wird ihren Hunger stillen wollen – wie wir. KI wird sich fortpflanzen wollen – wie wir. KI wird nach Macht streben wollen – wie wir. Und darum einen hineinprogrammierten Aus-Schalter wieder entfernen.

Die Verfechter grenzenloser KI stört das nicht. Für sie ist es in Ordnung, unseren Planeten einer künstlichen Superintelligenz zu überlassen. Vor 40’000 Jahren starb der Neandertaler aus, weil ihm der Homo sapiens überlegen war. Sein Organismus hatte gleichsam den besseren Algorithmus. Nun läuft für die KI-Verfechter die Zeit des Homo sapiens ab. Wenn die Maschinen klüger werden als die Menschen, die sie erschaffen haben, müssen die Menschen eben weichen.

Oder sich zumindest in ihre neue Rolle fügen. Der Apple-Mitgründer Steve Wozniak geht schon davon aus, dass er demnächst zum Haustier von Robotern wird. Er füttere seinen Hund nur noch mit Filet, liess er die Leser von „Vanity Fair“ wissen. Denn so wolle auch Wozniak einmal von seinem künstlichen Herrchen behandelt werden.

Dabei muss uns KI gar nicht durch Roboter bedrohen, wie wir dies aus dem Film „Terminator“ kennen, wo Kampfmaschinen beschliessen, dass der ultimative Feind der Mensch ist. Die Bedrohung durch KI kann auch so aussehen wie am 6. Mai 2010.

Damals verlor der Dow Jones Industrial Index aus heiterem Himmel in wenigen Minuten über 9 Prozent. Der Grund dafür war KI. Denn längst bestimmen nicht mehr Menschen, sondern Maschinen, welche Börsenpapiere wann und zu welchem Preis gekauft oder verkauft werden. Und am 6. Mai 2010 nachmittags um 2.42 Uhr New Yorker Ortszeit drehten die Algorithmen durch.

Mitausgelöst durch die Manipulationen eines britischen Daytraders, der ein Computerprogramm 19’000 Kaufaufträge erteilen und gleich wieder stornieren liess, begannen die Kurse zu fallen. Und zu fallen. Und zu fallen. Manche Aktien verloren vorübergehend bis zu 99 Prozent. Bis endlich ein Programm der Derivatebörse von Chicago den Handel für fünf Sekunden unterbrach und die Algorithmen damit aufhörten, Milliardenwerte zu vernichten.

Ganze fünf Monate brauchte die US-Börsenaufsicht, um zu analysieren, was an jenem 6. Mai 2010 genau passiert war. Fünf Monate Arbeit, um zu verstehen, was in ein paar wenigen Minuten geschah. „Wir konnten immerhin herausfinden, was schieflief“, verteidigen sich die Verfechter von KI und werfen Elon Musk vor, dass er mit seinen Katastrophenszenarien das Kind mit dem Bade ausschütte.

Es sei schon richtig: Wie die Atomenergie oder die Gentechnologie müsse man KI mit Bedacht einsetzen. Grundsätzlich besitze sie aber das Potenzial, die schlimmsten Geisseln der Menschheit zu bekämpfen. So könnten etwa Algorithmen Medikamente für unheilbare Krankheiten entwickeln. Elon Musk gefalle sich einfach in der Rolle des Retters der Welt und sehe darum Gefahren, wo gar keine seien.

Tatsächlich sind sich aber auch führende KI-Entwickler bewusst, dass sie mit dem Feuer spielen. In einem offenen Brief versprachen sie KI, die stets das Wohl der Menschheit im Auge habe. Wenn nicht, würde sich vielleicht tatsächlich eine künstliche Superintelligenz gegen ihre Schöpfer wenden.

Die Frage also ist: Wer ist schneller und einflussreicher? Die Verfechter einer unbegrenzten KI oder die einer regulierten?

Wenn Elon Musk den Krieg gegen die Algorithmen verlieren sollte (und wir mit ihm), hat der Milliardär einen Plan B. Dann würde er mit einer Rakete seiner Firma SpaceX dem Kampf Mensch vs. Maschine entfliehen und zum Mars fliegen, meinte er gegenüber Demis Hassabis.

„KI wird dir folgen“, antwortete Hassabis trocken.