2084: Künstliche Intelligenz und die Zukunft der Menschheit

Wie unsere Zukunft menschlich bleiben kann

John Lennox, Wolfgang Günter

• Publisher: SCM R.Brockhaus
• Year: 2022
• ISBN:
  9783417270341
• Edition: 1
• Topic: Theologie & Religion
• Subtopic: Ethik & Religion

Das Jahr 2084 liegt für uns noch weit in der Zukunft. Doch wie wird die Welt, wie wir sie kennen, dann aussehen? Welche technischen Neuerungen werden dann unser Leben bestimmen? Was wird für uns normal sein, was jetzt noch utopisch klingen mag?Der bekannte Mathematikprofessor John Lennox zeigt, was künstliche Intelligenz, Biotechnik und neueste technologische Entwicklungen jetzt schon leisten, was Nutzen und Gefahren sind und wohin sie uns führen können.

Kapitel 1

Das Territorium abstecken

Wir Menschen haben eine unstillbare Neugier. Von Anbeginn stellen wir Menschen Fragen, vor allem die großen Fragen des Lebens nach unserem Ursprung und unserer Bestimmung: Wo komme ich her und wo gehe ich hin? Dass diese Fragen wichtig sind, liegt auf der Hand. Unsere Antwort auf die erste Frage prägt unser Selbstbild, die Antwort auf die zweite gibt uns ein Lebensziel. Zusammengenommen tragen die Antworten auf beiden Fragen dazu bei, unsere Weltanschauung zu prägen zu einem Narrativ, das unserem Leben einen Sinn gibt.

Das Problem ist, dass es keine einfachen Fragen sind, was wir schon daran erkennen, dass uns viele und sich widersprechende Antworten gegeben werden. Doch im Großen und Ganzen haben wir uns davon nicht abschrecken lassen. Im Laufe der Jahrhunderte haben Menschen ganz unterschiedliche Antworten vorgeschlagen, die aus der Naturwissenschaft, manchmal auch aus Philosophie und Religion stammen.

Zwei der bekanntesten futuristischen Szenarios sind die Romane Schöne neue Welt von Aldous Huxley aus dem Jahr 1932 sowie 1984, den Orwell 1949 veröffentlichte. Beide gelten als äußerst einflussreiche englische Romane. Orwells Buch wurde 2005 im Time-Magazine zu einem der besten englischsprachigen Romane zwischen 1923 und 2005 gekürt. Beide Romane sind Dystopien; laut Definition des Oxford English Dictionary (OED) »schildern sie einen unvorstellbar furchtbaren imaginären Ort oder eine unvorstellbar furchtbare imaginäre Zeit«. Diese unglaublich furchtbaren Orte, die die beiden Autoren schildern, sehen ganz unterschiedlich aus, und diese Unterschiede, die uns hilfreiche Einsichten liefern, die uns später nützen können, werden vom Soziologen Neil Postman in seinem mittlerweile zum Klassiker avancierten Buch Wir amüsieren uns zu Tode kurz und knapp erklärt:

Orwell warnt davor, dass wir von einer von außen kommenden Macht unterdrückt werden. Aber in Huxleys Vision braucht man keinen großen Bruder, um die Menschen ihrer Autonomie, Vernunft und Geschichte zu berauben. Er glaubte, dass die Menschen ihre Unterdrückung lieben und die Technologien bewundern werden, die ihnen ihre Denkfähigkeit nehmen.

Was Orwell fürchtete, waren diejenigen, die Bücher verbieten würden. Was Huxley befürchtete, war, dass es keinen Grund geben würde, ein Buch zu verbieten, denn es würde niemanden geben, der eines lesen wollte. Orwell fürchtete diejenigen, die uns Informationen vorenthalten würden. Huxley fürchtete diejenigen, die uns so viel geben würden, dass wir auf Passivität und Egoismus reduziert würden. Orwell befürchtete, dass die Wahrheit vor uns verborgen bleiben würde. Huxley befürchtete, dass die Wahrheit in einem Meer der Irrelevanz ertrinken würde. Orwell befürchtete, dass wir eine Gesellschaft der Gefangenen werden würden. Huxley befürchtete, dass wir eine triviale Kultur werden würden …

Kurz gesagt, Orwell hatte Angst, dass das, was wir fürchten, uns ruinieren würde. Huxley fürchtete, dass das, was wir uns wünschen, uns ruinieren würde.¹

Orwell zeigt uns einen totalitären Staat mit einem lückenlosen Überwachungssystem, »Gedankenkontrolle« und »Neusprech« – Vorstellungen, die heute zunehmend in Verbindung mit neuen Entwicklungen in der KI gebracht werden, insbesondere mit Computertechnologien, die Dinge tun können, zu denen sonst nur der menschliche Verstand in der Lage ist – kurz: die Schaffung eines Verstandes, der den des Menschen nachahmt. Milliarden von Dollar werden heute in die Entwicklung von KI-Systemen gesteckt, und es überrascht daher nicht, dass sich viele Menschen fragen, wohin das führen wird: auf der einen Seite zu einer besseren Lebensqualität durch digitale Unterstützung, medizinischen Innovationen und dem sogenannten Human Enhancement, also der Verbesserung und Erweiterung für den Menschen durch technologische Mittel, auf der anderen Seite zu Angst vor Verlust des Arbeitsplatzes und dem orwellschen Überwachungsstaat.

Sogar der Papst mischt sich ein. Im September 2019 warnte er davor, dass der Wettlauf um Fortschritte in der KI und andere digitale Entwicklungen das Risiko sozialer Ungleichheit mit sich bringen, wenn man nicht gleichzeitig untersuche, ob das dem Allgemeinwohl unter ethischen Gesichtspunkten zuträglich sei: »Wenn technologischer Fortschritt die Ursache von zunehmender und in die Augen fallender Ungleichheit würde, wäre das kein wirklicher und wahrer Fortschritt. Wenn der sogenannte technologische Fortschritt der Menschheit zum Feind des Gemeinwohls würde, würde das einen bedauernswerten Rückschritt in eine Form von Barbarei bedeuten, die uns vom Gesetz des Stärkeren aufgezwungen würde.«²

Die meisten Erfolge, die bisher in der KI erzielt wurden, drehen sich um Systeme, die etwas können, was normalerweise dem menschlichen Verstand vorbehalten ist. In Zukunftsspekulationen malen wir uns heute vor allem aus, wie man die ehrgeizige Aufgabe anpacken könnte, Systeme zu bauen, die alles können, wozu menschliche Intelligenz in der Lage ist. Das bedeutet eine sogenannte künstliche allgemeine Intelligenz (»artificial general intelligence«, AGI) zu schaffen, die nach Auffassung mancher Fachleute innerhalb relativ kurzer Zeit menschliche Intelligenz übertreffen wird – ganz sicher jedenfalls bis 2084 oder noch früher, wenn man manchen Spekulationen Glauben schenken mag. Der eine oder andere stellt sich vor, dass AGI, wenn wir sie jemals erschaffen, die Funktion eines Gottes übernehmen wird, während andere sie als totalitären Despoten betrachten.

Als ich darüber nachdachte, wie ich eine Einführung in diese immer wichtiger werdenden Themen und auch die Ängste und Hoffnungen, die damit verknüpft sind, schreiben könnte, kamen mir drei Bestseller der letzten Zeit in den Sinn. Die beiden ersten wurden von dem israelischen Historiker Yuval Noah Harari verfasst: Eine kurze Geschichte der Menschheit befasst sich, wie bereits im Titel anklingt, mit der ersten unserer beiden Fragen, dem Ursprung der Menschheit, und Homo Deus – Eine Geschichte von Morgen befasst sich mit der Zukunft der Menschheit. Das dritte Buch, Origin von Dan Brown, ist ein Roman so wie die Bücher von Huxley und Orwell. Im Mittelpunkt steht die Anwendung von KI, und zwar in Form eines Thrillers, den man nicht aus der Hand legen mag und der von Millionen von Lesern verschlungen wird, so wie es auch bei den schwindelerregenden Verkaufszahlen seiner bisherigen Bücher war. Sein Buch wird viele Menschen in ihrem Denken beeinflussen, vor allem auch junge Leute. Weil sich in diesem Roman die Fragen des Autors widerspiegeln, ist das Buch auch ein spannender Ausgangspunkt, um selbst ein wenig Forschungsarbeit zu betreiben.

Darüber hinaus bin ich mir bewusst, dass Science-Fiction-Literatur den einen oder anderen dazu angeregt hat, selbst einen naturwissenschaftlichen Beruf zu ergreifen. Allerdings muss ich an dieser Stelle zu Vorsicht raten. Brown behauptet, dass er mithilfe echter wissenschaftlicher Argumente zu seinen Schlussfolgerungen gekommen ist. Obwohl sein Roman eine erfundene Geschichte bleibt, müssen wir seine Argumente und Schlussfolgerung dennoch auf den Prüfstand stellen und auf ihren Wahrheitsgehalt hin untersuchen.

Das ist vor allen Dingen deshalb wichtig, weil ihn eigenen Angaben zufolge vor allem die Frage »Wird Gott die Wissenschaft überleben?« zum Schreiben dieses Romans motiviert hat. Das ist dieselbe Frage, die mich selbst bewegt hat, einige meiner Bücher zu verfassen. Dieses Buch jedenfalls lässt mich zu dem Schluss kommen, dass Gott die Wissenschaft mehr als nur überleben wird, und es lässt mich auch ernsthaft bezweifeln, dass der Atheismus die Wissenschaft überleben wird.³

Zu den Hauptfiguren in Origin gehört Edmond Kirsch, Milliardär, Informatiker und Experte für KI. Er behauptet, die Antwort auf die Fragen nach dem Ursprung und Ziel des Lebens gefunden zu haben. Seine Ergebnisse will er dafür einsetzen, sein Lebensziel zu verwirklichen, nämlich »mittels wissenschaftlicher Wahrheit die Mythen der Religion zu zertrümmern«⁴. Damit meint er in erster Linie die drei abrahamitischen Religionen Judentum, Christentum und Islam. Vielleicht lässt es sich nicht vermeiden, dass er dabei in erster Linie das Christentum vor Augen hat. Die Lösungen, die er der Weltöffentlichkeit vorlegt, verdankt er seinem Fachwissen im Bereich der KI. Für die Zukunft rechnet er damit, dass Menschen durch technologische Modifikationen verbessert werden.

An dieser Stelle sollte man gleich darauf hinweisen, dass nicht nur Historiker und Science-Fiction-Schriftsteller, sondern auch manche unserer geachtetsten Wissenschaftler glauben, dass die gesamte Menschheit durch Technologie verändert werden wird. Der britische Astronom Lord Rees etwa behauptet, wir könnten keineswegs damit rechnen, dass in ein paar Jahrhunderten die intelligenten Wesen, die dann die Erde beherrschen, uns emotional irgendwie ähnlich sind – obwohl sie möglicherweise mit einem Algorithmus verstehen, wie wir uns damals verhalten haben.⁵

In die gleiche Kerbe schlägt er, wenn er sagt: »Abstraktes Denken mit einem biologischen Gehirn liegt aller Kultur und Wissenschaft zugrunde. Doch diese Aktivität – die höchstens einige Zehntausend Jahre umfasst – wird nur ein kurzlebiger Vorläufer des viel mächtigeren Intellekts der nicht organischen nachmenschlichen Ära sein. In der fernen Zukunft wird es also nicht der menschliche Verstand, sondern der von Maschinen sein, der den Kosmos umfassend versteht.«⁶

Dieses Thema wird nicht einfach verschwinden. Es ist nicht nur für Menschen interessant, die unmittelbar in der KI-Forschung arbeiten, sondern auch für Mathematiker und andere Wissenschaftler, deren Arbeit in zunehmendem Maße davon beeinflusst wird. Weil die Forschungsergebnisse und Ideen, die mit KI zusammenhängen, unweigerlich auf uns alle Auswirkungen haben werden, denken ebenso viele Nicht-Naturwissenschaftler darüber nach und schreiben etwas dazu. Ihre Aussagen verdeutlichen, wie wichtig es ist, dass sich zum Beispiel Philosophen, Ethiker, Theologen, Kulturwissenschaftler, Romanschriftsteller und Künstler an der Debatte beteiligen. Schließlich muss man kein Nuklearphysiker oder Klimatologe sein, um mitreden zu können, wenn es um Kernenergie oder die Auswirkungen des Klimawandels geht.

Was ist KI?

Reden wir zunächst einmal über Roboter. Der Begriff stammt von dem tschechischen (und russischen) Wort für Arbeit robota. Ein Roboter ist eine Maschine, die von einem mit Intelligenz ausgestatteten Menschen entworfen und programmiert wurde, um typischerweise eine bestimmte Aufgabe zu erledigen, die physische Interaktion mit ihrem Umfeld erfordert – eine Aufgabe also, mit der man normalerweise einen mit Intelligenz ausgestatteten Menschen betrauen müsste. In diesem Sinne ahmt ein Roboter mit seinem Verhalten menschliche Intelligenz nach. Deshalb wird intensiv darüber diskutiert, ob man Roboter in gewissem Sinne als intelligent bezeichnen sollte, selbst wenn diese Art von Intelligenz nichts mit dem zu tun hat, was wir unter menschlicher Intelligenz verstehen – und was menschliche Intelligenz ausmacht, ist eine andere große Frage.

Der Begriff Künstliche Intelligenz wurde 1956 auf einem Sommerkurs des Fachbereichs Mathematik an der Dartmouth University geprägt, der von John McCarthy organisiert worden war. Er sagte: »KI ist die Wissenschaft und die Konstruktion von intelligenten Maschinen.«⁷

Heute wird der Begriff für die intelligenten Maschinen selbst und für die Wissenschaft und Technologie, die zu diesem Ziel führen, gebraucht.

Die Forschung in diesem Bereich hat zwei unterschiedliche Richtungen eingeschlagen. Grob gesagt versucht man erstens, menschliche Denkprozesse zu verstehen und sie mit Computertechnologie zu modellieren. Zweitens sieht man sich menschliches Verhalten genau an und versucht, Maschinen zu konstruieren, die dies nachahmen. Das ist ein wichtiger Unterschied: Es ist eine Sache, eine Maschine zu konstruieren, die zum Beispiel eine menschliche Hand nachahmt, die etwas hochhebt. Aber es ist etwas völlig anderes, eine Maschine zu konstruieren, die die Gedanken eines Menschen simulieren kann, während dieser etwas hochhebt. Ersteres ist viel leichter, und wenn man nur auf Nützlichkeit aus ist, reicht das auch aus. Schließlich beschäftigt sich der Flugzeugbau auch nur damit, Maschinen zu konstruieren, die fliegen können, aber nicht damit, ein elektronisches Hirn zu konstruieren, das einen Vogel simuliert, damit das Flugzeug genauso fliegen kann wie ein Vogel – nämlich, indem es mit den Flügeln schlägt.⁸

Die Idee, Maschinen zu konstruieren, die bestimmte Aspekte menschlichen und auch tierischen Verhaltens imitieren können, hat eine lange Geschichte. Vor 2000 Jahren konstruierte der griechische Mathematiker Heron von Alexandria ein Becken, das mit mechanischen singenden Vögeln und einer Eule bestückt war, die den Kopf drehen und so die anderen Vögel zum Schweigen bringen konnte. Im Laufe der Jahrhunderte waren Menschen immer wieder fasziniert davon, Automaten zu bauen, also Maschinen, die irgendeinen Aspekt des Lebens imitieren. Eine eindrucksvolle Sammlung von solch ausgefeilten Automaten kann man sich zum Beispiel im London Science Museum, im Wiener Kunsthistorischen Museum oder im Museum Speelklok in Utrecht ansehen. Das Interesse an der Konstruktion solcher Maschinen nahm im 19. Jahrhundert ab, lebte aber in der erzählenden Literatur weiter, wie zum Beispiel in dem 1818 von Mary Wollstonecraft Shelley veröffentlichten Roman Frankenstein. Er gehört zum Urgestein der Science-Fiction-Literatur, seit es dieses Genre gibt.

Zahlen zu berechnen ist im Alltag wichtig, und man hat viel Aufwand betrieben, um diesen Prozess zu automatisieren. Im 17. Jahrhundert baute der französische Mathematiker Blaise Pascal eine mechanische Rechenmaschine,⁹ mit der er seinen Vater, einen Steuerinspektor, bei seinen langwierigen Berechnungen unterstützen wollte. Im 19. Jahrhundert legte Charles Babbage die Grundlagen der Programmierung, als er die erste Differenzmaschine erfand – eine automatische Additionsmaschine – und später die analytische Maschine, den ersten programmierbaren Rechner. Babbage wird zu Recht als Vater des modernen Computers betrachtet.

Während des Zweiten Weltkriegs nutzte der brillante britische Computerwissenschaftler Alan Turing ausgefeilte elektronische Computertechnologie, um Geräte zu bauen – hier ist vor allem die sogenannte Turing-Bombe zu nennen –, die es ihm und seinem Team in Bletchley Park ermöglichte, den Code der deutschen Enigma-Chiffriermaschine zu knacken, die im militärischen Nachrichtendienst genutzt wurde. Turings Erfindungen und theoretische Arbeiten führten zu seinem Vorschlag einer »lernenden Maschine«. Ihm zufolge würde eine Maschine, die sich mit Menschen unterhalten konnte, ohne dass der Gesprächspartner wusste, dass es sich um eine Maschine handelte, das »Imitatitionsspiel« gewinnen und als »intelligent« gelten. Heute unter der Bezeichnung »Turing-Test« bekannt, lieferte diese Definition einen praktischen Test, ob man einer Maschine Intelligenz zusprechen könne. Wie wir später sehen werden, wurde dieser Ansatz von Philosophen infrage gestellt.

Etwa um dieselbe Zeit im Jahr 1951 bauten Marvin Minsky, Mitgründer des KI-Forschungslabors am MIT, und Dean Edmond den ersten Neurocomputer. Weitere bedeutende Schritte auf dem Weg, die auch in der Öffentlichkeit wahrgenommen wurden, waren der Deep-Blue-Rechner von IBM, der 1997 den Schachweltmeister Garry Kasparov besiegte, und 2016 das AlphaGo-Programm von Google, das erstmals einen menschlichen Go-Spieler schlug und dafür maschinelles Lernen nutzte. Wie wichtig KI ist, wurde 2018 durch den Turing Award – gewissermaßen der »Nobelpreis der Informatik« – noch einmal herausgestellt. Er wurde drei Forschern verliehen, die die Grundlage für den aktuellen KI-Boom legten, vor allem im Bereich Deep Learning.

Die ersten Roboter und KI-Systeme beherrschten das heute sogenannte »maschinelle Lernen« noch nicht. Der Schlüssel zu diesem maschinellen Lernen liegt in Algorithmen von ganz unterschiedlicher Art – zum Beispiel symbolischen oder mathematischen.¹⁰ Der Begriff Algorithmus leitet sich vom Namen des berühmten persischen Mathematikers, Astronomen und Geografen Muhammad ibn Musa Chwa-rizmı- (ca. 780–850) ab, der in Latein »Algorismi« heißt.¹¹

Heute meint ein Algorithmus eine »genau definierte Menge von mathematischen oder logischen Operationen für die Durchführung einer bestimmten Aufgabe« (OED). Die Idee dahinter kann man bis auf das alte Babylonien in der Zeit zwischen 1800 und 1600 v.Chr. zurückverfolgen. Der Informatiker Donald Knuth veröffentlichte einige dieser alten Algorithmen und kam zu dem Schlu...