Die großen Neun

Wie wir die Tech-Titanen bändigen und eine Künstliche Intelligenz zum Wohle aller entwickeln können

Amy Webb, Petra Pyka

• Verlag: Plassen Verlag
• Jahr: 2019
• ISBN drucken: 9783864706387
• eBook-ISBN: 9783864706394
• Auflage: 1
• Thema: Politics & International Relations
• Thema: Political History & Theory

Die "großen Neun" haben eines gemeinsam: Sie alle treiben mit Macht die Entwicklung künstlicher Intelligenz (KI) voran – und dieses Thema polarisiert: Entweder ist KIder Heilsbringer schlechthin oder aber eine tödliche Gefahr für die Menschheit. Doch wie heißt es so schön? Die Wahrheit liegt irgendwo dazwischen.Futuristin und Bestsellerautorin Amy Webb macht sich auf die Suche nach der Wahrheit. Sie erklärt unter anderem, weshalb wir KI nicht gigantischen Tech-Konzernen und auch nicht einzelnen Weltmächten wie China überlassen dürfen. Sie zeigt auf, was Politik, Wirtschaft und jeder von uns tun kann, damit künstliche Intelligenz sich am Ende nicht als Fluch, sondern als Segen herausstellt.

Teil 1

GEISTER IN DER MASCHINE

KAPITEL 1

GEIST UND MASCHINE – EINE GANZ KURZE GESCHICHTE DER KI

Die Wurzeln der modernen künstlichen Intelligenz reichen Hunderte von Jahren zurück, in eine Zeit, lange bevor die großen Neun KI-Agenten mit Namen wie Siri, Alexa oder ihr chinesisches Gegenstück Tiān Māo entwickelt haben. Die ganze Zeit über gab es nie die eine klare Definition für KI, wie es sie für andere Technologien gibt. KI ist nicht so einfach konkret zu beschreiben, denn KI kann für so Vieles stehen, und dieser Bereich wächst ständig weiter. Was noch in den 1950er-Jahren als KI galt – ein Rechner, der in der Lage war, schriftlich zu dividieren –, erscheint heute kaum noch als fortschrittliche technische Entwicklung. Das wird auch als „seltsames Paradoxon“ bezeichnet: Ist eine neue Technologie erst einmal erfunden und hat sich massenhaft verbreitet, wird sie für uns unsichtbar. Prompt halten wir eine solche Technologie nicht mehr für KI.

In ihrer einfachsten Form ist künstliche Intelligenz ein System, das autonome Entscheidungen trifft. Die Aufgaben, die KI erfüllt, duplizieren oder ahmen Akte menschlicher Intelligenz nach – wie die Erkennung von Geräuschen und Gegenständen, die Problemlösung, das Sprachverständnis und den Einsatz von Strategie, um Ziele zu erreichen. Manche KI-Systeme sind ungeheuer breit angelegt und führen rasend schnell Millionen von Berechnungen durch, andere sind dagegen sehr eng gefasst und nur für eine bestimmte Aufgabe gedacht, etwa zum Aufspüren von Schimpfwörtern in E-Mails.

Die Fragen, die sich uns dazu aufdrängen, sind immer wieder dieselben: Können Maschinen denken? Was würde es für eine Maschine bedeuten, zu denken? Was bedeutet es für uns, zu denken? Was ist Denken eigentlich? Woher wollen wir – definitiv und zweifelsfrei – wissen, dass wir wirklich originelle Gedanken haben? Solche Fragen begleiten uns seit Jahrhunderten und sie stehen im Mittelpunkt der Gegenwart und Zukunft der KI.

Bei der Untersuchung, wie Maschinen und Menschen denken, stellt sich folgendes Problem: Das Wort „denken“ ist untrennbar mit dem Begriff „Geist“ verbunden. Im Merriam-Webster Dictionary wird „denken“ definiert als „im Geist bilden oder haben“, während das Oxford Dictionary die Bedeutung folgendermaßen erklärt: „seinen Geist aktiv nutzen, um zusammenhängende Ideen zu entwickeln“. Schlagen wir das Wort „Geist“ in beiden Quellen nach, wird es im Kontext von „Bewusstsein“ definiert. Doch was ist Bewusstsein? Laut beiden Nachschlagewerken ist es die Eigenschaft oder Verfassung, zu begreifen und zu reagieren. Unterschiedliche Gruppierungen – Psychologen, Neurowissenschaftler, Philosophen, Theologen, Ethiker und Informatiker – nähern sich dem Konzept des Denkens auf verschiedenen Wegen.

Wenn Sie Alexa einsetzen, um herauszufinden, ob in Ihrem Lieblingslokal noch ein Tisch frei ist, treten Sie beide bewusst in einen Dialog über das Essen ein, obwohl Alexa nicht weiß, wie es sich anfühlt, wenn man in einen knackigen Apfel beißt, kohlensäurehaltiges Mineralwasser auf der Zunge prickelt oder Erdnussbutter am Gaumen klebt. Bitten Sie Alexa, die Eigenschaften solcher Lebensmittel zu beschreiben, so schildert sie Ihnen en détail, wie Sie diese erleben. Alexa hat aber keinen Mund – wie kann sie da Nahrung so wahrnehmen, wie Sie das tun?

Sie sind ein biologisch einzigartiges Individuum, dessen Speicheldrüsen und Geschmacksknospen ein bisschen anders angeordnet sind als beispielsweise meine. Trotzdem wissen wir beide aus Erfahrung, was ein Apfel ist und wie ein Apfel im Allgemeinen schmeckt, welche Beschaffenheit er hat und wie er riecht. Wir haben im Lauf unseres Lebens gelernt, einen Apfel zu erkennen – und zwar durch Verstärkungslernen. Jemand hat uns beigebracht, wie ein Apfel aussieht, wozu er gut ist und was ihn von anderen Früchten unterscheidet. Mit der Zeit und ohne dass wir uns dessen bewusst waren, konnten unsere autonomen biologischen Mustererkennungssysteme immer besser bestimmen, was ein Apfel ist – selbst wenn uns nur ein paar der nötigen Datenpunkte zur Verfügung standen. Schon wenn Sie nur den zweidimensionalen Umriss eines Apfels in Schwarz-Weiß sehen, wissen Sie, worum es sich dabei handelt – obwohl Geschmack, Geruch, Knackigkeit und all die anderen Daten fehlen, die Ihrem Gehirn signalisieren: Das ist ein Apfel. Doch Sie und Alexa haben auf eine viel ähnlichere Art und Weise gelernt, was ein Apfel ist, als Sie sich vielleicht vorstellen können.

Alexa ist kompetent – aber ist sie auch intelligent? Muss ihre maschinelle Wahrnehmung sämtliche Qualitäten menschlicher Wahrnehmung haben, damit wir ihr „Denken“ als gleichwertige Spiegelung des unseren anerkennen? Der Bildungspsychologe Dr. Benjamin Bloom befasste sich im Zuge seiner akademischen Laufbahn vor allem mit der Erforschung und Klassifizierung des Denkens. 1956 veröffentlichte er seine berühmte Taxonomie zur Klassifizierung von Lernzielen und Bildungsstufen. Die Grundlage bildet das Erlernen von Fakten und grundlegenden Konzepten, gefolgt vom Verständnis und der Anwendung des Wissens in neuen Situationen, der Bewertung, Rechtfertigung und Beurteilung von Informationen und schließlich eigener kreativer Gedanken. Als Kinder sind wir zunächst auf das Lernen und Verstehen fokussiert. So müssen wir erst lernen, dass eine Flasche Milch enthält, bevor wir verstehen, dass die Flasche eine Vorder- und eine Rückseite hat, obwohl wir sie nicht sehen.

Dieselbe Hierarchie gilt auch für das maschinelle Lernen. 2018 komponierte und produzierte ein KI-System namens Amper selbst Musik für das Album I AM AI. Harmoniefolge, Instrumentierung und Percussion wurden von Amper entwickelt, auf der Grundlage ursprünglicher Parameter wie Genre, Stimmung und Länge. So entstanden in wenigen Minuten komplette Stücke. Die (menschliche) Künstlerin Taryn Southern arbeitete mit Amper an dem Album zusammen – und das Resultat ist die stimmungs- und seelenvolle Ballade „Break Free“ mit über 1,6 Millionen YouTube-Aufrufen, die im klassischen Radio zum Hit wurde. Doch bevor Amper diesen Song erschaffen konnte, musste das System erst lernen, welche qualitativen Elemente und quantitativen Daten eine große Ballade ausmachen – wie man Notenwerte und Taktschläge berechnet und wie man in der Musik Tausende von Mustern erkennt (zum Beispiel Akkord- und Harmoniefolgen und rhythmische Akzente).

Kreativität, wie sie von Amper an den Tag gelegt wurde, ist der Höhepunkt der Bloom’schen Taxonomie – doch war sie schlicht ein eingelernter mechanischer Prozess? Oder ein Beispiel für menschenähnliche – oder eine ganz anders geartete – Kreativität? Hat Amper so über Musik gedacht wie ein menschlicher Komponist? Man könnte behaupten, dass Ampers „Gehirn“ – ein neuronales Netz, das in einem Gehäuse Algorithmen und Daten einsetzt – vielleicht nicht so anders ist als das Gehirn eines Beethoven aus organischen Neuronen, das in dem Gehäuse seines Schädels Daten verarbeitet und Muster erkennt. Unterschied sich der kreative Prozess von Amper tatsächlich von dem Beethovens, als dieser seine Fünfte komponierte, die mit dem berühmten Da-da-da-DAMM, Da-da-da-DAMM beginnt, um dann von Dur in Moll zu wechseln? Beethoven hat die ganze Sinfonie nicht komplett neu erfunden – auf diese ersten vier Noten folgen eine harmonische Sequenz, Teile von Tonleitern, Arpeggios und andere übliche Zutaten, aus denen viele Kompositionen bestehen. Hören Sie beim Scherzo vor dem Finale genau hin, und sie erkennen Muster, die er sich bei Mozarts Sinfonie Nr. 40 ausgeborgt hat, die 20 Jahre zuvor geschrieben worden war – 1788 nämlich. Mozart stand unter dem Einfluss seines Rivalen Antonio Salieri und seines Freundes Franz Joseph Haydn, die ihrerseits von den Werken früherer Komponisten wie Johann Sebastian Bach, Antonio Vivaldi und Henry Purcell und deren Musik beeinflusst waren, die von Mitte des 17. bis Mitte des 18. Jahrhunderts entstand. In ihren Kompositionen lassen sich auch Parallelen zu noch älteren Komponisten aus dem 15. bis 17. Jahrhundert erkennen, wie Jakob Arcadelt, Jean Mouton und Johannes Ockeghem. Und diese wiederum waren geprägt von den frühesten Komponisten des Mittelalters – wir könnten das Einflussmuster zurückverfolgen bis zur allerersten schriftlichen Komposition, der sogenannten „Seikilos-Stele“, einer Marmorsäule von einer altgriechischen Grabstätte aus dem 1. Jahrhundert, in die eine musikalische Notation eingemeißelt war. Wir könnten sogar noch weiter zurückgehen – bis in die Zeit, als aus Knochen und Elfenbein die ersten primitiven Flöten geschnitzt wurden, vermutlich vor 43.000 Jahren. Dabei geht die Forschung davon aus, dass unsere frühesten Vorfahren davor schon gesungen haben, bevor sie sprechen lernten.¹

Wie wir Menschen „verdrahtet“ sind, ist das Ergebnis von Jahrmillionen der Evolution. Die Verdrahtung der modernen KI basiert auf einer ganz ähnlichen langen evolutionären Entwicklung, die bis zu den Mathematikern, Philosophen und Wissenschaftlern der Antike zurückreicht. Menschheit und Maschinen haben nur dem Anschein nach unterschiedliche Pfade eingeschlagen. In Wirklichkeit war unsere Evolution stets miteinander verflochten. Der Homo sapiens lernte aus seinem Umfeld und gab Eigenschaften an künftige Generationen weiter, diversifiziert und repliziert durch die Erfindung fortschrittlicher Technologien wie Landwirtschaft, Jagdwerkzeuge und Penicillin. Es dauerte 11.000 Jahre, bis aus den 6 Millionen Erdenbürgern der Neusteinzeit die 7 Milliarden Menschen geworden waren, die die Erde heute bevölkern.² Das von KI-Systemen „bewohnte“ Ökosystem – die Parameter für Lernen, Daten, Algorithmen, Prozessoren, Maschinen und neuronale Netze – verbessert und wiederholt sich exponentiell. Es wird nur Jahrzehnte dauern, bis sich KI-Systeme verbreiten und in alle Lebensbereiche Eingang finden.

Ob Alexa nun einen Apfel genauso wahrnimmt wie wir und ob Ampers Kompositionen wirklich „originell“ sind, sind im Grunde Fragen zu unserer Auffassung vom Denken. Unsere heutige künstliche Intelligenz ist eine Mischung aus dem, was Philosophen, Mathematiker, Wissenschaftler, Roboteringenieure, Künstler und Theologen in Tausenden von Jahren hervorgebracht haben. Ihr Ziel – und unseres in diesem Kapitel – ist, den Zusammenhang zwischen dem Denken und den Denkfabriken zu begreifen. Welcher Zusammenhang besteht zwischen dem menschlichen Geist und den – oder ungeachtet der – Maschinen, die von den großen Neun in China und den Vereinigten Staaten gebaut werden?

Gibt es den Geist in der Maschine?

Die Grundlagen der KI lassen sich bis ins antike Griechenland zurückverfolgen, zu den Ursprüngen der Philosophie, der Logik und der Mathematik. In vielen Schriften Platons sagt Sokrates „Erkenne dich selbst“ und er meinte damit, um sich zu verbessern und die richtigen Entscheidungen zu treffen, müsse man zunächst den eigenen Charakter kennen. Neben anderen Errungenschaften erfand Aristoteles den Syllogismus und unser erstes formallogisches System zur Deduktion. Etwa zeitgleich entwickelte der griechische Mathematiker Euklid eine Methode, den größten gemeinsamen Teiler zweier natürlicher Zahlen zu ermitteln. Damit hatte er den ersten Algorithmus in die Welt gesetzt. Aus ihrer Arbeit erwuchsen zwei maßgebliche neue Ideen: dass bestimmte physikalische Systeme nach logischen Regeln funktionieren und dass das menschliche Denken selbst ein symbolisches System sein könnte. Das regte Philosophen, Theologen und Wissenschaftler zu jahrhundertelangen Nachforschungen an. War der Körper eine komplexe Maschine? Ein Gefüge aus Hunderten weiterer Systeme, die alle zusammenarbeiteten – wie in einer großen Standuhr? Und der Geist? War er ebenfalls eine komplexe Maschine? Oder etwas ganz anderes? Ein göttlicher Algorithmus oder der Zusammenhang zwischen dem Geist und der physischen Welt ließ sich weder be- noch widerlegen.

Im Jahr 1560 baute ein spanischer Uhrmacher namens Juanelo Turriano einen kleinen mechanischen Mönch, den er im Namen König Philipps II., dessen Sohn sich auf wundersame Weise von einer Kopfverletzung erholt hatte, der Kirche zum Geschenk machte.³ Der Mönch hatte erstaunliche Fähigkeiten – er konnte über den Tisch laufen, ein Kruzifix und einen Rosenkranz hochheben, sich reuevoll auf die Brust schlagen und seine Lippen bewegen, als würde er beten. Er war der erste Automat – die mechanische Darstellung eines Lebewesens. Das Wort „Roboter“ existierte zwar noch nicht, doch der Mönch war eine bemerkenswerte kleine Erfindung, die das Publikum damals schockiert und verwirrt haben musste. Seinerzeit kam wohl kaum jemand auf den Gedanken, dass ein kleiner Automat irgendwann in ferner Zukunft nicht nur einfache Bewegungen nachahmen, sondern in den Fertigungsstraßen von Fabriken, in Forschungslabors und in Gesprächen am Küchentisch den Menschen ersetzen könnte.

Der kleine Mönch war die Inspiration für die erste Generation von Roboteringenieuren, die immer komplexere, dem Menschen nachempfundene Maschinen entwickeln wollte: Bald schon konnten Automaten schreiben, tanzen und malen. Das brachte eine Gruppe von Philosophen dazu, Fragen dazu zu stellen, was einen Menschen eigentlich ausmachte. Wenn es möglich war, Automaten zu bauen, die menschliches Verhalten nachahmten, waren Menschen dann von Gott gebaute Automaten? Oder waren wir komplexe Systeme mit der Fähigkeit, logisch und kreativ zu denken?

Der englische Staatstheoretiker und Philosoph Thomas Hobbes beschrieb die rationale Erkenntnis in De corpore, dem ersten Teil seiner großartigen Trilogie über Naturwissenschaft, Psychologie und Politik, als Berechnung. 1655 schrieb er: „Unter rationaler Erkenntnis verstehe ich Berechnung. Berechnen heißt entweder die Summe von zusammengefügten Dingen finden oder den Rest erkennen, wenn eins vom andern abgezogen wird. Also ist rationale Erkenntnis dasselbe wie Addieren und Substrahieren.“⁴ Doch woher sollten wir wissen, ob wir bei diesem Prozess einen freien Willen hatten?

Als Hobbes am ersten Teil seiner Trilogie schrieb, veröffentlichte der französische Philosoph René Descartes seine Meditationen und fragte darin, ob wir mit Sicherheit sagen könnten, dass das, was wir wahrnehmen, auch real sei. Wie konnten wir unser eigenes Bewusstsein nachweisen? Welcher Beleg war erforderlich, um zu folgern, dass unsere Gedanken wirklich unsere eigenen und die Welt um uns herum real war? Descartes war Rationalist und glaubte, dass man durch Deduktion zu Fakten gelangte. Er führte ein berühmtes Gedankenexperiment durch. Er bat seine Leser, sich vorzustellen, ein Dämon würde gezielt eine Illusion ihrer Welt erschaffen. Wäre die physische, sinnliche Erfahrung der Leserin, in einem See zu schwimmen, nur das Konstrukt des Dämons, könnte sie nicht wissen, dass sie schwamm. Doch Descartes vertrat die Ansicht, wenn sich die Leserin ihrer eigenen Existenz bewusst sei, erfülle sie die Kriterien für Wissen. „Ich bin, ich existiere, wann immer es von mir ausgesprochen oder vom Verstand begriffen wird, ist notwendigerweise wahr“, schrieb er über seinen berühmten Satz.⁵ Anders ausgedrückt: Unsere Existenz ist über jeden Zweifel erhaben, auch wenn es in unserer Mitte einen...

Inhaltsverzeichnis

• Cover
• Titel
• Impressum
• Widmung
• INHALT
• EINLEITUNG Bevor es zu spät ist
• TEIL 1 GEISTER IN DER MASCHINE
• TEIL 2 SZENARIEN FÜR UNSERE ZUKUNFT
• TEIL 3 DIE LÖSUNG DER PROBLEME
• DANK
• QUELLENNACHWEIS
• ENDNOTEN