Vor einer Woche schrieb ich anlässlich einer kritischen Lektüre von Hararis „Homo Deus“ (Vintage 2017, London) in mein Tagebuch:
„Wenn die Intelligenz das Bewusstsein überholt und das Glück in den Sensationen liegt: dann bin ich unglücklich, wenn ich beim sexuellen Vorspiel entdecke, dass ich mit einer dea ex machina herummache, aber nach dem Orgasmus könnte mir dies gleichgültig sein, bis das Begehren wieder einsetzt, und damit das Bewusstsein. Oder aber, es ist mir schon vorher egal, weil ja die Biophysispsyche das Bewusstsein dominiert“.
Bei dieser Notiz ging es darum, dass Harari in seinem sehr ambivalenten Zukunftsszenario eben als eine These prüfen lässt, ob das Bewußtsein von der Intelligenz überholt werden kann; auch denkt er, dass biophysische Existenzen sehr viel „menschlicher“ werden können und homo sapiens hinter lassen (um dann Homo Deus zu werden – oder auch nicht). Nicht so wichtig wie diese eine Vorstellung, mit der ich spiele, nachdem ich seine Ausführungen dazu lese.
Vor drei Tagen kam die neue Nummer von NYRB (New York Review of Books, 19.7.2018). Und da lese zu meinem Erstaunen (und Frust) eine blendende Kurzgeschichte des ohnedies hochgeschätzten Ian McEwan: „Düssel…“, in der an der entscheidenden Stelle, beim Vorspiel, der Mann fragt „Jenny…forgive me, I love you and always will…but please tell me the truth. Are you real?“. Nun, sie ist es nicht, und wieweit die Liebe tragen wird, das zu überbrücken, wenn man es einmal weiß, ist unklar. Am Ende heisst es: „But if we were to live together, I would have to acknowledge that it would be tricky for me to win an argument or counter any decision she made…Believe me, if you had never apologized to a machine for posing the indelicate question, then you have no concept of the historical distance that I and my generation have traveled”.
Zweimal “if”, vergessen wir das nicht.
Zur Harari-Rezension ist es noch zu früh, sie wird nicht nur freundlich ausfallen, aber kluges sagt er immerhin und seine starke Betonung, dass nichts, gar nichts, ohne unsere körperlichen Sensations geht, ist natürlich sympathisch. Aber er ist klug genug, einen englischen Ausdruck zu verwenden, der bedeuten kann: Gefühl, Empfindung, Wahrnehmung oder – Sensation. Erstes und letzteres wahrscheinlich nicht gemeint, aber schillernd bleibt es, und was gemeint ist, wissen wir bei meinem Beispiel sofort. Oder? Wenn der den Sapiens überholende Mensch um so viel klüger ist, um so viel „menschlicher“ als wir, warum uns dann nicht getrost dem Spiel der Algorithmen überlassen?
Abseits dieser wissenschaftlichen, die Geschichtswissenschaft fordernden Science Fiction: Wenn wir wissen wollen, wer und in diesem Falle auch: was ein anderer Mensch ist, warum? Trauen wir unseren Empfindungen nicht? Haben wir vielleicht gelernt, ihnen zu misstrauen?
Wer den Film „ex machina“[1] gesehen hat, weiß, dass die nicht auf mich gewartet haben, um diese Überlegungen zu popularisieren[2]. Wer Harari liest, weiß, dass man ältere und neuere Erkenntnisse kombinieren kann um wieder einmal Zukunftsszenarien zu entwerfen, die wenig originell sind, wenn man sie dekonstruiert. Aber haben wir das beim Aufkommen der digitalen Welt, beim www. oder bei den ersten autonomen Waffensystemen auch gesagt? Also Vorsicht mit unserem Wunschdenken, die Frage nicht stellen zu müssen: Are you real?
[1] Film von Alex Garland 2015 mit Alicia Vikander. Was in den Rezensionen dazu weitgehend fehlt, ist die Übertragung von „Sensations“ auf Wesen mit super-humaner Intelligenz und/oder Empfindungsfähigkeit. SF hat hier schon viel vorgearbeitet, nicht nur Philipp K. Dick und William Gibson. Für mich ist Variante viel früher schon Lem, bei dem das Bewusstsein, „Mensch zu sein“ mit dem vollständigen Austauisch seiner Körperbestandteile nicht verlorengeht. Romantik pur? Dann müsste man fragen, wie diese Romantik in die KI einfließt.
[2] Wer sich damit noch gar nicht beschäftigt hat, findet einen ersten Zugang bei https://de.wikipedia.org/wiki/Turing-Test (15.7.2018).
Michael Daxner 
Lieber Michael,
was mir bei der nach der Lektüre von Ian McEwan auffiel, ist die in der SF allgegenwärtige Beschäftigung mit immer neuen Grenzüberschreitungen künstlicher Intelligenz, auf dem Weg hin zu einer Art evolutionären Weiterentwicklung des Menschen. Was in der SF fast nie vorkommt, sind die Hindernisse auf dem Weg dorthin, die sich möglicherweise doch als unüberwindbar erweisen. Der aktuelle Stand künstlicher „Intelligenz“ ist ohnehin bescheiden, da können gewonnene Schachspiele nicht drüber hinweg täuschen. Der Durchbruch wäre erreicht, wenn künstliches Bewusstsein eine eigene Form von Evolution entwickeln, sich also von menschlichen Eingriffen unabhängig machen würde.
Falls Du es noch nicht kennst, empfehle ich Dir zu diesem Dilemma, sofern noch nicht bekannt, die SF-Serie „Westworld“ (lose angelegt an den gleichnamigen Spielfilm aus den 70ern). Hier ergreifen Androiden scheinbar die Gelegenheit zur Emanzipation, scheitern aber (nach aktuellem Stand, die Serie ist noch nicht abgeschlossen) nach anfänglichen Erfolgen daran, die Grenzen ihrer Programmierung zu sprengen – schlicht WEIL sie programmiert wurden. Es gibt da eine schöne Szene, in der eine Androidin ein Computerterminal entdeckt, über welches sie ihre eigenen Fähigkeiten steuern kann. Sie nutzt die Gelegenheit, ihre Intelligenz auf den Maximalwert zu stellen. Sie wird dadurch zur scheinbar übermenschlich intelligenten Person, aber das interessante dabei: es gibt einen vorgegebenen Maximalwert. Diesen zu sprengen müsste das eigentliche Ziel darstellen, aber mir scheint, dies ist nicht möglich. Und genau dies symbolisiert die Grenze zwischen einem noch so intelligenten Androiden und einem noch so dummen Menschen, die m.E. nicht überschritten werden kann. Die eigene Programmierung auszutauschen ist einfach nicht möglich.
Natürlich kann man diese Handlung, wie bei anderen SF-Produktionen auch, auf die Begrenztheit der Menschen übertragen, und damit auf die Unfähigkeit, jenseits der menschlichen Urteilsfähigkeit „göttliche“ Dimensionen zu begreifen.
Viele Grüße aus Oldenburg, ich bin gespannt auf Deine Harari-Rezension.
Simon
p.s. da ich es versäumt habe, mich auf anderem Wege schon früher zurückzumelden: mein Dissertationsvorhaben ist leider einer Mischung aus fehlender Zeit und fehlender Finanzierung zum Opfer gefallen. Nachdem ich meine erste Vollzeitstelle antrat, kam ich nicht mehr recht dazu. Das Interesse ist auch jetzt noch vorhanden, aber mittlerweile scheint eine Kariere in der Verwaltung einfach vielversprechender (demnächst mehr in meinem LinkedIn-Profil), und ein zweiter Luhmann werde ich auch nicht mehr. Ich bin auch da mal wieder spät dran. Eigentlich schade, denn es ist schon sehr schwierig, sich für Verwaltung ähnlich stark zu interessieren, wie für die Wissenschaft.
LikeLike
Lieber Simon, danke für den Kommentar – ja, das bemängle ich auch: die Hindernisse auf dem Weg zum Homo Deus sind aber vielleicht der falsche Begriff: denn wenn wir etwas hinderlich empfinden, dann wollen wir eigentlich das Ergebnis.Ich denke, es wird eine Reihe von Verzeigungen und Katastrophen geben und nicht zu Homo Deus kommen, aber nicht, weil wir es nicht können, sondern weil wir langsamer sind als zB. der Klimawandel. UND weil wir uns nicht aus der Vergangenheit des Zweifels, are you real? lösen können. Alles Gute dir jedenfalls, und vielleicht bis einmal…ich komme selten nach Oldenburg, du aber vielleicht öfter nach Berlin oder Potsdam. Michael
LikeLike