Das sind hochphilosophische Denksportaufgabenstellungen, die sich in diesem Text nicht mehr lösen lassen werden. Festzustellen bleibt jedoch: Die KI entwickelt sich rasend, alle Bereiche sind betroffen, von Kunst und Kultur über Medizin bis zu Rechtsprechung und Überwachung. Es ist klar, dass diese technologische Evolution unsere Welt massiv verändern, vielleicht aus den Angeln heben wird. Es ist ferner klar, dass uns eine Allgegenwart des Algorithmus als Gesellschaft gehörig überfordern wird. Gebannt starren wir – manche begeistert, andere ängstlich – auf das Phänomen, nehmen zur Kenntnis, wie ein Aspekt gesellschaftlichen Lebens und Organisation nach dem anderen von KI übernommen wird, doch niemand startet einen verantwortungsvollen Diskurs. Einen Diskurs darüber, wie weit wir die Steuerung unserer Zivilisation in die Hände einer selbstlernenden Maschinerie legen wollen, und eine Debatte darüber, wer die Finger am Steuerpult dieser selbstgenerativen Netzwerke hat. Eins muss jetzt schon klar sein: Wir können einen solch gewaltigen Schritt der Menschheitsgeschichte nicht einfach den großen IT-Firmen überlassen! Doch genau danach sieht es gerade aus.

Spielwiese für privatwirtschaftliche Unternehmen

Wer mit KI nur selbstfahrende Autos und Sprachassistenten wie Alexa und Siri verbindet, ist entweder hoffnungslos naiv oder grob unterinformiert. KI kommt zum Einsatz bei sogenannten Diagnoseprogrammen, die schon vereinzelt in Krankenhäusern und bei Bewilligungsstellen von Krankenkassen Anwendung finden. Und demnächst, so hat es Gesundheitsminister Spahn angedacht, könnte sie auch bei uns das persönliche Arztgespräch, die Visite, ersetzen. In sogenannten Smart Cities kümmern sich Mobilitätsanbieter mittels Drohnen und Überwachungstechnik um die Verkehrslage. Der öffentliche Raum wird so zur Spielwiese (und Datenmine) privatwirtschaftlicher Unternehmen. Bei der Smart Administration liefern IT-Konzerne ihre abgeschöpften Daten ans Rathaus, die Gemeinderäte regieren die Bürger dann auf Grundlage eines per KI ermittelten Ist-Zustandes. Der muss mit der Realität im Städtchen nicht unbedingt etwas zu tun haben, da diese per KI erstellten Rankings und Eckwerte natürlich nur so gut (und wertneutral) sein können, wie die Erhebungsmodi der zugrundliegenden Datensätze.

Diese Datendossiers werden zweifellos die Interessen der beteiligten Konzerne widerspiegeln. Es ist eine weit verbreitete Fehlannahme, dass alles, was aus einem Computer kommt, automatisch neutral und ausgewogen repräsentativ sei. Denn schon immer ist das Silicon Valley der Meinung gewesen, der demokratische Staat hätte mit seinen Verwaltungsakten und Gesetzgebungsverfahren, pluralistischen Meinungsbildungs- und Entscheidungsprozessen eine veraltete, arschlangsame Hardware, die mit ein paar flinken Softwareupdates von Amazon, Alphabet Inc. und Apple in Richtung Smart Nation beschleunigt werden sollte. Diese Ansicht kann man nur teilweise unterschreiben, geht doch die Hardware der meisten repräsentativ-demokratischen Gesellschaften immerhin auf Voltaire, die Französische Revolution etc. pp. zurück und hat sich im Laufe der Jahrhunderte durch (mal schmerzhafte, mal freudige) sozio-politische Lernerfahrungen selbst optimiert. Die von den IT-Giganten angepriesene Software hingegen kann als Herkunft leider nur auf eine Garage in Nordkalifornien verweisen, in der ein pickeliger Nerd in den 1970-Jahren das personal computing erschuf. Irritierend an all den smarten Gesellschaftsmodellen und Governance-Konzepten der Datenkonzerne ist jedenfalls die Unterstellung, Maschinenlernen sei effektiver als politische Lernprozesse, und die Behauptung, Städte und Nationen sollten nicht regiert, sondern "gemanagt" werden.

Formatierte Wirklichkeit

Auch auf dem Feld der Kommunikation bewirkt die KI einschneidende Veränderungen. Während die Maschinen lernen wie Menschen zu sprechen, spricht der Mensch zunehmend in Maschinencode. Wer mit seinem Netzwerklautsprechern spricht, verwendet dabei Imperative ("Reservier' die Konzertkarten, Alexa! Buche den Nachmittagsflug, Siri!"). Der Duktus des Sprechers muss sich an die Syntax der Software anpassen, sonst funktioniert es nicht. Programmierer entscheiden also über Sprachgepflogenheiten; naiv anzunehmen, dass diese Sprachroutinen auf Dauer nicht auf die Kommunikation zwischen Menschen abfärben. Doch "die Grenzen der Sprache sind auch die Grenzen der Welt" (Ludwig Wittgenstein), was nicht verbalisiert wird, existiert nicht. Mit der Beschreibungssprache ihrer Codes formatieren die Konzerne die Wirklichkeit.

Das Feld dieser neuen Boombranche wird von gewinnsüchtigen Firmen wie Pfizer, Merck, Novartis etc. bestellt. Eine "ethische Selbstverpflichtung" der Industrie und ihre Zusicherung "wissenschaftliche Standards" einzuhalten, reichen beim Thema KI nicht aus. Denn das Zusammentreffen von Biotechnologie und maschinellem Lernen wird in den kommenden Jahren vermutlich eine wissenschaftliche Revolution auslösen, deren Ergebnis, Wirkung und Bedeutung von einem menschlichen Gehirn nicht mehr ermessen werden kann. Die KI wird Dinge, Phänomene und Wesen hervorbringen, die nur noch von einer Instanz begriffen werden können – von der KI selbst.

Ein erster Warnschuss war im November 2018 die Geburt der Zwillinge Nana und Lulu, den ersten genetisch veränderten Menschen, deren DNA vom chinesischen Forscher He Jiankui mithilfe der Genschere Crispr-Cas gestaltet wurde. Mit der Neuschreibung, der Umformulierung unserer DNA wären wir dann soweit: Homo sapiens sapiens hat sich selbst abgeschafft. Nach den ersten drei großen Kränkungen der Menschheit (1. Kopernikus: Erde ist nicht Zentrum des Universums. 2. Darwin: Wir stammen vom Affen ab. 3. Freud: Das Ich ist nicht Herr unseres Bewusstseins) wäre dies die vierte Menschheitskränkung: Alle unsere Fähigkeiten, Talente, Neugierden und der ganze Wissensdurst führen letztlich dazu, uns überflüssig zu machen. Ja, es hat etwas fast Tragikomisches an sich: Mit den Instrumenten und Werten der Aufklärung haben wir uns von den Ungerechtigkeiten, Irrationalitäten und Plagen wie Kirche, Adel und Pest befreit. Die Geschichte der Aufklärung ist eine einzige Erfolgsstory in Sachen Selbstemanzipation des Menschen. Und ausgerechnet diese mit der Aufklärung entfesselten Erkenntnisse in Mathematik, Physik und Kybernetik führen nun in Gestalt der KI zur schrittweisen Selbstentmachtung des Menschen. Wir haben eine Krise der Aufklärung. Wir brauchen eine neue Aufklärung!