Ausgabe 413
Debatte

Just code it!

Von Hansjörg Fröhlich (Text) und Tobias Greiner (Illustrationen)
Datum: 27.02.2019
Die Menschheit entmündigt sich und lässt Maschinen machen: Künstliche Intelligenz reguliert und formt immer mehr Bereiche unserer Gesellschaft. Eine Debatte darüber, wer diesen Prozess gestaltet, ist längst überfällig.

Bekanntlich wurde am 25. Oktober vergangenen Jahres bei Christie's in New York ein Paradigmenwechsel eingeläutet, wenn schon nicht in der gesamten Kunstwelt, so doch sicher am Kunstmarkt. An jenem Tag ging zum ersten Mal ein gänzlich von Künstlicher Intelligenz (KI) geschaffenes Werk über den Tresen. Gut 430 000 Dollar war einem anonymen Bieter das "Edmond de Belamy" betitelte, skizzenhafte, eigentümlich verwaschene und problematisch proportionierte Portrait einer fiktiven Person wert. Zur Auktion eingeliefert hatte es die Pariser Künstlergruppe "Obvious", drei junge Franzosen, die sich seit etwa einem Jahr intensiv mit Maschinenlernen und der kreativen Nutzung von KI beschäftigen. Auf ihrer Internetseite sind noch andere KI-generierte Portraits weiterer Mitglieder der Belamy-Familie zu bestaunen, alle in gleicher, an den Stil des "Fin de Siècle" (etwa 1890 bis 1914) angelegter Ausführung. Zur Erstellung ihres Maschinenprodukts fütterten "Obvious" die Speicher ihrer Rechner mit hunderten authentischen Werken eben dieser Stilepoche. Die so gewonnene Datenmenge wurde dann von speziellen Programmen, den sogenannten Generative Adversarial Networks (GAN), abgearbeitet und nach kurzer Zeit kam "Edmond de Belamy" zum Vorschein. Diese Portrait-Datei wurde auf Leinwand ausgedruckt und folgerichtig mit einer Zeile des zugrundeliegenden Programmcodes signiert – fertig war das 430 000-Dollar-Bild.

Noch am Tag der geglückten Auktion kam es im Netz zu einem schwungvollen Streit über das Urheberrecht. Denn "Obvious" hatten, wie sie unumwunden zugaben, zur Erstellung von "Edmond" einen Code des 19-jährigen Programmierers Robbie Barrat aus West Virginia genutzt. Wie viele Code-Autoren arbeitet Barrat im Open-Source-Modus, er stellt also seine programmierten Zeilen der Allgemeinheit zur Verfügung. Seine eigenen GNAs verdankt Barrat wiederum grundlegenden Arbeiten zu Neuralen Netzwerken und Erkenntnissen zum rechnergestützten Lernen, die andere Programmierer in Netz gestellt haben. Barrat hat diese Codes nur für seinen Zweck angepasst, der Schaffung von KI-Kunst. So ergibt sich also eine sehr diffizile Gemengelage bei der Frage nach der Urheberschaft des Werkes (und der gerechten Aufteilung der Dollars). Sind "Obvious" die Schöpfer, weil sie "Edmond" errechnet haben, oder ist Barrat der Urheber, weil er den Code zur Errechnung geschrieben hat? Oder sind womöglich sogar alle Programmierer, die je zur Entwicklung von GANs beitrugen die Erschaffer des Portraits? Oder ist am Ende nicht der Code selbst der rechtmäßige Urheber? Und gleich darauf schließt sich natürlich die Frage an: Was ist hier die Kunst? Der Print eines mittels selbstlernendem Algorithmus ausgerechneten Portraits, oder ist der Algorithmus selbst die Kunst?

Das sind hochphilosophische Denksportaufgabenstellungen, die sich in diesem Text nicht mehr lösen lassen werden. Festzustellen bleibt jedoch: Die KI entwickelt sich rasend, alle Bereiche sind betroffen, von Kunst und Kultur über Medizin bis zu Rechtsprechung und Überwachung. Es ist klar, dass diese technologische Evolution unsere Welt massiv verändern, vielleicht aus den Angeln heben wird. Es ist ferner klar, dass uns eine Allgegenwart des Algorithmus als Gesellschaft gehörig überfordern wird. Gebannt starren wir – manche begeistert, andere ängstlich – auf das Phänomen, nehmen zur Kenntnis, wie ein Aspekt gesellschaftlichen Lebens und Organisation nach dem anderen von KI übernommen wird, doch niemand startet einen verantwortungsvollen Diskurs. Einen Diskurs darüber, wie weit wir die Steuerung unserer Zivilisation in die Hände einer selbstlernenden Maschinerie legen wollen, und eine Debatte darüber, wer die Finger am Steuerpult dieser selbstgenerativen Netzwerke hat. Eins muss jetzt schon klar sein: Wir können einen solch gewaltigen Schritt der Menschheitsgeschichte nicht einfach den großen IT-Firmen überlassen! Doch genau danach sieht es gerade aus.

Spielwiese für privatwirtschaftliche Unternehmen

Wer mit KI nur selbstfahrende Autos und Sprachassistenten wie Alexa und Siri verbindet, ist entweder hoffnungslos naiv oder grob unterinformiert. KI kommt zum Einsatz bei sogenannten Diagnoseprogrammen, die schon vereinzelt in Krankenhäusern und bei Bewilligungsstellen von Krankenkassen Anwendung finden. Und demnächst, so hat es Gesundheitsminister Spahn angedacht, könnte sie auch bei uns das persönliche Arztgespräch, die Visite, ersetzen. In sogenannten SmartCities kümmern sich Mobilitätsanbieter mittels Drohnen und Überwachungstechnik um die Verkehrslage. Der öffentliche Raum wird so zur Spielwiese (und Datenmine) privatwirtschaftlicher Unternehmen. Bei der Smart Administration liefern IT-Konzerne ihre abgeschöpften Daten ans Rathaus, die Gemeinderäte regieren die Bürger dann auf Grundlage eines per KI ermittelten Ist-Zustandes. Der muss mit der Realität im Städtchen nicht unbedingt etwas zu tun haben, da diese per KI erstellten Rankings und Eckwerte natürlich nur so gut (und wertneutral) sein können, wie die Erhebungsmodi der zugrundliegenden Datensätze.

Diese Datendossiers werden zweifellos die Interessen der beteiligten Konzerne widerspiegeln. Es ist eine weit verbreitete Fehlannahme, dass alles, was aus einem Computer kommt, automatisch neutral und ausgewogen repräsentativ sei. Denn schon immer ist das Silicon Valley der Meinung gewesen, der demokratische Staat hätte mit seinen Verwaltungsakten und Gesetzgebungsverfahren, pluralistischen Meinungsbildungs- und Entscheidungsprozessen eine veraltete, arschlangsame Hardware, die mit ein paar flinken Softwareupdates von Amazon, Alphabet Inc. und Apple in Richtung Smart Nation beschleunigt werden sollte. Diese Ansicht kann man nur teilweise unterschreiben, geht doch die Hardware der meisten repräsentativ-demokratischen Gesellschaften immerhin auf Voltaire, die Französische Revolution etc. pp. zurück und hat sich im Laufe der Jahrhunderte durch (mal schmerzhafte, mal freudige) sozio-politische Lernerfahrungen selbst optimiert. Die von den IT-Giganten angepriesene Software hingegen kann als Herkunft leider nur auf eine Garage in Nordkalifornien verweisen, in der ein pickeliger Nerd in den 1970-Jahren das personal computing erschuf. Irritierend an all den smarten Gesellschaftsmodellen und Governance-Konzepten der Datenkonzerne ist jedenfalls die Unterstellung, Maschinenlernen sei effektiver als politische Lernprozesse, und die Behauptung, Städte und Nationen sollten nicht regiert, sondern "gemanagt" werden.

Formatierte Wirklichkeit

Auch auf dem Feld der Kommunikation bewirkt die KI einschneidende Veränderungen. Während die Maschinen lernen wie Menschen zu sprechen, spricht der Mensch zunehmend in Maschinencode. Wer mit seinem Netzwerklautsprechern spricht, verwendet dabei Imperative ("Reservier' die Konzertkarten, Alexa! Buche den Nachmittagsflug, Siri!"). Der Duktus des Sprechers muss sich an die Syntax der Software anpassen, sonst funktioniert es nicht. Programmierer entscheiden also über Sprachgepflogenheiten; naiv anzunehmen, dass diese Sprachroutinen auf Dauer nicht auf die Kommunikation zwischen Menschen abfärben. Doch "die Grenzen der Sprache sind auch die Grenzen der Welt" (Ludwig Wittgenstein), was nicht verbalisiert wird, existiert nicht. Mit der Beschreibungssprache ihrer Codes formatieren die Konzerne die Wirklichkeit.

Doch zurück zu Kunst und Kultur. Algorithmen malen jetzt auch Bilder, sie schreiben Gedichte und machen Musik. Ein KI-System namens Benjamin hat im Jahr 2016 den Plot für den Sciencefiction-Streifen "Sunspring" geschrieben. Im März 2016 schaffte es der von einem KI-System verfasste Roman "The Day A Computer Writes A Novel" in die zweite Runde eines japanischen Literaturwettbewerbs. Eine Google-KI hat Töne und Akkorde kreiert, die noch nie ein menschliches Ohr zuvor gehört hat. Und das Projekt "The Next Rembrandt", eine Kooperation von Microsoft mit der Universität Delft "malt" seit einigen Jahren Bilder im Stil des titelgebenden niederländischen Meisters. Auch in Zukunft wird der Mensch zum Griffel oder Pinsel greifen, für Kunstschaffende besteht rein künstlerisch kein Grund zur Sorge – nur finanziell könnte sich was ändern, denn nun gibt es neue Konkurrenz auf dem Markt.

Für Kreative, die selbst mit KI arbeiten, wird es nach den im Mai 2019 stattfindenden Wahlen zum Europaparlament interessant, dann wird das EU-Urheberrecht novelliert und an die neuen Herausforderungen KI-generierter Kunstwerke angepasst. Es gibt Überlegungen, auch algorithmische Kompositionen zu schützen und das Urheberrecht auf Maschinen auszuweiten. Ein Entwurf schlägt vor, Roboter als "elektronische Personen" zu klassifizieren und ihnen eine "algorithmischen Autorenschaft" zuzubilligen. Mit den Tantiemen wird dann wohl der Strom bezahlt, der beim Errechnen des Kunstwerks verbraucht wurde.

Die neue Sprache der Gene

Weit drastischere Veränderungen könnte KI in Zukunft auf biologischer Ebene zeitigen: Proteinstrukturen sind Daten, das Erbgut DNA ist nichts anderes als eine uralte Datei voller Algorithmen. Bei der vor einigen Jahren angelaufenen Entwicklung von artifizieller Erbmasse geht es um multikausale, verwirrende Zusammenhänge, um Strukturabgleich und Mustererkennung, kurz, um eine neue Sprache der Gene. Aufgaben also, die für den Einsatz von KI geradezu prädestiniert sind. Gerade beim sogenannten Editieren von Gencode, dem Austausch oder der Veränderung einzelner Abschnitte eines Genoms, kann es nicht angehen, dass diese höchst sensible Technologie dem Gutdünken einer IT-oder Biotech-Industrie überlassen wird. Doch dahin tendiert der Trend.

Das Feld dieser neuen Boombranche wird von gewinnsüchtigen Firmen wie Pfizer, Merck, Novartis etc. bestellt. Eine "ethische Selbstverpflichtung" der Industrie und ihre Zusicherung "wissenschaftliche Standards" einzuhalten, reichen beim Thema KI nicht aus. Denn das Zusammentreffen von Biotechnologie und maschinellem Lernen wird in den kommenden Jahren vermutlich eine wissenschaftliche Revolution auslösen, deren Ergebnis, Wirkung und Bedeutung von einem menschlichen Gehirn nicht mehr ermessen werden kann. Die KI wird Dinge, Phänomene und Wesen hervorbringen, die nur noch von einer Instanz begriffen werden können – von der KI selbst.

Ein erster Warnschuss war im November 2018 die Geburt der Zwillinge Nana und Lulu, den ersten genetisch veränderten Menschen, deren DNA vom chinesischen Forscher He Jiankui mithilfe der Genschere Crispr-Cas gestaltet wurde. Mit der Neuschreibung, der Umformulierung unserer DNA wären wir dann soweit: Homo sapiens sapiens hat sich selbst abgeschafft. Nach den ersten drei großen Kränkungen der Menschheit (1. Kopernikus: Erde ist nicht Zentrum des Universums. 2. Darwin: Wir stammen vom Affen ab. 3. Freud: Das Ich ist nicht Herr unseres Bewusstseins) wäre dies die vierte Menschheitskränkung: Alle unsere Fähigkeiten, Talente, Neugierden und der ganze Wissensdurst führen letztlich dazu, uns überflüssig zu machen. Ja, es hat etwas fast Tragikomisches an sich: Mit den Instrumenten und Werten der Aufklärung haben wir uns von den Ungerechtigkeiten, Irrationalitäten und Plagen wie Kirche, Adel und Pest befreit. Die Geschichte der Aufklärung ist eine einzige Erfolgsstory in Sachen Selbstemanzipation des Menschen. Und ausgerechnet diese mit der Aufklärung entfesselten Erkenntnisse in Mathematik, Physik und Kybernetik führen nun in Gestalt der KI zur schrittweisen Selbstentmachtung des Menschen. Wir haben eine Krise der Aufklärung. Wir brauchen eine neue Aufklärung!


Gefällt Ihnen dieser Artikel?
Unterstützen Sie KONTEXT jetzt!

4 Kommentare verfügbar

  • Reinhard Messerschmidt
    am 03.03.2019
    "Es ist klar, dass diese technologische Evolution unsere Welt massiv verändern, vielleicht aus den Angeln heben wird. Es ist ferner klar, dass uns eine Allgegenwart des Algorithmus als Gesellschaft gehörig überfordern wird." > KI ist keine technologische Evolution, sondern Menschenwerk und trotz der erreichten Komplexität der Berechnungen, die sie ausführen kann, grundsätzlich steuerbar. Auch massive Veränderungen durch dieses Daten-Werkzeug zur Mustererkennung und -reproduktion sind nur insoweit klar, insofern man nichts am Status Quo ändert und allen privaten Datenkraken dieser Welt weiter brav Futter zum KI-Training gibt. Die Welt wird dann wohl aber auf andere Art aus den Angeln gehoben, als es in diesem Artikel, der abgesehen vom üblichen Unverständnis der technischen Grundlagen in die richtige Richtung bewusster Technologiegestaltung und einer neuen Aufklärung, nur damit eben leider auf der falschen Basis und letztendlich auch in die flasche Richtung argumentiert. Der Mensch entmachtet sich selbst nicht der KI gegenüber, diese wird im Überwachungskapitalismus (https://www.campus.de/buecher-campus-verlag/wirtschaft-gesellschaft/wirtschaft/das_zeitalter_des_ueberwachungskapitalismus-15097.html) höchstens als Werkzeug eingesetzt, mit dem einige Menschen ihre Macht über viele Andere immer weiter ausbauen. Vermenschlichung von Schaltkreisen und Code zu "Personen" oder "Autoren" weckt nur unangemessene Erwartungen und Ängste - und ist leider üblich im ganzen KI-Hype, der ebenso wie seit der Schöpfung des Begriffs durch inflationär unsachgemäßen Sprachgebrauch gekennzeichnet ist (aber auch damals nahte schon ein KI-Winter, der nächste ist Expert*innen zu Folge keineswegs ausgeschlossen...). Bemerkt eigentlich niemand, dass Algorithmen schon recht lange allgegenwärtig sind und bislang die Gesellschaft davon keineswegs gehörig überfordert wurde? (siehe https://de.wikipedia.org/wiki/Algorithmus)
  • Friedrich Helmke
    am 28.02.2019
    Schön positiv! Lieber Kunst als autonome selbstlernende Killersoftware die entscheidet, wer gefährlich ist.
    • Charlotte Rath
      am 28.02.2019
      Ja, das ist auch mein Eindruck von diesem Artikel.
      Wo bleibt die weitergehende Frage, wozu immer mehr Digitalisierung gut sein soll?

      2007 lancierten die Vereinten Nationen die Step-Initiative, „Solving the E-Waste Problem“, um das Problem der wachsenden Massen von Elektroschrott anzupacken. Bis Ende 2018 soll die auf der ganzen Welt erzeugte Masse von Elektroschrott auf über 50 Millionen Tonnen gewachsen sein. … Auf der weltgrößten Elektroschrotthalde in Accra leben 40.000 Menschen. Die meisten, die hier arbeiten, werden rasch chronisch krank und leiden unter ständiger Übelkeit. Viele sterben an Krebs, andere an Bleivergiftung.
      https://www.freitag.de/autoren/der-freitag/kein-guter-ort

      Das rasante Wachstum der Serverfarmen sorgt für einen stetigen Anstieg des Energieverbrauchs. „Wäre das Internet ein Land, so hätte es weltweit den sechsgrößten Stromverbrauch“, sagt Niklas Schinerl, Energieexperte von Greenpeace.
      https://www.scinexx.de/news/technik/wie-gruen-ist-das-streaming/
  • Jue.So Jürgen Sojka
    am 27.02.2019
    „Just Do It“ ein Werbe-Slogan einer Schuhmarke, der 1988 um die Welt ging. -1-
    Mach es einfach.

    Macher sein, der lediglich das macht, was ihm andere vorgeben, macht grundsätzlich eines falsch:
    Sich weigern mit dem eigenen großen Ganzen über dem Kleinhirn selbst zu denken!
    OTTO Walkes bringt das in diesem Sketsch in den Vordergrund "Der menschliche Körper" -2-

    Dankbar sein, sich selbst gegenüber, dafür nicht reingefallen zu sein auf die Plapperer und Plau~derer, die selbst das nachplappern, was sie wiederum von anderen übernommen haben ohne zu prüfen, ob Plau~sibilität gegeben ist!

    Die Menschheit kann sich nicht selbst entmündigen! Dafür ist die Individualität, die so reichhaltig vorhanden ist, zu stark im Menschsein verankert!!!
    Was sein kann, das ist aufzugeben eigenverantwortlich zu denken und zu handeln – zu ersetzen durch hierarchisches Denken und Handeln.
    Anstöße auf SWR1 heute Morgen mit Eva-Maria Kleisz "Sein" https://swrmediathek.de/tvshow.htm?show=f6300480-a4eb-11e5-abd4-0026b975e0ea
    Wegweiser für mein Menschsein

    Künstliche Intelligenz gibt es nicht; ebenso kann die Intelligenz nicht gemessen werden. Das ist ein Trugschluss! Wir Deutschen haben übrigens einen in Bayern, der zu den ganz Großen "Intelligenzbolzen" gezählt wird – Thomas Wolf. Mitglied von Giga Society, einem exklusiven Club der Superschlauen. Gast in TV total bei Stefan Raab https://www.youtube.com/watch?v=WkyUU9ZDUto 13.53 Min.

    -1- Werbechef Dan Wieden wurde von den letzten Worten des zweifachen Mörders Gary Gilmor inspiriert: „Let’s Do It“ _ „Bringen wir es hinter uns!“

    -2- … "Kleinhirn an Großhirn, Kleinhirn an Großhirn,
    Jungs nu lasst doch mal die Aufregung,
    ihr zieht doch sowieso den kürzeren."
    "[b]Großhirn an Kleinhirn, vielen Dank[/b] für den Tipp.
    Großhirn an alle, Ärger langsam eindämmen,
    Adrenalin Zufuhr stoppen und Blutdruck langsam senken.
    Achtung, fertig machen zum Händeschütteln und Schulterklopfen
    https://www.youtube.com/watch?v=5rBZXKVR6Uo

Neuen Kommentar schreiben

KONTEXT per E-Mail

Durch diese Anmeldung erhalten Sie regelmäßig immer mittwochs um 9 Uhr
unsere neueste Ausgabe unkompliziert per E-Mail.
JETZT ANMELDEN

Letzte Kommentare:
















Die KONTEXT:Wochenzeitung lebt vor allem von den kleinen und großen Spenden ihrer Leserinnen und Leser.
Unterstützen Sie KONTEXT jetzt!