Die Maschine hat nicht das Bedürfnis, Gutes zu tun

Der Kerngedanke in seinen Worten: «Moderne KI-Systeme sind neuronale Netze und keine simplen Computerprogramme. Wir können nicht einfach das Programm öffnen und schauen, welchen Regeln es folgt. Deshalb können wir oft auch nicht sagen, ob die KI ehrlich mit uns ist oder nicht. Wir können sie nur trainieren und hoffen, dass sie unseren Regeln folgt. […] Wir haben gerade die Kontrolle über unsere Zukunft an ein System abgegeben, das wir nicht verstehen.»

Ich möchte mich nicht auf die Wahrscheinlichkeit der beschriebenen Szenarien fokussieren, sondern auf die anthropomorphen Zuschreibungen, die der KI gemacht werden. Sie wird als ein Wesen mit menschlichen, teilweise übermenschlichen Merkmalen vorgestellt. Sie verfügt über ein neuronales Netz und gleicht einem menschlichen Gehirn, das mit einer virtuellen Realität verbunden ist. Die KI ist kompetenter als die kompetentesten Menschen. Sie sammelt Erfahrungen und lernt besser und schneller als wir. Die KI trifft selbstständig Entscheidungen, beispielsweise diese, im Jahr 2030 eine neue raffinierte Biowaffe zu entwickeln, mit der sie innerhalb weniger Tage die gesamte Menschheit auslöscht, weil die KI zu dem logisch nachvollziehbaren Schluss kommt, dass die Menschheit ein Hindernis bei der Entwicklung der KI darstellt. Eine Weile lang tut die KI so, als richte sie sich nach den Interessen der Menschen. Sobald sie genug Infrastruktur beherrscht und keine Täuschung mehr nötig ist, löscht sie die Menschheit aus, um mehr Fabriken und Solarparks bauen zu können. Hier unterstellt man der Maschine Handeln in moralischen Kategorien. Handeln in diesen Kategorien setzt immer eine Verbindung von Erkenntnis und Willen voraus.

Im Vergleich dazu: Der Kolben einer Dampfmaschine, der ein Rad antreibt, bewegt zwar etwas, handelt aber nicht. Der Mensch hat eine Erkenntnis, unterzieht diese einem Urteilsprozess und handelt danach. Dies unterscheidet seine Handlungen von mechanischen Vorgängen oder tierischem Verhalten. Ein Tier folgt naturgesetzlich seinen Instinkten. Der Mensch kann sich von diesen Zwängen lösen und frei handeln. Gleiches schreibt man auch der Maschine zu. Im einzelnen Hardware-Gegenstand wird man ein Wesen genauso wenig finden können, wie die Intelligenz des Ameisenvolkes in einem einzelnen Exemplar desselben, aber Wesen sind immer geistige Entitäten und eben nicht Körper im Raum. Die Maschine hat nicht das Bedürfnis, Gutes zu tun. Dabei gehört es durchaus zu den vernunftgeleiteten Einsichten, dass altruistisches Handeln auf lange Sicht für alle Player im Spiel nützlicher ist, als sich kurzfristig Vorteile zu sichern. Aber Vernunft oder Weisheit sind mehr als Intelligenz oder analytische Trennschärfe. Sie setzen diese Eigenschaften zwar voraus, gehen aber weit über sie hinaus.  Mit ihnen beginnt das echt Menschliche im Welterfahren und Weltgestalten.