Digitalisierung der Gefühle?

Von Roland Benedikter, August 2017

An der in Sachen Informationstechnologie weltweit führenden Stanford-Universität wurde Januar 2017 die Digitalisierung der Gefühle diskutiert. Forscher stellten ihren baldigen Zusammenschluss mit Technik – wenn auch nicht notwendigerweise als wünschenswert –, doch als unvermeidlich dar.

Foto: © himberry / photocase.de

Firmen und Forscher arbeiten mit Macht daran, einerseits Computer mit Emotionen zu entwickeln, andererseits menschliche Gefühle zu computerisieren. Beide Entwicklungen sollen sich, so die Absicht, gegenseitig verstärken und im Ideal­fall vereinigen. Milliardengelder werden investiert, um die technische, ökonomische und menschliche Zukunft kurzzuschließen und damit die sogenannte Mensch-Maschine-Konvergenz zu erreichen. Jonathan Gratch, Direktor für Virtuelle Forschung am Institut für Kreative Technologien der Universität von Südkalifornien, äußert sich zum neuen Mensch-Technik-Hybridfeld des »Gefühlscomputing« folgendermaßen: »Kann eine Maschine menschliches Gefühl verstehen? Zu welchem Zweck? Und kann eine Maschine selbst Gefühl ›haben‹? Wie würde sich das auf die Menschen auswirken, die mit ihr interagieren?« Der Anwendungsfokus dieser Fragen ist unverkennbar, denn sie »stellen sich im Kontext sehr verschiedener Domänen, einschließlich der Medizin und Gesundheitsversorgung, der wirtschaftlichen Entscheidungsfindung und des Trainings zwischenmenschlicher Fähigkeiten.« Dasselbe gelte für die praktischen Implikationen von (noch zu entwickelnden) »Menschen-Computern«, computervermittelter Interaktion und Mensch-Roboter-Interaktion. Insgesamt mache das laut Gratch eine interdisziplinäre Partnerschaft zwischen den sozialen, den humanistischen und den Computerwissenschaften rund um das Thema Gefühl notwendig.

Gratch versucht – wie inzwischen viele andere auch –, Computermodelle kognitiver und sozialer Prozesse sowohl des individuellen wie des sozialen Menschen zu entwickeln. Ziel ist langfristig, Computern Gefühle zu geben, vor allem aber umgekehrt, menschliche Gefühle zu computerisieren – um Qualitätserfahrungen aufbewahren, erforschen, kopieren und schlussendlich verkaufen zu können. Man stelle sich vor, sagen diese Forscher, man könnte die inneren Qualitätserfahrungen von Gefühlen mittels Gehirnimplantaten oder anderen direkten Zusammenschlüssen zwischen Computern und menschlichen Gehirnen wie etwa Gehirn-Computer-Schnittstellen (Brain Computer Interfaces, BCIs) oder Gehirn-Maschine-Schnittstellen (Brain Machine Interfaces, BMIs), die heute in vielen Anwendungsbereichen bereits zum Standard werden, in einem virtuellen, nicht- oder hybridbiologischen Substrat aufbewahren und dann an andere weitergeben! Das wäre das Geschäft des Lebens – im wahrsten Sinne des Wortes. Es geht bei solcher Forschung insgesamt nicht vorrangig darum, die Erkenntnis des Menschen anhand des Einblicks in seine Gefühle zu vertiefen, sondern darum, menschliche mit artifiziellen, hauptsächlich technologischen »Agenten« zu »multiagierenden Systemen« zu verschmelzen. Dabei wird die Erfahrung von Ichheit, die beim Menschen im Wirklichkeitsprozess empirisch jedem Gefühl vorausgeht, stark vernachlässigt oder in ihrer Bedeutung für das Gesamt­-­ereignis menschlichen Gefühls gar ganz ignoriert.

Durchdringendes Computing

Als führend im zusammengehörigen Doppelvorhaben: »Computerisierung von Gefühlen« und »Entwicklung von Computergefühlen« gilt das MIT Media Laboratory on Affective Computing mit Rosalind Picard in Boston. Picard geht es bei der Digitalisierung von Gefühlen ausdrücklich um die Trennung von Gefühl und Gedanke. Sie meint, »nur weil jedes lebende intelligente System, das wir kennen, Gefühle hat, [heißt] das noch lange nicht …, dass Intelligenz Gefühl benötigt. Obgleich Menschen die intelligentesten Systeme sind, die wir kennen, und das menschliche Gefühl eine entscheidende Rolle in der Regulierung und Lenkung von Intelligenz zu spielen scheint, heißt das nicht, dass es nicht einen besseren Weg gibt, diese Ziele in Maschinen zu implementieren. ... Es kann sein, dass es ein außerirdisches (alien) intelligentes lebendes System gibt, etwas, dem wir nie begegnet sind, das seine Intelligenz erlangt, ohne etwas wie Gefühl zu haben. Obwohl Menschen die wunderbarsten Beispiele der Intelligenz sind, über die wir verfügen, und obgleich wir wünschen, Systeme zu errichten, die für menschliches Verstehen natürlich sind, sollten uns diese Gründe, menschenähnliche Systeme zu bauen, nicht darauf einschränken, sie nur für menschliche Fähigkeiten zu denken.«

Mit anderen Worten: Die Computerisierung der Gefühle ist nicht vorrangig für den Menschen gedacht. Und die zweite Aussage Picars: Man will Menschliches auch in nicht-menschlicher Form ein- und umsetzen. Diesen Umschlagspunkt, an dem das Menschliche technisiert wird, nennt man in der aktuellen Wissenschaft auch »durchdringendes Computing« (pervasive computing). Der klar anti-humanistische Charakter der angestrebten Digitalisierung der Gefühle zeigt sich hier deutlich darin, dass sie Menschliches in Nicht-Menschliches überträgt, indem sie Gedanken von Gefühlen zu trennen sucht – und damit beide enthumanisiert. Wenn Madhumita Murgia – wie viele andere oberflächliche Kommentatoren der Gegenwart – im Guardian London vom 15. Januar 2016 bereits wie selbstverständlich davon ausgeht, dass »gefühlsbegabte Maschinen dabei sind, unsere Welt zu übernehmen«, heißt das demnach also nicht, dass die Gefühle dieser Maschinen menschliche Gefühle sind. Und auch nicht, dass sie nicht bloßer Vorwand oder Schein sind, um den Menschen »das Gefühl« zu geben, sie lebten weiterhin in einer »natürlichen« Welt. Sie sind in der Konzeption von Forscherinnen wie Picard eher Teil eines »Interaktionsdesigns«. Es soll menschliche Verständigung durch maschinelle Logiken ersetzen, die den öffentlichen Raum und die Lebenswelt »übernehmen«.

Das eigentlich Menschliche, das gerade in der Einheit von Gedanke, Gefühl und Willen (und in der Befähigung dieser Einheit im Ichprozess zu beseelten Gedanken und »denkenden Gefühlen«) liegt, wird hier ignoriert und künstlich aufgetrennt. Der insgesamt negativ gefärbte Charakter dieses Gesamtvorhabens zeigt sich auch in der viel zitierten Studie »Beyond the basic emotions: What should affective computing compute?« von Sidney D‘Mello und Rafael Calvo. Sie schreiben, beispielhaft für viele andere, die sich heute professionell der »Erforschung der Gefühle« widmen: »Eines der Hauptziele des Affective Computing (AC) ist es, Computerschnittstellen zu entwickeln, die automatisch die Gefühle menschlicher Nutzer aufspüren und auf sie antworten. Trotz erheblicher Fortschritte wurden in bisherigen Studien bisher meist nur grundlegende Gefühle wie Zorn, Ekel und Traurigkeit hervorgehoben, während nicht-grundlegende … wie Aufregung, Langeweile, Konfusion und Frustration … weniger beachtet wurden. Dabei kamen sie bei Versuchen laut systemisch erhobenen Daten bei Generalisierung über Aufgaben, Schnittstellen und Methodologien hinweg fünfmal häufiger vor. Affective Computing wird das berücksichtigen müssen.« Auffällig, dass sowohl die »grundlegenden« wie die »nicht-grundlegenden« Gefühle hier alles negative »Emotionen« sein sollen. Von positiven wie Zuneigung, Selbstlosigkeit, Gewissensimpulsen oder gar Liebe keine Spur. Sie würden ja auch eine Ich-Tätigkeit verlangen.

Menschliche Emotionen – ein Ziel für Hacker?

Diese Entwicklung verspricht, als Ganzes besehen, wenig Gutes. Denn es eröffnet sich nicht nur eine unüberschaubare Fülle an (geschäftlich) gewollten, sondern auch an ungewollten Anwendungsmöglichkeiten, wie zum Beispiel neue Formen des Hackings menschlicher Gefühle. Diese Bedrohung ist keine Fiktion, sondern offenbar sehr konkret. So stellten Betsy Cooper und Steve Weber, Direktoren des Berkeley-Zentrums für Langzeit-Cybersicherheit (CLTC) der Universität von Kalifornien, ebenfalls im Januar in Stanford ihre Prognosen vor: »Was wird der Stand der digitalen Sicherheit in fünf bis zehn Jahren sein? Wird es ein ›Wilder Westen‹, wo jede Person und Organisation kämpfen muss, um ihre eigenen persönlichen Daten zu schützen? Wird das ›Internet der Dinge‹ so stark in unser Zuhause und in unsere Städte eindringen, dass jeder – jederzeit – unter Überwachung steht? Werden Sensoren intelligent genug, dass sie menschliche Gefühle bestimmen und vorhersagen können – und damit Cyberkriminellen die Tür öffnen, die menschliche Emotion zu hacken?« Im Seminar bejahten beide Forscher diese Perspektive mehr oder weniger uneingeschränkt. Man beachte, dass es laut Cooper und Weber bereits heute nicht mehr nur darum geht, dass Sensoren mittels »lernender« mathematischer Algorithmen menschliche Gefühle identifizieren, sondern darum, dass sie diese vorhersagen und damit vorwegnehmen. Die »Vorwegnahme« von Gefühlen ist eine der bedenklichsten Entwicklungen innerhalb der Bemühung um eine Digitalisierung des menschlichen Gefühls.

Die Tendenz, Mensch und Maschine so zu verschmelzen, dass beide eine angeblich »höhere« Einheit bilden sollen, die der Idee nach den bisherigen Menschen über sich selbst hinaus in einen »höheren« Menschen hineinführen soll, nennt man »Transhumanismus«. Die Perspektiven aktueller »transhumanistischer« Mensch-Maschine-Transformation bestehen hauptsächlich in der Entwicklung künstlicher Intelligenz, damit zusammenspielender »intelligenter«, meist als selbstlernend konzipierter Maschinen und einer neuartigen wirtschaftlichen Verwertungsmechanik menschlicher Grundeigenschaften. »Digitalisierte Gefühle« humanisieren laut der Propaganda der Forscher, die um Geld für ihre Untersuchungen bemüht sind, die Maschinen. Aber in Wirklichkeit dehumanisieren sie den Menschen, weil sie ihn zu einem Versuchsobjekt und Lieferanten von Ressourcen und Substanzen für Maschinen machen. Für heutige Weltstrategen und transhumanistische Wissenschaftler ist die Frage, ob Gefühle an sich »digitalisierbar« sind oder sein sollen, längst keine mehr. Es geht hauptsächlich um den Folgenutzen, ob, und wenn ja, in welcher Weise Gefühle in digitalisierter Form in Anwendungen umsetzbar sind. Der Forschungsbereich, der heute – mit hoher politischer und sozialer Bedeutung für die Zukunft – affective computing genannt wird, hat selbst offenbar gar keine Gefühle. Denn er bemerkt ihren menschlichen Wert gar nicht.

Die Digitalisierung der Gefühle ist nicht nur ein Nebeneffekt, sondern sogar ein zentraler Baustein der trans-humanistischen Revolution – also einer Offensive von internationalen Kreisen aus Technologie, Wirtschaft und Politik, über den bisherigen Menschen hinauszugehen. Doch was werden, wenn das Vorhaben gelingt, die gesellschaftlichen und individuellen – und vor allem: was werden die menschlichen Folgen sein?

Unterschätzung des Gefühls als menschliche Ur-Eigenschaft

Die volle Tragweite dieser Entwicklung wird erst sichtbar, wenn man die Ansätze zur Digitalisierung des Gefühls mit anderen »transhumanistischen« Entwicklungen verbindet, die die Gegenwart zunehmend kennzeichnen und zum Teil bereits prägen. Unter den wichtigsten Trends nennt der Futurist Gray Scott in seinem Beitrag »Seven Emerging Technologies That Will Change Our World Forever« neben Transhumanismus auch die Entwicklung viefältiger Arten von Implantaten zur künstlichen »Fütterung« des menschlichen Gehirns mit »gewünschten« Erfahrungen. Implantierte Gefühle stünden dann, soweit sie technisch machbar sind, neben der Digitalisierung der Gesundheit, der geplanten breiten Einführung von Robotik in das Erziehungs- und Pflegewesen, aber auch den raschen Fortschritten bei der Entwicklung von Maschinen, die »selbstlernend« sehen und hören, wobei der Begriff des »Lernens« hier wohlweislich nie genau definiert wird und extrem breit und unscharf bleibt, um sich nicht in Widersprüche zu verstricken.

Bereits heute sprechen viele Benutzer sogenannter »Smartphones« (Handys) mit »Siri«, einer künstlichen Intelligenz-Hilfe, wie mit einem »echten« Gegenüber. Das ist aber nur die eine Seite der Medaille. Die andere ist der Trend zur Direktverbindung des menschlichen Nerven- und Sinnessystems mit Maschinen, etwa mittels Cochlea-Implantaten, Seh-Prothesen und »fühlenden« Handprothesen, die in den letzten Jahren laut führenden naturwissenschaftlichen Fachzeitschriften den Durchbruch erzielten. Kein Wunder, dass wir laut einer BBC-Nachricht vom 20. März 2017, die den Edinburgher Universitätsprofessor für Robotik, Sethu Vijayakumar zitiert, am Beginn eines Prozesses stehen, der völlig verändern wird, wie wir leben und arbeiten, und zwar innerhalb der kommenden zwei Jahrzehnte. »Dieser ganze Zusammenfluss von Robotik, Künstlicher Intelligenz, sozialen Netzwerksystemen und Wissen treibt eine große, neue Revolution voran«, sagt Vijayakumar. »Zuerst kam das Internet, dann das Internet der Dinge. Sie können sich die heutige Forschung so vorstellen, dass sie diesen [immateriellen] Dingen jetzt Arme und Beine gibt. ... Wir müssen in diese Entwicklung investieren ... denn wenn wir es nicht tun, wird es jemand anderes machen, und wir werden hinterherhecheln, um aufzuholen.«

Das alte Lied: Wir müssen es tun, sonst tun es die anderen. Viele von uns glaubten, derartige »Argumente« seien mittlerweile als primitiv durchschaut und deshalb unmöglich, aber sie sind es offenbar nicht. Die Gefühle sind bei alledem für diejenigen, die die angebliche »große Revolution« antreiben, das Feld, wo sich die transhumanistische Idee der Überwindung des bisherigen Menschen mittels Erweiterung und »Überschreitung« hin zu einem Technik-Mensch-Hybridwesen mit am erfolgversprechendsten abzeichnet und vollzieht – sehr pragmatisch, aber mit potenziell grundlegenden Wirkungen auf unser bisheriges Menschen- und Gesellschaftsverständnis.

Die in Deutschland (unter anderem vom Innovationsdialog der deutschen Bundesregierung unter Angela Merkel, einer an sich sehr ausgewogenen und nachdenklichen Initiative) oft sogenannte Mensch-Maschine-Interaktion ist damit – gewollt oder ungewollt – im größeren, internationalen Zusammenhang auf dem Weg zur Mensch-Maschine-Konvergenz: vom Zusammenwirken zur Verschmelzung von Mensch und Technologie in Hybridformen, von denen noch niemand weiß, was sie sein werden und wohin sie sich entwickeln könnten. Die Erforschung der Digitalisierbarkeit menschlichen Gefühls dient dafür als Scharnier und Motor.

Bei alledem bleibt die eigentliche Expertise und Einsicht in das Thema Gefühl paradoxerweise aber weitgehend außen vor. Üblicherweise werden Gefühle von ihren Trägern als etwas empfunden, was zum Intimsten des Ich gehört – obwohl sie streng genommen der Ich-Empfindung (also der Erfahrung von Ichheit) nachgeordnet sind. Innerhalb der in der heutigen Rede sehr allgemeinen und diffusen Rede von »Gefühl« besteht ein mindestens vierfacher Unterschied, der zugleich eine qualitativ-ichhafte Abstufung darstellt: zwischen Emotion (von außen), Empfindung (von innen), Gefühl (Ich-Qualität) und höherer Wahrnehmung (subjektiv-objektive Erfahrung des Individuellsten als des Allgemeinsten). All dies sind »Gefühle«, aber sehr unterschiedlich in ihrer Wirklichkeit und in ihren Wirkungen. Alle vier manifestieren wesentliche qualitative, wenn auch ineinander übergehende Dimensionen von »Gefühl«, deren Unterscheidung für die Erkenntnis des Menschlichen im Menschen zentral sind. Doch selbst solche im Prinzip einfache, altbekannte und vor allem täglich präsente Differenzierungen in der Erfahrung scheinen heutigen Forschern, vor allem aber dem mittlerweile globalisierten gesellschaftlichen Mechanismus aus technologischen, wirtschaftlichen und politisch-kulturellen Interessen, aus dem sie leben, offenbar unbekannt zu sein – oder ihre Einbeziehung gänzlich unwichtig im entstehenden globalen Geschäft mit dem Menschen. In der heutigen Forschung zur Digitalisierung der Gefühle wird alles auf die unterste Ebene: die Emotion reduziert. Damit droht eine Enthumanisierung der Gefühle – sowohl außerhalb des Menschen durch Schein-Gefühle in Maschinen und Computern, wie im Menschen selbst durch deren Entwertung und Virtualisierung: ihre Umformung zum Tausch- und Kaufobjekt. Wenn junge Menschen, wie manche Stanford-Studenten, heute beginnen, unter dem Einfluss der Forschung ihre Gefühle als Tauschobjekte und als künstliche Artefakte zu verstehen, die ebenso von Computern und Maschinen erzeugt werden können, dann hat Erziehung das Privileg, die Ehre und die Pflicht, dem entgegenzuwirken – und das Gegenteil zu erweisen.

Was sind Gefühle?

Die gute Nachricht bei alledem ist allerdings, dass die meisten der am Werk befindlichen Forscher offenbar gar nicht wissen, was Gefühl ist, und was sie da technisch in transhumane Behälter zu »transformieren« suchen. Das schützt den menschlichen Gefühls-Bereich, um den es geht, zumindest bis zu einem gewissen Grad. Die Frage ist allerdings, wie lange, und vor allem: ob nicht gerade dieses Nicht-Wissen mittels »eingreifenden« (intrusiven) Technologien wie Gehirnimplantaten umso schädlichere Folgen haben wird, je weniger es von den Innendimensionen des Menschen weiß.

Wo liegt die Perspektive? Eine Erziehungskunst unserer Zeit wird in den kommenden Jahren angesichts der Vorstöße der Naturwissenschaften und Technologien einen besonderen Fokus auf das menschliche Gefühl legen müssen. Was ist es? Wie hängt es mit dem individuellen Selbst zusammen? Und warum ist es, wie das Ich, das es trägt, durchdringt und überwölbt, ein unantastbarer Teil der Würde des Menschen (was die heutige Forschung völlig ignoriert, womit sie auch die Grundlage der internationalen liberalen politischen Ordnung unterminiert)? Worin unterscheidet sich das menschliche Gefühl vom möglichen rationalen »Selbstbezug« künftig »rationaler«, partiell selbstlernender Maschinen, von denen man in transhumanistischen Kreisen ja erwartet, dass sie um das Jahr 2045-2050 eine Art »Singularität«: das heißt eine Art Selbstbezüglichkeit und damit angeblich auch eine Art »Selbstbewusstsein« im Sinn einer Kombination von Gedächtnis mit antizipativem Verhalten entwickeln werden? Das sind Fragen, mit denen wir uns in den kommenden Jahren werden auseinandersetzen müssen. Dabei geht es nicht nur darum, humanistisch-menschenorientierte Erziehungskunst zu verteidigen, sondern möglicherweise auch um die historische Chance, sich selbstbewusst mit den neuen »Menschentechnologien« und dem von ihnen gewünschten »Technikmenschen« auseinanderzusetzen, und dabei – über den Umweg der Negativität, jener Kraft, die »stets das Böse will und doch das Gute schafft« einem vertieften Menschenbild zum Durchbruch zu verhelfen.

Zum Autor: Dr. Dr. Dr. Roland Benedikter ist Global Futures Scholar an der Europäischen Akademie für angewandte Forschung Bozen, Forschungsprofessor für multidisziplinäre Politikanalyse am Willy-Brandt-Zentrum der Universität Breslau, Research Affiliate an der Global Studies Division der Stanford Universität (SGS) und Affiliate Scholar am Institute for Ethics and Emerging Technologies Hartford, Connecticut.

Links: http://forum.stanford.edu/events/calendar.php 

http://webdiis.unizar.es/~SANDRA/MasterTAIG/Picard2003.pdf

https://www.interaction-design.org/literature/book/the-encyclopedia-of-human-computer-interaction-2nd-ed/affective-computing 

https://www.pervasive.jku.at/Teaching/_2009SS/SeminarausPervasiveComputing/Begleitmaterial/Related %20Work%20(Readings)/1995_Affective%20computing_Picard.pdf

http://www.telegraph.co.uk/technology/2016/01/21/affective-computing-how-emotional-machines-are-about-to-take-ove/ 

https://www.interaction-design.org/literature/book/the-encyclopedia-of-human-computer-interaction-2nd-ed/interaction-design-brief-intro 

http://dl.acm.org/citation.cfm?id=2468751 

http://cisac.fsi.stanford.edu/events/cybersecurity-futures-2020 

https://ieet.org/index.php/IEET2/more/scott20150929 

http://www.bbc.com/news/health-26036429 

http://www.bbc.com/news/uk-scotland-39330441 

http://gutenberg.spiegel.de/buch/-3664/6 

Kommentare

Für diesen Artikel wurden noch keine Kommentare abgegeben.

Kommentar hinzufügen


* Diese Felder müssen ausgefüllt werden.