Prof. Yvonne Hofstetter im Interview

Frau Prof. Hofstetter, mit Begeisterung nutzen inzwischen weltweit Milliarden von Menschen – ob Jung oder Alt – die Dienste von Online-Plattformen. Ein Hauptargument, das immer wieder ins Feld geführt wird: „Das ist doch umsonst …!“ Mit welcher Münze bezahlen wir diese vermeintliche Großzügigkeit der Plattformen? Können Sie das einem nicht besonders technikaffinen Laien erklären. Wie decken die Plattformen ihre Kosten für diesen Service? Welchen Preis zahlen wir letztendlich?

Was wir euphemistisch als „soziale Medien“ bezeichnen, sind Werbeplattformen profitorientierter Unternehmen. Wenn Sie an Ihre Lieblingsplattformen denken, stammen sie meistens aus dem Silicon Valley in den USA. Diese Unternehmen sind sehr erfolgreich mit einem Geschäftsmodell, das sich Hidden Revenue – „verborgener Umsatz“ – nennt. Die Unternehmen stellen ihre Software uns Nutzern unentgeltlich zur Verfügung. Doch unsere Nutzung hinterlässt eine Menge Spuren und offenbart praktisch alles über unser Leben: unser Einkommen, die Namen unserer Kinder, wo sie zur Schule gehen, welches Auto wir fahren, wie gesund wir sind usw. Diese Spuren werden verfolgt und gespeichert. Über jeden Nutzer liegen bei den Unternehmen deshalb zwischen 20.000 und 50.000 solcher Einzelinformationen vor. Die Fusion aller Informationen ergibt dann ein recht genaues Lagebild unseres Alltags und Verhaltens – eben das Profil unseres Lebens. Vereinfacht gesagt: Die Unternehmen auktionieren unsere Profile und Interessen an Werbetreibende und Werbeagenturen. Diese zahlen so viel Geld dafür, uns zum Konsum zu animieren, dass der Umsatz bei den Unternehmen hoch genug ist, um uns die ziemlich teuren Onlineplattformen zur Verfügung zu stellen, ohne dafür Geld von uns zu verlangen. Der Preis aber ist die Transparenz unseres Lebens und seine Überwachung, um uns zu einem bestimmten Verhalten zu bewegen. Genau darin liegt die Macht von Daten – um in unsere Zukunft steuernd einzugreifen.


Aber geht es hier nur um Werbung und Konsum? In ihrem neuesten Buch „Der unsichtbare Krieg“ sprechen Sie vom „Umbau der Gesellschaft in einen sozialen Megacomputer“.Was meinen Sie damit?

Digitalisierung heißt vereinfacht: Jeder wird mit jedem und alles mit allem vernetzt zum „Internet of Everything“. Ziel der Digitalisierung ist, die Welt zu vermessen. Dazu ist nötig, kontinuierlich Daten zu erheben und sie auszuwerten – also Berechnungen anzustellen, wie es am besten eben ein Computer kann. Das ist oft sinnvoll, wenn wir unsere Welt besser verstehen wollen. Aber: Es ist eine Sache, eine Fabrik zu vernetzen und zu überwachen, die ein Manager vom Badesee aus steuern will. Eine ganz andere Sache ist es, dasselbe mit Menschen und ganzen Gesellschaften zu tun. Menschen haben Rechte, Sachen nicht.


Sie erwähnen das New Yorker Unternehmen X.ai, welches an dem Programm „Using Artificial Intelligence to program humans to behave better“ arbeitet. Also „Künstliche Intelligenz soll den Menschen umprogrammieren, damit er sich besser benimmt.“, schreiben Sie. Wie ist eine solche Verhaltensmodifikation auf diesem Weg zu erreichen?

Die Verhaltenssteuerung durch Künstliche Intelligenz ist längst Realität. Es ist Künstliche Intelligenz – genauer: künstliche neuronale Netze –, welche die durch die Vernetzung erhobenen Massendaten analysiert. Hauptanwendungsfelder der Künstlichen Intelligenz sind die Kategorisierung von Objekten – mathematisch gesprochen: die Diskriminierung von Objekten –, darunter auch von Menschen, und die Regression. Letzteres ist die Abschätzung, wie Eigenschaften eines Objekts voneinander abhängig sind. Isst jemand gerne vegan, liebt Yoga, schaut sich im Videostream „Parlament“ an und fährt einen SUV, ist er dann konservativ oder doch eher „grün“? Stellt eine Künstliche Intelligenz eine höhere Wahrscheinlichkeit für „grün“ fest, könnte etwa eine Grüne Partei diese Erkenntnis nutzen, um den so analysierten Menschen zu stimulieren, sich noch „grüner“ zu verhalten – etwa durch personalisierte Information in den von ihm genutzten Online-Medien. Wie der Mensch auf Stimuli reagiert, kann man durch die Überwachung wiederum messen und nachregeln. Das ist nicht neu und nennt sich „geschlossener Regelkreis“. Künstliche Intelligenz spielt bei der Analyse des Objekts in diesem Regelkreis eine zentrale Rolle.

Droht, ohne dass wir es merken, auch in unseren demokratischen Gesellschaftssystemen eine Entwicklung, wie Sie es in bezug auf „Chinas digitales Sozialkreditsystem“ beschreiben, wo der Algorithmus in gute und schlechte Bürger einteilt und Belohnung und Strafe folgen? Laufen wir sogar freiwillig und begeistert nach dem Motto „Ist ja umsonst …!“ in diese Demokratiefalle?

Viele Menschen sagen etwas unüberlegt: Ist doch toll, wenn ich passgenaue Werbung erhalte, deshalb ist mir die Überwachung egal.Möglicherweise sind unserer postmodernen Gesellschaft die Vorfälle des 20. Jahrhunderts zu fremd geworden, als dass man noch glaubt, das Wiederauftreten eines Überwachungsstaats und seiner Folgen sei eine reale Gefahr. Doch eine Gesellschaft, in der Menschen kategorisiert und klassifiziert und in „gute“ oder „schlechte“ Bürger eingeteilt werden, wie es eine Künstliche Intelligenz tun kann, wird eine unmenschliche Gesellschaft, insbesondere dann, wenn die Einteilung politisch motiviert ist.

Prof. Yvonne Hofstetter

Sie sprechen in „Der unsichtbare Krieg“ von einer „digitalen Ermächtigung“ und sehen an erster Stelle die Technologieanbieter als die „neuen Mächtigen“. Diese konnten doch erst durch die Entscheidung Amerikas, bzw. des Pentagons Milliarden in die Digitalisierung zu investieren, ihre Entwicklung nehmen. Verliert der Staat hier wirklich die Kontrolle über den jetzigen Prozess oder wieso „Ermächtigung“?

In erster Linie sehe ich früher schwache Staaten als diejenigen, die durch die Digitalisierung ermächtigt werden. Mexiko oder Iran oder Nordkorea können die Vereinigten Staaten heute mit digitalen Mitteln angreifen. Digitale „Waffen“ sind leicht verfügbar, auch dank des Silicon Valley, dass eine Kultur des „Open Access“ vertritt. Zum Beispiel soll es Künstliche Intelligenz für jeden und überall kostenlos geben. Ein Staat wie Nordkorea muss deshalb keine Rakete mit Atomsprengkopf in die Vereinigten Staaten schicken, wenn schon ein digitaler Angriff auf US-Börsen oder amerikanische Infrastrukturen großen Schaden anrichtet. Oder denken Sie an die Möglichkeit, von außen in die Wahlen eines Staates einzugreifen, indem man Online-Netzwerke gezielt zur Meinungsmanipulation der Wähler einsetzt oder Wahlmaschinen hackt. All das und mehr ist in der Vergangenheit bereits geschehen – mit den entsprechenden politischen Folgen.


In Deutschland und Europa haben wir die Digitalisierung, besonders auch der kritischen Infrastruktur, vehement vorangetrieben und waren bisher die eigennützigen „Nutznießer“ dieser amerikanischen Milliardeninvestitionen, schreiben Sie. Jetzt sieht sich Europa jedoch in einer eigenartigen geostrategischen Gemengelage zwischen den Machtansprüchen und digitalen Fähigkeiten Chinas und Russlands und dem Rückzug auch der digitalen Schutzmacht Amerika.Wie verwundbar ist Europa in diesem Cyberspace?

Deutschland und Europa haben die Digitalisierung eben gerade nicht vehement vorangetrieben, sondern sich zwanzig Jahre lang auf die Amerikaner und ihre strategischen Investitionen in die Digitalisierung verlassen. Seit den Neunzigerjahren haben wir Europäer Schlüsseltechnologien der Digitalisierung verloren oder vorsätzlich aufgegeben. In Europa werden keine Computer mehr gebaut; keine Mobiltelefone von wirtschaftlicher Relevanz; keine Router… Wir kaufen stattdessen bei Dell ein, lassen bei Amazon rechnen oder haben Probleme mit dem Ausbau von 5G, weil sowohl Cisco als auch Huawei problematische Router liefern – auch hier gilt wieder das Stichwort: Überwachung. Hinzukommt die Abhängigkeit von amerikanischen oder chinesischen Lieferanten. Es gibt keine europäische Alternative; das ist ein Sicherheitsproblem. Digital hätten wir daher extrem viel aufzuholen. Das wird uns nicht leicht gelingen, denn die letzten 20 Jahre sind ins Land gezogen, in denen andere Daten gesammelt und profitable Geschäftsmodelle daraus entwickelt haben.


Welche Entscheidungen müssten in diesem „unsichtbaren Krieg“ jetzt gefällt werden? Oder ist derZug für Europa schon abgefahren?

Immerhin gibt es seit wenigen Jahren den politischen Willen, in Europa aktiv zu werden. Man will eine europäische Cloud aufbauen, Gaia-X. Oder den digitalen Binnenmarkt fördern. Der Datenschutz wird zum Wettbewerbsvorteil, und die EU-Kommission lässt sich in Sachen Haftung für Künstliche Intelligenz rechtlich beraten. Auch die Sicherheit wird mehr thematisiert als früher. Doch die Umsetzung dauert ihre Zeit und wird viel Geld kosten. Weil Europa eine andere Kapitalmarktstruktur hat als etwa die Vereinigten Staaten, wird nur ein Bruchteil des Geldes zur Verfügung stehen, das andere Länder – auch China – in die Digitalisierung investieren. Letztlich haben wir wahrscheinlich noch eine Chance in gewissen Nischen, etwa bei der Konzeptionierung digitaler Anwendungen für die Industrie. Das muss nicht schlecht sein.

Und welche Stärken könnte und müsste Europa in dieser komplexen und höchst zerbrechlichenWeltlage einbringen, um den Friedenserhalt zu befördern?

Noch sind unsere europäischen Demokratien vergleichsweise intakt. Im „Sandwich“ zwischen den Vereinigten Staaten und China sind sie eine attraktive Systemalternative, die es zu verteidigen lohnt. Sicherheitsfragen sollten wir deshalb nicht länger externalisieren. Wir sollten außerdem darauf achten, dass wir die nachfolgenden Generationen wieder mehr im Sinne der Aufklärung formen – die Online-Werbeplattformen haben ganze Arbeit geleistet und affizieren und emotionalisieren die Menschen. Dagegen müssen wir Resilienz aufbauen, denn Emotionen sind keine gute Grundlage für Friedenspolitik. Sie spalten die Gesellschaft. Auch die Überwachung ist nicht förderlich für den Frieden. Wenn die Menschen nicht alles übereinander wissen, können sie unvoreingenommener miteinander umgehen.


Was könnte jeder Einzelne als Individuum in diesem „unsichtbaren Krieg“ beitragen, um die Unantastbarkeit seiner Menschenwürde zu verteidigen? Was raten Sie?

Unsere Souveränität – ein anderes Wort für die Menschenwürde – ist längst durch andere angetastet. Wichtig wäre, dass jeder von uns für die Souveränität eintritt – etwa als Graswurzel „an seinem je eigenen Platz“. Dass wir die autoritären Kräfte und Tyranneien hinter der technologischen Entwicklung erkennen – das wäre ein Auftrag, sich zu bilden. Und dass wir uns abhärten gegen die unsichtbare Manipulation unseres Alltags und der rechtsstaatlichen demokratischen Gesellschaft. Das geschieht durch mehr Vertrauen, Gelassenheit und Vernunft.

Frau Prof. Hofstetter, wir danken Ihnen.

Die Fragen stellte Renate Müller De Paoli.
Frau Prof. Hofstetter beantwortete diese schriftlich am 25. Oktober 2020.