Von Fabian Nicolay.

Das Netz mobilisiert den "Pöbel" nicht, es unterdrückt ihn

In wenigen Jahrzehnten verbreitete sich die neue Technik über den ganzen Kontinent. Sie demokratisierte das Wissen und machte es plötzlich möglich, dass „Durchschnittsmenschen“ und „Zu-Kurz-Gekommene“ an Informationen und Meinungen aus aller Welt kamen, die ihnen die Augen öffneten. In ihrer eigenen Sprache konnten sie erstmalig alles lesen, was bisher nur wenigen vorbehalten war. Der neue Algorithmus beseitigte das Problem der Vervielfältigung von Information, das Generationen von Menschen an Pult und Tintenfass gefesselt hatte.

Er sorgte für eine neue arbeitsteilige Informationsindustrie, aus der ein selbstbewusstes Bürgertum erwachsen konnte, das man, befreit von den Fesseln der Bevormundung, nicht mehr als willfährige Masse in Unwissenheit vor sich her stoßen konnte. Das erzeugte Frust bei Politikern, Bürokraten und Vertretern der reinen Lehre. Sie reagierten mit Zensur und Repression, mit denen sie erbittert um ihre angestammte Deutungshoheit rangen. Sie versuchten die Technik an sich zu reißen, aber die Flut von Hohn und Spott, Widerreden und Pamphleten hörte nicht auf. Schließlich kam es zum Krieg, der das Land verwüstete. 

Die Technik blieb bestehen, der Algorithmus hatte nun sein wahres Antlitz gezeigt: In den Händen der „falschen“ Leute konnte er Revolutionär-Befreiendes bewirken – oder sein Gegenteil. So hatten es sich die Machthabenden nicht gedacht. Nichts war ihnen verhasster als Aufklärung, die jeden, der nur wollte, aus seiner Unmündigkeit entließ. Also verfolgten sie die Publizisten und Vervielfältiger, deren unliebsame Kritik ihnen schwer zusetzte. Irgendwann jedoch, viele Jahre später, entglitt den Machthabern die Kontrolle über den Algorithmus. Der befreite nun endlich die Wörter und ihre Bedeutung. 

Der Algorithmus bestand damals aus beweglichen Lettern in einer Druckpresse. Der von dieser Innovation hervorgebrachte Kollateral-Effekt war die Pressefreiheit. Gutenberg machte seine Erfindung um das Jahr 1450, die Pressefreiheit konnte sich aber erst Jahrhunderte später mit dem Erfolg moderner Demokratien durchsetzen.

Wenn Technik demokratisiert, stinkt das den Mächtigen 

Heute sind wir wieder so weit. Eine Technik demokratisiert den Zugriff auf Information und Meinung. Den Mächtigen stinkt das. Denn im Wechselspiel der globalen Social-Media-Konzerne und ihrer „Kunden“ spielte der Staat bisher kaum eine Rolle, denn der Raum, in dem die Interaktionen stattfinden, war bis vor kurzem zumindest in der westlichen Welt weit von staatlicher Kontrolle entfernt.

Wir sehen uns nun neuen Algorithmen einer Künstlichen Intelligenz gegenüber, die wirkmächtiger und komplexer agieren, verborgen auf gigantischen Server-Farmen der Social-Media-Konzerne. Mit ihnen werden Unmengen von Daten verarbeitet, vervielfältigt, analysiert und aufbereitet. Der Zweck ist, oberflächlich betrachtet, Kommunikation oder soziale Interaktion, doch was ist der Kollateral-Effekt, der ungewollte Nutzen dieser Technik, der sich erst zeigt, wenn sich die Technik irreversibel in unserer Gesellschaft etabliert hat? Welche Erscheinungsform wird der Paradigmenwechsel haben? Was wird der Effekt sein, der seinerzeit zum Erfolg des Buchdrucks und nun den Siegeszug durch das Digitale antritt? Wird es eine Bezwingung oder eine Befreiung sein?

Unbeabsichtigte, disruptive Folgen von Innovationen sind in der Geschichte fast an der Tagesordnung. Sie unterbrechen historisch Gewachsenes, lösen überkommene technische Lösungen oder moralische Vorstellungen ab, können aber auch Traditionen und kulturell konsistente Zeitalter beenden. Sie können sehr unterschiedliche Ausprägung und Auswirkung auf eine Gesellschaft haben. Zwei Beispiele:

Die Antibabypille hat das 20. Jahrhundert in den Industrienationen geprägt wie kaum eine andere medizinische Innovation. Ihre gesellschaftliche Relevanz war nicht vorgegeben: Weder war sie als Nukleus der sexuellen Befreiung der Frau gedacht, noch als emanzipatorische Volte der Frauenbewegung. Bei der Entwicklung der Pille war die ethische Intention eigentlich eine andere: Lebensbedrohliche Infektionen nach illegalen Abtreibungen gehörten weltweit zum traurigen Alltag. Ohne die Pille hätte es sehr viel mehr unerwünschte Schwangerschaften und Abbrüche gegeben. Doch dann traf die Pille auf die hedonistische Hippie-Generation mit ihrem Willen zur sexuellen Befreiung. Ein halbes Jahrhundert später sind die westlichen Gesellschaften nicht wieder zu erkennen. Die Geburtenrate liegt weit unter der Reproduktionsrate und einer alternden Gesellschaft bricht der Nachwuchs weg.

Die Raumfahrt kreierte das "One World"-Feeling

Ein weiteres Beispiel: Eigentlich standen die Menschen der Raumfahrt negativ gegenüber. Sie sahen keinen Sinn darin, hunderte Millionen Dollar in ein Raketen-Entwicklungsprogramm zu investieren, das nur dazu dienen sollte, einen Fuß auf einen großen leblosen Stein im Orbit zu setzen. Der wissenschaftliche Erfolg gab der Mission zwar recht. Der Mond wurde als etwas identifiziert, das aus Erdmaterie zusammengesetzt ist. Doch etwas ganz anderes, nahezu beiläufiges, bahnte sich den Weg in das Bewusstsein der Menschheit. Niemand hatte zuvor die Erde vom Weltraum aus betrachten können. Es existierte quasi keine Vorstellung davon. Und nun brachte die Apollo-Besatzung ein Foto der Erde aus dem Orbit mit, das das Verhältnis der Menschen zu ihrem Heimatplaneten grundlegend auf den Kopf stellte: Plötzlich konnte jeder seine Erde wie ein Kleinod betrachten. Seitdem ist der „blaue Planet“ ein Synonym für eine schützenswerte Heimat – ein Symbol, das der bis dato farblosen Ökobewegung die Corporate Identity verpasste.

Es ist ein weit verbreiteter Irrtum, man könne die unbeabsichtigeten Folgen von epochalen Innovationen verhindern oder eindämmen. Meist sind diese schon eingetreten, während noch darüber räsoniert wird, wie man sie aufhalten könnte. Die folgenden, hektisch anmutenden Abwehrmaßnahmen und gesetzlichen Interventionen verstärken jedoch eine Rückkopplung, die dafür sorgt, dass der verborgene Kollateral-Effekt erst recht zutage tritt.

Auch bezüglich der von Künstlicher Intelligenz (KI) gesteuerten sozialen Netzwerke wie Facebook, YouTube oder Amazon herrscht ein Irrtum vor, nämlich, dass es sich dabei „einfach nur“ um ein mediales Phänomen handelt, das durch innovative Kommunikationstechnik hervorgerufenen wird. Ihr offensichtlicher Nutzen sei skalierbarer Konsum, effizientere Kommunikation, hochkomplexe Vernetzung und soziale Teilhabe. Das trifft durchaus zu. Aber da ist wie immer auch eine unbeabsichtigte Nebenwirkung, die keiner auf dem Radar hatte.

Die Algorithmen haben Prozesse verselbstständigt, die als unerwünscht angesehen werden. Deshalb richtet sich die von den technisch-wirtschaftlichen, politischen und medialen Eliten so massiv geförderte Entwicklung schon heute unerwartet gegen ihre eigenen Protagonisten. Der aktuelle Facebook-Skandal und die aufkommende Diskussion um intransparente Targeting-Verfahren zeigt das deutlich (man könnte auch "Zielscheiben-Verfahren" dazu sagen).

Den herrschenden Eliten entgleitet das Medium, weil seine janusköpfige Wirkweise letztendlich nicht zu kontrollieren ist. Im Fachjargon spricht man von Disruption, als einem Prozess, bei dem ein bestehendes System oder ein Markt durch eine stark wachsende Innovation abgelöst oder gar zerschlagen wird. In der Folge richten sich Maßnahmen zur Eindämmung unbeabsichtigter gesellschaftlicher Folgen gegen das Medium selbst und dann gegen seine Rezipienten, was das umstürzlerische Potenzial  des Paradigmenwechsels erst recht entfesselt.

Es findet quasi eine „Häutung“ statt, bei der sich die Innovation immer mehr von ihrem ursprünglichen Zweck (der Vervielfältigung, der Konsumförderung) entfremdet, sich einem neuen, eigentlich unbeabsichtigten Zweck zuwendet und schließlich das althergebrachte Machtgefüge infrage stellt. Die technische Innovation wird so zum Katalysator revolutionärer Prozesse gegen seine Erschaffer und das vorherrschende Gesellschaftsmodell.

Social Media sind der Lockstoff für humane Zielscheiben

Unbeabsichtigte Technikfolgen können gute wie schlechte Ausprägungen haben. Die negativen Folgen einer technischen Innovation, die eine steile gesellschaftliche Karriere gemacht hat, sind in der Disruptionsphase früh zu erkennen, während ihr „kollateraler“ Langzeitnutzen, eher spät als positiver Effekt auftritt. 

Der Buchdruck hat indirekt den 30-jährigen Krieg ausgelöst, weil er die Verbreitung der deutschsprachigen Lutherbibel betrieb. Protestantisch gegen katholisch, das war die Disruption, deren technische Ermöglichung von einem Druckstock im Jahr 1450 in Mainz ausging. Unaufhaltsam führte das in eine Katastrophe, die Mitteleuropa mehrfach umgekrempelt hat. Sie hatte staatliche Repressions- und Zensur-Bürokratie zur Folge, und doch war sie der Startpunkt für die aufgeklärte Moderne, in der wir heute frei leben.

Die aktuelle Daten-Affäre bei Facebook ist ebenfalls ein Anzeichen disruptiven Potenzials. Das britsche Unternehmen Cambridge Analytica soll unrechtmäßig 50 Millionen Datensätze von Facebook-Nutzerprofilen abgezogen haben, um den letzten amerikanischen Präsidentschafts-Wahlkampf zu beeinflussen (Das war wohl auch schon im vorherigen Wahlkampf mit umgekehrter politischer Stoßrichtung so, schreibt die FAZ in "Die Vereingten Daten von Amerika").

In jedem Fall zeigt sich das ganze Ausmaß einer Manipulationsbedrohung, die sich aus der massenhaften Speicherung persönlicher Nutzerdaten und dem Geschäftszweck der Plattform ergibt. Das wirtschaftliche Potenzial von Nutzerdaten ist im Zusammenspiel mit der Innovation der Künstlichen Intelligenz das Material, aus dem Datenschutz-Albträume gewoben werden.

Und wieder vollzieht sich eine Revolution vor dem Hintergrund eines medialen Wandels, in dem es nur oberflächlich um die gesellschaftliche Neugestaltung von Kommunikationswegen geht. Tatsächlich ist seine Beschaffenheit gewaltiger: Es geht um eine Technik, die den Zugang zur Manipulation der Massen öffnet.

Wer Zugriff auf diese Daten erlangt, kann großflächig angelegtes, algorithmen-gesteuertes Targeting betreiben und so zielgenau jeden Einzelnen treffen. Die Nutzer werden wortwörtlich zu Zielscheiben von Empfehlungen und dem sogenannten Programmatic Advertising, von dessen persönlich motiviertem Ursprung die Zielperson absolut nichts ahnt. Das ist der Grund für das Aufkommen ungeheurer Begehrlichkeiten und krimineller Energien, denen Soziale Netzwerke, ihre Betreiber und die Nutzer ausgesetzt sind und denen sie letztlich ohnmächtig gegenüberstehen. Denn Algorithmen, die Nutzerverhalten beeinflussen können, sind das neue Gold, nach dem geschürft wird. Dabei geht es, wie der aktuelle Facebook-Fall zeigt, ziemlich gewissenlos zu. Facebook versucht mittlerweile mit Entschuldigungen und Beschwichtigungen zu bemänteln, dass der „Fehler im System“ schon seit Monaten bekannt war, wie  der frühere Facebook-Mitgründer und Zuckerberg-Berater Roger McNamee sagt.

Facebook verkauft Vorlieben, Hoffnungen und Ängste

Zwar haben die Facebook-Nutzer via AGBs zugestimmt, dass ihre persönlichen Daten für zielgerichtete Angebote von Facebook genutzt werden dürfen. Gleichzeitig vertrauten sie aber auch auf die Sicherheit im Umgang mit ihren Daten. Dass Bekundungen, der Datenschutz sei gewährleistet, nur Lippenbekenntnisse sind, wird offenbar, wenn man verfolgt, mit welcher Leichtigkeit, Chuzpe und krimineller Unverfrorenheit Cambridge Analytica Zugang zu den Datensätzen erlangen konnte und wie liederlich Facebook seinen Verpflichtungen zum Datenschutz tatsächlich nachgekommen ist.

Es ergibt sich ein Bild, bei dem zuallererst die Nutzer den kürzeren ziehen. Die in ihren Datensätzen und Profilen enthaltenen Vorlieben, Hoffnungen und Ängste konnte und durfte Facebook für das zielgerichtete Erstellen von Angeboten nutzen – so war die Vereinbarung. Die unrechtmäßige Weitergabe dieser hochsensiblen Informationen an Dritte aber lässt das Verhältnis zwischen Plattform und Nutzern in äußerst schlechtem Licht erscheinen: Facebook hat nämlich willentlich zugelassen, dass eine Fremdfirma Zugang zu diesen Daten erhielt und damit Missbrauch treiben konnte. 

Das Unternehmen wusste, welches analytische Potenzial in den Daten seiner Nutzer steckt, welche Gefahr manipulativer Einflussnahme gegeben war. Denn Targeting ist das Geschäftsmodell und Tagesgeschäft von Facebook. Zielgerichtete Angebote sind die Früchte, die man den Nutzern via Algorithmus über den Zaun des Facebook-Accounts hängen lässt, damit sie zugreifen. Dass da noch andere ihre Äste über den Zaun hängen lassen, war eigentlich nicht Teil der Abmachung zwischen dem Konzern und seinen Nutzern.

Unberechtigte Dritte konnten nun ihre eigenen Algorithmen auf die Daten ansetzen, sie durchforsten und analysieren, für politische Zwecke missbrauchen und daraus eigene finanzielle Vorteile erzielen. 

Hoffnungen, Sorgen und Ängste sind dabei entscheidende Trigger-Emotionen, mit denen man auf Wählerfang ging. Man konnte sie aus den 50 Millionen Nutzerprofilen herausfiltern, um im Wahlkampf gezielt Ansprache und Einflussname auf persönlicher Ebene zu generieren. Die Nutzer von Facebook haben also Post von jemandem bekommen, der genau wusste, wo genau der jeweilige Schuh drückt. Das ist im Ergebnis so, als ob man ein privates Telefongespräch abhört.

Wer keinen Verdacht hegt, ist das perfekte Opfer für Manipulation. Algorithmen und Targeting waren Angel und Köder, an denen der ahnungslose Wähler zur Wahlurne gezogen werden konnte. Das ist heute also Realität.

Der Rufschaden ist enorm

Facebook ist der zweite Verlierer. Der Rufschaden ist enorm. Der Nimbus von Marc Zuckerberg hängt schief. Hollywood-Star Jim Carrey verkauft alle Facebook-Aktien, löscht seine Seite – und fordert Aktionäre auf, das Gleiche zu tun. Unternehmer-Guru Elon Musk von Tesla legte den Facebook-Account seiner Unternehmen still, amerikanische Nutzer rufen unter dem Hashtag #DeleteFacebook zur großen Löschaktion auf.

Die Vorkommnisse zeigen deutlich, wie anfällig das Verhältnis zwischen Datenurheber (Nutzer) und Datenbesitzer (Facebook) ist, wenn von außen Begehrlichkeiten entstehen. Wie Algorithmen und persönliche Nutzerdaten zu einem demokratie-gefährdenden Gemisch zusammengebraut werden können, lässt sich an diesen Geschehnissen musterhaft ablesen.

Es braucht nicht einmal datenklauende Dritte, um diese Möglichkeiten der Beeinflussung als Gefahr zu sehen und die Kontrollinstanzen wachzurufen. Der Staat hat die Betreiber sozialer Netzwerke ja schon länger auf dem Kieker. Sie nehmen ihm einen gehörigen Teil seiner angestammten Deutungshoheit einfach weg. 

Es ist wie mit dem Buchdruck: Die Machthaber müssen die Herren des Verfahrens bleiben, damit die Unterscheidung von Wahrheit und Lüge nicht vollends vom Volk betrieben wird. Die Pressefreiheit ist da auch nur eine unverbindliche, moralische Größe, die sich für das Zeitalter des Buchdrucks in den Demokratien etabliert hatte. Im Zeitalter der sozialen Algorithmen wird aber eine neue Freiheit auszuhandeln sein. Vielleicht leider.

Deshalb werden die Kollateralschäden der neuen Technik nun dazu genutzt werden, die Machtfülle der Konzerne zu schmälern und die disruptive Energie der Innovation für den Machterhalt des Staates einzusetzen, stets bemäntelt mit dem selbstlosen Kampf gegen Hate Speech oder für den Datenschutz, gegen Steuerhinterziehung oder für Nutzungsrechte. Einige nicht demokratische Staaten haben damit bereits gute Erfahrungen gemacht: beispielsweise China, Russland und die Türkei. Mittlerweile reüssiert diese Idee aber auch in originären Demokratien. Deutschland marschiert auch hier vorneweg.

Fabian Nicolay ist Kommunikationsdesigner in Berlin.

Facebook-Wars (2): Das Medium als Aufheizer

Facebook-Wars (3): Aus Convenience wird Repression

Einer der besten Vorträge zum Thema von Zeynep Tufekci 

Facebook wirft Cambridge Analytica raus

The techlash against Amazon, Facebook and Google—and what they can do