Facebook als digitaler Weltpolizist

Facebook und andere Technologie-Konzerne sind zu eigentlichen «Netz-Staaten» herangewachsen. Nun schliessen sie sich zu einer Anti-Terror-Allianz zusammen. Das komme einer Privatisierung der Militär- und Polizeigewalt gleich, fürchten Experten.

«Könige, Präsidenten und Wahlen lehnen wir ab. Wir glauben an groben Konsens und laufenden Code», deklamierte 1992 der MIT-Informatiker David Clark. Damit war ein libertäres Staatsverständnis umschrieben, welches das Funktionieren eines Gemeinwesens nicht mehr von Institutionen, sondern lediglich vom Programmcode abhängig macht.

Die Computerpioniere waren von der Idee beseelt, dass sich die Ordnung eines Gemeinwesens durch informatisierte Prozesse herstellen lässt. Das soziale Netzwerk Facebook, das mittlerweile zwei Milliarden Mitglieder und damit mehr als die Katholische Kirche zählt, ist eine solche Gemeinschaft, die vom Programmcode regiert wird. Mit jeder Modifikation des Newsfeed-Algorithmus wird Herrschaft ausgeübt.

«In vielerlei Hinsicht ist Facebook mehr eine Regierung als ein traditionelles Unternehmen.» Mark Zuckerberg

Facebook entscheidet autoritativ, wo die Grenzen der Meinungs- und Kunstfreiheit liegen. Hasskommentare werden zuweilen toleriert, Kunstwerke wie das Foto einer Neptun-Statue werden wegen Verstosses gegen das Prinzip der Nacktheit zensiert. Die «Gemeinschaftsstandards», die wie eine Art Grundrechtekatalog ausgestaltet sind, hat sich Facebook in einem Akt der Selbstermächtigung gegeben. Gründer Mark Zuckerberg sagte einmal: «In vielerlei Hinsicht ist Facebook mehr eine Regierung als ein traditionelles Unternehmen. Wir haben ein grosse Community von Leuten, und mehr als eine Technologiekonzerne legen wir die Policies fest.»

Die Politikprofessorin Alexis Wichowski, die an der School of International and Public Affairs der Columbia University lehrt, hat in einem Beitrag für das Technik-Magazin «Wired» die These aufgestellt, dass wir mit der Dominanz der Internet- und Technologie-Konzerne in das Zeitalter der «Netz-Staaten» eingetreten seien. «Wie Nationalstaaten sind sie ein bunter Blumenstrauss. Manche sind das Äquivalent globaler Supermächte: die Googles, Facebooks und Twitters. Manche sind Zusammenkünfte von Witzbolden wie (die Hackergruppe) LulzSec (…). Andere wiederum sind paramilitärische Operationen wie GhostSec, eine Cyberarmee, die speziell geschaffen wurde, um den IS zu bekämpfen. Und es gibt Hacktivisten-Kollektive wie Anonymous und Wikileaks», schreibt Wichowski.

«Um Kriege im Informationszeitalter zu gewinnen, müssen Länder die Macht der Netzstaaten anerkennen.» Alexis Wichowski, Columbia University

Unbeachtet ihrer Grössenunterschiede und Gründungszwecke wiesen die Akteure drei gemeinsame Merkmale auf: Sie existieren online, haben eine internationale Anhängerschaft und verfolgen eine eigene Agenda. «Die Welt braucht Netzstaaten, weil sie dasselbe Territorium wie nichtstaatliche Akteure okkupieren: die digitale Sphäre», fordert die Politologin. «Um Kriege im Informationszeitalter zu gewinnen, müssen Länder die Macht der Netzstaaten anerkennen.»

Langsam aber sicher scheinen sich auch die Konzerne ihrer staatsähnlichen Macht bewusst zu werden. So haben sich jüngst Facebook, Microsoft, Twitter und YouTube zu einer globalen Anti-Terror-Allianz, dem Global Internet Forum to Counter Terrorism, zusammengeschlossen, mit dem sie gemeinsam der Verbreitung terroristischer Inhalte auf ihren Plattformen entgegentreten wollen.

Das Problem: Terrorfürsten nutzen Dienste wie Youtube oder Facebook als Propagandaplattform. Die Politik erhöht daher den Druck auf Netzwerkkonzerne, gegen gewaltverherrlichende Inhalte vorzugehen. Facebook und Youtube nutzen bereits ein System, mit dem gewaltverherrlichende Bilder, etwa Propagandamaterial des IS, automatisch blockiert oder sofort aus dem Netz genommen werden. Eine Art algorithmische Polizei. Die Technik, die ursprünglich für die Identifizierung und Löschung urheberrechtlich geschützten Materials auf Videoseiten entwickelt wurde, sucht nach sogenannten Hashwerten, eine Art digitaler Fingerabdruck jeder Datei. Dieser Wert wird dann mit bereits als «anstössig» gemeldeten Bild- oder Videodateien abgeglichen. Die Methode funktioniert allerdings nur, wenn das Video schon einmal gepostet wurde. Nach einem Bericht der «New York Times» hat Youtube mit der Video-Fingerprinting-Technologie tausende Terrorbotschaften des Dschihadisten-Predigers Anwar al-Awlaki gelöscht, der zahlreiche Terroristen (u.a. die Attentäter der Anschläge auf den Boston-Marathon und San Bernardino) infiltriert haben soll.

Die Google-Tochter «Jigsaw» testete im vergangenen Jahr eine Methode («The Redirect Method»), bei der Nutzer, die nach terroristischen Inhalten suchten, zu anderen Webseiten umgeleitet wurden. Die Macher erklären die Methode zum Erfolg: In den ersten zwei Monaten des Projektes seien 300’000 Menschen zu den Anti-IS-YouTube-Kanälen umgeleitet worden. Die Klickraten auf die «Jigsaw»-Anzeige seien dreimal höher als bei durchschnittlicher Google-Werbung gewesen.

Ist man gleich ein Terrorist, wenn man sich das E-Paper des IS-Magazins «Dabiq» herunterlädt?

Doch die Weiterleitung ist methodisch fragwürdig. Um die potenziellen IS-Sympathisanten von «normalen» Nutzern zu isolieren, wurden zwei Gruppen gebildet: «Mainstream-Interessenten» und «Sympathisanten». Suchte jemand einer Nachrichtenseite wie CNN oder BBC nach dem Islamischen Staat, wurde die Person in die «Mainstream-Gruppe» eingeordnet. Wer nach dezidiert extremistischem Content wie etwa dem IS-Medienzentrum «Al Hayat» oder dem IS-Propaganda-Magazin «Dabiq» googelte, landete in der Gruppe der «potenziellen Sympathisanten». Doch kann ein Terrorist nicht auch seriöse Nachrichtenseiten aufrufen? Ist man umgekehrt gleich ein Terrorist, wenn man sich das E-Paper von «Dabiq» herunterlädt? Dann müssten Journalisten oder Verfassungsschützer, die sich mit dem Phänomen des Terrorismus befassen, ja auch Terroristen sein. Das verweist auf die grundsätzliche Problematik, was eigentlich einen Terroristen zum Terroristen macht.

Wie definiert man Terrorismus? Wie kann eine Software zwischen Realität und Fiktion differenzieren? Was würde passieren, wenn ein Algorithmus eine Szene aus einem Actionfilm als «terroristisch» einstuft? Würde dann Kunst normativ und faktisch mit einem blockierten Propagandavideo als etwas Nichtzeigenswertes gleichgestellt? Terrorismus ist auch immer einer soziale Konstruktion, deren Definition und Auslegung zunehmend Algorithmen überantwortet wird. Diese Wertungswidersprüche lassen sich durch eine algorithmische Polizei nicht auflösen, im Gegenteil, sie werden dadurch noch verstärkt. Der Algorithmus erkennt nicht, ob jemand aus integren oder sinisteren Motiven nach IS-Begriffen sucht. Und er erkennt auch nicht, ob das Tragen einer Waffe in einem künstlerischen Kontext eingebettet ist. Der Journalist und IS-Sympathisant können, so zynisch das ist, dieselben Outputs erzeugen.

Als Bürger möchte man lieber nicht auf einer Anti-Terror-Liste von Google oder Facebook stehen.

Die Journalistin Rafia Zakaria kritisierte in einem Beitrag für die Zeitschrift «The Baffler» («The Military-Messaging Complex»), dass das Global Internet Forum eine Privatisierung der Militär- und Polizeigewalt bedeute. Facebook und Co. seien eine Art «virtuelles Blackwater» (die für ihr brutales Vorgehen berüchtigten Söldner der privaten Sicherheitsfirma Blackwater kämpften unter anderem im Irak-Krieg). «Wenn Soziale-Medien-Plattformen als Vorhut des Kriegs gegen den Terror angeworben werden, nehmen sie sich auch die Macht heraus, zu definieren, was Terrorismus ist – und im Gegenzug, wer ein Terrorist ist.» Als Bürger möchte man lieber nicht auf einer Anti-Terror-Liste von Google oder Facebook stehen. «Auf Listen stehen ist gefährlich», wusste schon Eugen Roth. Vielleicht sollte man doch mehr Vertrauen in Präsidenten und Wahlen als in den Code setzen.

Dieser Text wurde zuerst auf spektrum.de veröffentlicht.