The post Der Staat schaut ins Schlafzimmer – Afrikas Überwachungsoffensive first appeared on MEDIENWOCHE.

The post Videoüberwachung: Die grösste Überwachungsfirma, von der Sie nie gehört haben first appeared on MEDIENWOCHE.

The post Henan in China: Gesichtserkennung gezielt gegen ausländische Journalisten first appeared on MEDIENWOCHE.

The post Freedom on the Net Report: 2020 Corona gefährdet Internetfreiheit first appeared on MEDIENWOCHE.

The post In der Krise boomt auch die Überwachung durch den Chef first appeared on MEDIENWOCHE.

The post 360°-Überwachung «made in Turkey» – jedes Gesicht in Sekunden identifiziert first appeared on MEDIENWOCHE.

The post Überwachung in China: Zwei Schritte – und die Software weiss, wer Sie sind first appeared on MEDIENWOCHE.

Wichtige Sequenzen, etwa solche, die Details einer möglichen Straftat zeigen, rauschen bei einer Sichtung mit dem menschlichen Auge häufig einfach durch. Behörden auf der ganzen Welt setzen daher verstärkt auf Gesichtserkennungssysteme, welche die Videoaufnahmen in Echtzeit und automatisch mit biometrischen Datenbanken abgleichen können.

Indische Wissenschaftler haben nun ein Instrument entwickelt, mit dem anhand individueller Merkmale wie Grösse, Haarfarbe oder Geschlecht gezielt nach Personen in Videoaufzeichnungen gesucht werden kann; eine Suchmaschine für Videobilder. Softwareingenieure der Ahmedabad University trainierten dazu ein neuronales Netzwerk mit einem Datensatz, der über 100’000 Bilder von Personen aus verschiedenen Kameraperspektiven enthielt. Ein Bilderkennungsalgorithmus markierte die Silhouette von Personen und extrahierte Kopf- und Fusspunkte. Durch einen Abgleich der Pixel mit den Echtzeitkoordinaten errechnete der Algorithmus die Grösse der Person. Die Variable der Grösse fungierte als ein Filter, um die Zahl der Personen in dem Frame zu reduzieren. In einem zweiten Schritt zerlegte der Algorithmus den Datenkörper in einen Torso und legte einen Farbfilter über das Kleidungsstück. Die Bestimmung des Geschlechts erfolgte aufgrund der beiden Variablen Grösse und Kleidung. Wer über 1,80 Meter gross ist und dunkle Kleidung trägt, hat eine höhere Wahrscheinlichkeit, ein Mann als eine Frau zu sein, so die Annahme der Forscher.

Der Algorithmus soll 28 von 41 Personen korrekt erkannt haben, schreiben die Forscher in ihrem Paper. Das sieht nach einer stattlichen Fehlerrate aus. Berücksichtigt man jedoch die teils ungünstigen Lichtverhältnisse, ist dies für einen Algorithmus wiederum eine akzeptable Quote.

In einem Suchfenster kann man einfach einen Begriff eingeben – zum Beispiel «roter Lastwagen» –, dann durchkämmt die Software das Videomaterial und identifiziert per Objekterkennung den gesuchten Gegenstand.

Der Ansatz ist nicht neu. Das Start-up IC Realtech hat bereits vor einiger Zeit eine intelligente Videosuchmaschine namens Ella entwickelt, in der man in Videomaterial nach bestimmten Gegenständen suchen kann. Eine Art Google für Überwachungskameras. Die Software, die im Kameranetzwerk installiert wird, bricht das Videomaterial in Metadaten und sendet es an einen gesicherten Server. Dort werden die Metadaten von einem Deep-learning-Algorithmus analysiert und in suchbare Informationsstücke verwandelt. In einem Suchfenster kann man einfach einen Begriff eingeben – zum Beispiel «roter Lastwagen» –, dann durchkämmt die Software das Videomaterial und identifiziert per Objekterkennung den gesuchten Gegenstand. Für den Anwender heisst das: Man muss nicht mehr stundenlang Videomaterial sichten, um herauszufinden, wann der Tankstellenbetrüger mit dem Auto davonfuhr. Bei der Fahndung nach einem Bankräuber könnte man einfach die Täterbeschreibung in die Suchmaschine eingeben: männlich, 1,70 bis 1,80 Meter gross, dunkle Augen, südeuropäisches Aussehen.

Klar, dass so ein Werkzeug bei Kriminalisten auf offene Ohren stösst. Videoanalyse wird in den USA nach Fingerabdrücken und DNA als «dritte Forensik» («the third forensic») bezeichnet. Man müsste nur auf einen Knopf drücken, um nach vermissten Personen oder gesuchten Verbrechern zu suchen. Mittels geobasierter Livestream-Daten könnte man den Missetätern schnell auf die Schliche kommen. Allein, das ist eine relativ naive und gefährliche kriminalistische Vorstellung. Abgesehen von methodischen Mängeln und zugrundeliegenden Stereotypen – auch Frauen können über 180 Zentimeter gross sein und «männliche» Kleidung tragen – stellen sich bei solchen Instrumenten auch immer Fragen nach dem Datenschutz. Jeder Bürger, dessen Bewegungen im öffentlichen Raum von einer Überwachungskamera aufgezeichnet wird, würde durch eine visuelle Suche nach unbestimmten Merkmalen wie «rote Jacke» oder «braune Augen» zum Gegenstand einer permanenten Rasterfahndung.

Mit einer Suchmaschine für Überwachungskameras verhält es sich ähnlich: Jede Person würde zum suchbaren Objekt, jeder Merkmalsträger anlasslos gescreent, der Zweck von Speicherfristen konterkariert.

In Deutschland hob das Bundesverfassungsgericht in einer Entscheidung zur Rasterfahndung 2006 hervor, dass der damals gerügte Passus des Polizeigesetzes Nordrhein-Westfalen «verdachtslose Grundrechtseingriffe mit grosser Streubreite» vorsehe: «Es können alle Personen einbezogen werden, welche die Auswahlkriterien erfüllen, ohne dass es Anforderungen an die Nähe dieser Personen zur Gefahr oder zu verdächtigen Personen gibt.» Mit einer Suchmaschine für Überwachungskameras verhält es sich ähnlich: Jede Person würde zum suchbaren Objekt, jeder Merkmalsträger anlasslos gescreent, der Zweck von Speicherfristen konterkariert. Selbst wenn die gesuchte Person herausgefiltert würde, würden durch die undifferenzierte Auswertung des Videomaterials auch biometrische Merkmale Unbeteiligter zumindest für eine logische Sekunde erfasst, was unverhältnismässig ist.

Allein, Verhältnismässigkeit ist ein Rechtsgrundsatz, der in autoritären Regimen wenig Beachtung findet. Die chinesische Polizei setzt in Peking und Shanghai neuerdings ein System ein, das Menschen allein anhand ihrer Statur und ihres Ganges erkennt. Man kann nur hoffen, dass die Computervision nicht allzu scharf gestellt wird. Vielleicht hat die Datenexplosion aber auch ein eingebautes Datenschutzprogramm: In den kommenden Jahren werden so viel Daten erzeugt, dass sensible Information in Datenwolken verborgen bleiben. Privacy by Fehldesign sozusagen. Mehr Bilder schaffen nicht unbedingt mehr Klarsicht.

The post Wer soll sich das alles ansehen? first appeared on MEDIENWOCHE.

Ob auf dem Parkplatz oder unter Strassenlaterne hinterlassen wir einen riesigen Datenschweif, aus dem man detaillierte Bewegungsprofile und Gewohnheitsmuster ableiten kann. Die Frage ist, ob man sich überhaupt noch anonym im öffentlichen Raum bewegen kann, ohne ständig sein Gesicht als Nummernschild mit sich herumzutragen. Kann man der omnipräsenten Überwachung entkommen? Gibt es ein Opting-Out? Während Datenschützer und Bürgerrechtler die Präzision und Sehschärfe von Kamerasystemen begrenzen wollen, will die Obsfucation-Bewegung die Technik mit ihren eigenen Waffen schlagen.

Der Künstler Adam Harvey hat eine Gesichtsmaske namens Hyperface entwickelt, das durch multiple Bildrepräsentationen Gesichtserkennungssoftware austricksen soll. Das System funktioniert vereinfacht so: Per Computer werden algorithmische Repräsentationen eines Gesichts generiert, die sich zu einem Muster zusammenfügen. Diese Hyperface-Struktur, die ein wenig aussieht, als würde man eine Menschenmasse mit zusammengekniffenen Augen in Schwarz-Weiss ansehen, irritiert die Algorithmen dergestalt, dass sie in der Vielzahl von Gesichtern keine biometrischen Merkmale einer bestimmten Person zuordnen können. Es ist, als würde man tausende Datenpakete in einen Trichter stopfen, bis die Maschine ins Stottern kommt. Andere Camouflage-Techniken operieren mit Kopfbedeckung oder asymmetrischer Gesichtsbemalung, welche die maschinellen Systeme in die Irre führen sollen. Das ist subtiler und subversiver als eine Sonnenbrille oder eine Maske, die einen Verdacht erzeugt. So kann man sein Gesicht wahren, ohne sich gleich vor der Überwachungstechnologie nackt bzw. ehrlich machen zu müssen. Es ist bekannt, dass Gesichtserkennungssysteme noch immer Probleme bei biologischen Alterungsprozessen oder Veränderungen der Frisur haben.

Die Idee der Obfuskation (vom Englischen «obfuscate» für «vernebeln», «unklar machen», «verwirren») ist es, dass man sich zwar nicht unsichtbar machen, aber zumindest in Datenwolken umhüllt verbergen kann. Die Webseite «Internet Noise» generiert etwa durch das Aufrufen randomisierter Seiten eine Fake-Browsing-History, welche das Suchinteresse des Nutzers vernebelt und so die Informationen für Webseitentracker entwertet.

Ein anderer Ansatz ist es, Informationen für eine logische Sekunde unkenntlich zu machen. In den USA werden seit geraumer Zeit sogenannte Kamera-Jammer für Autos verkauft, spezielle Geräte, die unter dem Nummernschild befestigt werden und beim Rotlicht der automatischen Kennzeichenerfassung einen Blitz auslösen, sodass das Kennzeichen für den Bruchteil einer Sekunde unlesbar wird. Man muss sein Kennzeichen nicht abschrauben, um unerkannt auf öffentlichen Strassen unterwegs zu sein, was ohnehin nicht zulässig wäre. Gleichwohl: Die technischen Vorrichtungen sind illegal – die Polizei geht mittlerweile scharf dagegen vor.

Das israelische Start-up D-ID etwa derweil eine Software entwickelt, die Gesichter auf Fotos von unautorisierten, automatisierten Gesichtserkennungssystemen schützen soll. Das Programm modifiziert die biometrischen Punkte im Gesicht dergestalt, dass sie zwar für das menschliche Auge noch erkennbar sind, für Gesichtserkennungsalgorithmen jedoch nicht mehr. «Eine Firewall für Ihre Identität», wirbt D-ID auf seiner Webseite.

Das Problem ist, dass die Computerisierung von Städten der Privatsphäre zuwiderläuft. Denn damit die intelligenten Systeme funktionieren – etwa Beleuchtungssysteme, die sich nur zu bestimmten Uhrzeiten aktivieren –, müssen sie jede Menge Daten über die Bürger sammeln. Wer bewegt sich wann wohin? Wie viele Menschen laufen nachts an der Kreuzung XY über die Strasse? Wie häufig wird das Rotlichtviertel frequentiert? Die Erhebung der Daten mag anonymisiert und auf einer quantitativen Ebene erfolgen. Doch letztlich führt die Stadt mit solchen Analytics-Systemen – zum Beispiel Videoüberwachung an Bahnhöfen oder automatische Kennzeichenkontrolle im City-Ring – eine permanente und zum Teil verdeckte Volkszählung durch, was zumindest hierzulande Fragen nach dem Datenschutz aufwirft.

Der Stanford-Jurist Albert Gidari argumentiert, dass smarte Städte zu smart für die Privatsphäre seien, weil sie so viele Dinge über den Ablauf des städtischen Geschehens wissen, dass sie nicht einfach die Augen vor den Gewohnheiten der Bewohner verschliessen könnten. Er wünsche sich keine dumme Stadt, so Gidari, aber zumindest eine, die datenschutzrechtlichen Erwägungen Rechnung trägt, bevor sie überall Sensoren und Kameras installiert.

Man wird angesichts der Omnipräsenz der Überwachungstechnologie im öffentlichen Raum – allein in China sollen bis 2020 620 Millionen Kameras im öffentlichen Raum in Betrieb sein – aber nicht umhin können, dass sein Gesicht in irgendwelchen biometrischen Datenbanken landet und dort von Algorithmen ausgewertet wird. Auch das Setzen falscher Fährten ist auf Dauer müssig, weil die maschinell lernenden Systeme immer besser werden und bei der Personenidentifizierung mit dreidimensionaler Gesichtserkennung operieren. Das Leben in der Stadt darf nicht zum Maskenball oder zur digitalen Schnitzeljagd verkommen. Die von Datenschützern gehegte Hoffnung, dass die algorithmischen Systeme in den Datenmengen ertrinken werden und kaum noch belastbare Ergebnisse produzieren können, wird sich wohl als Trugschluss erweisen. Die smarten Städte der Zukunft werden sich in ein elektronisches Panoptikum verwandeln, wo das System genau weiss, wer was zu welcher Zeit tut.

Dieser Text erschien zuerst als Kolumne auf Spektrum.de

The post Digitales Versteckspiel in der smarten Stadt first appeared on MEDIENWOCHE.

The post In fünf Jahren ist Ihr Gesicht Ihr Personalausweis first appeared on MEDIENWOCHE.