Die dunkle Seite der Gesichtserkennungstechnologie

Lynchjustiz, Verlust der Grundprivatsphäre, ekelhaftes Marketing, Diebstahl digitaler Identität – wie sonst kann Gesichtserkennung missbraucht werden?

Sie können Ihren Namen ändern oder ein Pseudonym benutzen. Sie können auch Ihre Social-Media-Accounts bearbeiten oder löschen. Aber Sie können nicht so einfach Ihr Gesicht ändern. Gesichtserkennung hilft uns, Probleme zu lösen — und es schafft gleichzeitig viele neue Probleme. In diesem Post gehen wir auf die Bedrohungen ein, die die globale Verbreitung solcher Systeme mit sich bringt.

1. Das Recht auf Privatsphäre verlieren — in globalen Dimensionen

Das FBI verwendet offiziell das NGI-IIPS (Next Generation Identification-Interstate Photo System) — eine Datenbank, die Fotos von Personen enthält, die in Zivil- und Strafverfahren beschuldigt oder verurteilt wurden. Das ist in Ordnung, nicht wahr?

Ganz und gar nicht! Im Mai prüfte das Government Accountability Office der Vereinigten Staaten das FBI und fand heraus, dass sich unter den 412 Millionen Fotos seiner Datenbank auch Bilder von Personen befinden, die niemals Ziel irgendeiner Ermittlung gewesen sind. Das FBI hat selbst eine separate Abteilung, die sich mit Gesichtserkennung befasst: FACE (Facial Analysis, Comparison, and Evaluation Services).

Wie sich herausstellte, trafen FBI-Beauftragte Vereinbarungen mit mehreren Staaten und erhielten Fotos von Führerscheinen, Pässen und Visumanträgen, sowie Bilder von Verdächtigen und Verurteilten. Die Datenbank beinhaltet auch Fotos von Ausländern – möglicherweise über 100 Millionen von ihnen.

Während seiner Ermittlungen verwendet das FBI aktiv Gesichtserkennung. Wir haben bereits dazu berichtet, wie sich dieses Konzept auszahlt. Aber die Situation ist viel komplizierter. Gesichtserkennungstechnologie ist jung und imperfekt, und das System des FBI ist keine Ausnahme: Es hat rassistische Ausrichtungen und im besten Fall eine Genauigkeit von 80%-85%. Gleichzeitig verschleierte das FBI vorsätzlich die Verwendung der Gesichtserkennung, was gegen die Bestimmungen der Datenschutz-Folgeabschätzung (Privacy Impact Assessment) verstößt.

Auch erwähnenswert: Moskaus Stadtverwaltung und die russische Strafverfolgung versuchen bezüglich relevanter Technologie auf dem neusten Stand zu bleiben und rüsten sich für die Implementierung von FaceN-Technologie (Entwickler dieses Systems stellen auch den Quelltext für FindFace bereit — einen Dienst, mit dem Personen andere Personen anhand eines Fotos suchen können). Diese neuen Systeme werden mit hunderttausenden Überwachungskameras in Moskau verbunden werden.

Laut dem russischen Meduza „gibt es in keiner Stadt dieser Welt ein Gegenstück zu diesem System. Der Algorithmus kann Personen auf der Straße mit Kriminellen in der Datenbank vergleichen, aber das ist nicht alles. Es kann auch Individuen in jedem Bereich der Stadt entdecken und ihre Bilder mit ihren Social-Network-Accounts vergleichen, die für gewöhnlich viele persönliche Informationen enthalten“.

Wir sollten auch darauf hinweisen, dass Anfang des Jahres der russische Senat das russische Gericht dazu zwang, Fotos und Videos als legale Beweismittel zu betrachten. Davor lag die Entscheidung beim Ermessen des Gerichts.

2. Missbrauch durch Strafverfolgung

Gesichtserkennung begeht Fehler. Personen, die für diese Systeme beauftragt sind, missbrauchen sie – das ist eine bekannte Tatsache. Im August berichtete die New York Times z. B., dass die Polizei von San Diego Bilder von schuldigen und unschuldigen Personen ohne deren Einverständnis verwendete.

Aaron Harvey, ein 27-jähriger Afroamerikaner, der in San Diego lebt, behauptete, dass die Polizei ihn voreingenommen behandelte. Harvey lebt in einem der gewalttätigsten Bezirke der Stadt. Wahrscheinlich hielt ihn die Polizei deshalb mehr als 50-mal an und behauptete, dass er ein verdächtiges Bandenmitglied isei. Als er sich weigerte, von einem Polizisten fotografiert zu werden, prahlte der Beamte damit, dass dies so oder so möglich sei.

„Er sagte: ‚Wir können das auf legalem oder illegalem Weg machen‘, und zog mich aus dem Auto“ — so Harvey zum Vorfall gegenüber der New York Times.

Zuvor, im Jahr 2013, testeten Behörden in Boston ein System zur Gesichtserkennung. Es war mit Überwachungskameras verbunden, die heimlich Gesichter von Besuchern auf Konzerten und Outdoor-Events scannte. Am Ende des Testzeitraums wurde das Projekt aus ethischen Gründen beendet. Jedoch ist Bosten eine Sache, und eine globale Umsetzung eine ganz andere: Systeme zur Gesichtserkennung werden jetzt umfangreich von Regierungsbehörden benutzt.

3. Konzerne, die jeden ausspionieren

Organisationen besitzen Gesichtsdatenbanken, die viel größer als die Sammlung des FBI sind. Soziale Netzwerke übertrumpfen die Liste: Facebook, Instagram (das zu Facebook gehört), Google (mit Google+), VC.com und andere soziale Netzwerke. Die Mehrheit dieser Unternehmen hat ihre eigenen Lösungen zur Gesichtserkennung, die sie konstant entwickeln und verbessern.

Microsoft arbeitet jetzt an einer ähnlichen Technologie für die App FamilyNotes, durch die die Software mithilfe einer in den Laptop oder das Tablet integrierten Kamera zwischen verschiedenen Nutzern unterscheiden kann. Microsoft entwickelt eins der beliebtesten Betriebssysteme weltweit, und diese Anwendung wird im Wesentlichen die Gesichtsdatenbank des Unternehmens aufstocken.

Das Gesichtserkennungssystem von Facebook ist eins der genausten der Welt. Das Unternehmen veröffentlichte 2012 unbemerkt dieses Tool und führte es standardmäßig für die Mehrheit der Nutzer aus. Später wurde das Unternehmen mit dutzenden Klagen konfrontiert — die Anzahl steigt noch immer, und Google steht auch aufgrund vergleichbarer Anschuldigungen vor Gericht. Daher musste Facebook die Funktionen zur Gesichtserkennung in einigen Regionen deaktivieren.

Wir sollten auch berücksichtigen, dass Facebook bei diesem Problem eine einseitige Herangehensweise hat: Ihre Wissensbasis hat z. B. keine Artikel zur Deaktivierung der Gesichtserkennungsfunktion — die im Übrigen nicht mit einem Klick durchgeführt werden kann.

Selbst wenn Sie kein Nutzer von sozialen Netzwerken sind (oder Sie das Hochladen von echten Fotos in ihnen vermeiden), kann Ihr Gesicht dennoch in die Datenbank eines Social-Media-Unternehmens gelangen. Letztes Jahr verklagte ein Einwohner von Chicago den Fotobuchservice Shutterfly, da sein Foto ohne seine Zustimmung in eine Datenbank aufgenommen wurde. Dritte (wahrscheinlich ein Freund) hatten sein Foto auf Shutterfly hochgeladen und das Bild signiert.

4. Jeder kann Sie finden

Jedes Gesichtserkennungssystem, das jedem zur Verfügung steht, kann als wirkungsvolles Tool für Lynchjustiz oder Selbstjustiz benutzt werden. Dieses Jahr legten z. B. zwei junge Männer Feuer in einer Lobby in St. Petersburg. Danach stifteten die Pyromanen im Aufzug desselben Gebäudes Unruhe. Kameras im Aufzug und in der Nachbarschaft filmten das Duo bei ihrem Vergnügen.

Als die örtliche Polizei die Einleitung eines Strafprozesses ablehnte, nahmen die Mieter des Gebäudes die Sache selbst in die Hand. Sie fertigten Screenshots der Gesichter der Täter an und suchten Sie mithilfe von FindFace in sozialen Netzwerken.

Die Amateurdetektive legten der Polizei ihre Ergebnisse vor, und so wurden die jungen Männer angeklagt. In einem Bericht auf Ren TV (russischer Fernsehsender) sagte einer der Mieter, dass sie genug Daten und Beweise gesammelt hätten, um Nachrichten an Freunde der Hooligans und deren Arbeitsplätze und Schulen zu schicken.

Obwohl die Petersburger ausreichend Geduld hatten, um die Polizei um Hilfe zu bitten, sind nicht alle Internetnutzer so besonnen. Und wo ein Wille ist, da ist auch ein Weg – um Menschen zu tyrannisieren. Wenn Sie von FindFace gehört haben, dann kennen Sie den Fall vom schändlichsten Gebrauch: als Mitglieder des anonymen 2ch-Imageboards es verwendeten, um online Jagt auf eine Pornodarstellerin zu machen. Die Trolle fanden die Social-Media-Seite der Frau und sendeten schockierende Nachrichten mit entsprechenden Bildern an ihre Freunde und Verwandten.

Zur gleichen Zeit ist sich der Gründer von FindFace Maxim Perlin sicher, dass Personen heutzutage wortwörtlich zahlen müssen, um ihre Privatsphäre zu wahren. In einem Fernsehinterview sagte er, dass User, die ihre Daten von der FindFace-Datenbank löschen möchten, einen Premiumaccount bezahlen müssen. Ein Monat Privatsphäre im Dienst kostet ca. 7 €.

5. Es ist ein schmaler Grad zwischen Sicherheit und Katastrophe

Viele Experten sind sich sicher: Biometrie wird Passwörter ersetzen und die Welt noch sicherer machen. Also werden in Zukunft Personen damit einverstanden sein, dass ihre Iris, Fingerabdrücke und sogar Gesichtsabdrücke gescannt werden, um den Prozess der Eingabe komplizierter Symbolkombinationen zu ersetzen.

Microsoft entwickelt bereits eine Technologie, mit der Nutzer mit Selfies autorisiert werden. NEC erforscht den Gebrauch von Gesichtserkennung, um elektronische Zahlungen sicherer zu machen. MasterCard arbeitet an einem Selfie-Identifizierungssystem, mit dem User ohne Passwörter Geld verschicken können.

Wir berichteten bereits über die Nachteile von Fingerabdrücken, also konzentrieren wir uns jetzt auf die Schwächen der Gesichtserkennung. Diese werden durch den Fortschritt im 3D-Druck deutlich: Heutzutage können sehr realistische Kopien von Gesichtern angefertigt werden. Entwickler von neuen Identifizierungssystemen müssen dies bedenken, wenn sie wirklich sichere Lösungen erstellen möchten.

MasterCard und Google baten Nutzer zu blinzeln — eine einfache Aktion, die Betrüger davon abhält, das System mithilfe von gedruckten 3D-Gesichtern oder selbst Fotos zu überlisten. Leider versagte die Lösung von Google — Personen konnten die Sicherheitsmaßnahmen umgehen, indem Sie einfache animierte Bilder verwendeten. Das System von MasterCard wird noch immer entwickelt, daher weiß bis jetzt noch keiner, ob es auf die gleiche Art ausgetrickst werden kann.

3d-printed-face

„Mein Mitarbeiter druckte mein Gesicht in 3D“

6. Teilen Sie Ihr Gesicht nicht mit Hinz und Kunz

Sie haben vielleicht von Anaface gehört, einer Webseite, die Ihr Foto analysiert und ihr Attraktivitätsniveau berechnet. Es verwendet Symmetrie als Hauptkriterium – ein recht fragwürdiger Maßstab, meinen Sie nicht auch? Angelina Jolie erhielt nur eine 8,4 von 10 auf Anaface. Aber die Genauigkeit der Seite ist nicht das einzige Problem.

Zunächst gaben die Besitzer von Anaface zu, dass sie das Projekt ins Leben gerufen hatten, um Menschen zu Schönheitsoperationen zu ermuntern. Nun, wenigstens geben sie es zu.

Zudem sind die allgemeinen Geschäftsbedingungen der Webseite sehr schwierig zu lesen und sehr undurchsichtig. Sie werden in einem sehr kleinen Fenster angezeigt, also muss der Nutzer sehr viel scrollen, um die mehr als 7.000 kleingedruckten Wörter zu lesen. Daher wird es wahrscheinlich vielen Usern entgehen, dass sie der Seite eine „nicht-exklusive, übertragbare, unterlizensierte, frei verwendbare, weltweite Lizenz“ bereitstellen, um alle Fotos, die auf Anaface hochgeladen wurden, zu verwenden. Im Klartext: Der Dienst kann Fotos, die von Nutzern hochgeladen wurden, verkaufen, ohne die wahren Besitzer der Bilder bezahlen zu müssen.

Gleichzeitig müssen Nutzer zusichern, dass sie nur ihre eigenen Fotos hochladen: „Sie dürfen keinen Inhalt, der Videos, Audio-Fotos oder Bilder anderer Personen enthält, ohne ihre Genehmigung (oder im Fall eines Minderjährigen, die des Vormunds) veröffentlichen, hochladen, anzeigen oder anders bereitstellen“. Die Nutzungsbedingungen enthalten auch ungenaue Erläuterungen zu Datenschutz und der Möglichkeit, Fotos nach der Registrierung eines Nutzeraccounts zu entfernen – aber diese Option steht niemandem zur Verfügung; die Seite erlaubt das nicht.

Letztendlich sammelt jeder Fotos: Regierungen, Konzerne und Unternehmen, und selbst normale Menschen. Heutzutage kann jeder Gesichtserkennungssysteme verwenden und missbrauchen – und alles, was wir tun können, ist, uns vor ihnen zu verstecken.

Tipps
Abonnieren Sie uns und bleiben Sie auf dem neuesten Stand mit unseren Beiträgen
  • Für alle anderen Länder