Social Ratings: Vorsicht beim Posten in sozialen Netzwerken

Viele von uns können sich ein Leben ohne soziale Netzwerke mittlerweile nicht mehr vorstellen. Wir nutzen sie, um zu chatten, miteinander zu kommunizieren, unsere neuesten Kreationen zu teilen, die aktuellsten Nachrichten zu diskutieren und vieles mehr. Denken Sie jedoch daran, dass Personen Ihre Social-Media-Profile ebenfalls verwenden können, um beispielsweise Ihre Kreditfähigkeit zu prüfen oder um zu entscheiden, ob Sie für einen bestimmten Job geeignet sind.

Das Potenzial einer Person anhand ihrer früheren Handlungen, ihrem sozialen Umfeld und dergleichen zu messen bezeichnet man als Social Rating. Das Social Rating einer Person ähnelt in gewisser Weise dem Rating, das Banken beim Prozess der Kreditvergabe einsetzen, kann jedoch ein weitaus breiteres Spektrum an Informationen enthalten.

In vielen Ländern werden Social Ratings bereits in verschiedenen Bereichen eingesetzt. Beispielsweise dürfen Versicherer in New York die Prämien offiziell mithilfe der Analyse von Daten aus sozialen Netzwerken ermitteln.

Währenddessen entwickelt China ein Sozialkredit-System, das viele mit kritischen Augen betrachten. Allerdings hält nicht jeder solche Systeme für beängstigend; einige Leute denken, dass sie nützlich sein können und sind der Meinung, dass sie dazu beitragen, unser Leben sicherer zu machen.

Social Ratings: Das denken Nutzer darüber

Um herauszufinden, was Benutzer über Social Ratings denken, haben wir weltweit mehr als 10.000 Menschen befragt. Folgendes haben wir herausgefunden:

Nur etwas weniger als die Hälfte (46%) haben bereits davon gehört. In Asien ist dieses Phänomen deutlich weiter verbreitet und demnach besser bekannt. In China beispielsweise, wo derartige Ratings auf nationaler Ebene eingeführt werden, wissen 71% der Befragten was Social Ratings sind; in Österreich und Deutschland sind es vergleichsweise nur 13%. Darüber hinaus gab fast die Hälfte (45%) der Befragten zu, nicht genau zu verstehen, wie diese Ratings zustande kommen. Und nur jeder Fünfte (21%) ist ihnen jemals im wirklichen Leben begegnet (natürlich ist es auch möglich, dass einige Menschen einfach nicht wissen, dass Social Ratings eine Rolle bei der Aufnahme eines Kredits oder einer Hypothek spielen).

Erstaunlicherweise befürworten dennoch viele die zugrunde liegenden Idee Social Ratings: 70% sagen, es sei fair und richtig, den Zugang zu öffentlichen Ressourcen (Verkehr, Bildung, Wohnen usw.) basierend auf dem Verhalten der Menschen einzuschränken.

Vielen Menschen macht es nichts aus, überwacht zu werden, wenn es einen guten Grund dafür gibt. Um beispielsweise die allgemeine Sicherheit zu verbessern, ist fast die Hälfte bereit, der Regierung die Überwachung sozialer Netzwerke zu ermöglichen, und zwei von fünf Befragten würden ihre Daten sogar für exklusive Rabatte oder andere Vorteile an Unternehmen weitergeben. Nur etwa 20% der Befragten äußerten sich besorgt darüber, dass private und öffentliche Organisationen sich für ihre persönlichen Daten interessieren.

Social Ratings: Die Technologie

Viele der von uns befragten Personen unterstützen die Idee Social Ratings, wahrscheinlich in der Überzeugung, dass sie insgesamt eine faire und unvoreingenommene Einschätzung und Bewertung liefern werden. Leider ist das mit der aktuellen Technologie eher unwahrscheinlich.

Zum einen ist es schwierig, Fehler nachzuverfolgen. Gegenwärtige Systeme basieren auf neuronalen Netzen, deren Funktionsprinzipien selbst für die Entwickler undurchsichtig sind, geschweige denn für die Betreiber oder die breite Öffentlichkeit. Wenn das Rating einer Person abgestuft oder gesteigert wird, gibt das neuronale Netzwerk seine Informationsgrundlage für diese Entscheidung nicht bekannt. Wenn der Computer also angibt, dass Sie sich nicht für einen Kredit qualifiziert haben, dann erhalten Sie auch keinen – auch dann nicht, wenn Sie eigentlich eine anständige Person mit gutem Einkommen sind.

In der Sprache der Medizin und der Computersicherheit wird so etwas meist als „falsch positiv“ bezeichnet. Gleiches gilt beispielsweise auch für eine Sicherheitslösung, die eine saubere Datei als infiziert kennzeichnet oder für einen medizinischen Test, bei dem ein positives Testergebnis nachgewiesen wird, obwohl die untersuchte Person in Wirklichkeit nicht an der zu überprüfenden Erkrankung leidet.

Bei Antivirenprogrammen kann die False-Positiv-Rate von Produkt zu Produkt sehr unterschiedlich sein. Einige Produkte liefern weitaus häufiger falsche Urteile als der Durchschnitt, andere weitaus seltener (bei unseren Sicherheitslösungen ist die False-Positiv-Rate nur minimal). Der springende Punkt hier ist, dass es unmöglich ist, Fehler vollständig zu beseitigen. Doch bei Ratings, die sich auf die Menschenrechte und sogar auf das Leben der Menschen auswirken, kann der Preis für einen solchen Fehler sehr hoch sein.

Neben Fehlern, die durch ungenaue Algorithmen oder unvollständige Daten verursacht werden, können Systeme auch absichtlich gehackt werden. In Bezug auf landesweite Social Ratings haben unsere Experten drei Arten potenzieller Angriffe identifiziert.

1. Angriffe auf Geräte, die Daten sammeln

Um das Rating einer Person genau bestimmen zu können, benötigt das System viele Informationen über sie. Diese Daten stammen nicht nur aus sozialen Netzwerken, sondern auch von verschiedenen anwendungsbasierten Kameras und Sensoren – dem sogenannten Internet der Dinge. Oftmals sind diese Geräte anfällig und werden wiederholt angegriffen. Allein im ersten Halbjahr 2019 konnten wir 105 Millionen Versuche, IoT-Geräte zu hacken, aufdecken.

2. Angriffe auf Software-Implementierungen

Um ein Social Ratings zu erstellen, reicht es nicht aus, dass das System Informationen über Sie sammelt; es muss diese auch verarbeiten und interpretieren. Der Mechanismus, der dies handhabt, kann möglicherweise für Malware-Infektionsversuche oder andere Angriffe anfällig sein.

Zum Beispiel könnte ein Angreifer eine farbige Brille tragen. Ein Mensch würde die Person leicht erkennen, aber eine smarte Kamera könnte sie leicht verwechseln – auf diese Weise könnte alles, was die Kriminellen vor der Kamera getan haben, jemand anderem zugeschrieben werden.

3. Angriffe auf die Systemlogik

Zudem kann ein Angreifer Aktionen identifizieren, die bei mehrmaliger Wiederholung die Bewertung bis zur Unkenntlichkeit ändern – positiv oder negativ. Durch den Exploit von Sicherheitslücken in der Systemlogik kann beispielsweise das eigene Rating positiv beeinflusst oder umgekehrt das Rating eines potenziellen Opfers negativ beeinträchtigt werden.

Bereit für Social Ratings

Zusammenfassend lässt sich sagen, dass Social Ratings möglicherweise nicht so fair und unvoreingenommen sind, wie wir es gerne hätten oder sogar annehmen. Trotzdem werden solche Systeme bereits in bestimmten Bereichen eingesetzt und werden wahrscheinlich im Laufe der Zeit einen weiteren Aufschwung erfahren. Obwohl es keine Möglichkeit gibt, sich vollständig vor ihren Fehlern zu schützen, kann wenigstens versucht werden, das Risiko zu minimieren.

• Denken Sie zweimal (oder dreimal) darüber nach, bevor Sie zweideutige Fotos oder andere kompromittierende Informationen auf sozialen Netzwerken hochladen. Manche Dinge sollten besser privat bleiben.
• Schützen Sie Ihre Konten vor Hackern! Erstellen Sie starke und einzigartige Passwörter, aktivieren Sie die 2FA und geben Sie keine Anmeldeinformationen auf verdächtigen Seiten ein.
• Schützen Sie Ihre Privatsphäre. So kann Ihnen kein Kredit verweigert werden, weil Sie sich gerade auf Jobsuche befinden. Mehr dazu erfahren Sie in diesem