android
Seit Februar werden immer wieder Beschwerden laut, dass die App „Android System SafetyCore“ völlig unerwartet auf Android-Smartphones aufgetaucht ist. Die App hat weder eine Benutzeroberfläche noch Einstellungen. Ein Blick auf Google Play verrät: Es ist eine Entwicklung von Google, die App wurde schon über eine Milliarde Mal installiert und die Bewertung liegt durchschnittlich bei bescheidenen 2,4 Sternen. Der Zweck der App wird nur vage beschrieben: „Sie stellt die zugrunde liegende Technologie für Funktionen wie die kommende Funktion ‚Warnungen vor sensiblen Inhalten‘ in Google Messages bereit.“ Die Bedeutung von „sensiblen Inhalte“ ist leicht zu erraten. Aber wie und warum will Google uns vor solchem Content warnen? Und wie will Google herausfinden, welche Inhalte tatsächlich sensibel sind?
Aber immer schon der Reihe nach: Weder Google noch unabhängige Experten machen sich bei dieser App Sorgen um den Datenschutz. SafetyCore wird lokal ausgeführt. Fotos oder zugehörige Informationen werden nicht an externe Server gesendet. Wenn der Nutzer in Google Messages ein Bild empfängt, wird es von einem maschinellen Lernmodell lokal auf dem Telefon analysiert. Erkannte anstößige Inhalte werden von der App verwischt. Der Nutzer kann die Unschärfe aber entfernen. Dazu tippt er auf das Bild und bestätigt, dass er den Inhalt wirklich sehen möchte. Ähnliches passiert beim Senden: Versucht der Nutzer, ein Bild mit zu viel nackter Haut zu versenden, prüft das Smartphone vorab, ob es wirklich gesendet werden soll. Google betont, dass die Ergebnisse solcher Scans nirgendwohin übertragen werden.
Die SafetyCore-App übernimmt zwar die Bildanalyse, funktioniert jedoch nicht völlig unabhängig. Andere Apps greifen auf SafetyCore zu, wenn Bilder empfangen oder gesendet werden. Was mit den Ergebnissen passiert, bleibt diesen Apps überlassen. Bisher ist die KI-Analyse nur in Google Messages nutzbar: Als „sensibel“ erkannte Bilder werden verpixelt. Google hat angekündigt, die SafetyCore-Funktionen künftig auch anderen Entwicklern zur Verfügung zu stellen. Dann könnten beispielsweise auch WhatsApp und Telegram Nacktfotos aufspüren. Andere Apps könnten dann so konfiguriert werden, dass sie kritische Inhalte blockieren oder sofort als Spam filtern.
Bei Google und Apple gab es bereits andere Versuche, Kinder vor ungeeigneten Inhalten zu schützen. Im Gegensatz zu diesen verzichtet SafetyCore bei der Analyse jedoch auf externe Server. Dies ist zwar ein Plus für den Datenschutz, belastet aber die Hardware. Nach Googles Plänen soll SafetyCore irgendwann auf allen geeigneten Smartphones installiert werden. Voraussetzung sind 2 GB RAM und Android 9+. Die Funktion wird für erwachsene Nutzer standardmäßig deaktiviert, für Minderjährige jedoch aktiviert. Wenn du solche Dienste eher kritisch siehst oder keine zusätzlichen Apps haben willst, kannst du SafetyCore einfach von deinem Telefon entfernen. Im Gegensatz zu vielen anderen Google-Diensten lässt sich diese App problemlos deinstallieren – entweder über Google Play oder über den Unterabschnitt „Apps“ in den Smartphone-Einstellungen. Es kann natürlich passieren, dass Google die App mit einem späteren Update erneut installiert.
SafetyCore ist das fortschrittlichste KI-gestützte Schutzsystem, das von Google entwickelt wird. Es gibt aber noch andere geräteinterne Dienste, die ohne Cloud-Nutzung funktionieren und keine Benutzerdaten weitergeben. Im Oktober 2024 kündigte Google neben SafetyCore auch Sprachmodelle an, die Nachrichten von unbekannten Absendern in Google Messages analysieren sollen. Wenn im Text typische Betrugsmerkmale erkannt werden, wird vorgeschlagen, die Konversation zu beenden.
Neben SafetyCore kann auch eine weitere App ganz ohne Vorwarnung auf Geräten auftauchen: Android System Key Verifier. Auch diese App hat keine Benutzeroberfläche, kann einfach deinstalliert werden und soll die Kommunikation sicherer machen. Allerdings basiert die Analyse nicht auf KI. Mit dieser App können zwei Nutzer ihre Schlüssel überprüfen, wenn Nachrichten mit Ende-zu-Ende-Verschlüsselung übertragen werden. WhatsApp und Signal haben hierfür eigene Methoden. Nutzer scannen entweder gegenseitig ihre QR-Codes (dazu müssen sie sich persönlich treffen) oder vergleichen lange Zahlenfolgen, die auf dem Bildschirm angezeigt werden. Google will diesen Vorgang für alle Messaging-Apps vereinfachen und dazu eine Standardschnittstelle in Android integrieren.
Das Hauptproblem, das Nutzer hier mit Google haben, und der Grund für die miesen Bewertungen liegen nicht darin, was diese Apps tun. Das Problem ist vielmehr, auf welche Weise die Apps installiert werden: ohne Vorwarnung, ohne Erklärungen und ohne den Nutzer zu fragen, ob er damit einverstanden ist. Aus heiterem Himmel erscheint auf ihren Smartphones plötzlich eine neue App. In vielen Google Play-Rezensionen zu der App wird befürchtet, dass es sich um einen Virus handelt. Teilweise wird versichert, dass die Leistung der Handys oder bestimmter Apps gesunken ist. Von größeren Problemen bei der Installation dieser Google-Apps ist nichts bekannt. Solltest du trotzdem Zweifel haben, kannst du die App manuell löschen und anschließend prüfen, ob dein Telefon dann tatsächlich besser funktioniert.
Tipps