Wie bedrohlich sind Deepfakes wirklich?

Die Cyberkriminalität eignet sich schnell neue Technologien an. Ein besonders besorgniserregender Trend ist die Zunahme von Deepfakes – gefälschte Bilder, Audio- oder Videodateien, die mithilfe künstlicher Intelligenz erstellt werden und dadurch – zumindest für das bloße Auge – absolut real erscheinen. Diese Problematik wird in letzter Zeit umso beunruhigender, da die Tools zur Generierung künstlicher Intelligenz immer weiter verbreitet und für die Allgemeinheit zugänglich werden. Zugleich werden die KI-Technologien mit jeder neuen Version immer (atemberaubender) raffinierter und ermöglichen inzwischen die Erstellung unmöglich realistisch aussehender Bilder und äußerst überzeugender Audios.

Deepfakes werden für verschiedene Zwecke eingesetzt, darunter Rache, Finanzbetrug, politische Manipulation und Schikane. In der heutigen hypervernetzten Welt ist es für Betrüger ein Kinderspiel, Bilder und sogar Videos von potenziellen Opfern zu sammeln – insbesondere, wenn es sich um Personen des öffentlichen Lebens handelt. Cyberkriminelle neigen jedoch dazu, sich auf bestimmte Fachgebiete zu spezialisieren. Das Erstellen hochwertiger Deepfakes erfordert technisches Know-how und fortschrittliche Software, weshalb verschiedene Underground-Experten und -Dienste aus dem Boden gestampft wurden. Wer heute gefälschte Videos und Bilder erstellen will, wendet sich an Spezialisten, die, wie Sie sich denken können, im Darkweb zu finden sind.

Wir wollen diesen Schwarzmarkt mit Hilfe der Methode der digitalen Ethnografie untersuchen, d. h. wir tauchen direkt in den Online-Lebensraum der Cyberkriminellen ein – will heißen, in Darknet-Foren. Das wichtigste Tool, das wir bei der Darkweb-Analyse einsetzen, ist unser Service Kaspersky Digital Footprint Intelligence, der OSINT-Techniken mit automatisierten und manuellen Analysen des Surface Web, Deep Web und Dark Web kombiniert und das Know-how unserer Experten nutzt, um Erkenntnisse über die Techniken und Absichten von Cyberkriminellen zu gewinnen. Wir haben Untergrundforen nach Informationen über die Erstellung von Deepfakes durchsucht. Um die aktuelle Situation dieser Gefahr zu verstehen, haben wir uns auf Deepfake-Angebote konzentriert, die in diesem Jahr aufgetaucht sind, und manuell einige der interessantesten Beispiele von Deepfake-Diensten gesammelt.

Der Deepfake-Markt im Darknet: Angebot & Nachfrage

Unsere Recherchen haben ergeben, dass die Nachfrage nach Deepfakes erheblich ist – und das Angebot bei weitem übersteigt. Es werden dringend Personen gesucht, die bereit sind, gefakte Videos zu erstellen. Und das ist ziemlich beunruhigend, denn wie wir alle wissen, regelt die Nachfrage das Angebot; wir prognostizieren daher, dass es in naher Zukunft tatsächlich zu einem erheblichen Anstieg der Vorfälle mit hochwertigen Deepfakes kommen wird.

Und dem Inhalt der Forenbeiträge im Darkweb nach zu urteilen, sind Cyberkriminelle auf hochwertige Ergebnisse aus. Trotz der Verfügbarkeit von Tools zur Erstellung von Deepfakes suchen die Betrüger nur nach Machern, die hochwertige Videos mit perfektem Ton und ohne zeitliche Verzögerung zwischen Video und Audio produzieren können.

Anzeige im Darkweb: Aktive Suche nach Erstellern für Deepfakes. Quelle: Digital footprint intelligence

Ein großer Teil der Deepfake-Suchanzeigen steht im Zusammenhang mit diesem oder jenem Krypto-Betrug. In der Regel sind diese mit Kryptowährungs-Giveaways verknüpft, doch in einigen Fällen haben wir auch etwas kuriosere Anzeigen gesehen. So stießen wir beispielsweise auf ein Posting, in dem nach einem Profi gesucht wurde, der ein hochwertiges Deepfake-Video erstellen kann, mit dem das Verifizierungssystem von Binance umgangen werden kann. Cyberkriminelle versuchen also, Deepfakes zu verwenden, um biometrische Sicherheitssysteme zu umgehen und auf die Konten der Opfer zuzugreifen, um Geld direkt zu stehlen.

Die Kosten für die Erstellung oder den Kauf fertiger Deepfakes hängen von der Komplexität eines bestimmten Projekts und der Qualität des Endprodukts ab. Auch der Bekanntheitsgrad des nachgeahmten Objekts kann sich auf den Preis auswirken (in der Regel Prominente oder politische Persönlichkeiten). Die Minutenpreise für Deepfake-Videos können zwischen 300 und 20.000 US-Dollar liegen. Ist der Käufer bereit zu zahlen, können Hersteller von Deepfakes Videos anbieten, die unglaublich realistisch sind und authentische Emotionen vermitteln, wodurch sie von echtem Filmmaterial nicht mehr zu unterscheiden sind. Nachfolgend die bereits angekündigten Beispiele.

Imitation von Vitalik Buterin

Wir haben einen Anbieter entdeckt, der einen Premium-Service für die Erstellung einer hochwertigen Deepfake-Darstellung des Ethereum-Mitbegründers Vitaly Buterin anbietet, inklusive vollständig synthetisierter Stimme und Video. Es wurde deutlich gemacht, dass es sich bei der Produktion nicht einfach nur um die Synchronisierung bestehender Videos handelt, sondern um einen vollständigen Produktions-Service, wobei der Anbieter betonte, dass „Vitalik für jede Ihrer Fantasien bereitsteht“. Die geschätzte Produktionszeit bei diesem Dienst betrug weniger als zwei Wochen, wobei das Endprodukt ein englischsprachiges Video sein sollte, das 20.000 US-Dollar pro Minute kosten würde.

Darkweb-Angebot: Ein Deepfake von Vitaly Buterin.Quelle: Digital footprint intelligence

Gefälschte Live-Streams

Ein anderer Anbieter brüstet sich damit, die hochwertigsten Deepfakes für Krypto-Betrugsmaschen erstellen zu können. Der Service umfasst die Entwicklung von „Krypto-Streams“ oder gefälschten Krypto-Giveaways, eine beliebte Betrugsmethode, bei der Betrüger mit gefälschten Werbeaktionen Kryptowährung eintreiben, indem sie eine Verdopplung jeder an sie gesendeten Kryptowährungszahlung versprechen. Um solche Deepfakes zu erstellen, setzen Betrüger in der Regel Filmmaterial von Prominenten ein, mit dem sie gefälschte Live-Streams auf Social-Media-Plattformen starten. Der Dienstleister zeigt sogar eine vorab erstellte Seite, auf der die Opfer aufgefordert werden, zwischen 2500 und einer Million XRP zu überweisen, mit dem Versprechen, ihre Zahlung zu verdoppeln. Als Ergebnis kann ein Opfer zwischen 1000 und 460.000 US-Dollar verlieren.

Darkweb-Angebot: Deepfake-Videos für Krypto-Streams.Quelle: Digital footprint intelligence

Gefälschte Pornos

Ein weiterer Bereich der Deepfake-Produktion ist die Erstellung von Fake-Pornos. Normalerweise handelt es sich bei den gefälschten Pornos um reguläre Pornovideos mit ausgetauschten Gesichtern, die aus verschiedenen Gründen erstellt werden: Manchmal dienen sie nur der Unterhaltung, können aber auch für weitaus unangenehmere Zwecke wie Online-Schikanen, Cybermobbing oder Erpressung verwendet werden.

Einige Deepfake-Autoren erstellen außerdem Tutorials über die Herstellung dieser gefälschten Pornovideos, mit Ratschlägen zur Auswahl des Quellmaterials und zum Tausch der Gesichter, um einen überzeugenden Fake zu erstellen.

Darkweb-Post mit einem Tutorial zur Erstellung von Deepfake-Pornos.Quelle: Digital footprint intelligence

Mögliche Folgen

Die Nutzung von Deepfakes zu kriminellen Zwecken kann unser Leben in vielerlei Hinsicht beeinträchtigen. Sie stellt eine ernsthafte Bedrohung für Privatpersonen, Organisationen und die gesamte Gesellschaft dar. Darüber hinaus führt die Tatsache, dass es sich bei jeder Internetmeldung oder jedem Nachrichtenartikel um ein Deepfake handeln könnte, zu Misstrauen gegenüber öffentlich zugänglichen Informationen und damit zu Paranoia und Unsicherheit. Einige der möglichen Folgen der Verwendung von Deepfakes sind:

Desinformation

Mit Deepfakes lassen sich massenhaft Falschinformationen verbreiten und die öffentliche Meinung manipulieren. Sie können für die Erstellung von Fake-News, politischer Propaganda oder irreführender Werbung verwendet werden. Dies kann ernsthafte Konsequenzen auf das öffentliche Vertrauen haben.

Beispiele: Einer der harmlosesten Fälle der Deepfake-Nutzung war die Geschichte der superrealistischen Fotoreportage über das große Cascadia-Erdbeben, die im Internet kursierte, wobei dieses Ereignis in Wirklichkeit nie stattgefunden hat. Doch es gab einen weitaus gefährlicheren Fall – kurioserweise nicht die Nutzung von Deepfakes selbst, sondern die bloße Vermutung bezüglich der Nutzung eines Deepfakes – im Jahr 2018 in Gabun. Zu dieser Zeit kursierte das Gerücht, der gabunische Präsident Ali Bongo sei schwer erkrankt. Als Reaktion darauf veröffentlichte die gabunische Regierung ein Video, bei dem es sich angeblich um einen Deepfake handelte – was die Spannungen zusätzlich verstärkte und den Verdacht erhärtete, die Regierung habe etwas zu verbergen. Eine Woche später wurde dieser Verdacht als einer der Gründe für einen Putschversuch angeführt.

Cyber-Betrug

Deepfakes werden für jegliche Art von Cyberbetrug verwendet – von den oben erwähnten Giveaway-Kryptoscams bis hin zu zielgerichteten Angriffen auf Unternehmen.

Beispiele: Im vergangenen Jahr ging ein per KI erstelltes Video von Elon Musk, das hohe Renditen aus einem dubiosen Kryptowährungs-Investmentprogramm versprach, viral und führte dazu, dass Nutzer ihr gesamtes Geld verloren. 2019 erstellten Betrüger einen überzeugenden Audio-Deefake von der Stimme des CEO eines großen britischen Energieunternehmens und brachten einen leitenden Angestellten des Unternehmens auf diese Weise dazu, 220.000 Euro (243.000 US-Dollar) an einen ungarischen Lieferanten zu überweisen. Der leitende Angestellte glaubte, dass er die Anweisungen des CEO befolgte, obwohl die Aufnahme in Wirklichkeit gefälscht war.

Rufschädigung und Datenschutzverletzungen

Deepfakes können dazu verwendet werden, dem Ruf von Personen oder Organisationen zu schaden. Beispielsweise kann ein Deepfake-Video erstellt werden, um eine Person bei illegalen oder unmoralischen Aktivitäten darzustellen. Das kann zu Rufschädigung und/oder persönlicher Beeinträchtigung führen.

Beispiel: Im Internet tauchten Deepfake-Videos der Schauspielerin Scarlett Johansson auf, in denen ihr Gesicht in eindeutigen Szenen über die Körper von Pornodarstellerinnen gelegt wurde. In Wirklichkeit handelte es sich um ein Deepfake-Video, das mit privaten Fotos erstellt worden war, die bereits 2011 durchgesickert waren. Ihr Repräsentant bezeichnete dies als „grobe Verletzung“ ihrer Rechte und sagte, sie prüfe rechtliche Möglichkeiten, um die Aufnahmen entfernen zu lassen. Auch der oben erwähnte Vorfall mit dem Geschäftsführer des Energieunternehmens führte aufgrund der Tatsache, dass der Angestellte dazu gebracht wurde, die Gelder zu überweisen, zu einem erheblichen Reputationsverlust. Als sich die Nachricht über den Betrug verbreitete, äußerten die Kunden des Unternehmens Bedenken hinsichtlich der Fähigkeit des Unternehmens, die Sicherheit ihrer Daten und Finanzinformationen zu gewährleisten.

Identitätsdiebstahl

Wir haben bereits eine Darkweb-Anzeige erwähnt, in der nach Möglichkeiten zur Umgehung der biometrischen Authentifizierung gesucht wird. Natürlich verfügt nicht jeder Dienst über ein System zur Gesichtserkennung, aber Deepfake kann auch bei regulären Kundenbetreuungsdiensten helfen. So könnte es funktionieren: Der Cyberkriminelle beschafft sich zunächst die persönlichen Daten des Kontobesitzers: Name, Adresse, Telefonnummer usw. Anschließend kontaktiert er den Zahlungsdienstleister und behauptet, der Eigentümer des Kontos zu sein, der den Zugang zu seinem Konto verloren hat oder auf technische Schwierigkeiten stößt. Zur Identitätsprüfung kann der Zahlungsdienstleister eine Video- oder Audioaufnahme des Kontoinhabers bei einer bestimmten Aktion anfordern. Mithilfe der gesammelten Daten können Betrüger ein Deepfake-Video oder -Audio erstellen, das den echten Kontoinhaber bei der Ausführung der angeforderten Aktion imitiert. Auf diese Weise kann der Zahlungsdienstleister dazu gebracht werden, ihnen Zugang zum Konto und den damit verbundenen Geldmitteln zu gewähren.

So schützen Sie sich

Der offensichtlichste, wenn auch deprimierendste Ratschlag lautet schlicht und einfach: „Traue niemals Augen und Ohren“. Doch es gibt Hoffnung. Die gleichen KI-Technologien, die bei der Erstellung von Deepfakes helfen, können auch eingesetzt werden, um echte Videos, Bilder und Audios von Fälschungen zu unterscheiden. Und solche Tools tauchen langsam aber sicher ebenfalls auf dem Markt auf. Hoffen wir, dass in naher Zukunft Medien, Messenger und vielleicht sogar Browser mit solchen Technologien ausgestattet sein werden.

Für Unternehmen haben wir noch einige praktische Ratschläge: Sie können bestimmte Deepfake-Angriffe auf Ihre Mitarbeiter und/oder Kunden bis zu einem gewissen Grad vorhersehen, indem Sie mit Hilfe unserem Service Kaspersky Digital Footprint Intelligence herausfinden, wie sich cyberkriminelle Aktivitäten im Darkweb auf Sie auswirken könnten. Unter anderem kann dieser Dienst nahezu in Echtzeit Informationen über globale Sicherheitsereignisse liefern, die speziell Ihre Vermögenswerte bedrohen, und sensible Daten in geheimen Untergrund-Communities und Foren aufspüren. Mehr Informationen über diesen Dienst finden Sie hier.