KI-Deepfake-Betrug: Wenn Stimme und Bild gefälscht werden

Was sind Deepfakes und wie werden sie für Betrug genutzt?

Deepfakes sind durch Künstliche Intelligenz erzeugte oder manipulierte Audio- und Videoinhalte, die täuschend echt wirken. Kriminelle nutzen diese Technologie, um die Stimmen oder das Aussehen realer Personen nachzuahmen. Bereits wenige Sekunden einer Sprachaufnahme reichen modernen KI-Systemen aus, um eine Stimme überzeugend zu klonen.

Im Bereich Betrug werden Deepfakes vor allem für den sogenannten CEO-Fraud eingesetzt. Dabei rufen Kriminelle mit der gefälschten Stimme eines Geschäftsführers bei Mitarbeitern an und veranlassen dringende Überweisungen. In einem bekannten Fall wurde ein Unternehmen um 25 Millionen Dollar betrogen, nachdem ein Finanzmitarbeiter per Deepfake-Videokonferenz getäuscht wurde.

Auch Privatpersonen sind betroffen. Betrüger klonen die Stimmen von Familienmitgliedern und rufen dann mit fingierten Notfällen an. Der altbekannte Enkeltrick wird durch Deepfake-Technologie auf eine neue Stufe gehoben, da die Stimme des angeblichen Angehörigen nun täuschend echt klingt.

Verbreitete Deepfake-Betrugsszenarien

Neben CEO-Fraud und Schockanrufen werden Deepfakes für Identitätsdiebstahl genutzt. Betrüger erstellen gefälschte Video-Identifikationen, um Bankkonten zu eröffnen oder Kredite aufzunehmen. Die Qualität der Fälschungen überwindet zunehmend die Sicherheitsmaßnahmen von Video-Ident-Verfahren.

Gefälschte Promi-Videos werden eingesetzt, um für betrügerische Investmentplattformen oder Produkte zu werben. Die vermeintlichen Empfehlungen bekannter Persönlichkeiten wirken durch die Deepfake-Technologie deutlich überzeugender als einfache Fotomontagen. Diese Videos werden massenhaft in sozialen Medien verbreitet.

Deepfakes erkennen: Technische Hinweise

Bei Video-Deepfakes können unnatürliche Augenbewegungen, inkonsistente Beleuchtung und verschwommene Übergänge an Haaren oder Ohren auf eine Fälschung hindeuten. Achten Sie auf asynchrone Lippenbewegungen und unnatürliche Gesichtsbewegungen. Bei genauer Betrachtung fallen oft kleine Artefakte und Verzerrungen auf.

Audio-Deepfakes sind schwieriger zu erkennen, da sie oft hochqualitativ sind. Achten Sie auf ungewöhnliche Pausen, roboterhaften Klang oder Hintergrundgeräusche, die nicht zur angeblichen Situation passen. Stellen Sie eine persönliche Frage, die nur der echte Anrufer beantworten kann.

KI-basierte Erkennungstools können helfen, Deepfakes zu identifizieren. Einige Browser-Erweiterungen und Apps analysieren Videos und Audioaufnahmen auf KI-generierte Inhalte. Diese Tools sind jedoch nicht perfekt, da sich die Deepfake-Technologie ständig weiterentwickelt.

Schutzmaßnahmen gegen Deepfake-Betrug

Vereinbaren Sie ein geheimes Codewort mit engen Familienmitgliedern, das bei verdächtigen Anrufen abgefragt werden kann. Dieses Codewort sollte nicht digital kommuniziert werden, um ein Abfangen zu verhindern. Bei vermeintlichen Notfallanrufen von Angehörigen rufen Sie die betreffende Person unter der bekannten Nummer zurück.

In Unternehmen sollten für Finanztransaktionen stets mehrstufige Freigabeprozesse gelten, die nicht durch einen einzelnen Anruf oder eine E-Mail umgangen werden können. Schulen Sie Mitarbeiter im Erkennen von Deepfake-Betrug und etablieren Sie klare Verifizierungsprotokolle für ungewöhnliche Anfragen.

Rechtliche Lage und Ausblick

In Deutschland ist die Erstellung und Verbreitung von Deepfakes zu Betrugszwecken strafbar. Die EU-KI-Verordnung sieht zudem vor, dass KI-generierte Inhalte als solche gekennzeichnet werden müssen. Die Umsetzung und Durchsetzung dieser Regelungen steckt jedoch noch in den Anfängen.

Die Deepfake-Technologie wird sich weiter verbessern, wodurch die Erkennung zunehmend schwieriger wird. Es ist daher umso wichtiger, sich nicht allein auf technische Erkennungsmethoden zu verlassen. Organisatorische Schutzmaßnahmen wie Codewörter und Mehrfachfreigaben bleiben der zuverlässigste Schutz gegen Deepfake-Betrug.