Deepfakes erkennen: Wenn KI Fälschungen erstellt

Was sind Deepfakes und wie werden sie erstellt?

Deepfakes sind durch Künstliche Intelligenz erzeugte oder manipulierte Medieninhalte, die reale Personen zeigen, die Dinge sagen oder tun, die nie stattgefunden haben. Die Technologie basiert auf neuronalen Netzwerken, insbesondere sogenannten Generative Adversarial Networks, die aus vorhandenen Bild- und Audiodaten lernen.

Die Erstellung von Deepfakes wird durch frei verfügbare Software immer einfacher. Während professionelle Deepfakes vor wenigen Jahren noch teure Hardware und Expertenwissen erforderten, können heute mit wenigen Klicks überzeugende Fälschungen erstellt werden. Die Qualität verbessert sich mit jedem Technologiesprung.

Neben Video-Deepfakes existieren auch Audio-Deepfakes, die Stimmen überzeugend klonen können, und Text-Deepfakes, die den Schreibstil realer Personen imitieren. KI-generierte Bilder von nicht existierenden Personen werden bereits massenhaft für gefälschte Social-Media-Profile eingesetzt.

Gefahren durch Deepfakes

Politische Deepfakes können Wahlen beeinflussen und das Vertrauen in demokratische Prozesse untergraben. Gefälschte Videos von Politikern, die kontroverse Aussagen machen, verbreiten sich in sozialen Medien schnell und können kaum rechtzeitig als Fälschung entlarvt werden.

Im persönlichen Bereich werden Deepfakes für Rufschädigung, Erpressung und nicht einvernehmliche intime Darstellungen missbraucht. Frauen sind davon überproportional betroffen. Auch im geschäftlichen Umfeld werden Deepfakes für CEO-Fraud und andere Betrugsformen eingesetzt.

Visuelle Hinweise auf Deepfakes

Achten Sie auf unnatürliche Augenbewegungen oder ein starres Blinzelmuster. Frühe Deepfake-Modelle hatten Schwierigkeiten, natürliches Blinzeln zu erzeugen. Obwohl neuere Modelle dieses Problem teilweise gelöst haben, wirken die Augenbewegungen bei genauer Betrachtung oft noch unnatürlich.

Inkonsistente Beleuchtung und Schatten sind weitere Hinweise. Wenn das Licht auf dem Gesicht nicht zur Umgebung passt oder Schatten in eine unlogische Richtung fallen, kann dies auf eine Manipulation hindeuten. Auch unscharfe oder verzerrte Übergänge an Haaren, Ohren und Kinn deuten auf Fälschungen hin.

Bei Audio-Deepfakes können metallische Klangfarben, unnatürliche Pausen oder ein fehlender emotionaler Ausdruck Hinweise sein. Hintergrundgeräusche können abrupt wechseln oder fehlen. Bitten Sie im Zweifelsfall um ein Rückruf-Gespräch über eine Ihnen bekannte Nummer.

Technische Erkennungswerkzeuge

Verschiedene Online-Tools und Browser-Erweiterungen helfen bei der Deepfake-Erkennung. Microsoft Video Authenticator analysiert Videos auf Manipulationsspuren. Die Universität Bochum hat mit DeFake ein Tool entwickelt, das KI-generierte Bilder erkennen kann.

Für Bilder bieten die umgekehrte Bildersuche von Google oder TinEye eine einfache erste Prüfung. Wenn das Bild einer realen Person auf keiner seriösen Quelle zu finden ist, könnte es KI-generiert sein. Tools wie FotoForensics analysieren Metadaten und digitale Spuren im Bild.

Gesellschaftlicher Umgang mit Deepfakes

Die EU-KI-Verordnung verpflichtet zur Kennzeichnung von KI-generierten Inhalten. Verstöße können mit hohen Strafen belegt werden. Die Durchsetzung dieser Regelung bleibt jedoch eine Herausforderung, insbesondere bei Inhalten aus Nicht-EU-Ländern.

Medienkompetenz ist der beste Schutz gegen Deepfake-Desinformation. Hinterfragen Sie ungewöhnliche oder emotionalisierende Inhalte kritisch und prüfen Sie die Quelle. Teilen Sie keine Inhalte weiter, deren Echtheit Sie nicht verifiziert haben. Gemeinsam können wir die Verbreitung von Desinformation eindämmen.