Deepfakes – KI-generierte oder KI-veränderte Bild-, Audio- und Videoinhalte – stellen in Deutschland ein wachsendes Risiko für Gesellschaft, Wirtschaft und Rechtssystem dar. Die Kombination aus steigender öffentlicher Aufmerksamkeit, nachweislich zunehmenden Schadensfällen und neuen gesetzlichen Vorgaben macht das Thema zu einem zentralen Diskussionspunkt für Sicherheit und Rechtsvorschriften.
Wachsende öffentliche Wahrnehmung von Deepfakes in Deutschland
Eine YouGov-Umfrage im Auftrag des eco-Verbands der Internetwirtschaft e.V. zeigt, dass 55 % der befragten Deutschen eine Täuschung durch Deepfakes in den nächsten fünf Jahren für sehr oder eher wahrscheinlich halten. Nur 28 % befürchten hingegen, selbst Ziel solcher manipulativen Inhalte zu werden. Die Ergebnisse basieren auf Online-Interviews mit 2.012 Personen, die nach Alter, Geschlecht und Region quotiert wurden.
„Deepfakes wirken in zwei Richtungen: Menschen können durch manipulierte Inhalte über ihre Person geschädigt werden. Sie können aber auch zum Opfer werden, weil sie eine Fälschung für echt halten und auf dieser Grundlage handeln. Dass 55 % eine solche Täuschung für wahrscheinlich halten, zeigt, wie stark das Vertrauen in digitale Inhalte unter Druck steht.“ – Alexandra Koch-Skiba, Leiterin der Beschwerdestelle des eco-Verbands
Statistische Evidenz: Deepfake-basierte Straftaten und wirtschaftliche Schäden
Der Generalkriminalitätsbericht 2025 der Deutschen Polizeigewerkschaft (GdP) bestätigt, dass 73 % aller Cybercrime-Fälle, in denen Deepfakes eine Rolle spielen, auf KI-generierte Sprache, Identitätsfälschung oder Voice-Cloning zurückgehen. Das entspricht mehr als 200.000 gemeldeten Opfern im laufenden Jahr.
- Deepfake-basierte Straftaten (Identitätsbetrug + Voice Spoofing): 200.000 Fälle (2025)
- Prozentsatz KI-erzeugter Phishing-Versuche: 73 % (2025)
Laut den BSI-Cybercrime-Berichten ist der wirtschaftliche Schaden durch KI-gestützten Betrug zwischen 2024 und 2025 um 38 % gestiegen. Der durchschnittliche Schaden pro identifiziertem KI-Phishing-Fall beträgt 550.000 Euro.
- Steigerung von KI-gestützten Betrugsfällen: 38 % (2025 gegenüber 2024)
- Durchschnittlicher Schaden pro KI-Phishing-Fall: 550.000 Euro (2025)
Technologische Entwicklung: Open-Source-Modelle beschleunigen Deepfake-Erstellung
Der Boom von Open-Source-Modellen wie „Stable Diffusion XL-Plus“ oder „Wav2Vec 2.0“ hat die Erzeugung synthetischer Inhalte deutlich schneller und günstiger gemacht. Laut BSI-Vergleich können Deepfake-Videos heute durchschnittlich in 1,5 Minuten erstellt werden – und das ohne tiefgehende Fachkenntnisse.
- Durchschnittliche Erstellungsdauer eines Deepfake-Videos: 1,5 Minuten (2025)
- Anzahl prominenter Open-Source-Deepfake-Modelle: 40 (2025)
Diese Zugänglichkeit erhöht das Risiko von Massentäuschungen und reduziert den Eingreifstandard von Polizei und Sicherheitsbehörden.
Regulatorische Rahmenbedingungen: EU AI Act und geplantes Gesetz gegen digitale Gewalt
Seit dem 2. August 2026 gelten die Transparenzpflichten nach Artikel 50 des EU AI Acts. Anbieter müssen KI-generierte oder manipulierte Inhalte maschinenlesbar kennzeichnen. Für Deepfakes ist zusätzlich offenzulegen, dass sie künstlich erzeugt oder verändert wurden.
„Kennzeichnungen sind ein wichtiger Baustein, aber kein Schutzschild gegen Betrug, Identitätsmissbrauch oder digitale Gewalt.“ – Alexandra Koch-Skiba
Parallel dazu wird das geplante Gesetz gegen digitale Gewalt (GgdG) diskutiert. Es soll zivil- und strafrechtliche Schutzlücken schließen, Betroffenen ermöglichen, rechtswidrige Deepfakes schnell zu melden, Beweise zu sichern und Auskunfts- sowie Löschansprüche gegenüber Plattformen durchzusetzen.
Herausforderungen und Gegenmaßnahmen
Die wachsende Verbreitung von Open-Source-Modellen erschwert die frühzeitige Erkennung von Deepfakes. Gleichzeitig sind Kennzeichnungen nicht universell umsetzbar, weil bestehende Erzeugersoftware oft keine maschinenlesbaren Hinweise erzeugt. Deshalb fordert der eco-Verband neben technischen Standards verstärkte digitale Bildung und eine funktionierende Beschwerdestelle.
- Reduzierter Eingreifstandard für Strafverfolgungsbehörden durch leicht zugängliche Open-Source-Tools
- Fehlende universelle Kennzeichnungsmöglichkeiten für KI-generierte Inhalte
- Notwendigkeit von Medienkompetenz und schneller Meldestruktur für Betroffene
Schnellüberblick:
Was ist ein Deepfake?
Ein Deepfake ist ein in der Regel KI-generiertes oder -verändertes Medium (z. B. Video, Foto, Audio) mit dem Ziel, den Anschein einer echten Person oder Situation zu erzeugen und/oder fälschlich Identitäten und Handlungen zuzuschreiben.
Was verbietet der AI Act konkret?
Der AI Act verpflichtet Anbieter, synthetische Medien nach Artikel 50 maschinenlesbar zu markieren. Die Verbreitung von Deepfake-Inhalten muss kenntlich gemacht werden, jedoch werden die Inhalte selbst nicht verboten.
Warum ist der neue Referentenentwurf für die Opfer wichtig?
Der Referentenentwurf zur Gegenmaßnahme gegen digitale Gewalt (GgdG) ermöglicht Betroffenen, rechtliche Schritte gegen anonyme Täter einzuleiten, etwa durch die Weitergabe von IP-Adressen seitens Social-Media-Plattformen.
Quellen
- https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Kuenstliche-Intelligenz/Deepfakes/deepfakesnode.html
- https://www.bsi.bund.de/de/themen/unternehmen-und-organisationen/themen/aktuelle-berichte/index.html
- https://www.gdp.de/de/die-gdp/aktivitaeten/berichte/generalkriminalitaetsberichte/