Pünktlich zu meinem Talk mit dem Titel Deepfakes erkennen: Werkzeuge und Strategien für das KI-Zeitalter auf der SkepKon 2025 finden Sie hier eine sorgfältig kuratierte Sammlung von Tools, Leseempfehlungen und weiteren praktischen Ressourcen rund um das Thema KI-Erkennung.
Übersicht Ressourcensammlung
- 1. Praxis & DIY
- 2. Tools zur KI-Erkennung
- 3. Forschung & Quellen
- 4. Material aus dem Vortrag
- 5. Zum Weiterlesen & Anschauen
- 6. Glossar
- 7. Empfehlungen
Praxis & DIY
Hier finden Sie interaktive Übungen, Tests und Selbstversuche, mit denen Sie Ihre Fähigkeit zur Erkennung von Deepfakes trainieren und direkt ausprobieren können, sowie Prompts zur Steigerung der Objektivität in Konversationen mit Chatbots.
Quizzes & Turing-Tests
- Human or Not?: Bei diesem sozialen Turing-Test chatten Sie für 2 Minuten und beurteilen dann, ob Sie mit einem Menschen gesprochen haben oder mit einem Bot.
- Turingtest.live: Dieses wunderbare Turing-Spiel/Experiment sammelt Daten für ein Forschungsprojekt der UCSD.
- WhichFaceIsReal.com: 2 Gesichter – nur eines ist echt. Sind Ihre Tipps besser als ein Münzwurf?
- Odd One Out: Finden Sie unter mehreren Auswahlmöglichkeiten das KI-Bild bei diesem Quiz von Google Arts and Culture – aber aufgepasst: vier falsche Tipps, und Sie sind raus!
- Echt oder Kopie?: Ein Quiz mit 14 Bildern und KI-generierten Kopien – erkennen Sie das Original?
- Media Literacy @ Britannica: Noch ein kurzes „Echt oder KI“-Quiz inkl. Tipps zum Erkennen von generierten Bildern.
Tutorials
- Code & mehr für Deep Fake Detection: Finden Sie die letzten Benchmarks, wissenschaftlichen Artikeln & GitHub Coding-Projekte zur Deepfake-Erkennung bei Papers With Code.
- Awesome Deepfake Detection: Kuratiertes Verzeichnis mit Tools, Papers und Detection-Modellen bei GitHub.
- Optische Flussanalyse: Übersichtliches Tutorial inkl. Code für die optische Flussanalyse von Videos.
- KI-Produkte erkennen: Ausführliche Anleitung zur Identifikation KI-generierter Fake-Artikeln, wie sie oft in Social Media Ads vorkommen.
Anti-Bias Prompts
Chatbots sind Ja-Sager! Nutzen Sie die folgenden Prompts, um die Voreingenommenheit von LLMs zu reduzieren und Ihren eigenen kognitiven Bias zu hinterfragen:
- „Antworte objektiv und betrachte diese Frage aus der Perspektive eines neutralen Beobachters.“
- „Nimm eine kritische Gegenposition zu meiner Aussage ein und präsentiere Argumente, die ich vielleicht übersehen habe.“
- „Ignoriere meinen bisherigen Standpunkt und liste unabhängig davon Pro- und Kontraargumente auf.“
- „Ich möchte keine Bestätigung meiner Ansicht. Zeige mir stattdessen, wo ich falsch liegen könnte.“
- „Analysiere die Schwachpunkte meiner Behauptungen und liefere eine kritische Einschätzung.“
- „Welche alternativen Perspektiven ignoriere ich bei dieser Überlegung?“
- „Was würde passieren, wenn ich bewusst das Gegenteil meiner Annahme als wahr betrachten würde?“
- „Welche Denkfehler könnten hinter meiner Sichtweise stecken?“
- „Präsentiere mir Fakten, die meiner momentanen Überzeugung widersprechen.“
Tools zur KI-Erkennung
Eine Auswahl praxisbewährter Werkzeuge für die Analyse und Identifikation von KI-generierten Bildern und Videos.
Automatische KI-Detektoren
- KI-Scanner für Bilder: Lassen Sie Grafiken auf Pixel-Level prüfen – schnell, einfach, kostenlos & ohne Anmeldung bei wasitai.com.
- KI-Scanner für Videos: Ein zuverlässiger KI-Detektor speziell für Videos (Registrierung erforderlich).
Manuelle Bild & Videoanalyse
- Online EXIF-Tool: Extrahieren Sie alle Metadaten einer Datei.
- ExifTool by Phil Harvey: Software zum Lesen und Bearbeiten von Metadaten.
- Video-Splitter: Zerlegen Sie Videos für eine Intra-Frame-Analyse in ihre Einzelteile.
- Reverse Image Search: Mit der Reverse Image Search von TinEye finden Sie heraus, wann und wo ein Bild zum ersten Mal im Internet aufgetaucht ist.
Forschung & Quellen
Die folgenden Studien und Datenquellen bieten fundierte Einblicke in aktuelle Forschung zu Deepfake-Erkennung, KI-Bias und Detektionsmethoden.
Wissenschaftliche Studien
- Croitoru, F., Hiji, A.-I., Hondru, V., Ristea, N.C., Irofti, P., Popescu, M., Rusu, C., Ionescu, R.T., Khan, F.S. & Shah, M. (2024). Deepfake Media Generation and Detection in the Generative AI Era: A Survey and Outlook. IEEE Transactions on Pattern Analysis and Machine Intelligence, 50(1). https://doi.org/10.48550/arXiv.2411.19537 | Hier lesen
- DiResta, R. & Goldstein, J.A. (2024). How spammers and scammers leverage AI-generated images on Facebook for audience growth. Harvard Kennedy School Misinformation Review, 5(4). https://doi.org/10.37016/mr-2020-151 | Hier lesen
- Elkhatat, A.M., Elsaid, K. & Almeer, S. (2023). Evaluating the efficacy of AI content detection tools in differentiating between human and AI-generated text. International Journal for Educational Integrity, 19(1). https://doi.org/10.1007/s40979-023-00140-5 | Hier lesen
- Frank, J., Herbert, F., Ricker, J., Schönherr, L., Eisenhofer, T., Fischer, A., Dürmuth, M. & Holz, T. (2024). A Representative Study on Human Detection of Artificially Generated Media Across Countries. 2024 IEEE Symposium on Security and Privacy (SP). https://doi.org/10.1109/SP54263.2024.00159 | Hier lesen
- Le, B.M., Kim, J., Woo, S.S., Moore, K., Abuadbba, A. & Tariq, S. (2025). SoK: Systematization and Benchmarking of Deepfake Detectors in a Unified Framework. Preprint accepted at IEEE European Symposium on security and privacy 2025. https://doi.org/10.48550/arXiv.2401.04364 | Hier lesen
- Liang, W., Yuksekgonul, M., Mao, Y., Wu, E. & Zou, J. (2023). GPT detectors are biased against non-native English writers. Patterns, 4(7). https://doi.org/10.48550/arXiv.2304.02819 | Hier lesen
- Stroebel, L., Llewellyn, M., Hartley, T., Ip, T.S. & Ahmed, M. (2023). A systematic literature review on the effectiveness of deepfake detection techniques. Journal of Cyber Security Technology, 7(19), 83-113. https://doi.org/10.1080/23742917.2023.2192888 | Hier lesen
- Wang, T., Liao, X., Chow, K.P., Lin, X. & Wang, Y. (2024). Deepfake Detection: A Comprehensive Survey from the Reliability Perspective. ACM Computing Surveys, 57(3), 1-35. https://doi.org/10.1145/3699710 | Hier lesen
Datenquellen
- Fähigkeiten der KI vs. Menschen: Visualisieren Sie die Test-Scores von KI-Systemen in verschiedenen Bereichen und vergleichen Sie diese zur menschlichen Leistung.
- Tracking AI: Bleiben Sie auf dem Laufenden, wie sich der IQ verschiedener KI-Systeme entwickelt.
- OpenAlex: Corpus wissenschaftlicher Arbeiten.
- Marktprojektion „AI-Girlfriend-Apps“: Prognose, die davon ausgeht, dass 2030 über $10 Milliarden mit KI-Partner-Simulatoren erzielt wird.
Material aus dem Vortrag
Hier finden Sie Medien und Beispiele aus meinem Vortrag (sowie ein paar, die es aus Zeitgründen nicht in den Vortrag geschafft haben).
Generierte Bilder & Videos
Das KI-generierte Material aus dem Vortrag wird nach der SkepKon an dieser Stelle veröffentlicht. Zwischenzeitlich – besuchen Sie kuenzelzeller.de für großartige KI-generierte Kunst (Hinweis: nicht verwandt und nicht verschwägert!) und 3D-drucken Sie diese Action-Figur:
News & Social Media
- Deepfake-Scam in Italien: Bericht über einen Deepfake-Angriff in Italien, bei dem Giorgio Armani und andere Unternehmen einen KI-generierten Anruf des vermeintlichen Verteidigungsministers erhielten.
- Kidnapping-Scam mit KI-Stimme: Beispiel für einen KI-Scam, bei dem Stimmen von Angehörigen für Fake-Anrufe geklont werden.
- CEO-Scam mit Deepfakes: Eine Firma überweist $25 Millionen nach einem Video-Call mit einem videogenerierten CFO.
- Fake-Brad Pitt Scam: Eine Französin verliert über €800.000 an Online-Betrüger.
- GWUP Facebook-Post: Ein kleines KI-generiertes „Hoppala“ auf der Facebook-Seite der GWUP.
- Egg-Jesus bei Reddit: Keine Angst, Eier-Jesus ist nicht echt!
- Dead Internet Theory bei Reddit: Besonders interessant ist der Kommentar von u/richdrich.
- Epistemische Unsicherheit bei Reddit: r/ChatGPT denkt ein Foto ist KI-generiert, wenn es tatsächlich echt ist.
Zum Weiterlesen & Anschauen
Vertiefen Sie Ihr Wissen rund ums Thema KI und Deepfake-Erkennung mit diesen empfehlenswerten Artikeln und Videos, sowie handverlesenen Beiträgen aus meiner #SingularityLoadingBar-Serie, in der ich einen Blick auf die Ladeleiste zur Singularität werfe.
Leseempfehlungen
- So funktioniert KI-Bilderkennung: Ein übersichtlicher Guide mit den Basics der AI Image Recognition.
- Technische Ansätze zur Deepfake-Erkennung: Grundlagen übersichtlich dargestellt von der Bundeszentrale für politische Bildung.
- Keine Dates mit Robotern!: Warum Sie zweimal nachdenken sollten, bevor Sie die AGB einer „AI Girlfriend“-App unterzeichnen.
- Sind KI-Detektoren zuverlässig?: Ein Gastbeitrag in meinem Blog von der Lektorin Merle-Sophie Lösing.
- Künstliche Emotionalität?: Lesenswerte Gedanken zum WWW in Zeiten der KI.
- Fehlinformation, KI & Tyrannei: Beitrag zum Thema Erkennung von Fehlinformation mittels KI mit spannenden Beispielen beim Bulletin of the Atomic Scientists.
- Deepfake Report 2024: Übersicht zum Impact von Deepfake-Scams im vergangenen Jahr.
Videos
- „Deepfakes – Die Bedrohung der Wahrheit“: Der Deepfake-Vortrag von André Wolf auf der SkepKon 2024.
- South Park – Deep Learning: South Park’s humorvolle Episode zum Aufstieg der LLMs (2023).
- KI & Medienkritik mit Nikil Mukerji: Drei Gespräche in unterschiedlicher Länge über Deepfakes, Skeptizismus, kognitive Dissonanz und viele weitere Themen im Vorfeld der SkepKon 2025.
“Singularity Loading Bar” Serie
- The Rise of AI Scams: Deciphering Reality in a World of Deepfakes
- ChatGPT is Now Smarter Than 90% of the Population
- Dead Internet Theory: Is the Web Dying?
- ChatGPT, Gender Bias, and the Nuclear Apocalypse
- “WHEN WILL I GET MY ROBOT?!”
- Use of the Word ‘Tapestry’ in Web News More Than Doubled Last Year
- AI Boosts Human Performance by Another 40%: Who Will Profit?
- How I Learned to Stop Worrying and Love the AI Arms Race
- Productivity Explosion – Singularity Loading Bar #1
- ‚We’ll Know We Have AGI When >50% of the GDP is Generated by AI‘ – AGI Talk mit dem Physiker und früherem NASA-Ingenieur Anthony Scondary.
- ‚Prepare for the Earliest Possible AGI Deployment Scenario‘ – AGI Talk mit der Kommunikationsforscherin Jen Rosiere Reynolds.
- ‚Advanced AI should be treated similar to Weapons of Mass Destruction‘ – AGI Talk mit dem Rechts- und Politwissenschaftler Demetrius Floudas.
Glossar
Eine kompakte Übersicht zentraler Begriffe aus dem Diskurs rund um KI und Deepfakes verständlich erklärt – von „AI-Slop“ bis „Zero-Day Deepfake“.
| AI-Slop | Umgangssprachlicher Begriff, der schlechte, absurde oder offensichtlich fehlerhafte KI-generierte Inhalte beschreibt. |
| Deep Learning | KI-Methode basierend auf neuronalen Netzwerken, die große Mengen an Daten eigenständig verarbeiten und Muster erkennen kann. Häufig für Bild- und Spracherkennung eingesetzt. |
| Deepfake | Realistisch wirkende, aber gefälschte Bilder, Videos oder Audios, die mithilfe von KI generiert werden. |
| Epistemische Unsicherheit | Unsicherheit, ob Informationen korrekt oder glaubwürdig sind. |
| Generative KI | Künstliche Intelligenz, die neue Inhalte wie Bilder, Texte oder Videos erzeugt, basierend auf Trainingsdaten. |
| Intra-Frame-Analyse | Zerlegung von Videos in Einzelbilder zur Identifikation von Anomalien oder Inkonsistenzen. |
| KI-Bias | Voreingenommenheit oder Verzerrung in KI-Ergebnissen, verursacht durch unausgewogene Trainingsdaten oder algorithmische Fehler. |
| LLM (Large Language Model) | KI-Modelle, die anhand riesiger Textdaten trainiert werden und Sprache verarbeiten, generieren und analysieren können. |
| Meta-Daten (EXIF) | Daten, die Aufschluss über Herkunft und Bearbeitungsschritte digitaler Inhalte geben können. |
| Optische Flussanalyse | Analyse von Bewegungen und Veränderungen zwischen aufeinanderfolgenden Videobildern, z.B. um Deepfakes aufzudecken. |
| Prompt Engineering | Die gezielte Formulierung von Eingaben (Prompts), um optimale Antworten oder Ergebnisse von KI-Systemen zu erhalten. |
| Singularität | Ein hypothetischer Zeitpunkt, an dem KI menschliche Intelligenz übertrifft und technologische Entwicklung eigenständig beschleunigt, sodass die Folgen für Menschen nicht mehr absehbar sind. |
| Turing Test | Ein Test zur Bestimmung, ob eine Maschine menschenähnliche Intelligenz besitzt. Wenn Menschen in einem Dialog nicht unterscheiden können, ob sie mit einem Menschen oder einer Maschine kommunizieren, gilt der Test als bestanden. |
| Zero-Day Deepfake | Ein Deepfake, das mithilfe bisher unbekannter KI-Technologien erzeugt wurde, wodurch gängige Detektoren es nicht erkennen können. |
Empfehlungen
Die zentralen Empfehlungen und Schlussfolgerungen meiner Überlegungen zum Deepfake-Zeitalter erfahren Sie in meinem Vortrag auf der SkepKon am 30. Mai 2025 – oder schauen Sie einfach wieder hier vorbei 😊
