Kann ich meinen Augen noch trauen?

KI-Transparenz: Bei der Erstellung dieses Beitrags wurde generative KI unterstützend eingesetzt. Die veröffentlichte Fassung wurde von der BAZURU-Redaktion inhaltlich geprüft. Quellen und zentrale Tatsachenbehauptungen werden nach unserem redaktionellen Verfahren kontrolliert. BAZURU trägt die redaktionelle Verantwortung für die Veröffentlichung.

Im Familienchat taucht ein Video auf. Eine bekannte Person sagt darin etwas Empörendes. Stimme, Gesicht, Hintergrund: alles wirkt plausibel. Die erste Frage liegt nahe: Ist das echt oder fake? Die nützlichere Frage beginnt einen Schritt später: Was wissen wir darüber, woher dieser Inhalt kommt? Denn «sieht echt aus» und «ist verifiziert» sind zwei verschiedene Dinge. Für Familien wird deshalb weniger wichtig, jeden künstlichen Inhalt am Aussehen zu entlarven. Wichtiger wird ein Prüfweg, der auch funktioniert, wenn Augen und Ohren keinen eindeutigen Hinweis liefern.

Unsere Augen sind kein Universal-Detektor

Die Forschung ergibt kein simples Urteil darüber, wie gut Menschen synthetische Inhalte erkennen. In einer bekannten Studie mit KI-generierten Gesichtern unterschieden Erwachsene echte von synthetischen Gesichtern nur ungefähr auf Zufallsniveau. Ein Training half, machte die Teilnehmenden aber nicht zu perfekten Detektoren.[1] Eine systematische Übersichtsarbeit und Meta-Analyse von 56 Arbeiten mit insgesamt 86’155 Teilnehmenden kam ebenfalls zu einem ernüchternden Gesamtbild: Über sehr unterschiedliche Deepfake-Aufgaben hinweg liess sich keine robuste allgemeine Fähigkeit zeigen, Fälschungen zuverlässig über Zufallsniveau zu erkennen. Gleichzeitig fanden die Autoren Hinweise, dass bestimmte Strategien und Hilfen die Leistung verbessern können.[2] Eine neuere Meta-Analyse von 2026, die enger auf statische echte und synthetische Gesichter fokussierte, kam zu einem etwas anderen Ergebnis. Über 36 Studien mit 13’197 Personen lag die mittlere Erkennungsleistung mit 56,1 Prozent statistisch über Zufallsniveau. Die Ergebnisse unterschieden sich jedoch stark nach Methode und Deepfake-Typ; Trainingsgruppen lagen höher.[3] Auch Einzelstudien können deutlich bessere Werte zeigen. In einer Untersuchung mit personalisierten KI-Bildern erreichten Erwachsene im getesteten Setting rund 87 Prozent.[4] Genau deshalb wäre der Satz «Menschen können Deepfakes nicht erkennen» falsch. Die Trefferquote hängt unter anderem davon ab, um welche Art von Inhalt es geht, welcher Generator verwendet wurde, welche Vergleichsbilder vorkommen, wie die Aufgabe gestellt ist und ob die Personen vorbereitet wurden. Ein seltsamer Schatten oder eine unnatürliche Hand kann heute ein Warnsignal sein. Morgen kann genau dieser Fehler verschwunden sein. Umgekehrt beweist eine hohe Trefferquote mit einem bestimmten Bildset nicht, dass dieselbe Person den nächsten Clip im Familienchat richtig beurteilt. Die eigenen Sinne bleiben nützlich. Nur sollten wir sie nicht mit einem Echtheitsbeweis verwechseln.

Bei Kindern wissen wir weniger, als die Debatte vermuten lässt

Für Kinder ist die direkte Evidenz noch dünner.

Eine Studie von 2026 untersuchte 37 Kinder zwischen sechs und zehn Jahren und separat 49 Erwachsene. Die Kinder hatten in mehreren Aufgaben Mühe, zwischen menschlichen und KI-generierten Inhalten zu unterscheiden.[5] Das ist relevant, aber klein. 37 Kinder in einem einzelnen Kontext reichen nicht für die Behauptung, Kinder seien generell besonders leicht zu täuschen oder grundsätzlich schlechter als Erwachsene bei jeder Art synthetischer Medien. Eine grössere Studie mit 432 Jugendlichen zwischen elf und vierzehn Jahren untersuchte eine verwandte, aber andere Frage: das Erkennen wahrer und falscher Nachrichtenüberschriften. Die Fähigkeit zur Wahrheitsunterscheidung entwickelte sich mit dem Alter und hing mit Schlussfolgerungsfähigkeit zusammen.[6] Das ist wichtig für Medienkompetenz. Es ist aber nicht dasselbe wie die Frage, ob jemand ein KI-generiertes Bild erkennt. Für Familien folgt daraus eine praktische Konsequenz: Es ist riskant, Kinder vor allem auf eine Liste visueller «Fake-Merkmale» zu trainieren. Besser ist ein Verfahren, das noch funktioniert, wenn ein Inhalt vollkommen plausibel aussieht.

Die stärkere Frage lautet: Woher kommt das?

Eine solche Strategie ist das laterale Lesen. Statt nur im Post selbst nach verdächtigen Details zu suchen, verlässt man den Inhalt und prüft ausserhalb davon: Wer steckt hinter der Quelle? Was war der ursprüngliche Kontext? Was berichten andere verlässliche Stellen? In einer Feldstudie an US-Highschools erhielten Schülerinnen und Schüler Unterricht in solchen Strategien. Gegenüber einer Vergleichsgruppe verbesserten sich ihre Bewertungen der Glaubwürdigkeit von Online-Inhalten.[7] Eine grosse kanadische Feldstudie mit Mittel- und Oberstufenschülerinnen und -schülern fand ebenfalls, dass Unterricht die Nutzung und Präferenz lateraler Prüfstrategien erhöhen konnte; ein Teil dieser Veränderungen war auch später noch messbar.[8] Eine Meta-Analyse von 64 kontrollierten Studien zu Interventionen für die Bewertung von Quellenvertrauenswürdigkeit findet im Mittel positive Effekte. Die Unterschiede zwischen Studien sind allerdings gross. Nicht jede Intervention funktioniert in jedem Setting gleich gut.[9] Und unter dem Etikett «Medienkompetenz» stecken sehr verschiedene Methoden. Bei sogenannten Inokulationsspielen zeigen eine Reanalyse und eine weitere präregistrierte Studie, dass sich die Fähigkeit, wahre und falsche Schlagzeilen auseinanderzuhalten, nicht zwingend verbessert. Teilweise verändert sich eher die Tendenz, etwas als falsch einzustufen.[10], [11] Die vernünftige Schlussfolgerung ist deshalb nicht: «Medienkompetenzkurse lösen das Problem.» Sie lautet: Eine Prüfstrategie muss daran gemessen werden, was sie tatsächlich verbessert.

«Frag einfach eine KI» ist keine sichere Abkürzung

Es liegt nahe, ein verdächtiges Bild oder eine fragwürdige Behauptung von einem KI-System prüfen zu lassen. Doch auch diese Abkürzung kann scheitern.

In einem präregistrierten randomisierten Experiment mit US-Erwachsenen verbesserten KI-generierte Faktenchecks die allgemeine Unterscheidung von wahren und falschen Schlagzeilen nicht zuverlässig. Wenn das System falsch oder unsicher lag, konnten seine Hinweise Urteile sogar verschlechtern.[12] Das bedeutet nicht, dass KI bei der Recherche nie helfen kann. Es bedeutet etwas Engeres: Ein KI-Urteil wird nicht allein dadurch zu einem unabhängigen Wahrheitsanker, dass es schnell und überzeugend formuliert ist. Eine alte journalistische Regel wird damit für Familien wieder überraschend aktuell: Eine wichtige Behauptung braucht unabhängige Bestätigung.

Provenienz kann helfen. Sie ist aber kein Wahrheitsstempel

Neben der Quellenprüfung entsteht eine zweite Schicht: technische Herkunftsnachweise. Der C2PA-Standard hinter sogenannten Content Credentials kann kryptografisch signierte Informationen darüber mit einem digitalen Inhalt verbinden, woher er stammt und welche Bearbeitungsschritte dokumentiert wurden.[13] Das leistet etwas, was der Blick auf Pixel allein nicht leisten kann: Ein überprüfbarer Teil der Entstehungs- oder Bearbeitungsgeschichte kann sichtbar werden. Die Grenzen gehören aber zur Aussage dazu. Provenienz-Metadaten können fehlen oder entfernt werden. Technische Systeme versuchen deshalb, harte kryptografische Bindungen mit robusteren Mechanismen wie Wasserzeichen oder Fingerabdrücken zu ergänzen. Gleichzeitig zeigen technische Arbeiten, dass Detektoren und Wasserzeichen unter Angriffen oder beim Wechsel in realistischere Umgebungen an Leistung verlieren können.[14], [15] Vor allem sagt die C2PA-Dokumentation selbst etwas Entscheidendes: Provenienz beantwortet nicht automatisch, ob eine Behauptung wahr ist.[13] Ein authentisch dokumentiertes Foto kann in einen falschen Kontext gestellt werden. Ein sauber signiertes Video kann eine irreführende Aussage enthalten. Und ein Bild ohne Content Credentials ist nicht automatisch gefälscht. Provenienz ist deshalb am stärksten als zusätzliche Beweisschicht, nicht als Wahrheitszertifikat.

Mehr synthetische Inhalte bedeuten nicht automatisch mehr Wirkung

Generative Systeme senken die Hürden, überzeugende Bilder, Stimmen und Texte herzustellen. Daraus folgt noch nicht, dass jede synthetische Kampagne Menschen überzeugt oder politische Ergebnisse verändert. Das Centre for Emerging Technology and Security am Alan Turing Institute dokumentierte bei Wahlen 2024 KI-gestützte Einflussoperationen, fand in den untersuchten Fällen aber keine klare Evidenz dafür, dass solche Inhalte Wahlergebnisse messbar verändert hätten.[16]

Das bremst zwei Übertreibungen zugleich. Weder ist synthetischer Inhalt harmlos, nur weil ein messbarer Wahleffekt schwer nachzuweisen ist. Noch darf aus der blossen Fähigkeit, überzeugendes Material zu erzeugen, automatisch erfolgreiche Manipulation abgeleitet werden. Zwischen Produktion, Verbreitung, Glauben, Einstellungsänderung und Verhalten liegen mehrere Schritte.

Drei Fragen für den Familienalltag

Für einen lustigen Clip braucht niemand ein forensisches Verfahren. Je höher aber der mögliche Schaden einer falschen Entscheidung, desto mehr lohnt sich die Prüfung. Drei Fragen sind dafür robuster als eine Liste vermeintlicher Deepfake-Merkmale:

1. Woher kommt das ursprünglich? Nicht: Wer hat es mir weitergeleitet? Sondern: Wer hat es zuerst veröffentlicht, in welchem Kontext und mit welcher Begründung?
2. Gibt es unabhängige Bestätigung? Bestätigen glaubwürdige, voneinander unabhängige Quellen die entscheidende Behauptung?
3. Gibt es Herkunftsinformationen? Falls Content Credentials oder andere nachvollziehbare Provenienzsignale vorhanden sind: Was sagen sie über Ursprung und Bearbeitung, und was sagen sie ausdrücklich nicht über die Wahrheit des Inhalts? Die Reihenfolge ist nicht magisch. Der Vorteil liegt darin, dass die Familie nicht von einer einzigen unsicheren Fähigkeit abhängig bleibt: Manipulation am Aussehen zu erkennen. Für private Familienbilder gilt zusätzlich eine einfache Vorsicht: Verdächtige Dateien nicht automatisch bei unbekannten «Deepfake-Detektoren» hochladen. Eine Prüfung kann sonst selbst ein Datenschutzproblem schaffen.

Und die Schweiz?

Für Schweizer Familien ändert sich die Grundlogik nicht. Ein weitergeleitetes Bild wird nicht verlässlicher, weil es aus einem vertrauten Chat kommt. Und ein fremdsprachiger Clip wird nicht automatisch verdächtig, weil er ungewohnt wirkt. Der sinnvollere Lerngegenstand ist deshalb kein perfekter «Fake-Radar», sondern ein Prüfweg: Bei wichtigen Behauptungen den Ursprung suchen, den Kontext prüfen und unabhängige Bestätigung einholen.

Und 2035?

Bis 2035 könnten Herkunftsnachweise viel verbreiteter sein. Kameras, Plattformen und Bearbeitungsprogramme könnten häufiger signierte Informationen mitführen, und Anwendungen könnten sie verständlicher darstellen. Ob daraus eine alltagstaugliche Infrastruktur wird, hängt aber von mehr ab als von einem Standard: von breiter Adoption, robusten Bindungen, interoperablen Systemen, vertrauenswürdigen Signierern, verständlichen Oberflächen und unabhängigen Quellen, gegen die sich Behauptungen prüfen lassen.[13], [14]

Die nützlichste Zukunftskompetenz ist deshalb vielleicht gar nicht, jeden synthetischen Inhalt mit blossem Auge zu entlarven. Es ist die Gewohnheit, Plausibilität und Verifikation nicht miteinander zu verwechseln. Wenn etwas wichtig genug ist, um Angst auszulösen, Geld zu kosten, eine Person zu beschuldigen oder eine Entscheidung zu verändern, reicht «sieht echt aus» nicht. Dann beginnt die Prüfung erst.

Evidence Check

Gut belegt

Humanes Deepfake-Erkennen ist stark vom Setting abhängig. Eine multimodale Meta-Analyse findet im Mittel keine robuste allgemeine Überlegenheit über Zufallsniveau, während eine neuere, enger auf statische Gesichter begrenzte Meta-Analyse eine kleine Überlegenheit über Zufall bei starker Heterogenität findet; einzelne Studien können deutlich höhere Werte zeigen.[1], [2], [3], [4] Unterricht in Quellen- und Kontextprüfung kann in bestimmten schulischen Settings Glaubwürdigkeitsurteile und Prüfverhalten verbessern.[7], [8]

Hinweise, aber noch unsicher

Die direkte Evidenz bei jüngeren Kindern ist klein. Eine Studie mit 37 Kindern zeigt Schwierigkeiten bei der Unterscheidung menschlich und KI-generierter Inhalte, reicht aber nicht für eine allgemeine Entwicklungsregel.[5] Nicht jede Medienkompetenz-Intervention verbessert tatsächlich die Unterscheidung wahr/falsch; Effekte unterscheiden sich nach Methode und Setting.[9], [10], [11]

Bis 2035 plausibel

Provenienzsignale könnten im Alltag wichtiger werden, wenn Standards breit implementiert, robust erhalten und verständlich angezeigt werden. Das ist ein konditionales Szenario, keine Prognose.[13]

Nicht belegt / spekulativ

Nicht belegt sind die universellen Aussagen, Menschen könnten Deepfakes grundsätzlich nicht erkennen, Kinder seien generell besonders leicht zu täuschen, Content Credentials bewiesen die Wahrheit eines Inhalts oder KI-generierte Desinformation verändere automatisch Verhalten beziehungsweise Wahlergebnisse.[2], [5], [13], [16]

Quellen

[1] Nightingale, S. J., & Farid, H. (2022). AI-synthesized faces are indistinguishable from real faces and more trustworthy. Proceedings of the National Academy of Sciences, 119. DOI: 10.1073/pnas.2120481119.

[2] Diel, A., Lalgi, T., Schröter, I. C., MacDorman, K. F., Teufel, M., & Bäuerle, A. (2024). Human performance in detecting deepfakes: A systematic review and meta-analysis of 56 papers. Computers in Human Behavior Reports, 16, 100538. DOI: 10.1016/j.chbr.2024.100538.

[3] Stockner, M., Convertino, G., Cambedda, S., & Mazzoni, G. (2026). Are humans able to discriminate between real and deepfake faces? A systematic review and meta-analysis. Computers in Human Behavior: Artificial Humans, 9, 100332. DOI: 10.1016/j.chbah.2026.100332.

[4] Lüdemann, R., Schulz, A., & Kuhl, U. (2025). Generation gap or diffusion trap? How age affects the detection of personalized AI-generated images. In Computer-Human Interaction Research and Applications (pp. 359–381). DOI: 10.1007/978-3-031-83845-3_22.

[5] Langer, A., Martinez, S., Marshall, P. J., & Chein, J. (2026). Children’s susceptibility to content generated by artificial intelligence. Technology in Society, 86, 103303. DOI: 10.1016/j.techsoc.2026.103303.

[6] Lemaire, M., Ye, S., Le Stanc, L., Borst, G., & Cassotti, M. (2025). The development of media truth discernment and fake news detection is related to the development of reasoning during adolescence. Scientific Reports, 15, 6854. DOI: 10.1038/s41598-025-90427-z.

[7] Wineburg, S., Breakstone, J., McGrew, S., Smith, M. D., & Ortega, T. (2022). Lateral reading on the open Internet: A district-wide field study in high school government classes. Journal of Educational Psychology, 114(5), 893–909. DOI: 10.1037/edu0000740.

[8] Brodsky, J. E., Brooks, P. J., Pavlounis, D., & Johnston, J. L. (2023). Instruction increases Canadian students’ preference for and use of lateral reading strategies to fact-check online information. AERA Open, 9. DOI: 10.1177/23328584231192106.

[9] Fendt, M., Muth, X., & Edelsbrunner, P. A. (2025). Judging a text by its author — A meta-analysis of interventions to foster source credibility assessment. Learning and Individual Differences, 124, 102782. DOI: 10.1016/j.lindif.2025.102782.

[10] Modirrousta-Galian, A., & Higham, P. A. (2023). Gamified inoculation interventions do not improve discrimination between true and fake news: Reanalyzing existing research with receiver operating characteristic analysis. Journal of Experimental Psychology: General, 152(9), 2411–2437. DOI: 10.1037/xge0001395.

[11] Seabrooke, T., Modirrousta-Galian, A., & Higham, P. A. (2026). Re-examining the Bad News game: No evidence of improved discrimination of Indian true and fake news headlines. Psychonomic Bulletin & Review, 33, Article 13. DOI: 10.3758/s13423-025-02827-x.

[12] DeVerna, M. R., Yan, H. Y., Yang, K.-C., & Menczer, F. (2024). Fact-checking information from large language models can decrease headline discernment. Proceedings of the National Academy of Sciences, 121(50), e2322823121. DOI: 10.1073/pnas.2322823121.

[13] Coalition for Content Provenance and Authenticity (C2PA). (2026). C2PA Technical Specification / Content Credentials, version 2.4. Current specification as of 2026-10-05.

[14] Saberi, M., Sadasivan, V. S., Rezaei, K., Kumar, A., Chegini, A., Wang, W., & Feizi, S. (2024). Robustness of AI image detectors: Fundamental limits and practical attacks. ICLR 2024. arXiv:2310.00076.

[15] Chandra, N. A., Lee, H., Murtfeldt, R., et al. (2026). Deepfake-Eval-2024: A multi-modal in-the-wild benchmark of deepfakes circulated in 2024. CVPR Workshops 2026, 10668–10678; arXiv:2503.02857, version 5.

[16] Stockwell, S. (2024). AI-Enabled Influence Operations: Threat Analysis of the 2024 UK and European Elections. Centre for Emerging Technology and Security, Alan Turing Institute. DOI: 10.83162/Turing.93.