"Ich traue mittlerweile eigentlich keinem Bild mehr." Aussagen wie diese fallen oft, wenn man sich mit Menschen über die Möglichkeiten bildgenerativer KI unterhält. Auch dem Bild des "Nürtinger Zebriners" ist nicht zu trauen — die Züchtung ist rein virtuell. Das Bild wurde in wenigen Minuten mithilfe der KI Firefly Image 5 von Adobe generiert (vielen Dank an Sascha Ertel vom Team der HfWU-Hochschulkommunikation für die Unterstützung). Als Ausgangspunkt diente die Aufnahme einer deutschen Edelziege (Abb. 2). Der Prompt für die KI, also die Texteingabe, auf dessen Grundlage das Foto verändert wurde, lautete:
"Exactly replicate the source image. Change only the fur of the central goat against the green background: a distinct black-and-white zebra pattern across the entire body that follows the natural contours of the body and looks like natural fur. The muzzle, inner ears, and beard remain in natural tones. All other image elements remain identical to the original: the barn, green screen, person in rubber boots on the left, both goats on the right in the background remain white, the straw-covered floor, leash, collar, horns, beard, pose, and the yellow leg bands. Lighting, shadows, sharpness, and image quality exactly as in the original. The pattern follows the musculature and fur direction, three-dimensional, with subtle transitions at the hairline."
Sekunden nach der Eingabe war der "Nürtinger Zebriner" geboren.
Was ist ein "Deepfake"?
Der folgende Blogbeitrag beschäftigt sich nicht mit experimenteller Ziegenzüchtung — das Forschungsprojekt PowerAImage verfolgt kein Zuchtprogramm —, sondern mit der Generierung und Veränderung von Bildern mithilfe Künstlicher Intelligenz. Das Phänomen, über das in diesem Zusammenhang derzeit am intensivsten öffentlich diskutiert wird, ist der sog. „Deepfake“ (Kombination aus "Deep Learning" einem Verfahren des maschinellen Lernens, und "Fake"). Laut AI-Act der EU handelt es sich bei einem Deepfake um "einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde" (KI-Verordnung, Art. 3, Begriffsbestimmungen). Diese sehr weitreichende Definition macht prinzipiell jedes realistisch wirkende KI-generierte Bild zum Deepfake. Der konkrete Inhalt, die mit der Erstellung verbundenen Absichten oder der spezifische Verbreitungskontext spielen keine Rolle. Auch das Bild des "Nürtinger Zebriners" wäre dem AI-Act zufolge ein Deepfake.
Ein Einwand gegen diese Definition lautet: "Deepfake" ist kein technisch-neutraler Begriff, weil die bergiffliche Nähe zwischen "Fake News" und "Deepfake" als eigentlichen Wortsinn nahelegt, dass "Deepfakes" ebenso wie "Fake News" zum Zweck der gezielten destruktiven Falschinformation erstellt und verbreitet werden. Das trifft keineswegs auf jedes "echt oder wahrheitsgemäß" erscheinende KI-Bild/Video zu — etwa auf solche, die aus künstlerischen, didaktischen oder ganz harmlosen privaten Gründen erstellt wurden. Entsprechendes Bildmaterial erhält so pauschal einen ganz bestimmten Beigeschmack; das konstruktive kreative Potential, das solche synthetischen Medien bieten, gerät dagegen in den Hintergrund. Auch analytisch bringt die Begriffsbestimmung des AI-Acts Probleme mit sich: Ist das Bild einer/s KI-Künstler*in oder die Visualisierung eines architektonischen Entwurfs genauso "fake" wie eine visuelle politische Desinformationskampagne? Man nehme auf der einen Seite z.B. den Fall, in dem Protagonist*innen berühmter Filme und Serien mit künstlerischer Intention durch Künstliche Intelligenz aus Szenen entfernt oder in ihrem Aussehen verändert werden. Die Bildmanipulation soll Sehgewohnheiten und Geschlechtervorstellungen hinterfragen, auf den Einsatz von KI wird dabei explizit hingewiesen (für Beispiele siehe Holliday 2021). Auf der anderen Seite gibt es Fälle wie das KI-veränderte Video des ukrainischen Präsidenten Wolodymyr Selenskyj, das im März 2022 kursierte und in dem Selenskyj seine Soldaten vermeintlich dazu aufruft, im Krieg gegen Russland die Waffen niederzulegen (Feller 2022). Fördert es tatsächlich das Verständnis der neuen KI-Bildwelten, wenn solche sehr unterschiedlichen synthetischen Medienprodukte begrifflich in einen Topf geschmissen werden? Das Alltagsverständnis vieler Menschen scheint jedenfalls in eine andere Richtung zu gehen. Laut einer repräsentativen Studie der Internationalen Hochschule aus dem Jahr 2025 beschrieben Befragte, "die den Begriff "Deepfake" kannten oder sich nicht sicher waren, (…) Deepfakes vor allem als: manipulierte Medieninhalte durch KI, Verbreitung von Falschinformationen zur Täuschung oder Fälschung von Identitäten (Gesichter, Stimmen)" (Internationale Hochschule 2025).
Medienkompetenz und Medienkontext
Das Projektteam von PowerAImage will sich zukünftig intensiver mit Deepfakes in diesem Sinne des Wortes beschäftigen. Typische Beispiele dafür sind politische Desinformationen, Deepfakepornographie oder gefälschte Werbeanzeigen, die ohne Zustimmung der Betroffenen Gesicht, Körper, Stimme und/oder Name für ihre Videos und Bilder verwenden. Solche KI-generierten Inhalte können erheblichen individuellen und gesellschaftlichen Schaden anrichten. Wenn Betrügende gefälschte Medikamente verkaufen oder Identitäten für pornographische Filmaufnahmen gestohlen werden, kann das drastische finanzielle, gesundheitliche, psychische und soziale Folgen haben (vgl. dazu u.a. die beiden ARD-Dokumentationen "Hirschhausen und die Deepfake-Mafia" sowie "Collien Fenrandes: „F*ck Deepfakes!" aus dem Mai 2026). Als Demokratie und Mediengesellschaft brauchen wir gesicherte Fakten, auf deren Grundlage wir uns als Bürger*innen über Vergangenheit, Gegenwart und Zukunft unseres freiheitlichen Gemeinwesens austauschen können. Wenn scheinbare "Beweisbilder" diese Faktengrundlage mit extrem echt wirkenden Falschinformationen überspülen, wird es sehr schwierig, eine gute politische Wahl oder Entscheidung zu treffen. Viele weitere Risiken ließen sich anführen.
Eine große Herausforderung beim Umgang mit Deepfakes besteht darin, dass ihre Verbreitung z.B. über Social-Media und andere Kanäle nicht ausreichend kontrolliert wird bzw. kaum umfänglich kontrolliert werden kann. KI macht es möglich, in kurzer Zeit und hoher Qualität große Mengen manipulierten Bildmaterials herzustellen. Mit Faktenchecks und Bildforensik lassen sich Deepfakes zwar aufdecken; aber die Zahl der Deepfakes steigt, die Verbreitungswege im Internet sind endlos und die Qualität der Fakes nimmt sprunghaft zu. Wir wollen deshalb bei der individuellen Medienkompetenz ansetzen. Mediennutzende müssen selbst besser in die Lage versetzt werden, visuelle Informationen kritisch zu hinterfragen. Die Forderung nach mehr Medienkompetenz ist natürlich nicht neu und es gibt bereits zahlreiche Angebote. Mit unserer Kompetenz in KI, Bildwissenschaft und Öffentlichkeitsarbeit wollen wir unseren Beitrag zum bestehenden Angebot leisten.
In einem ersten Schritt werden wir für unsere Social-Media-Kanäle Beiträge für Menschen zwischen 16 und 30 erstellen. In dieser Altersgruppe beziehen laut der Studie der Internationalen Hochschule 70,6% ihre Informationen vor allem digital über Soziale Medien (Internationale Hochschule 2025). Über Soziale Medien konsumieren Menschen Bilder und Videos in einem ganz bestimmten Medienkontext sowie auf spezifische Arten und Weisen. Bei diesem Kontext wollen wir ansetzen, denn: Der technische Fortschritt ist so rasant, dass Deepfakes im Alltag eher früher als später kaum noch an Auffälligkeiten oder Unstimmigkeiten im Bild identifiziert werden können. Auch wenn ein Bild selbst nicht mehr als Fake erkannt werden kann, so lassen sich aus dem Bildinhalt und dem Medienkontext, in dem es veröffentlich wurde, doch einige Hinweise sammeln: Wie glaubwürdig ist das Dargestellte? Auf welche politischen oder gesellschaftlichen Debatten wird angespielt? Transportiert das Bild eine extreme Position und was macht es mit mir? Löst es starke Ängste oder Hoffnungen in mir aus? Von wem wurde das Bild gepostet? Welche anderen Informationen, z.B. in Überschriften oder Hashtags, werden mitgeliefert? Mit diesen und weiteren Fragen kann man ein Gefühl dafür entwickeln, ob mit einem Bild oder Video etwas nicht stimmen könnte. Und mit diesem Gefühl kann man dann die Informationen mit anderen Quellen vergleichen. Dadurch kann sich der Verdacht bestätigen oder auch nicht.
Bildmanipulation und Bildkritik: nichts Neues
Dieses Vorgehen der Inhaltsanalyse und der Kontextualisierung hat sich als wissenschaftliche Methode seit Langem bewährt. Denn nicht erst KI macht visuelle Desinformation möglich. Bilder haben seit jeher ein kompliziertes Verhältnis zur Wahrheit. Ganz besonders gilt das für Fotografien und Filmaufnahmen. Seit ihrer Erfindung umgibt diese Medien eine Aura des Authentischen und Echten: Was auf dem Foto oder Film erscheint, hat sich einmal genau so vor der Kamera zugetragen. Deepfakes nutzen diesen Echtheitsvertrauensvorschuss aus, genauso wie andere Bildmanipulationstechniken im 19. oder 20. Jahrhundert. Personen oder Gegenstände wurden aus Bildern retuschiert oder die Aussage eines Bildes dadurch verändert, dass ein ganz bestimmter Bildausschnitt gewählt wurde. Und auch wenn keine direkte Manipulation im Nachhinein stattfindet, beeinflusst bereits die Art der Darstellung den Bildinhalt. Ist eine Szene dramatisch ausgeleuchtet? Aus welcher Perspektive wurde ein Ereignis aufgenommen? Mit welchem Gesichtsausdruck blicken die Abgebildeten in die Kamera? Usw. Bilder transportieren Informationen nicht einfach nur, sie inszenieren sie auch. Das macht visuelle Informationen natürlich nicht automatisch falsch, aber sie sind eben nur aus einem bestimmten Blickwinkel zu sehen gegeben. Genauso wie gegenüber Texten ist also auch gegenüber Bildern grundsätzlich ein kritisches Bewusstsein angebracht. Das ist anstrengend und steht oft im Widerspruch zu unserem passiven Medienkonsum. Als eine Medienkompetenz kann es uns aber helfen, die Macht von Deepfakes in Schach zu halten.
Einzelnachweise:
- KI-Verordnung der EU, Art. 3, Begriffsbestimmungen, online unter: datenschutzgesetze.eu/kivo-3/, abgerufen am 20.5.2026.
- Holliday, Christopher: Rewriting the stars: Surface tensions and gender troubles in the online media production of digital deepfakes, in: Convergence: The International Journal of Research into New Media Technologies 27.4 (2021), S. 899—918.
- Feller, Marlene: Deepfake-Videos als mediale Waffen im Ukraine-Krieg (2022), online unter: www.lmz-bw.de/landesmedienzentrum/aktuelles/aktuelle-meldungen/detailseite/deepfake-videos-als-mediale-waffen-im-ukraine-krieg, abgerufen am 20.5.2026.
- Internationale Hochschule: Fakt oder Fake? Medienkompetenz in Deutschland (2025), online unter: buk34mbz.myrdbx.io/wp-content/uploads/2026/03/IU-Studie-Medienkompetenz-2025-09-04-DE.pdf, abgerufen am 20.5.2026.