Visual Trust: KI im Bild  

Sie wurden bereits auf Zeitungscovern, in Inseraten und in Film-Animationen gesichtet, in Social Media sowieso: Bilder, die mithilfe von künstlicher Intelligenz generiert wurden. Nicht immer ist es offensichtlich, wie sie entstanden sind, geschweige denn, woher sie kommen. „Generative KI bezeichnet grundsätzlich Algorithmen, die zur Erstellung von Inhalten verwendet werden – in diesen Fällen Bilder, aber das können auch Audios, Videos, Texte oder Codes sein“, erklärt APA-Innovationsmanagerin Verena Krawarik. Es gibt dabei keine direkte menschliche Urheberschaft und auch die Quellen, aus denen die KI ihre Daten bezieht, sind intransparent. 

Mit den richtigen „Prompts“, also Anweisungen an den Computer, lassen sich beliebige Illustrationen zu allen möglichen Themen in Sekundenbruchteilen erstellen. Was bedeutet diese Entwicklung für Bildagenturen, deren Versprechen es ist, die richtigen Bilder für die Medien ihrer Kund:innen bereitzustellen? „Bei den großen, internationalen Anbietern wird diese Frage bisher durchaus unterschiedlich beantwortet: Manche schließen KI-generierte Bilder generell aus, manche vermarkten sie einfach als eine weitere Form von Illustrationen“, weiß Bildexpertin Luzia Strohmayer-Nacif, die auch Präsidentin des Bundesverbands professioneller Bildanbieter e.V. ist.

Knackpunkt Urheberrecht

Knackpunkt hierbei sei vielfach der rechtliche Aspekt: Wer ist Urheber:in eines KI-Bildes? Wie lässt sich feststellen, welches Ausgangsmaterial von der Maschine für ein neu generiertes Bild genutzt wurde? Oder liegt die intellektuelle menschliche Leistung in der Erstellung und Verfeinerung der passenden Prompts? Derzeit gebe es kein Copyright für „machine images“, so Strohmayer-Nacif. In der Bildagentur der APA setzt man der KI bei der Bilderstellung enge Grenzen, als Gründe nennt Strohmayer-Nacif „das faktische, unverfälschte Pressebild als Teil des Markenkerns. Wir haben klar entschieden, KI-generierte Bilder aus lizenzrechtlichen Gründen derzeit nicht in unser Portfolio aufzunehmen. Das passt nicht zu unserem Versprechen eines 100-prozentig rechtssicheren Bildangebotes, das den Anspruch hat, die Wirklichkeit widerzuspiegeln.“

Authentische Pressefotografie vs. „täuschend echt“

Katharina Schell, stv. APA-Chefredakteurin, betont diese Haltung auch aus der Perspektive des Qualitätsjournalismus: „APA-Fotografinnen und -Fotografen stehen für qualitativ hochwertige und authentische Pressefotografie. Unsere Qualitätskriterien verbieten jegliche Bildmanipulation, zudem müssen sich die APA-Kund:innen darauf verlassen können, dass die Rechtslage jedes von der APA verbreiteten Bildes einwandfrei geklärt ist. Wir haben nicht erst seit gestern eine Diskussion über einen Vertrauensverlust in Medien. Wenn die User:innen mit ‚täuschend echten‘ Bildern konfrontiert werden, ohne zu wissen, wie diese entstanden sind, ist es über kurz oder lang kein Wunder, wenn sie sich getäuscht fühlen. Ein Hinweis, wie das Bild erstellt wurde, so ausführlich wie möglich – etwa auch mit Offenlegung des Prompts – , ist deshalb angebracht. Künftig wäre zu überlegen, ob man die Eigenschaft ‚von einer KI generiert‘ auch als (maschinenlesbares) Metadatum inkludiert.“   

Dass die APA auch Ressourcen in das Erkennen von KI-generierten Bildern steckt, liegt nahe. Neben der Notwendigkeit für den Faktencheck-Bereich widmet man sich dem Thema auch intensiv in Forschungsinitiativen. „Unser Ziel ist dabei stets, die umfassende Transparenz aufrecht zu erhalten und eine eindeutige Kennzeichnung zu gewährleisten“, ergänzt Krawarik.  

Schell: „Ich bin auch der Meinung, dass sich Journalist:innen gut überlegen sollten, warum und an welcher Stelle in ihren Workflows sie KI einsetzen. Warum verwende ich ein Bild von Dall-E oder Midjourney anstatt eines ‚echten‘? Weil es kein passendes ‚echtes‘ gab? Warum gab es denn kein ‚echtes‘? Weil ich nicht lange genug gesucht habe? Oder vielleicht, weil ich eine Realität zeigen will, die so gar nicht existiert? Das sind publizistische, ethische und strategische Fragen, denen sich Redaktionen in diesem Zusammenhang dringend stellen müssen.“

Sich die Kraft der Maschine zunutze machen 

Wichtige Einsatzgebiete von AI in der APA liegen hingegen in der Automatisierung von Prozessen. Unter anderem lässt man sich bei datenbasierten Aufgaben wie der Bildersuche, konkret bei der Gesichtserkennung auf Bildern unterstützen. Zu diesem Zweck hat ein interdisziplinäres Team aus APA-PictureDesk, APA-Tech und externen Profis eigens eine KI trainiert, um in der PictureDesk-Datenbank optimale Ergebnisse zu den meistgesuchten Personenbildern zu liefern. Bildexpertin Strohmayer-Nacif: „Im Zuge des durch das aws [Austria Wirtschaftsservice] geförderten Projekts Visual.Trust.AI wurden Trainingssets von Personen öffentlichen Interesses hinterlegt. Der Index umfasst derzeit die 1.400 in APA-Datenbanken meistgesuchten Menschen. Der Datenbestand ist also österreich- und branchenspezifisch und aufgrund des eigenen Bestandes rechtssicher. Zusätzlich werden die Ergebnisse nach dem Training noch manuell überprüft, es handelt sich schließlich um sensible personenbezogene Daten.“  

Der Nutzen für Userinnen und User sind treffsichere, schnellere Suchergebnisse – der entsprechende Filter wird im Laufe des Frühjahrs auf picturedesk.com freigeschalten. Auch in weiteren APA-Produkten wie Datenbanken von Kundinnen und Kunden oder in Medienbeobachtungsservices für die PR kann die Technologie die Suche erleichtern. 

Vertrauenswürdige KI 

Im Zuge des Förderprojekts entstand außerdem eine Leitlinie für die gesamte APA-Gruppe, „die wir uns für den zukünftigen Umgang mit KI selbst auferlegt haben“, erläutert Krawarik „all diese ethischen, rechtlichen und inhaltlichen Fragen haben wir darin festgehalten und etwa mit Checklisten konkret operationalisierbar für die Projektarbeit gemacht. Wichtige Aspekte sind hier z.B. auch die Erklärbarkeit und Nachvollziehbarkeit von KI-Modellen. Zusätzlich haben wir die aktuellen Entwicklungen, etwa rund um den EU AI Act und die Empfehlungen der involvierten Institutionen, laufend im Blick.“ 

Ein imposantes Beispiel für die Risken generativer AI lieferte kürzlich unter anderem ein „fake“ KI-Bild rund um Donald Trump. Bilder seiner angeblichen Verhaftung fluteten Soziale Medienräume und schafften es sogar auf Zeitungscovers. „News-Fotos sahen und sehen wir als Dokumente der Zeitgeschichte. Manipulation über Bildausschnitt, Photoshop & Co. finden seit Erfindung des Mediums statt. Neu ist allerdings, dass dies nun die Maschine allein kann und neu ist auch die gigantische Skalierbarkeit. Die Auswirkungen auf unseren Blick auf Bilder sind noch nicht absehbar. In der APA werden wir die Entwicklungen genauestens mitverfolgen und KI nach qualitätsjournalistischen Maßstäben zum Einsatz bringen. Ein nächster konkreter Schritt wird sein, die KI-Leitlinie um den Game Changer ‚Generative AI‘ zu erweitern”, schließt Strohmayer-Nacif. 

PODCAST von WDR 5
APA-Verification Officer Florian Schmidt und weitere Faktencheck-Profis sprechen in „Töne, Texte, Bilder“ über Anhaltspunkte für das Erkennen KI-generierter Bilder, weshalb menschliche Kompetenzen umso wichtiger werden, die länderübergreifende Vernetzung von Faktenchecker:innen u.v.m..
Wie künstliche Intelligenz Fotos fälscht – WDR 5

Artikel zur KI-Diskussion auf derstandard.at
Wie Medien mit Fake-Fotos und KI-generierten Bildern umgehen (sollten) – Netzpolitik – derStandard.at › Web u.a. mit APA-PictureDesk-Leiterin Luzia Strohmayer-Nacif und stv. APA-Chefredakteurin Katharina Schell