„Faktenchecks“ prüfen dabei Texte, Fotos und Videos auf ihre Faktenbasis und liefern eine exakt nachvollziehbare Einschätzung. Die Profis der APA-Redaktion erstellen in jedem Faktencheck eine Art Gutachten sowie eine wissenschaftliche Einordnung mit transparenter Argumentation und sämtlichen Quellenangaben.

Drei Jahre APA-Faktencheck

Rund 900 Faktenchecks wurden unter der Leitung von APA-Verification Officer Florian Schmidt seit dem Start im März 2020 veröffentlicht. Die Produktion erfolgt dabei u. a. in Kooperation mit der Deutschen Presse-Agentur (dpa) und Facebook, wodurch Faktenchecks auch auf der Social-Media-Plattform selbst zur Überführung von Falschinformationen angezeigt werden. Der APA-Faktencheck wurde im März 2021 als eine von derzeit fünf Faktencheck-Units im deutschsprachigen Raum in das International Fact Checking Network (IFCN) aufgenommen, Mitglieder verpflichten sich zur Einhaltung strenger Qualitäts- und Transparenzkriterien.

Fake-News-Hochkonjunktur durch Krisen

„Seit dem Start unserer Faktenchecks haben Fake News, Desinformation und Propaganda Hochkonjunktur. War es zunächst vor allem die Corona-Pandemie, arbeiten sich die Urheber falscher Informationen nun an Russlands Invasion in der Ukraine oder am Klimawandel ab. In sozialen Netzwerken kursieren nach wie vor viele fragwürdige Behauptungen, manipulierte Fotos und Videos. Fact Checking liefert hier ein notwendiges Gegengewicht an faktenbasierter und überprüfter Information. Die Verbreitung von richtigen, glaubwürdigen und vertrauenswürdigen Nachrichten zählt zum Grundauftrag der APA-Redaktion“, so APA-Chefredakteur Johannes Bruckenberger.

Faktencheck gewinnt an Bedeutung

Florian Schmidt, der in der APA sämtliche Aktivitäten im Bereich Faktencheck leitet, zieht nach drei Jahren Bilanz: „Beim Start des APA-Faktenchecks war noch nicht ersichtlich, welche Ausmaße das Phänomen Falschinformationen annehmen würde. Fakes können technologisch inzwischen immer besser umgesetzt werden. Die Verifizierung von Informationen gewinnt für Nachrichtenagenturen deshalb weiter an Bedeutung, Fact Checking ist der ‚Fels in der Brandung‘ für seriösen, qualitätsjournalistischen Informationsgewinn.“ Im Sinne der länderübergreifenden Vernetzung sei deshalb für 2023 u.a. eine hochkarätig besetzte Veranstaltung in Wien geplant, die sich den Themen Desinformation und Zukunft des Fact-Checkings widmen werde.

Das Team des APA-Faktenchecks ist zusätzlich in folgenden Bereichen aktiv:

Faktencheck-Trainings für Medien
Expert:innen der APA trainierten rund 150 Journalistinnen und Journalisten aus ca. 20 österreichischen Medienhäusern in der Nutzung von OSINT-Tools (Open Source Intelligence Tools) und Verification-Werkzeugen, unterstützt unter anderem durch eine Kooperation mit der Google News Initiative. Auch Vertiefungsthemen für bereits erprobte Faktenchecker:innen stehen weiterhin auf dem Programm. Darüber hinaus wurden im Zuge eines Projekts gemeinsam mit der französischen Nachrichtenagentur AFP auch Journalistinnen und Journalisten der ukrainischen Nachrichtenagentur UKRINFORM in Methoden der digitalen Verifikation und des Fact Checking geschult.

Internationale Vernetzung
Seit 2022 ist die APA Teil des German-Austrian Digital Media Observatory (GADMO), einem Zusammenschluss führender deutschsprachiger Faktencheck-Organisationen und Forschungsteams mit dem Ziel, gemeinsam Des- und Falschinformationen zu bekämpfen. Faktenchecks aus dem deutschsprachigen Raum sind auf der zentralen Plattform gadmo.eu abrufbar.

Forschung & Entwicklung
In enger Kooperation mit wissenschaftlichen Instituten erfolgt im Bereich Fake News Detection aktive Forschungsarbeit. Im Forschungsprojekt defalsif-AI werden etwa medienforensische Werkzeuge entwickelt, die User:innen eine Einschätzung der Glaubwürdigkeit von Text-, Bild-, Video- oder Audiomaterial erlauben. Zum Einsatz kommt dabei auch künstliche Intelligenz.

Die APA-Faktenchecks sind online verfügbar: Zu den APA-Faktenchecks

PODCAST von APA-Comm

APA-Verification Officer Florian Schmidt spricht im Podcast „Rückfragehinweis“ von APA-Comm exklusiv u.a. über Möglichkeiten und Grenzen beim Einsatz von KI im Rahmen des Faktenchecks, spezielle Herausforderungen in der Nutzung von OSINT-Tools und Faktencheck-Workshops für Redaktionen.

Zu hören auf allen gängigen Plattformen (u.a. Spotify) oder direkt auf Rückfragehinweis (ots.at).

PODCAST von WDR 5

APA-Verification Officer Florian Schmidt und weitere Faktencheck-Profis sprechen in „Töne, Texte, Bilder“ über Anhaltspunkte für das Erkennen KI-generierter Bilder, weshalb menschliche Kompetenzen umso wichtiger werden, die länderübergreifende Vernetzung von Faktenchecker:innen u.v.m..

Wie künstliche Intelligenz Fotos fälscht – WDR 5

Der Beitrag Fake News auf der Spur: 900 APA-Faktenchecks in drei Jahren erschien zuerst auf APA-Value-News.

Sie wurden bereits auf Zeitungscovern, in Inseraten und in Film-Animationen gesichtet, in Social Media sowieso: Bilder, die mithilfe von künstlicher Intelligenz generiert wurden. Nicht immer ist es offensichtlich, wie sie entstanden sind, geschweige denn, woher sie kommen. „Generative KI bezeichnet grundsätzlich Algorithmen, die zur Erstellung von Inhalten verwendet werden – in diesen Fällen Bilder, aber das können auch Audios, Videos, Texte oder Codes sein“, erklärt APA-Innovationsmanagerin Verena Krawarik. Es gibt dabei keine direkte menschliche Urheberschaft und auch die Quellen, aus denen die KI ihre Daten bezieht, sind intransparent. 

Mit den richtigen „Prompts“, also Anweisungen an den Computer, lassen sich beliebige Illustrationen zu allen möglichen Themen in Sekundenbruchteilen erstellen. Was bedeutet diese Entwicklung für Bildagenturen, deren Versprechen es ist, die richtigen Bilder für die Medien ihrer Kund:innen bereitzustellen? „Bei den großen, internationalen Anbietern wird diese Frage bisher durchaus unterschiedlich beantwortet: Manche schließen KI-generierte Bilder generell aus, manche vermarkten sie einfach als eine weitere Form von Illustrationen“, weiß Bildexpertin Luzia Strohmayer-Nacif, die auch Präsidentin des Bundesverbands professioneller Bildanbieter e.V. ist.

Knackpunkt Urheberrecht

Knackpunkt hierbei sei vielfach der rechtliche Aspekt: Wer ist Urheber:in eines KI-Bildes? Wie lässt sich feststellen, welches Ausgangsmaterial von der Maschine für ein neu generiertes Bild genutzt wurde? Oder liegt die intellektuelle menschliche Leistung in der Erstellung und Verfeinerung der passenden Prompts? Derzeit gebe es kein Copyright für „machine images“, so Strohmayer-Nacif. In der Bildagentur der APA setzt man der KI bei der Bilderstellung enge Grenzen, als Gründe nennt Strohmayer-Nacif „das faktische, unverfälschte Pressebild als Teil des Markenkerns. Wir haben klar entschieden, KI-generierte Bilder aus lizenzrechtlichen Gründen derzeit nicht in unser Portfolio aufzunehmen. Das passt nicht zu unserem Versprechen eines 100-prozentig rechtssicheren Bildangebotes, das den Anspruch hat, die Wirklichkeit widerzuspiegeln.“

Authentische Pressefotografie vs. „täuschend echt“

Katharina Schell, stv. APA-Chefredakteurin, betont diese Haltung auch aus der Perspektive des Qualitätsjournalismus: „APA-Fotografinnen und -Fotografen stehen für qualitativ hochwertige und authentische Pressefotografie. Unsere Qualitätskriterien verbieten jegliche Bildmanipulation, zudem müssen sich die APA-Kund:innen darauf verlassen können, dass die Rechtslage jedes von der APA verbreiteten Bildes einwandfrei geklärt ist. Wir haben nicht erst seit gestern eine Diskussion über einen Vertrauensverlust in Medien. Wenn die User:innen mit ‚täuschend echten‘ Bildern konfrontiert werden, ohne zu wissen, wie diese entstanden sind, ist es über kurz oder lang kein Wunder, wenn sie sich getäuscht fühlen. Ein Hinweis, wie das Bild erstellt wurde, so ausführlich wie möglich – etwa auch mit Offenlegung des Prompts – , ist deshalb angebracht. Künftig wäre zu überlegen, ob man die Eigenschaft ‚von einer KI generiert‘ auch als (maschinenlesbares) Metadatum inkludiert.“   

Dass die APA auch Ressourcen in das Erkennen von KI-generierten Bildern steckt, liegt nahe. Neben der Notwendigkeit für den Faktencheck-Bereich widmet man sich dem Thema auch intensiv in Forschungsinitiativen. „Unser Ziel ist dabei stets, die umfassende Transparenz aufrecht zu erhalten und eine eindeutige Kennzeichnung zu gewährleisten“, ergänzt Krawarik.  

Schell: „Ich bin auch der Meinung, dass sich Journalist:innen gut überlegen sollten, warum und an welcher Stelle in ihren Workflows sie KI einsetzen. Warum verwende ich ein Bild von Dall-E oder Midjourney anstatt eines ‚echten‘? Weil es kein passendes ‚echtes‘ gab? Warum gab es denn kein ‚echtes‘? Weil ich nicht lange genug gesucht habe? Oder vielleicht, weil ich eine Realität zeigen will, die so gar nicht existiert? Das sind publizistische, ethische und strategische Fragen, denen sich Redaktionen in diesem Zusammenhang dringend stellen müssen.“

Sich die Kraft der Maschine zunutze machen 

Wichtige Einsatzgebiete von AI in der APA liegen hingegen in der Automatisierung von Prozessen. Unter anderem lässt man sich bei datenbasierten Aufgaben wie der Bildersuche, konkret bei der Gesichtserkennung auf Bildern unterstützen. Zu diesem Zweck hat ein interdisziplinäres Team aus APA-PictureDesk, APA-Tech und externen Profis eigens eine KI trainiert, um in der PictureDesk-Datenbank optimale Ergebnisse zu den meistgesuchten Personenbildern zu liefern. Bildexpertin Strohmayer-Nacif: „Im Zuge des durch das aws [Austria Wirtschaftsservice] geförderten Projekts Visual.Trust.AI wurden Trainingssets von Personen öffentlichen Interesses hinterlegt. Der Index umfasst derzeit die 1.400 in APA-Datenbanken meistgesuchten Menschen. Der Datenbestand ist also österreich- und branchenspezifisch und aufgrund des eigenen Bestandes rechtssicher. Zusätzlich werden die Ergebnisse nach dem Training noch manuell überprüft, es handelt sich schließlich um sensible personenbezogene Daten.“  

Der Nutzen für Userinnen und User sind treffsichere, schnellere Suchergebnisse – der entsprechende Filter wird im Laufe des Frühjahrs auf picturedesk.com freigeschalten. Auch in weiteren APA-Produkten wie Datenbanken von Kundinnen und Kunden oder in Medienbeobachtungsservices für die PR kann die Technologie die Suche erleichtern. 

Vertrauenswürdige KI 

Im Zuge des Förderprojekts entstand außerdem eine Leitlinie für die gesamte APA-Gruppe, „die wir uns für den zukünftigen Umgang mit KI selbst auferlegt haben“, erläutert Krawarik „all diese ethischen, rechtlichen und inhaltlichen Fragen haben wir darin festgehalten und etwa mit Checklisten konkret operationalisierbar für die Projektarbeit gemacht. Wichtige Aspekte sind hier z.B. auch die Erklärbarkeit und Nachvollziehbarkeit von KI-Modellen. Zusätzlich haben wir die aktuellen Entwicklungen, etwa rund um den EU AI Act und die Empfehlungen der involvierten Institutionen, laufend im Blick.“ 

Ein imposantes Beispiel für die Risken generativer AI lieferte kürzlich unter anderem ein „fake“ KI-Bild rund um Donald Trump. Bilder seiner angeblichen Verhaftung fluteten Soziale Medienräume und schafften es sogar auf Zeitungscovers. „News-Fotos sahen und sehen wir als Dokumente der Zeitgeschichte. Manipulation über Bildausschnitt, Photoshop & Co. finden seit Erfindung des Mediums statt. Neu ist allerdings, dass dies nun die Maschine allein kann und neu ist auch die gigantische Skalierbarkeit. Die Auswirkungen auf unseren Blick auf Bilder sind noch nicht absehbar. In der APA werden wir die Entwicklungen genauestens mitverfolgen und KI nach qualitätsjournalistischen Maßstäben zum Einsatz bringen. Ein nächster konkreter Schritt wird sein, die KI-Leitlinie um den Game Changer ‚Generative AI‘ zu erweitern”, schließt Strohmayer-Nacif. 

PODCAST von WDR 5
APA-Verification Officer Florian Schmidt und weitere Faktencheck-Profis sprechen in „Töne, Texte, Bilder“ über Anhaltspunkte für das Erkennen KI-generierter Bilder, weshalb menschliche Kompetenzen umso wichtiger werden, die länderübergreifende Vernetzung von Faktenchecker:innen u.v.m..
Wie künstliche Intelligenz Fotos fälscht – WDR 5

Artikel zur KI-Diskussion auf derstandard.at
Wie Medien mit Fake-Fotos und KI-generierten Bildern umgehen (sollten) – Netzpolitik – derStandard.at › Web u.a. mit APA-PictureDesk-Leiterin Luzia Strohmayer-Nacif und stv. APA-Chefredakteurin Katharina Schell

Der Beitrag Visual Trust: KI im Bild   erschien zuerst auf APA-Value-News.