KI im Fokus: APA-Taskforce AI

Seit Open AI Ende des vergangenen Jahres ChatGPT in die Welt geworfen hat, überfluten artgleiche und -ähnliche KI-Anwendungen den Markt. Und sie versprechen viel: Schneller und ertragreicher sollen Prozesse, Ergebnisse und Produkte werden. Das treibt die Suche nach promptem Einsatz auf Hochtouren. Neben all dem Beifall tun sich allerdings auch rechtliche, ethische und strategische Fragen auf, die dringend Antworten suchen.

In der APA hat man dem Thema KI eine eigene Taskforce gewidmet. APA-Innovationsmanagerin Verena Krawarik leitet das interdisziplinäre Team aus neun Expertinnen und Experten der APA-Gruppe. Dieses koordiniert die KI-Aktivitäten und -Analysen der Nachrichtenagentur-Gruppe und verortet diese in den geeigneten Strategiefeldern. Die zentralen Aufgaben der Taskforce sind daher, die APA-Strategie ‚Trusted AI‘ weiterzuentwickeln, die AI Literacy von Mitarbeiter:innen zu stärken sowie Innovationspotenziale für neue Produkte und Services auszuloten. „Wir haben in der APA sehr früh begonnen, selbst medienspezifische KI zu entwickeln und in Produkte und Services zu integrieren. Dieses Know-how machen wir nun breiter zugänglich“, so Krawarik.

Herausforderungen für den Medien- und Kommunikationsmarkt

Eine Medienlandschaft ohne KI-Einsatz wird es Krawarik zufolge in Zukunft nicht mehr geben. Medien benötigten deshalb perspektivisch eine klare KI-Strategie: „Diese zu entwickeln, ist ein herausfordernder Prozess, weil sie alle Unternehmensbereiche und Wertschöpfungsprozesse betrifft. Hier benötigen Medienunternehmen Unterstützung, nicht jeder kann diese Tasks aus dem bestehenden Team heraus stemmen. Weitere wichtige Themen berühren das Urheberrecht, die Formulierung von Guidelines sowie die eigene Positionierung als glaubwürdige Marke in einer Welt voller Fakes und Desinformation.“

„Die Art und Weise, wie wir KI einsetzen und wofür, wie wir es transparent machen und wie wir über das Thema berichten, bestimmt wesentlich mit, welches Vertrauen uns die Nutzer:innen unserer Produkte entgegenbringen.“

Verena Krawarik, APA-Innovationsmanagerin und Leiterin der APA-Taskforce AI

Trustworthy AI

Zentrale qualitätsjournalistische Standards und Werte wie Unabhängigkeit, Zuverlässigkeit oder Transparenz bilden das Fundament der Taskforce-Aktivitäten. Die APA hat dazu bereits 2022 Leitlinien entwickelt, die einen sicheren und verantwortungsbewussten Umgang mit der Technologie gewährleisten: „Medien haben in diesem Kontext eine besondere Verantwortung – die Art und Weise, wie wir KI einsetzen und wofür, wie wir es transparent machen und wie wir über das Thema berichten, bestimmt wesentlich mit, welches Vertrauen uns die Leser:innen und im Fall der APA die Nutzer:innen unserer Produkte entgegenbringen. Wir haben deshalb schon sehr früh begonnen, uns damit auseinanderzusetzen, was Ethik und KI für uns bedeuten und wie wir KI in der APA leben wollen“, so Krawarik. Die entsprechende Leitlinie werde derzeit um den Faktor ‚Generative AI‘ ergänzt.

Generative AI – aktuelle Entwicklungen

Angesichts der permanenten Neuzugänge in der KI-Tool-Palette den Überblick zu behalten und Anwendungen für das eigene Unternehmen hinsichtlich ihrer Vor- und Nachteile einzuordnen, erleben derzeit viele als Herausforderung, so Andreas Mauczka, CDO der APA-Gruppe und Mitglied der APA-Taskforce AI. „Wöchentlich kommen allein in kuratierten Listen mehr als 100 Anwendungen dazu. Der für mich wesentlichste Aspekt ist im Bereich Autonomie der Anwendungen (wie z.B. AutoGPT) zu verorten – gefühlt stehen wir hier kurz vor einem großen Durchbruch, was die Assistenz-Fähigkeit betrifft. Damit meine ich die Zusammenarbeit von mehreren Systemen wie ChatGPT, um allgemeine Aufgaben zu lösen, also z.B. einen Flug zu buchen. Und gerade in Kombination mit IoT (Internet of Things) ist die Generalisierbarkeit der Interaktion mit Systemen durch die ‚menschliche‘ Form der Kommunikation spannend. Ich muss mich nicht mit Schnittstellen zur Anbindung plagen, sondern kann in eine direkte Unterhaltung treten. Das führt zur Diskussion um Artificial General Intelligence und den immer lauter und seriöser werdenden warnenden Stimmen. Viele Aspekte dieser Diskussion hätte man sich sparen können, hätte man vor einigen Jahren auf führende Frauen in der Forschung gehört. Gerade Timnit Gebru, renommierte Künstliche-Intelligenz-Forscherin bzw. KI-Ethik-Forscherin, hat viele Diskussionen, die uns in den letzten Monaten begleitet haben, vorweggenommen – etwa die Bias-/Diskriminierungsprobleme in den Daten oder die technologischen Grenzen von LLMs (Large Language Models).“

„Viele Aspekte dieser Diskussion hätte man sich sparen können, hätte man vor einigen Jahren auf führende Frauen in der Forschung gehört.“

Andreas Mauczka, CDO der APA-Gruppe

Einsatzgebiete in Redaktionen

Redaktionen soll der technologische Fortschritt mittels KI im Idealfall mehr Zeit für hochkonzentrierte Recherche, Wissensarbeit und Fortbildung verschaffen. Zu journalistischen Einsatzgebieten meint Katharina Schell, stv. Chefredakteurin der APA und ebenfalls Mitglied der Taskforce AI: „Die derzeit gehypte Vision, dass KI ohne menschliches Zutun journalistische Texte schreibt, ist unrealistisch. KI im Journalismus heißt nicht: KI macht Journalismus. Wir wissen, dass die derzeit verwendeten Modelle wie GPT keine Ahnung von der Welt oder von Fakten haben. Fakten sind aber der Grundstoff für Journalismus. Das heißt nicht, dass generative KI keinen Nutzen für die journalistische Arbeit haben kann – im Gegenteil. Man muss nur genau wissen, wo ihre Grenzen liegen. Und man muss lernen, sie innerhalb dieser Grenzen einzusetzen. Das bedeutet aber auch, dass KI bis auf weiteres ihren Platz vor allem als ‚Assistenz‘ im Redaktionsalltag finden wird“.

Einsatzgebiete seien demnach etwa Varianten von Texten oder unterschiedliche Versionen von Titeln. Auch für das Auffinden und Extrahieren von Daten in Fließtexten sei KI besonders geeignet, „denn in Geschichten ‚verstecken‘ sich oft wertvolle Daten, mit denen spannende datenjournalistische Projekte möglich werden, doch das manuelle Erfassen dieser Daten ist zeitaufwändig“, so Schell. Auch als Schreibinspiration und „Sparring-Partner“ für Brainstorming-Prozesse seien manche KI-Modelle durchaus geeignet.

Use Cases rund um KI öffnen sich aber auch in zahlreichen anderen Geschäftsbereichen der APA-Gruppe, etwa bei der gezielten Personensuche in Bilddatenbanken oder bei der automatischen Transkription von Radio- oder TV-Beiträgen für die Medienbeobachtung.

Stolpersteine, Grenzen und No-Gos

Mögliche Auswirkungen nicht reglementierter KI-Entwicklungen werden momentan verstärkt kritisch betrachtet. Selbst Geoffrey Hinton, ehemaliger Top-KI-Entwickler bei Google und sogenannter „Godfather“ der KI, warnte zuletzt vor den Gefahren der Technologie. „Von einem ‚Erwachen der AI‘ sind wir weit entfernt, dennoch haben LLMs mit autonomen Kapazitäten enormes Schadenspotenzial. Gleichzeitig ist das positive Potenzial, das bereits zur Verfügung steht, fantastisch. Wir befinden uns im ‚Star Trek‘-Zeitalter, wo jeder sich mit dem Computer unterhalten kann und dieser vielleicht nicht sinngemäß versteht, was ich meine, aber für die Erfüllung von Aufgaben in jedem Fall ausreichendes Verständnis mitbringt. Mit Wissen hat generative AI jedoch nach wie vor nichts am Hut“, so Mauczka.

Schell: „Leider ist das Missverständnis, dass Modelle wie ChatGPT Fakten zur Verfügung stellen können oder etwas ‚wissen‘, noch immer weit verbreitet. Das ist nicht der Fall, und daher müssen sämtliche generierte Texte geprüft werden. Schließlich neigt die KI auch dazu, Dinge zu ‚erfinden‘. Je nach Anwendungsfall muss man daher genau prüfen, was mehr Aufwand bedeutet: Den Output der Maschine auf seine Richtigkeit zu checken oder die Aufgabe gleich selbst zu erledigen.“

„Je nach Anwendungsfall muss man genau prüfen, was mehr Aufwand bedeutet: Den Output der Maschine auf seine Richtigkeit zu checken oder die Aufgabe gleich selbst zu erledigen“.

Katharina Schell, stv. APA-Chefredakteurin

Ein absolutes No-Go wäre demnach das ungeprüfte Übernehmen von KI-generierten Inhalten in das journalistische Endprodukt. „In der APA ist ‚human in control‘ bei jedwedem KI-Einsatz oberstes Gebot, Vollautomatisierung ist nicht das Ziel. Schließlich sind wir den journalistischen Grundwerten der Zuverlässigkeit, Richtigkeit, Transparenz und Vertrauenswürdigkeit verpflichtet“, so Schell zur Position der Taskforce AI.

Unter „Trusted AI“ hat die APA schließlich auch ihre neue Strategiephase eingeleitet. In welchen Formen, Formaten und Formalitäten KI in der APA weiter Einzug hält, werden wir laufend in diesem Newsletter berichten.

Die Mitglieder der APA-Taskforce AI: