Wie wir im WDR mit Künstlicher Intelligenz umgehen
Stand: 04.12.2023, 12:25 Uhr
Mit dem Start von ChatGPT ist Künstliche Intelligenz (KI) schlagartig in den Fokus der Öffentlichkeit und in die Mitte der Gesellschaft gerückt. Das Potenzial dieser Technologie geht indes weit über Texterzeugung hinaus. Auch wir im WDR beschäftigen uns mit KI – wie und auf welcher Grundlage wir das tun, erläutern wir hier.
Künstliche Intelligenz (KI) ist im Alltag vieler Menschen angekommen, sie hilft bei Hausaufgaben oder der Bearbeitung von Urlaubsbildern, ihr Potenzial reicht von der Autokorrektur bei der Texteingabe über den smarten Kühlschrank bis zu medizinischen Analysen und weit darüber hinaus. „KI-Anwendungen eröffnen auch uns als Medienhaus viele neue Möglichkeiten“, sagt Jörg Schönenborn, Programmdirektor Information, Fiktion, Unterhaltung im WDR. „Wir bewegen uns hier in einem Wachstumsfeld.“
Programmdirektor Jörg Schönenborn
Ein Feld, auf dem KI- und Daten-Expert:innen unseres Senders seit etwa 2015 Erfahrungen sammeln. Auf dieser Basis erfolgte Anfang 2022 die Gründung des Competence Center Artificial Intelligence (CCAI).
KI-Projekte im WDR
Mittlerweile haben viele Bereiche und Redaktionen im WDR Erfahrungen gesammelt, aus denen zum Teil konkrete Anwendungsmöglichkeiten geworden sind. Schon vor ChatGPT half KI im WDR dabei, Audios und Videos in Text zu überführen. Damit konnten Teile der ARD Archive automatisch Sendeminuten inhaltlich beschreiben und recherchierbar machen, die zuvor nicht erschlossen waren. So können Inhalte über die Grenzen der Landesrundfunkanstalten hinweg sehr schnell in der ARD-weiten „Crossmedialen Suche“ gefunden werden. Bereits online nutzbar sind die KI-gestützte Bildersuche beim Online-Projekt "Digit" sowie eine Podcast-Folge, in der eine mittels KI „geklonte“ Stimme eingesetzt wurde. („Mouhamed Dramé – Wenn die Polizei tötet“, Folge 3). Derzeit wird u. a. an KI-gestützter Live-Untertitelung von Fernsehsendungen gearbeitet. Außerdem wird getestet, mit Hilfe von KI bestehende Online-Texte in Leichte Sprache zu übersetzen und dann auch diese Versionen ins Netz zu stellen, um die Barrierefreiheit unseres Angebots auszuweiten. Zudem wird KI unterstützend zur Recherche, Themenfindung, Formatentwicklung und Zielgruppenarbeit genutzt.
Technik, Rechte, Ethik - KI hat viele Ebenen
Die Entwicklung der Technologie ist rasant und nicht frei von Risiken. Beispiel: Gesichter und Stimmen lassen sich in Videos heute so gut nachbauen (generieren), dass sie vom Original kaum zu unterscheiden sind („Deepfakes“) – was bedeutet das für den WDR, den seine Moderatorinnen und Moderatoren eigentlich unverwechselbar machen? Was können wir dagegen tun, wenn in die Irre führenden Deepfakes auftauchen?
Mit Fragen wie diesen beschäftigt sich im WDR ein interdisziplinäres Team, das KI-Kernteam. Es ist Anlaufstelle für aktuelle Fragen der WDR-Redaktionen, erarbeitet aber auch grundsätzliche Positionen und hält den Kontakt zu KI-Teams in anderen ARD-Häusern und insbesondere zum ARD KI-Netzwerk. Dieser Verbund von KI-Expert:innen aus der gesamten ARD ist im September 2024 gestartet und wird von WDR und BR gesteuert. Aufgrund der Vielschichtigkeit der Technologie ist die Arbeit des Netzwerks in mehrere „Cluster“ – Themengebiete – aufgeteilt. Die Landesrundfunkanstalten können sich inhaltlich an allen Clustern beteiligen und von deren Ergebnissen profitieren.
Stefan Moll, Leiter des KI-Teams
„Dabei betrachten wir die Themen aus unterschiedlichen Perspektiven“, erläutert Stefan Moll die interdisziplinäre Architektur der KI-Arbeit in WDR und ARD. „Ganz oft geht es gleichzeitig um technische, rechtliche und inhaltliche Fragen, oft spielen auch ethische Aspekte eine Rolle.“
Der Einsatz von Künstlicher Intelligenz im WDR muss den Werten und Zielen dienen, die sich aus der öffentlich-rechtlichen Verfassung des WDR, seinem Programmauftrag und seinen Programmgrundsätzen ergeben.
Neben den Punkten Rechtmäßigkeit, Verantwortlichkeit und Transparenz betrifft dies vor allem seinen gesellschaftlichen Auftrag, durch vielfältiges, umfassendes, inklusives, wahrhaftiges und unabhängiges Programm Medium und Faktor des Prozesses freier individueller und öffentlicher Meinungsbildung zu sein. aus "Grundsätze für den KI-Einsatz im WDR"
Thema Transparenz steht im Zentrum
Ein wichtiger Aspekt bei der Bewertung konkreter Anwendungsideen für Nutzerinnen und Nutzer steht im Zentrum: Transparenz. In welchen Fällen und in welcher Weise müssen wir den Einsatz von KI erkennbar machen, damit unser Programm glaubwürdig bleibt? Wir haben uns im WDR darauf verständigt, dass wir dann auf den Einsatz von KI hinweisen, wenn ansonsten Irritationen oder ein falscher Eindruck der Realität entstehen könnte. Werden beispielsweise Bilder und Grafiken online bzw. im Fernsehen oder Stimmen in einem Hörfunk-Beitrag künstlich erstellt, so informieren wir darüber im entsprechenden Fernseh-, Hörfunk- oder Online-Beitrag. Uns leitet dabei die Frage, ob bei Nutzer:innen und Nutzern der Eindruck entstehen könnte, KI-generierte Inhalte seien real. Wenn KI bei der Recherche, einer Übersetzung von fremdsprachigen Texten oder etwa bei der Navigation zum Drehort genutzt wurde, ist kein Hinweis sinnvoll. Das gilt auch für die Erstellung fiktionaler Inhalte. Weitere Informationen zum Umgang mit KI im WDR:
Überblick über die Grundsätze für den Einsatz Künstlicher Intelligenz im WDR
Der WDR steht dem Einsatz Künstlicher Intelligenz (KI) aufgeschlossen gegenüber. Er sieht in KI ein nützliches Werkzeug, das seinen Beschäftigten die Erfüllung ihrer Aufgaben erleichtert und ihnen mit erweiterten Funktionen behilflich ist. Der WDR erhofft sich dadurch Chancen für einen effizienteren Betrieb. Zudem hofft der WDR, die Gesellschaft in ihrer Breite und Vielfalt noch besser zu erreichen durch den Einsatz von KI für die Konzeption, Produktion und Distribution von Medieninhalten, auch bei gleichbleibenden oder abnehmenden Ressourcen. Hierzu gelten für den Einsatz künstlicher Intelligenz im WDR folgende Grundsätze:
1. Der Einsatz von Künstlicher Intelligenz im WDR muss den Werten und Zielen des WDR dienen, insbesondere wenn es um eine Veränderung oder Erzeugung von Medieninhalten durch Künstliche Intelligenz geht.
2. Jedes KI-System wird vor Einführung im WDR durch die jeweils verantwortliche Direktion auf Chancen und Risiken bewertet. KI-Anwendungen, die Medieninhalte erzeugen oder verändern, müssen durch die Programmdirektionen sowohl grundsätzlich wie auch hinsichtlich der Produktverantwortung förmlich abgenommen werden.
3. Die Verantwortung für Veröffentlichungen liegt immer bei Verantwortlichen Redakteurinnen und Redakteuren. Programmverantwortung kann nicht von einem KI-System getragen werden. Der Einsatz von KI ändert nichts an der Gültigkeit der bestehenden programmrechtlichen Rahmenbedingungen.
4. KI-Systeme des WDR werden so geplant, eingerichtet und betrieben, dass sie nicht zu einer Benachteiligung von bestimmten Menschen oder Gruppen führen und das Programm bestmöglich die gesellschaftliche Vielfalt der Meinungen abbildet.
5. Der WDR gewährleistet auch beim Einsatz von KI-Systemen den Schutz der Persönlichkeitsrechte, insbesondere personenbezogener Daten.
6. Der WDR kommuniziert und kennzeichnet wo, warum und wie er Künstliche Intelligenz nutzt - immer dann, wenn der Einsatz direkte programmliche Auswirkungen hat, z. B. wenn Berichte ganz oder teilweise mittels KI hergestellt wurden oder wenn der Einsatz für Nutzende irreführend sein könnte.
7. KI-Systeme im WDR werden so geplant, eingerichtet und betrieben, dass Beschäftigte bei Bedarf in die Prozesse des betreffenden Systems eingreifen sowie deren Betrieb aussetzen können und so die menschliche Entscheidungshoheit über die KI-Systeme gewahrt bleibt.
8. Der WDR befähigt alle Beschäftigten durch entsprechende Angebote zur Aus-, Fort- und Weiterbildung zu einem verantwortlichen und souveränen Umgang mit KI-Anwendungen.
"KI-Siegel" und Faktenchecker
Als weitere Maßnahme in Bezug auf die Transparenz seiner Inhalte erprobt der WDR zurzeit ein „KI-Siegel“, eine Art „digitalen Beipackzettel“. Als erstes öffentlich-rechtliches Medienhaus im deutschsprachigen Raum ist der WDR zwei Initiativen zur Kennzeichnung vertrauenswürdiger Inhalte beigetreten: der "Content Authenticity Initiative" (CAI) und der damit verbundenen "Coalition for Content Provenance and Authenticity" (C2PA). Dabei geht es um die eindeutige Kennzeichnung echter Videos, Fotos und Tonaufnahmen. Die Aufnahmen werden mit einem „digitalen Beipackzettel“ untrennbar verwoben, der genaue Angaben zur Aufnahme und zu jedem Bearbeitungsschritt enthält und vom Nutzer per Klick sichtbar gemacht werden kann.
Auch für Kolleg:innen im WDR ist es mitunter schwierig, gefälschte Inhalte zweifelsfrei zu erkennen. Der WDR hat daher ein Projektteam für Verifikation und Faktencheck eingerichtet, das flexibel und schnell auf Anfragen von Redaktionen reagieren kann und Inhalte unklarer Herkunft auch in der Hektik des Nachrichtenalltags überprüft. Mit dem Krieg in der Ukraine sind die Anfragen sprunghaft angestiegen, und viele der eingereichten Videos haben sich als Fälschungen herausgestellt.
Ausblick: "Große Veränderungskraft"
Und wo geht diese Reise hin? „Ich sehe KI als Werkzeug, das einige unserer Abläufe beschleunigen kann. Sie kann und wird aber die Arbeit von Journalistinnen und Journalisten nicht ersetzen. Am Ende braucht es immer den Menschen, der recherchiert, der Inhalte prüft und verantwortet“, sagt Jörg Schönenborn. Und Stefan Moll ergänzt: „Ich glaube, dass KI eine ähnlich große Veränderungskraft freigesetzt hat wie Online oder Social Media. Und genau wie das Internet und die Digitalisierung wird auch KI nicht wieder weg gehen.“
