46 - Wie viel KI ist drin im ORF?

Stefan Kollinger, ORF Technik | Dieter Bornemann, ORF-Redaktionsrat

Der Einsatz sogenannter „Künstlicher Intelligenz“ für Medien ist Gegenstand zahlreicher Debatten. Zuletzt war etwa Meredith Whittaker, Präsidentin der „Signal“-Stiftung in Wien und diskutierte zu Fragen der digitalen Zukunft u.a. mit dem Hauptberater der EU für digitale Fragen, Paul Nemitz im „DialogForum“. Auch ORF-intern wird diskutiert; Dieter Bornemann, Sprecher des ORF-Redaktionsrates bringt die Meinung auf den Punkt.

KI ist toll.
Aber nicht nur …

Künstliche Intelligenz (KI) macht vieles einfacher und bequemer. Doch die KI kann auch zur Gefahr für Journalismus und Demokratie werden. Deshalb ist es wichtig, klare Regeln für den Einsatz von KI im ORF zu definieren.

ChatGPT hat im Oktober 2022 eingeschlagen – schnell war klar, das ist etwas ganz Großes. Die KI als Wundertüte für alle Kreativen. Und für die Faulen. Und für alle dazwischen.

Die Entwicklung ist rasant: Zuerst ein Chat-Tool mit erstaunlichen Antworten. Dann MidJourney, das aus simplen Sätzen fantastische Bilder generiert. Und seit Kurzem können auch Videos aus einfachen Sätzen – sogenannten Prompts – erstellt werden. Eine neue, fantastische Welt tut sich auf.

Allerdings dürfen Fantasie und Journalismus nicht miteinander kollidieren. Das Problem: KI arbeitet mit Wahrscheinlichkeiten. Wie wahrscheinlich ist es, dass nach dem einen Wort das nächste kommt? Wenn die Trainingsdaten unzureichend oder falsch sind, kann es zu Verzerrungen oder gar Halluzination kommen. Das Ergebnis stimmt vielleicht zu 80 Prozent, der Rest kann erfundener Blödsinn sein. Oder die KI wird bewusst dazu benutzt, um Fake News zu generieren. Ein falscher Satz, der einem politischen Mitbewerber, einer politischen Mitbewerberin in den Mund gelegt wird, kann Wahlen beeinflussen.

Was möglich ist, wird auch gemacht werden. Irgendwer findet sich immer. Aber wir im ORF dürfen nicht alles machen, nur weil es möglich ist. Die Glaubwürdigkeit unserer Arbeit muss immer an erster Stelle stehen. Da darf es keine Kompromisse geben. Deswegen brauchen wir klare Regeln und Leitlinien für den Einsatz von KI im ORF.

Übersetzungen, Rechtschreibprüfung, Datenvisualisierung, Bildersuche, Recherchetool, Speech-to-Text, … ja klar. Das eröffnet neue Möglichkeiten für Qualität und Quantität unserer Arbeit. Es muss aber auch klare Grenzen geben: Was wir auf Sendung bringen, muss echt sein und nicht künstlich generiert.

Wir dürfen niemanden mit der eigenen Stimme etwas sagen lassen, was so nie gesagt wurde. Wir dürfen keine Bilder für die Berichterstattung „erfinden“, nur weil sie spektakulärer aussehen oder weil es kein echtes Bildmaterial gibt. Info-Moderator:innen dürfen auf Sendung nicht KI-gestützt Dinge sagen, die sie in der Realität nie gesagt haben.

Die Grundlagen für unser Leitlinien müssen sein:

KI ist ein Werkzeug und kein Ersatz für journalistische Arbeit.
Die Verantwortung liegt immer in der Redaktion, Stichwort „Human-in-the-Loop“. Es dürfen also KI-Inhalte nicht automatisch – ohne redaktionelle Kontrolle – veröffentlicht werden.
Glaubwürdigkeit ist unser höchstes Gut – die dürfen wir nicht durch „erfundene Realität“ im Newsbereich gefährden.
Transparenz gegenüber unserem Publikum: Wenn die KI einen wesentlichen Teil eines journalistischen Produktes erstellt hat, dann weisen wir das transparent aus.

Unser Publikum muss sich darauf verlassen können: ORF-Nachrichten sind echt, überprüft, unabhängig und damit glaubwürdig. KI ist nicht zwangsläufig nur eine Bedrohung für den Journalismus, sondern kann auch ein Werkzeug für besseren Journalismus sein. .

Zuletzt hat sich auch FH-Prof. Dr. Reinhard Christl im Rahmen einer Studie mit der Frage befasst; zur digitalen Zukunft und öffentlich-rechtlichen Algorithmen veröffentlichten auch Prof. Dr. Uwe Hasebrink, PD Dr. Jan-Hinrik Schmidt und Dr. Stephan Dreyer vom Hans-Bredow-Institut ihre Analysen auf zukunft.ORF.at. Auch die nächste Public Value Studie wird sich dem Thema widmen und eine Analyse verschiedener Projekte öffentlich-rechtlicher Medien zum Einsatz von KI veröffentlichen


Der Innovation Officer des ORF, Stefan Kollinger, treibt die Technologie voran.

Die Welt des Journalismus und der Medien befindet sich im stetigen Wandel. Einer der Haupttreiber dieser Veränderung ist die rasante Entwicklung der Künstlichen Intelligenz. Der ORF, als größtes Medienhaus Österreichs, hat die Zeichen der Zeit erkannt und setzt sich intensiv mit den Möglichkeiten und Herausforderungen der KI auseinander.

Mit der Initiative „AI DAY“ schafft der ORF einen Raum für die Zukunft. Hier kommen Kolleg:innen aus unterschiedlichen Abteilungen, interne und externe Expert:innen zusammen, um sich über die Potenziale der KI im Medienbereich auszutauschen. Die Veranstaltungen locken namhafte Unternehmen an, die mit ihren Vorträgen über generative KI, synthetische Daten und vielfältige Anwendungen in Verwaltung, Content Produktion und Distribution inspirieren.

Das Herzstück dieser Initiativen ist das ORF AI LAB – ein kreativer und technologischer Inkubator, der als Drehscheibe für KI-Aktivitäten dient. Unter dem Motto „Join Forces“ initiiert dieses Lab innovative Projekte, die zeigen, wie KI die Welt der Medien verändern könnte. Ein greifbares Produkt dieser Innovationskultur ist der AiDitor, eine hauseigene Entwicklung des ORF, die als eigenständige Webanwendung fungiert. Dieses Tool bündelt verschiedene KI-Dienste und bietet Nutzern einen „Playground“, um die Möglichkeiten der KI unkompliziert im Arbeitsalltag zu erleben. Der AiDitor ermöglicht die Erstellung von Texten, Bildern, Audio, Social-Media-Posts, Übersetzungen und Transkriptionen sowie einer Chat-Funktion. Ziel ist es, die Arbeit zu vereinfachen, die technologische Führungsrolle des ORF im spannenden Feld der KI zu sichern und den weiteren Ausbau multimedialer Workflows und Produkte zu unterstützen.

Doch der Einsatz von KI im Journalismus geht weit über den ORF hinaus. Weltweit nutzen Medienunternehmen KI-Technologien, um Prozesse zu automatisieren, Inhalte zu personalisieren, neue Formate zu entwickeln und vieles mehr. Algorithmen unterstützen Journalist:innen bei der Recherche, der Datenanalyse und der Erstellung von Texten. Chatbots übernehmen die Kommunikation mit Leser:innen und Publikum. KI-gestützte Empfehlungssysteme sorgen dafür, dass User:innen die für sie relevanten Inhalte finden und noch viel mehr entdecken können. Die Möglichkeiten der KI im Journalismus sind faszinierend, doch sie bringen auch Herausforderungen mit sich. Wie können wir sicherstellen, dass KI-generierte Inhalte den journalistischen Qualitätsstandards entsprechen? Wie verhindern wir, dass Algorithmen Stereotype reproduzieren oder Falschinformationen verbreiten? Und wie gestalten wir die Zusammenarbeit an der Schnittstelle Mensch und Maschine so, dass die Kreativität und Expertise der Journalist:innen und Medienschaffenden sich generell weiterhin produktiv und positiv entfalten kann?

Der ORF stellt sich diesen Fragen mit Offenheit und Gestaltungswillen. Die AI DAYs sind mehr als eine Veranstaltungsreihe, sie sind ein Bekenntnis zur Zukunft, in der Technologie und Inhalte Hand in Hand gehen. Durch den Austausch mit Expert:innen, die Förderung interner Innovationen und die kritische Reflexion der aktuellen Entwicklung leistet der ORF einen wichtigen Beitrag zur verantwortungsvollen Gestaltung des Journalismus von morgen.

Zuletzt hat sich auch FH-Prof. Dr. Reinhard Christl im Rahmen einer Studie mit der Frage befasst; zur digitalen Zukunft und öffentlich-rechtlichen Algorithmen veröffentlichten auch Prof. Dr. Uwe Hasebrink, PD Dr. Jan-Hinrik Schmidt und Dr. Stephan Dreyer vom Hans-Bredow-Institut ihre Analysen auf zukunft.ORF.at. Auch die nächste Public Value Studie wird sich dem Thema widmen und eine Analyse verschiedener Projekte öffentlich-rechtlicher Medien zum Einsatz von KI veröffentlichen.

#unternehmenswert