KI in der Nachrichtenproduktion

CGI entwickelt und vertreibt unter anderem Newsroom-Systeme. In diesem Beitrag äußert sich der Hersteller dazu, welchen Einfluss generative KI in diesem Bereich aktuell hat und künftig haben könnte. 

Der Einsatz von künstlicher Intelligenz (KI) im Rundfunk im Allgemeinen und in der Nachrichtenredaktion im Besonderen ist kein neues Phänomen. In den vergangenen Jahren haben KI-gestützte Tools dazu beigetragen, journalistische Arbeitsabläufe umzugestalten, indem sie es den Nutzern ermöglichen, verschiedene Aspekte ihrer täglichen Aufgaben zu automatisieren.

Diese Tools sind auch immer leistungsfähiger geworden. So sind beispielsweise KI-gestützte Transkriptions-Tools immer zuverlässiger geworden, da ein höherer Prozentsatz der transkribierten Wörter korrekt ist. Diese Genauigkeit wiederum hat es ermöglicht, dass sie zur Beschleunigung des Redaktionsprozesses eingesetzt werden können, indem Redakteure beispielsweise eine automatisch generierte Transkription eines Interviews nach bestimmten Stichworten durchsuchen.

Doch selbst angesichts dieses bereits beachtlichen Fortschritts ist die Beschleunigung der KI-Entwicklung, die wir in den vergangenen Monaten beobachten konnten, bemerkenswert.

Der Einzug der generativen KI-Technologie in den Mainstream, beginnend mit dem Dall-E-Bildgenerator von Open AI und später mit dem KI-gestützten Chatbot ChatGPT des Unternehmens, hat zahlreiche Branchen auf den Kopf gestellt. Der öffentliche Start von ChatGPT ist noch kein Jahr her — November 2022, um genau zu sein — aber bereits jetzt geben erstaunliche 49 % der Redaktionen an, dass sie »aktiv« mit generativen KI-Tools arbeiten.

Und auch die Zahl der Unternehmen, die aktiv in diesem Bereich entwickeln, steigt ständig an. Im März 2023 identifizierte »Daybreak Insights« über 100 Unternehmen, die generative KI in 10 verschiedenen Anwendungsfallkategorien einsetzen, von der Textzusammenfassung über die Codierung bis hin zu virtuellen Assistenten.

Man kann davon ausgehen, dass diese Zahlen noch höher sein werden, wenn Sie dies lesen.

KI im aktuellen Newsroom

Betrachten wir zunächst die wichtigsten aktuellen Anwendungsfälle für generative KI in der Nachrichtenredaktion.

● Recherche und Vorschlagswesen: Einfaches Recherchieren von Themen und schnelles Generieren von Story- oder Themenvorschlägen mit mehreren Blickwinkeln und Iterationen
● Zusammenfassungen erstellen: Schnelles Zusammenfassen von Geschichten oder Agenturmeldungen für die automatische Ausgabe in Tickern und Schlagzeilen
● Analyse: Analyse von Textinhalten aus Meldungen, Stories und mehr, um tiefere Einblicke in einzelne Themen zu gewinnen und Themencluster zu erstellen
● Erstellen von Social Posts: Generieren von Tweets oder anderen Social-Media-Posts direkt aus einer Meldung, einschließlich Hashtags
● Übersetzen: Übersetzen von Textinhalten in eine oder mehrere Sprachen zur gleichen Zeit für eine mehrsprachige Ausgabe
● Umformulierung von Text: Umformulierung von Textinhalten entsprechend den Anforderungen und Bedürfnissen verschiedener Märkte, um schnell verschiedene Skripte zu erstellen, etwa für Nachrichten zur Mittagszeit und Analysesendungen am Abend

All dies sind leistungsstarke Werkzeuge, deren potenzielle Auswirkungen auf die Produktivität enorm sein können. Unternehmen wenden zunehmend Ressourcen auf, um ihre Software so zu optimieren, dass sie bei sich wiederholenden Aufgaben im Laufe eines Arbeitstages einzelne Mausklicks und Tastenanschläge einsparen — das verbessert die Ergonomie, und in der Summe der Einsparungen ist sie auch ein wichtiges Verkaufsargument. Generative KI greift dieses Konzept auf und setzt es um, so dass die Nutzer viel Zeit sparen können und im Gegenzug produktiver und kreativer sein können. Kurz gesagt: In einem modernen, auf Geschichten ausgerichteten Workflow sollte generative KI Journalisten und Redakteure in die Lage versetzen, bessere Geschichten zu erzählen.

Es gibt jedoch viele Vorbehalte, sowohl technischer als auch ethischer Art, und wir glauben, dass der Schlüssel zum erfolgreichen Einsatz generativer KI im Jahr 2023 in ihrer Einführung als Teil einer »Human-in-the-Loop«-Strategie liegt.

Das entscheidende menschliche Element

Es gibt zahlreiche Beispiele dafür, dass die aktuelle Generation von generativen KI-basierten Chatbots Dinge falsch versteht. Diese von der Branche als »Halluzinationen« bezeichneten Irrtümer werden durch die Tatsache verschlimmert, dass sie mit derselben Überzeugung vorgetragen werden wie die Wahrheit.

Das vielleicht berühmteste Beispiel war die überstürzte Einführung der Bard-KI von Google, bei der die KI selbstbewusst behauptete, das kürzlich gestartete James-Webb-Weltraumteleskop habe das erste Bild eines Exoplaneten außerhalb des Sonnensystems aufgenommen. Tatsächlich hatte das Very Large Telescope der NASA dies bereits 19 Jahre zuvor getan, und dieser einzige Fehler und die Zweifel, die er in den Köpfen der Menschen an der Genauigkeit des Systems säte, trugen dazu bei, dass der Marktwert der Muttergesellschaft Alphabet an einem einzigen Tag um 100 Milliarden Dollar sank.

Die Lektion, die hier erteilt wurde und die in den Nachrichtenredaktionen der Welt sehr gut verstanden wird, ist, dass Reputationsschäden reale Konsequenzen haben.

Die großen Sprachmodelle, die der generativen KI zugrunde liegen, erfordern eine ständige Überprüfung der Fakten und Querverweise auf ihre Ergebnisse, um deren Genauigkeit zu gewährleisten. Würde man den Menschen aus diesem Prozess herausnehmen, käme es häufig zu zahlreichen Fehlern, von denen viele für jede Nachrichtenredaktion katastrophale Folgen haben könnten. Und es wächst die Sorge, dass die nächste Generation von LLMs noch fehleranfälliger sein könnte als bisher, da sie wahrscheinlich auf neueren Internet-Datensätzen trainiert werden, die nun von generativer KI erzeugte, fehlerbehaftete Inhalte enthalten.

Mit anderen Worten: Es handelt sich um eine Rückkopplungsschleife, die möglicherweise noch mehr Halluzinogene in den Mix einbringt, während die Werkzeuge zu deren Aussortierung ebenfalls immer leistungsfähiger werden.

Aber es geht nicht nur um Fehler, sondern auch um Kreativität und Urteilsvermögen. KI-Tools sind für sich genommen nicht kreativ. Sie benötigen menschliche Eingaben — derzeit noch in Form von Textaufforderungen, demnächst auch in verbaler Form — um Inhalte zu produzieren. Sie sind nicht in der Lage, die Geistesblitze zu erzeugen, die eine gute Nachrichtensendung ausmachen, sei es eine Idee für einen Dokumentarfilm oder die beharrliche Verfolgung einer Frage an einen Politiker. Und sie sind gewiss nicht in der Lage, die ethischen Überlegungen zu berücksichtigen, die mit ihrer Arbeit verbunden sind, die Folgen, die sie haben können, und die Werte, die sie vertreten.

Im Moment sind solche Überlegungen nur menschlich, und es bedarf oft noch jahrzehntelanger Ausbildung und Erfahrung, um wirklich alle Nuancen vieler alltäglicher redaktioneller Entscheidungen in den Nachrichtenredaktionen auf der ganzen Welt zu verstehen.

Der neue Goldstandard

Bei Routinejobs kann generative KI helfen. Bei der frühen Einführung von KI in der Branche ging es deshalb auch vor allem darum, alltägliche Aufgaben zu automatisieren. Die generative KI ist noch einen Schritt weiter gegangen und hat zur Automatisierung von immer komplizierteren Teilen des Redaktions-Workflows geführt. Doch in einem komplexen Arbeitsumfeld, in dem viele Fähigkeiten mit der Notwendigkeit einhergehen, ständig schnelle ethische Entscheidungen zu treffen, und in dem das Primat der Fakten entscheidend ist, ist KI nach wie vor überfordert.

Aus diesen Gründen sehen wir den Goldstandard der aktuellen Medienproduktion in der generativen KI in Verbindung mit Human-in-the-Loop-Produktionsmethoden. KI-Tools werden es den Teams ermöglichen, mehr zu tun und bessere Inhalte zu produzieren als bisher, und das unter dem Zeitdruck der modernen Nachrichtenredaktion. Aber zumindest im Moment sehen wir die alleinige KI-gestützte Erstellung von Inhalten nicht als praktikabel, stabil oder gar wünschenswert an.

Das könnte sich in Zukunft ändern. Die Geschwindigkeit des Fortschritts ist schwindelerregend, und da wir uns dem einjährigen Jubiläum der Veröffentlichung von Chat GPT nähern, müssen wir anerkennen, dass wir alle in einer grundlegend veränderten Branche arbeiten. Aber die Gesetzgeber kommen der Entwicklung langsam hinterher. Es gibt auch einiges an Unbehagen angesichts möglicher Richtungen, die KI einschlagen könnte. Das könnte dazu führen, dass mehr und mehr erkannt wird, dass die Einbindung des Menschen derzeit der beste Weg ist, mit Disruptionen, die KI mit sich bringt, umzugehen.