Künstliche Intelligenz kann Nachrichtentexte so überzeugend formulieren, dass Leser:innen den Unterschied zu journalistisch verfassten Artikeln kaum erkennen. Das zeigt eine aktuelle Studie der Universität Zürich. Ohne Kenntnis der Entstehungsgeschichte bewerteten Studienteilnehmer:innen KI-generierte Texte ähnlich gut wie Texte aus einer Redaktion.
Ein Team um den Politikwissenschaftler Fabrizio Gilardi legte im Mai 2024 insgesamt 599 Personen aus der Deutschschweiz kurze Ausschnitte aus SRF-Artikeln zur Schweizer Politik vor. Zum Vergleich erhielten die Teilnehmer:innen auch Versionen derselben Texte, die mit KI-Unterstützung oder vollständig mit ChatGPT erstellt worden waren. Welche Texte von Menschen und welche von einer Maschine stammten, wussten die Befragten nicht.
Das Ergebnis: Die verschiedenen Textversionen wurden hinsichtlich Glaubwürdigkeit, Lesbarkeit und fachlicher Qualität praktisch gleich bewertet. Die Studie, die im Fachjournal Scientific Reports erschienen ist, kommt zum Schluss, dass eine Beteiligung von KI die wahrgenommene Qualität eines Textes nicht mindert.
Für Fabrizio Gilardi wirft das Fragen für den Journalismus auf: «Die Ergebnisse wecken durchaus berechtigte Sorgen. Wenn KI-Texte nicht mehr an der Qualität erkennbar sind, verschwimmt die Grenze zwischen menschlichem und maschinellem Journalismus. Doch KI muss keine Bedrohung sein, sofern ihr Einsatz transparent erfolgt und die menschliche redaktionelle Verantwortung erhalten bleibt.»
Gute Bewertung bedeutet nicht mehr Vertrauen
Die Studie zeigt jedoch auch eine wichtige Einschränkung: Die positive Bewertung einzelner Texte führt nicht automatisch dazu, dass Leser:innen künftig häufiger KI-generierte Nachrichten lesen möchten.
Nach der Offenlegung der KI-Beteiligung stieg zwar die Bereitschaft, einen Text weiterzulesen. Gilardi erklärt dies jedoch nicht mit einem grösseren Vertrauen in künstliche Intelligenz: «Wer einen Text soeben positiv bewertet hat und dann erfährt, dass KI im Spiel war, will oft nochmals hinschauen, teils aus Neugier, teils um zu prüfen, ob sich doch Spuren der Maschine finden lassen.»
Der Effekt sei kurzfristig: «Das ist kurzfristiges Interesse, kein Vertrauensbeweis.»
Auch die allgemeine Haltung gegenüber KI-Nachrichten änderte sich nicht wesentlich. Die Bereitschaft, künftig KI-generierte Nachrichten zu lesen, stieg nicht signifikant. Andere Untersuchungen zeigen weiterhin Vorbehalte: Gemäss dem Jahrbuch Qualität der Medien des Forschungszentrums Öffentlichkeit und Gesellschaft Fög würden nur knapp 24 Prozent der Befragten Texte lesen, die vollständig von KI erstellt wurden. Auch der Digital News Report des Reuters Institute bestätigt die anhaltende Skepsis gegenüber KI-generierten journalistischen Inhalten.
Halluzinationen bleiben ein zentrales Problem
Besonders relevant ist ein weiterer Befund der Studie: Bei einem der verwendeten Texte erzeugte die KI eine nicht vorhandene Umfrage und ein erfundenes Zitat. Die Studienteilnehmer erkannten diese Fehler nicht und bewerteten den Artikel trotzdem ähnlich gut wie die menschlich verfassten Texte.
Gilardi sieht darin eine zentrale Herausforderung: «Solche unauffälligen Halluzinationen können Leserinnen und Leser kaum selbst überprüfen. Das zeigt, dass wahrgenommene Glaubwürdigkeit und faktische Korrektheit auseinanderfallen und menschliche redaktionelle Kontrolle unverzichtbar bleibt.»
Die Untersuchung beschränkte sich auf Texte zur Schweizer Lokalpolitik, die aus einem Pool von SRF-Artikeln stammten. Diese Eingrenzung war bewusst gewählt: «Wir mussten zwei Ziele ausbalancieren: eine gewisse Vielfalt und zugleich Vergleichbarkeit.»
Die Studie könne deshalb nicht die gesamte Bandbreite von Medien und Themen abbilden. Unterschiede seien etwa bei emotional oder politisch stärker aufgeladenen Themen möglich.
Transparenz statt einfaches KI-Label
Seit der Datenerhebung im Mai 2024 haben sich KI-Modelle weiterentwickelt. Für die untersuchte Aufgabe seien die damaligen Modelle jedoch bereits leistungsfähig genug gewesen, erklärt Gilardi: «Für die konkrete Aufgabe in unserer Studie, also kurze Nachrichtentexte umschreiben oder aus Titel und Lead erzeugen, waren die Modelle schon im Mai 2024 gut genug.»
Verändert habe sich vor allem die praktische Reichweite. Mit leistungsfähigeren Modellen könnten heute komplexere Abläufe umgesetzt werden. Dadurch würden Fragen nach Transparenz und redaktioneller Kontrolle im journalistischen Alltag noch wichtiger.
Bei der Kennzeichnung von KI-generierten Texten sieht Gilardi allerdings Grenzen: «Ein Label ist ein sehr grobes Signal.» Es sage wenig darüber aus, wie ein Text tatsächlich entstanden sei und wie gut er sei. Entscheidend sei deshalb nicht nur die Kennzeichnung, sondern das Vertrauen in Medien und Journalist:in.
Dieses Vertrauen entstehe vor allem durch nachvollziehbare Standards und klare Verantwortung: «Dieses entsteht eher durch nachvollziehbare redaktionelle Standards, die menschliche Aufsicht und Verantwortung klar benennen, als durch ein simples Label.»
persoenlich.com, persoenlich.com (Interview mit Fabrizio Gilardi)