KI-Skandal im Radio: Interview mit einer Toten

Am 22. Oktober 2024 geriet OFF Radio Kraków, der digitale Ableger des öffentlich-rechtlichen „Radio Kraków“, in die Schlagzeilen, als bekannt wurde, dass der Sender ein Interview mit der verstorbenen polnischen Nobelpreisträgerin Wisława Szymborska ausgestrahlt hatte – generiert durch Künstliche Intelligenz (KI). Das umstrittene Interview ist Teil eines dreimonatigen KI-Experiments, das der Sender durchführt, um die Risiken und Möglichkeiten dieser Technologie zu erforschen.

Das Experiment, das als Pilotprojekt gestartet wurde, soll die Anwendung und Grenzen von KI in der Radiobranche ausloten und zur öffentlichen Debatte anregen. Zu diesem Zweck wurden drei virtuelle KI-Moderatoren geschaffen: Emilia „Emi” Nowak, Jakub „Kuba” Zieliński und Alex Szulc. Diese fiktiven Charaktere, die jeweils erfundene Lebensläufe und Berufe haben, moderieren das Programm zwei Stunden pro Tag und führen einmal pro Woche eine Musiksendung. Eine ihrer Aufgaben ist es, Gespräche mit verstorbenen polnischen Persönlichkeiten zu führen – darunter das umstrittene Interview mit Szymborska.

Das Interview selbst, bei dem Fragen von echten Journalisten gestellt wurden, sorgte für Empörung. Die Antworten der KI-Szymborska, die durch die KI-Software ChatGPT generiert wurden, stießen besonders deshalb auf Kritik, weil es Themen behandelte, die die Dichterin zu ihren Lebzeiten nie kommentieren konnte. So wurde sie beispielsweise nach ihrer Meinung zur Arbeit der Nobelpreisträgerinnen Han Kang und Olga Tokarczuk befragt – Autoren, die erst nach ihrem Tod geehrt wurden. Szymborskas „Antworten“ wirkten teils humorvoll, teils distanziert, und die künstliche Stimme betonte scherzhaft, dass sie den Nobelpreis als „peinlich“ empfunden habe und lieber über angenehmere Themen wie Katzen sprechen würde.

Das Interview wurde in Blöcken ausgestrahlt, wobei einige Hörer kritisierten, dass es keine ausreichenden Hinweise darauf gab, dass die gezeigte „Szymborska“ eine KI-Kreation war. Der Sender betonte jedoch, dass entsprechende Hinweise im Programm enthalten waren und versicherte, keine Täuschungsabsicht gehabt zu haben. Die Genehmigung für das Interview holte der Sender im Vorfeld bei der Wisława-Szymborska-Stiftung ein, und der Vorstand der Stiftung autorisierte die KI-generierten Antworten.

„Oh, liebe Emilia, ich freue mich, mit dir zu sprechen, obwohl… ehrlich gesagt, wäre es mir lieber, wenn du nicht mit diesem ernsten Nobelpreis anfängst. Es war mir immer peinlich, aber es ist besser, über etwas Angenehmeres zu reden, zum Beispiel … Katzen?“
(KI-Stimme von Wisława Szymborska).

Die Debatte entflammte nicht nur wegen des Inhalts des Interviews, sondern auch aufgrund rechtlicher und ethischer Bedenken. Marzena Paczuska-Tętnik, Mitglied des polnischen Rundfunkrats KRRiT, stellte die Frage nach der rechtlichen Verantwortung für derartige Deepfake-Interviews. Das Klonen der Stimme einer verstorbenen Person, kombiniert mit Inhalten, die sie zu ihren Lebzeiten nie hätte äußern können, warf rechtliche und moralische Fragen auf. Die Verwendung von KI, um verstorbene Personen zu „wiederbeleben“, berührt ethische Grundsätze und das Recht auf posthume Würde.

Parallel zu diesem Skandal geriet OFF Radio Kraków zusätzlich wegen der Entlassung von Mitarbeitern in die Kritik. Acht freie Mitarbeiter wurden im August 2024 entlassen, während das Programm neu strukturiert wurde. Einige der ehemaligen Mitarbeiter, darunter Mateusz Demski, sehen sich als Opfer des KI-Experiments und behaupten, durch die Technologie ersetzt worden zu sein, was der Sender jedoch zurückweist. Demski und andere starteten eine Petition, die den sofortigen Stopp des KI-Radios forderte und von fast 20.000 Menschen unterzeichnet wurde.

Das KI-Experiment bleibt jedoch nicht nur ein mediales Phänomen, sondern ist auch politisch brisant. Das polnische Kultur- und Digitalisierungsministerium wurde in die Diskussion eingeschaltet. Dariusz Standerski, Staatssekretär im Digitalisierungsministerium, forderte Informationen darüber, wie vertrauenswürdig die verwendete KI sei. Er verwies dabei auf den aktuellen AI Act der EU, der regeln soll, wie KI-Systeme verantwortungsvoll eingesetzt werden können. Standerski betonte, dass KI unter menschlicher Aufsicht bleiben und gesellschaftliche Spaltungen verhindern müsse.

Der Skandal um das KI-Interview und die Nutzung virtueller Moderatoren wirft grundsätzliche Fragen zur Zukunft des Journalismus auf. Der Einsatz von KI in der Medienlandschaft verändert nicht nur die Rolle menschlicher Moderatoren, sondern führt auch zu tiefgreifenden ethischen und rechtlichen Diskussionen, die weit über den aktuellen Skandal hinausgehen.

---

Update vom 28. Oktober 2024

Nach einer Woche: Aus für AI Radio in Polen

Beim öffentlich-rechtlichen OFF Radio Kraków kamen eine Woche lang KI-generierte Moderatoren zum Einsatz, deren Stimmen durch Sprachsynthese erzeugt wurden und deren Texte von ChatGPT geschrieben waren. Der öffentliche Druck wurde jedoch zu groß, und das Experiment wurde vorzeitig beendet.

„Wir waren Pioniere“, schreibt Mariusz Marcin Pulit, Chefredakteur von Radio Kraków, in einer internen E-Mail an die Mitarbeiter. „Unser Experiment wird von Soziologen und Medienwissenschaftlern analysiert werden.“ Er erwähnt jedoch auch, dass die Redaktion Hasskommentare erhalten habe.

Die Aufgabe des öffentlichen Rundfunks sei es, die sich verändernde Realität aufmerksam zu beobachten, Fragen zu stellen und Diskussionen über die Herausforderungen der modernen Zivilisation anzuregen. Dieses Experiment sollte Teil der Debatte „Künstliche Intelligenz – Was sie uns gibt, was sie uns nimmt“ sein. Laut Pulit wurde dieses Ziel erreicht.

Ursprünglich war das Experiment auf drei Monate angelegt. Doch bereits nach einer Woche waren so viele Beobachtungen und Meinungen gesammelt worden, dass eine Fortsetzung als unnötig erachtet wurde. Daher beendet OFF Radio Kraków die KI-gestützten Sendungen und kehrt zu einem musikbasierten Programm zurück.

Die Resonanz auf das digitale Nischenprojekt überraschte die Macher. Sie zeigte, wie viele Bereiche – wie Persönlichkeitsrechte, Kennzeichnung KI-gestützter Inhalte und Urheberrecht – noch unreguliert sind. Auch das hohe Maß an Emotionen und die Zuschreibungen falscher Absichten sowie die scharfen Urteile, die auf Basis fehlerhafter Berichte getroffen wurden, überraschten Pulit.

Marzena Paczuska-Tętnik, Mitglied des Rates der Landesmedienanstalt KRRiT, erinnert daran, dass ein Journalist die Wahrheit liefern und der Gesellschaft dienen soll. Sie verweist auf das polnische Pressegesetz, das das Recht gibt, Dienstbefehle abzulehnen, wenn diese die journalistischen Grundsätze von Zuverlässigkeit und Objektivität verletzen.

Paczuska-Tętnik kritisiert, dass KI-generierte Moderatoren Aufgaben ohne Widerspruch ausführen können. Der Ausschluss des menschlichen Faktors könne die Umsetzung unethischer Anweisungen fördern, besonders wenn politische Interessen involviert seien. Sie erinnert daran, dass die Redaktion weiterhin für die von KI generierten Inhalte verantwortlich ist.

Pulit betont, dass das Team von Beginn an Wert auf Transparenz legte und die KI-generierten Inhalte deutlich kennzeichnete. Es bestand keine Absicht, Menschen durch Maschinen zu ersetzen. Dennoch sei spürbar geworden, wie Fakten an Bedeutung verlieren könnten, wenn sie mit emotionalen Narrativen kollidieren. Das Projekt habe eine sachliche Diskussion über Chancen und Risiken der KI angestoßen.

Das Experiment wird nun von Professor Stanisław Jędrzejewski der Leon-Koźmiński-Akademie und Wissenschaftlern der Jagiellonen-Universität untersucht. Die Erfahrungen aus dem Projekt könnten möglicherweise in künftige Gesetzgebungen einfließen, so Pulit.

Weiterführende Informationen