SOLARIS-Projekt: Deepfakes sind schlecht für die Demokratie. Offizielle EU-Deepfakes sind gut für die Demokratie.

Die Antwort der Forscher lautet: Ja — vorausgesetzt, die richtigen Leute machen sie.

Der offizielle Name des Projekts lautet „Strengthening demOcratic engagement through vaLue-bAsed geneRative adversarIal networkS“ – kurz SOLARIS.

Von Februar 2023 bis Januar 2026 brachte das Projekt Forscher, Journalisten, Politiker und Bürger zusammen, um zu untersuchen, wie synthetische Medien das Vertrauen und die demokratische Teilhabe beeinflussen. Das Konsortium entwickelte außerdem eine eigene Plattform zur Erzeugung und zum Testen synthetischer Medien.

Demokratie an Europäern testen

SOLARIS erstellte KI-generierte politische Videos mit Donald Trump, Viktor Orbán, Justin Trudeau und Greta Thunberg und testete diese an mehr als 1.100 Personen in Italien, Slowenien und dem Vereinigten Königreich. Die Forscher wollten herausfinden, wie leicht Bürger synthetische politische Botschaften von der Realität unterscheiden können.

Die Antwort war nicht besonders ermutigend. Hochwertige Deepfakes waren erwartungsgemäß schwerer zu erkennen, aber selbst qualitativ minderwertige Versionen täuschten einen erheblichen Teil der Teilnehmer. Die Menschen erkannten Manipulationen zudem seltener, wenn die Person im Video politisch mit ihren eigenen Ansichten übereinzustimmen schien.

Mit anderen Worten: Nach drei Jahren Forschung hat das Projekt bestätigt, dass Menschen dazu neigen, Politikern zu glauben, die ihnen sagen, was sie ohnehin schon glauben.

Deepfakes für die richtigen Zwecke

SOLARIS beschränkte sich nicht auf bösartige politische Szenarien. Die Forscher erstellten auch angeblich positive synthetische Inhalte zu Themen wie psychische Gesundheit, Klimabewusstsein und Frauen in der Wissenschaft.

Das Projekt bezeichnete diese konstruktiven Produktionen als „wertbasierte“ KI-Inhalte, die demokratische Teilhabe, aktive Bürgerschaft und das Bewusstsein für Themen wie Klimawandel, Gender und Migration fördern sollten.

Ein gefälschtes Video, das zur Unterhaltung dient, ist gefährliche Desinformation.

Ein gefälschtes Video, das Bürger in Richtung genehmigter sozialer Ziele lenken soll, ist demokratische Partizipation.

Fazit

SOLARIS arbeitete mit der italienischen Nachrichtenagentur ANSA zusammen, um gefälschte politische Ankündigungen und inszenierte öffentliche Vorfälle zu erstellen. Journalisten wurden dann unter realen Redaktionsbedingungen gestellt und sollten entscheiden, ob die Szenarien echt waren.

Die Journalisten verließen sich dabei weniger auf technische Fehler wie seltsame Gesichtsbewegungen oder defekte Lippen-Synchronisation, sondern eher auf Kontext, Bestätigung durch vertrauenswürdige Quellen und die Herkunft des Materials. Die Übung zeigte, dass Falschinformationen sich schnell verbreiten und auch nach Richtigstellungen noch wirksam bleiben können.

Das ist vermutlich der Grund, warum die eigenen Deepfakes des Projekts nie veröffentlicht wurden. Die europäische Öffentlichkeit darf daher nicht überprüfen, was 2,76 Millionen Euro und drei Jahre koordinierter Forschung tatsächlich hervorgebracht haben.

Währenddessen erstellen Teenager und Autisten im offenen Internet seit Jahren mit handelsüblichen Grafikkarten immer überzeugendere synthetische Videos. Ohne 2,76 Millionen Euro Förderung. Ohne interdisziplinäres Konsortium. Ohne Ethikprüfungen. Nur eine ordentliche GPU und etwas Freizeit.

Dass das SOLARIS-Team seine experimentellen Deepfakes nicht veröffentlicht hat, sollte man daher nicht als Beleg für mangelnde Qualität interpretieren, sondern als Ausdruck verantwortungsvoller Zurückhaltung. Denn niemand auf der Welt produziert bessere Deepfakes als die Europäische Union.