Eine Pizzabestellung der Grünen auf einem Parteitag tritt eine Welle von KI-Fake-Bilder in sozialen Netzwerken los. Viele erscheinen ganz witzig. Experten sehen darin eine bedenkliche Entwicklung.
Nachdem die „Bild“ spitzgekriegt hatte, dass einige Grüne auf ihrem Parteitag vergangenes Wochenende in Karlsruhe Pizza bestellte und die Mutmaßung anstellte, das servierte Sellerie-Schnitzel verschmäht worden sei, wurde es für viele Beobachter lustig in sozialen Netzwerken. Unterdessen werfen Wissenschaftler einen eher kritischen Blick auf das Geschehen.
Was war passiert? Ein Bild des vermeintlichen Parteitags, übersät mit Pizzaschachteln, machte die Runde. Merkwürdig ineinander gestapelte Kartons und andere optische Ungereimtheiten legen sehr nahe, dass das Bild mithilfe von künstlicher Intelligenz (KI) erstellt wurde. Zumindest ginge das bedeutend schneller als eine händische Fälschung anzufertigen.
Auch die Grünen dementierten, dass das Bild den Parteitag zeige, alleine schon die Räumlichkeiten hätten ganz anders ausgesehen. Viele gingen in die Offensive, konterten mit KI-Bildern beispielsweise von überdimensionierten Pizzas vor der Grünen-Bundesgeschäftsstelle.
Bilder bleiben im Kopf
Was für manche nach einer unterhaltsamen Eskalation in sozialen Netzwerken klingt, verursacht bei Experten Bauchschmerzen. Denn zumindest auf den ersten Blick könnte das Bild für echt gehalten werden, wie die Politikwissenschaftlerin Maria Pawelec, die am Internationalen Zentrum für Ethik in den Wissenschaften (IZEW) der Uni Tübingen zu KI und Falschinformationen forscht, sagt. „Auch wenn die Echtheit des Bildes stark bezweifelt werden darf, wurde es von vielen mit entsprechenden politischen Überzeugungen für echt befunden und geteilt. Wir nennen das ‚Confirmation Bias’“, sagt Pawelec, „also wenn Falschinformationen in den eigenen Wissenskorpus eingefügt werden, weil sie zur eigenen Überzeugung und Erwartungshaltung passen.“
Motive wie das Pizza-Chaos bei den Grünen würden gezielt benutzt, um auf die Meinungsbildung Einfluss zu nehmen. Bilder blieben dabei noch stärker als Texte mit Falschangaben im Kopf, selbst wenn die Echtheit widerlegt werde, „vor allem dann, wenn sie auf polarisierte Gesellschaften treffen.“ Pawelec erinnert an ein KI-erstelltes Bild, das zeigt, wie Ex-US-Präsident Donald Trump angeblich verhaftet wurde. „Das Bild ist eine Fälschung, aber der psychologische Effekt bleibt.“
Kein Logo auf dem Bild gibt es
So verhalte es sich auch mit dem Pizza-Bild, trotz zahlreicher handwerklicher Schwächen. „Die Kartons sind teilweise verdächtig trapezförmig und verschwimmen merkwürdig miteinander“, sagt Pawelec. Mit Bildbearbeitungsprogrammen wie Photoshop wäre es ihrer Einschätzung nach realistischer geworden. Hundertprozentig festlegen will sie sich auf die Entstehungsgeschichte des Werks aber nicht.
Ganz ähnlich sieht es Jonas Fegert vom FZI Forschungszentrum Informatik in Karlsruhe. Auch er erkennt Trapeze, wo die Schachteln eigentlich quadratisch sein sollten. „Außerdem fehlt den Sonnenblumen die Tiefe, eine Wasserflasche in der Bildmitte wirkt unecht und keines der abgebildeten Logos ist ein echtes Grünen-Logo“, zählt er weitere Ungereimtheiten auf. Ob es wirklich eine KI-Kreation ist, vermag aber auch er nicht mit absoluter Sicherheit zu sagen.
Die Intention ist für ihn aber klar: Es handle sich um einen Fall von Desinformation über Grüne, die nicht für die Werte stehen, die sich nach außen hin vertreten. „Problematisch sind jedoch auch die Plattformmechanismen von sozialen Medien und Messaging Diensten“, sagt Fegert. Negative Emotionen seien von den Betreibern sozialer Netzwerke durchaus gewollt - aus ökonomischen Gründen. Das lässt sich nicht erst seit dem Grünen-Parteitag beobachten.
Sorge mit Blick auf Landtagswahlen und Europawahl
Bei den Bildern zum Pizzaberg auf dem Parteitag handelt es sich nicht um die einzigen Fälschungen, die in den vergangenen Tagen für Aufmerksamkeit im Netz gesorgt haben. Die Aktivisten des Zentrums für politische Schönheit bedienten sich KI-Technologie, um einen sogenannten Deepfake, ein mit Hilfe von KI veränderter Medieninhalt, in die digitale Welt zu setzen, in der Bundeskanzler Olaf Scholz ein vermeintliches Verbot der AfD verkündete – in Bewegtbild. Im März diesen Jahres ging eine KI-Version von Papst Franziskus viral, in der das katholische Kirchenoberhaupt einen großzügig geschnittenen weißen Wintermantel trug, der auch Rap-Stars gut gestanden hätte.
Sorge bereiten Jonas Fegert vom FZI auch die anstehenden Landtagswahlen und die Europawahl, bei der „das Thema zur Belastungsprobe werden könnte“, wie er sagt. Auch staatliche Akteure könnten digitale Fälschungen in den Umlauf bringen. „Es ist wichtig, dass wir uns im Vorfeld damit beschäftigen. Aber auch die Plattformbetreiber sind in der Pflicht, Fake-Content zu finden und ihn zumindest mit Warnhinweisen zu versehen“, sagt Fegert. Technisch seien die Möglichkeiten dazu gegeben.
Wie hoch die Gefahr von KI-Fälschungen mit Blick auf die kommenden Wahlen sind, lässt sich laut Maria Pawelec von der Uni Tübingen nicht mit Sicherheit sagen. Die Gefahr einer „Infokalypse“, wie manche Beobachter warnen, hält sie für überzogen. „Den einen Deepfake, der den Verlauf der Geschichte verändert, den gab es noch nicht“, sagt sie.