Kaum ein The­ma macht in letz­ter Zeit so vie­le Schlag­zei­len wie die Künst­li­che Intel­li­genz. Kaum eine Bran­che, kaum ein Beruf, der sich nicht bedroht fühlt. Womög­lich wer­den bald auto­no­me, sprich von KI gesteu­er­te Waf­fen unter­wegs sein. Jede Nach­richt muss zunächst ein­mal in Zwei­fel gezo­gen wer­den. Aber auch die Poli­tik muss sich Sor­gen machen, kön­nen sich doch weder Poli­ti­ker noch Wäh­ler dar­auf ver­las­sen, was sie da hören, was sie da sehen, sei­en es per­sön­li­che Angrif­fe, sei­en es Aus­sa­gen von Poli­ti­kern aus dem Aus­land. Wie soll man da noch sei­ne Ent­schei­dun­gen fällen. 

»Wir wer­den nächs­tes Jahr eine Men­ge KI-gene­rier­ten Con­tent sehen … Wenn wir dem nicht zuvor­kom­men, wird die Wahl im nächs­ten Jahr von künst­li­cher Intel­li­genz domi­niert.«¹ Die­se war­nen­den Wor­te sprach 2023 Bla­ke Lemoi­ne, ein ehe­ma­li­ger Soft­ware-Inge­nieur, der bei Goog­le für die ethi­schen Aspek­te von KI zustän­dig war. »Und die­se Sys­te­me«, so führ­te er aus, »sind aus­ge­spro­chen intel­li­gent und über­zeu­gend. Es wür­de mich nicht wun­dern, wenn die Wahl­kampf­re­den des einen oder ande­ren Kan­di­da­ten auf der Basis von Daten­ana­ly­sen von einer KI geschrie­ben wür­den. Die Trump-Kam­pa­gne [2015] ana­ly­sier­te eine Men­ge Daten, tes­te­te rei­hen­wei­se Slo­gans auf ihren Anklang beim Publi­kum. Und jetzt, mit den neu­en KI-Sys­te­men, bin ich in der Lage, anhand die­ser Daten­men­ge ein­fach genau die Rede zu gene­rie­ren, die beim Publi­kum die am bes­ten ankommt. Und dann natür­lich, auf der dunk­le­ren Sei­te, las­sen sich Falsch­in­for­ma­tio­nen über den Geg­ner kre­ieren.«² Lemoi­ne ver­lor sei­nen Job, nach­dem er öffent­lich behaup­tet hat­te, dass Goo­gles Chat­bot-Gene­ra­tor LaM­DA eine Per­sön­lich­keit, eine See­le, ent­wi­ckelt hät­te.³

Wir brau­chen jedoch gar nicht so weit zu gehen und den Geist in der Maschi­ne sehen, um zu ver­ste­hen, wie sehr Daten an sich schon Ein­fluss auf einen Wahl­kampf neh­men kön­nen. Den­ken wir nur an den geziel­ten Ein­satz von Bots mit Trump-freund­li­chen Bot­schaf­ten in den sozia­len Netz­wer­ken bei der Prä­si­dent­schafts­wahl 2015. 40.000 bis 50.000 maß­ge­schnei­der­te Wer­be­bot­schaf­ten wur­den da täg­lich an Adres­sa­ten ver­schickt, deren Reak­ti­on – in Form von Likes, Shares und Ant­wor­ten – aus­ge­wer­tet und zum Fein­schliff der jewei­li­gen Bot­schaft ver­wen­det wur­de.⁴ Den­ken wir zurück an den Skan­dal um die Daten­ana­ly­se-Fir­ma Cam­bridge Ana­ly­ti­ca, die bei Face­book Nut­zer­da­ten zu eben die­ser Art von Micro-Tar­ge­ting erwor­ben hat­te.⁵

In die­sen und ähn­li­chen Fäl­len ging es noch um den Ein­satz mas­si­ver Daten­men­gen für Mani­pu­la­tio­nen von Men­schen­hand. Künst­li­che Intel­li­genz geht da einen Schritt wei­ter. Hier wer­den nicht nur Daten, son­dern auch Bild und Stim­me zur Ver­brei­tung von Infor­ma­tio­nen benutzt. Neh­men wir nur die Robo­calls, mit denen in New Hamp­shire Joe Bidens Stim­me die Wäh­ler bei den Vor­wah­len tele­fo­nisch auf­for­der­te, ihre Stim­me für die »eigent­li­che Wahl auf­zu­spa­ren«, mit ande­ren Wor­ten, bei der Vor­wahl nicht wäh­len zu gehen. Es genü­gen eini­ge Ton­auf­nah­men des Prä­si­den­ten, um ihn mit­tels KI sagen zu las­sen, was immer man will.⁶ Noch wirk­sa­mer wird das unter Ein­satz von Bild- und Video­ma­te­ri­al in Form von Deep-Fakes wie etwa im Fal­le des dys­to­pi­schen 30-Sekun­den-Spots »Beat Biden«, mit dem die Repu­bli­ka­ner auf die Bekannt­ga­be von Joe Bidens Kan­di­da­tur reagier­ten: »Wie wir soeben erfah­ren, kön­nen wir Joe Biden zum Sie­ger der Prä­si­dent­schafts­wahl erklä­ren«, lau­tet der Text im Stil einer Nach­rich­ten­sen­dung. Die Schlag­zei­le unter einem strah­len­den Joe Biden lau­tet: »Was, wenn der schwächs­te Prä­si­dent, den wir je hat­ten, wie­der­ge­wählt wür­de?« Dann beginnt eine Auf­zäh­lung von Kata­stro­phen­mel­dun­gen: »Heu­te mor­gen fällt, dadurch ermu­tigt, Chi­na in Tai­wan ein. Die Finanz­märk­te sind im frei­en Fall, nach­dem 500 Regio­nal­ban­ken ihre Türen geschlos­sen haben. Grenz­schüt­zer wur­den ges­tern von einer Wel­le von 80.000 Ille­ga­len über­rollt. Der Stadt­rat von San Fran­cis­co schloss heu­te mor­gen die Stadt. Grund dafür, so heißt es, sei­en die eska­lie­ren­de Gewalt und die Fen­ta­nyl-Kri­se.« Hier­zu lau­tet die Schlag­zei­le: »Was, wenn wir kei­ne Gren­ze mehr haben?« Die düs­te­ren Auf­nah­men dazu könn­ten direkt aus einem Kata­stro­phen­film stam­men. »Wer hat hier das Sagen? Man könn­te mei­nen, dass hier ein Zug ent­gleist« heißt es dann. Unter dem Video heißt es, dass die Schlag­zei­len nicht echt sei­en, aber irgend­wie wird das Gan­ze wird prak­tisch als com­pu­ter­ge­nerier­te Hoch­rech­nung ver­kauft: »Ein KI-gene­rier­ter Blick auf die mög­li­che Zukunft unse­res Lan­des im Fal­le einer Wie­der­wahl Joe Bidens 2024.«⁷

Eine Rei­he selbst­ge­bas­tel­ter »Deep-Fakes« sind grot­ten­schlecht, aber wer schaut schon so genau hin, zumal wenn er auf den ers­ten Blick sieht, was er sehen will. Man über­sieht sogar, dass da einer drei Arme hat. Bes­ser sind da schon Dut­zen­de Fotos, die die Beliebt­heit von Trump unter Schwar­zen bele­gen sol­len. Eines zeigt ihn, umringt von Schwar­zen, die Hän­de um die Schul­tern zwei­er schwar­zer Frau­en rechts und links von ihm gelegt. Auf einem ande­ren sitzt er vor einem Haus mit einer Grup­pe Schwar­zer bei­sam­men.⁸ Ers­te­res wur­de vom Team eines rechts­las­ti­gen Radio-Mode­ra­tors aus Jack­son­ville, Flo­ri­da, mit Hil­fe eines AI-Diens­tes ange­fer­tigt; der Mode­ra­tor hat nach Bekannt­wer­den der Geschich­te sei­nen Job ver­lo­ren.⁹ Zwei­te­res stammt vom X‑Account eines Typs namens Shag­gy, einem Trump-Anhän­ger aus Michi­gan.¹⁰ Mil­lio­nen von Men­schen haben die­se KI-gene­rier­ten Fotos gese­hen. Unkom­men­tiert muss man schon sehr miss­trau­isch sein, die­se nicht für echt zu hal­ten, wenn man bei­läu­fig auf sie stößt. Es gibt so gut wie immer Hin­wei­se auf die Fäl­schung und auch eine Rei­he pro­fes­sio­nel­ler Diens­te im Web. Aber wenn wir so weit wären, dass jeder jede Infor­ma­ti­on wie ein News-Pro­fi angeht, dann hät­te sich das Phä­no­men erst gar nicht in dem Maß ent­wi­ckelt. Nicht zu ver­ges­sen, dass die Leu­te nun mal belo­gen wer­den wol­len.

Um auf die Gefah­ren von Deep-Fakes hin­zu­wei­sen, hat eine Jour­na­lis­ten-Grup­pe namens Ari­zo­na Agen­da ein Deep-Fake-Video der ehe­ma­li­gen Fern­seh­mo­de­ra­to­rin und Trump-Pro­pa­gan­dis­tin Kari Lake ange­fer­tig. Die­ses Video ist als Fäl­schung gekenn­zeich­net und warnt vor dem Ein­satz von KI bei den Wah­len im Novem­ber. »Will­kom­men in der beängs­ti­gen­den neu­en Zeit der KI-gene­rier­ter Deep-Fakes. Wir ste­hen erst am Anfang. Die Wahl von 2024 wird die ers­te in der Geschich­te sein, in der jeder Schwach­kopf mit einem Com­pu­ter im Hand­um­dre­hen über­zeu­gen­de Vide­os über gefak­te Ereig­nis­se von welt­wei­ter Bedeu­tung her­stel­len und sie der Welt prä­sen­tie­ren kann. Wir selbst nicht aus­ge­schlos­sen.«¹¹

Wir haben einen knien­den Donald beim Gebet und beim Geran­gel mit uni­for­mier­ten Poli­zis­ten, die ihn offen­sicht­lich fest­neh­men wol­len;¹² wir haben eine Audio­da­tei mit der Stim­me von Joe Biden, die unmit­tel­bar nach der Plei­te zwei­er gro­ßer Tech-Ban­ken erklärt, dass alles Geld futsch sei und ein Kol­laps unmit­tel­bar bevor­ste­he;¹³ wir haben ein Video, in dem Sena­to­rin Eliza­beth War­ren erklärt, man soll­te die Repu­bli­ka­ner von der Wahl aus­schlie­ßen;¹⁴ wir haben ein Video mit dem Schnip­sel aus der Rede einer offen­bar betrun­ke­nen Kama­la Har­ris;¹⁵ wir haben ein Foto, auf dem Trump den gebeu­tel­ten Dr. Fau­ci zeigt;¹⁶ wir haben Trump beim Tanz mit einem offen­sicht­lich min­der­jäh­ri­gen Mäd­chen;¹⁷ wir haben ein Video, in dem Biden Kiew mit der Krim ver­wech­selt (als müss­te man der­lei Schnit­zer fäl­schen).¹⁸ Man möch­te nicht wis­sen, wie vie­le sol­cher Fäl­schun­gen, von Mil­lio­nen für bare Mün­ze genom­men, in den sozia­len Netz­wer­ken zirkulieren. 

Ob all die getürk­ten Fotos, Vide­os und Audio sich tat­säch­lich auf die Wahl aus­wir­ken, sei dahin­ge­stellt. Aber jeder, der mal einer nega­ti­ven Falsch­mel­dung über einen sym­pa­thi­schen Star auf­ge­ses­sen ist, weiß sehr gut um die abträg­li­che Wir­kung sol­che Spe­renz­chen. Letzt­lich wer­den wir die Ant­wort auf die­se Fra­ge erst nach der Wahl erfah­ren, wenn sich, ver­mut­lich auf die Mel­dung eines Whist­le-Blo­wers, Jour­na­lis­ten und For­scher dahinterklemmen. 

Anmer­kun­gen

1. Bla­ke Lemoi­ne, Inter­view bei Bloom­berg TV. »Will Arti­fi­ci­al Intel­li­gence Play a Part in the 2024 Elec­tion« ´. Bloom­berg TV, You­Tube, 2023. ↩︎
2. Bla­ke Lemoi­ne, Inter­view … ↩︎
3. Nita­sha Tiku, »The Goog­le engi­neer who thinks the company’s AI has come to life«. The Washing­ton Post, June 11, 2022.Eva Wol­fan­gel, »Der Mann, der eine Künst­li­che Intel­li­genz als Per­son ansieht – und als Freund«. Riff Repor­ter, 12.01.2023. ↩︎
4. »Erklä­run­gen für Trumps uner­war­te­ten Sieg«, Wiki­pe­dia. ↩︎
5. Cam­bridge Ana­ly­ti­ca. Wiki­pe­dia. ↩︎
6. Mar­tin Hol­land, »Nach Anruf von gene­rier­tem Joe Biden: Robo­calls mit KI-Stim­men vor US-Ver­bot«. hei­se online, 01.02.2024. ↩︎
7. »What if Joe Biden, the wea­k­est pre­si­dent we’ve ever had, is re-elec­ted?« You­Tube, April 2023. ↩︎
8. Mari­an­na Spring, »Trump sup­port­ers tar­get black voters with faked AI images«. BBC Pan­ora­ma and Ame­ri­cast, 4 March 2024. ↩︎
9. Scott John­son, »Jack­son­ville-based radio host “fired” and cau­ses stir sha­ring AI gene­ra­ted pho­to of Trump with Black voters«. news4jacks, March 12, 2024. ↩︎
10. Mari­an­na Spring … ↩︎
11. Hank Ste­phen­son, »Kari Lake does us a solid: The for­mer news­cas­ter returns to sup­port local jour­na­lism«. Ari­zo­na Agen­da, Mar 22, 2024. ↩︎
12. Kay­leen Dev­lin and Joshua Cheet­ham, »Fake Trump arrest pho­tos: How to spot an AI-gene­ra­ted image«. BBC News, 24 March 2023. ↩︎
13. Josh Kele­ty, »Fake audio fal­se­ly claims to reve­al pri­va­te Biden comm­ents«, AP, March 16, 2023. ↩︎
14. Aleks Phil­lips. »Deepf­ake Video Shows Eliza­beth War­ren Say­ing Repu­bli­cans Should­n’t Vote«. News­week, Feb 27, 2023. ↩︎
15. Reu­ters Fact Check, »Video of Kama­la Har­ris rambling her speech at Howard Uni­ver­si­ty is digi­tal­ly crea­ted«. Reu­ters, May 4, 2023. ↩︎
16. Bill MCCARTHY, »Ron DeS­an­tis ad uses AI-gene­ra­ted pho­tos of Trump, Fau­ci«. AFP USA, June 7, 2023 ; updated on April 29, 2024. ↩︎
17. PHILIP MARCELO, »Image clai­ming to show Trump dancing with underage girl is fake«. AP, June 23, 2023. ↩︎
18. Bill MCCARTHY, »Video of Biden bot­ching Ukrai­ne histo­ry is a deepf­ake«. AFP USA, March 22, 2024; updated on April 29, 2024. ↩︎