”Låt pöbeln äta kakor, de kommer ändå att rösta på mig”, säger Wisconsin-demokraten Rebecca Cooke i en kampanjfilm. I en annan film säger hon att hon kandiderar till den amerikanska kongressen för att ”använda mig av korruption och ge alla illegala invandrare gratis sjukvård”. Och i en tredje film, som fått stor spridning i många väljargrupper, säger hon om Zohran Mamdani och Bernie Sanders: ”Självklart har jag röstat på de två kommunisterna.”
Fast det är inte hennes filmer utan hennes republikanska motståndares, den sittande kongressledamoten Derrick Van Ordens. Han har den senaste tiden publicerat en rad AI-filmer med fejkade Cooke-uttalanden. Förra veckan skickade Rebecca Cookes advokater ett cease-and-desist-brev till Van Orden och hotade med rättsliga åtgärder. Han svarade med att låta Grok framställa ännu en AI-film.
Valrörelsen inför det amerikanska mellanårsvalet den 3 november är redan ett storskaligt AI-kaos. Den republikanskstyrda kongressen har inget intresse av att införa någon federal standard för politiska deepfakes, men över hälften av USA:s delstater har infört egna regler. Samtidigt har Elon Musk via sitt America PAC påbörjat en aviserad satsning på över 100 miljoner dollar för att dirigera desillusionerade republikanska väljare till valurnorna.
Det är här ”kommunisterna” i Van Ordens filmer kommer in. På Republikanernas mellanårskonvent i Dallas i september nämndes ”kommunism” över 60 gånger. Talmannen Mike Johnson varnade för att ”kommunisterna kommer att sitta i kongressen nästa år”, och Donald Trump för att USA blir ett kommunistiskt land om Demokraterna vinner. New Yorks socialistiske borgmästare Zohran Mamdani har blivit en användbar symbol för berättelsen om hur Demokraterna tagits över av den radikala vänstern.
Van Ordens AI-filmer har alltså ett högre syfte än att ”bara” beljuga Rebecca Cooke – nämligen att låta ”henne” rapa upp och bekräfta narrativet Republikanerna redan har enats om som huvudbudskap.
Det är lätt att fastna i tekniken här eftersom filmerna fortfarande har något av trolleritrick över sig – ”titta vad AI kan göra nu”. Men varken politiska lögner, lösryckta citat eller manipulerade bilder är nya uppfinningar. Skillnaden är att ett mellanled försvinner. Van Orden behöver inte själv påstå saker om Rebecca Cooke, han kan låta ”Rebecca Cooke” säga det direkt.
I samma veva har Alex Gibneys nästan fyra timmar långa dokumentärfilm ”Musk”, som inte minst bekräftar Elon Musks fokus på valmanipulation, haft världspremiär på filmfestivalen i Venedig. Elon Musk själv tackade nej till att intervjuas, så Gibney lät en AI-genererad Elon tala med AI-genererad röst, medan själva orden är sådant den verklige Elon Musk verkligen har sagt. Det ser först ut som en snygg liten paradox men blir besvärligare ju längre man tänker på den. Derrick Van Orden använder AI för att få Rebecca Cooke att säga sådant Rebecca Cooke inte har sagt. Alex Gibney använder AI för att få Elon Musk att säga sådant Elon Musk har sagt. Båda bilderna är falska, men bara den ena ljuger.
Den gamla reflexfrågan »är det här äkta?« räcker inte längre till. Viktigare blir vad som har gjorts med materialet, av vem, i vilket syfte och hur det förhåller sig till vad som går att belägga. Där har vi plötsligt lämnat den bedövande diskussionen om den senaste AI-modellens förmågor och hamnat i frågor som journalister har ägnat sig åt långt före ChatGPT. Propagandans historia är full av falska avsändare. Under andra världskriget sände britterna radiopropaganda som utgav sig för att komma från tyskar. Falska flygblad och tidningar har länge använts för att få politiska motståndare att framstå som avsändare av budskap de aldrig formulerat.
I början av september spred Chang Frick falska valaffischer i Uppsala och Upplands-Bro – kanske AI-promptade han fram dem, men de hade lika väl kunnat tryckas upp med 1900-talsteknik. Bland annat användes Socialdemokraternas grafiska identitet till en affisch med terroristen Rakhmat Akilov och texten »Din nya granne«.
Tekniken är på så sätt fortfarande en bisak. Det räcker med en logotyp, ett typsnitt, en personbild, ett färgtema; allt det där som vår hjärna kodar som genvägar till att identifiera och godta en avsändare. Men det AI förändrar är hur billigt, snabbt och enkelt dessa markörer kan kopieras, och hur mycket trovärdigare vi tolkar resultaten som, och därmed också hur mycket större effekten blir.
Hittills har jag valt de enkla exemplen. Derrick Van Orden och Chang Frick använder tekniken för att manipulera. Avsikten är själva poängen och problemet därför lätt att identifiera. Knepigare blir det när AI används till det vi alla säger att den ska användas till: att söka information, sammanfatta, formulera och hjälpa oss att tänka. Då handlar frågan inte längre om ifall någon försöker lura oss, utan om vad vi själva lämnar över till maskinen.
Det är en fråga som oväntat tydligt går att utläsa av OECD:s nyligen presenterade internationella skolundersökning, Pisa 2025. Nästan hälften av de svenska 15-åringarna uppger att de använder AI-chattbotar för lärande minst en gång i veckan. Tre av tio använder dem för inledande research, 27 procent för att sammanfatta texter de ska läsa och 25 procent för att skriva utkast till skoluppgifter. När Pisa 2025 presenterades i september var regeringen snabb med sin förklaring. Skolminister Simona Mohamsson talade om en ”skärmpandemi” och resultaten passade väl in i den omläggning av skolpolitiken som regeringen redan påbörjat.
Det finns gott om stöd för att digital distraktion är ett problem, men resultaten är inte särskilt användbara för skärmkritiker eller andra som vill ha enkla svar om AI. Elever som låter AI sammanfatta, skriva och göra research presterar generellt sämre, samtidigt som sambandet ser annorlunda ut när AI används för lärande och eleverna får undervisning i hur AI-genererad information ska bedömas.
Det ligger nära kärnan i Åsa Wikforss och Torkel Klingbergs nya bok Varför lära? Meningen med mänsklig kunskap i AI-tider. AI kan söka, sammanfatta, formulera och i ökande grad analysera åt oss, men för att förstå vad svaren betyder, sätta dem i sammanhang och veta vad som saknas, och för att kunna tänka vidare från svaren, måste det fortfarande finnas något på andra sidan skärmen som AI:n inte själv har producerat: kunskap.
Här blir regeringens egen AI-användning mer problematisk än Pisa-resultaten – från att Ebba Busch byggde en attack på en journalist på ett falskt AI-citat till upprepade rapporter och utredningar som kommit fram till regeringens önskade resultat med hjälp av AI-genererade länkar bland referenserna. Socialdepartementet drog tillbaka en sådan rapport, men det kanske värsta exemplet är slutbetänkandet om en ny speciallärarutbildning, där länkar i referenslistan har kvar spårkod från ChatGPT och Google Ads samt går till lokala filer på någons dator. I underlaget går mer än hälften av källhänvisningarna till framgooglade studentuppsatser. Detta förslag om en omfattande förändring av svensk speciallärarutbildning är just nu ute på remiss. Det borde vara svårare än så här för en svensk regering att, samtidigt som den argumenterar för mer kunskap, mindre skärmberoende och större vaksamhet mot AI i skolan, själv låta en språkmodell bli en genväg förbi den kontroll som kunskapen skulle göra möjlig.
Nu vill samhället kräva av skolelever att ta spjärn mot AI-tjänster som slukar resten av oss hela, inte minst företrädare för demokratins bärande institutioner. Sveriges största juristbyrå har ertappats med att AI-generera inlagor med hänvisningar till HD-domar som inte existerar; KTH-forskare har fällts för oredlighet efter att till synes ha AI-genererat verk i en doktorsavhandling; och som jag konstaterat i en tidigare krönika: svenska journalister har redan gått all-in på AI. Jag använder själv AI, precis som snart sagt varje journalist jag känner, för transkribering, sökning, sammanfattning, översättning, research. Frågan om huruvida arbetet får delegeras till en maskin existerar alltså praktiskt taget inte längre, så man kan fråga sig hur framkomligt det är att ändå ställa den om skolan. Den intressantare gränsen går någonstans mellan att delegera arbete och att delegera omdöme. Tyvärr går det inte att finna och formulera den gränsen med hjälp av AI.
Att låta en maskin transkribera en intervju är en sak. Att låta den hitta möjliga ingångar i ett stort dokumentmaterial en annan, att be den sammanfatta dokumenten en tredje. Någonstans längs den kedjan kan arbetsbesparingen börja innebära att vi inte längre själva gör tillräckligt av det arbete som krävs för att kunna stå för resultatet utifrån vår egen bedömning. Vart tar ansvarsfrågan vägen när politikern kan delegera bildskapandet, eleven sammanfattningen, utredaren informationssökningen och journalisten transkriberingen, researchen, rubrikförslagen eller textutkasten?
Problemet blir kanske allra störst för journalistiken, som till skillnad från vetenskapen inte ens har ett peer review-system. Våra läsare kan inte kontrollera allt vi publicerar från början. Hela konstruktionen bygger på att de slipper. De överlåter en del av faktakontrollen, källvärderingen och bedömningen av vad som går att belägga till oss. Det är den genväg journalistiken alltid har erbjudit, och när så många andra genvägar till trovärdighet plötsligt går att fejka återstår bara det arbete som förtroendet en gång byggdes på. Men vem ska göra detta arbete när allt större delar av det överlåts åt AI?
Människan har alltid kunnat ljuga, så det är inte det som är problemet med AI. Det oroväckande nu är att människan slutar kontrollera om den ljuger eller inte. Undrar ni om ”den” syftar på människan eller AI? Det undrar jag också.