AI-genereret indhold kan hurtigt spredes online – især via sociale medier – og skabe forvirring gennem desinformation. De stadigt mere avancerede modeller gør det vanskeligere, selv for eksperter, at skelne sandt fra falskt.
Deepfakes og udfordringen bag desinformation
Nye opdateringer har gjort AI-modeller bedre til at producere troværdigt indhold, hvilket har ført til nye udfordringer: at forhindre spredningen og at modvirke virkningen. Organisationen TrueMedia, grundlagt af AI-forskeren Oren Etzioni, arbejder på at identificere manipuleret indhold, men selv avancerede værktøjer kan narres.
Samtidig har techgiganter som OpenAI, Google, Meta og TikTok frivilligt tilsluttet sig en aftale om at begrænse spredningen af AI-genereret desinformation. Men fordi platformene er “open source”, kan enhver i princippet udnytte teknologien – og dermed forstærkes risikoen for endnu mere sofistikerede deepfakes.
Eksempler viser også, at verificeringsværktøjer kan fejle. Da et billede af Trump med blodige fingre blev delt, kunne systemerne ikke afgøre ægtheden, fordi det lignede autentiske billeder fra attentatet under hans valgkamp.
Politisk påvirkning
Flere eksperter advarer om, at desinformation kan ændre vælgeradfærd. Risikoen er størst, når politikere selv deler manipuleret indhold. Trump delte fx en falsk video, hvor Obama blev arresteret i Det Hvide Hus – videoen cirkulerede først på TikTok og blev senere lagt ud på hans Truth Social-konto. Den var ikke markeret som satire.
AI i politik kan dermed skabe mere følelsesladede kampagner, fordi kontroversielt indhold ofte får størst spredning.
Sociale medier og fremtidige risici
Sociale medier er blevet centrale i politisk kommunikation, især for at nå unge vælgere. Men platformenes algoritmer kan favorisere polariserende indhold.
I Tyskland har AfD, et højrepopulistisk parti ofte beskyldt for højreekstremisme, haft stor succes på TikTok. Ifølge Deutsche Welle havde partiet en uforholdsmæssig høj opbakning blandt unge vælgere, samtidig med en massiv tilstedeværelse på platformen.
I Rumænien vandt den højreekstreme kandidat Calin Georgescu første valgrunde, efter at uverificerede TikTok-konti spredte hans indhold, og betalinger til influencere blev afsløret. Ifølge BBC kan TikTok dermed have haft direkte indflydelse på valgresultatet.
Konklusion
Udviklingen kan ikke standses, men samfundet må være forberedt på at reagere og finde løsninger i tide. Hvis spredningen af desinformation ikke begrænses, er risikoen, at mistilliden til al information vokser.
Kilder:
- The New York Times
- BBC
- Deutsche Welle
