Ekstremister bruger i stigende grad populære onlineplatforme til at radikalisere og rekruttere
Den teknologiske udvikling og kunstig intelligens betyder, at ekstremistisk propaganda kan produceres langt lettere og spredes væsentligt hurtigere end tidligere. Det øger risikoen for, at flere - herunder unge og mindreårige - eksponeres for ekstremistisk materiale og bliver radikaliseret, og på sigt kan udviklingen skærpe terrortruslen fra ekstremistiske grupper.
Kunstig intelligens og onlineplatforme giver ekstremister en række nye muligheder for at producere og sprede propaganda i hidtil uhørt omfang og hastighed. Det betyder, at ekstremistiske budskaber når langt længere ud, og den teknologiske udvikling gør på den måde ekstremisters rekruttering lettere, mere anonym og mindre ressourcekrævende og dermed mindre risikabel - også i Danmark.
Det fremgår af analysen "Onlineplatforme og ekstremistiske miljøer i Danmark", som Center for Terroranalyse (CTA) i dag har offentliggjort.
Der kan være stor forskel på, hvilke onlineplatforme, der primært anvendes i de forskellige ekstremistiske miljøer. CTA vurderer dog, at der er en tendens til, at ekstremister primært anvender store, udbredte og let tilgængelige onlineplatforme. På de populære mainstream-onlineplatforme blandes aktuelle dagsordener med subtile ekstremistiske referencer og budskaber, og de deles for at vække interesse for ekstremistiske narrativer. Ekstremistisk indhold omtales fx i generelle termer eller indgår i redigerede udgaver som memes, i kodesprog eller via brug af emojis, der afhængigt af kontekst kan relateres til ekstremistiske narrativer.
Og når ekstremistisk indhold i stigende grad findes på populære mainstream-platforme online, når det ekstremistiske indhold også i stigende grad ud til en bredere gruppe af personer, der også omfatter helt almindelige unge og mindreårige. Udviklingen bliver forstærket af platformenes algoritmer, der dirigerer brugere til indhold, som ligger i forlængelse af deres tidligere søgninger og dermed potentielt mod tiltagende ekstremistisk materiale.
"Ekstremistisk materiale finders ikke kun i et mørkt hjørne af internettet. I dag findes det i stigende grad også på populære kanaler som YouTube, Instagram, TikTok og Roblox. Det betyder, at helt almindelige unge og mindreårige risikerer at bliver udsat for ekstremistisk materiale. I sidste ende kan det radikalisere sårbare unge og mindreårige, der ikke nødvendigvis forstår konsekvensen af at tilgå og dele propaganda. Det kan dermed på sigt være med til at skærpe terrortruslen fra ekstremistiske grupper," siger Michael Hamann, der er chef for Center for Kommunikation og Strategi i PET.
Ekkokamre på nettet
Radikalisering kan eksempelvis foregå ved, at brugere, der viser interesse for ekstremistisk indhold på de populære onlineplatforme, bliver inviteret til andre platforme med mere kryptering og mindre moderation eller bliver inviteret ind i lukkede onlinegrupper. Her foregår mere direkte kommunikation om blandt andet ekstremistiske narrativer og deling af uredigeret ekstremistisk indhold som fx bombemanualer og henrettelsesvideoer.
Ekstremister i Danmark får desuden adgang til internationale ekstremistiske miljøer via onlineplatforme, og det udvider muligheden for at finde inspiration og ligesindede. Samtidig har den teknologiske udvikling gjort det langt nemmere at oversætte ekstremistisk propaganda og producere fx billed- og videomateriale, som kunstig intelligens og algoritmer gør nemmere at massesprede.
De ekstremistiske fællesskaber på nettet fungerer desuden som ekkokamre og kan potentielt hurtigt rykke ved deltagernes etiske og sociale grænser.
"Medlemmer af onlinefællesskaber risikerer over tid at begynde at opfatte ekstremistisk indhold, udsagn og adfærd som normalt. Ekstremistisk og ikke-ekstremistisk indhold blandes i flere fora, og grænserne for, hvad der opfattes som acceptabel adfærd i forhold til ekstremistiske narrativer og vold kan blive flydende for den enkelte," siger Michael Hamann.
CTA vurderer, at mulighederne på nettet - bl.a. i forhold til kommunikation og sløring af identitet - betyder, at ekstremisters brug af onlineplatforme vil fortsætte.
PET har en målrettet indsats mod ekstremisme - herunder onlineekstremisme. Den indbefatter både løbende operative tiltag mod grupper og enkeltpersoner, men også fjernelse af ekstremistisk materiale fra nettet og en forebyggende indsats i samarbejde med andre myndigheder og civilsamfundsorganisationer. Analysen vil indgå i det arbejde og vil blive delt med relevante myndigheder og partnere.
Analysens vurderinger ændrer ikke på det overordnede trusselsbillede mod Danmark.
Læs analysen "Onlineplatforme og ekstremistiske miljøer i Danmark"