Vi har förtydligat hur vi behandlar personuppgifter och cookies.
Du följer nu ämnet: STOCKHOLMS STAD (sparas i Mitt DN)
Ekonomi

Toppen av ett isberg av digital extremism

Googles kontor i New York.
Googles kontor i New York. Foto: Spencer Platt/AFP

Efter mycket kritik har Google plockat bort en antisemitisk hatlista och stängt en Youtube-kanal som spridit rasistiska videor. Men problemet är inte bara att detta innehåll över huvud taget finns tillgängligt, utan att Googles och Youtubes algoritmer gynnar just extremism och antisemitism.

I diskussionen om växande högerextremism och antisemitism finns det ett utbrett missförstånd om att dessa aktivister skulle vara bättre än alla andra på att använda sociala medier. Enligt denna teori har antisemiter och främlingsfientliga populister i land efter land, i USA, Danmark, Österrike, Italien, Ungern, Polen och Sverige, alla lyckats hitta något magiskt sätt att skapa genomslag för sina idéer på sociala medier. Men i själva verket är det inte högerextremister och antisemiter som är ovanligt bra på sociala medier. Det är sociala medier som är ovanligt bra på högerextremism.

En mängd forskning som gjorts på området det senaste året bekräftar att innehåll med extrema och kontroversiella idéer, eller innehåll som bara är felaktigt, sprids betydligt snabbare än annan sorts material på plattformar som Youtube, Facebook och Twitter.

Läs mer: Falska nyheter sprids fortare – når fler 

Att det frodas av antisemitiskt innehåll bland sökresultaten på Google och Youtube beror inte på att företagen inte känner till detta. Det är snarare en medveten del av affärsmodellen. Extremistiskt innehåll skapar ofta hög trafik och starkt engagemang från användarna, vilket leder till att företagen tjänar oerhört mycket pengar.

I Sverige har Google nu efter mycket kritik avindexerat flera namn från en antisemitisk hatlista och stängt ner en Youtube-kanal som spridit rasistiska videor.

Men problemet är inte bara att detta innehåll över huvud taget finns tillgängligt, utan att det ofta är just den sortens extremism som får allra mest spridning. Google och Youtubes algoritmer gynnar det extrema.

Den antisemitiska hatlistan och de rasistiska videorna är toppen av ett gigantiskt isberg av digital extremism. Flera forskare menar att Youtubes algoritm för rekommendationer medvetet utformats för att lyfta fram de mest extrema videorna, eftersom kontroversiellt innehåll får folk att stanna kvar på plattformen. Extremism tycks ha en beroendeframkallande effekt på användarna.

Den som söker på månen möts av videor som förklarar att jorden är platt

Internetforskaren Zeynep Tufekci skriver i New York Times att Youtube har blivit “världens största verktyg för radikalisering”. Enligt Tufekcis forskning rekommenderar Youtube konsekvent extremistiskt innehåll, vilket innebär att användare snabbt skickas ut i den ideologiska periferin. Den som söker på Donald Trump möts av högerextrema och antisemitiska videor. Den som söker på vänsterprofiler som Bernie Sanders erbjuds konspirationsteorier om att George W Bush låg bakom terrorattackerna 2001.

Läs mer: Förintelsesökning på Google leder till nazistpropaganda 

2013 fick en ingenjör på Youtube, Guillaume Chaslot, sparken från företaget, enligt egen utsago för att han ifrågasatt den cyniska algoritmen för rekommendationer. Chaslot samarbetade nyligen med undersökande reportrar från Wall Street Journal för att bevisa just hur Youtube rekommenderar extremistiska videor även för den som söker på helt normala saker. Den som söker på Påven får upp tiotusentals konspirationsteorier. Den som söker på månen möts av videor som förklarar att jorden är platt. Algoritmen för rekommenderade videor söker upp just de videor som skapar mest engagemang, i form av allt från hög trafik till arga kommentarer. Det är ofta de mest kontroversiella videorna.

Youtube-tittandet har ökat tiofaldigt sedan 2012 och i dag ser människor över hela världen mer än en miljard timmar Youtube-videor varje dag. Plattformen är särskilt populär bland yngre och finns bland annat förinstallerad på alla Googles Chromebook-datorer, som är USA:s vanligaste dator för barn. Rekommendationer på Youtube genererar 70 procent av den totala tittartiden, enligt företaget. Dessa rekommendationer gynnar nu extremism och antisemitism.

David Hogg återvänder till skolan efter masskjutningen i Parkland.
David Hogg återvänder till skolan efter masskjutningen i Parkland. Foto: Joe Cavaretta/AP

Efter varje stor nyhetshändelse i USA riskerar nu Youtube och Google att förvandlas till megafoner för konspirationsteorier. Jonathan Albright, medieforskare på Columbia University, granskade Youtube efter massakern i Parkland, Florida i februari, där 17 skolbarn dog. Han hittade snabbt 9.000 olika videor med konspirationsteorier om händelsen. När han sökte på David Hogg, ett av skolbarnen som överlevde massakern, var nio av de tio videor som dök upp bland de första sökresultaten på Youtube antisemitiska konspirationsteorier om att massakern var fejkad och att Hogg var en skådis som fick betalt av affärsmannen George Soros. Flera av videorna kom från den antisemitiska, högerextrema Alex Jones, en av Youtubes största stjärnor, med mer än två miljoner prenumeranter. Youtube erbjuder för tillfället nästan en halv miljon videor om George Soros, varav en majoritet av de mest sedda videorna är antisemitiska konspirationsteorier.

Google och Youtube är inte ensamma om dessa problem. Facebook har fått befogad kritik för att ha blivit en plattform där extremism och organiserade hatkampanjer snabbt sprids till miljoner. Nyhetssajten Pro Publica visade i fjol att det går att köpa annonser på Facebook som specifikt riktas till just antisemiter. När Pro Publica gjorde ett provköp av en antisemitisk annons svarade Facebooks automatiserande annonsverktyg att de kunde erbjuda en målgrupp på mer än 100.000 antisemiter.

Dessa teknikjättar har nu ett verkligt dilemma. Å ena sidan vill de tillfredsställa sina aktieägare, som vet att affärsmodellerna kommer att äventyras och börsvärdet falla om de på allvar börjar ta itu med spridningen av extremism, eftersom det kan rubba deras annonsförsäljning. Å andra sidan finns det en gräns för användarnas lojalitet gentemot en produkt som ständigt anklagas för att ignorera sådana problem. Att fortsätta belysa och uppmärksamma varje fall av trakasserier, extremism, hot och antisemitism som sprids på dessa plattformar är en sisyfosuppgift. Men alternativet är att låta dessa teknikjättar fortsätta bryta sönder det som återstår av demokratin och anständigheten i det offentliga samtalet.

Google, Youtube och Facebook har nu mer aktivt börjat plocka bort extremistiskt innehåll just efter att medier envist uppmärksammat det, men det är långt ifrån tillräckligt. Enligt Jonathan Albright på Columbia University har den enorma mängden av extremistiskt och antisemitiskt innehåll på dessa plattformar nu nått sådana oerhörda volymer att det är svårt att rensa upp dem utan att förändra plattformarna i grunden. Trots löften från Google och Facebook om att ta allt mer allvarliga tag mot dessa problem så verkar utvecklingen fortsätta åt det motsatta hållet, säger Albright i en färsk intervju med Nieman Lab, ett forskningsinstitut på Harvard University.

– Det har blivit värre. Sedan valet 2016 har jag insett att ingenting har förbättrats. Trots all retorik, trots alla resurser, trots all pr och all forskning. Inget väsentligt har förändrats på dessa plattformar. Infrastrukturen för vår teknik och kommunikation, våra metoder för att uppleva verkligheten och tillgodose oss nyheter, håller bokstavligen på att kollapsa, säger Albright.

Att antisemitiska och högerextrema partier och rörelser växer över hela världen kan delvis förklaras av att dessa plattformar fått en så dominant roll i våra dagliga informationsflöden.

– Vi vill tacka Gud för internet, vi vill tacka Gud för sociala medier, vi vill tacka Gud för Facebook, sade Matteo Salvini, partiledare för högerextrema Lega, efter framgångarna i det senaste valet i Italien.

Detta är en kommenterande text. Skribenten svarar för analys och ställningstaganden i texten.
Kommentera artikeln
I samarbete med tjänsten Ifrågasätt erbjuder DN möjligheten att kommentera vissa artiklar. Håll dig till ämnet och håll en god ton. Visa respekt för andra skribenter och berörda personer i artikeln. Vi tar bort inlägg som vi bedömer är olämpliga.