Hoppa till innehållet

En utskrift från Dagens Nyheter, 2021-10-28 12:27

Artikelns ursprungsadress: https://www.dn.se/sverige/youtubechefen-om-jakten-pa-antisemitiskt-innehall-vi-ar-inte-perfekta/

SVERIGE

Youtubechefen om jakten på antisemitiskt innehåll: Vi är inte perfekta

Bild 1 av 2 Pedro Pina, Europachef på Youtube, är en av deltagarna på Internationellt forum för hågkomst av Förintelsen och mot antisemitism.
Foto: Youtube
Bild 2 av 2 Google och Youtubes brittiska huvudkontor i London.
Foto: Robert Evans/Alamy

Youtube har i åratal fått kritik för att släppa igenom rasism och konspirationsteorier. Vissa menar till och med att videosajten styr tittare mot mer extrema videor. I veckan besöker Europachefen Malmöforumet och ska tala om Youtubes arbete mot antisemitism på plattformen.

– Vi tror inte att vi är perfekta, säger han till DN.

Tiotusentals filmer med rasistiskt och antisemitiskt innehåll laddas upp till Youtube varje månad. Bara det senaste kvartalet raderades 88 000 sådana klipp, enligt videosajtens egna siffror.

Men kritiker menar att åtgärderna inte räcker. Organisationen Center for Countering Digital Hate redovisade nyligen hur Youtube (men även Facebook, Tiktok och andra plattformar) var sena med att reagera på antisemitiskt material, bland annat sådant som spred konspirationsteorier om judar och covidpandemin och 11 september.

Youtube agerade enligt organisationen bara mot 21 procent av de anmälda klippen, vilket ändå är en högre andel än för andra plattformar. Google som äger Youtube säger till DN att fler filmer – sammanlagt 30 av 52 anmälda – raderades efter att rapporten hade släppts. Vissa konton togs också bort helt.

Andra, som den amerikanska organisationen Anti-Defamation League, har lyft fram Youtube som snäppet bättre än andra organisationer, om än inte utan att rikta kritik.

Klart är att världens största videosajt tar emot enorma mängder filmer som bryter mot reglerna om rasism, hat och antisemitism.

– Vi tror inte att vi är perfekta, säger Pedro Pina, Europachef på Youtube och en av deltagarna på Internationellt forum för hågkomst av Förintelsen och mot antisemitism som äger rum i Malmö i veckan.

– Vi måste hålla fokus på det. Det här är inte ett projekt man gör en en gång och sedan är klar. Det här är ett jobb som pågår dygnet runt sju dagar i veckan.

Jakten på klipp som bryter mot reglerna är en kombination av mänskligt och automatiserat arbete. Algoritmer som skiljer ut de filmer som ska granskas eller raderas spelar en roll, men det gör också människor. 20 000 är de, enligt Youtubes senaste siffror, som arbetat med att granska material.

Enligt Pedro Pina ökar mängden material som raderas, på grund av skärpta regler och granskningsmetoder.

Youtubes regelverk definierar vad som ska ses om som hatretorik. Det handlar om attacker mot människor baserat på bland annat kön, etnicitet och sexuell läggning.

– Vi tolererar inte uttalanden som utmålar dem som underlägsna. Vi tolererar inte uppmaningar, direkt eller indirekt, till våld mot dem. Och vi tolererar inte förnekande av Förintelsen eller förhärligande av nazism, säger Pedro Pina.

Var den gränsen går är inte helt lätt att veta. I våras förklarade en talesperson från Youtube att en video där den konservativa profilen Steven Crowder häcklade svarta lantbrukare var ”stötande”, men inte mot reglerna.

Foto: NetPhotos/Alamy

Samtidigt råder det ingen tvekan om att Youtube är mer effektivt i jakt på regelbrytare inom andra områden. Den som laddar upp klipp som bryter mot upphovsrätten kan räkna med att bli ertappad omgående. Det kan förklaras med att det är en betydligt enklare sak för mjukvara att upptäcka automatiskt, men där finns också starka ekonomiska incitament. Dessutom jagar Youtube filmer där nakna människor syns med förbluffande effektivitet, vilket gör det till ett nästan obefintligt problem på plattformen – till skillnad från rasistisk propaganda.

Varför är det ena mer effektivt än det andra?

– Du får fråga maskinerna. Märkligt nog har vi upptäckt att porr och nakenhet är väldigt enkelt för maskinerna att upptäcka, de är lätta att träna upp på det. Därför är de extremt effektiva. Extremistiska åsikter kan vara svårare att upptäcka. De kan sättas i ett sammanhang som gör att maskinerna inte upptäcker dem direkt. Nakenhet är inte direkt en fråga om nyanser, men när det gäller hatretorik så kan det vara det. Man kan tala nedsättande om en specifik grupp, men vara försiktig med orden och då kommer maskinerna ha svårt att se det, även om de blir bättre. Vi har extremt kraftfull maskininlärning, men det tar tid för den. Och det är förresten därför vi också har 20 000 personer förutom maskinerna som ser till att sådant upptäcks.

Foto: Pontus Lundahl/TT

Men Youtube är inte bara en tjänst som passivt visar användarnas videor. Sajtens rekommendationsmotor, som räknar ut vad en viss användare sannolikt vill se härnäst, är en kraftfull funktion. Den kan göra så att en film visas miljontals gånger, medan en annan knappt får någon publik alls. För en enskild användare kan den bli en väg att följa, med ett aldrig sinande flöde av nya filmer som påminner om de man redan ser mest av.

En uppmärksammad granskning i New York Times från 2019 visade hur en ung man via Youtube gick längre och längre i högerextrem radikalisering. Från en enskild video till fler av samma sort, efter varje film fanns alltid en ny högerextrem profil att kolla på.

– Jag föll bara djupare och djupare in i det, säger mannen till New York Times som i dag har lämnat högerextremismen och ser det som att han tidigare var ”hjärntvättad”.

Exakt hur rekommendationerna uppstår är en affärshemlighet som Youtube inte avslöjar, inte mer detaljerat än att det styrs av variabler som hur många som ser en film, hur länge de tittar och i vilken grad de delar filmen vidare och ger en tumme upp.

En återkommande kritik är att systemet visar allt mer extremt material ju djupare in i ett ämne man ger sig, att man kan försvinna ner i ett kaninhål av hat och konspirationer.

Ligger det någon sanning i det?

– Nej. Våra rekommendationer är utformade för att ge dig tillgång till mer populära videor. När du ser en video om ett ämne så rekommenderas du videor som är väldigt breda inom samma ämne, inte nischade. Så inte ner i kaninhålet, utan tvärtom.

Ett av de mest uppmärksammade agerandena vad gäller yttrandefrihetsfrågor på digitala plattformar är Facebooks tillsynsråd. Det är en grupp som Facebook säger ska vara helt oberoende och ha sista ordet i frågor om vad som får publiceras och vad som ska raderas på plattformen. De senaste veckorna har relationen mellan rådet och Facebook skakats av nya avslöjanden – Facebook tycks ha vilselett rådet i viktiga frågor – men oavsett detta så har rådet flera gånger gått emot Facebooks beslut.

Borde Youtube ha något liknande? Nej, är Pedro Pinas svar. Youtube och Facebook är för olika som plattformar för att det skulle fungera, men Youtube tar in experter utifrån, säger han.

– Vi kommer dit (till Malmöforumet) med en ödmjuk inställning. Vi måste fortsätta att lära oss, men vi är också stolta över det arbete vi har gjort hittills.

Internationellt forum för hågkomst av Förintelsen och mot antisemitism börjar i Malmö i morgon onsdag.

Ämnen i artikeln

Malmö
Youtube
Så här jobbar DN med kvalitetsjournalistik: uppgifter som publiceras ska vara sanna och relevanta. Rykten räcker inte. Vi strävar efter förstahandskällor och att vara på plats där det händer. Trovärdighet och opartiskhet är centrala värden för vår nyhetsjournalistik. Läs mer här.

Kommentera artikeln

I samarbete med Ifrågasätt Media Sverige AB:s (”Ifrågasätt”) tjänst Ifrågasätt erbjuder DN möjligheten för läsare att kommentera vissa artiklar. Denna tjänst tillhandahålls således av Ifrågasätt som också är ansvarig för tjänsten.

De kommentarer som Ifrågasätt tillgängliggör på tjänsten visas i anslutning till dn.se. DN granskar inte kommentarerna i förväg. Kommentarerna omfattas inte av utgivaransvaret enligt yttrandefrihetsgrundlagen och de är inte heller en del av den grundlagsskyddade databasen dn.se.

Grundreglerna för kommentarer är:

  • håll dig till ämnet
  • håll en god ton
  • visa respekt för andra skribenter och berörda personer i artikeln.

I övrigt gäller de regler för kommentarer som framgår av Ifrågasätts användarvillkor och som du godkänner i samband med att du skapar ett konto för kommentering. Ifrågasätt förbehåller sig rätten att radera kommentarer i efterhand. DN kan genom eget beslut ta bort kommentarer.

Ⓒ Detta material är skyddat enligt lagen om upphovsrätt