Logga in på Dagens Nyheter

Här kan du som DN-kund logga in för obegränsad läsning av DN.se, e-DN och DN.Prio.

Med ett gratiskonto kan du följa skribenter och ämnen samt bokmärka artiklar.

Hej !
Mitt DN Ämnen jag följer Sparade artiklar Kundservice Logga ut
Kultur & Nöje

Kampen mot näthatet växer i USA

Debatten om hatet och hoten på nätet handlar alltmer om teknik- och medieföretagens ansvar. På digitalfestivalen South by Southwest, SXSW, möttes branschen för att debattera vad man måste göra. DN:s Martin Jönsson var där.

På podiet framför mig, i en konferenslokal i Austin, Texas, sitter två av världens mäktigaste kvinnor när det gäller yttrandefrihet och samtalsklimatet på internet. Den ena heter Monika Bickert, en erfaren jurist och före detta åklagare som nu är policychef på Facebook. Det är hon som ytterst ansvarar för Facebooks communityregler och som ger direktiv till de anställda över hela världen som granskar inlägg som anmäls för brott mot de reglerna., Den andra heter Juniper Downs, även hon jurist och med motsvarande jobb på Google och Youtube.

Tillsammans styr de båda en oerhört stor del av det moderna offentliga samtalet. De har makten att sätta tonen och radera på plattformar som har flera miljarder användare varje dag.

De flankeras av två juridikprofessorer. Till vänster sitter Jeffrey Rosen, vd för National Constitution Center och en av USA:s tyngsta debattörer när det gäller konstitutionella rättigheter och inte minst de nya globala internetjättarnas roll. Till höger sitter Lee Rowland, chefsjurist på American Civil Liberties Union, ACLU, och en profilstark förkämpe för yttrandefrihet.

Det är ingen slump att en panel i USA är sammansatt just så här eller att just den här programpunkten fått rubriken ”Hur långt ska man gå för att skydda rätten till hatiska uttalanden på nätet?”. I USA är debatten delvis en annan än i Europa, när det gäller vad som får sägas på nätet. Förkämparna för konstitutionen och dess första tillägg om yttrandefrihet varnar högljutt för riskerna med alla former av inskränkningar. Lee Rowland tar inte många minuter på sig, innan hon formulerat svaret på seminariets rubrikfråga: ”Hur långt? Ganska jäkla långt, skulle jag säga.”

Det är en sida av myntet. En annan sida möter oss besökare när vi kommer till konferensanläggningen på morgonen för detta heldagsseminarium om näthat och möts av ett säkerhetspådrag som liknar det som var när president Barack Obama gästade SXSW dagen före. Mängder av poliser vaktar lokalerna och alla besökare visiteras minutiöst.

Foto: Bob DaemmrichPresident Obama är den mest uppmärksammade gästen på årets festival. Foto: Bob Daemmrich

Skälet är att det finns en hotbild mot flera av deltagarna, efter höstens kontroverser om trakasserier och hot i spelbranschen. SXSW skulle ha arrangerat en debatt om den så kallade Gamergate redan i höstas, men valde att ställa in den, efter hot mot flera paneldeltagare. Kritiken mot arrangörerna blev hård, för att de lät nätmobben tysta debatten. Nu, i ett större samlat grepp om näthat, kunde en del av dem som då skulle ha talat berätta om vad de fått utstå.

En av dem är spelutvecklaren Brianna Wu, grundare av Giant Spacekat. Hon har fått ta emot hundratals döds- och våldtäktshot efter kritiken mot gamercommunityn och tvingats lämna sitt hem och leva med förstärkt skydd. Hon tycker att bolagen bakom de sociala medieplattformarna där hoten spridits förverkat sin rätt att själva hantera bedömningen av övergrepp på plattformarna.

Det krävs en utomstående granskning av vad bolagen gör och kan göra för att upptäcka och hantera hatet och hoten på nätet.

Särskilt kritisk är hon mot Reddit, där en stor del av hoten publicerats, men också mot Twitter, där mängder av hat och hot sprids, utan åtgärder från bolaget.

– Det har blivit lite bättre. Nu kanske Twitter reagerar en gång av fem när man kräver att något konto ska stängas. I höstas var det en av 20.

Om det låter ironiskt är det korrekt uppfattat. Och varken Twitter eller Reddit var på plats på konferensen för att kommentera.

Men de sociala mediejättarna är väldigt medvetna om att den kraftigt eskalerande kritiken mot dem riskerar att skada dem ekonomiskt. Twitters vd Dick Costolo skrev redan i fjol i ett pm till personalen att han skämdes över hur hans företag hanterade hatande och hotande troll. Bolaget har ändrat sina användarvillkor och bildade nyligen ett Förtroende- och säkerhetsråd, för att ytterligare lyfta trakasserifrågorna. Men även om fler konton stängts ner är många fortfarande kritiska mot hur hanteringen av anmälningar fungerar i praktiken.

 

De som granskar ser inte kontexten. De ser ett lösryckt inlägg eller bara en kommentar och kan inte bedöma i vilket sammanhang det publiceras. Då kan det bli fel. Vi kanske gör 99 procent rätt, men ibland gör vi fel.

 

Även Facebook ändrade sina communityregler för ett år sedan. Och det är en delikat balansgång mellan just yttrandefrihet och att få bort hets och hot. Monika Bickert försöker förklara gränsdragningen:

– Man får skriva inlägg som kritiserar politik, institutioner och religioner. Men man får inte gå över linjen där man attackerar individer utifrån vad de har för religion, kön eller åsikt.

Problemet för Facebook är att det är så uppenbart att detta ändå flitigt förekommer – och att bolaget tar bort fullständigt oskyldigt innehåll, vilket drar ett löjets skimmer över hanteringen av anmälningar. När dödshot och grov rasism och sexism ”godkänns”, samtidigt som bilder på ”nakna” statyer och ammande mammor rensas ut, framstår processen som obegriplig.

Facebooks förklaringar handlar framför allt om volymen. Monika Bickert berättar att bolaget får in ca 1,2 miljoner anmälningar varje dag, en volym som ökat ”mycket kraftigt” det senaste året. Google ser en liknande utveckling: Jennifer Downs berättar att bolaget i fjol tog bort mer än 14 miljoner videoklipp från Youtube för olika regelbrott.

Utöver detta gör Facebook själva en automatisk screening, via bland annat ”foto-dna”, för att identifiera bilder som kan vara stötande.

Bickert hävdar att alla anmälningar granskas manuellt, vilket varit ifrågasatt, men medger att det finns brister i processen.

– De som granskar ser inte kontexten. De ser ett lösryckt inlägg eller bara en kommentar och kan inte bedöma i vilket sammanhang det publiceras. Då kan det bli fel. Vi kanske gör 99 procent rätt, men ibland gör vi fel. Och då kan det bli att statyer, amningsbilder och annat försvinner, medan sådant som borde ha raderats blir kvar.

I de 15 panelerna i seminariet om näthatet är det ändå väldigt få som är kritiska mot just Facebook. Den kritik som finns handlar om att processen kring anmälningarna är för otydlig, med standardsvar och avsaknad av möjlighet att överklaga eller få hjälp.

Foto: CHIP SOMODEVILLAMonika Bickert är policychef på Facebook. Foto: Chip Somodevilla

I stället handlar debatten i Austin om hur hela samhället, från skolor till teknikföretag och organisationer, måste arbeta mer proaktivt med att upptäcka, motarbeta och bemöta näthatet. Om vilka vi vill vara som digitala medborgare – och vilket ansvar alla är beredd att ta för det.

Lisa Hammitt, chef för dataanalys på IBM, är en av dem som aktivt arbetar med att hitta lösningar.

– Det här är ett multifrontskrig, men det är ett krig vi måste utkämpa. Dels handlar det om tekniska lösningar, som är genomförbara, med filter, granskning och algoritmer, som kan fånga upp även de mörka och dolda delarna av nätet. Dels handlar det om att skapa medvetande, både bland dem som begår övergreppen och bland dem står bredvid utan att göra något.

Initiativen mot näthatet kommer nu också, slag i slag. IT-jätten Intel, mediebolaget Vox Media och Lady Gagas stiftelse Born This Way lanserade i januari projektet Hack Harassment, för att öka medvetandet och ta fram nya tekniska lösningar. Organisationen Civilination presenterade i Austin sin första Harassment Barometer, som månadsvis ska redovisa hur stort problemet är i USA. Och det finns många fler exempel.

Pressen på att agera mot näthatet har aldrig varit starkare. Men lösningarna är många fler och mer mångfacetterade än att bara pressa några sociala medier-jättar att radera fler inlägg. Zach Mattheus på Vox Media, som arbetar med Hack Harassment, formulerar det väl:

– Folk vill ha enkla lösningar och skäller därför på enskilda företag. Men det är inte rätt recept. Om man ändrar algoritmen eller blockar fler kommer hoten bara att flyttas. Vi måste få till en kulturförändring: höja medvetandet och engagera fler att ta ansvar. Det är individer som kommer att åstadkomma en förändring, inte företag.

Fakta. South by Southwest SXSW

Foto: Anette NantellSouth by Southwest (SXSW) är en festival som innehåller musik, film och interaktiva medier. De tre olika delfestivalerna anordnas relativt separat med skilda start och slutdatum.

Musikfestivalen brukar räknas som världens största i sitt slag, det spelar över 1 400 band på festivalen.

Festivalen äger rum i Austin, Texas varje år sedan 1987 under drygt en vecka i mars.

På årets festival är president Obama den mest uppmärksammade gästen.

En rad svenska artister uppträder under festivalen, bland dem Silvana Imam (bilden), Miike Snow, Adée och Ember Island.

Foto i text: Anette Nantell

Läs mer. Artikelserien ”Hoten och yttrandefriheten”