Vi använder cookies för att förbättra funktionaliteten på våra sajter, för att kunna rikta relevant innehåll och annonser till dig och för att vi ska kunna säkerställa att tjänsterna fungerar som de ska.

Läs mer

En utskrift från Dagens Nyheter, 2019-12-10 16:00

Artikelns ursprungsadress: https://www.dn.se/blogg/digitalamedier/2016/03/14/finns-inga-enkla-losningar-att-stoppa-nathatet/

Martin Jönsson om digitala medier

"Finns inga enkla lösningar att stoppa näthatet"

 

Vems är ansvaret att stoppa hatet och hoten i sociala medier? Allas, konstaterade de flesta rösterna i helgens heldagskonferens om Online Harassment på SXSW Interactive. 

 

På podiet framför mig, i en konferenslokal på Hyatt i centrala Austin sitter två av världens mäktigaste kvinnor när det gäller yttrandefrihet och samtalsklimatet på internet. Den ena heter Monika Bickert, en erfaren jurist och före detta åklagare, som nu är policychef på Facebook. Det är hon som ytterst ansvarar för Facebooks communityregler och som ger direktiv till de anställda över hela världen som granskar inlägg som anmäls för brott mot de reglerna.Den andra heter Juniper Downs, även hon jurist och med motsvarande jobb på Google och Youtube.

Tillsammans styr de båda en oerhört stor del av det moderna offentliga samtalet. De har makten att sätta tonen och radera, på plattformar som har flera miljarder användare, varje dag.

De flankeras av två juridikprofessorer. Till vänster sitter Jeffrey Rosen, vd för National Constitution Center och en av USA:s tyngsta debattörer när det gäller konstitutionella rättigheter och inte minst de nya globala internetjättarnas roll. Till höger sitter Lee Rowland, chefsjurist på American Civil Liberties Union, ACLU, och en profilstark förkämpe för yttrandefrihet.

Det är ingen slump att en panel i USA är sammansatt just så här eller att just den här programpunkten fått rubriken ”Hur långt ska man gå för att skydda rätten till hatiska uttalanden på nätet?”. I USA är debatten delvis en annan än i Europa, när det gäller vad som får sägas på nätet. Förkämparna för konstitutionen och dess första tillägg om yttrandefrihet varnar högljutt för riskerna med alla former av inskränkningar. Lee Rowland tar inte många minuter på sig, innan hon formulerat svaret på seminariets rubrikfråga: ”Hur långt? Ganska jäkla långt, skulle jag säga.”

Det är en sida av myntet. En annan sida möter oss besökare när vi kommer till konferensanläggningen på morgonen för detta heldagsseminarium om näthat och möts av ett säkerhetspådrag som liknar det som var när president Barack Obama gästade SXSW i fredags. Mängder av poliser vaktar lokalerna och alla besökare visiteras minutiöst. Skälet är att det finns en hotbild mot flera av deltagarna, efter höstens kontroverser om trakasserier och hot i spelbranschen. SXSW skulle ha arrangerat en debatt om den så kallade Gamergate redan i höstas, men valde att ställa in den, efter hot mot flera paneldeltagare. Kritiken mot arrangörerna blev hård, för att de lät nätmobben tysta debatten. Nu, i ett större samlat grepp om näthat, kunde en del av dem som då skulle talat berätta om vad de fått utstå.

En av dem är spelutvecklaren Brianna Wu, grundare av Giant Spacekat. Hon har fått ta emot hundratals döds- och våldtäktshot efter kritiken mot gamer-communityn och tvingats lämna sitt hem och leva med förstärkt skydd. Hon tycker att bolagen bakom de sociala medieplattformarna där hoten spridits förverkat sin rätt att själva hantera bedömningen av övergrepp på plattformarna. "Det krävs en utomstående granskning av vad bolagen gör och kan göra för att upptäcka och hantera hatet och hoten på nätet."

Särskilt kritisk är hon mot Reddit, där en stor del av hoten publicerats, men också mot Twitter, där mängder av hat och hot sprids, utan åtgärder från bolaget. "Det har blivit lite bättre. Nu kanske Twitter reagerar en gång av fem när man kräver att något konto ska stängas. I höstas var det en av 20.

Om det låter ironiskt är det korrekt uppfattat. Och varken Twitter eller Reddit är på plats på mötet för att kommentera. (Twitter kommer att representeras i en panel senare i dag, så det lär finnas möjlighet att komplettera)

Men de sociala mediejättarna är väldigt medvetna om att den kraftigt eskalerande kritiken mot dem riskerar att skada dem ekonomiskt, när ju mer än 40 % av alla vuxna online säger att de drabbats av trakasserier, enligt en rapport från Pew. Twitters vd Dick Costolo skrev redan i fjol i ett PM till personalen att han skämdes över hur hans företag hanterade hatande och hotande troll. Bolaget har ändrat sina användarvillkor och bildade nyligen ett Förtroende- och säkerhetsråd, för att ytterligare lyfta trakasserifrågorna. Men även om fler konton stängts ner är många fortfarande kritiska mot hur hanteringen av anmälningar fungerar i praktiken.

Även Facebook ändrade sina communityregler för ett år sedan. Och det är en delikat balansgång mellan just yttrandefrihet och att få bort hets och hot. Monika Bickert försöker förklara gränsdragningen: "Man får skriva inlägg som kritiserar politik, institutioner och religioner. Men man får inte gå över linjen där man attackerar individer utifrån vad de har för religion, kön eller åsikt."

Problemet för Facebook är att det är så uppenbart att detta ändå flitigt förekommer – och att bolaget tar bort fullständigt oskyldigt innehåll, vilket drar ett löjets skimmer över hanteringen av anmälningar. När dödshot och grov rasism och sexism ”godkänns”, samtidigt som bilder på ”nakna” statyer och ammande mammor rensas ut, framstår processen som obegriplig.

Facebooks förklaringar handlar framför allt om volymen. Monika Bickert berättar att bolaget får in ca 1,2 miljoner anmälningar varje dag, en volym som ökat ”mycket kraftigt” det senaste året. Google ser en liknande utveckling: Jennifer Downs berättar att bolaget i fjol tog bort mer än 14 miljoner bideoklipp från Youtube för olika regelbrott.

Utöver detta gör Facebook själva en automatisk screening, via bland annat ”foto-DNA”, för att identifiera bilder som kan vara stötande. Bickert hävdar att alla anmälningar granskas manuellt, vilket varit ifrågasatt, men medger att det finns brister i processen. "De som granskar ser inte kontexten. De ser ett lösryckt inlägg eller bara en kommentar och kan inte bedöma i vilket sammanhang det publiceras. Då kan det bli fel. Vi kanske gör 99 % rätt, men ibland gör vi fel. Och då kan det bli att statyer, amningsbilder och annat försvinner, medan sådant som borde raderats blir kvar."

I de 15 panelerna i seminariet om näthatet är det ändå väldigt få som är kritiska mot just Facebook. Den kritik som finns handlar om att processen kring anmälningarna är för otydlig, med standardsvar och avsaknad av möjlighet att överklaga eller få hjälp.

Istället handlar debatten i Austin om hur hela samhället, från skolor till teknikföretag och organisationer, måste arbeta mer proaktivt med att upptäcka, motarbeta och bemöta näthatet. Om vilka vi vill vara som digitala medborgare – och vilket ansvar alla är beredd att ta för det.

Lisa Hammitt, chef för dataanalys på IBM, (som i dagarna skrev det här oerhört starka inlägget på Medium) är en av dem som aktivt arbetar med ett hitta lösningar. "Det här är ett multifrontkrig, men det är ett krig vi måste utkämpa. Dels handlar det om tekniska lösningar, som är genomförbara, med filter, granskning och algoritmer, som kan fånga upp även de mörka och dolda delarna av nätet. Dels handlar det om att skapa medvetande, både bland dem som begår övergreppen och bland dem står bredvid utan att göra något."

Initiativen mot näthatet kommer nu också, slag i slag. IT-jätten Intel, mediebolaget Vox Media och Lady Gagas stiftelse Born This Way lanserade i januari projektet Hack Harassment, för att öka medvetandet och ta fram nya tekniska lösningar. Organisationen Civilination presenterade i Austin sin första Harassment Barometer, som månadsvis ska redovisa hur stort problemet är i USA. Och det finns många fler exempel: Trollbusters (som ger stöd åt utsatta kvinnliga journalister), Heartmob (som ger stöd och verktyg till alla som drabbas)  och sociala medier-plattformar som Whisper, som bygger helt på anonymitet, men med en nolltolerans mot trakasserier. "Anonymitet ska användas som en sköld, inte ett svärd", säger Nona Farahnik på Whisper.

Pressen på att agera mot näthatet har aldrig varit starkare. Men lösningarna är många fler och mer mångfacetterade än att bara presssa några sociala medier-jättar att radera fler inlägg. Zach Mattheus på Vox Media, som arbetar med Hack Harassment, formulerar det väl: "Folk vill ha enkla lösningar och skäller därför på enskilda företag. Men det är inte rätt recept. Om man ändrar algoritmen eller blockar fler kommer hoten bara att flyttas. Vi måste få till en kulturförändring: höja medvetandet och engagera fler att ta ansvar. Det är individer som kommer att åstadkomma en förändring, inte företag."