Ny algoritme kan kortlægge chikane på nettet

En ny og potentielt banebrydende algoritme har set dagens lys. Den er udviklet af analysebureauet Analyse & Tal, og hedder At&tack-Ha&te. Algoritmen er den mest avancerede, som nogensinde er blevet udviklet til det danske sprog. Nu har den trawlet 63 millioner kommentarer igennem fra Facebook for at vi kan blive klogere på chikane og hadefulde kommentarer på nettet.

En nyskabende algoritme

Det der gør algoritmen nyskabende er, at den nærmest kan forstå, hvad der bliver skrevet i kommentarerne. Netop denne evne gør, at den med en helt utrolig præcision kan opdage hadefulde kommentarer på facebook.

Når der tidligere er blevet lavet studier af danskernes sprogbrug på nettet, så har de ofte bygget på mindre stikprøver af bestemte miljøer, fordi det ville være menneskeligt umuligt at gennemgå alle kommentarer. Det kan den nye algoritme til gengæld. Den har derfor analyseret ca. 63 millioner kommentarer på facebook-profiler for en lang række danske medier, politikere og politiske partier.  

Algoritmen blev trænet ved hjælp af kommentarer og data, som blev kategoriseret af skaberne bag projektet. Den blev ikke kun trænet til at genkende stødende ord og udtryk, men også til at få en forståelse for semantik og slang. Efterhånden som forskerne fodrede algoritmen med mere og mere data, og løbende rettede den, når den tog fejl, blev algoritmen i stand til at finde mere og mere komplekse udtryk for chikane og hadefulde kommentarer. 

Den foreløbige gennemgang og kortlægning af 63 millioner kommentarer på Facebook er den mest omfangsrige i en dansk kontekst nogensinde. 

Muslimer og kvinder er skydeskiver

Noget af det som algoritmen fandt var, at muslimer og kvinder ofte var i den modtagende ende for hadefulde kommentarer. Ud af de 63 millioner kommentarer, så var ca. hver 20. eller 5,2% deciderede sproglige angreb på personer eller grupper.

50% af de hadefulde kommentarer rettet mod en samfundsgruppe gik på nationalitet, etnicitet eller religion. Ca 14% var rettet mod kvinder. Desuden fandt algoritmen, at I debatter og opslag der handler om islam, muslimer, indvandrere eller integration, så kunne 13% af kommentarerne karakteriseres som angreb. 

Algoritmen fandt også, at de 3 politikere med fleste hadefulde kommentarer på deres Facebook-side alle er medlemmer af Dansk Folkeparti. Nummer 1 er Peter Skaarup, mens nummer 2 og 3 er henholdsvis Lise Bech og Peter Kofod. 

Algoritmen bekræfter dermed andre studier, der tidligere er lavet på området, som har vist at særligt muslimer og kvinder er udsat for online chikane og hadefulde angreb, når de blander sig i den offentlige debat. 

Et nyt værktøj i kampen for den offentlige samtale

Analyse & Tal, som står bag algoritmen, håber selv, at andre vil tage teknologien til sig og f.eks. bruge den aktivt til forskning eller som medieringsværktøj. Bl.a. udtalte Sarah Steinitz, som er partner og analytiker hos Analyse & Tal til Politiken: 

 “Vi håber, at nogle af de forskere i Danmark, der arbejder med at kvalificere, hvor grænsen i den offentlige samtale går, nu får et redskab, så vi kan måle samtalen og få et fælles fodslag at diskutere ud fra – noget, der ellers kan være svært, fordi Facebook virkelig holder på sine data”.

Det kan lade sig gøre, fordi Analyse & Tal har valgt at frigive algoritmen og den kode, som den bygger på. På den måde vil andre kunne bruge og videreudvikle den. 

Analysebureauet forestiller sig også, at det på sigt vil være muligt at udvikle et program på baggrund af algoritmen. Et program som f.eks. politikere vil kunne bruge til at hjælpe med at mediere kommentarsporet på deres Facebook-sider. Dette er dog stadig kun et fremtidsscenarie. 

Selvom algoritmen er imponerende, så mener skaberne, at den stadig misser omkring 27% af angreb, som finder sted i kommentarsporene. Det skyldes primært, at det kan være svært for algoritmen at forstå underforståede kommentarer.  

Trump er udelukket fra sociale medier – men er det fair?

Afgående præsident Donald Trump er blevet udelukket fra en række sociale medier. Det skete efter Trump tilhængere trængte ind i USA’s Kongres i sidste uge. Flere medier, politikere og eksperter har efterfølgende ytret, at Trump var medskyldig i handlingerne. Disse påpeger, at han gennem længere tid har opfordret til oprør og sået tvivl om præsidentvalgets legitimitet bl.a. gennem Twitter. Tilbage står spørgsmålet om udelukkelsen af Trump er en krænkelse af ytringsfriheden? Eller om det er et udtryk for, at de store tech-firmaer endelig tager ansvar?

Hvad fik glasset til at flyde over?

Det er ikke nogen hemmelighed, at social medier og særligt Twitter har været præsident Trumps foretrukne kommunikationsmiddel. Flere sociale medier har dog fået nok af Trump efter sidste uges opstand ved Kongressen. Trump er derfor blevet udelukket fra en række sociale medier såsom Twitter, Facebook, Instagram og Youtube på ubestemt tid.

Op til hændelserne i Washington i sidste uge havde Trump bl.a. skrevet på Twitter: “Stor demonstration i D.C den 6. januar. Mød op, det bliver vildt.”

Derudover har han gentagne gange delt påstanden om, at der ved præsidentvalget i november fandt massiv valgsvindel sted, og at valget er blevet stjålet fra ham. En påstand som gang på gang er blevet afvist bl.a. på grund af manglende beviser. 

Ifølge flere af de sociale medier skyldes udelukkelsen frygt for opfordringer til vold, som den der fandt sted i Washington. Her blev medlemmerne af Kongressen og Repræsentanternes Hus evakueret og fem mennesker omkom, da Trump tilhængere trængte ind på Capitol. 

Twittter har herefter udtalt: “Efter en gennemgang af kontoen og omstændighederne omkring den har vi permanent suspenderet denne konto på grund af frygt for yderligere tilskyndelse til vold”. 

Krænkelse af ytringsfriheden?

Efter udelukkelsen af Trump fra diverse sociale medier har debatten raset – også herhjemme i Danmark. Der er nemlig stor uenighed om, hvorvidt udelukkelsen af præsidenten er en krænkelse af ytringsfriheden. 

På den ene side står bl.a. medieordfører fra Socialdemokratiet Kasper Sand Kjær: “I den fuldstændig unikke situation, USA befinder sig i, kan jeg godt forstå, at Twitter og andre sociale medier siger, at deres platforme ikke skal bruges til at undergrave en demokratisk overdragelse af magten. Men det er også et kæmpe dilemma, at techgiganter afskærer en folkevalgt præsident adgang. Derfor kalder det på en diskussion om disse virksomheders rolle i et demokrati”. 

Han bliver bakket op af Rasmus Nordqvist fra SF, som udtaler: “De er medier og har et ansvar”. Han uddyber dog, at: “Vi er nødt til at definere, hvad det er for et ansvar, de sidder med, selvom jeg ikke har det færdige svar på, hvordan det ansvar skal formuleres. For man kan ikke bare overføre for eksempel Politikens medieansvar til sociale medier”. 

I den modsatte lejr finder vi Jens Rohde fra Radikale Venstre. Han kritiserer valget om at udelukke Trump: “Man kan som techgigant godt lukke ned for specifikke ytringer med baggrund i eksisterende lov, men at censurere personer er et fundamentalt demokratisk problem for både retssikkerheden og ytringsfriheden. Jeg er rimeligt paf over, at folk accepterer det med argumentet om, at Twitter er en privat virksomhed og derfor må gøre, hvad de vil. Det er et samfundsproblem, at vores rammer for ytringsfrihed er udliciteret til store virksomheder«. 

For meget magt til sociale medier

Seniorforsker ved Institut for Menneskerettigheder Rikke Frank Jørgensen giver politikerne ret i, at det store problem er den magt, som nogle tech-firmaer har opnået. Hun udtaler i et interview med Politiken: “At kommercielle hensyn spiller ind, understreger, hvorfor det er problematisk, at den offentlige samtale styres af private virksomheder”. Hun uddyber: “De er ikke sat i verden for at sikre demokrati og ytringsfrihed, de er sat i verden for at tjene penge. Men i praksis er de nu gatekeepere for vores offentlige liv”.

Er de store sociale medier dobbeltmoralske?

Udelukkelsen af Trump har også rejst en anden diskussion. Nemlig om de store tech-firmaer opfører sig dobbeltmoralsk. Diskussionen udspringer af, at platformene tidligere er blevet brugt til at sprede had i andre dele af verden uden konsekvenser. 

F.eks. har en iransk leder opfordret til mord på israelere på Twitter. Og Facebook er blevet brugt til at planlægge og opfordre til religiøs udrensning i Myanmar.

Disse hændelser har fået flere til at kritisere de sociale medier for at være dobbeltmoralske. Der bliver lagt vægt på, at tech-giganterne primært blander sig i USA, fordi de har hjemme i USA. Derfor er de mere bange for regulering fra amerikanske politikere. Det handler ifølge kritikerne ikke om, at tech-firmaerne har fundet deres moralske kompas. Derimod prøver de at sikre sig så meget manøvrerum som muligt. 

Flere peger på, at Facebook og Twitter reagerede nu, fordi demokraterne fremover har flertal i begge dele af Kongressen. Dette giver demokraterne mulighed for at indføre regulering af tech-firmaerne. 

Hvad synes du? Var det forkert at Trump blev udelukket fra de sociale medier og har tech-giganterne for meget magt?