Staten testar automatiserad censur på nätet – algoritmer ska hjälpa polisen upptäcka ”hets mot folkgrupp”

Nu testar staten automatiserad censur på nätet. I ett samarbete mellan Polismyndigheten, Försvarets forskningsinstitut (FOI) och Uppsala universitet har ett system tagits fram som genom algoritmer ska hjälpa polisen att upptäcka bland annat ”hets mot folkgrupp” på internet.

Huvudsyftet för det nya forskningsprojektet uppges vara att undersöka möjligheter att med teknik spåra hatfulla texter på svenska. Målet är sedan att tekniken ska kunna appliceras hos sociala medieplattformar och nyhetsredaktioner, skriver FOI i ett pressmeddelande.

Vem som helst kan besöka hatomaten och föreslå text som man upplever stötande. Man uppger att materialet på sikt ska användas för att hjälpa rättsvårdande myndigheter att utreda hot, kränkningar och trakasserier av grupper eller enskilda individer i digitala miljöer.

Enligt forskningsprojektets initiativtagare är hatiska budskap i digitala miljöer ett allvarligt problem. De menar att hat bidrar till att utrymmet för resonerande och argumentation krymper medan polarisering av åsikter ökar. Sedan poängterar man även att vissa yrkesgrupper, däribland politiker och journalister, är särskilt utsatta.

Vissa former av näthat är olagliga – något som systemet ska kunna upptäcka.

”Dit hör till exempel olaga hot, förtal eller hets mot folkgrupp. Det sistnämnda tillhör kategorin hatbrott, en kategori av brott som i högre grad än annars innebär en extra påfrestning för den som blir utsatt”.

Men algoritmerna begränsas alltså inte till att fånga upp endast sådant som är utanför lagens råmärken.

Reaktioner i sociala medier
Många har reagerat på statens nya satsning. En person skriver ”hjälp överheten kartlägga näthat och annan samhällskritik”. En annan person föreslår att roboten borde ha fått namnet Stasi istället för hatomaten.

https://twitter.com/Nordiskstandard/status/1124708478617042946

Hjälp överheten kartlägga näthat och annan samhällskritik.
Lägg in de fraser som Du upplever som hatiska och förargliga i den goda statens Hatomat.https://t.co/F2mA3U1gpR

— Anders Dahlqvist (@genusfrenologen) May 4, 2019

När någon matar in text i hatomaten uppges informationen registreras med ip-adress. En person har även uppmärksammat en koppling mellan hatomaten och USA.

https://twitter.com/teirdes/status/1124379287765827584