På flera amerikanska universitet använder man artificiell intelligens, AI, för att upptäcka och flagga olämpliga kommentarer. I en studie från Cornell University i New York framkommer det att minoriteter skriver dylika kommentarer i avsevärt högre omfattning än vita.

Enligt studiens författare är tweets skrivna på ”African-American English” som AI-systemen hittar överrepresenterade. Man har även funnit att tweets skrivna av svarta är sexistiska nästan dubbelt så ofta som de skrivna av vita.

De påstått oväntade resultaten menar man kan förklaras med ”systematisk ras-partiskhet” från de personer som assisterar med att hitta kränkande material.

AI ska stoppa fördomar och fake news
På University of Buffalo and Arizona State University har man skapat egna system för att automatiskt upptäcka fördomar i inlägg på sociala medier. Systemen flaggar dessa som potentiella spridare av desinformation och illvilja.

På University of California Berkeley använder man samma typ av system för att skapa ett ”online hate index” för att kunna bistå diverse plattformar med att identifiera och eliminera ”hate speech”.

Vidare använder man liknande system för att sålla ut ”fake news” för att avgöra om informationen är ”genuin eller vilseledande”. Man hoppas att filtren snart kommer att vara integrerade i webbläsare med syftet att stoppa innehåll som ger upphov till ”hat, motvilja och fördomar”.