EU tar nu ett nytt steg i försöken att få kontroll över den digitala informationsmiljön. Från och med i höst omfattas ChatGPT av EU:s hårdaste regler för stora digitala tjänster genom Digital Services Act, DSA. Beslutet innebär att OpenAI:s AI-tjänst för första gången placeras i samma regulatoriska toppskikt som de största sökmotorerna och plattformarna på internet.

EU-kommissionen har klassat ChatGPT som en så kallad ”Very Large Online Search Engine”, VLOSE. Bakgrunden är att tjänsten passerat gränsen på 45 miljoner genomsnittliga användare i månaden inom EU. Därmed får Bryssel betydligt större möjligheter att granska hur tjänsten fungerar och vilka samhällsrisker den anses skapa.

På pappret handlar reglerna om säkerhet, transparens och skydd för användarna. ChatGPT ska bland annat bedöma och begränsa risker kopplade till olagligt innehåll, minderåriga, val, allmän säkerhet och grundläggande rättigheter. Kommissionen får samtidigt en betydligt starkare tillsynsroll över de största tjänsterna.

Men bakom formuleringarna om ”säkerhet” och ”riskhantering” finns en större politisk fråga: vem ska i framtiden avgöra vilka svar en AI får ge?

LÄS ÄVEN: EU-pampen: Inför obligatorisk ID-kontroll för sociala medier

Det är här EU:s nya kontroll över ChatGPT blir kontroversiell. En AI-tjänst är inte som en traditionell tidningsredaktion. Den svarar direkt på användarens frågor om politik, historia, religion, kriminalitet, migration och samhällsdebatt.

Om företaget samtidigt måste anpassa sina system efter europeiska krav på att identifiera och minska ”systemrisker” kan det uppstå en stark drivkraft att hellre begränsa ett kontroversiellt svar än att riskera konflikt med regulatorerna.

Det behöver inte innebära att en EU-tjänsteman sitter och godkänner varje svar som ChatGPT producerar. Den verkliga risken är mer indirekt: när staten ställer omfattande krav på hur en digital tjänst ska hantera information kan företaget själv börja övermoderera för att undvika böter och rättsliga problem.

Riskhantering och yttrandefrihet

Juridiska analyser av DSA har just pekat på risken att regleringen leder till begränsningar av yttrandefriheten, bland annat genom att lagligt innehåll kan påverkas av plattformarnas riskhantering.

EU-kommissionen framhåller samtidigt att DSA tvärtom ska stärka användarnas grundläggande rättigheter och uttryckligen skydda bland annat yttrandefrihet och informationsfrihet. Problemet är att dessa mål kan hamna i konflikt. Samma regelverk som ska bekämpa olagligt innehåll och desinformation ger också myndigheter större möjligheter att utöva tillsyn över de största digitala tjänsterna.

Foto: Pixabay

För AI blir frågan särskilt känslig eftersom gränsen mellan information, åsikt och ”risk” är betydligt mer komplicerad än på en traditionell plattform. Ett inlägg på Reddit kan tas bort eller ligga kvar. Ett AI-svar kan däremot formuleras på hundratals olika sätt och påverkas av systemets instruktioner, säkerhetsfilter och hur modellen har tränats.

Det öppnar för en utveckling där EU:s regler inte behöver innehålla en uttrycklig censurlag för att ändå påverka vad européer får höra från sina AI-system. Om ett företag riskerar böter på upp till sex procent av sin globala årsomsättning vid allvarliga överträdelser finns det starka ekonomiska incitament att ligga på den säkra sidan.

Kontroll över information

Och det är inte längre bara en teoretisk diskussion om framtiden. EU har redan byggt upp ett omfattande system för tillsyn över de största digitala plattformarna. Med ChatGPT flyttas samma modell nu in i den generativa AI-världen. Totalt har EU-kommissionen utsett 28 stora plattformar och sökmotorer inom DSA-systemet.

Kritiker kan därför hävda att Europa håller på att skapa en modell där den digitala offentligheten i allt högre grad formas genom reglering från Bryssel. Förespråkarna ser det som ett nödvändigt skydd mot mäktiga teknikföretag. Konflikten handlar i grunden om något större än ChatGPT: ska staten sätta ramarna för den digitala informationsmiljön eller ska individen själv få avgöra vilka idéer och perspektiv hon vill möta?

För OpenAI är tiden nu knapp. ChatGPT måste uppfylla de nya kraven inom fyra månader. Därefter står EU redo att använda sina tillsynsbefogenheter mot tjänsten.

LÄS ÄVEN: Europol lagrade felaktigt stora mängder personlig och känslig information