AI har exploderat på senare år med allt mer avancerade modeller som snabbt och effektivt kan göra jobbet åt dig. Men vad händer när våra egna hjärnor inte längre behöver jobba för att få fram resultatet? En ny studie pekar på mycket oroväckande resultat.

Skadar ChatGPT förmågan till kritiskt tänkande? En ny studie från forskare vid MIT:s Media Lab har gett en del oroande resultat.

Studien delade in 54 försökspersoner – 18-39-åringar från Boston-området – i tre grupper och bad dem skriva flera SAT-uppsatser med hjälp av OpenAI:s ChatGPT, Googles sökmotor respektive utan digitala hjälpmedel. I en fjärde session fick vissa deltagare byta metod, exempelvis från AI till helt egen skrivning. Under varje skrivpass mättes deltagarnas hjärnaktivitet med EEG och de intervjuades om sina upplevelser.

Forskarna använde ett EEG för att registrera författarnas hjärnaktivitet i 32 regioner och fann att av de tre grupperna hade ChatGPT-användare det lägsta hjärnengagemanget och ”konsekvent underpresterade på neurala, språkliga och beteendemässiga nivåer.” Under loppet av flera månader blev ChatGPT-användarna latare med varje efterföljande uppsats och använde sig ofta av kopiera och klistra in i slutet av studien.

Påverkade även efteråt

Den neurala aktiviteten i de delar av hjärnan som ansvarar för fokus, arbetsminne och beslutsfattande var som mest aktiv hos dem som skrev utan hjälp. Googlegruppen hamnade i mitten, medan ChatGPT-användarna uppvisade den svagaste kopplingen mellan hjärnregioner. De förlitade sig helt enkelt mer på tekniken än på sina egna mentala resurser.

Det syntes också i hur deltagarna förhöll sig till sina texter. De som skrivit med ChatGPT hade i mycket lägre grad förmåga att återge vad de nyss skrivit – både i form av direkta citat och i sammanfattande form. Många hade dessutom svårt att känna att texten de lämnat in verkligen var “deras”. Tvärtom uttryckte flera en känsla av distans, som om texten tillhörde verktyget snarare än dem själva.

Intressant nog påverkade AI-användningen deltagarna även efter att de slutat använda verktyget. I den fjärde sessionen, där tidigare ChatGPT-användare fick skriva utan hjälp, var deras hjärnaktivitet fortsatt låg. Det tyder på att AI-användning inte bara påverkar det ögonblickliga tänkandet – den kan också skapa en slags kognitiv passivitet som hänger kvar.

“Fel och skadligt”

Forskarna kallar detta för en “kognitiv skuld”, en form av mental nedtrappning som uppstår när man vant sig vid att låta tekniken göra jobbet. Trots att ChatGPT hjälpte deltagarna att skriva mer strukturerade och språkligt eleganta texter, visade det sig att innehållet ofta var mindre originellt, mindre personligt och mer likriktat än i de andra gruppernas texter.

Studien väcker därmed frågor om hur vi använder AI-verktyg i utbildning och lärande. Den pekar inte på att tekniken i sig är farlig, men att vårt sätt att använda den kan påverka vår kognitiva utveckling – särskilt om vi ersätter eget tänkande med färdiga AI-svar. Det är bekvämt, men bekvämligheten kan komma med ett pris.

Uppsatsen har ännu inte granskats av kollegor (peer review) och urvalet är relativt litet. Men artikelns huvudförfattare Nataliya Kosmyna ansåg att det var viktigt att offentliggöra resultaten för att lyfta fram farhågorna om att den långsiktiga hjärnutvecklingen kan offras i processen när samhället i allt högre grad förlitar sig på LLM:er för omedelbar bekvämlighet.

– Det som verkligen motiverade mig att gå ut med det här nu, innan jag väntar på en fullständig peer review, är att jag är rädd att det om 6-8 månader kommer att finnas någon beslutsfattare som bestämmer att vi ska införa GPT-förskolor. Jag tror att det skulle vara helt fel och skadligt, sa hon.

Annan studie verifierar

I en annan studie, “The Impact of Generative AI on Critical Thinking”, bekräftas och fördjupas bilden av hur AI påverkar tänkande och lärande, särskilt bland studenter.

I denna studie undersöktes 423 universitetsstudenter i USA som använde AI-verktyg (som ChatGPT) under en hel termin. Resultatet visar att de som ofta använde AI fick signifikant lägre poäng på tester som mäter kritiskt tänkande jämfört med de som använde AI sparsamt eller inte alls. Effekten kvarstod även efter att forskarna kontrollerat för faktorer som tidigare betyg, ämnesområde och studietid. Studenterna själva uppgav också att de i allt högre grad använde AI som “första svar”, snarare än som ett komplement till egna tankar eller analyser.

Forskarna varnar för att AI tenderar att förstärka ytinlärning snarare än djupinlärning. I enkätdelen framkom dessutom att många studenter över tid blev mindre benägna att ifrågasätta eller dubbelkolla information från AI, vilket enligt forskarna signalerar en nedgång i både epistemisk nyfikenhet och intellektuell självständighet.

Tillsammans med MIT-studien ger detta en stark indikation på att AI-verktyg – om de används okritiskt – riskerar att urholka just de färdigheter som högre utbildning är tänkt att stärka.

LÄS ÄVEN: S-riksdagsman anklagas för att plåga regeringen med “hundratals AI-genererade frågor”