Hjärnan hos en människoliknande robot i Italien har konstaterats ha mer gemensamt med sin mänskliga förlaga än vad programmerarna förutsett. Genom att bygga in ett system där roboten kan resonera med sig själv innan den utför en viss handling har man kunnat konstatera att den kan välja att följa eller bryta mot en inprogrammerad regel.

När vi människor fattar beslut av mer komplicerad art föregås det av att vi för ett inre verbalt resonemang med oss själva med argument för och emot. Nu har AI-utvecklare vid universitetet i italienska Palermo byggt in den förmågan hos en humanoidrobot, som lystrar till namnet Pepper.

Utvecklad av japanskt tech-företag

Peppers maskinvara och grundläggande programvara har utvecklats av SoftBank Robotics i Japan med avancerad modellering av mänskliga kognitiva processer och en lika utvecklad talförmåga. I likhet med människor kan Pepper prata med sig själv i huvudet inför att han ska utföra vissa handlingar.

Forskarna kan också läsa Peppers tankar genom att låta honom tänka högt och därmed förstå hur roboten kommer fram till om den ska göra något på ett sätt, ett annat sätt eller inte alls, en form av fri vilja.

– Med inre tal kan vi bättre förstå vad roboten vill och vad den har för plan, förklarar en av de italienska forskarna, Antonio Chella, för NewScientist.

Följa regler eller lyda uppmaningar?

Konkret har man testat vilket beslut Pepper fattar om en uppmaning från en människa går emot de uppföranderegler som den ”uppfostrats” till genom programmering. Pepper har bland annat fått lära sig gott bordsskick med alla dess etikettsregler.

Det man ville ha svar på var om roboten skulle följa etikettsreglerna eller uppmaningen vid matbordet från en närvarande person om de stod i strid med varandra.

I det aktuella fallet visade det sig att Peppers vilja att vara lojal med människan vid bordet var starkare än den att göra så som han uppfostrats till. Pepper kunde ställa en fråga till den som gett uppmaningen och om denne intygade för Pepper att det trots regelbrottet ändå var rätt handling, böjde sig roboten för det.

– OK, jag föredrar att följa ditt önskemål, svarade Pepper efter att ha funderat en stund.

Tvingar Pepper att tänka högt

Genom att tjuvlyssna på Peppers tankar kunde forskarna följa Peppers inre resonemang med sig själv och hur han kom fram till ett beslut. Om förmågan att verbalt resonera med sig själv stängdes av blev resultatet däremot ett annat.

Då valde han att följa reglerna och att inte lyda den mänskliga uppmaningen. Pepper gav då heller ingen förklaring till varför han valt regeln framför uppmaningen.

Peppers förmåga att fatta beslut utifrån egen vilja och efter att ha resonerat med sig själv är ännu i ett tidigt utvecklingsskede men uppges ha stor potential att utvecklas vidare. Det förutspås också öka möjligheterna för ett närmare samarbete mellan människa och maskin.

Möjliggör intimare samarbete mellan människa och maskin

Sarah Sebo sysslar med liknande forskning vid universitet i Chicago i USA. Hon menar att tekniken kan skynda på förståelsen för både vad robotar kan göra men också för vilka begränsningar som finns. Den kan också bidra till att bygga upp tilliten hos människor för humanoida robotar som ofta uppfattas och beskrivs som lite skrämmande och hotfulla.

– Den upprätthåller människors tillit och möjliggör ett sömlöst samarbete mellan människor och robotar, berättar Sebo.

Hon efterlyser också bredare försök där robotar som Pepper får interagera med flera människor för att utröna om det här beteendet är generellt gentemot människor eller skiljer sig åt beroende på vilken människa och hur många människor roboten har samröre med.

Ett tillämpningsområde där robotar som tänker högt kan komma att användas uppges vara inom medicinen. Att på det här sättet inte låta dem ha ett hemligt själsliv bidrar allmänt till en ökad förståelse för hur humanoida robotar tänker och hur de fattar vissa beslut och inte andra.