Nytt projekt undersöker: Vems idé blir det när AI skriver koden?

– Vi pratar ofta om kontroll på ett förenklat sätt: antingen har människan kontroll eller så har hon det inte. Men vad betyder det egentligen att ha kontroll? Det är en väldigt svår fråga, säger Martin Jonsson, professor i medieteknik som i sin forskning studerat relationen mellan människan och teknik.

AI har på kort tid förändrat programmeringen i grunden. Tekniken kan generera stora mängder kod utifrån en kort instruktion och göra arbetet betydligt snabbare. Samtidigt är mängden information som programmeraren matar in liten jämfört med den kod som kommer tillbaka. AI:n måste därför tolka instruktionen, fylla i det som inte har specificerats och fatta egna beslut.

Vad händer när AI:n fyller i luckorna?

Projektet handlar om fenomenet intention drifting, ungefär avsiktsförskjutning på svenska. Det beskriver hur programmerarens ursprungliga idé gradvis kan förändras under arbetet med AI.

– Man kan ha en ganska tydlig idé om vad man vill göra, men sedan få tillbaka något som inte riktigt motsvarar det man förväntade sig. Ändå kan man tycka att resultatet är helt okej. Plötsligt har arbetet dragit iväg från den ursprungliga tanken, säger Martin Jonsson.

Förskjutningen sker ofta utan att användaren märker det. AI:n kan ha fyllt i luckor, fattat beslut och lagt till sådant som inte efterfrågades, samtidigt som resultatet uppfattas som det man bad om.

I tidigare studier har Martin Jonsson låtit programmerare styra hur ofta AI:n ska ställa frågor till användaren innan den går vidare. Det som blev tydligt var att när frågorna blev för många, då började användarna rutinmässigt godkänna förslagen. Formellt hade programmerarna kontroll, men frågan är hur stor kontrollen var i praktiken. Martin Jonsson och kollegorna i Lund tar nu frågan vidare och ska undersöka vad som händer med kontrollen när AI:n fattar allt fler beslut under arbetets gång.

Flera perspektiv behövs för att förstå AI

Projektet förenar teknisk forskning om AI och programmering med humanistiska och samhällsvetenskapliga perspektiv på bland annat mänskligt handlingsutrymme, ansvar och kontroll.

Forskarna ska också undersöka om resultaten kan överföras till andra områden där AI fattar beslut eller lämnar förslag, exempelvis textproduktion. På så sätt handlar projektet inte bara om vad tekniken kan göra, utan också om vad som händer med människans roll när den tas i bruk.

– Vi pratar för mycket om de senaste AI-modellerna och för lite om vad som händer i mötet med människor. Det är i interaktionen, och i hur tekniken tas in i organisationer och praktiker, som det verkligen avgörs om AI blir till nytta., säger Martin Jonsson.