Automatisering och artificiell intelligens kan underlätta arbetet, men många är överoptimistiska och undervärderar de risker som också finns. Det hävdar Åsa Cajander, professor i människa-maskininteraktion vid Uppsala universitet.
Hon är medförfattare till en kunskapssammanställning, ”Artificiell intelligens, robotisering och arbetsmiljön” (Mynak 2022), som går igenom konsekvenser för arbetsmiljö och säkerhet, stress, ergonomi, kompetens, jämställdhet, organisationskultur och ledarskap. Det är ännu är ont om forskning om arbetsmiljö och AI, men när det gäller vad som bör göras, kan man återanvända resultat från studier ända sedan 1970-talet om datorisering och arbete, konstaterar rapporten. Och Åsa Cajander håller med de äldre forskarkollegor som tycker att AI påminner om ”kejsarens nya kläder” – åtminstone delvis.
-För människor som blir berörda är det oftast ointressant om det handlar om ”vanlig” automatisering, som vi hållit på sedan många årtionden, eller om det är AI, säger hon.
Men en del skiljer sig från tidigare teknik:
– När AI-system lär sig saker på egen hand, baserat på information som finns tillgänglig, utan att någon matar in och programmerar – ja, det något som inte hänt förut!
Människan och automatiseringen
En central fråga för Åsa Cajander är hur människan samspelar med de nya teknikerna. Forskarna talar om automatiseringsparadoxen:
Ju mer effektivt som det automatiserade systemet är, desto mer avgörande kommer människornas insats att vara – men samtidigt blir de ofta mindre involverade!
Detta såg forskare redan på 1980-talet i samband med den mer avancerade, datorstödda automatiseringen i processindustrier (papper, stål, och kemi). Man talade om att operatörernas ”oceaner av tristess och ögonblick av terror”. Det betyder: långa tider då allt gick som det skulle, följda allvarliga störningar som de snabbt måste åtgärda. Liknande lägen kan uppstå när man automatiserar styrning av flyg (pågått länge), tåg, bussar och bilar.
Människor som arbetar med ”beslutsautomater”, eller ”handläggningsrobotar” i olika kontorsmiljöer (beviljande av socialbidrag är ett omskrivet exempel) blir mer viktiga, om det ska fungera bra, menar Åsa Cajander. Arbetsmotivation och arbetsengagemang två nyckelfrågor, liksom kompetens och lärande i arbetet. Detta står i fokus i ett forskningsprojekt om AI och automatisering som hon har startat 2023.
-Det finns risk att man automatiserar det som är enkelt rent tekniskt, utan hänsyn till vad som motiverar människor i det här arbetet, säger hon.
-I en handläggningsrobot kan det handla om standardmässiga och ganska enkla beslut, i ett beslutsstöd: uppfyller den sökande detta så är det okej. ”Jag föreslår att du godkänner den här ansökan”, säger datorn. Då sitter människorna bredvid, och det som blir kvar för dem är de komplexa, ej standardmässiga besluten. De får ingen träning i de enkla besluten längre, ingen riktig inblick i regelverket och lär sig alls inte på samma sätt som när de arbetade med alla beslut.
-Och nästa generation handläggare – hur ska de lära sig hantverket och reglerna, om de aldrig fått arbeta själva med de enkla fallen?
Förstärker diskriminering
Åsa Cajander arbetar inom universitet med diskrimineringsfrågor och hon ser en risk för att AI kan förvärra negativ särbehandling:
– Det finns rekryteringsstöd och man exempelvis i IT-branschen matar in data om alla som man har anställt tidigare så lär sig systemet: ”Här anställer vi vita män. Vi anställer inte kvinnor och invandrare”. Matar du in det beteende vi har, kommer AI att förstärka det. Och det kan bli osynligt vilket underlag som systemet använder för att ta fram kandidater.
-Det är förstås tänkbart att använda AI för motsatsen, genom att på olika sätt arbeta med diskrimineringsgrunderna när man skapar systemet. Men det gäller vara medveten och inte tro att AI är neutral och att det blir objektivt. Det är en falsk bild som många har: ”Vi slipper alla dessa mänskliga värderingar”.
När ett AI-system en gång väl har lärt sig något, kan det ha svårt att lära om. Åsa Cajander berättar om ett verkligt och aktuellt exempel:
-System för schemaläggning på sjukhus bygger på AI, som tar in det som händer och anpassar sig efter det,när det kommer med nya schemaförslag. Under pandemin blev det väldigt onormala arbetstider och många fick mycket längre pass. Efter pandemin upptäckte man att systemet inte längre gick att använda, därför att det hade lärt sig att det onormala var normalt.
Så man fick så att säga starta om och nollställa schemaläggningssystemet.
Helt ohyggligt användbart
Åsa Cajander är ingen teknikfobiker och har nyligen blivit daglig och förtjust användare av AI-systemet Chatt GTP, som bland annat kan producera och bearbeta texter.
-När jag skulle rekrytera doktorand hade jag en snustorr annons som jag bad systemet göra mer lockande för unga människor, igår skrev den om en tråkig seminarieinbjudan. Det kan bli lite floskulöst ibland, så man får bearbeta texterna en del. Men det är helt ohyggligt användbart,.
Som universitetslärare och skolbarnsmamma förskräcks hon dock av fuskrisken och att själva lärandet är i fara, när de studerande inte behöver arbeta på egen hand med att hämta in och bearbeta kunskap.
Ord på vägen
Åsa Cajander talar om att forskarna inom människa-maskin-interaktion har vidgat sitt perspektiv, från att se individ och maskinen som isolerat, till att se sambanden mellan alla på en arbetsplats och alla tekniska system, och organisationskultur och ledarskap. Och detta kan översättas till ett ord på vägen om vad man på arbetsplatsen kan göra för förbereda sig så att artificiell intelligens och automatisering förbättrar istället för att försämra arbetsmotivation, arbetsengagemang, arbetsglädje och yrkesstolthet – och därmed arbetsmiljön. Ett konkret råd för att öka helhetssynen och minska teknikerdominansen:
–Se till att det blir fler kvinnor på IT-avdelningen, och fler män på HR-avdelningen!
Målet med det senaste forskningsprojektet är att komma med konkreta arbetsmiljöråd.
-Vissa saker vet vi i fysiska världen är inte bra för någon, som för mycket av tunga lyft – och en del saker är bra för alla, som att chefer ger positiv feedback. Vad finns det för motsvarigheter i digitaliseringsvärlden? Vad ska vi verkligen undvika när vi automatiserar och inför AI-system, och vad ska vi sträva efter?
Ett tydligt AI-råd kan hon ge redan nu, som har med människans roll att göra:
-AI-systemen måste tydligt visa hur det har kommit fram till ett beslut, eller förslag till beslut. Detta är en självklar rekommendation!
Mats Utbult