Snart finns en checklista för att bedöma risker när algoritmer leder arbete. Bild: iStock/Thank you for your assistant.

Ny checklista ska minska riskerna när AI blir chef

Finska och svenska forskare tar fram ett nytt verktyg för att bedöma arbetsmiljörisker när algoritmer tar över delar av arbetsledningen. Om algoritmiskt ledarskap införs på fel sätt, kan det stjälpa mer än hjälpa, varnar forskare.

Algoritmiskt ledarskap – alltså att digitala verktyg, artificiell intelligens och automatiserade system används för att stödja eller ersätta traditionella ledningsbeslut i arbetets organisering – blir allt vanligare på arbetsplatser både i Sverige och Europa. Tekniken kan användas för schemaläggning, arbetsfördelning, övervakning eller prestationsmätning. Samtidigt är forskningen ännu i sin linda kring vilken påverkan algoritmiskt ledarskap har på de anställda.

– Om det inte införs på ett klokt sätt kan möjligheterna, som algoritmiskt ledarskap skapar, förvandlas till belastningar, säger Virpi Kalakoski, forskningschef vid Arbetshälsoinstitutet.

Virpi Kalakoski, Arbetshälsoinstitutet.
Bild: Pirita Männikkö.

Hon deltar i det internationella forskningsprogrammet ALGOSH, som leds från Karolinska Institutet av Carin Håkansta och finansieras av Forte. Programmet samlar forskare från flera länder och discipliner och pågår 2023–2029, vilket Användbart tidigare skrivit om.

En central del i den finländska delen av projektet är att utveckla en guide och en checklista för att identifiera och förebygga risker kopplade till algoritmiskt ledarskap.

Den finska studien bygger på intervjuer och observationer i två organisationer: en inom vård och omsorg och en inom expert- och kundservicearbete. Totalt deltog 44 personer: anställda, chefer och funktioner inom HR, IT och arbetsmiljö.

Vårdboendet, som deltog i studien, hade infört AI-stödd schemaläggning. Det är en av de vanligare formerna av algoritmiskt ledarskap på arbetsplatserna. Det lyfts ofta fram som effektiviserande, men kan leda till att arbetstagarnas inflytande över arbetstidens förläggning minskar.

– Det finns mycket tyst kunskap kring schemaläggning som beaktar individuella behov, säger forskningschef Virpi Kalakoski på Arbetshälsoinstitutet.

Att översätta den typen av erfarenhetsbaserad kunskap till ett AI-system är komplext. Dessutom påverkas resultatet av hur systemen är konstruerade. Planeringsprogrammet för arbetsskift som vårdboendet använde kunde bara hantera två individuella önskemål per anställd, konstaterar hon.

– Det var överraskande att det systemet hade den här begränsningen.

En vanlig förhoppning är att AI drastiskt ska minska tidsåtgången för administrativt arbete. Schemaläggning som tidigare kunde ta två till tre dagar kan i teorin genomföras på några minuter av ett IT-system.

Men i praktiken krävs ofta justering i efterhand.

– Ofta behöver en människa lägga sin hand vid planeringen. Då handlar det kanske inte om en besparing på tre arbetsdagar, utan snarare en, säger Virpi Kalakoski.

På det andra företaget, inom kundservice, användes ett AI-baserat system för att tidslägga och fördela skriftliga arbetsuppgifter. AI användes också för att administrera, följa med och sätta mål för telefonarbete.

I studien visade det sig att många anställda upplever arbetsbelastningen som hög när de tvingas följa strikta prestationsmål, som att leverera ett visst antal skriftliga arbetsuppgifter eller samtal varje månad. När digitala system kan hantera enklare uppgifter, faller de mer krävande arbetsuppgifterna på de anställda. Det minskar ofta flexibiliteten och gör det svårt att välja lättare uppgifter, vilket kan leda till stress och en känsla av otillräcklighet.

– Det handlar om hur cheferna sätter prestationsmålen. Om de är högt satta, upplevs de som belastande, men om de är rimliga upplevs de som rättvisa, säger Virpi Kalakoski.

Ett centralt fynd är att systemen ofta ökar betoningen på kvantitativa mål.

– Om produktiviteten sätts först så kan människan bli bortglömd, säger Virpi Kalakoski.

Forskningen visar att algoritmiskt ledarskap ofta förstärker fokus på mätbara mål och prestationstal.

Det kan leda till:

  • ökad arbetsintensitet och högre tempo
  • svårigheter att ta pauser och återhämta sig
  • press att prioritera effektivitet framför kvalitet
  • upplevelse av ständig granskning

Den kontinuerliga insamlingen av prestationsdata i realtid kan i sig fungera som en psykosocial belastningsfaktor. Att ständigt vara mätbar och jämförbar kan skapa oro för lön, karriärmöjligheter eller anställningens trygghet.

– Det handlar inte bara om teknik, utan om hur det upplevs att arbeta under ständig uppföljning, säger Virpi Kalakoski.

Forskningslitteraturen kopplar sådana belastningar till ökad risk för stress, utmattning, ångest och depressiva symtom.

– Det är viktigt att komma ihåg att psykosocial belastning är en arbetsmiljöfråga, inte ett individuellt problem. Det handlar om hur arbetet är organiserat, säger Kalakoski.

Långvarig stress är i sin tur associerad med hälsoproblem som hjärt- och kärlsjukdom, sömnsvårigheter och ökad olycksrisk.

Forskningen pekar samtidigt på skyddande faktorer. Transparens kring hur system fungerar, möjlighet att påverka, upplevelse av rättvisa och tillgång till socialt stöd kan mildra negativa effekter.

Från teknikfråga till arbetsmiljöansvar

Den checklista som nu testas inom ALGOSH är tänkt att integreras i det systematiska arbetsmiljöarbetet. Den hjälper organisationer att identifiera:

  • nya och förstärkta krav i arbetet
  • risker för ökad kognitiv och emotionell belastning
  • konsekvenser för återhämtning och hälsa
  • behov av organisatoriska åtgärder

Checklistan blir klar under våren, och ska utvärderas på arbetsplatser efter det.

Jonna Söderqvist

Exempel på arbetsmiljörisker vid algoritmiskt ledarskap

I en riskbedömning kan följande frågor vara centrala:
Mål och arbetsbelastning
• Är prestationsmålen realistiska i relation till arbetets innehåll?
• Leder tät uppföljning till ökad arbetstakt eller uteblivna pauser?
• Riskerar kvantitet att prioriteras framför kvalitet?

Arbetstid och scheman
• Har AI-baserad schemaläggning minskat medarbetares möjlighet att påverka sina arbetstider?
• Publiceras scheman i tid för att möjliggöra planering av privatliv?

Kontroll och ansvar
• Är det tydligt vem som ansvarar för beslut som baseras på algoritmiska rekommendationer?
• Finns möjlighet att ifrågasätta eller korrigera systemets beslut?

Social arbetsmiljö
• Har arbetsklimatet blivit mer mät- och individfokuserat?
• Påverkar individuella prestationsmål viljan att stötta kollegor?
Källa: ALGOSH och Arbetshälsoinstitutet.