Både risker och vinster med AI i det sociala arbetet: ”Kan skapa mer tid till kontakt”

– Efterfrågan på socialtjänstens tjänster lär alltså inte matcha resurserna, och ett sätt att hantera det är ny välfärdsteknik.

AI-funktioner har redan börjat implementeras i en del kommuner, inte minst som beslutsstöd inom myndighetsutövningen.

– I stället för att man som tidigare ansöker om försörjningsstöd på en pappersblankett gör man det nu genom e-tjänst. Sedan är det en robot som inhämtar information om klienten från olika system och föreslår ett beslut, förklarar Susanne Tafvelin, som just nu leder ett forskningsprojekt om automatisering i socialtjänsten ur ett organisations- och brukarperspektiv.

En av de kommuner som ingår i projektet beräknar att deras socialsekreterare kommer att spara in 40 procent av arbetstiden genom att införa en robot i försörjningsstödet.

Ansvariga chefer är samtidigt tydliga med att den nya tekniken inte primärt ska leda till en effektivisering, utan till ett mer kvalitativt arbete.

– Det finns internationell forskning som visar att automatiska beslutsstöd faktiskt kan skapa mer tid till kontakt med brukarna och till att prata ihop sig med kollegorna. Sociala aspekter av arbetet kan därför öka med de här verktygen, liksom variationen i arbetsuppgifter, säger hon.

Ett annat exempel på AI som är på frammarsch inom socialtjänsten är automatiserade prediktiva riskmodeller (PRM), som ska kunna förutse sannolikheten för att till exempel barn och unga råkar illa ut i familjen. Det är en komplicerad uppgift, med psykologiska och sociologiska faktorer.

– I bästa fall kan sådana här AI-baserade prediktiva riskmodeller fatta mer korrekta beslut än traditionella diagnostiska checklistor, tidigare identifiera familjer i riskzonen och fördela resurserna mer effektivt, säger Sarah Wamala Andersson, professor i hälso- och välfärdsteknik på Mälardalens universitet.

AI-lösningar har med andra ord goda förutsättningar att både frigöra tid och förutsättningar för ett bättre jobb. De kan också leda till större självförtroende hos socialsekreterarna. Det berättar Lupita Svensson, universitetslektor i socialt arbete vid Socialhögskolan, Lunds universitet, som forskar om automatisering i socialtjänsten.

– Vi har skrivit en artikel som väldigt tydligt visar att den här tekniken gör att man känner sig säkrare i sitt beslutsfattande.

LÄS OCKSÅ >>> Ny teknik ska hjälpa barn som mår dåligt i spelvärlden – arbete med AI-modell pågår

Samtidigt finns baksidor med AI-utvecklingen. Medarbetare kan uppleva att den berövar dem autonomi och kontroll. Ett exempel på det är Kungsbacka kommun, där 12 av 16 socialsekreterare sade upp sig år 2018, när kommunen bestämde sig för att automatisera handläggningen av ansökningarna om försörjningsstöd.

Lupita Svensson berättar att omställningen initialt också kan vara ganska tuff. Den är ofta initierad ovanifrån, utan riktig medvetenhet om den ökade arbetsbelastning som följer med den.

– Den innebär initialt mycket merarbete och nytt tänk i en redan tung arbetssituation. Sedan tycker jag att jag har stött på, nu när vi har gjort studier som spänt över några år, att när saker väl börjar landa kan man se förtjänster i det. Då kan handläggare säga: Det här hjälper oss faktiskt.

När det gäller AI-baserad PRM pekar Sarah Wamala Andersson också på en annan sorts fara: Om man tränar algoritmen på tidigare beslut från handläggare finns risken att den reproducerar diskriminerande mönster. Det visar tidigare erfarenheter.

– I Nya Zeland skulle man införa den här tekniken i hela landet, men upptäckte snabbt otroligt mycket bias i systemet. Det fanns en tendens att minoriteter behandlades annorlunda, att man i de familjerna oftare tog barnen från föräldrarna, utan någon riktigt bra grund för det. Det ledde till väldiga diskussioner.

Hur många kommuner som har börjat testa de här verktygen i Sverige, och hur arbetet fungerar, vet vi inte, men det ska Sarah Wamala Andersson och hennes kollegor undersöka i ett nytt forskningsprojekt. Hon refererar till en kartläggning från Socialstyrelsen, som visar att orosanmälningar gällande barn och unga har ökat med 27 procent sedan 2018, och tar den som intäkt för att de prediktiva algoritmerna snabbt kommer att sprida sig de närmsta åren. Det behövs helt enkelt nya metoder för att klara av alla ärenden.

För att undvika misstag och destruktiva konsekvenser vill Sarah Wamala Andersson se en nationell strategi för evidensbaserat införande av tekniken, där etiska och sociala konsekvenser ska analyseras.

– Det handlar om att planera och utföra systematisk utvärdering vid implementering och under processen, och där behöver vi involvera forskare tidigt. Ofta kommer kommuner till oss och säger: ”Vi införde den här digitala lösningen för tre år sedan, och nu vill vi veta om den ger nytta.” Men då är det för sent. Kan man identifiera nytta och risker redan under implementeringstiden finns möjligheter att revidera.

Vi befinner oss precis i början av AI-utvecklingen, den som ibland omtalas som en ny industriell revolution. Så hur kommer den att påverka socialtjänsten framöver? Susanne Tafvelins forskargrupp studerar just nu införandet av sådant som läkemedelsrobotar, och hon tror att helt AI-baserade schemaläggare står för dörren. Men också inom myndighetsutövningen förväntar hon sig förändringar.

– Även om vi just nu ser automatisering främst inom försörjningsstödet tror jag att robotar och AI snart kommer att inhämta information till förslag på beslut även inom andra områden.

Det finns dock samtidigt några påtagliga hinder för den här utvecklingen. Ett sådant är av teknisk art: Den volym av information som skulle krävas för att kunna bygga upp mer avancerade och träffsäkra AI-baserade beslutsstöd saknas, berättar Lupita Svensson.

– Vi har i Sverige i dag inte möjlighet att generera så mycket data som en AI skulle behöva träna på. Det har med det kommunala självstyret att göra, där varje kommun är ansvarig för sin socialtjänst och därmed bara har sin egen data att utgå från.

Det förs diskussioner om att försöka överbrygga gränserna i den här frågan, men det är komplicerat, menar Lupita Svensson. För det första är det inte säkert att alla kommuner ens äger datan. Den finns ofta samlad i ett verksamhetssystem, och avtalen med de techbolag som erbjuder systemen ser olika ut runtom i landet.

– Ett annat problem är av etisk natur. Den information som skulle behöva delas rymmer känsliga, ofta sekretessbelagda uppgifter.

Lupita Svensson kallar sig teknikoptimist, och ser stora möjligheter med maskininlärning. Samtidigt vill hon peka på en djupare problematik med algoritmfokuset inom det sociala arbetet: att vi lätt betraktar den data som produceras som neutral. I själva verket är den i hög grad mänskligt färgad – först av den klient som för in uppgifterna i e-tjänsten, och sedan av den handläggare som hanterar – flyttar, bekräftar och ändrar – dem.

– Om vi kommer fram till att vi ska ha datadelning med stora databaser, måste vi fortfarande ta hänsyn till att den här datan inte är objektiv. Vi får inte vara så naiva att vi tror att den är sanningen, säger hon.

LÄS OCKSÅ >>> AI-verktyg utvecklas för att kunna analysera känslor – ska hjälpa terapeuter

Att data är subjektiv, eller ”oren”, på teknikspråk, kanske kan låta som något negativt, men frågan är om det går att göra den ”ren” och objektiv inom ramen för socialtjänsten – och om vi ens vill göra det. Det sociala arbetet som vi har utformat det i Sverige är individbaserat, poängterar Lupita Svensson. Själva det mellanmänskliga, högst subjektiva, mötet är centralt.

Vill vi bevara den modellen? Eller borde vi bygga upp något nytt? Oavsett vilket hoppas Lupita Svensson att utvecklingen tvingar fram en bredare diskussion, så att vi inte oreflekterat anpassar samhället efter tekniken.

– Om jag ska skicka med något budskap är det att vi måste ha en tydlig målbild med vad vi vill med våra olika samhällsinstitutioner. Tekniken ska vara ett medel för att nå det målet, och inte tvärtom, så att man inte helt plötsligt har justerat målet efter tekniken.