Ronald Caous.
I Australien har en granskning av äldreomsorgen aktualiserat en fråga som snart kan bli en svensk. En biståndsbedömare träffar den äldre, ställer frågorna och samlar in uppgifterna. Därefter matas informationen in i ett system som beräknar vilken nivå av stöd personen ska få. Om biståndsbedömaren anser att resultatet är orimligt kan bedömaren ändå inte ändra det. Algoritmen har sista ordet.
Australiens Commonwealth Ombudsman riktar nu hård kritik mot systemet och kräver bland annat att bedömare ska kunna ändra automatiserade beslut. Regeringen hänvisar till en särskild väg för mänsklig omprövning från januari. Men att kunna skicka ett ärende vidare lämnar frågan om biståndsbedömarens eget mandat olöst.
Socialstyrelsen rapporterade i våras att nästan hälften av Sveriges 290 kommuner testar eller använder AI inom socialtjänst och kommunal hälso- och sjukvård. Det görs främst för dokumentation, administration och kunskapsstöd. Det finns absolut goda skäl till det. Handläggare lägger mycket tid på sådant som teknik kan göra snabbare, och varje timme som frigörs kan användas till mötet med människor.
Föreningen Sveriges socialchefer är positiv till AI och startar nu ett särskilt nätverk där ett av ämnena är: ”AI-agenter för handläggning och beslut – framtidens verksamhetssystem?”. Samtidigt trycker föreningen på att professionens roll och kompetens måste stärkas i beslutsfattandet. Frågan är alltså redan på väg från dokumentation och administration in i själva myndighetsutövningen.
Det gör det intressant att titta på hur vi i Sverige gjort hittills. Trelleborg blev först med en så kallad handläggarrobot inom socialtjänstens myndighetsutövning. Det var en regelstyrd processautomatisering, långt från dagens generativa AI. Systemet hämtade uppgifter ur register, kontrollerade dem mot reglerna för ekonomiskt bistånd och kunde hantera standardärenden.
Effekten på organisationen var stor. Antalet kvalificerade handläggare minskade från åtta till tre. Andra funktioner tog samtidigt över en större del av kontakten med de sökande. Redan en relativt enkel regelbaserad robot kunde alltså förändra bemanningen och påverka vilken kompetens kommunen ansåg sig behöva.
Dagens teknik har en helt annan potential att påverka organisationen. Därför blir frågan om vad som händer när systemen får större betydelse för själva bedömningen mer angelägen. Varje steg kan uppfattas som rimligt. Trots det kan följden efter några år bli att så mycket professionell kompetens har rationaliserats bort att det blir svårt att ifrågasätta systemets förslag den dag det gör fel.
Att en människa finns ”i loopen” säger då ganska lite. En administratör som matar in uppgifter uppfyller också det kravet. Detsamma gör en biståndsbedömare som kan läsa beslutet men saknar mandat att ändra det. Den som ska upptäcka ett fel behöver dessutom tid att undersöka underlaget och kollegor att resonera med.
Australien visar vad det kan innebära för yrkesrollen. Den professionella bedömaren finns kvar och kan se sammanhanget, bedöma den enskildes situation och förstå att utfallet är fel. Ändå bestämmer systemet. Makten har i praktiken flyttats från bedömaren till den modell som bedömaren förser med underlag.
AI kan transkribera samtal, sammanställa ärenden, hitta relevant lagstiftning och uppmärksamma sådant som riskerar att förbises. Den kan säkert också lämna förslag. Men den dag en biståndsbedömare sager ”det här beslutet är fel” måste organisationen fortfarande ha både kompetensen och mandatet att agera. Det behöver vi som kommunpolitiker säkerställa innan bemanningen anpassas till de besparingar tekniken förväntas ge.
Den avgörande frågan är enkel: Vem har rätt att säga att systemet har fel – och finns den personen fortfarande kvar när det behövs?