– AI kan nog användas för medicinsk spetsforskning, men hur det ska revolutionera socialtjänsten ser jag inte, säger Simon Vinge, chefsekonom på Akademikerförbundet SSR som bland annat står bakom skriften ”Din kollega är en algoritm”.
Visst kan vissa AI-verktyg underlätta arbetet, men det är viktigt att skilja mellan algoritmer och generativ AI, betonar han.
– Algoritmer kan vara regelbaserade och kan vara bra om det görs på ett bra sätt, säger han.
– Men det kan också bli dåligt, som det blev i Trelleborg. Då fick inte vi från facket aldrig vara med och vi fick aldrig veta hur algoritmen styrdes för att fatta beslut. Det ledde till både stora läckor och personuppgifter och GDPR-brott, menar vi.
Men det går att få insyn i hur algoritmen styrs och om det införs på en arbetsplats med insyn från medarbetarna skulle det kunna fungera bra, enligt Simon Vinge.
Däremot bör man vara försiktig med den generativa AI:n (se faktaruta), tycker han.
– Det är lite coolt och det man ofta vill prata om, men problemet med dem är att man aldrig förstår hur logiken är. Det är som en svart låd och den typen av modeller ska aldrig fatta beslut. Punkt.
Bristen på insyn är Simon Vinges stora farhåga. Även om det sägs att modellen ska användas som stöd i beslutsfattande befarar han att det i slutänden blir just beslut.
– Det blir ofta bara en symbolisk gest att skriva under. Hur ska du som tjänsteman kunna stå bakom ett beslut som du inte vet med viken logik det har fattats?
Stöd från AI-system för transkribering eller att hitta avvikelser i stora datamängder kan vara hjälpsamma i arbetet, tror Simon Vinge. Men, betonar han, det finns fortfarande många frågor som måste ställas. Hur används datan som laddas upp? Vem kan ta del av den? Hur vet vi att den inte går till tredje part? Vem bär ansvaret om det blir fel?
– Ingen medarbetare ska tvingas ta ansvar för de här hallucinerande modellerna.
Och dessutom: är medarbetarna eller fackföreningarna med och testar modellerna innan de införs? Är facket representerat i styrgruppen?
– Ofta är vi inte det, konstaterar Simon Vinge.
Och, frågar han sig, är det verkligen ett dyrt AI-system som kommer att göra skillnad på socialkontoret?
– Det är the shiny new toy. Men min bild är att det är mycket annat man bör göra innan man köper in ett dyrt program på en mässa eller av en konsult, säger Simon Vinge.
– Jag skulle nästan säga att det är en bubbla. Det är så många stora techbolag som har satsat så mycket pengar nu att de inte kan backa. Jag har svårt att se hur man ska få tillbaka alla de här pengarna, de går enormt mycket back på AI nu.
Läs del 1: AI underlättar arbetet i Linköping – ”Som en annan värld”
