Ny teknik ska hjälpa barn som mår dåligt i spelvärlden – arbete med AI-modell pågår

De satte ihop en ansökan om finansiering till Postkodlotteriet, och fick en ansenlig summa pengar. Det var för två år sedan och nu håller resultatet på att lanseras. Chattboten Zoe används redan på gejmingcentret Inferno onlines plattform.

Zoe har tagits fram i samarbete med psykologer och rådgivare inom psykosocialt stöd. Hon jobbar hela tiden bekräftande, att det till exempel inte är ovanligt att känna sig ensam. Sen hänvisas till stödfunktioner som redan finns i samhället.

LÄS OCKSÅ >>> Så märker du när någon är dataspelsberoende

Den som kommer till Inferno online för att spela möter en puff för Zoe på startsidan. En del av deras besökare har också varit med och testat chatten innan lansering. I chatten är man noga med att tala om att det inte är någon riktig människa som chattar, och att chatten är helt anonym.

Även när barn svarar att de mår ok eller bra så finns det tips och råd att få, till exempel kring hälsosamt spelande.

Även en AI-modell som ska kunna fånga upp unga som mår dåligt håller på att utvecklas. Hittills har man identifierat 24 beteenden som kan utgöra varningssignaler, och som går att spåra online. Men att spelbolagen skulle vilja dela med sig av sin data är däremot inte självklart.

– Det är mycket att utreda kring vem som äger datan och hur den får användas innan vi kan lansera AI:t.

Tanken är att AI:t ska märka av när någon beter sig på ett sätt som kan indikera att hen inte mår bra och till exempel kunna nudgea barnen i rätt riktning. Det kan vara en pop-up ruta om att det är bra med pauser för då blir man också en bättre spelare, eller med information om vart man kan vända sig om man behöver prata med någon.

LÄS OCKSÅ >>> Dilemmat: Hur hjälper jag en dataspelsberoende 25-åring?

– Vår tanke är att allt ska ske anonymt tills barnet tackat ja till en intervention. Men hur går upplägget ihop med gdpr och behovet att skydda barns integritet?

– Vi tycker så klart det är jätteviktigt att skydda barns data till varje pris, men mycket av den lagstiftning vi har i Sverige och i Europa är oprövad och det är viktigt att utforska detta. Om vi inte kan titta på den data som barn lämnar ifrån sig på nätet kan vi heller inte skydda dem eller stötta dem, säger Sara Lejon.

Under arbetets gång har Sara Lejon förbluffats över hur barn och unga lämnas själva i spelvärlden.

– Många barn kan inte prata om sin hobby med sina föräldrar, varken om det positiva eller negativa som uppstår. Har de vunnit en match i Counter-Strike kan de inte vara stolta för föräldrarna förstår inte, och om de berättar om negativa händelser riskerar de spelförbud.

Det verkar också som att spelarna själva ser att det finns ett behov. När Rädda barnen i en enkät frågade 5 000 gamers så var många positiva till att dela med sig av sin data om det var till en organisation de tror på. Även inom spelindustrin har reaktionen varit positiv.

– Inom branschen har det gjorts en hel del försök att komma åt problem med till exempel toxiskt beteende, utan större framgång. Så de ser också att det här kan vara något bra och ge en mer positiv spelupplevelse.

Så vad är nästa steg?

– Nu lägger vi kraft på att möjliggöra det här, vi har tagit fram chattservicen Zoe, men vi har en collective impact approach. Det räcker inte med Rädda barnen, alla delar av samhället måste samarbeta.

Nattvandring AI – Rädda Barnen from Socionomen on Vimeo.