Viktig med åpne og demokratiske prosesser når forvaltningen tar i bruk kunstig intelligens og maskinlæring

Offentlig forvaltning er ett av områdene hvor ny teknologi kan bidra til å løse oppgaver på nye og bedre og måter i årene som kommer. Men hvordan vil dette påvirke folks tillit til myndighetene og offentlige institusjoner? I prosjektet Demokratiske algoritmer har NORCE-forskerne Sveinung Arnesen og Mikael Poul Johannesson ut fra et demokratiperspektiv undersøkt hvordan oppfatninger av NAV som institusjon kan påvirkes når maskinlæring og kunstig intelligens tas i bruk i saksbehandlingen. 

– Dette har lenge vært et lite utforsket tema, og vi kastet derfor ut et stort nett. Vi har fått frem mye materiale som det vil være interessant å gå mer i dybden på i fremtidig forskning, forteller prosjektleder Sveinung Arnesen. 

Prosjektet bygger på data fra Norsk Medborgerpanel 2021, som med 2000 respondenter utgjør et representativt utvalg av innbyggerne i Norge. I tillegg bruker forskerne noen resultater fra medborgerpanelundersøkelsen i 2018. Nå foreligger rapporten, som gir innsikt i innbyggernes oppfatninger om bruk av ny teknologi i forvaltningen. 

Her finner du Demokratiske algoritmer. Fremtidsutsikter til automatiserte beslutningsprosesser i offentlig forvaltning i befolkningen øyne.

Hvordan bevarer vi tillit og legitimitet når bruk av kunstig intelligens og maskinlæringen øker? 

Undersøkelsen viser at innbyggerne generelt har ganske høy tillit til NAV. Tilliten er høyest blant de som opplever at de får ytelser de har rett på, som forstår byråkratiske prosesser og opplever at ansatte i forvaltningen bryr seg om folks behov. Flertallet opplever at de er i stand til å få tjenestene de har krav på, selv om de opplever forvaltningen som krevende å forstå. Motsatt er tilliten lavest blant de som har et annet syn på forvaltningen. Den samme forskjellen kom til syne når det gjaldt spørsmålet om hvorvidt saksbehandlerne oppfattes som upartiske. 

Begrepet representativt byråkrati handler om at forvaltningen skal gjenspeile befolkningen, og at eventuelle forutinntatte holdninger som kan føre til forskjellsbehandling, blir utjevnet ved at saksbehandlerne har variert bakgrunn. En skulle kanskje tro at økt automatisering og mindre menneskelig skjønnsutøvelse innebærer mindre behov for representativt byråkrati, men undersøkelsen viser tvert imot at innbyggerne blir mer opptatt av at saksbehandlerne skal ha samme sosiale bakgrunn som dem når kunstig intelligens blir mer vanlig i saksbehandlingen. 

– En mulig forklaring er at teknologi som maskinlæring og kunstig intelligens kan føre til økt fremmedgjøring, sier Arnesen. – Dermed øker behovet for saksbehandlere som forstår den enkeltes situasjon, og kan gripe inn når systemet ikke har tatt tilstrekkelig hensyn til denne. 

Undersøkelsen avdekket nemlig også at kunstig intelligens og maskinlæring er fremmede begreper for mange. Hele seks av ti oppga at de hadde liten eller ingen kjennskap til temaet. Det handler om kompliserte problemstillinger og avansert teknologi, og det kan være vanskelig for den jevne innbygger å ta stilling til spørsmål de egentlig ikke har tenkt så mye over. 

– De som sier at de har mye kunnskap, ser litt annerledes på temaet enn de som sier at de vet lite. Det kan være noe der, mener Arnesen. – Hvis innbyggerne får mer kunnskap om temaet, blir risikoen for fremmedgjøring mindre. I rapporten kommer forskerne også inn på andre aspekter som er viktige for å bevare tilliten til det offentlige, men de understreker at mye forskning gjenstår for å kunne trekke solide konklusjoner om hvordan en best bevarer tillit og legitimitet i overgangen til økt bruk av maskinlæring og kunstig intelligens i forvaltningen. Men det som virker ganske klart, er at det er viktig med bred representasjon når modeller for maskinlæring utformes. 

–    Folk har ulik bakgrunn og vurderer ting ulikt. Det er viktig med demokratiske og åpne prosesser, anbefaler Arnesen. - De som påvirkes, bør få komme med innspill.