Demokratiske algoritmer, NORCE

Prosjektet «Demokratiske algoritmer» bygger på en spørreundersøkelse sendt ut til et befolkningsrepresentativt utvalg av innbyggere i Norge. Undersøkelsen besto av tre deler: En del som tok for seg relasjonen mellom NAV og innbyggerne, en del som tok for seg mer generelle holdninger og kunnskap om maskinlæring og kunstig intelligens. Den tredje delen besto av eksperimentscenarier som er eller kan bli realistiske i NAV-sammenheng, hvor hensikten var å få frem vurderinger av bruken av maskinlæring. 

Forskerne finner blant annet at 

• Bruk av maskinlæring og kunstig intelligens i forvaltningen ikke står høyt på agendaen blant folk flest i Norge. Mange av de spurte oppga at de har lite kunnskap om temaet. 
• Det handler om kompliserte problemstillinger, og befinner oss fortsatt i en tidlig fase preget av utforming og utprøving. 
• Det er verdt å merke seg at befolkningen allerede nå er delt i mange av spørsmålene rundt maskinlæring og kunstig intelligens i forvaltningen. Det gjelder både bekymring for utviklingen, og hva som vil være en rettferdig fremgangsmåte. 
• Mange anerkjenner generelle fordeler som effektivisering og potensialet for økt likebehandling gjennom automatisert saksbehandling, som flertallet opplever som mer upartisk.  
• Samtidig er innbyggerne opptatt av at saksbehandlere i NAV skal gjenspeile befolkningssammensetningen når beslutningsstøtte innføres, slik at de kan korrigere automatiserte løsninger om de slår feil ut (representativt byråkrati).

Forskerne anbefaler at NAV og andre myndighetsorganer bør ta hensyn til de politiske dimensjonene ved bruk av maskinlæring og kunstig intelligens i forvaltningen. Hvis noen opplever seg urettferdig behandlet, kan det være ekstra skadelig dersom uretten kan tilskrives kode-diskriminering. 

Her kan du lese hele rapporten.