Algoritmer kan saksbehandle, derfor må de demokratiseres

En revolusjon er på trappene innenfor offentlig forvaltning. Tilgang på store mengder relevante digitale data og økende muligheter for å behandle informasjonen ved hjelp av kunstig intelligens, gjør at oppgaver som tidligere måtte behandles manuelt kan overlates til hel- eller halvautomatiserte prosesser.

På den ene siden representerer utviklingen en mulighet for å skaffe bedre beslutningsgrunnlag for avgjørelser, noe som vil komme enkeltmennesker og samfunnet til gode. På den andre siden frykter enkelte at feil bruk kan lede til systematisk forskjellsbehandling av grupper i samfunnet.

Det er også bekymring for en økt fremmedgjøring av beslutningsprosesser, hvor enkeltpersoner blir utsatt for avgjørelser tatt av datamaskiner som få eller ingen helt klarer å forstå seg på.

Kunstig intelligens er et samlebegrep som omhandler teori og utvikling av datasystemer som kan gjennomføre oppgaver som vanligvis krever menneskelig intelligens. Det kan brukes både i automatiserte beslutningsprosesser, og som beslutningsstøtte for saksbehandlere.

Et sentralt kjennetegn ved kunstig intelligens er at slike systemer etterligner, erstatter og utvider menneskelig intelligent handling, og menneskelig beslutningstaking og vurdering.

Internasjonalt har algoritmer basert på kunstig intelligens blitt brukt blant annet til å vurdere prøveløslatelse av fengselsinnsatte. De har vært omstridt på grunn av påstander om at afroamerikanere blir negativt forskjellsbehandlet av algoritmene.

Forskjellsbehandling foregår også av menneskelige saksbehandlere, men opplevelsen av urettferdighet kan forsterkes når forskjellsbehandlingen bokstavelig talt er satt i system.

Hvordan lage rettferdige algoritmer har figurert høyt på forskeres agenda de siste årene. Det er ikke et trivielt spørsmål, for ulike hensyn må veies opp mot hverandre, og ikke alle kan tilfredsstilles samtidig. Innsatsen er tverrfaglig, og spørsmålene er relevante for alt fra filosofer til dataprogrammerere.

Statsvitere er opptatt av hvordan inntredenen av algoritmer i forvaltningen påvirker relasjonen mellom innbyggere og myndigheter. Det synes klart at tilliten til myndighetene kan svekkes dersom algoritmer blir brukt på en måte som oppfattes som urettferdig av innbyggerne. Spesielt tror vi dette gjelder i tilfeller hvor algoritmer brukes til å ta beslutninger som har store konsekvenser for enkeltmennesker, slik som prøveløslatelse har.

Det er ingen planer meg bekjent om å bruke algoritmer til å vurdere prøveløslatelse i Norge, men det foregår forskning og utvikling innenfor andre områder. For eksempel er det gjort studier av bosetting av flyktninger som har fått opphold i landet vårt. Resultatene er lovende, i den forstand at algoritmer tilsynelatende er i bedre stand til å plassere flyktninger i kommuner hvor de har gode muligheter for å integreres i arbeids- og samfunnslivet.

Høyere grad av automatisering kan avhjelpe i pressituasjoner når det kommer mange flyktninger på en gang, noe som gjerne er tilfelle på flyktningfeltet. Det erfarte vi for noen år siden da det kom mange flyktninger fra Syria, og nå fra Ukraina.

Et spørsmål er om algoritmer evner å ta nok hensyn til enkeltsaker og individuell tilpasning. Antakelig er det mest fornuftig – i alle fall innledningsvis – å bruke algoritmen som en «rådgiver» for saksbehandleren, hvor saksbehandleren tar den endelige avgjørelsen. Saksbehandlere kan plukke opp spesielle faktorer i enkeltsaker som kan være relevante, men som ikke tas hensyn til av algoritmen.

Dessuten vil det være enklere å plassere ansvar hos hver enkelt saksbehandler når han eller hun har det endelige ordet, for eksempel når det gjelder anmodning av bosettingssted for den enkelte flyktning. Men vil saksbehandleren våge å gå imot algoritmens anbefaling?

Det er til syvende og sist innbyggerne som blir påvirket av beslutningene som fattes av offentlige organer. Det er derfor viktig at valgene som tas om bruk av kunstig intelligens i forvaltningen er i tråd med hva innbyggerne ser på som akseptabelt. Det er på dette tidlige stadiet viktig å ta inn hva befolkningen mener, slik at man ikke lager systemer som i befolkningens øyne trår over grenser.

Samtidig som det har vært en økende oppmerksomhet om bruk av maskinlæring og kunstig intelligens i forskningsmiljøer og i offentlig forvaltning, har temaet ikke nådd vanlige innbyggere. I befolkningen er det lav kunnskap om kunstig intelligens: Nesten to tredjedeler sier at de har liten eller ingen kjennskap til temaet i det hele tatt.

Norge trenger en opplyst debatt om hvordan kunstig intelligens skal brukes i offentlig sektor framover. Vi gjennomførte tidligere i år en såkalt deliberativ meningsmåling, som gir respondenter anledning til å bli informert om temaet og diskutere med andre før de uttrykker hva de mener om temaet. Resultatene fra arrangementet viser at folk generelt blir mindre skeptiske til bruk av algoritmer i offentlig forvaltning når de får mer konkret kunnskap om temaet.

Internasjonale studier peker på behovet for åpenhet omkring hvordan algoritmene blir laget, hvilke data de fores med, og i hvilken grad det er mulig å ettergå og få forklart anbefalingene datamaskinen kommer med. Nøkkelord er rettferdighet, åpenhet, og ansvarliggjøring.

Dette er krav vi også stiller til menneskelige saksbehandlere i et velfungerende demokrati, og slik sett ikke noe nytt. Vi må bare ikke glemme å bygge den moderne forvaltningen uten å ta med oss de samme prinsippene inn i framtidens algoritme-baserte demokrati.