KI-løsninger må utformes og brukes på en måte som fremmer aktiv refleksjon

Bruken av kunstig intelligens øker raskt i offentlig sektor. Generative KI-verktøy tas i bruk i saksbehandling, analyse, tekstproduksjon og beslutningsstøtte. 

Ambisjonen er ofte økt effektivitet og bedre tjenester. Samtidig viser erfaringer fra både Norge og internasjonalt at mangelfull styring av KI-bruk kan få alvorlige konsekvenser for kvalitet, rettssikkerhet og tillit.

Diskusjonen om KI i offentlig sektor preges fortsatt av teknologi. I praksis handler utfordringene i større grad om organisering, kultur og kompetanse. Det avgjørende spørsmålet er ikke om ansatte bruker KI, men under hvilke rammer.

Mange virksomheter bruker KI-verktøy uten tydelige retningslinjer og uten integrasjon i formelle arbeidsprosesser. Ansatte tar i bruk åpne eller kommersielle løsninger for å spare tid. Dette er gjerne et resultat av høyt arbeidspress, uklare føringer og manglende tilgjengelige alternativer.

Konsekvensen er ikke nødvendigvis en umiddelbar sikkerhetshendelse. Tapet av kontroll skjer gradvis. 

Sensitiv informasjon behandles uten oversikt. KI-generert innhold tas i bruk uten kvalitetssikring. Beslutningsgrunnlag blir svakere uten at det fanges opp av eksisterende kontrollmekanismer.

Når slike praksiser får utvikle seg uformelt, blir det vanskelig å lære av feil. Virksomheten mangler både innsyn og styringsdata.

Mange offentlige virksomheter legger til grunn at risikoen er håndtert så lenge et menneske formelt godkjenner KI-baserte forslag. Erfaring og forskning viser at dette ofte gir en falsk trygghet. Når KI-systemer oppfattes som effektive og autoritative, reduseres den faktiske overprøvingen. Menneskelig tilsyn kan i praksis bli en stempelfunksjon.

Internasjonale eksempler illustrerer dette. 

I Nederland førte automatiserte risikovurderinger til at titusenvis av familier feilaktig ble behandlet som trygdesvindlere. I Australia resulterte automatiserte vedtak i hundretusener av uriktige kravbrev. 

I begge tilfeller var menneskelig kontroll formelt etablert. Den fungerte imidlertid ikke etter hensikten fordi ansatte i stolte på systemet.

Disse hendelsene viser at mennesket i loopen ikke er en garanti for kvalitet eller rettssikkerhet dersom organisasjonen ikke aktivt understøtter kritisk vurdering.

Nyere forskning peker på en sammenheng mellom omfattende bruk av KI og redusert kritisk tenkning over tid. Når kognitive oppgaver systematisk overlates til teknologi, tilpasses også kompetansen deretter. Evnen til selvstendig vurdering kan svekkes, ikke fordi ansatte mangler faglighet, men fordi ferdigheter som ikke brukes, gradvis trenes ned.

I offentlig sektor er dette særlig alvorlig. Mange oppgaver krever skjønnsutøvelse, etisk vurdering og helhetlig forståelse. Dersom KI-baserte forslag gradvis får forrang fremfor faglige vurderinger, påvirkes både kvaliteten på tjenestene og innbyggernes rettssikkerhet.

Dette er ikke et argument mot bruk av KI. Det er et argument for å styre bruken aktivt.

Noen virksomheter forsøker å håndtere risiko gjennom generelle forbud mot bestemte KI-verktøy. Erfaringen viser at slike tiltak sjelden gir ønsket effekt. Forbud uten tilgjengelige alternativer fører ofte til uformell bruk utenfor etablerte systemer. Resultatet blir mindre kontroll, ikke mer.

Effektiv styring forutsetter at ansatte har tilgang til trygge verktøy, tydelige rammer og tilstrekkelig kompetanse. Det gjør det mulig å bruke KI på en måte som styrker, snarere enn undergraver, faglig arbeid.

Offentlig sektor bør i større grad vurdere KI-modenhet ut fra styringsevne fremfor teknologisk fremdrift. Relevante spørsmål er blant annet:

• I hvilken grad er ansatte i stand til å overprøve KI-baserte forslag?
• Hvor godt er det definert hvilken informasjon som kan og ikke kan brukes i ulike verktøy?
• Hvor raskt feil oppdages og korrigeres før de får konsekvenser for innbyggere?

I tillegg bør KI-løsninger utformes og brukes på en måte som fremmer aktiv refleksjon. Mekanismer som forsinker automatiske beslutninger, krever begrunnelse eller involverer kollegial kvalitetssikring, kan bidra til å opprettholde kritisk tenkning og ansvar.

Kunstig intelligens forsterker eksisterende strukturer i organisasjonen. Der styring, kultur og kompetanse er svak, vil risikoen øke. Der rammene er tydelige og faglig vurdering verdsettes, kan teknologien bidra til bedre tjenester og mer robuste beslutninger.

Ansatte utgjør ikke en sikkerhetsrisiko i seg selv. Risikoen oppstår når de overlates til teknologi uten støtte, retning og ansvarliggjøring. Offentlig sektor må velge mellom ustrukturert KI-bruk og reell KI-beredskap. Det valget vil få betydning langt utover teknologien i seg selv.