Prosjektets varighet: 01.11.2020 – 31.12.2025
Finanisert av Norges forskningsråd, prosjektnummer: 311680
Bruk av kunstig intelligens (KI) kan bidra til å sikre effektivitet og god kvalitet i prosesser blant annet i offentlig sektor. Noen av disse løsningene er slik at vi ikke kan beskrive hvordan de egentlig virker, f.eks. hvorfor en gitt inndataverdi gir et bestemt resultat. Dette kalles ofte «svart boks»-problemet, og kan utgjøre et hinder for at deltakelse i å forme, bruke og overvåker bruken av kunstig intelligens i tjenesteytingen.
Den norske regjeringen fremmer ansvarlig bruk av kunstig intelligens i offentlig administrasjon med ønske om å lede an i utviklingen av menneskevennlige og pålitelige løsninger. Ansvarlig bruk av KI innebærer å sikre forståelighet og ansvarlighet. Dette innebærer at løsningene må kunne beskrives med hensyn til deres tilstand, informasjonen de inneholder, egenskaper og begrensninger. Dessuten må det være mulig å få informasjon om saksbehandlingen og innsikt i hvorfor en beslutning ble som den ble. Forståelighet og ansvarlighet kan hjelpe brukerne til å bedre forstå, stole på og effektivt styre den nye generasjonen KI-applikasjoner.
Prosjektet fokuserte på «svart boks»-problemet og bidrar dermed til ansvarlig og pålitelig bruk av KI i digitaliseringen av offentlig sektor. Det unike ved prosjektet var at vi rettet forskningen mot ikke-eksperter, ikke kun spesialister innen kunstig intelligens. Prosjektet tok et menneskesentrert perspektiv som imøtekommer ulike gruppers behov, inkludert borgere, saksbehandlere, mellomledere og beslutningstakere. Prosjektet inkluderte a) design, prototyping og evaluering av verktøy som gir ikke-eksperter mulighet til å få innsikt i KI-løsninger, b) formalisering av design-innsiktene inn i design-prinsipper, og c) kompetansebygging gjennom samarbeid mellom akademia og offentlig sektor nasjonalt og internasjonalt. Et utvalg av bearbeidede prosjektdata kan bli tilgjengelig på forespørsel. På grunn av materialets kontekstuelle natur er det ikke mulig å dele rådata. Hvis du er interessert kan du kontakte: Polyxeni Vassilakopoulou.