Et pilotprosjekt sammen med Brønnøysundregistrene.
FN bærekraftsmål bringer med seg rapporterings krav til næringslivet. Dette kan virke overveldende og kaotisk når man ikke vet hvor man skal få tak i informasjonen man trenger eller vet nøyaktig hva man skal rapportere på.
Brønnøysundregistrene ønsker å gjøre rapporteringsprosessen enklere for alle virksomheter i Norge. Arkitektum og Brønnøysundregistrene utarbeidet våren 2024 ett pilot prosjekt der målet var å finne ut om en kan få en KI-assistent til å være ekspert på begrepsbeskrivelser og datakildekartlegging.
Ønsket effekt for bruk av KI i denne sammenheng er at sluttbrukerne finner relevant og korrekt ESG informasjon raskt og effektivt. Gevinsten ved dette vil være
- lavere kostnader og mer effektivitet
- ny innsikt: identifisere flere relevante datasett og mer informasjon enn ved manuelle søk
Metodikk
Prosjektet har brukt kjente metoder som triple diamond med design thinking og prototyping i arbeidet.Deltakere fra Brønnøysundregistrene har bidratt med kunnskap innenfor informasjonsforvaltnings- og bærekrafts domenet. Prosjektet har sammen utarbeidet og definert problemstillingen, og utviklere fra Arkitektum har utforsket løsninger og utviklet prototyper basert på forskningen. Prototyper er testet av hele prosjektgruppen.
Arkitektur og løsning
Arkitektum har utviklet en nettapplikasjon som består av en frontend, en backend og Azure Open AI. Vi valgte React som frontend-rammeverk for å skape en responsiv og brukervennlig nettside med verktøy fra Designsystemet.no sin verktøykasse. React i kombinasjon med Designsystemets UI-komponenter, retningslinjer og mønstre, skaper en god digital tjeneste som enkelt kan vedlikeholdes.
For backend-utviklingen har Arkitektum benyttet seg av .NET 8, et kraftig rammeverk som tilbyr et bredt spekter av verktøy og funksjonalitet. Backendløsningen håndterer forespørsler fra frontend og kommunikasjon med Azure Open AI-komponenter. Nøkkelkomponenten i løsningen er integrasjonen med Azure Open AI.
Arkitektum utnytter avanserte AI-modeller til å generere innhold til nettsiden. En GPT-modell i Azure produserer tekstbaserte svar basert på kontekst og instruksjoner fra backend. I denne løsningen benytter Arkitektum seg av RAG (Retrieval-Augmented Generation) og Few-shot-metodikk for å tilby GPT-modellen relatert kontekst. RAG-metodikken tillater effektiv informasjonsinnhenting fra store datasett, mens Few-shot-læring gjør det mulig å tilpasse modellen til spesifikke oppgaver med et begrenset antall eksempler. Når frontend-applikasjonen mottar en forespørsel fra en bruker, sender den en request til backenden, som i sin tur kommuniserer med GPT-modellen i Azure Open AI.
Basert på konteksten og instruksjoner, genererer GPT-modellen en respons. Responsen AI-modellene genererer kvalitetssjekkes av en annen AI-modell før de sendes tilbake til frontend for visning til brukeren.
Resultat
Noen av de ønskede effektene som oppstod
- KI kan sette sammen informasjon på en annen måte og bruker flere datakilder – eks. det er ikke alltid god praksis på hvilken info som detaljeres. KI-assistenten bygger opp bedre bilde av tilgjengelig info.
- Effektivisering. KI gir konsistente svar, jobber raskt, finner mer informasjon raskere enn et menneske.
- KI-assistentene er flinke til å følge standarder og rammeverk.
- Amerikanske trente språkmodeller ble ikke en hindring for å få gode norske svar.
- Chat GPT 4 Turbo er god til å oversette til nynorsk og engelsk, som er en anbefaling i standarden for begrepsbeskrivelser.
Forbedringspotensialer
- Datakildeassistenten lister for mange resultater – søker for bredt per bærekraftsindikator. Vurdere om dette kan videreutvikles f.eks. i parallell med norsk versjon av ESRS-indikatorene.
- Påliteligheten på kildehenvisninger i «begrepsassistenten» er ikke god nok og må jobbes mer med.
- Ranking / prioritering av kilder er ikke konsistent, her bør KI-assistentene trenes videre.
- Interessant å se videre på hvordan en norsk språkmodell kan endre resultatene vi får.
Vellykket prosjekt
Tusen takk til Brønnøysundregistrene som tok oss med på dette prosjektet. Vi synes det er gøy og spennende og sammen finne gode løsninger som gjør det enklere og mer effektivt for sluttbrukeren.
Ønsker du å vite mer om dette arbeidet ta kontakt med en vår løsningsarkitekt Tor Kjetil Nilsen.