I vinter ble det kjent at NTNU skulle teste KI-verktøyet Copilot for Microsoft 365 på vegne av offentlig sektor. Testperioden er over og NTNU er nå ferdig med sin funnrapport. Hovedfunnene spilles inn til Datatilsynets regulatoriske sandkasse for personvernvennlig innovasjon og digitalisering.
Prosjektet har sett på NTNUs robusthet, bruksområder og dataforvaltning. Målet var å finne ut hva som kreves med hensyn til blant annet personvern for at NTNU og andre offentlige organisasjoner skal kunne bruke KI-verktøy som Copilot. Datatilsynet skal ferdigstille sin rapport i løpet av høsten 2024.
Viktig å lære seg når KI-verktøy kan brukes
Funnene viser at det er flere ting som bør være på plass før man kan ta i bruk verktøyet i organisasjonen. Ting som «Orden i eget hus» og vurderinger av hvilke underfunksjoner som kan skrus på og ikke skrus på er noen av dem.
– Copilot for Microsoft 365 er et kraftig KI-verktøy, som integreres i verktøy som de aller fleste bruker i det daglige. Når språkmodeller tas i bruk inni eposten din er det viktig å lære seg hva dette er, når det kan og ikke kan brukes, sier prosjektleder Heine Skipenes.
I tillegg til hovedfunnene, inneholder rapporten anbefalinger til hva man bør vurdere før verktøy med innebygd KI tas i bruk, og informasjon om hvordan testene har blitt gjennomført.
Du finner også eget opplæringsprogram, NTNUs forslag til personvernkonsekvensvurderinger, og utkast til retningslinjer for bruk av generativ kunstig intelligens.
– Jeg håper denne rapporten kan bidra til at flere forstår hvordan dette faktisk fungerer, og hva alle organisasjoner må gjøre vurderinger av på forhånd, sier Skipenes.
Vil du vite mer?
Finn ut mer på prosjektets nettsider: www.ntnu.no/copilot