Haugsbø: – Bruk av KI er ikke en omgåelse av kompetanse

Produsent: Torbjørn Vinje

 

Kode rød – eller naturlig utvikling?

Samtalen på slutten av første dag på Digitaliseringskonferansen tok utgangspunkt i Arne Ingebrigtsens foredrag «Kode Rød», der kommunedirektøren i Kristiansund advarte mot at KI kan skape digitalt anarki dersom offentlige virksomheter begynner å utvikle egne løsninger uten felles styring.

 

Birger Clementsen fra Stavanger kommune mente Ingebrigtsens budskap er viktig, men ville nyansere bildet.

 

– Det skaper jo mye møterettsomhet i kommunalsektoren og flere. Men det er ikke et ja-og-nei-spørsmål, sa Clementsen.

 

Han understreket at det utvilsomt er blitt langt enklere å utvikle applikasjoner. Samtidig mente han at dette ikke nødvendigvis trenger å ende i anarki, dersom kommunene har god governance, tydelige roller og ansvar, og felles rammer for informasjonssikkerhet.

 

– Jeg tror bare det er en del av evolusjonen, at vi har fått bedre verktøy som gjør jobben enklere for oss, sa han.

 

Stavanger vil la tusen blomster blomstre

Stavanger kommune har de siste årene markert seg som en digitalt moden kommune. Clementsen beskrev hvordan kommunen arbeider med tydelige systemeiere, avklart rolle- og ansvarsdeling og sentral utviklingskapasitet.

 

Han trakk også fram kommunens arbeid med kompetanseutvikling og innovasjon, der ledere kan komme med ideer og få dem testet ut innenfor etablerte rammer.

 

– Når vi i tillegg har gjort det på den måten, og har få verktøy, så er vi ganske trygge på at vi kan la tusen blomster blomstre, sa Clementsen.

 

Samtidig var han enig i at offentlig sektor trenger felles begreper. Dersom systemene skal kunne snakke sammen, må sentrale definisjoner være like.

 

– Et barn må være et barn. Det mener jeg er fornuftig, sa han.

 

Artikkelen fortsetter etter annonsen:

 

 

 

 

Teknologi krever fortsatt kompetanse

Tekna-president Elisabet Haugsbø mente det ikke nødvendigvis er noen motsetning mellom Ingebrigtsens advarsel og Stavangers mer optimistiske tilnærming. For henne handler diskusjonen først og fremst om ansvar.

 

– Det handler om ansvar. Det handler om egenskapen til å forstå hva en faktisk holder på med, selv når det er veldig lett å holde på med noe, sa Haugsbø.

 

Hun understreket at det er positivt at kraftfull teknologi blir tilgjengelig for mange. Samtidig oppstår det risiko når alle raskt kan lage løsninger som ser gode ut på overflaten.

 

Spørsmålene kommer på baksiden: Hvem har juridisk ansvar? Hvem har oversikt over dataflyten? Hvem har bestemt arkitekturen? Hvem skal ha tilgang? Og hvordan vet man at løsningen faktisk fungerer?

 

– Bruk av kunstig intelligens er ikke en omgåelse av kompetanse, sa Haugsbø.

 

Hun advarte mot forestillingen om at KI gjør utviklere eller teknologikompetanse overflødig. Noen må fortsatt forstå hvordan systemene virker, og vedlikehold, oppdatering og ansvar forsvinner ikke selv om utviklingen går raskere.

 

Digitalt anarki fantes fra før

Malcolm Langford, professor i offentlig rett ved Universitetet i Oslo, mente Ingebrigtsens innlegg var viktig, men pekte på at problemet ikke er helt nytt.

 

– Vi har hatt digitalt anarki i mange år, sa Langford.

 

Han viste til utdanningssektoren og kommunene, der mange systemer allerede håndterer personopplysninger og sensitive data på tvers av leverandører og gamle løsninger. KI-agentrevolusjonen kan dermed snarere avsløre og forsterke problemer som allerede finnes.

 

– Kanskje KI-agentrevolusjonen avslører de systemene av digitalt anarki vi har, sa han.

 

Langford mente Norge trenger bedre rettslige og tekniske rammer for trygg bruk av personopplysninger. Hvis det ikke kommer på plass, øker faren for at data brukes på uansvarlige måter.

 

Artikkelen fortsetter etter annonsen:

 

 

 

Innovasjon trenger infrastruktur

Langford pekte også på behovet for et eget infrastrukturlag for innovasjon. Det må finnes trygge steder der offentlige virksomheter kan eksperimentere med data og KI-modeller, teste løsninger og involvere saksbehandlere uten å sette kjerneverdier eller personvern i fare.

 

– Vi trenger innovasjonens infrastrukturlag, et sted hvor vi trygt kan jobbe og eksperimentere med data og KI-modeller, sa han.

 

Han viste til arbeidet i TRUST-senteret, der det er utviklet forskningsinfrastruktur med store datasett som kan brukes til å teste og utvikle løsninger. Slike miljøer kan også bli viktige for små kommuner som ikke har kapasitet til å bygge alt selv.

 

Små kommuner trenger støtte

Haugsbø løftet fram en kjent utfordring i Kommune-Norge: De fleste kommuner er små eller mellomstore, men de skal likevel vurdere komplekse teknologiske innkjøp og løsninger.

 

– Hvordan skal en greie å få nok kompetanse ut i kommunene for å få til dette på en ansvarlig måte? spurte hun.

 

Hun mente problemet ikke handler om dårlige folk, men om mangel på riktig kompetanse i innkjøps- og vurderingsprosesser. Når KI gjør det mulig å utvikle løsninger uten tradisjonelle anskaffelser, blir denne kompetanseutfordringen enda mer krevende.

 

Falsk trygghet i governance

Ingebrigtsen fulgte opp med å advare mot at god governance kan gi falsk trygghet. Selv med tydelige systemer og rutiner kan ansatte lage egne løsninger dersom terskelen er lav nok.

 

Han brukte et eksempel fra en skole der en ansatt hadde laget sitt eget intranett fordi vedkommende hadde lært seg OneNote.

 

– Da er terskelen lav for den personen, og så bare skjer det, sa Ingebrigtsen.

 

Poenget hans var at styring ikke bare kan være dokumenter og strukturer på toppen. Den må fungere i praksis, helt ute i organisasjonen.

 

Behov for tydeligere nasjonal styring

Clementsen mente kommunesektoren allerede forsøker å håndtere kompleksiteten gjennom samarbeid, for eksempel felles anskaffelser. Men han tok også til orde for tydeligere nasjonal styring av digitalisering og kunstig intelligens.

 

– På teknologisida, på digitaliseringssida og med den drivende teknologien kunstig intelligens, så burde vi nok ha strammere styring i offentlig forvaltning, sa han.

 

Han mente nasjonale myndigheter bør være tydeligere på tvers av forvaltningsnivåene, slik at kommunene ikke må løse alt hver for seg.

 

Industriell KI må bygges med risikoforståelse

Astrid Helene Rusås Kristoffersen fra DNV trakk samtalen over i industrielle sektorer som maritim næring, energi, hav, helse og digital sikkerhet. Hun beskrev hvordan DNV over lang tid har forsket på hvordan KI og digitalisering påvirker slike sektorer.

 

For DNV er et sentralt spørsmål hvordan KI kan brukes trygt i systemer med høy risiko, for eksempel innen autonomi i maritim sektor.

 

– For KI handler om usikkerhet, sa Kristoffersen.

 

Hun understreket at KI-modeller er statistiske, ikke deterministiske. Man vet ikke alltid nøyaktig hva som kommer ut, og derfor må usikkerheten forstås, dokumenteres og om mulig kvantifiseres.

 

– Du må ha en kontekst å opptre i, og da med risikoperspektivet fram, sa hun.

 

Krav må settes fra toppen

Kristoffersen mente samfunnet må være tydelig på hvilken risiko det er villig til å akseptere. Det gjelder enten KI brukes i et skip, i en skole eller i en kommune.

 

– Vi er nødt til å forholde oss til hvilken risiko vi er villige til å akseptere, sa hun.

 

Hun pekte på behovet for å sette krav fra starten: Hvilket samfunn vil vi ha? Hvordan skal GDPR ivaretas? Hvem kan data deles med? Hvordan skal systemet dokumenteres? Og hvordan sikres kontroll gjennom hele stacken – fra kontekst og system til data og algoritme?

 

Hun trakk også fram at avanserte KI-modeller kan synliggjøre sårbarheter som allerede finnes i digitale systemer.

 

– Det er din sårbarhet i ditt digitale system som blir synlig, sa Kristoffersen.

 

Trygge miljøer for ideer og utprøving

Haugsbø mente det er viktig å ikke undervurdere verdien av at ansatte tett på problemene kan bidra med ideer. Hun viste til organisasjoner som er gode på å involvere ansatte bredt i innovasjon.

 

– Det kan godt hende at vaktmesteren har en utmerket forståelse av akkurat det problemet, sa hun.

 

Samtidig må overgangen fra idé til drift skje i trygge miljøer. Det må være rom for å prøve og feile uten at man eksperimenterer direkte i kjerneinfrastruktur eller med sensitive personopplysninger.

 

– Legg til rette for at alle kan bidra på en trygg måte, sa Haugsbø.

 

Kristoffersen viste til at DNV og Gjensidige nylig har etablert et nettverk for å dele erfaringer om KI-governance på tvers av bransjer, der også offentlig sektor er invitert inn.

 

Kommunesektoren trenger struktur

Mot slutten ble Ingebrigtsen spurt om hvordan Kommune-Norge og KS har reagert på hans «Kode Rød»-varsel. Han svarte at KS har respondert godt og tatt initiativ til nasjonal samhandling.

 

– KS har respondert veldig godt. Det er veldig kompetente folk der, sa Ingebrigtsen.

 

Samtidig mente han at dette ikke kan løses av kommunesektoren alene. Digitaliseringsdepartementet må få en sterkere rolle i departementshierarkiet dersom Norge skal klare å koordinere dette på tvers.

 

– Vi jobber godt nå, men vi må få struktur, sa han.

 

Han avsluttet med å peke på den praktiske utfordringen: Mange ansatte bruker allerede KI-verktøy. Spørsmålet er hvordan bruken kan bringes innenfor virksomhetens regler, ansvar og styring.

 

– Vi må lande på beina før KI er overalt, sa Ingebrigtsen.

 

Samtalen viste at KI-økosystemet ikke kan bygges av én aktør alene. Kommuner, stat, fagforeninger, forskningsmiljøer, teknologer, jurister og næringsliv må utvikle rammer, kompetanse og infrastruktur sammen – slik at innovasjon kan skje raskt, men ikke tilfeldig.

 

 

 

 

Verden står i et radikalt skifte drevet frem av kunstig intelligens. Med kloke valg kan Norge sikre digital suverenitet og verne om våre demokratiske verdier. Som et lite land med høye KI-ambisjoner går vi på en stram line. Vi må finne balansen mellom å handle raskt og klokt, samtidig som vi må samarbeide tett og prioritere skarpt for å lykkes.

 

Kilde: digdir.no

 

 

• Transkripsjon fra tale til tekst med JoJo / NB Whisper
• RÃ¥fil bearbeidet med en sprÃ¥kmodell
• Endelig tekst utarbeidet av Torbjørn Vinje