Store språkmodeller er ikke lenger bare et forskningsfelt for spesielt interesserte. De er i ferd med å bli en del av den digitale infrastrukturen som offentlig sektor, næringsliv og innbyggere er avhengige av.
Det var utgangspunktet da Språkmodellklynge Norge, Universitetet i Oslo, NTNU, Nasjonalbiblioteket, Språkrådet og Sigma2 samlet forskere, myndigheter og teknologimiljøer til debatt under Arendalsuka torsdag.
– Store språkmodeller er selve bærebjelken eller motoren i dagens generative KI. De er i ferd med å bli samfunnskritisk infrastruktur, på linje med strøm og kommunikasjonsnett, sa Lilja Øvrelid, professor i informatikk ved Universitetet i Oslo.
Hun pekte på at diskusjonen derfor ikke bare handler om teknologi, men om digital suverenitet, samfunnssikkerhet, åpenhet og norsk språklig og kulturell identitet.
Artikkelen fortsetter etter annonsen:
Advarer mot teknologisk avhengighet
Bakgrunnen er en utvikling der de mest avanserte språkmodellene i hovedsak kontrolleres av store amerikanske og kinesiske teknologiselskaper.
Ifølge Øvrelid kan Norge på sikt risikere en dyp avhengighet av utenlandske leverandører dersom landet ikke selv bygger kompetanse og kapasitet.
Flerspråklige modeller kan tilsynelatende fungere godt på norsk, men det er ikke nødvendigvis nok. Modeller som hovedsakelig er trent på engelskspråklige og amerikanske data, kan også ta med seg språklige formuleringer, kulturelle referanser og verdier inn i norske svar.
Professor Stephan Oepen ved Universitetet i Oslo, som leder Språkmodellklynge Norge, viste blant annet til evalueringer som har avdekket svakheter i amerikanske modellers håndtering av norske språkvarianter.
– Språket er identitetsskapende. Det er kulturarv. Vi kan ikke forvente at amerikanske teknologiselskaper tar ansvar for nyansene mellom for eksempel ulike former for bokmål og nynorsk, sa han.
Artikkelen fortsetter etter annonsen:
Seks anbefalinger til myndighetene
Språkmodellklynge Norge har kartlagt situasjonen for norsk forskning og utvikling på feltet og kommet med seks anbefalinger.
Et hovedproblem er ifølge Oepen at forskningsinnsatsen er fragmentert. Norge har sterke enkeltmiljøer, blant annet ved Universitetet i Oslo og NTNU, men mangler en samlet struktur med tilstrekkelig kapasitet.
Klyngen anbefaler derfor blant annet en nasjonal strategi for språkmodeller og en fast samhandlingsarena der forskningsmiljøene kan samarbeide med brukere, internasjonale partnere og utdanningsmiljøer.
Samtidig mener klyngen at tilgangen på regnekraft må styrkes betydelig.
– Regnekraft, tungregning og spisskompetanse er vesentlige forutsetninger, sa Oepen.
En del av infrastrukturen bør etter hans syn ligge i Norge, samtidig som de største satsingene må skje gjennom nordisk og europeisk samarbeid.
Klyngen ønsker også avklaringer rundt bruk av opphavsrettsbeskyttet materiale til trening av modeller, sterkere norsk deltakelse i europeiske forskningsprogrammer og nasjonal medfinansiering som gjør det mulig for universiteter å delta i store EU-prosjekter.
Artikkelen fortsetter etter annonsen:
Statsråden: – Kan ikke gjøre alt selv
Forsknings- og høyere utdanningsminister Sigrun Aasland understreket at digital suverenitet ikke betyr at Norge skal utvikle alle deler av teknologien alene.
– Det kan aldri handle om at vi i Norge skal lage alle språkmodellene, alle systemene og all infrastrukturen selv. Men vi må sørge for at vi har tilstrekkelig selvstendighet og gode allierte, og at vi ikke legger alle eggene i én kurv, sa Aasland.
Hun viste til økte investeringer i regnekraft, forskningssentre for kunstig intelligens og etableringen av KI Norge som viktige deler av regjeringens arbeid.
På spørsmål om Norge trenger en egen nasjonal strategi for språkmodeller, var statsråden mer opptatt av gjennomføring enn av nye strategidokumenter.
– Jeg tror det er viktigere enn hvor mange strategier, sentre og dokumenter vi etablerer, hva vi faktisk klarer å få til, sa hun.
Hun understreket samtidig at flere departementer allerede samarbeider om spørsmål knyttet til digital suverenitet, språkmodeller og infrastruktur.
Wetås vil ha sterkere forskning på språkteknologi
Nasjonalbibliotekar Åse Wetås mener Norge har et særlig ansvar for å sikre teknologi som forstår norsk språk, kultur og samfunn.
Nasjonalbiblioteket er selv en del av Språkmodellklynge Norge og har de siste årene bygget opp både språkressurser og kompetanse på språkmodeller.
Wetås peker samtidig på mangel på spesialister som en utfordring.
– Det er ikke noen hemmelighet at det er vanskelig å finne gode folk som har denne kompetansen, og vi kommer til å trenge mange flere i framtida, sa hun.
Hun mener Norge trenger mer grunnforskning på områdene som er spesielt viktige for norske forhold.
Da Forskningsrådet fordelte midler til seks nye KI-sentre, ble ingen av dem spesifikt rettet mot språkteknologi.
– Jeg synes det var en overraskelse at det ikke ble plass til et senter med spesifikk innretning på språkteknologi, sa Wetås.
På spørsmål om Norge trenger et slikt senter, var svaret klart:
– Ja, det trenger vi definitivt.
Artikkelen fortsetter etter annonsen:
Etterlyser tydeligere krav fra brukerne
Jussi Karlgren, Principal AI Scientist i New Nordics AI og Silo AI, støttet i stor grad anbefalingene fra Språkmodellklyngen, men mente næringslivets og brukernes rolle burde komme tydeligere fram.
Den neste utfordringen er ifølge Karlgren ikke bare å lage stadig større modeller, men å definere hvilke oppgaver modellene faktisk skal løse.
– Det som i dag kreves, er egentlig ikke bare å bygge språkmodeller, men å forklare eksakt hva språkmodellene forventes å gjøre, sa han.
Næringslivet og offentlig sektor må derfor bidra med konkrete anvendelser, kvalitetskrav og tester.
Skal en modell brukes i offentlig forvaltning, må det for eksempel være mulig å måle om den faktisk leverer riktig kvalitet, følger regelverket og håndterer språket godt nok.
Karlgren mente også de nordiske landene har svært gode forutsetninger for å samarbeide om slike krav.
– Vi mangler kanskje et felles mål å streve mot. Hvis man sier at nå skal vi gjøre dette sammen, tror jeg vi har stor beredskap til å samarbeide, sa han.
– Ikke nødvendig å slå de største på alt
Spørsmålet om Norge faktisk kan utvikle konkurransedyktige språkmodeller gikk igjen gjennom debatten.
For Wetås avhenger svaret av hvordan konkurransedyktighet defineres.
– Våre modeller scorer veldig godt på norsk språk. Hvis det er det vi ønsker kvalitet på, må vi bruke de modellene når det er viktig, sa hun.
For offentlig sektor kan norske modeller dermed ha egenskaper som er viktigere enn ren størrelse.
Forvaltningen må forholde seg til blant annet språkloven, forvaltningsregelverket og krav til tillit, etterrettelighet og likebehandling.
– Vi trenger en mye tydeligere diskusjon om hva vi vil at disse modellene skal gjøre for oss, i stedet for å si: Nå kom det en ny, stor modell, og så springer alle etter den, sa Wetås.
Vil redusere usikkerheten rundt KI
Direktør i KI Norge, Hans Christian Holte, trakk fram koblingen mellom forskning og praktisk bruk som avgjørende.
Han mener mye av utfordringen nå ligger i å gjøre offentlige og private virksomheter tryggere på hvilke modeller de kan bruke, hvordan de kan brukes og hvilke risikoer som følger med.
– Å få til bruk handler mye om å få ned usikkerhet, sa Holte.
Han takket samtidig ja til invitasjonen om å knytte KI Norge tettere til Språkmodellklyngens arbeid.
Målet må ifølge Holte være å bygge god kvalitet i norsk KI-bruk og samtidig styrke den digitale suvereniteten.
Norden kan bli nøkkelen
Flere av paneldeltakerne pekte på Norden som en naturlig ramme for videre samarbeid.
Landene har språk og samfunnsmodeller som ligger tett på hverandre, og står overfor mange av de samme utfordringene knyttet til personvern, tillit, sikkerhet og offentlig bruk av kunstig intelligens.
Språkmodellklyngen planlegger allerede en nordisk samling for språkmodellforskere i Oslo, og Norge får en sentral rolle når landet overtar formannskapet i Nordisk ministerråd i 2027.
For Aasland er internasjonalt samarbeid selve kjernen i hvordan et lite land kan oppnå digital suverenitet.
– Suverenitet for et lite land som Norge handler ikke om å gjøre alt selv. Det handler om å ha mange gode venner, sa hun.
Samtidig må Norge vite hvilke deler av teknologien og infrastrukturen landet ikke kan tillate seg å miste kontrollen over.
– Det som må være trygt, og som vi må ha kontroll på, må være i Norge. Så kan vi kjøpe det som kan kjøpes, sa statsråden.
Hun trakk fram den norske språkmodellen Borealis som et eksempel på en ressurs som nå må tas videre inn i både forskning og forvaltning.
For Aasland er det overordnede målet likevel større enn selve teknologien.
– Hele rammen for dette skal være teknologi til det beste for samfunnet. Aldri teknologi for teknologiens egen skyld. Vi skal bruke KI til å bygge et enda bedre samfunn.
10 anbefalinger for Norges satsing på språkmodeller og digital suverenitet:
- Lag en nasjonal strategi for språkmodeller
Norge bør samle forskning, forvaltning, infrastruktur og næringsliv i en tydelig og langsiktig strategi. - Styrk forskningen på norsk språkteknologi
Det bør bygges sterkere og mer koordinerte forskningsmiljøer med språkmodeller som et tydelig hovedområde. - Etabler en nasjonal samhandlingsarena
Universitetene, Nasjonalbiblioteket, KI Norge, Språkrådet, næringslivet og offentlig sektor bør samarbeide tettere om utvikling og bruk. - Invester mer i regnekraft og teknisk kompetanse
Norge trenger større GPU-kapasitet, bedre tungregningsinfrastruktur og flere eksperter som kan utvikle og drifte avanserte modeller. - Sikre kontroll over kritisk KI-infrastruktur
Teknologi og data som er avgjørende for samfunnssikkerhet og offentlig forvaltning, bør så langt som nødvendig kunne håndteres i Norge eller hos nære samarbeidspartnere. - Prioriter norske språk, kultur og samfunnsforståelse
Modellene må beherske bokmål, nynorsk og samiske språk og være tilpasset norske lover, verdier, institusjoner og kulturelle forhold. - Definer tydelige bruksområder og kvalitetskrav
Norge bør ikke bare spørre hvilken modell som er størst, men hva modellene konkret skal brukes til og hvilke krav de må oppfylle. - Ta norske språkmodeller i bruk i offentlig sektor
Modeller som Borealis bør prøves ut og evalueres i reelle oppgaver der norsk språk, personvern, etterrettelighet og tillit er særlig viktig. - Styrk det nordiske og europeiske samarbeidet
Norge bør samarbeide om modeller, data, evaluering, regnekraft og forskning med land som har lignende språk, samfunn og regulatoriske krav. - Avklar regler for treningsdata og opphavsrett
Forskere og utviklere trenger tydelige rammer for hvilke norske tekst- og språkressurser som kan brukes til trening, og hvordan rettighetshavere skal ivaretas.
