Av Helene Ingierd, sekretariatsleder, Den nasjonale forskningsetiske komité for naturvitenskap og teknologi (NENT). Debattinnlegg i Aftenposten, 21.12.19

Men hva ønsker vi egentlig å bruke teknologien til? Fra politiske myndigheter, næringsutviklere og forskere fremheves ofte de enorme mulighetene ved teknologien: Kunstig intelligens kan hjelpe oss med å løse store samfunnsutfordringer innen helse, klima og i offentlig sektor. Samtidig har fremtredende forskere og næringslivsledere ropt varsku og advart mot en utvikling der vi står i fare for å miste kontrollen og utvikle en teknologi som i verste fall kan undergrave det samfunnet vi ønsker oss.

Mulig gode og risiko

Den nasjonale forskningsetiske komité for naturvitenskap og teknologi (NENT) lanserte nylig en forskningsetisk betenkning om kunstig intelligens, som skal være et utgangspunkt for refleksjon, veiledning og diskusjon. Forskningsetikken vektlegger at når forskning og teknologiutvikling har store samfunnskonsekvenser, er det vesentlig å gi rom for en bred debatt om risikoer og muligheter.

Det er et grunnleggende prinsipp, også i forskningsetikken, at de som blir mest påvirket av forsknings- og teknologiutviklingen, må sikres en stemme i beslutningsprosessene. Hvilke risikoer og muligheter ved teknologien som vektlegges, kan avhenge av hvilke verdier og interesser som legges til grunn. For eksempel kan overvåkingssystemer basert på kunstig intelligens oppfattes både som et mulig gode og som en risiko. I et forsvars- og sikkerhetsperspektiv kan overvåking forhindre kriminalitet og advare samfunnet mot mulige farer, men ut fra et ståsted som vektlegger personvern, kan slik overvåking også anses som en trussel mot enkeltpersoners integritet.

Innbyggerne må involveres

Myndigheter og forskningsinstitusjoner bør derfor legge til rette for bred involvering av innbyggerne i diskusjoner om kunstig intelligens. Aktuelle spørsmål er: Hva er formålet med forskningsinnsatsen? Hvilke beslutninger mener vi at maskiner skal kunne ta? Og hvilke verdier skal vi bygge inn i maskinene? Spørsmål om spesifikke bruksområder som bør være gjenstand for brede diskusjoner inkluderer: Ønsker vi roboter i helsetjenesten, og hvor går grensen for når det er OK? Bør skolene innføre læringsbrett i undervisningen? Hvilke offentlige beslutninger bør automatiseres? Alle disse spørsmålene handler om verdier - hvilke goder vi ønsker, og hva vi vil unngå.

NENT mener både politiske myndigheter og forskningsinstitusjonene har et betydelig ansvar for å sikre bred involvering. Forskere bør, der det er mulig, sikre medvirkning i forskningen. Men først og fremst må Regjeringen legge til rette for det Teknologirådet omtaler som en «nasjonal dialog for kunstig intelligens». Dette handler om noe mer enn åpenhet om forskningsinnsats og formidling av forskningen. Vi bør gå ett skritt videre og invitere til en bred debatt om muligheter og risikoer ved kunstig intelligens. Teknologien påvirker allerede hverdagen til hver og en av oss.