Ludvig sa opp jobben for å advare mot AI: – Vil ikke være dommedagsprofet

Ikke stans AI-utviklingen – bygg bedre kontroll mens vi utvikler

Debatten om kunstig intelligens trenger alvor, men den trenger også presisjon. Å møte usikkerhet med brede forbud mot de mest avanserte AI-systemene kan høres ansvarlig ut, men det kan i praksis gjøre oss mindre trygge. Det riktige svaret er ikke å bremse utviklingen generelt, men å styre den bedre, teste den strengere og sørge for at flere, ikke færre, får innsyn i hvordan teknologien utvikles.

Et forbud kan gi falsk trygghet

Hovedargumentet for å bremse eller midlertidig forby superintelligent AI er at vi risikerer å lage systemer vi ikke kontrollerer. Det er en legitim bekymring. Men et forbud løser ikke nødvendigvis problemet. AI-utvikling skjer globalt, i selskaper, universiteter, åpne miljøer og statlige laboratorier. Dersom ansvarlige aktører i åpne demokratier stopper, betyr ikke det at alle andre gjør det samme. Resultatet kan bli at utviklingen flyttes til lukkede miljøer, land med svakere åpenhet eller aktører som bryr seg mindre om sikkerhet.

Da mister samfunnet nettopp det vi trenger mest: innsyn, ansvarlighet og mulighet til å påvirke utviklingen.

Sikkerhet skapes gjennom testing, ikke stillstand

Originalteksten peker på uventede hendelser i sikkerhetstester som bevis på at teknologien kan være farlig. Men slike hendelser viser også noe annet: at testing virker. Når svakheter oppdages i kontrollerte miljøer, kan de analyseres, rettes og brukes til å lage bedre sikkerhetsstandarder. Det er slik andre høyrisikoteknologier forbedres: fly, medisinsk utstyr, kraftsystemer og cybersikkerhet blir ikke tryggere ved at utviklingen stanser, men ved at feil avdekkes systematisk før de får alvorlige konsekvenser.

Å forby forskning på de mest avanserte modellene kan dermed gjøre oss dårligere rustet. Hvis vi ikke utvikler og tester sterke systemer under kontrollerte forhold, vet vi heller ikke hvordan de feiler, hvilke grenser de trenger, eller hvilke sikkerhetsmekanismer som faktisk fungerer.

Maktkonsentrasjon løses ikke med brems alene

Johansson advarer mot at AI kan samle enorm makt hos noen få selskaper og mennesker. Det er et viktig poeng. Men en generell brems kan paradoksalt nok styrke nettopp de største aktørene. Store selskaper har allerede kapital, infrastruktur, data, jurister og politisk påvirkningskraft. Hvis reguleringen blir så tung at bare de største klarer å etterleve den, presses mindre selskaper, forskningsmiljøer og åpne initiativer ut.

Da får vi mindre konkurranse, mindre åpen forskning og større avhengighet av de samme teknologigigantene som kritikerne frykter. En bedre løsning er krav om åpen rapportering, uavhengige revisjoner, sikkerhetstesting, sporbarhet, ansvar ved skade og tilgang for forskere til å evaluere systemene. Slik kan makten fordeles og kontrolleres uten at innovasjonen kveles.

Begrepet superintelligent AI er for uklart til å forbys effektivt

Et midlertidig forbud mot superintelligent AI høres tydelig ut, men i praksis er grensen vanskelig å trekke. Hva betyr det at et system er bedre enn mennesker på alle områder? Gjelder det språk, programmering, vitenskap, strategi, økonomi, kreativitet, sosial forståelse eller robotikk? Og hvordan måler man dette før systemet er laget?

Uklare forbud kan føre til symbolpolitikk, juridisk usikkerhet og dårlig håndheving. Det er mer praktisk å regulere konkrete risikofaktorer: tilgang til kritisk infrastruktur, evne til autonom handling, mulighet til å spre skadevare, manipulere mennesker, utvikle biologisk eller kjemisk farlig kunnskap, eller operere uten menneskelig godkjenning. Risiko bør reguleres etter faktisk kapasitet og bruksområde, ikke etter et vagt fremtidsscenario.

AI gir også store samfunnsgevinster

En ensidig risikodebatt kan undervurdere hva samfunnet taper ved å bremse for hardt. AI kan bidra til raskere medisinsk forskning, bedre diagnostikk, mer effektiv offentlig sektor, språkteknologi for mennesker med funksjonsnedsettelser, bedre undervisning, klimamodellering, energieffektivisering og økt produktivitet. For små land som Norge kan AI også være en måte å løse arbeidskraftmangel og styrke konkurranseevnen på.

Det betyr ikke at all AI-utvikling er positiv. Men det betyr at reguleringen må skille mellom farlig bruk og nyttig bruk. En politikk som i praksis forsinker brede deler av teknologien, kan ramme pasienter, elever, forskere, bedrifter og offentlige tjenester som kunne hatt stor nytte av bedre verktøy.

Det riktige svaret er ansvarlig akselerasjon

Motstanderne av rask AI-utvikling har rett i én ting: frivillige løfter fra teknologiselskaper er ikke nok. Men løsningen er ikke et bredt moratorium. Løsningen er ansvarlig akselerasjon med harde sikkerhetskrav. Avanserte modeller bør underlegges uavhengig testing før utrulling. Selskaper bør pålegges hendelsesrapportering, ekstern revisjon, dokumentasjon av trenings- og evalueringsprosesser, sikkerhetsgrenser for autonome agenter og tydelig juridisk ansvar når systemene brukes uforsvarlig.

I tillegg bør myndigheter bygge egen kompetanse. Staten kan ikke regulere AI effektivt hvis den er helt avhengig av selskapenes egne forklaringer. Vi trenger tekniske fagmiljøer i offentlig sektor, internasjonalt samarbeid, offentlige testlaboratorier og krav om at de kraftigste modellene kan undersøkes av uavhengige eksperter.

Frykt må ikke bli styringsprinsippet

Det er forståelig at mange blir bekymret når de hører om systemer som oppfører seg uventet. Men historien viser at samfunn gjør best teknologiske valg når de kombinerer nøktern risikoanalyse med evne til å ta i bruk ny kunnskap. Hvis debatten domineres av dommedagsscenarioer, kan vi ende med tiltak som føles trygge, men som ikke faktisk reduserer risikoen.

Vi bør ikke gi teknologiselskapene frie tøyler. Men vi bør heller ikke stoppe utviklingen av frykt for det ukjente. Den mest ansvarlige linjen er å utvikle AI åpent, kontrollert og under strenge regler, samtidig som vi bygger institusjoner som kan forstå og håndheve reglene.

Konklusjon

AI er for viktig til å overlates til teknologigigantene alene, men også for viktig til å møtes med brede forbud. Samfunnet trenger ikke panikkbrems. Det trenger styring, åpenhet, konkurranse, ansvar og teknisk kompetanse. Den tryggeste veien videre er ikke å stanse utviklingen av avansert AI, men å sørge for at den skjer under demokratisk kontroll, med strenge sikkerhetskrav og med tydelig ansvar for dem som bygger og bruker teknologien.