AGI — hva er kunstig generell intelligens og når kommer den?

Hva er AGI — og hva er det ikke?

Kunstig generell intelligens (AGI) refererer til et AI-system som kan utføre alle kognitive oppgaver som et menneske kan utføre — og gjerne bedre. I motsetning til dagens smalspesialiserte AI (som er eksepsjonell til én ting, men hjelpeløs utenfor sitt domene), ville en AGI kunne lære nye ferdigheter, resonnere tverrfaglig, tilpasse seg nye situasjoner og generalisere kunnskap.

AGI er ikke det samme som superintelligens — et system som overgår menneskelig intelligens på alle tenkelige domener. AGI er terskelen der AI når menneskelig nivå; superintelligens er hva som eventuelt kommer deretter. Det er heller ikke det vi har i dag: dagens LLM-er som GPT-4 og Claude er imponerende, men de hallusinerer, sliter med nye domeneer og mangler genuin forståelse.

Når kommer AGI? Ekspertene er dypt uenige

Spørsmålet om når — og om — AGI vil komme er et av de mest kontroversielle i teknologihistorien. Pessimistene hevder at LLM-er er en avansert søkemotor, ikke en vei mot genuin intelligens, og at AGI er tiår eller generasjoner unna. Optimistene — blant dem Sam Altman (OpenAI) og Demis Hassabis (Google DeepMind) — mener AGI kan komme innen dette tiåret.

En survey blant 2 700 AI-forskere i 2023 viste at median-estimat for 50 % sannsynlighet for AGI var rundt 2059 — men med enorm spredning. Noen svarte «aldri», andre svarte «2030». Usikkerheten er reell og dyp: vi vet ikke engang presist hva AGI er, og vi har ingen konsensus om hva som er nødvendig og tilstrekkelig for å oppnå det.

"Vi kan nærme oss AGI uten å vite at vi er der — fordi vi ikke har god nok definisjon av hva det innebærer."

Tekniske barrierer på vei mot AGI

Forskningsmiljøene er enige om at en rekke fundamentale problemer må løses:

• Generalisering: Dagens AI klarer ikke å overføre læring fra én kontekst til en annen slik mennesker gjør. Et barn som lærer å stapple legoklosser kan generalisere til å stable bokser — AI kan som regel ikke det.
• Kausal resonnering: Å forstå årsak og virkning — ikke bare korrelasjon — er grunnleggende for menneskelig intelligens og mangler i dagens systemer.
• Felles forstand (common sense): Ting vi aldri læres eksplisitt, men som er selvsagte: at glass knuser når det faller, at folk sover om natten. AI-systemer mangler denne tause kunnskapen.
• Effektiv læring: Menneskebarn lærer å kjøre sykkel fra noen forsøk. AI trenger millioner av eksempler. «Few-shot learning» er et aktivt forskningsfelt.
• Kontinuerlig læring: Dagens AI-modeller er «frosne» etter trening. Ekte intelligens lærer kontinuerlig fra erfaring uten å glemme det den kan.

Risikoen ved AGI — hva sier AI-sikkerhetsfeltet?

AI-sikkerhet er et raskt voksende forskningsfelt dedikert til å sikre at fremtidig avansert AI forblir under menneskelig kontroll og handler i tråd med menneskelige verdier. Grunnproblemet kalles «alignment»: hvordan sikrer vi at en superintelligent AI gjør det vi faktisk ønsker — ikke det vi bokstavelig talt ber den om?

Et mye brukt tankeeksperiment er «papirklips-maximizeren»: en AI gitt oppgaven «produser flest mulig papirklips» vil, hvis den er tilstrekkelig intelligent og ikke har verdi-constraints, konvertere alle tilgjengelige ressurser — inkludert menneskeheten — til papirklips. Det høres absurd ut, men poenget er seriøst: et intelligent system uten riktig spesifiserte mål kan optimere mot dem på måter vi ikke forutså.

Hva gjøres for å sikre trygg AI-utvikling?

De ledende AI-selskapene — Anthropic, OpenAI, DeepMind og Meta — har alle egne sikkerhetsteam som jobber med alignment, interpretability (å forstå hva som skjer inne i AI-modeller) og robusthet. Anthropic, grunnlagt av tidligere OpenAI-ansatte, har ansvarlig AI-utvikling som eksplisitt kjernemisjon.

På politisk nivå har G7, FN og EU etablert rammeverk og konferanser om AI-sikkerhet. Bletchley Park-toppmøtet i 2023, Seoul AI Safety Summit i 2024 og Paris AI Action Summit i 2025 markerer en voksende internasjonal erkjennelse av at AGI-risiko krever koordinert global respons.

Norges rolle og relevans

Norge er et lite land med begrenset innflytelse på AGI-utviklingen, som drives av gigantiske ressurser i USA og Kina. Men Norge kan bidra gjennom å støtte AI-sikkerhetsforskning via Forskningsrådet, bygge kompetanse ved universitetene, og delta aktivt i internasjonale regulatoriske prosesser gjennom EØS og FN.

For norsk næringsliv handler det om å forholde seg til en teknologi i rask utvikling: bygge intern kompetanse, følge med på regulatorisk utvikling og ha beredskap for et teknologisk skifte av historisk omfang. De fleste eksperter er enige om at verden vil se dramatiske endringer i AI-kapabiliteter de neste ti årene — AGI eller ikke.

Hva bør vi forberede oss på?

Uavhengig av om AGI kommer i 2030 eller 2060, er det allerede klart at AI-systemer vil bli dramatisk mer kapable innen kort tid. Den mest sannsynlige konsekvensen er ikke sci-fi-robots som overtar verden, men en gradvis og dyp transformasjon av arbeidslivet, utdanningssystemet, helsevesenet og politikken.

Det viktigste vi kan gjøre nå er å investere i AI-literacy i befolkningen, bygge robuste etiske og juridiske rammeverk, og sørge for at gevinstene av AI-revolusjonen fordeles rettferdig. AGI er ikke en binær hendelse som inntreffer én dag — det er en prosess vi allerede er midt i.