Skrevet sammen med seniorforsker Prosper Kwei-Narh og publisert i Dagens Perspektiv den 27.06.2025.
For tiden strømmer det på med duppeditter som plutselig kan bli «intelligent». Her om dagen var vi på en konferanse om sikkerhet i høy-risiko-systemer og intelligensen formelig rant over i alt fra atomkraftverk til skipstrafikk og legekontorer. Det må jo bli fint?
Eller kan det være at «intelligens» er et ord vi strør om oss litt for kjapt, med litt for uklare forhåpninger? Vi prøvde oss på et tanke-eksperiment som leseren også kan prøve ut. Ta en forholdsvis enkel innretning, slik som en vekkerklokke, og spør deg selv: Hvilke kjennetegn vil klokken din ha dersom den skal fortjene merkelappen «intelligent vekkerklokke»?
Folk kommer opp med mange plausible egenskaper. For eksempel kunne den ha tilgang på din avtalebok og vite når du må eller ikke må stå opp. Den kunne kanskje vite om du er veldig trøtt og trenger litt myk vekking, eller om du hadde en svært amorøs natt og trenger å sove lenger, eller…
Nei vent, hvor mye dyneløfting vil du egentlig at vekkerklokken din skal drive med? Skal den legge seg opp i om du bør sove, eller om du egentlig bør stå opp, eller om den skal forhindre deg fra å ødelegge din egen døgnrytme..? Hva er egentlig en pålitelig intelligent vekkerklokke, er det en helvetesmaskin som får deg opp samme f. og om nødvendig med elektrosjokk, eller er den en hyggelig slubbert som skjønner det når du trenger litt ekstra skjønnhetssøvn?
La oss stoppe opp et øyeblikk og tenke. Er det egentlig vekkerklokken som vekker deg? Alle som har hatt tenåringsbarn vet at vekkerklokker raskt kommer til kort dersom syvsoveren ikke selv har installert selvdisiplin i sin egen hjernebark. Nøkternt sett er det ikke vekkerklokken som vekker deg – det er du som vekker deg selv, gjennom å kjøpe en pålitelig dings som du – ikke klokken – stiller inn i forveien. Og som bare gir deg et signal for at du – ikke klokken – kan velge å stå opp og gå i gang med noe.
Det er du som er intelligent. Vekkerklokken er pålitelig fordi den er dum. Akkurat dette er en dyp sannhet i menneske-maskin-systemer som bare kommer til å bli viktigere å forstå i årene som kommer. For intelligente vesener er bygd for å være uforutsigbare aktører. Verktøy og maskiner, derimot, er bygd for å være så solide og forutsigbare som mulig.
Hvis du ikke tror oss, så prøv på en annen morsom øvelse. Ta noen av de industrielle kriteriene på hva som utgjør et pålitelig høysikkerhetsprodukt om til en sjekkliste og se om den passer på deg (eller noen av de andre som har det med å vekke deg): Gjør du færre enn 3 feil per million utførte oppgaver («six sigma»)? Opptrer du alltid helt likt og kontrollert? Går du aldri og legger deg? Reagerer du alltid helt likt i samme situasjoner? Er du transparent og veldokumentert i alt du foretar deg?
Hvis mange av disse kjennetegnene treffer på deg som menneske, er sjansen større for at du har en diagnose enn et rykte som supersmart. Maskinmessig forutsigbarhet er et kjennetegn ved en rekke mentale forstyrrelser fra demens via tvangslidelser til avhengighet.
Det som kjennetegner en velfungerende, intelligent aktør er fleksibilitet, selvoppholdelse og evnen til å endre atferd for å ikke bli et lett bytte for andre. Kort sagt, vår atferd er ikke rigid og stereotyp fordi hjernen vår er laget for å balansere mange motstridende hensyn i en kompleks verden. Det er faktisk derfor vi kjøper vekkerklokke. Den skal være pålitelig og forutsigbar, ikke oppføre seg som – ja som for eksempel ektefellen eller ungene.
Når vi mennesker samarbeider med andre fleksible, intelligente aktører, må vi basere oss på felles mentale modeller og felles intensjoner, noe vi bare kan utvikle gjennom gjensidige relasjoner og tillitsbygging. Det er derfor teambygging ofte er nødvendig.
Vi vil nemlig gjerne vite hvilke hensikter de andre har. Kjenner de oss, vil de oss vel, og er de fri til å handle deretter? Forestill deg at du faktisk har en intelligent vekkerklokke. Den kan ikke opptre intelligent uten å drive intensjonsbaserte tjenester. Men hvilke intensjoner har den? Og ikke minst, hvem sine intensjoner har den overtatt? Er du villig til å bruke en intelligent vekkerklokke som du fikk i julepresang av sjefen din, og ville det være bedre om den kom rett fra OpenAI, Amazon eller Tencent?
Prøv nå å erstatte den relativt enkle vekkerklokken med et atomkraftverk, et overvåkingssystem for skip langs kysten eller operasjonsplanleggingen i store militære avdelinger. Det er utvilsomt at oppgaver som må utføres feilfritt og repetert til alle døgnets tider vil gjøres best av automatiserte verktøy. Kunsten er å se når menneskelig intensjonalitet og relasjonsbasert samarbeid er påkrevet for at systemet skal være intelligent på ekte.
Dette har vi ikke utviklet gode nok felles begreper for, og det er her skoen trykker. Det hjelper lite å innføre selvkjørende biler og skip hvis du likevel må ha en person i styrhuset hele tiden. Mange slike arbeidsplasser reduserer oppgaver til ren og skjær overvåkning. Siden overvåkerne bare sjelden griper inn, kan de belastes med administrative oppgaver som avleder oppmerksomheten deres når noe virkelig hender. Eller de kan sovne, og våkne igjen i en hage i Trondheimsfjorden.
Forsøket på å drive naturlig intelligens ut av arbeidsplasser begynte ikke med innføringen av «kunstig» intelligens. Jerngrepene for å gjøre ansatte til viljeløse roboter har vært i gang lenge. Det vi kan håpe på, er at vi blir flinkere til å skille automasjon fra felles mentale modeller.