Frokost på Gløshaugen: – Kunstig intelligens er en gigantisk samfunnsrisiko
I regi av organisasjonen Effektiv Altruisme møtes en KI-ekspert og en tenketankleder for å snakke om kunstig intelligens og langsiktige utfordringer.
Effektiv Altruisme ønsker å gjøre verden best mulig, for alle, for alltid. «Et hårete mål» innrømmer styreleder og dagens konferansier Nora Kyte.
I anledning eget 10-årsjubileum inviterer de til en frokostsamtale om KI mellom fysiker og stjerneformidler Inga Strümke og grunnlegger Eirik Mofoss av tenketanken Langsikt.
Tidligere var han selv med på å opprette Effektiv Altruisme og har vært fagdirektør i Norad.
– Oi, her var det mange
I tillegg til stjernefaktoren slår altruistene på stortromma, og lokker publikum med kaffe, müsli og yoghurt til frokost. Resultatet blir en fullstappet sal på Gløshaugen. Mens strømmen av ivrige studenter finner plassene sine, høres et «Oi, her var det mange,» fra en forbipasserende.
Mofoss starter ballet med å fortelle om misjonen til Langsikt, eller «Senter for langsiktig politikk» hvis man har god tid.
– Vi er opptatt av langsiktige løsninger som virker kortsiktig, forklarer han.
Ikke bare skal beslutninger være gode i nåtiden, de må også komme fremtiden til gode. En mangelvare, mener Mofoss, i et samfunn preget av korte valgsykluser.
– Det går for raskt
Et av problemene tenketanklederen tenker på, er hvordan Norge kan legge til rette for en bærekraftig utvikling av kunstig intelligens.
Utviklingen foregår i et halsbrekkende tempo. Manglende innsyn i hvordan algoritmene bak KI-tjenester fungerer er urovekkende, mener panelet.
Strümke innleder sitt innlegg med et retorisk spørsmål:
– Har man kontroll over en god beslutning hvis man ikke skjønner hva som har blitt lagt til grunn for å ta den?
– Nei, svarer hun selv.
Norge akterut i Europa
Onsdag vedtok EU-parlamentet det første lovverket for regulering av KI. Strümke mener det er et stort problem at vi ikke greier å regulere KI på en god måte her i Norge.
– Reguleringen vi har er for streng for norske bedrifter til å navigere, men samtidig for slapp til å hindre selskaper som Meta fra å manipulere oss. Med data vi strør rundt oss fordi det er raskere å trykke på «OK» enn «Avvis alle», sier hun.
Mofoss er enig, og trekker frem at selv om Meta og tilsvarende bedrifter skulle komme i konflikt med norske lover, har de økonomiske muskler som lar dem betale eventuelle bøter uten problemer.
Det er enda et konkurransefortrinn over mindre bedrifter.
LES OGSÅ: Vil øke semesteravgiften: – Studentene bestemmer
– Vi trenger flere teknologer i det offentlige
Mofoss har selv vært rådgiver i Høyres stortingsgruppe og påpeker at politisk innflytelse kan oppnås uten å være politiker på toppnivå.
– Majoriteten av politiske beslutninger tas ikke av regjeringen, sier han.
Han oppfordrer alle i salen til å lukte på en politisk karriere. Departementene og komiteene, hvor de ordentlige pølsene lages, har behov for kompetansen fra NTNU.
Mennesker med engasjement og faglig kompetanse er nødvendige for å styre den politiske håndteringen av KI-utviklingen.
– Det er mye som jobber mot oss
Å kontrollere utviklingen til KI-industrien er ingen enkel oppgave. De som forsøker å tråkke på bremsen, blir motarbeidet av en rekke faktorer.
– Alt fra menneskelig psykologi til våre økonomiske modeller jobber mot oss, sier Strümke.
At bedriftene skal maksimere profitt er enda en årsak til at utviklingen akselererer forbi det oversiktlige.
– Tanken om evig vekst er ikke bærekraftig. Jeg studerer fysikk, og kan melde at det ikke går, sier Strümke.
En annen faktor som bidrar til å gjøre utviklingen ukontrollerbar er konkurransen mellom USA, Europa, og Asia.
– Det blir et slags våpenkappløp, sier Strümke.
Som et alternativ etterlyser Mofoss et internasjonalt miljø rundt KI som drar i samme retning.
– Vi trenger et nytt felles europeisk prosjekt, som CERN for KI, sier han.
Redaktørstyrte medier på opptur
På sosiale medier er kombinasjonen av KI-algoritmer som velger hva du ser og KI-generert innhold, potensielt skadelig.
– I 2024 er alle sin egen redaktør. Inne på SoMe får man nøyaktig det verdensbildet man selv velger, servert. Uten at det reflekterer virkeligheten. Det er en gigantisk samfunnsrisiko, sier Strümke.
Men i syndefloden av feilinformasjon, ser panelet en løsning. Strümke trekker frem hvordan redaktørstyrte medier kommer til å bli desto viktigere fremover.
– Vi trenger verifisering av innhold og god journalistikk mer enn noen gang. Støtt NRK, Dagens Næringsliv og Aftenposten. Støtt avisene, slår hun fast.
LES OGSÅ: Humanitære kriser: – Verdens største utendørsfengsel
