AI - venn eller fiende?

Artificial Intelligence (AI) interesserer og skremmer en hel verden. Onsdag kveld samlet Samfundet tre forskere til å debattere teknikken som skal gjøre datamaskiner like intelligente som mennesker.

AGI - Artificial General Intelligence

En lettere definisjon på AI er å få datamaskiner til å gjennomføre oppgaver som en egentlig trenger menneskelig intelligens til å utføre. Det er utviklingen av en maskin som lærer av erfaring.

Det skilles mellom to typer kunstig intelligens i dag: Spesifikk, svak AI og generell AI. Spesifikk AI er et datasystem som er trent opp til et spesifikt område og spesielle oppgaver og dermed er begrenset til akkurat dette området. Eksempler på spesifikk AI er chatbots.

Generell AI (AGI) lærer derimot på tvers av domener, og det er denne typen AI en burde frykte om en først skal frykte AI. Forskningen rundt AGI har likevel kommet svært kort.

– Forskere har siden 50-tallet sagt at vi er 20 år unna generell AI. Så det en egentlig kan si er at ingen vet når det vil komme, forteller leder Astrid Undheim for Telenors forskningsavdeling på AI.

– Sannsynligvis vil det gå mye lenger enn 20 år, om det noen gang vil gå, sier professor Ole Jakob Mengshoel ved Institutt for datateknologi og informatikk ved NTNU.

AI er i dag målrettet - systemet har selv et mål det beveger seg mot. Problemet til AI ligger likevel nå i å tenke filosofisk, å kunne tenke «jeg er jeg». AI-professor Keith Downing ved NTNU forteller at AI innehar deler av en filosofisk tankegang, men ikke nok til å fungere som en menneskelig tankegang.

Om AGI skulle bli virkelig mener Undheim det må utvikles med retningslinjer. Hun forteller at det i dag blant annet er begrenset hvilke data man tillates å bruke med tanke på ivaretakelse av personvern.

Downing mener man bør være førevar på hvilke retningslinjer som skal settes, da utviklingen av AI har eksponentiell vekst.

Frykt produsert av populærkultur

Undheim kan fortelle at interessen for AI har økt de siste årene på grunn av større data, kraftigere maskiner og teknologiske gjennombrudd. Men samtidig som interessen for området har økt, har også frykten økt.

Undheim forklarer at frykten for AI blant annet kommer av for liten forståelse - det en ikke forstår vil en alltid frykte. Hun presiserer at det likevel er områder ved AI, ikke minst ved AGI, som det er grunn til å frykte.

– Det er alt for mange Terminator-lignende filmer og «clickbait» som lurer mennesker til å tro at dette er noe de må være redde for, sier Mengshoel.

Downing legger til at alle teknologiinteresserte gutters helt, Elon Musk, har noe av skylden i frykten rundt AI.

Elon Musk uttalte tidligere i år på teknologikonferansen South by Southwest i Texas at AI er farligere enn atomvåpen. Han mener vi derfor trenger en reguleringsinstans som overvåker utviklingen av superintelligens.

– Når Elon Musk sier at AI vil ta over verden tror folk på ham selv om han nødvendigvis ikke er faglig oppdatert på området. «Kjendiseffekten» gjør at alle kjøper det han sier, forteller Downing.

Faktisk trussel

– Som mye annen teknologi er AI allerede i dag i gale hender. Ved å programmeres til å være fiendtlig kan AI brukes destruktivt i for eksempel våpenindustrien, sier Undheim.

Det er den militære bruken av AI som skremmer mange. Spesielt om AI kan velge sine egne mål. Mengshoel mener dette ikke er noe en trenger å være redd for.

– I militært bruk vil AI være et beslutningssystem, men mennesket vil vurdere beslutningene. Jeg tror og håper at kritiske beslutninger alltid vil tas av et menneske som kan overstyre automatiseringen. Det vil nok alltid være et «human in the loop», sier han.

Det en derimot kan være skeptisk til er hvordan industrien preges av AI.

– Spørsmålet er hvem som skal få gevinsten av automatiseringen, det private eller samfunnet. Bill Gates fremmer en robotskatt på maskiner som tar over jobber, og dette har positive sider ved seg, forteller Undheim.

Videre argumenterer hun for at samfunnsstrukturen nok må endres, da vi ikke kan ha et samfunn der kun private bedrifter tjener penger på maskiner.

– Problemet med automatiseringen av industrien med datamaskiner er at AI utvikler seg ekstremt fort. Om en teknolog må omskolere seg vil dette kunne ta eksempelvis to år, mens datamaskinen bruker to dager. Den raske læringen vil kunne ta nye jobber fra mennesker, sier Downing.

Den største trusselen ved AGI vil likevel være at mennesket mister intelligens ved at AGI tar over all kognitiv jobb.

– Det beste utfallet vil være at det tar oss med, utfordrer oss og hjelper oss til å fortsette å tenke, fortsetter Downing.

Han mener at det uansett er mange andre ting å miste nattesøvnen av.