Annonse
00:00 - 15. mars 2019

Kake-eller-død-dilemmaet

Det er overraskende vanskelig å programmere en maskin til å finne ut om den skal bake en kake til et menneske, eller drepe det.

God i go: Den profesjonelle go-spilleren Lee Sedol analyserer hva som gikk galt etter at Googles kunstige intelligens-program Alphago slo ham i brettspillet i 2016. Foto: Lee Jin-man / Ap / NTB Scanpix
Annonse

Hvis en selvkjørende bil må velge mellom å kjøre på en bestemor eller et barn, hvem skal den drepe? Hvis et maskinlæringssystem på et sykehus skal fordele leger på pasienter, og har for mange pasienter, hvordan skal den velge hvilke pasienter skal måtte vente på behandling? Filosofer og utviklere drøftet «moralske maskiner» i Helsinki sist uke.

Vi må ikke til krigens autonome våpensystemer for å finne teknologi som kan komme til å drepe mennesker. Tenk på Youtubes anbefalingsalgoritmer, som er programmert til å anbefale videoer som holder på seerne, så de ser mer reklame for å maksimere profitt. Tenk så at algoritmen viser et individ mer og mer radikale videoer fordi dataanalyser viser at det fører til mer tid på Youtube, og at dette individet så radikaliseres og gjennomfører et terrorangrep som tar liv. Har da anbefalelsesalgoritmen bidratt til drap? Hvem er ansvarlig? Youtubes utviklere har ikke planlagt at algoritmen skulle vise radikale videoer. Det var bare tilfeldigvis slik at radikale videoer gjorde at denne personen ble værende på Youtube. 

På symposiet i Helsinki påpekte informatikeren Vivek Nallur at selv de mest detaljerte forsøkene på å modellere etiske rammeverk i programvare møter på problemer, ikke minst fordi det sjeldent er så enkelt som «bake en kake eller drepe noen». I praksis skjer drapet gjerne ved unnlatelse, som når pasienten må vente for lenge, eller fordi ingen tenkte på at systemet ville ende opp med etiske dilemmaer, som i radikaliseringseksempelet.

ALLEREDE ABONNENT?
Inntil 40 % rabatt
Hold deg oppdatert på politikk, kultur og forskning. Du får alt stoffet som er i papiravisen, egne saker kun på nett, eAvis og hele arkivet med over 50 000 artikler.
Annonse

«Valgvinnerne ble det rurale veipartiet Senterpartiet og det urbane anti-veipartiet De Grønne. Trolig aner vi her et frempek mot neste stortingvalg, hvor klima- og miljøpolitikken…»