Annonse
14:05 - 17. desember 2018

Kunstig intelligens kan i verste fall gjøre oss mindre intelligente

Vi er så vidt inne i «istiden» for kunstig intelligens og ser nå barnesykdommene i full blomstring.

Foto: Chris McGrath/Getty Images Chris McGrath/Getty Images
Annonse

Mange foreldre vil oppleve at de holdes ansvarlig for hvordan deres barn blir oppfattet av omverdenen. Dersom et barn gir uttrykk for holdninger eller tanker som er negative, for eksempel krenkende uttalelser eller mobbing, vil man ofte tenke at foreldrene har en jobb å gjøre hva gjelder god oppdragelse. Slik er det også for utviklingen av kunstig intelligens som baserer seg på algoritmer. Algoritmer er for kunstig intelligens, det DNA er for mennesker, altså en oppskrift på oppbygning og virkemåte. I sin ytterste konsekvens kan svake algoritmer uten innsyn eller kontroll gi mer diskriminering, mindre likestilling, økt polarisering og upresis medisinsk behandling.

Det er allerede mange eksempler på disse uheldige fenomenene. Søkemotorer som fremstiller noen grupper som mindre kompetente eller vakre, banker som vurderer kundekreditt med AI resulterende i diskriminerende praksis eller ansettelsesprosesser hvor kvinner blir diskriminert og menn favorisert. Slike episoder er alle resultat av uheldig algoritmeutvikling og berører «svart-boks-problemet». Dette er et fenomen der algoritmene er såpass kompliserte, at vi ikke klarer å nøste opp i hva beslutningsgrunnlaget faktisk var i utgangspunktet. Og det er her man må etterlyse en større innsats fra myndighetene på vegne av befolkningen. Store selskaper som Facebook, Google, Amazon samler inn store mengder data som brukes til å utvikle algoritmer, dernest tas dette i bruk for å optimalisere bruken av kunstig intelligens. Dette vil de ikke helt uten videre dele med hvermannsen, da det involverer enorme inntjeningsmuligheter. Slik får de monopol på kunstig intelligens gjennom våre data. Dette må spesielt politikere og fagpersoner være oppmerksomme på fremover.

God forvaltning av verktøyet kunstig intelligens vil kreve en innsats av fagpersoner og ikke minst politikere og myndigheter, slik at man kan regulere datadelingen og samtidig få innsikt i hvordan algoritmene blir brukt. På Teknologitoppmøtet i Trondheim i høst mente Teknologirådet med direktør Tore Tennøe i spissen at det haster for Norge å legge en plan for arbeidet med kunstig intelligens. Det har nemlig land som Sverige, Finland, Storbritannia og Frankrike allerede laget, mens Norge ikke har noe tilsvarende å vise til. Statsminister Erna Solberg er heller ikke overbevist om at Norge trenger en slik planlegging av kursen videre for kunstig intelligens. Slik statsministeren så riktig påpeker er Norge en nasjon med rik tilgang på samling av data, men uten retningsvalg eller noen kjøreplan for videre utvikling av dette feltet, kan vi ende opp med å miste «forspranget» og snarere komme bakpå alle disse landene. I Finland har Universitetet i Helsinki og teknologiselskapet Reaktor laget et gratis nettkurs som alle interesserte (både i Finland og utenfor) kan ta, for å få mer innsikt i kunstig intelligens. Målet er at 1 prosent av den finske befolkningen skal ha fullført dette kurset i løpet av ett år, og satsingen er en del av Finlands uttalte plan om å bli verdensledende innen AI. Det holder nemlig ikke for finnene å bare være blant de beste på skolen.

Vi som samfunn har tidligere i historien måttet tilpasse oss ny teknologi, og utviklet strategier i møte med disse. Da Bioteknologirådet ble utnevnt første gang av regjeringen i 1991, var det som et rådgivende organ og en høringsinstans for myndighetene i saker om moderne bioteknologi som veltet innover oss. Noen år senere i 2004, dukket Mehmet-saken opp. Saken dreide seg om en seks år gammel gutt med den arvelige blodsykdommen β-Thalassemi major, som søkte hjelp til å få stamcelletransplantasjon fra donorsøsken for å bli behandlet. Dette satte i gang en stor etisk debatt i det offentlige ordskiftet, med Bioteknologiloven og Bioteknologirådet som bakgrunn. Det er altså eksempler fra historien som viser at det kan være hensiktsmessig å være forberedt på fremtidige teknologiske fremskritt. Slik Mehmet-saken utfordret samfunnsdebatten til å drøfte rammene for et «sorteringssamfunn », vil vi kunne oppleve at kunstig intelligens resulterer i nye problemstillinger vi som samfunn må kunne drøfte. Eksempelvis vil skyldspørsmålet når kunstig intelligens går galt, være interessant. Hvordan skal man straffeforfølge en førerløs bil? Er det algoritmen som er skyld i dette, og hvordan skal man gå frem for å finne syndebukken? Tidligere erfaringer tilsier at tiden er moden for å forberede oss på ny teknologi med en plan og kanskje til og med lovverk som sikrer åpenhet.

Teknologirådet ga nylig ut en rapport om kunstig intelligens og kom med 14 konkrete anbefalinger til norsk strategi og satsing på området [3]. Til myndighetene og politikerne får man gjenta fjellvettregel nummer åtte: Det er ingen skam å snu. Hvis ikke risikerer man at kunstig intelligens rett og slett gjør oss mindre intelligente.

Ishita Barua

Lege og forsker ved Institutt for helse og samfunn, UiO

Du har nå lest en gratis smakebit fra Morgenbladet. Vil du ha mer godt lesestoff? Vi har inntil 40 prosent rabatt for nye abonnenter. Bli abonnent
Annonse

«Kanskje det hadde gjort seg med litt større oppmerksomhet i klasserommet?»
«Utover sorgen og ubehaget føler jeg også på en genuin forbløffelse.»