Maskin og fordom

I det myke kjøttet, mellom tommelen og pekefingeren har Anita Schjøll Brede – ved hjelp av et instrument som ligner på en piercingnål – fått plassert inn en liten mikrochip. Kyborgifiseringen av mennesket i miniversjon.

Hun tror programmerere uten bevissthet om egne fordommer, heller enn supersmarte kunstige intelligenser og maskin-implantater, er det som kan gjøre dagens teknologi skummel. Brede er ny spaltist i Morgenbladet.

– Det er lett å la seg rive ned, å fabulere om for eksempel hva som skjer om en AI (artificial intelligence) blir like smart som alle mennesker på jorden. Særlig i samtalen som foregår klokken tre på morgenen. Men det er enda mer spennende å diskutere det som skjer de neste tre, fem eller ti årene, sier hun.

Det er ikke mange kilobytene håndchipen hennes inneholder. For få til å huse en kunstig intelligens, selv på larvestadiet. Hun bruker for det meste chipen til å leke seg med. Hun programmere den, ved hjelp av magnetisk overføring, og håper fortsatt på at den kan erstatte husnøkkelen hennes om ikke så lenge. På jobb, derimot, baler hun med langt smartere systemer.

Brede – en kvinne i trettiårene med stram crew cut, farget rosa på toppen, og en rekke piercinger – jobber som administrerende direktør for kunstig intelligens-selskapet Iris.ai. De har satt seg fore å lage smarte systemer som kan hjelpe forskere med å finne og analysere relevante akademiske artikler. De går dermed bevisst i en helt annen retning en mye av tech-innovasjonen som foregår, forteller Brede.

Les også Anita Schjøll Bredes kommentar: «Store deler av Silicon Valley har et problem-problem».

Rasistiske apper.

– Den typiske programmerer er en hvit ung mann, ofte fra øvre middelklasse. De vil løse problemer som finnes for hvite unge menn fra øvre middelklasse. Da ender vi opp med det jeg kaller problem-problems: Ting som er godt bygd, men ikke egentlig løser et reelt problem, sier hun.

– I mange tilfeller bygges det apper som blir en slags mamma, sier hun.

Altså apper som gjør at du kan få hentet klesvasken på døren, for eksempel, eller at du slipper å gå i butikken. Brede skynder seg å påpeke at det ikke nødvendigvis er noe feil med slike tjenester, eller med at hvite unge menn skaper innovasjon. Problemet oppstår når denne type nærsynt problemløsning glemmer å ta høyde for perspektiver som er utenfor teknologiskapernes eget. Brede trekker frem en konkret bilde-app som gjorde det mulig å forskjønne et portrett av en selv automatisk.

I mange tilfeller bygges det apper som blir en slags mamma.

—   Anita Schjøll Brede

– Det var jo fullstendig uskyldig. Helt til personer med mørk hud forsøkte å bruke appen. På bildene ble de gjort hvitere og nesene smalere, sier hun.

Dette var jo ikke noe programmererne ønsket. Men datasettet de hadde matet inn i den kunstige intelligensen, bildene som definerte hva som var vakre ansikter, var i hovedsak hvite.

– Har man et team som består av bare én gruppe, og de aller har like erfaringer i livet, så dukker det fort opp slike problemer.

– Og deres erfaringer smitter over på teknologien?

---

SINGULARITETEN

I systemteori betegner en singularitet en liten hendelse som skaper en stor effekt.

I denne sammenhengen er singularitet en teknologisk hendelse – et tidsbegrenset øyeblikk som skaper store, uoversiktlige, irreversible endringer. En liten sten kan utløse et skred, og et skudd kan utløse en hel krig.

Den teknologiske singulariteten er en tenkt slik hendelse, der utviklingen av kunstig intelligens plutselig skaper store endringer.

---

– Ja, den får innebygde fordommer.

Hos Nasa.

Anita Schjøll Brede har en litt annen bakgrunn enn den vanlige teknologi-gründeren. Under oppveksten i Bærum var hun over gjennomsnittet interessert i realfag, men lærte seg ikke programmering. I stedet tok hun en bachelorgrad i drama, teater og kommunikasjon etter videregående. Men hun merket fort at det var vanskelig å få jobb i teaterverden.

Det første året av studiet startet hun sitt første selskap, og etter hvert havnet hun på Gründerskolen, som sendte henne til San Francisco. Der møtte hun for første gang tech- verdenen. Brede endte opp på Singularity University, en utdanningsinstitusjon som jobber med kunstig intelligens, robotikk og biomekanikk, og holder til ved Nasas Ames Research Center i California. Her ble hun drillet i å lete etter det hun kaller «ordentlige problemer», spørsmål om hvordan teknologien kunne hjelpe menneskeheten å nå FNs tusenårsmål, heller enn å erstatte mor.

Ut fra dette sprang ideen til Iris.ai: et forsøk på å gjøre vitenskapen lettere. Men også her har hun møtt problemer med systemenes innebygde fordommer. For eksempel: Tenk at Iris.ai laget et program som bare leste referanselister i artikler og baserte sine anbefalinger på dem.

Datasett bygger på fortid, og de er ikke nødvendigvis slik at fortiden er den fremtiden vi vil bygge.

—   Anita Schjøll Brede

– Da ville vårt datasett hatt fordommer for velfinansierte institusjoner. Stanford, Harvard, Oxford og Cambridge har rykte for å være gode institusjoner, og siteres derfor ofte. Men det betyr ikke at det en der en forsker skal leter for å finne det hun trenger, sier Brede.

Derfor bestemte selskapet seg for å lage et program som leser hele artikkelen og prøver å gjøre meningsfulle gjetninger basert på det. På den måten kan en god artikkel fra et lite universitet nå ut til sitt fagmiljø.

Fortidens fremtid.

Selv en kunstig intelligens basert på et datasett som gjenspeiler verden perfekt er potensielt farlig, mener Brede. For utfordringene med fremtidens teknologi er ikke nødvendigvis at den kommer til å invadere kroppen vår eller gjøre mennesker til slaver av maskinene, men at den ser for mye på fortiden.

– Selv om vi kunne velge ut et helt nøytralt datasett, så er det likevel ikke nøytralt. Det var noen forskere som studerte hvordan jobbannonser som ble matet inn i Googles kunstige intelligens ble distribuert. En ledig topplederstilling ble vist 1800 ganger til menn og 300 ganger til kvinner, sier Brede.

Problemet er at dette jo at var helt statistisk gyldig. Systemet baserte seg på dagens fordeling personer som jobber i toppstillinger.

– Datasett bygger på fortid, og de er ikke nødvendigvis slik at fortiden er den fremtiden vi vil bygge.