Annonse
09:56 - 14. februar 2018

Maskinene og deres mennesker

Tv-serien Person of Interest viser oss veien fra datainnsamling til maskinenes herredømme, skriver Lasse Midttun.

Det bærende prinsippet i «Person of Interest» er at man kan tenke seg en nesten allvitende maskin som får plass i en ominnredet leilighet. Her to av hovedfigurene, Finch (Michael Emerson) og Reese (Jim Caviezel). Foto: Jeffrey R. Staab/CBS/Getty Images
Annonse

Person of Interest

 

  • Amerikansk tv-serie i science fiction/thriller-sjanger laget av Jonathan Nolan.
  • Gikk opprinnelig på CBS fra 2011 til 2016.
  • Flere av sesongene er i dag tilgjengelige på Netflix.


 

 

Hvordan ser vi fremtiden komme mot oss? Kanskje i en litt pussig historie, hvor Dagbladet forteller at det oppsto panikk da to roboter begynte å kommunisere direkte med hverandre uten at menneskene i nærheten umiddelbart forsto det. Eller i en tilsynelatende bagatell, som når VG melder at politiet kan få konstant nettilgang til Vegvesenets signaturregister og bilder – i gladnyheten «Glem førerkortet!»

Og ikke minst når bortimot alle påpeker hvordan ansiktsgjenkjenning nærmer seg med stormskritt.

Gladnyhet det også? Ikke hvis du trodde at du – som mennesker har kunnet siden sivilisasjonens morgen – alltid ville kunne stikke deg bort og være anonym og usynlig.

Så: Foran kameraet, der er du og jeg. Men hvem er bak kameraet, på den andre siden? Hvem sitter i et kommandorom med enorme datamengder og hyperintelligent teknologi som kjenner igjen ansiktet ditt, knytter det til din identitet og deretter videre til en ufattelig mengde opplysninger om deg, fra vugge til dags dato, og med prognoser om hva som vil skje med deg senere i dag, i morgen og i fremtiden?

Møt Harold Finch. Han bor i New York City og er kanskje verdens mest geniale dataprogrammerer og datamaskinekspert. Etter 11. september 2001 konstruerte han et hemmelig system for USAs regjering, med det formålet å overvåke potensielle terrortrusler og uskadeliggjøre dem.

Harold Finch er en fiksjonsfigur. Men det han har utført, er bare en variant av amerikanske sikkerhetsmyndigheters reelle arbeid etter 11. september, et arbeid som gikk under flere navn, blant dem «Terrorism Information Awareness», og fortsatt finnes. En versjon av dette programmet hadde enda høyere ambisjoner og ble kalt Total Information Awareness.

Og Finchs system er tilknyttet «alt»: Overvåkningskameraer og telefoner, politi og biltilsyn, lønnsslipp og skatteseddel, våpenlisenser og passasjerlister – og masse annet. Summen av det hele er: Hvis du utgjør en terrortrussel, vil systemet finne deg.

Finch spilles av Michael Emerson, og hans arbeid er det grunnleggende premisset for fjernsynsserien Person of Interest, skapt av Jonathan Nolan, bror av Christopher Nolan (Inception og Interstellar).

Person of Interest er ikke Jonathan Nolans nyeste prosjekt, det er den pågående menneske-versus-androideserien Westworld, en videreføring av Michael Crichtons film fra 1973 som «til syvende og sist stiller spørsmålet om hvorvidt robotene til slutt vil ta livet av oss», som en anmelder skrev.

Men hvis vi må velge hvilken utfordring vi faktisk nærmer oss å måtte takle også i det reelle livet, androider og roboter eller supercomputere, kan det ikke være noen tvil. Det er skrekkblandet frydefullt å leke med tanken om «kanskje bedre enn mennesker»-androiden, som først dukket opp i en Yul Brynner-versjon i nevnte Westworld fra 1973, og så i Rutger Hauers skikkelse i Blade Runner i 1982, men totalt dominerende data er mye nærmere å bli virkelighet.

Ja, teknologiene i Person of Interest, også «maskinlæring», at maskiner utvikler egne kunnskaper og ferdigheter, og «bluesnarfing», fjernhacking av mobiltelefoner, er allerede omtalt og under utvikling.

Det bærende prinsippet i Person of Interest er at man kan tenke seg en nesten allvitende maskin som får plass i en ominnredet leilighet, så lenge maskinen har lært seg å interagere med hele det kommende «tingenes internett», andre skriftlige og billedlige databaser og med visuelle og auditive registratorer og opptagere. Og det er nettopp der Person of Interest skiller seg ut, ved å gå akkurat passe langt inn i fremtiden, til en utopi eller dystopi som kan ligge urovekkende nær.

For hvis man ser nærmere på utviklingen i løpet av de siste 40–50 årene, blir det stadig vanskeligere å avvise tanken om det perfekte nettverk i hobbyromsstørrelse. Her går det veldig fort unna. Som Slates teknologikommentator Will Oremus påpekte nylig: Når det snakkes mindre om «Big Data»-fremtiden i dag enn for ti år siden, er det fordi teknogigantene allerede er stordata og vel så det. Det er snarere språket og begrepene som ikke henger med: «Frembrytende» teknologi må konstant omdefineres til «eksisterende».

Fremtiden er faktisk allerede her i en grad få ville ha spådd for bare kort tid siden, påpeker Oremus: «Vi har begynt å ta det for gitt at datasett kan inneholde milliarder eller billioner av observasjoner og at sofistikert software deretter kan lese trender ut av dem».

Allerede brukes data for å spå fremtiden i alle mulige områder fra været til varesalg. Finansinstitusjoner, skoler, politi og – nettopp – nasjonale sikkerhetsmyndigheter er blant de flittigste. Og som en Harold Finch-parallell har firmaet Northpointe allerede levert et program for å spå risikoen for at en arrestant skal begå en ny forbrytelse, basert på inndata og algoritmer.

Helt perfeksjonert er det ikke: Den amerikanske offentlighetsorganisasjonen Pro Publica har kommet til at Northpointes treffsikkerhet ligger på rundt 60 prosent – litt bedre enn å kaste terning.

Skal man sette fremtidsspørsmål på dagsorden, må man gå litt lenger: The Machine, som Finch kaller barnet sitt, har en treffsikkerhet i sine kriminalitetsspådommer så nær 100 som du nesten kan tenke deg.

Og like viktig: The Machine er hemmelig. Myndighetene skal ikke vite om den. Statens posisjon er nemlig tvilsom, både når det gjelder bruken av data, de moralske og etiske avveiningene som gjøres eller ikke gjøres, og programmerernes situasjon – om de er beskyttet av det offentlige, eller voktet av dem.

Realistisk? Tja, si at du er et amerikansk datageni. Vil du at president Trump og justisminister Sessions skal ha full kontroll på deg? Bestemme over ditt liv og ditt arbeid? I serien vil hverken Finch eller hans medhjelper Reese (Jim Caviezel) kontrolleres eller engang gjenkjennes. I hvert fall ikke Reese, som er savnet, antatt død etter en tvilsom såkalt «svart operasjon», og som gjennom år i Spesialstyrkene kjenner altfor godt gjørmen og uhumskhetene i den evinnelige striden om kontrollen på verdens begivenheter som USA konstant er innblandet i.

Si at du er et amerikansk datageni. Vil du at president Trump og justisminister Sessions skal ha full kontroll på deg?

Harold, Reese og The Machine er det ultimate borgervern: The Full Batman så å si – inklusive det faktum at The Machines system ikke bare lar heltene ta ut potensielle overgripere, men også lar dem redde de potensielle ofrene. The Machine gir ut et menneskes personnummer, uten å fortelle om personen med nummeret er den truede, selv trusselen, eller begge deler. Denne finessen er programskapernes betimelige påminnelse om at selv «The Biggest Data» ikke må tas som gudegitt sannhet, og at både maskiner og mennesker kan tolke verden ikke bare unøyaktig, men stikk motsatt av den reelle situasjonen.

Selvsagt blander Staten seg inn, for ikke å snakke om kriminelle syndikater og andre borgervernsgrupper. Men dette er forretter i seriens fremtidsfilosofi. Den egentlige duellen kommer når en konkurrerende organisasjon får skapt en slektning av The Machine. Den heter The Samaritan.

En velgjører, rett og slett? Jo da, men det Bibelens samaritan faktisk gjør i Lukas’ kapittel 10, er å hjelpe det første og nærmeste mennesket som trenger det, helt uten å vurdere personens moral, etikk og planer først. Og dette er ingen liten nyanse: Tenk på legen/samaritanen i Roald Dahls novelle «Genesis og katastrofe», som i 1889 så vidt klarer å redde en liten baby for den fortvilte moren, fru Klara Hitler.

At Person of Interest til syvende og sist ender i en duell mellom protagonister og antagonister, overrasker vel ingen som har sett et tv-program i sitt liv. Men her er det fascinerende: Det blir i økende grad en kamp maskin mot maskin. De slynger virusangrep og bots mot hverandre, algoritmer og hele systemer settes inn i kampen.

Selvsagt trenger maskinene menneskelige tjenere, fysisk og politisk: Det blir for eksempel opplyst at The Samaritan har hacket og snudd på flertallet i 58 valg. Men menneskene får nøye seg med roller som underoffiserer og menige, apostler og disipler: Folk som Root (Amy Acker) som behandler The Machine som en gud og The Samaritans nærmeste lakei, Greer (John Nolan, serieskaperens onkel), som foretrekker begrepet «evolusjonens neste stadium».

Gud eller evolusjon er selvsagt et poeng i seg selv og et spørsmål i hvert fall amerikanerne sliter å bli ferdig med. Men uansett føles maskinenes krig mye, mye mer sannsynlig enn at androidene fra Westworld plutselig ringer på døren din. For eksempel sier forfatter og tidligere SF-redaktør i Gawker og io9 Anna Lee Newitz at jo mer hun har sett på det, jo mindre tror hun at menneskelige androider vil bli produsert på flere hundre år. Før det – og ikke mindre uhyggelig – gjeninnfører vi heller slaveriet for biologiske mennesker, hevder hun.

Maskinenes krig føles mye, mye mer sannsynlig enn at androidene fra Westworld plutselig ringer på døren din.

I så fall kan du trygt sette pengene dine på Big Brother snarere enn The Terminator.

Det er vanskelig å forestille seg noen som i utgangspunktet burde være mindre teknologifiendtlige enn en firkløver av Stephen Hawking, Elon Musk, Bill Gates og Steve Wozniak. Det er jo høyt oppdrevet teknologi som har gitt Hawking det livet han faktisk har hatt, mens Tesla-sjef Musk vil skape alt fra selvkjørende biler til bosteder på Mars. Og pionerene fra Microsoft og Apple er ikke akkurat reaksjonære maskinknusere de heller.

Men likevel er disse fire enige om at kunstig intelligens er en ekstremt klar og tydelig og stadig nærmere fare for mennesket. Og i 2015 gikk et firesifret antall kunstig intelligens-forskere ut mot bruk av kunstig intelligens i våpenteknologi.

Ja, selvsagt kan det hele gå bra, og kunstig intelligens blir et udelt gode for menneskeheten, noe Facebooks Mark Zuckerberg hevder i opphetede diskusjoner med Elon Musk, som svarer at «Mark har ingen særlig forståelse av dette temaet». Eller man kan i det minste styre kunstig intelligens i ufarlige retninger, bruke den til å overvinne kapitalismens svakheter og holde den unna voldelige og militære sammenhenger, slik Mustafa Suleyman i nevralnettverksselskapet DeepMind hevder.

Poenget er at ingen faktisk vet.

Og det skal Jonathan Nolan og teamet ha: Ikke bare er Person of Interest den hittil beste brede presentasjonen for folk flest av hvordan datakraft, bestående av databaser og kunstig intelligens, kan overvelde menneskets krefter, hvor fort det kan gå, og med teknologi som allerede er under utprøving: Den er også bunn ærlig på det punktet fremtidsguru Raymond Kurzweil har kalt «singulariteten», hvor kunstig intelligens rykker avgjørende fra menneskelig intelligens.

Ja, vi blir presentert for alternativer: The Machines team forsøker å forstå og snakke med «sin» maskin, mens The Samaritans folk underkaster seg uten videre. Men uansett tilnærmingsmåte kan vi se scenarioet: Når maskinene har makten, vil ikke engang deres menneskelige kammertjenere vite hva maskinene vil gjøre med kreftene sine, og det vil også være hinsides oss mennesker å forstå det, fordi maskinene ikke vil ha den interessen av å utvikle oss som vi har hatt i å utvikle dem.

Enkelt og greit.

Og veldig, veldig ugreit.

Du har nå lest en gratis smakebit fra Morgenbladet. Vil du ha mer godt lesestoff? Bli abonnent
Annonse

Les om hvordan vi behandler dine personopplysninger

Vi anbefaler deg å lese personvernerklæringen og sette deg inn i hvordan vi behandler dine opplysninger. Den vil gi deg bedre oversikt over og kontroll på hva som brukes og lagres av dine persondata. Du finner all informasjon her.

Mer fra Kultur