08:30 - 17. juni 2020

Stordata gjør maskinene til politiske aktører

Stordata, maskinlæring og kunstig intelligens er blitt blant våre viktigste beslutningsinstrumenter. Hva gjør det med politikken?

Overblikk: Systemer basert på stordata og kunstig intelligens spiller en nøkkelrolle i det meste vi foretar oss, fra det dagligdagse til komplekse systemer for å måle klimaforandringer, predikere økonomisk vekst eller drive krigføring, skriver Erik Reichborn-Kjennerud. Her: Overvåkningskamera foran en stor plakat i London. Foto: Oli Scarff / Getty Images

Vi befinner oss i ukjente og urolige farvann. Situasjonen mellom verdens stormakter er spent og uavklart, vi står på kanten av en klimakatastrofe, og verden er rammet av en pandemi med store sosiale og økonomiske konsekvenser, krig og flyktningkriser, og en rekke ytterliggående og nasjonalistiske dreininger. Det er viktigere enn noensinne å treffe de riktige valgene. Men hvordan kommer vi frem til dem?

På tide å tenke stort igjen: Hva nå, Norge?

TILBAKE TIL UTENRIKSPOLITIKKEN: Nupis årsseminar ble koronaavlyst, men nå kan du lese forskernes innlegg på morgenbladet.no i ukene som kommer. 

Les flere analyser her.

Våre valg og beslutninger er grunnleggende avhengig av kunnskap og forståelse. Hvordan kunnskap produseres, og på hvilket grunnlag, er derfor viktig. Produksjonen av kunnskap har til alle tider vært uadskillelig fra de tekniske instrumenter, de teknikker og metoder, og de analytiske verktøy og modeller vi har brukt. Fra de gamle egypternes nilometer for å kalkulere vannivået på Nilens årlige oversvømmelser for å beregne innhøsting og skatt, til Herodes’ velkjente folketelling, dagens bruttonasjonalprodukt og økonomiske anslag, klimamodeller, eller militærets systemer for situasjonsforståelse. Kunnskap skapes i konstellasjonene mellom mennesker og de instrumentene vi bruker. Samspillet mellom mennesker og instrumenter danner dermed grunnlaget for hvordan vi ser og forstår verden, og dermed hvordan vi handler i den.

Med utviklingen og bruken av stordata, maskinlæring og kunstig intelligens er databaserte systemer blitt blant våre viktigste beslutningsinstrumenter. Dette er særlig tydelig i tradisjonelle kvantitative felt som økonomi, men gjelder i økende grad på nesten alle områder. Klimadebatten kunne for eksempel ikke eksistert uten de enorme databasene med klimadata som forskere bruker til å lage modeller og simuleringer. Stordataanalyse benyttes til alt fra markedsføring til politivirksomhet, katastrofeforebygging og konflikthåndtering, og ikke minst i sikkerhetspolitikken. Der har spørsmålet om overvåkning og datainnsamling fått stor plass de siste årene med eksempelvis Snowden-avsløringene, debatten rundt digitalt grenseforsvar, og forslaget om ny E-lov i Norge. Systemer basert på stordata og kunstig intelligens spiller en nøkkelrolle i det meste vi foretar oss, fra det dagligdagse til komplekse systemer for å måle klimaforandringer, predikere økonomisk vekst eller drive krigføring. Aldri før har teknologier og teknologiske infrastrukturer vært så tilstedeværende og gjennomgripende. Men hvordan fungerer disse systemene? Hva legger de vekt på og hva utelater de? Og hva gjør dette med politikken?

Bruk av stordatabig data - handler om mer enn store volum. Det er en revolusjon i synet på hva som skaper sikker viten, og handler først og fremst om at verktøyet selv velger ut hva som er interessant, som skal analyseres, og dermed hvilke valgmuligheter som presenteres som følge av analysen. Dette er ikke en teknologisk revolusjon à la den industrielle revolusjon, men først og fremst en epistemisk revolusjon. Den kan derfor best sammenlignes med den som fant sted tidlig på 1800-tallet, da en flodbølge av tilgjengelig populasjonsdata og utviklingen av nye regneteknikker ga kunnskap som åpnet for mer effektive former for politisk styring. På godt og vondt. Stordata viderefører den samme koplingen mellom teknologi, rasjonalitet og styringsmekanismer, men markerer også et markant brudd med konvensjonell forståelse av både hvilke data som kan bli samlet inn og hvordan disse kan analyseres. 

Det er en revolusjon i synet på hva som skaper sikker viten.

I stedet for å starte en undersøkelse basert på statistikk om et fenomen, som kriminalitetsrater, barnedødelighet, eller andre trender og mønstre i populasjonsdata, fungerer stordataanalyse motsatt. Ved hjelp av maskinlæring og kunstig intelligens benytter slik analyse en induktiv prosess der systemet ser etter mønstre i dataene som igjen genererer reglene for selve analysen. Gjennom å samle enorme mengder av ulike typer data, det være seg digital metadata, lokasjonsdata, innholdsdata, statistisk data og så videre, analysere disse for å finne mønstre og anomalier, er det nå analyseprosessen som genererer spørsmål og teorier. Dette, blir vi fortalt, vil bedre vår forståelse av problemer og prosesser, våre muligheter til å forutsi begivenheter og muliggjøre proaktive handlinger. Men er det så enkelt? Kan virkelig disse systemene skape orden, likevekt og stabilitet til den aktive, flytende, rotete og uforutsigbare naturen til menneskelig adferd og den sosiale verden?

Fra de mest ytterliggående digitale katedralene blir vi ofte presentert for en fremtidsvisjon der avanserte analyseverktøy vil revolusjonere hva vi kan vite og hvordan vi kan styre verden. Dette er en fremtidsvisjon der en ny type digital «selvinnsikt» lar beslutningstagere se «virkeligheten». Ved å la «dataene snakke» snarere enn å stole på forestillinger, teorier eller historisk forankrede ideer, kan politikkutforming og styring basert på lover og regler erstattes med styring basert på små dytt som effektiviserer og optimaliserer samfunnets «flyt». Disse finjusteringene er basert på prosesseringen av store datamengder, i sanntid fra en verden full av sensorer. En slik tankegang baserer seg på algoritmisk korrelerte muligheter for fremtiden snarere enn nøye overveide sannsynligheter forankret i årsak og virkning. I sanntidsstyring er det nemlig ikke er viktig å vite hvorfor noe skjer, men hva som skjer.

Maskinlæring er i essens verktøy som sorterer, kategoriserer og klassifiserer verden. De arbeider i all hovedsak med å finne mønstre eller anomalier i en datamengde basert på en gitt logikk. Et eksempel er systemer for såkalt prediktivt politiarbeid. Disse systemene forutser ikke kriminalitet, de forutser politiarbeid, ved å forslå at man skal arrestere personer som har like handlingsmønstre som de man allerede har arrestert eller at man skal handle utfra endringer i en gitt normalsituasjon. Maskinlæringssystemer er dermed grunnleggende konservative – de bekrefter og opprettholder eksisterende logikker og forutinntattheter, og genererer dermed ikke politisk nytenkning eller radikal innovasjon. De er heller ikke utstyrt med moralske kompass eller etiske retningslinjer – de jobber kun fra data. En fare ved denne iboende konservatismen er en tendens til å skape lukkede og selvrefererende verdener, der prediksjonene i seg selv utgjør en del av resultatet og løsninger fører tilbake til utgangspunktet. Dette er en maskinbestemt verden der alternative problemstillinger og løsningene på disse blir ekskludert. Hvilke rasjonaliteter og logikker disse systemene jobber ut fra, hva legger de vekt på og hva de utelater, er derfor sentrale spørsmål.

Problemet er ikke nødvendigvis at det er maskinene som tar avgjørelser, men at de skaper valg.

Når disse systemene i økende grad er bygget opp av automatiske og til dels autonome teknologier for både innhenting og analyse av informasjon, er det betimelig å spørre seg om vi virkelig vet hvordan de kommer frem til de resultatene de gjør, om vi har kontroll, og i hvilken grad vi kan stole på dem. Selv om vi er prisgitt disse systemene, vet vi lite om hvordan de fungerer. Dermed vet vi også lite om hvordan de former oss, og hvordan de former valgene vi tar.

Mangelen på kunnskap om systemene kan ha flere grunner: hemmelighold fra stater eller store selskaper, teknologisk analfabetisme eller eksklusiv tilgang til kunnskap. I tillegg er kompleksiteten i mange systemer så stor at ingen egentlig har overordnet kjennskap til dem. Men kanskje viktigst er det iboende mangel på åpenhet fordi systemene er lærende og forandrer seg i kontakt med de dataene de samler og prosesserer. De er ikke bare en forlengelse av menneskelig beslutning, lærende systemer overskrider menneskelig hensikt og avviker fra menneskelig intensjon og vi kan ikke bare programmere etikk inn i disse systemene. Problemet er ikke nødvendigvis at det er maskinene som tar avgjørelser, men at de skaper valg. Det er dette som gjør dem til politiske aktører.

I dagens debatter om digitalisering, kunstig intelligens, stordata, og overvåkning blir dessverre disse aspektene ved stordataanalyse ofte neglisjert. Dette er ikke bare fremtidsvisjoner, vi er allerede i stor grad omgitt av og prisgitt disse teknologiene, enten det er i krigføring eller i forsikringsbransjen. Derfor trenger vi en åpnere og bredere diskusjon om forholdet mellom mennesker og maskiner, og til syvende og sist hva menneskelig kontroll er eller bør være. Vi trenger mer kunnskap om hvordan slike systemer fungerer, for ellers er vår kontroll med egne beslutninger illusorisk. For avgjørelsene våre vil allerede i praksis være tatt av maskiner hvis de treffes på grunnlag av spesifikke valg som disse systemene presenterer for oss. Derfor bør vi nå kanskje stoppe opp litt og spørre oss hva prisen for dette er, og om hva de sosiale og politiske konsekvensene kan være.

Drømmen om å redusere verden til data og finne en teknologisk løsning på ethvert problem lever videre i ideene om stordataanalyser og sanntidsstyring, men disse systemene vil ikke nødvendigvis gi oss et bedre samfunn. Hvis det er noe pandemien har lært oss, er det at verden er og forblir drevet av uforutsette og uventede hendelser som ikke så lett lar seg analysere eller styre av datamaskiner.

Du har nå lest en gratis smakebit fra Morgenbladet. Vil du ha mer godt lesestoff? Vi har inntil 50 prosent rabatt for nye abonnenter. Bli abonnent
Annonse

«Arbeidsgruppens rapport vil diskuteres på åpent og demokratisk vis»