Debatt

Etter mennesket? Fra singularitet til særegenhet

Når vi snakker om kunstig intelligens, den digitale teknologien som muliggjør den, og singularitet – idéen om at de begge eksponentielt vil overta samfunnets utvikling – refererer vi til dem i entall. Dette er ikke en tilfeldighet. Både vitenskap og fiksjon har fremstilt KI som en bestemt form for fornuft, digital teknologi som en autonom endringsagent, og singularitet som en rettlinjet teknologisk revolusjon. Men ingen av dem er nødvendigvis så «singulære» som de kan virke.

De forskjellige kontekstene der digitale teknologier gjør seg gjeldende skaper derimot et bredt spekter av kunnskap og samfunnsmessige effekter. Digitale teknologier brukes for eksempel til framskrivninger av alle slag: fra spredning av pandemier til politiske valg og kartlegging av kriminalitet. Ikke bare skaper hver av disse framskrivningene spesifikke samfunnsmessige effekter, som å påvirke om vi lar oss vaksinere eller ikke, hvem vi stemmer på og hvor vi parkerer bilen. De skaper også mer kompliserte effekter, og noen av disse, som for eksempel ekkokammer og falske nyheter, gjør at vi stiller spørsmål ved framskrivningskraften til disse teknologiene. Men nøyaktig hva er det som gjør disse effektene så kompliserte?

Mens måten digitale teknologier fungerer på ikke lenger er intuitive å forstå og kritisere, synliggjør de nevnte effektene også at menneskene fortsatt er en viktig brikke i spillet. Og dette kompliserer bildet. Digitale teknologier og kunnskapen de produserer er ikke så singulære og fjernet fra sosiale prosesser som begrepet «singularitet» antyder. Det er fortsatt vi som skaffer til veie både datagrunnlag og kontekstuell kunnskap for framskrivningsprosessen, og i mange tilfeller er det fortsatt mennesker som bestemmer hvilke parametere som inkluderes i framskrivningsalgoritmene. Dette peker mot at den forenklede idéen om «maskin mot menneske» ikke holder vann. Skapelsen av «intelligens» gjennom digitale teknologier skjer ikke utenfor sosiale og politiske arenaer, men forholder seg direkte til dem.

Menneskene er fortsatt en viktig brikke i spillet. Og dette kompliserer bildet.

I intervjuer jeg har gjennomført om metoder for forutseende politiarbeid kom det klart fram at digitale teknologier er nært knyttet til sosiale og politiske situasjoner. Både politibetjenter og programmerere er med å bestemme hva slags data om kriminalitet som samles inn, hvordan denne overføres til datamaskinen og hvordan resultatene av algoritmiske utregninger presenteres. Alle disse avgjørelsene som tas av mennesker er med å definere hva slags kriminalitet politiet fokuserer på, selv om de faktiske framskrivningene av kriminalitet i siste rekke genereres av datamaskinen.

Det viser at politisk og sosial informasjon, og kontekstuell kunnskap, mates inn i digitale teknologier og virker inn på etterretningsinformasjonen den leverer – og i neste omgang påvirker digitale teknologier politiske og sosiale situasjoner på konkrete vis. En påfallende egenskap ved digitale teknologier er for eksempel at enhver kunnskap de genererer må være kalkulerbar og representeres i tall. Selv om dette fremstår som åpenbart, påvirker og begrenser det allikevel måtene som digitale maskiner kan produsere kunnskap på. For forutseende politiarbeid betyr dette at korrelasjoner og mønstre er de verktøyene som algoritmer har tilgang på for å forutsi kriminalitet.

Dette betyr for eksempel at det er korrelasjoner og mønstre som bestemmer hvor man velger å mobilisere personell. Kort sagt: måten digitale teknologier fungerer på avhenger av den sosiale situasjonen de brukes i, og digitale teknologier får i neste rekke spesifikke effekter på samfunnet. Mennesker og maskiner skaper samfunnets utvikling i fellesskap, snarere enn å dominere over hverandre.

Når vi har forstått hvordan sosiale situasjoner faktisk reflekteres i måten vi utvikler digitale teknologier på og hvordan vi skaper digital kunnskap, kan det være mer fornuftig å utforske de mange «særegenhetene» ved situasjoner der digitale teknologier og samfunnet påvirker hverandre, i stedet for å ta en «singularitet» for gitt.

Mareile Kaufmann er postdoktor på institutt for kriminologi og rettssosiologi ved UiO og tilknyttet PRIO. Hun forsker på hvordan digital teknologi påvirker våre forestillinger om kriminalitet og har bl.a. publisert om politikk og singularitet i digitaliserte samfunn.

Mer fra Debatt