«Jeg skal gi en cd til min syv år gamle niese. Har du noe å anbefale?» «Fatter'n blir 50 og han digger John Scofield og Pat Metheny. Vil gjerne gi noe som ligner, har du noen forslag?» «Du, er ute etter platen til hun som var på Skavlan i går, brunt hår og litt myk stemme, du vet!?» Det begynner å bli noen år siden jeg jobbet i Platekompaniet, sto i lyttedisken og byttet cd-er, snakket med folk om musikk og anbefalte alt fra Lisa Børud, John Abercrombie til Katie Melua. I dag, 15 år senere, er Platekompaniet i ferd med å legge ned nesten alle butikkene og vi er for lengst blitt vant til at det meste av kulturkonsum foregår på nettet. Musikken hører vi på Spotify, ser filmer på Netflix, og deler nyheter på Facebook. Til felles for disse tjenestene er at de er datadrevne og algoritmestyrte. Basert på brukermønstre og statistiske modeller, sorterer algoritmene i datastrømmen, viser frem og anbefaler innhold basert på det de tror vil være mest relevant for brukeren.
Vi lever i en algoritmisk kultur, en tid der algoritmer bearbeider og former kulturen, men også en tid der kulturen påvirker algoritmiske prosesser. Det er derfor oppsiktsvekkende at flere og flere av nettgigantene nå synes å ville gjøre tjenestene sine mindre algoritmiske. Den siste tiden har nemlig selskaper som Netflix, HBO, Google, Apple og Facebook gjort et poeng ut av å markedsføre produktene sine som «menneskedrevet». For eksempel tester Netflix for tiden en funksjon de kaller «Collections», eller samlinger, håndplukkede anbefalinger gjort av en rekke film- og serieeksperter.
Ideen er like enkel som musikkquizen ved ansettelsesprosessen til en deltidsjobb i Platekompaniet den gangen – sørge for å tilby kunden kvalifiserte anbefalinger. Fordi «de beste anbefalingene kommer fra virkelige mennesker» lanserte HBO nylig nettsiden «Recommended by Humans». Nettsiden (som dessverre ikke virker å være tilgjengelig i Norge) viser i skrivende stund rundt 36 videoer med «virkelige mennesker» som anbefaler hver sin HBO-serie. Som en av kommentarene under én av videoene bemerker: «Dette føles som noe Mark Zuckerberg kunne funnet på». Og helt riktig, også hos Facebook planlegges det igjen å få inn «den menneskelige innflytelsen». Facebook satser nemlig snart på å få lansert «News Tab», en ny funksjon som skal kvalitetssikre nyheter ved å la et knippe håndplukkede journalistveteraner få velge ut dagens viktigste nyheter. En gjenganger når mediene og selskapene selv presenterer denne «nye» menneskelige tilnærmingen, er at den gjerne beskrives som en «radikal» motpol til det algoritmiske.
Fordi «de beste anbefalingene kommer fra virkelige mennesker» lanserte HBO nylig nettsiden «Recommended by Humans».
Det er mange grunner til at den menneskelige faktoren synes radikal og innovativ i denne sammenhengen, men kanskje mest av alt fordi vi er blitt så vant til at alt skal være «high-tech». Jo mer en tjeneste kan markedsføres som kunstig intelligens, jo mer innovativ og attraktiv synes den (helt uavhengig av om den faktisk baserer seg på denne teknologien eller ikke). Sleng inn noen fraser om maskinlæring, og aller helst dyp læring, og du har fått med deg alle de nødvendige buzzordene. Til tross for at mange fortsatt er usikre på hva algoritmer faktisk er eller gjør, tas algoritmenes legitimitet ofte for gitt. Fordi algoritmer er basert på matematikk og brukes i databehandling hele tiden, eksisterer det en utbredt oppfatning av at algoritmer er objektive, nøytrale, og «til å stole på». Samtidig ser vi i økende grad problemer med teknologien, som gjør at den kanskje er blitt litt mindre til å stole på. Denne tendensen ser vi ikke bare i de mange personvernsskandalene og i bevisstheten rundt spredning av desinformasjon, noe vi særlig kan takke Facebook for, men den er også synlig i våre forskningsfunn fra det KULMEDIA-finansierte prosjektet Digitization and Diversity. Resultatene fra tolandsdekkende spørreundersøkelser i 2016 og 2018 om digitalisering i norsk medie- og kultursektor viser blant annet at algoritmestyrte anbefalinger via tjenester som Spotify oftere oppleves som interessante og relevante, sammenlignet med bruken av algoritmer i reklamesammenheng eller for å kuratere innhold på nett. Samtidig handler mange av de negative holdningene til bruken av algoritmer om overvåkning og personvern, noe som tyder på en økt bevissthet rundt den enorme datainnhøstingen som nettgigantene bedriver.
Men hva er det med den menneskelige faktoren som fremstår som såpass interessant for anbefalingsteknologien at samtlige nettgiganter synes å fremheve den, og hvorfor nå? En del av grunnen til at mange velger å markedsføre tjeneste sine som litt menneskelige er nok de mange personvernskandalene den seneste tiden, men også en økende bevissthet rundt hva som faktisk er teknisk mulig. For hva vil det egentlig si å anbefale musikk eller en film? I tilfellet Platekompaniet handlet det som regel om en kombinasjon av personlig og kontekstuell kunnskap og smak. Man tager en teskje spesialisert musikkunnskap, smører på med et tykt lag mellommenneskelig relasjon (hvem er kunden?, hvor i musikklandskapet hører vedkommende hjemme?, hvor interessert i musikk virker h*n?), pisker inn et par gram med kontekstuell viten (har det akkurat vært en stor konsert i byen?, hva er populært på radio akkurat nå?, hvem spilte på tv i går?), og krydrer kanskje til med en overraskelse eller to tatt fra den akkurat passe obskure kred-musikksmaken til den gjennomsnittlige Platekompaniet-medarbeideren. Denne kombinasjonen av faktorer er heller ikke så langt ifra den måten algoritmene opererer. For å avgjøre hvilken låt som er den neste i en automatisert avspillingsliste for eksempel, er det gjerne flere forskjellige algoritmer som er i spill: Én som analyserer lyd, én som sammenligner med tidligere avspilte låter, én som registrerer lyttermønster, spillelister, relasjoner til andre brukere osv. Anbefalinger, uansett om den er generert gjennom en algoritme eller kommer fra et menneske, er altså i høyeste grad en kompleks og kontekstuell størrelse.
Faktisk er det såpass komplekst at det å snakke om algoritmer på den ene siden og mennesker på den andre siden fort kan bli misvisende. Når HBO, Netflix og Facebook nå introduserer menneskelige anbefalinger som en slags innovasjon, betyr det ikke at det ikke har vært mennesker involvert tidligere. En av de mest utbredte og feilaktige oppfattelsene av algoritmer er at de kun er tekniske eller mekaniske. I boken IF … THEN: Algorithmic Power and Politics (Oxford University Press, 2018), forsøker jeg å nøste opp i denne grunnleggende misforståelsen og hevder at mennesker er like fullt en del av det vi kaller for en algoritme, på lik linje med selve koden eller den statistiske modellen. Mennesker ligger til grunn for treningsdataen, programmeringen, vedlikeholdet, bruken og utviklingen av algoritmen. Det gir derfor liten mening å snakke om algoritmer som den rake motsetningen til mennesker. Men når det nå likevel gjøres i så stor og utbredt skala, er det kanskje på tide å ta et steg tilbake og vurdere hvem eller hva det tjener at vi fortsetter å opprettholde denne distinksjonen?
Taina Bucher
Førsteamanuensis i Screen Cultures ved Institutt for medier og kommunikasjon, Universitetet i Oslo