Kultur

Slik skal Facebooks nye etikkråd redde teknogiganten

– Et smart stykke PR, et smart stykke strategisk distraksjon, mener forsker James Williams ved Oxford-universitetet.

– Vi sitter på en måte og venter på en vaksine, gjør vi ikke? Men det finnes ikke noen vaksine for usannheter, gjør det vel, sier Alan Rusbridger.

De siste årene har den tidligere redaktøren i The Guardian advart mot hvordan et «kaos» av informasjon bidrar til å skape en kultur hvor det blir opp til den enkelte å definere hva som er fakta, og hva som er løgn.

Derfor var det grunn til overraskelse da det denne måneden ble kjent at Rusbridger skal sitte i det nye tilsynsrådet til selskapet som for mange er blitt selve symbolet på ødeleggelsen av den offentlige samtalen: Facebook.

Her skal han sitte sammen med nitten andre. På medlemslisten står menneskerettighetsaktivister, innflytelsesrike jussprofessorer, en nobelprisvinner, en tidligere dommer – og Danmarks tidligere statsminister Helle Thorning-Schmidt.

– Det som er det spesielle, er at det for første gang ikke er Facebook som skal ta beslutninger om hvilket innhold som blir liggende på Facebook eller hvilket innhold som blir tatt ned. Oppgaven er nå gitt til et uavhengig råd, som tar bindende beslutninger som Facebook skal rette seg etter, sier Thorning-Schmidt.

Men mange mener det Facebooks grunnlegger Mark Zuckerberg har omtalt som en «høyesterett», er langt fra så revolusjonerende som selskapet vil ha det til.

– Etter min mening er dette et veldig smart stykke PR, et smart stykke strategisk distraksjon, sier James Williams, skribent og forsker ved Universitetet i Oxford.

Williams jobbet lenge for Google som dataingeniør, men skiftet karrierevei da han ble stadig mer opptatt av hvordan teknologi som skulle sørge for flest mulig klikk og tid tilbrakt på nettet, syntes å være uforenelige med menneskelige verdier og interesser.

På bakkeplan.

Torsdag 14. mai samlet et par hundre mennesker seg foran rådhuset i Lansing, Michigan. Regnet så ikke ut til å bry dem – de var her for å protestere mot de lokale smitteverntiltakene.

De siste månedene har slike forsamlinger vært å se i flere amerikanske, australske og europeiske byer. En fellesnevner er påstanden om at reglene for å bremse smitten strider mot borgernes personlige frihet og rettigheter. De krever landet åpnet og økonomien i gang igjen.

Våpen lå henslengt over flere skuldre denne dagen i Lansing. En mann brukte det amerikanske flagget til å dekke ansiktet, en kvinne med munnbind holdt opp et skilt med teksten «be for å få slutt på abort». På skiltene til de andre fremmøtte kunne man lese hyllester til Donald Trump, oppfordringer til å forsvare grunnloven, og angrep på delstatens guvernør, Gretchen Whitmer.

«Jeg vil melde meg frivillig til å ta en kikk på disse likene som skal være stablet oppå hverandre, for å forsikre meg om at det ikke er vrøvl», sa hovedtaleren, til jubel fra folkemengden.

Demonstrasjonen syntes å være av det fredfulle slaget – helt til en mann dukket opp med en fiskestang. Øverst hadde han festet det amerikanske flagget, i snøret hang en dukke etter halsen.

Et par dager før demonstrasjonen meldte lokalavisen Metro Times at det på Facebook fantes fire Michigan-baserte grupper mot smittevern som til sammen hadde 400 000 medlemmer, og hvor det jevnlig ble oppfordret til vold mot guvernør Whitmer. Ifølge avisen var det særlig én foreslått drapsmetode som gikk igjen: Henging.

Hva som nøyaktig skjedde videre, er ikke godt å si, annet enn at en slåsskamp brøt ut, som også involverte en øks og et stort amerikansk flagg. Ingen ble alvorlig skadet.

Forsterker uenighet.

– Det er det som er så skremmende: at Facebook gjør det så lett å finne andre likesinnede, og føyer dem sammen i en gruppe som forsterker paranoiaen deres.

Det sier Siva Vaidhyanathan, medieprofessor ved universitetet i Virginia og forfatter av boken Antisocial media: How Facebook Disconnects Us and Undermines Democracy.

---

Fra nettet til det virkelige liv

De to siste månedene har demonstrasjoner mot smitteverntiltak dukket opp i USA, Europa og Australia.

Demonstrantene hevder at tiltakene er i strid med deres individuelle rettigheter og frihet, og er ofte inspirert av informasjon og konspirasjonsteorier de har kommet over i sosiale medier.

Samtidig har feilaktige råd om hvordan man beskytter seg mot viruset og hva som forårsaker spredningen fått store konsekvenser.

I Storbritannia er eksempelvis over 70 mobilmaster med 5G-utstyr blitt utsatt for hærverk etter at disse ble knyttet til viruset i sosiale medier.

---

Demonstrantene som hevder at smitteverntiltakene begrenser friheten deres, er ikke bare urovekkende fra et smitteperspektiv, mener han. Bevegelsen kan vise seg å få betydning langt utover selve koronakrisen idet den synes å bringe sammen mennesker og synspunkter som for det meste har eksistert i sin egen avkrok av internettet. Vaksinemotstandere, våpenaktivister, ytre høyre-grupperinger og konspirasjonsteoretikere har funnet en felles plattform i sin opposisjon mot koronatiltakene.

– De deler en mistenksomhet til vitenskap, til kunnskap, og til enhver form for borgerlig samhold eller engasjement, sier Vaidhyanathan.

Denne uken avslørte The Wall Street Journal at Facebooks sjefer har de siste årene blitt presentert for interne undersøkelser som viser en direkte forbindelse mellom selskapets algoritmer og økt polarisering på plattformen. I en rapport fra 2016 kom det frem at 64 prosent av menneskene som ble medlem i en ytterliggående gruppe på Facebook gjorde det basert på en algoritmebasert anbefaling.

Funnene ble i stor grad ignorert, skriver The Wall Street Journal – selskapet fryktet endringer ville gjøre konservative stemmer opprørte og skade engasjementet blant brukere.

Godhet på villspor.

Etter at lokalavisen kontaktet Facebook om truslene i Michigan-gruppene, fjernet selskapet den verste av dem. Under koronakrisen har selskapet vært langt mer aktive enn tidligere i å luke bort skadelig innhold: Potensiell feilinformasjon faktasjekkes, og oppdatert informasjon fra helsemyndighetene er alltid lett tilgjengelig.

Det synligste grepet er likevel introduksjonen av et ikon man kan trykke på for å respondere på et innlegg: et smilefjes som klemmer et hjerte. «Til og med hver for oss er vi sammen», skrev Facebook da de presenterte ikonet for brukerne.

Å «bringe folk sammen» har det siste tiåret vært det sentrale budskapet når Mark Zuckerberg har snakket om sine visjoner for Facebook. Dét var selskapets store feilgrep, mener Vaidhyanathan:

– Overbevisningen om at du gjør verden til et bedre sted fører med seg en egen form for blindhet. Vi har sett det i århundrer – misjonærer dro rundt omkring i verden overbevist om at de reddet sjeler og liv, men uten noen som helst historisk, kulturell eller antropologisk forståelse for hva de holdt på med.

Ideen om Facebook som en positiv kraft for mer åpenhet og informasjon i samfunnet, fikk en alvorlig knekk i kjølvannet av det amerikanske presidentvalget i 2016. Først kom det frem at russiske grupper hadde kjøpt politiske reklamer for å skape mest mulig splittelse, deretter kom Cambridge Analytica-skandalen, med avsløringen om at data fra millioner av Facebook-brukere var blitt innhentet uten samtykke. Høsten 2018 innrømte selskapet også at plattformen deres hadde bidratt til å fyre opp under splid og fysisk vold i Myanmar.

«Etter hvert som jeg har tenkt på disse utfordringene rundt innhold, er jeg blitt mer og mer sikker på at Facebook ikke burde ta så mange viktige avgjørelser som angår ytringsfrihet og trygghet på egen hånd», skrev Zuckerberg på Facebook like etter. Deretter kunngjorde han at selskapet ville gå i gang med å etablere «et uavhengig tilsynsråd».

Ny tid, nye regler.

Og der sitter altså Helle Thorning-Schmidt og Alan Rusbridger.

Rusbridger mener Facebooks hovedproblem i forsøket på å forene det de vil være – en nøytral plattform – med det de med tiden er blitt, handler om størrelse:

– Veldig mange av avgjørelsene de må ta er ganske gjenkjennelige for aviser og mediehus.

Han trekker frem fremstillingen av vold som et eksempel, som når en bombe går av.

– Hva er det akseptabelt å vise? Som redaktører har vi alle tatt beslutninger om hva vi synes er passende. Problemet er så: Hvis du skal ta slike avgjørelser tusenvis av ganger hver time, hvordan formulerer du hva reglene skal være?

Rusbridger tror man er tjent med et uavhengig råd av mennesker som har tenkt mye og lenge på hvordan ytringsfrihet og lovverk, moral og etikk henger sammen. For det var ikke særlig heldig for Facebook, mener han, at bestemmelser rundt innhold ble koblet direkte til Mark Zuckerberg som person.

– Folk tenkte, «hvem er du, som skal være portvokteren til alt dette?». Facebook er ikke akkurat kjent som et ydmykt selskap, men det slår meg som en ydmyk handling å si «vi har ikke alle svarene her, så kanskje vi kan få hjelp utenfra».

– Tror du det er en lettelse for dem at kritikk Facebook har pleid å få for hvordan de har behandlet kontroversielt innhold, nå i stedet kan rettes mot dere?

– Det er godt mulig. Jeg tror det kommer til å bli en turbulent reise. Jeg har lest tekster av folk som sier at dette er bare et forsøk på å dekke over et større problem, eller å lempe skylden over på andre. Alt det kan skje, sier han.

Fra rådet starter å behandle en klage, har de 90 dager på seg til å ta en avgjørelse. Rådet vil kun vurdere innhold selskapet har mottatt klager på for å ha fjernet på feil grunnlag. Etter hvert er tanken å utvide med saker som brukere mener Facebook burde ha tatt ned. I en årlig rapport skal rådet også kunne komme med forslag som angår andre aspekter ved plattformen. Facebook er ikke forpliktet til å følge anbefalingene.

Rusbridger understreker at bare det å gjøre prosessen mer gjennomsiktig kan ha en positiv effekt:

– Å være mer åpen om tematikken kan bidra til å øke forståelsen for at dette er ikke noe som løses innen neste tirsdag. Dette er noe verden aldri har trengt å tenke over før.

Trangere kår.

Søkte man på koronarelaterte Facebook-grupper i mai, kom man i trefflisten over en norsk, lukket gruppe som beskriver det de driver med som «The Real Truth That Main Stream Media Don’t Tell You …». En medlemsforespørsel senere, og man kan lese om hvordan regjeringen og statsminister Erna Solberg blir anklagd for å drive et globalt spill sammen med Kina, WHO, Bill Gates og Hillary Clinton. Én teori som sirkulerer er at Solberg sikter mot en plass i FN, og derfor tar valg som ikke er til det beste for landet.

Gruppen, som heter «Coronavirus Undercover++++», ble opprettet i februar, og har rundt 9000 medlemmer. At Facebook under koronakrisen har tatt på seg en rolle som smått minner om det å være ansvarlig redaktør av en publikasjon, er blitt lagt merke til.

I april la gruppens grunnlegger ut en video fra åpningen av OL i London i 2012, med en konspirasjonsteori om at OL-åpning showet, med sine sykepleiere og sykesenger, «spådde» koronakrisen. Han hevder at det neppe er en tilfeldighet at videoer av sykepleiere som i 2020 danser for å muntre opp seg selv og folk der hjemme danser de samme jazzinspirerte trinnene som under OL-åpningen i 2012.

Det som var en hyllest til helsevesenet og britisk barnelitteratur, i form av en svart skikkelse som skal forestille Harry Potter-universets Voldemort – er den siste tiden blitt lest i ulike Facebook-grupper som en oppskrift på hvordan krisen skal utspille seg: fra tomme sykesenger til død. Scenen med det grønne gresset og sauene som siden følger, er ikke en referanse til poeten William Blakes diktning, slik OL-arrangørene tenkte det, men til den positive effekten koronakrisen har på klimaet.

Like etter at videoen ble lagt ut, tok Facebook den ned og merket innlegget «Falsk informasjon».

Det gjorde ikke så mye fra eller til: «Facebook sensurer igjen med sine faktasjekkere … her mener de altså at åpningen i Olympic games i 2012 ikke stemmer … Veldig merkelig da jeg så dette selv i 2012 … De gjør hva som helst på facebook, main stream media, youtube osv for å hindre folk i å vise sannheten…», skrev gruppens grunnlegger (som for øvrig denne uken meldte at han var fristet til å legge ned gruppen, som følge av misnøye med responsen).

En gruppe i North Carolina som demonstrerer mot smitteverntiltak med et språk og en estetikk sterkt inspirert av den amerikanske borgerkrigen, informerer på hjemmesiden sin at all aktivitet inntil videre skjer på Facebook, med mindre de blir «zuck’d».

Uttrykket spiller på Mark Zuckerberg, og vil si å bli sensurert eller fjernet av Facebook, spesielt hvis det du delte representerte et alternativt blikk på verden.

Så langt har denne skjebnen ikke rammet North Carolina-gruppen.

Rykter, ikke løgner.

– Det dreier seg alltid om spredning av mistillit til systemet.

Det sier Thorsten Quandt, professor i digital kommunikasjon ved universitetet i Münster.

Sammen med tre forskerkolleger har han analysert koronastoffet alternative tyske medier har delt på Facebook fra januar til midten av mars.

Hovedfunnet var at innleggene la seg tett på de tradisjonelle mediene, snarere enn å avvike fra dem med åpenbare løgner eller «falske» nyheter. I stedet var innholdet blitt tilført en egen tolkning eller rykte. Hvor sannheten slutter og løgnen begynner blir dermed vanskeligere å få øye på, ifølge Quandt. Som igjen gjør det vanskeligere å avkrefte historiene som deles.

– Det konspirasjonsteoretikere gjør er at de tar denne komplekse situasjonen vi står i nå, og erstatter den med en enklere forklaring, sier han.

At hovedpersonen er et forholdsvis ukjent virus, gjør det også lett å personifisere det som noe helt annet, påpeker Quandt – som en grådig mangemillionær som vil tjene på en vaksine, eller statsledere som ønsker kontroll over jordens befolkning.

James Williams, som forsker på hva teknologi gjør med oppmerksomheten vår, sier at Facebooks problem er «hverken innhold eller mengden informasjon, men hvordan mediet påvirker oss». Det er essensen i forretningsmodellen deres som er problemet, mener Williams: Verktøyene Facebook har til å manipulere brukernes tenkning og beslutninger.

– Den samtalen ønsker ikke Facebook å ha, så de avleder med disse «høyesterett for innhold»-greiene, sier han.

Lov å være kritisk.

Helle Thorning-Schmidt kunngjorde sin deltagelse i det nye tilsynsrådet ved å legge ut en video på Twitter. «En av de store utfordringene i denne digitale tidsalderen er hvordan man skal kombinere ytringsfrihet med menneskerettigheter», sa hun i videoen.

Til Morgenbladet utdyper hun at det som er positivt med Facebook «også kan være negativt». Det vil si at noen innlegg «kan bli vurdert som skadelige for en gruppe mennesker eller for et enkeltmenneske». Rådet kan ifølge Thorning-Schmidt bidra med å prøve å finne en balanse mellom «maksimal ytringsfrihet» på den ene siden, og andre menneskers verdighet og menneskerettigheter på den andre.

– Hva tenker du om bekymringen for at rådet, ved å behandle kun noen utvalgte enkeltsaker, ikke vil være i stand til å utgjøre noen forskjell, når innhold allikevel spres og fjernes på plattformen i rekordfart?

– For det første er det viktig å få sagt at dette rådet ikke omhandler alt som vedrører Facebook. Det vil stadig være mange saker politikere, EU og de enkelte landenes regjeringer skal regulere, sier Thorning-Schmidt.

Hun medgir derimot at med tanke på hvor mye innhold som blir tatt ned fra plattformen, vil det være «en brøkdel av de sakene som blir sendt inn vi vil ha mulighet til å se på»:

– Vi har sagt fra starten at vi vil velge de sakene som er mest prinsipielle, det er utgangspunktet vårt. Og det er klart mange vil bli skuffet fordi vi ikke har anledning til å behandle deres saker.

– Kan rådet bli en unnskyldning for å ikke påføre Facebook strengere reguleringer eller innstramninger?

– Det har jeg vanskelig for å se, for det er mange ting ved Facebook man kan regulere som ikke vedrører dette rådet. Men der jeg tviler på om politikerne og regjeringer skal være med å bestemme, det er i forhold til innhold, sier hun, og viser til et scenario der land som Russland eller Uganda får definere hva folk skriver og deler på Facebook.

En slik løsning ville vært like uheldig som å la disse beslutningene bli værende hos Facebook, mener hun.

– Man har lov til å være kritisk til dette – og det er det sikkert mange som er – men jeg har vanskelig for å se for meg hvordan man ellers skulle gjort det, på en måte man kunne realisert og finansiert her og nå, sier hun.

På spørsmål om hvilke tanker hun har gjort seg rundt problemet med spredningen av feilinformasjon i sosiale medier under krisetider, er den tidligere lederen av partiet Socialdemokratiet forsiktig med å legge for mye skyld på de sosiale mediene:

– La oss bare huske på at falsk informasjon kan komme fra mange forskjellige kilder – det kan komme falsk informasjon fra den amerikanske presidenten, for eksempel. Uansett om man har sosiale medier eller ei, vil det bli spredt på den ene eller andre måten.

Monarken styrkes.

Tiltak som tilsynsrådet må ikke narre oss til å tro at Facebook fra nå av er interessert i å åpne opp selskapet for mer medvirkning og innspill utenfra, mener Rebecca MacKinnon, leder av Ranking Digital Rights, en organisasjon som jobber for økt personvern og frihet for brukere på nett.

---

Facebook Oversight Board

6. mai kunngjorde Facebook de 20 første (av de totalt 40) medlemmene som skal sitte i selskapets nye tilsynsråd.

Disse skal nå vurdere om innhold som fjernes fra Facebook og Instagram (som Facebook eier) er blitt fjernet på feil grunnlag, og etter hvert også bestemme om innhold som forblir værende skal ned.

Rådet finansieres i første omgang av Facebook i seks år, men skal fungere som et uavhengig organ.

Rådets bestemmelser er bindende.

Siden rådet ble presentert, har flere kritisert mandatet for å være for snevert til å kunne ha reell innflytelse over hvordan selskapet opererer.

---

– Sultanen av Facebook forblir ved makten, sier hun med henvisning til Mark Zuckerberg.

– Det er også godt mulig det er vanskeligere å bli kvitt ham i dag enn det var for ti år siden.

MacKinnon trekker frem fjorårets generalforsamling i Facebook, hvor det kom inn flere forslag fra selskapets aksjonærer som gikk ut på å innskrenke Zuckerbergs innflytelse og kontroll over Facebook. Ingen av forslagene gikk gjennom, noe som skyldtes nettopp Zuckerbergs store eierandel og kontroll over styret.

– Det jeg tror han innser, og det enhver monark innser hvis man ønsker å styre best mulig, er at man trenger et råd rundt seg. Så det er det han gjør med tilsynsrådet. Det er ikke snakk om en demokratisering, men et monarki som lærer seg hvordan ens makt forblir legitim ved å lytte og forhøre seg med andre, sier MacKinnon.

Samtidig med at Facebook har lansert tilsynsrådet har de i også satt i gang arbeidet med en lobbygruppe kalt American Edge. I en nylig publisert artikkel i The Washington Post fremkommer det at gruppen skal jobbe mot lovgivning og politiske reguleringer ved å promotere et budskap om at Silicon Valley-selskapene er essensielle for amerikansk økonomi og ytringsfrihetens vilkår.

– Å kunngjøre og promotere tilsynsrådet samme uke som du starter politisk virksomhet for å unngå reguleringer – disse to grepene ser jeg som ledd i samme kampanje, sier Siva Vaidhyanathan.

Krabbe, så gå.

På spørsmål om hva hun tenker om den Facebook-initierte lobbygruppen, gjentar Thorning-Scmidt formuleringen om at «det er veldig viktig at man forstår at vi ikke kommer til å regulere alt som angår Facebook».

– Derfor vil jeg heller ikke kommentere på den konkrete saken, sier hun.

– Hvordan er mulighetene for å utvide rådets mandat?

– Vi må lære oss å krabbe før vi kan gå, så foreløpig holder vi oss til disse enkeltsakene. Fremover vil vi se om våre avgjørelser også kan påvirke Facebooks regler for hvilket innhold som tillates.

Alan Rusbridger sier han forstår godt hvorfor journalister kan «hate Facebook», men ser likevel en slik holdning som lite konstruktiv:

– Hva skal du gjøre? Stenge alt ned? Skal du la denne verdenens Erdogan-skikkelser bestemme normene, eller skal du prøve å arbeide optimistisk for å gjøre sosiale medier til det det kan være? Jeg kan holde den talen hvor jeg hiver råtne tomater på Facebook – det kan vi alle – men du kommer ikke særlig langt med det. Du kan si Facebook er forferdelig til du er blå i ansiktet, men det forandrer ingenting.

Facebooks «renholdere».

Etter det amerikanske presidentvalget i 2016 økte Facebook antallet mennesker som i det stille sitter og tar vurderingene tilsynsrådet nå skal ta i offentligheten. Én ansatt bruker eksempelvis mindre enn 30 sekunder på å ta en beslutning om et innlegg bryter med selskapets retningslinjer eller ei, og går gjennom opp mot 400 innlegg per dag, ifølge teknologinettstedet The Verge.

---

Medlemmene

Tilsynsrådet skal totalt bestå av 40 medlemmer. Her er noen av de første 20 som er blitt gjort kjent:

Helle Thorning-Schmidt, tidligere statsminister i Danmark.

Alan Rusbridger, tidligere redaktør av The Guardian, nå rektor for Lady Margaret Hall-colleget ved Universitetet i Oxford.

Jamal Greene, professor ved Columbia Law School.

Tawakkol Karman, menneskerettighetsaktivist, fikk Nobels fredspris i 2011.

Michael W. McConnell, tidligere dommer, nå professor og leder av Constitutional Law Center, Stanford Law School.

Nighat Dad, advokat og grunnlegger av organisasjonen Digital Rights Foundation.

Julie Owono, leder av organisasjonen Internet Sans Frontières .

---

Hver dag klikker de seg gjennom drap, konspirasjonsteorier, hatprat og andre typer voldelig, grafisk innhold. Ansatte The Verge har snakket med forteller at det er umulig å ikke la seg påvirke. «Jeg tror ikke lenger 11. september var et terroristangrep», sa eksempelvis en tidligere redigerer.

I 2018 saksøkte en kvinne ved navn Selena Scola Facebook. Hun hevdet at arbeidet hadde gitt henne diagnosen PTSD. Flere med lignende helseplager meldte seg på søksmålet.

Mens kunngjøringen av de 20 første medlemmene av etikkrådet gikk verden rundt, skjedde det også en utvikling i saken: Facebook har gått med på å utbetale 52 millioner dollar til 11 000 nåværende og tidligere innholdsredigerere.

I tillegg har selskapet forpliktet seg til følgende: Alle redigerere som ser på forstyrrende innhold daglig, vil ha tilgang på time med terapeut én gang i uken. Ansatte som opplever en psykisk krise, vil ha tilgang på profesjonell hjelp innen 24 timer. Og hver måned skal det være mulig å delta i gruppeterapi.

Facebook er blitt fremlagt påstandene som kommer frem i denne saken. En talsperson svarer på disse at «som vi har sagt tidligere, tror vi ikke at private selskaper burde ta så mange viktige valg rundt ytringer på egen hånd. Vi trenger en mer demokratisk prosess for å bestemme disse reglene og en mer aktiv rolle for regjeringer og lovgivere. Dette er årsakene til at vi i tillegg til å ha opprettet et uavhengig tilsynsråd hvor folk kan anke avgjørelsene våre rundt innhold, også har fremmet et ønske om tydeligere reguleringer av industrien vår».

Mer fra Kultur