Teknologi

Draps­algoritmen

Det er ingen grunn til bekymring.

---

Løgnpressen

Bjørn Stærk er spaltist i Morgenbladet.

Hver fjerde uke vil han skrøne under Goebbels’ motto: «Det kommer en dag hvor alle løgnene vil kollapse under sin egen vekt, og sannheten igjen vil seire»

---

Knapt en uke etter togkatastrofen ved Lillehammer som krevde 145 menneskeliv, hagler anklagene i alle retninger.

Mange mener at NSB burde ventet med å innføre førerløse tog på grunn av de mange ulykkene knyttet til selvstendige kjøretøy den siste tiden. Det hevdes at også NSB-togene er bygget på den samme AI-algoritmen som har fått skylden for Tesla-massakren i Chicago i januar, hvor en bil gikk berserk i en folkemengde, og rotorbladnatten i London, hvor tusenvis av byens duer ble drept av droner.

Nå gjelder det å holde hodet kaldt. Det er ikke bevist at noen av disse hendelsene henger sammen.

Programmeringsfeilen som gjør at vaktdroner kan forveksle duer med terrorister en mørk regnnatt, er en helt annen enn feilen som nylig fikk alle heisene i Den europeiske sentralbankens kvarter i Frankfurt til å kræsje i bakken. Og den igjen er noe helt annet enn feilen som fikk NSB-toget fra Oslo til Trondheim til å akselerere til 270 km/t og ramle ned i Mjøsa. Alle som kan noe om IT forstår at dette ikke henger sammen. Løsningene er utviklet på ulike tidspunkter av ulike IT-selskaper. Ideen om en slags «draps­algoritme» som gjør hverdagslige maskiner om til dødsfeller er en mediemyte.

Det er derfor trist at også norske medier nå bidrar til panikken ved å spre kunnskapsløse rykter. Når Morgenbladet nylig hevdet at drapsalgoritmen kan stamme fra «block chain-basert maskinlæring i clouden», vet man at journalistene har brukt hypeord de ikke forstår.

Riktignok må IT-bransjen nå sette seg ned og tenke over om den tar sikkerhet alvorlig nok. Mange har latt grådighet gå foran trygghet. Når Google ved en feil erstatter alle Gmail-brukeres autoreply-meldinger med en oppfordring til å begå selvmord, skjønner vi at ukulturen har spredd seg til store og respekterte selskaper. Og vi kan bare spekulere på hva som gikk galt hos Apple da Siri nylig begynte å bruke rasistiske skjellsord. Slik skal det ikke være. Hvis IT-bransjen ønsker vår tillit, må den ta seg sammen.

Men vi må ikke la oss kue av medieskapte mareritt. Den digitale revolusjonen har gjort mer for å forbedre livene våre enn noe annet i historien. Vi må veie dødsofrene fra førerløse biler som er blitt hacket, opp mot de mange dødsulykkene smartbilene redder oss fra. Og selv om det høres kynisk ut, må vi veie lidelsen til de få som har fått føttene sine kvestet av robotstøvsugere opp mot gleden til de mange som nå knapt trenger å tenke på gulvrengjøring lenger.

Etter programmeringsfeilen i NSB har mediekommentatorer tatt til orde for at Norge bør utsette sitt første heldigitale stortingsvalg. Det er en hån mot ofrene i togkatastrofen at moderne ludditter misbruker dem på denne måten. Å gjøre noe slikt vil være et anslag mot demokratiet. Det ville være å erstatte folkestyret med et mediemobbstyre.

Utviklingen må få gå sin gang. Vi kan ikke forvente at det skjer smertefritt.

Mer fra Teknologi