Google-ansatte nektet, nå bruker Pentagon løsarbeidere i dronekrigsprogram

Av Terje Alnes.

På oppdrag fra Pentagon skulle Google utvikle programvare til et dronekrigsprogram basert på kunstig intelligens, men ansatte nektet. Nå gjør løsarbeidere jobben, uten å vite hvem de jobber for og hva oppdraget egentlig går ut på.

Det amerikanske forsvarsdepartementet har igangsatt et prosjekt som skal bidra til å identifisere gjenstander eller personer fra droneopptak. Prosjektets oppgave er å hjelpe Pentagon med effektiv analyse av videoopptak som daglig samles inn av droner – i et så enormt volum at menneskelige analytikere ikke takler det.

«Det er ingen» black box «som leverer AI-systemet regjeringen trenger, i hvert fall ikke nå,» sa departementets mann. «Nøkkelelementer må settes sammen … og den eneste måten å gjøre det på er med kommersielle partnere ved siden av oss.» Hva er da mer naturlig enn å henvende seg til teknologigigantene i Silicon Valley?

Motstand mot Project Maven

Project Maven, også kjent som Algorithmic Warfare Cross-Functional Team (AWCFT), ble startet i april 2017. Mavens uttalte oppgave er å «fremskynde forsvarsdepartementets integrering av stordata og maskinlæring.» Målet er å kunne identifisere og registrere kjøretøyer og andre gjenstander i opptak som er fanget av dronenes kamera, i så mange som 38 ulike kategorier.

I 2017 brukte departementet 7,4 milliarder dollar på å utvikle en slik kunstig intelligens-programvare. En stor kontrakt gikk til Google.
Men her hadde både Pentagon og Google forregnet seg. Da oppdragets art ble kjent skapte det stor motstand internt i Google. De ansatte skal ha blitt rasende over at regjeringen ville bruke deres kunnskap i dronekrigsprogrammet. Googles AI-teknologi ville forbedre systemets evne til å analysere video og kunne brukes til lettere å identifisere fysiske mål. Flere sa opp stillingene sine, og over 3.100 Google-ansatte signerte et brev der de krevde en ny selskapspolicy, som forpliktet selskapet til aldri å utvikle «krigføringsteknologi.»

«We belive that Google should not be in the business of war. Therefore we ask that Project Maven be cancelled, and that Google draft, publicize and enforce a clear policy stating that neither Google nor its contractors will ever build warfare technology.»
Brev fra Google-ansatte til C.E.O Sundar Pichai

Protestene fra de ansatte virket. Google fornyet ikke kontrakten med Pentagon, som gikk ut i mars 2019. Det hører med til historien at Googles motto er «Don’t Be Evil», noe de ansatte tydeligvis tar på alvor. Parallelt med det interne opprøret signerte mer enn 90 akademikere innen kunstig intelligens, etikk og informatikk et åpent brev der de ba Google om å avslutte arbeidet med Project Maven, og støtte en internasjonal traktat som forbyr autonome våpensystemer.

«Gig-økonomi» hjelper Pentagon

Begrepet «gig economy» er lånt fra musikkbransjen, der det sjelden er faste lønninger, men betaling pr. spillejobb (gig). På norsk brukes gjerne begrep som «delingsøkonomi» eller «plattformøkonomi» om det samme.

Denne nye økonomiske modellen er kommet lengst i USA, og en viktig forklaring er svake fagforeninger og svært lav organisasjonsgrad. Selskaper som Uber og Amazons Mechanical Turk er store aktører, som klassifiserer medarbeiderne som «selvstendige tjenesteleverandører» og ikke vanlige ansatte. Derfor er de heller ikke beskyttet av arbeidslivets lover og regler.

Denne strukturen har funnet veien inn i mange sektorer, også til databransjen. I oktober 2017 sendte Google råbilder med instruksjoner om datamerking til et selskap kalt CrowdFlower – som siden har endret navn til Figure Eight. Dette selskapet har en digitale plattform som lar enkeltpersoner registrere seg for å utføre mikrooppgaver.

Den enkelte «tjenesteleverandøren» kan jobbe hjemmefra og har gjerne ingen kontakt med andre som jobber i prosjektet. Ofte har vedkommende heller ingen anelse om helheten i prosjektet de jobber med, eller hvem som er den egentlige oppdragsgiveren. I et intervju med The Intercept bekreftet Figure Eight at deres medarbeidere ikke visste at de jobbet for Pentagon.

Hadde Karl Marx studert den moderne «gig-økonomien» ville han kunne si at arbeiderne nærmest er fullkomment fremmedgjort, i forhold til både lønnsarbeidet og selve arbeidssituasjonen.

Kunstig intelligens – et militært satsningsområde

Den kunstig intelligens-programvaren som Pentagon vil utvikle må lære å skille mellom objekter på videoene – og for at programmet skal lære, må noen først lære programvaren dette. Her gjør de «gig-ansatte» jobben. Deres oppgave er å gi den første bildedatamerkingen – som betyr korrekt identifisering av deler av et bilde – noe som gradvis gjør det mulig for Googles kunstige intelligens-programvare å skille bygninger, bilder, trær og andre gjenstander fra hverandre.

Project Maven ble designet for å la Pentagon-tjenestemenn delta i «nær sanntidsanalyse» og «klikke på en bygning og se alt som er forbundet med det,» inkludert mennesker og kjøretøy. I løpet av kort tid skal datamerkingsprosjektet ha begynt å vise gode resultater, da ingeniører utviklet bedre retningslinjer for de «gig-ansatte» for å lære programvaren å identifisere gjenstandene. Slik får Air Force-analytikere hjelp til raskt å sortere de tusenvis av timene med drone-video og velge mål på slagmarken.

Utviklingen av kunstig intelligens-programvare for militære formål er et satsningsområde. For teknologigigantene vil dette være et svært lukrativt forretningsområde. Pentagons «Defense Innovation Board» har sammenliknet konkurransen om å ta i bruk AI-teknologi med kappløpet om først å utvikle atomvåpen på 1940-tallet og med presisjonsstyrte våpen og stealth-teknologi etterpå.

Store utviklingsprosjekter kan i fremtiden involvere titusenvis av gig-økonomi arbeidere, som holdes uvitende om arbeidets egentlige formål og oppdragsgiverens identitet. For krigsmaskinen er dette en effektiv måte å organisere arbeidet på for å unngå at kritiske arbeidere skal stikke kjepper i produksjonshjulene.

Kilder:

«Google Is Helping the Pentagon Build AI for Drones», gizmondo.com 06.03.18, «Google employees petition CEO to drop out of Pentagon AI project», engadget.com 04.04.18, «Google Plans Not to Renew Its Contract for Project Maven, a Controversial Pentagon Drone AI Imaging Program», gizmondo.com 01.06.18, «Google Hired Gig Economy Workers to Improve Artificial Intelligence in Controversial Drone-Targeting Project», theintercept.com 04.02.19, «Google Hedges on Promise to End Controversial Involvement in Military Drone Contract», theintercept.com 01.03.19

Denne artikkelen ble først publisert på bloggen til Terje Alnes.