Google-ansatte nektet, nå bruker Pentagon løsarbeidere i dronekrigsprogram

7
En militærdrone av typen Predator
Terje Alnes

Av Terje Alnes.

På oppdrag fra Pentagon skulle Google utvikle programvare til et dronekrigsprogram basert på kunstig intelligens, men ansatte nektet. Nå gjør løsarbeidere jobben, uten å vite hvem de jobber for og hva oppdraget egentlig går ut på.

Det amerikanske forsvarsdepartementet har igangsatt et prosjekt som skal bidra til å identifisere gjenstander eller personer fra droneopptak. Prosjektets oppgave er å hjelpe Pentagon med effektiv analyse av videoopptak som daglig samles inn av droner – i et så enormt volum at menneskelige analytikere ikke takler det.

«Det er ingen» black box «som leverer AI-systemet regjeringen trenger, i hvert fall ikke nå,» sa departementets mann. «Nøkkelelementer må settes sammen … og den eneste måten å gjøre det på er med kommersielle partnere ved siden av oss.» Hva er da mer naturlig enn å henvende seg til teknologigigantene i Silicon Valley?

Motstand mot Project Maven

Project Maven, også kjent som Algorithmic Warfare Cross-Functional Team (AWCFT), ble startet i april 2017. Mavens uttalte oppgave er å «fremskynde forsvarsdepartementets integrering av stordata og maskinlæring.» Målet er å kunne identifisere og registrere kjøretøyer og andre gjenstander i opptak som er fanget av dronenes kamera, i så mange som 38 ulike kategorier.

I 2017 brukte departementet 7,4 milliarder dollar på å utvikle en slik kunstig intelligens-programvare. En stor kontrakt gikk til Google.
Men her hadde både Pentagon og Google forregnet seg. Da oppdragets art ble kjent skapte det stor motstand internt i Google. De ansatte skal ha blitt rasende over at regjeringen ville bruke deres kunnskap i dronekrigsprogrammet. Googles AI-teknologi ville forbedre systemets evne til å analysere video og kunne brukes til lettere å identifisere fysiske mål. Flere sa opp stillingene sine, og over 3.100 Google-ansatte signerte et brev der de krevde en ny selskapspolicy, som forpliktet selskapet til aldri å utvikle «krigføringsteknologi.»

«We belive that Google should not be in the business of war. Therefore we ask that Project Maven be cancelled, and that Google draft, publicize and enforce a clear policy stating that neither Google nor its contractors will ever build warfare technology.»
Brev fra Google-ansatte til C.E.O Sundar Pichai

Protestene fra de ansatte virket. Google fornyet ikke kontrakten med Pentagon, som gikk ut i mars 2019. Det hører med til historien at Googles motto er «Don’t Be Evil», noe de ansatte tydeligvis tar på alvor. Parallelt med det interne opprøret signerte mer enn 90 akademikere innen kunstig intelligens, etikk og informatikk et åpent brev der de ba Google om å avslutte arbeidet med Project Maven, og støtte en internasjonal traktat som forbyr autonome våpensystemer.

«Gig-økonomi» hjelper Pentagon

Begrepet «gig economy» er lånt fra musikkbransjen, der det sjelden er faste lønninger, men betaling pr. spillejobb (gig). På norsk brukes gjerne begrep som «delingsøkonomi» eller «plattformøkonomi» om det samme.

Denne nye økonomiske modellen er kommet lengst i USA, og en viktig forklaring er svake fagforeninger og svært lav organisasjonsgrad. Selskaper som Uber og Amazons Mechanical Turk er store aktører, som klassifiserer medarbeiderne som «selvstendige tjenesteleverandører» og ikke vanlige ansatte. Derfor er de heller ikke beskyttet av arbeidslivets lover og regler.

Denne strukturen har funnet veien inn i mange sektorer, også til databransjen. I oktober 2017 sendte Google råbilder med instruksjoner om datamerking til et selskap kalt CrowdFlower – som siden har endret navn til Figure Eight. Dette selskapet har en digitale plattform som lar enkeltpersoner registrere seg for å utføre mikrooppgaver.

Den enkelte «tjenesteleverandøren» kan jobbe hjemmefra og har gjerne ingen kontakt med andre som jobber i prosjektet. Ofte har vedkommende heller ingen anelse om helheten i prosjektet de jobber med, eller hvem som er den egentlige oppdragsgiveren. I et intervju med The Intercept bekreftet Figure Eight at deres medarbeidere ikke visste at de jobbet for Pentagon.

Hadde Karl Marx studert den moderne «gig-økonomien» ville han kunne si at arbeiderne nærmest er fullkomment fremmedgjort, i forhold til både lønnsarbeidet og selve arbeidssituasjonen.

Kunstig intelligens – et militært satsningsområde

Den kunstig intelligens-programvaren som Pentagon vil utvikle må lære å skille mellom objekter på videoene – og for at programmet skal lære, må noen først lære programvaren dette. Her gjør de «gig-ansatte» jobben. Deres oppgave er å gi den første bildedatamerkingen – som betyr korrekt identifisering av deler av et bilde – noe som gradvis gjør det mulig for Googles kunstige intelligens-programvare å skille bygninger, bilder, trær og andre gjenstander fra hverandre.

Project Maven ble designet for å la Pentagon-tjenestemenn delta i «nær sanntidsanalyse» og «klikke på en bygning og se alt som er forbundet med det,» inkludert mennesker og kjøretøy. I løpet av kort tid skal datamerkingsprosjektet ha begynt å vise gode resultater, da ingeniører utviklet bedre retningslinjer for de «gig-ansatte» for å lære programvaren å identifisere gjenstandene. Slik får Air Force-analytikere hjelp til raskt å sortere de tusenvis av timene med drone-video og velge mål på slagmarken.

Utviklingen av kunstig intelligens-programvare for militære formål er et satsningsområde. For teknologigigantene vil dette være et svært lukrativt forretningsområde. Pentagons «Defense Innovation Board» har sammenliknet konkurransen om å ta i bruk AI-teknologi med kappløpet om først å utvikle atomvåpen på 1940-tallet og med presisjonsstyrte våpen og stealth-teknologi etterpå.

Store utviklingsprosjekter kan i fremtiden involvere titusenvis av gig-økonomi arbeidere, som holdes uvitende om arbeidets egentlige formål og oppdragsgiverens identitet. For krigsmaskinen er dette en effektiv måte å organisere arbeidet på for å unngå at kritiske arbeidere skal stikke kjepper i produksjonshjulene.

Kilder:

«Google Is Helping the Pentagon Build AI for Drones», gizmondo.com 06.03.18, «Google employees petition CEO to drop out of Pentagon AI project», engadget.com 04.04.18, «Google Plans Not to Renew Its Contract for Project Maven, a Controversial Pentagon Drone AI Imaging Program», gizmondo.com 01.06.18, «Google Hired Gig Economy Workers to Improve Artificial Intelligence in Controversial Drone-Targeting Project», theintercept.com 04.02.19, «Google Hedges on Promise to End Controversial Involvement in Military Drone Contract», theintercept.com 01.03.19

Denne artikkelen ble først publisert på bloggen til Terje Alnes.

KampanjeStøtt oss

Kommentarer

  1. Minner om de nye Sony-kameraene med øyefølgefokus, som begynte med følgefokus for menneskeøyne, men som med stadige oppdateringer klarer å følge øynene til stadig flere dyr og fugler, ved å fokusere på øyet, selv i flukt, men også med lukkede øyne når noen sover.

    Følgefokusen til a9-serien skal visst nå være helt rå med å låse seg på objekter, selv i dårlig lys og forvirrende situasjoner, og kan nok bli en vinner under Tokyo-OL til neste år. Så i det store og hele tror jeg Sony allerede har utviklet teknologien Pentagon søker, vi får bare håpe de ikke gir den fra seg. Sony kan skille en lang rekke forskjellige objekter fra hverandre, og skille øynene til de fleste dyrearter, og ligger nok langt foran de 38 kategoriene Pentagon trenger. F.eks. leser jeg at selv skilpaddeøyne registreres. Godt de er et konsumer-elektronikk-selskap, og ikke tilhører det militærindustrielle kompleks, får man håpe?

    Sannsynligvis er allerede Sony i stand til å programmere droner som på egenhånd kan identifisere enkeltindivider fra stor høyde og låse et lite våpen mot disse. Så man lever i utrygge tider. Selv foretrekker jeg å bevege meg i bunnen av Olteruddalen eller i tykk skog.

    Personlig tror jeg Pentagon hadde en finger med i spillet ved snauhoggingen av Hovdetoppen sist høst, samt nedhoggingen av gammelskogen i Øverbymarka på nyåret, da steigan.no nok har mange lesere i industribyen Gjøvik. Dette som en forberedelse til den kommende dronekrigen, hvor de nye skammingene som begår tankeforbrytelser, ligger tynt an etter all denne tynningen.

  2. Da bør de holdes seg langt unna USA og innføre jødeparagrafen.

  3. Det ser ut til at Sony nå produserer sine kameraer i Kina, da amerikanske fotografer melder om et prishopp etter at Trump innførte handels-sanksjoner. Men Canon og Nikon blør nå, først og fremst grunnet smartphones, men også fordi de ikke klarer å holde følge med Sony teknologisk. Selv var jeg en av de som byttet merke. Så ja, jeg får virkelig håpe jeg ikke har gått over til noen som potensielt kan volde mitt endelikt.

  4. Ingen slår Nikon p900 i å avsløre løgner.

  5. Kva med uttynninga av Ekebergskogen i 2011-12? Der vart det utplassert røysevis med løynde overvakingskamera (Ringnes søkte om lov til det for å verne om sine eigne statuar i området). Det skal ha liggje ein etterretningsstasjon inne i fjellet rett ved Ekebergrestauranten…

  6. Det er ikke uvanlig - jfr. Manhattan-prosjektet. Men de var i tillegg lojale. Det kan de ikke forvente av løsarbeidere.

  7. Johnny says:

    Betyr dette at du mener jorda er flat?

Fortsett diskusjonen på forum.steigan.no

Deltakere