Advarer mot et robotvåpenkappløp

6

Over 1000 eksperter på kunstig intelligens og ledende forskere har undertegnet et brev som advarer mot et militært robotvåpenkappløp. Underskriverne tar til orde for forbud mot «autonome offensive våpen», melder The Guardian.

Brevet som ble lagt farm på International Joint Conference on Artificial Intelligence i Buenos Aires, Argentina, er undertegnet av Teslas Elon Musk, Apple-medgrunnlegger Steve Wozniak, Google DeepMind-sjef Demis Hassabis og professor Stephen Hawking og 1000 andre eksperter på AI (kunstig intelligens) og robotutvikling.

Brevskriverne sier at

Kunstig intelligens har nådd et punkt der utplassering av autonome våpen er praktisk, om ikke juridisk, mulig innen få år. Vi snakker ikke om tiår. Og risikoen er stor: autonome våpen er beskrevet som den tredje revolusjonen i våpenteknologi etter kruttet og atomvåpen.

Hvis en militærmakt starter med å utvikle våpen som sjøl velger ut målene og ødelegger dem, uten menneskelig kontroll, vil vi få et våpenkappløp om å utvikle slike våpen. Og i motsetning til atomvåpen krever ikke AI-våpen noen råverer som det er vanskelig å skaffe.

Sluttpunktet for denne teknologiske utviklinga er opplagt: autonome våpåen vil bli morgendagens Kalashnikover. Nøkkelspørsmålet for menneskeheten i dag er om den vil starte et slikt våpenkappløp, eller hindre at det skjer.

Musk og Hawking har advart mot at AI er vår største eksistensielle trussel og at en full utvikling av AI kan bety slutten for menneskeheten.

 

KampanjeStøtt oss

6 KOMMENTARER

  1. Husker da jeg var barn og så på Terminator filmene til Arnold Schwarzenegger, det var et helt utenkelig fremtidsscenario som lå flere tusen år frem i tid ….,,,,trodde vi. Skynet var en datamaskin med kunstig intelligens og verden var full av helautomatiske droner og kamp-roboter.
    NRK hadde en dokumentar i fjor om droner, der kom det frem at helautomatiske kamproboter som de bare slipper ned fra fly i krigssoner allerede var i full produksjon, de fyrer løs på alt som beveger seg eller avgir varmesignatur, samme med dronene, laserteknologi er også allerede i fullfart inn på skip og fly ..

    Menneskeheten er godt i gang ned å utslette seg selv, om ikke folk snart våkner ut av sin eventyraktige Tornerose søvn så¨er jeg redd at vi må leve i huler under jorden der man danner paramilitære forsvars-grupper som må kjempe mot roboter og droner for å overleve.

    Selv Stephen Hawking advarer på det sterkeste mot selvlærende datamaskiner og sier at det er den største trussel menneskeheten står ovenfor.

    Så hva skal til for å få massene til å våkna og tenke på sine egne barns fremtid fremfor å dope seg ned på såper og sport ? Ikke vet jeg . .. men for bare 2 år tilbake så var vi helt på nippet til borgerkrig her i Norge der massene tok til gatene og kastet de 169 US marionettene på Løvebakken.
    300 000 Nordmenn gikk av skaftet da TV 2 prioriterte Algerie-krisen fremfor Hotell Cæsar.

    http://www.dagbladet.no/2013/01/18/kultur/tv/tv_2/hotel_cesar/arne_berggren/25300347/

    Stephen Hawking warns artificial intelligence could end mankind

    http://www.bbc.com/news/technology-30290540

  2. «Hvis en militærmakt starter med å utvikle våpen som sjøl velger ut målene og ødelegger dem, uten menneskelig kontroll, vil vi få et våpenkappløp om å utvikle slike våpen.»

    Flere militærmakter har drevet med slik utvikling i mange år allerede. Sikkert noen tiår. Jeg tar det for gitt at USA/Israel også har testet slike våpen i krig, dog uten at det er blitt omtalt i mainstreammediene. Det er jo litt hysj-hysj.

  3. Jeg ser jo at du klippet og limte fra Dagbladet, men vil likevel påpeke at hverken Elon Musk, Stephen Hawking eller mange andre som har signert brevet, er «eksperter på AI», slik du (og Dagbladet) hevder. Elon Musk er en slags investor, ingeniør og entreprenør, mens Stephen Hawking er en teoretisk fysiker som er mest kjent for sitt arbeid med svarte hull og andre astrofysiske fenomener. Selv Wozniak er ikke egentlig ekspert på AI.

    Når dét er sagt: Alle disse vet trolig mer om AI enn noen av oss, så det er grunn til å ta trusselen på alvor. Men Elon Musk har investert i AI-selskaper, og har interesse av å hausse opp investeringene sine for å tjene penger. Det samme gjelder muligens noen av de andre.

    Jeg leste «Our Final Invention» av James Barrat for en stund siden. Den var veldig interessant, og skremte visst Elon Musk. Men jeg har en mistanke om at trusselen er litt overdrevet. Folk har en tendens til å antropomorfisere maskiner.

    • Ja. Vi bør selvfølgelig ikke avfeie fenomenet som en mulig trussel, men det er det nok i første omgang nok mest i helt spesifikke situasjoner og mot et temmelig begrenset antall personer. Ikke at det ikke er alvorlig nok, men det er et stykke igjen til det er en direkte trussel mot mennskehetens eksistens og det ikke vil være temmelig effektivt å nappe ut en stikkontakt eller to for å stagge dævelskapet i videre fremrykking.

LEGG IGJEN EN KOMMENTAR

Please enter your comment!
Please enter your name here

Dette nettstedet bruker Akismet for å redusere spam. Lær om hvordan dine kommentar-data prosesseres.