oss 150 kroner!
«Det eneste som kan tvinge de store selskapene til å forske mer på sikkerhet, er statlig regulering».
Common Dreams, 28. desember 2024
Dataforskeren advarte om at tempoet i utviklingen av kunstig intelligens er «mye raskere» enn han forventet og finner sted i fravær av vidtrekkende forskrifter, og sa fredag at han tror sjansene øker for at KI kan utslette menneskeheten.
I en samtale med BBC Radio 4s «Today»-program, sa Geoffrey Hinton at det er en «10 % til 20 %» sjanse for at KI kan føre til utryddelse av menneskene i løpet av de neste tre tiårene.
Tidligere hadde Hinton sagt at han så en 10 % sjanse for at det skulle skje.
«Vi har aldri måttet forholde oss til ting som er mer intelligente enn oss selv før», forklarte Hinton. «Og hvor mange eksempler vet du om at en mer intelligent ting blir kontrollert av en mindre intelligent ting? Det er svært få eksempler. Det er mor og baby. Evolusjonen la mye arbeid i å la babyen kontrollere moren, men det er omtrent det eneste eksemplet jeg vet om».
Hinton, som ble tildelt Nobelprisen i fysikk i år for sin forskning på maskinlæring og KI, forlot jobben i Google i fjor, og sa at han ønsket å kunne snakke mer om farene ved uregulert KI.
«Å bare overlate det til profittmotivet til store selskaper kommer ikke til å være tilstrekkelig for å sikre at de utvikler det trygt».
Han har advart om at KI-chatbots kan brukes av autoritære ledere for å manipulere publikum, og sa i fjor at «den typen intelligens vi utvikler er veldig forskjellig fra intelligensen vi har».
På fredag sa Hinton at han er spesielt bekymret for at «markedets usynlige hånd», ikke vil holde mennesker trygge fra en teknologi som overgår deres egen intelligens, og ba om strenge reguleringer av KI.
«Å bare overlate det til profittmotivet til store selskaper kommer ikke til å være tilstrekkelig for å sikre at de utvikler det trygt», sa Hinton.
Mer enn 120 lovforslag har blitt foreslått i den amerikanske kongressen for å regulere KI-robocalls, teknologiens rolle i nasjonal sikkerhet og andre problemer, mens Biden-administrasjonen har iverksatt noen tiltak for å tøyle KI-utviklingen.
En utøvende ordre som oppfordrer til «trygg, sikker og pålitelig utvikling og bruk av kunstig intelligens» sa at «å utnytte KI for det gode og realisere dens utallige fordeler, krever å redusere dens betydelige risikoer». Påtroppende president Donald Trump forventes å oppheve ordren.
Det hvite hus sin plan for en rettighetserklæring for KI, krever trygge og effektive systemer, beskyttelse mot algoritmisk diskriminering, personvern, varsel og forklaring når KI brukes, og muligheten til å velge bort automatiserte systemer.
Men EUs lov om kunstig intelligens ble ansett som en «fiasko» av rettighetsforkjempere i år, etter at industriens lobbyvirksomhet bidro til å sikre at loven inkluderte mange smutthull og unntak for rettshåndhevelse og migrasjonsmyndigheter.
«Det eneste som kan tvinge de store selskapene til å forske mer på sikkerhet», sa Hinton på fredag, «er statlig regulering».
Denne artikkelen er fra Common Dreams:
‘Godfather of AI’ Demands Strict Regulations to Stop Technology From Wiping Out Humanity
Oversatt for steigan.no av Espen B. Øyulvstad
