oss 150 kroner!
Et team fra Shanghai Jiao Tong University og Tsinghua University har utviklet en optisk databrikke, LightGen, som angivelig har overgått Nvidias A100-brikke i hastighet og energieffektivitet med over 100 ganger for generative AI-oppgaver. Dette skriver South China Morning Post.
LightGen bruker fotoniske nevroner – over 2 millioner integrert på én enkelt brikke – for å behandle og generere bilder og videoer med høy oppløsning ved hjelp av lysets hastighet i stedet for elektroner.
Forskningen, ledet av professor Chen Yitong og publisert i Science, viste at LightGen kunne utføre operasjoner som bildegenerering, støyfjerning og stiloverføring med bilder med mye detalj.
LightGen bruker en ny, uovervåket treningsalgoritme, som fjerner behovet for store, merkede datasett og er avhengig av statistisk mønstergjenkjenning.
Eksperimenter fant at brikken oppnådde en datahastighet på 35 700 TOPS og en energieffektivitet på 664 TOPS/watt, ifølge et konservativt estimat.
Forskerne sa at disse resultatene tyder på at LightGen og fotonisk databehandling kan bidra til å håndtere de økende energibehovene til AI.
Kinesiske CGTN skriver:
En viktig innovasjon ligger i bruken av soliton-mikrokamkilder, som gir over 100 bølgelengdekanaler.
«Vi har oppnådd informasjonsinteraksjon og beregning med multipleksing med over 100 bølgelengder på en optisk brikke, noe som demonstrerer parallell prosessering av informasjon med høy tetthet på brikken», sa Xie Peng, en forsker ved SIOM.
I motsetning til tradisjonell optisk databehandling som bruker én bølgelengde, utnytter denne ultraparallelle tilnærmingen over 100 separate lysbølgelengder for å behandle datastrømmer samtidig – noe som øker datakraften opptil 100 ganger uten å øke brikkestørrelsen eller frekvensen, ifølge studien.
«Det er som å forvandle en motorvei med ett kjørefelt til en supermotorvei som kan håndtere hundre kjøretøy parallelt, noe som øker gjennomstrømningen per tidsenhet betraktelig uten å endre brikkemaskinvaren», sa Han Xilin, ingeniør ved SIOM.
Optisk databehandling, med sine naturlige fordeler med høy frekvens, høy parallellisme og stor båndbredde, tilbyr et betydelig potensial for å forbedre datatetthet og -kraft gjennom økt parallellisme. Denne parallelle optiske databehandlingsarkitekturen har brede anvendelsesmuligheter innen felt som kunstig intelligens og datasentre.
Spesielt lover den effektive løsninger for kroppsliggjort intelligens, nevrale nettverk, fysiske simuleringer og bildebehandling. Videre gjør de lave latensegenskapene til fotonisk databehandling den ideell for kantenheter med små datavolumer, men høye latenskrav, som kommunikasjonsutvekslingsnettverk og dronesvermer.
Teamets funn ble publisert tirsdag som en forsideartikkel i tidsskriftet eLight, med tittelen «Parallel Optical Computing Capable of 100-Wavelength Multiplexing».
Teknologi: Brikken bruker lys (laserpulser) i stedet for elektroner til å behandle data. Den integrerer over 2 millioner fotoniske nevroner på en chip på bare 136,5 mm². Den har en ny arkitektur kalt «optical latent space» for effektiv datakomprimering, og en usupervisert treningsalgoritme som lærer statistiske mønstre uten massive merkede datasett (mer lik menneskelig læring).
Dette kan representere et skifte mot fotonisk computing for generativ KI, redusere det enorme energiforbruket i KI-utvikling, og gjøre kompleks kreativ KI mer bærekraftig. Chen Yitong uttaler at det gir en ny vei for å koble avanserte chip-arkitekturer til dagligdagse komplekse KI-oppgaver med betydelig større hastighet og effektivitet.
Kjempebom for USAs strategi
USA forsøkte primært å oppnå flere strategiske mål ved å nekte Kina tilgang til avanserte Nvidia-brikker (som A100, H100 og senere modeller) og annen halvlederteknologi gjennom eksportkontroller som startet i 2022 og ble strammet inn under både Biden- og Trump-administrasjonene.
Det viktigste målet var å hindre at kinesiske militære og etterretningsaktører får tilgang til teknologi som kan brukes til å utvikle avansert KI for militære formål. Dette inkluderer bedre beslutningstaking, autonome våpen, overvåking, cyberkrigføring og superdatamaskiner. USA fryktet at Kinas «militær-sivil dobbeltbruk»-strategi gjør at kommersiell teknologi lett overføres til militær bruk.
Ved å begrense Kinas tilgang til de beste KI-brikkene og produksjonsutstyr, ville USA opprettholde en ledelse på 1–2 generasjoner i KI og halvledere. Dette skulle bremse Kinas evne til å trene store AI-modeller og utvikle frontier-AI, som anses som kritisk for fremtidig økonomisk og militær makt.
Denne strategien har mislykkes kapitalt. Det tok Kina mindre enn tre år å ikke bare ta igjen Nvidia, men å kontrueres databrikker som er 100 ganger raskere og vesentlig mer energieffektive – brikker som representerer et teknologisk kvantesprang.
Slik fungerer den nye brikken:
Mens tradisjonelle databrikker bruker strøm i metalliske ledere, benytter optiske brikker integrerte optiske komponenter som lasere, bølgeledere (waveguides) og detektorer for å styre lysstrømmen.
Bølgeledere: Fungerer som «lyskabler» på brikken og leder lyset mellom komponenter. Modulatorer: Koder data inn i lysstrålene.
Detektorer: Omformer lyssignalene tilbake til elektriske signaler ved behov. Fordeler sammenlignet med elektroniske brikker.
Høyere hastighet: Lys beveger seg raskere enn elektroner gjennom faste stoffer, noe som muliggjør ekstremt rask dataoverføring.
Mindre varmeutvikling: Fotoner genererer nesten ikke friksjonsvarme sammenlignet med elektriske kretser, noe som løser store utfordringer med kjøling i moderne datamaskiner.
Energieffektivitet: Brikkene krever betydelig mindre strøm for å utføre tunge oppgaver.
Båndbredde: Man kan sende flere datastrømmer samtidig i samme leder ved å bruke lys med ulik farge (bølgelengdemultipleksing).
