Pienemmän tehonkäytön neuroverkkoja

Syvien neuroverkkojen sovelluksia tietokonenäöstä lääketieteelliseen diagnoosiin toteutetaan yleisesti kellotuspohjaisilla prosessoreilla, joissa laskentanopeutta rajoittavat pääasiassa kellotaajuus ja muistin käyttöaika.

Pennysylvanian yliopiston tutkijat raportoivat fotonisesta syvän neuroverkon (PDNN) piiristä, joka suorittaa subnanosekuntisen kuvien luokittelun prosessoimalla suoraan optisia aaltoja, jotka osuvat sirulla olevaan pikseliryhmään, kun aallot etenevät neuronikerrosten läpi.

Jokaisessa neuronissa lineaarinen laskenta suoritetaan optisesti ja epälineaarinen aktivointitoiminto toteutetaan optoelektronisesti, mikä mahdollistaa alle 570 ps:n luokitusajan, mikä on verrattavissa uusimpien digitaalisten alustojen yhteen kellojaksoon.

Siru pystyykin käsittelemään lähes kaksi miljardia kuvaa sekunnissa ja piirillä on mahdollista toteuttaa myös skaalautuvuus suuriinkin PDNN-verkkoihin.

"Sirumme ei tarvitse tallentaa informaatiota, mikä poistaa suuren muistiyksikön tarpeen. Ja poistamalla kuvia tallentavan muistiyksikön, lisäämme myös datan yksityisyyttä", professori Firooz Aflatouni sanoo."

"Emme ole ensimmäisiä, jotka esittelevät teknologiaa, joka lukee optisia signaaleja suoraan. Mutta olemme ensimmäisiä, jotka luovat järjestelmän sirulla, joka on sekä yhteensopiva olemassa olevan teknologian kanssa että skaalautuva toimimaan monimutkaisempien datan kanssa," toteavat tutkijat.

TU Grazin tietojenkäsittelyteorian instituutti ja Intel Labs osoittivat kokeellisesti, että suuri neuroverkko voi käsitellä sekvenssejä, kuten lauseita, kuluttaen samalla neljästä kuuteentoista kertaa vähemmän energiaa toimiessaan neuromorfisella laitteistolla kuin perinteisellä laitteistolla.

Tutkimuksessa ryhmä keskittyi algoritmeihin, jotka toimivat ajallisten prosessien kanssa. Järjestelmän piti esimerkiksi vastata kysymyksiin aiemmin kerrotusta tarinasta ja ymmärtää kontekstin esineiden tai ihmisten välisiä suhteita.

Neuromorfisessa verkossaan ryhmä toisti aivojen oletetun muistimekanismin, eli että ihmisen aivot voivat tallentaa informaatiota lyhyen ajan jopa ilman neurotoimintaa, nimittäin neurosolujen niin kutsutuissa "sisäisissä muuttujissa".

Suorat todisteet puuttuvat näistä sisäisiä muuttujista mutta se tarkoittaa, että verkon tarvitsee vain testata, mitkä neuronit ovat kyseisellä hetkellä väsyneitä rekonstruoidakseen, mitä informaatiota se on aiemmin käsitellyt. Toisin sanoen aikaisempi informaatio tallentuu neurosolujen epäaktiivisuuteen ja toimimattomuus kuluttaa vähiten energiaa.

"Toistuvien neurorakenteiden odotetaan tuottavan suurimmat hyödyt neuromorfisilla laitteistoilla toimiville sovelluksille tulevaisuudessa", Intelin Mike Davies toteaa. "Neuromorfiset laitteistot, kuten Loihi, sopivat hyvin helpottamaan nopeita, harvoja ja arvaamattomia verkkotoiminnan malleja, joita havaitsemme aivoissa ja joita tarvitsemme energiatehokkaimmille tekoälysovelluksille."

Indian Institute of Technology Bombayn professori Udayan Gangulyn johtamat tutkijat ehdottivat vuonna 2021 kvanttitunnelointivirran käyttöä pii eristee (SOI) -teknologiassa ratkaisuksi neuroteknologiaan. Kvanttitunneloinnin virtatasot ovat lähellä perinteisen transistorin off-virtatasoa. Tämä mahdollistaa merkittäviä käyttötehon ja pinta-alan säästöjä!

"Verrattuna huippuluokan [keinotekoisiin] neuronieihin, joita on toteutettu laitteistotason piikittävissä neuroverkoissa, saavutimme 5 000 kertaa pienemmän energian piikkiä kohden samalla piirialalla ja 10 kertaa pienemmän valmiustilan tehonkäytön piirialaa ja energiapiikkiä kohti", Ganguly selittää.

Aiheesta aiemmin:

Tekoälylle elinikäistä oppimiskykyä

Tekoälyä tehokkaammin

Laskentaa ilman digitaaliprosessoria