Marios Mattheakis
Ratsastavia aaltoja neuromorfisessa laskennassa
Epälineaarisia aaltoja sisältävä keinotekoinen neuroverkko voisi auttaa vähentämään energiankulutusta bioinspiroidussa (neuromorfisessa) laskentatekniikassa.
Koneoppimisesta on tullut poikkeuksellinen laskennallinen työkalu, jolla on sovelluksia tieteessä, tekniikassa ja muualla. Erityisesti tekoälyverkot ovat taitavia oppimaan datasta suorittamaan regressiota, luokittelua, ennustamista ja generointia. Neuroverkon optimointi on kuitenkin energiaa kuluttava prosessi, joka vaatii paljon laskentaresursseja.
Yksi tapa parantaa neuroverkkojen tehokkuutta on matkia biologisia hermostoja, jotka käyttävät piikityspotentiaaleja ja aaltoja – digitaalisten bittien sijaan – informaation käsittelyyn. Tätä niin kutsuttua neuromorfista laskentaa kehitetään parhaillaan älykkäille ja energiatehokkaille laitteille, kuten autonomisille roboteille ja itseohjautuville autoille.
Uudessa kehitystyössä Giulia Marcucci ja hänen kollegansa Sapienza-yliopistosta Roomasta ovat analysoineet epälineaaristen aaltojen – kuten roistoaaltojen ja solitonien – käyttömahdollisuuksia neuromorfisessa laskennassa.
Nämä aallot ovat vuorovaikutuksessa keskenään monimutkaisilla tavoilla, mikä tekee niistä luonnostaan sopivia neuroverkkoarkkitehtuurien suunnitteluun. Tutkijat pohtivat tapoja koodata informaatiota aaltoihin ja tarjoavat reseptejä, jotka voisivat ohjata aaltojen dynamiikkaa hyödyntävien koneoppimislaitteiden kehittämistä.
Neuroverkon välttämätön osatekijä on monimutkaisuus, jonka avulla järjestelmä voi approksimoida tiettyä funktiota tai oppia datajoukosta. Esimerkki tästä monimutkaisuudesta on se, miten syvä eteenpäin syöttävä verkko käsittelee informaatiota. Se koostuu syöttökerroksesta, piilokerroksista ja lähtökerroksesta. Syöttökerroksista lähtökerroksiin tieto etenee monimutkaisen piilotettujen "neuronien" järjestelmän kautta, jotka ovat kokonaan tai osittain yhteydessä toisiinsa.
Neuronien välisiä yhteyksiä luonnehditaan parametreilla eli "painoilla". Neuronit suorittavat lineaarisia ja epälineaarisia muunnoksia, jotka tuottavat epälineaarisen kuvauksen syötteen ja lähdön välille. Verkon optimointi koostuu harjoitusdatajoukon syöttämisestä siihen ja painojen säätämisestä halutun syötteiden ja lähtöjen välisen suhteen saavuttamiseksi. Informaationkäsittelyn epälineaarisuus on välttämätön edellytys sille, että verkosta tulee universaali approksimoija, mikä tarkoittaa, että se voi esittää mitä tahansa funktiota, kun sille annetaan sopivat painot.
Tehokkaampia neuroverkkoja
Yksi keino parantaa neuroverkkojen tehokkuutta on ottaa käyttöön neuromorfisia tekniikoita, jotka voivat tarjota erittäin nopeaa reaaliaikaista laskentaa alhaisilla energiakustannuksilla. Viimeaikaiset tutkimukset ovat osoittaneet neuromorfista laskentaa syvissä (monikerroksisissa) verkoissa, joissa on edustavia alustoja, jotka sisältävät koherentteja nanofotonisia piirejä piikikkäitä neuroneja ja aaltoja.
Mutta avoin ongelma syvien verkkojen neuromorfisessa laskennassa on parametrien optimointi. Syvät verkot vaativat useita yhteyksiä ollakseen riittävän monimutkaisia; siksi kouluttaminen vaatii yleensä paljon laskentatehoa. Näiden laskentavaatimusten vähentämiseksi tutkijat ovat ehdottaneet vaihtoehtoisia arkkitehtuureja, kuten säilölaskentaa (RC). Säilölaskennan verkon syöttö- ja piilosolmut alustetaan ja kiinteytetään satunnaisesti, kun taas vain lähtökerroksen painot on koulutettava.
Tämä lähestymistapa tekee optimoinnista tehokkaampaa kuin tavalliset arkkitehtuurit, mutta verkko säilyttää oppimiskompleksisuuden vaatimukset. Ehdotetut RC-neuromorfisten tekniikoiden mallit sisältävät optoelektronista teknologiaa, fotonisia onteloit ja fotonisia integroituja piirejä.
Miten olisi aaltodynamiikka?
Marcucci ja kollegat ovat nyt lisänneet tähän potentiaalisten säilölaskennan neuromorfisten tekniikoiden luetteloon ehdottamansa aaltodynamiikkaan perustuvan arkkitehtuurin.
He osoittavat mahdollisuuden rakentaa tekniikan, joka pystyy oppimaan keräämällä epälineaarisia aaltoja.
Epälineaariset aallot, kuten solitonit, hengittäjät ja roistoaallot, osoittavat erilaista käyttäytymistä ja tarjoavat riittävän monimutkaisuuden oppimismenetelmän kehittämiseksi. Ehdotettu arkkitehtuuri, jota kutsutaan yksiaaltoiseksi eteenpäin syöttäväksi verkoksi (SWFN), menee tavanomaista neuromorfista säilölaskentaa pidemmälle, koska säilö koostuu epälineaarisista aalloista satunnaisesti kytkettyjen piilosolmujen sijaan.
Toisin sanoen kytketyt keinotekoiset piiloneuronit on korvattu aalloilla, jotka vuorovaikuttavat luonnollisesti interferenssin kautta.
SWFN-arkkitehtuuri koostuu kolmesta kerroksesta (kuva): koodauskerroksesta, jossa tulovektori kirjoitetaan edustavien aaltojen joukon alkuperäiseen amplitudiin tai vaiheeseen; aaltosäilökerroksesta, jossa alkutila kehittyy epälineaarisen aaltoyhtälön mukaisesti; ja lukukerroksesta, jossa lähtö palautetaan aaltojen lopputilasta. Koska tämä verkko on säilölaskennan verkko, vain lukukerroksen painot tarvitsee kouluttaa.
Vaikka aaltodynamiikkaa on käytetty neuromorfisessa laskennassa, yleinen teoria, joka yhdistäisi epälineaariset aallot koneoppimiseen, puuttui. Marcucci ja työtoverit esittivät yleisen ja täsmällisen muotoilun, joka kuroi umpeen kuilun näiden kahden käsitteen välillä.
Mallijärjestelmässään tutkijat koodasivat syöttövektorin tasoaaltojen joukon alkutilassa ja esittivät aallon kehityksen säilökerroksessa epälineaarisella Schrödingerin yhtälöllä – mutta mikä tahansa epälineaarinen aaltodifferentiaaliyhtälö olisi toiminut. Itse asiassa mitä tahansa järjestelmää, jolle on ominaista epälineaarinen aaltodynamiikka, voidaan käyttää neuromorfisen epälineaarisen aaltolaitteen rakentamiseen. Yksinkertainen esimerkki olisi aaltoallas, jossa on useita aaltogeneraattoreita toisessa päässä ja aaltoilmaisimia toisessa päässä.
Yleisanalyysinsä perusteella tutkijat osoittivat, että oppimistilaan siirtymiseksi on täytettävä kaksi ehtoa. Ensinnäkin aaltojen kehityksen on oltava epälineaarista, koska lineaarinen kehitys estäisi SWFN:ää olemasta universaali approksimaattori. Toinen ehto yhdistää lähtökanavien määrän harjoitusdatan kokoon. Tarkemmin sanottuna lähtösolmujen määrän on oltava sama kuin harjoitusdatapisteiden määrä tulosolmua kohden, jotta SWFN voi approksimoida funktion tai oppia äärellisen datajoukon.
Marcucci ja kollegat esittelevät kolme erilaista koodausmenetelmää kolmen edustavan esimerkin kautta.
Ensinnäkin SWFN:ää käytetään approksimoimaan yksiulotteista funktiota, joka kuvaa binäärijonon aaltojen joukon alkuvaiheeseen. Toisessa esimerkissä neuromorfista laitetta pyydetään oppimaan kahdeksanulotteinen tietojoukko, joka on koodattu aaltojen alkuamplitudeihin.
Viimeisessä esimerkissä tutkijat osoittavat, että ehdotettua neuromorfista arkkitehtuuria voidaan käyttää Boolen logiikkaportteina, jotka toimivat kahdella binääritulolla. Kummassakin tapauksessa SWFN toimii yhtä hyvin kuin perinteiset neuroverkot, mikä varmistaa, että SWFN on todellakin universaali approksimoija, joka pystyy approksimoimaan mielivaltaisia funktioita ja oppimaan korkeaulotteisia tietojoukkoja.
Physics –lehden Viewpoint artikkelissaan Marios Mattheakis toteaa lopuksi; Neuroverkkoteknologia on nopeasti kasvava tieteenala, ja neuromorfinen laskenta voi tarjota energiatehokkaan tavan vastata teknologian laskentatarpeisiin. Marcucci ja kollegat ovat esittäneet reseptin neuromorfiselle neuroverkolle, joka käyttää epälineaarista aaltodynamiikkaa. Tämä pohjatyö avaa oven laajalle joukolle epälineaaristen aaltojen ilmiöitä elektroniikassa, polaritoniikassa, fotoniikassa, plasmoniikassa, spintroniikassa, hydrodynamiikassa, Bose-Einstein-kondensaateissa ja muissa.
Näiden aaltopohjaisten teknologioiden joukossa fotoniikka vaikuttaa erittäin lupaavalta, koska fotoniset materiaalit absorboivat vähän energiaa ja niistä voidaan muokata mikro- tai nanomittakaavan piirielementtejä. Fotonisen neuroverkon laskenta on valonnopeuden luokkaa, ja eri signaaleja voidaan koodata eri taajuuksilla, mikä mahdollistaa useiden laskelmien suorittamisen samanaikaisesti. Tällaisen potentiaalin ansiosta on helppo kuvitella neuromorfisten laitteiden ratsastavan näillä aalloilla kohti teknologisia ja insinööritaitoja lähitulevaisuudessa.
Helmikuu 2026
