Maailman ensimmäinen tekoälyprosessori

Vaikka ChatGPT:n kaltaiset laajat kielimallit (LLM) osaavat vastata taitavasti lukemattomiin kysymyksiin, ne ovat usein tietämättömiä käyttäjän pienimmistä tavoista tai aiemmista keskusteluyhteyksistä. Tästä syystä tekoäly voi, vaikka se onkin syvästi integroitunut jokapäiväiseen elämäämme, silti tuntua "muukalaiselta".

Näiden rajoitusten voittamiseksi KAIST:n tutkijat ovat kehittäneet maailman ensimmäisen puolijohteisen tekoälypiirin, nimeltään "SoulMate", joka oppii ja mukautuu käyttäjän puhetyyliin, mieltymyksiin ja tunteisiin reaaliajassa – ja hänestä tulee todellinen "digitaalinen sielunkumppani".

SoulMaten ydin on laitteen sisäinen tekoälyteknologia, joka käsittelee dataa suoraan laitteella ilman ulkoisten palvelimien (pilvipalvelun) kautta kulkemista.

Tiimi otti käyttöön suoraan puolijohteessa Retrieval-Augmented Generationin (RAG), joka generoi räätälöityjä vastauksia muistettujen keskustelujen perusteella, ja Low-Rank Adaptationin (LoRA) , joka heijastaa ja oppii välittömästi käyttäjäpalautteesta.

Lisäksi tiimi käytti Mixed-Rank-arkkitehtuuria , joka optimoi prosessointimenetelmät informaation tärkeyden perusteella ja vähentää merkittävästi virrankulutusta.

Erityisesti SoulMate-laitteessa on myös "Security-Complete AI" -rakenne, jossa kaikki henkilötiedot käsitellään laitteen sisällä sen sijaan, että niitä lähetettäisiin ulkoisille palvelimille, mikä estää olennaisesti henkilökohtaisten tietojen vuotamisen riskin.

SoulMate on valmistettu 28 nm:n CMOS-tekniikalla ja siinä on uudenlainen seka-arvoinen token-prosessointi ja samankaltaisuustietoinen sekvenssiprosessointiarkkitehtuuri. Se mahdollistaa reaaliaikaisen käyttäjän vuorovaikutuksen kuluttamalla vain 9,8–180,5 mW tehoa ja huippuluokan energiatehokkuuden, kuten 26,3 μJ/token päättelyssä ja 56,8 μJ/token hienosäädössä.

”Tämä tutkimus jäljittelee ihmisten ystävyyssuhteiden rakentamista ja tarjoaa teknisen perustan tekoälyn kehittymiselle käyttäjän todelliseksi kumppaniksi”, sanoo professori Hoi-Jun Yoo . ”Tulevaisuuden tekoäly ei ole pelkkä työkalu, vaan siitä tulee ’parhain ystävä’, joka ymmärtää minua parhaiten milloin ja missä tahansa ja suojaa samalla täydellisesti yksityisyyttäni.”

Tutkimus, jonka ensimmäisenä kirjoittajana toimi tohtoriopiskelija Seongyon Hong , valittiin "Highlight Paperiksi" San Franciscossa viime helmikuussa pidetyssä kansainvälisessä puolijohdepiirien konferenssissa (ISSCC), ja se herätti merkittävää huomiota maailmanlaajuisessa akateemisessa yhteisössä.

Aiheesta aiemmin:

Tekoälyn tulevaisuus riippuu laitteistoinnovaatioista