Innovatie & Strategie

Artificial Intelligence
neural network

'Logge chipindustrie remt introductie revolutionaire technologieën'

Neurale netwerken kunnen veel zuiniger én sneller werken.

Grafische representatie van een neuraal netwerk © Shutterstock Maxger
9 maart 2022

Neurale netwerken kunnen veel zuiniger én sneller werken.

Analoge verwerking gaat voor een revolutie zorgen in nieuwe generaties neurale netwerken. Het Belgische onderzoekscentrum imec op de campus van de Universiteit Leuven maakt al met succes chipontwerpen waarmee ze de voordelen demonstreren. Maar nu moet de chipindustrie het vertrouwen krijgen dat het echt werkt.

Vorige week nog kondigde imec samen met de KU Leuven de DIANA-chip aan die analoge en digitale verwerking kan combineren, om zo heel efficiënt het beste uit twee werelden te kunnen halen. Eind vorig jaar presenteerde het onderzoekscentrum een chip (μBrain) die spiking neural networks implementeert, ofwel een neuraal netwerk dat asynchroon werkt - dus zonder klok - en expliciet rekent met 'spikes' (signaalpieken) in de tijd, naar analogie met biologische neurale structuren.

De technologie van beide chips is heel verschillend maar ze zijn beide gericht op toepassingsgebieden waar een lage latency en een beperking van het energieverbruik belangrijk zijn. Het DIANA-ontwerp is gebaseerd op 'in memory computing' en zal vooral zijn kracht kunnen tonen als bouwblokje of toevoeging aan chips (Neural Processing Units of NPU's) die worden ingezet bij massaal parallelle in verwerking in edge computing, bijvoorbeeld om een robotarm aan te sturen of om snel beelden te kunnen verwerken in een drone.

Spiking neural networks zullen juist in heel klein format hun weg vinden naar bijvoorbeeld event based camera's die pas hun opname starten op het moment dat een pixel in de beeldchip een specifieke beweging waarneemt.

Nauwkeurigheid speelt minder een rol

"Bij imec maken we geen producten maar een proof of concept", zegt Axel Nackaerts, Program Manager Artificial Intelligence bij imec, op de vraag wanneer we nu deze nieuwe technologie daadwerkelijk in de praktijk gaan zien. "Wij leveren IP [Intellectual Property, red.] en vervolgens is er een uitgebreid ecosysteem aan chipbedrijven van startups tot hele grote jongens die met zo'n idee aan de slag moeten gaan."

En daarbij zijn nog wel wat hobbels te nemen. Een heel banale is dat 'analoge verwerking' zijn naam niet meeheeft. "Analoog heeft nog altijd de bijklank dat het niet betrouwbaar is", zegt Nackaerts. "Digitaal is altijd heel precies en analoog is intrinsiek minder nauwkeurig. Maar juist bij neurale netwerken maakt die nauwkeurigheid eigenlijk niet meer zoveel uit. Je maakt miljoenen berekeningen en daar komt uiteindelijk één getal uit als resultaat. Als één van de miljoenen berekeningen slechts bij benadering juist is, valt dat weg in het geheel. Bovendien kun je per laag in het neurale netwerk zien hoeveel ruis deze kan verdragen."

Analoog waar het kan

Nackaerts heeft het dan over de DIANA-chip die de analoge verwerking vooral kan inzetten in het begin van het neurale netwerk. "Een neuraal netwerk gaat vaak van groot naar klein. In het begin doe je heel veel parallelle verwerking. Analoge verwerking gaat dan heel snel en is heel energie-efficiënt. De latere berekeningen zijn minder tolerant en daar maakt het ook niet uit of ze iets trager zijn. Daarom is het zo belangrijk die opsplitsing te kunnen maken in zo'n combinatie van analoog en digitaal op een chip."

Hij rekent voor dat de DIANA-chip op 'core-niveau' wel een 1000 maal hogere efficiëntie kan bereiken dan een vergelijkbare digitale chip. Neem je alle bijkomende processen erbij en kijk je naar de snelheid van berekeningen, dan komt de DIANA-chip toch nog altijd op een factor 100 efficiencywinst uit.

Een ander probleem is dat  in de chipindustrie maar zelden zo'n sprong in prestaties wordt gemaakt. De meeste verbeteringen gaan in heel kleine stapjes. De industrie is log en conservatief en daarom is er wantrouwen bij zo'n vernieuwing. Er moet eerst vaak en keihard worden aangetoond dat het werkt, voordat de mensen die de beslissingen nemen, worden overtuigd.

"We merken echter dat er wel interesse is, en dan met name vanuit bedrijven die echt met NPU's aan het werk zijn." Dat zijn vaak niet de klassieke CPU- en GPU-producenten, maar juist de startups of de grote cloudbedrijven die er steeds meer aan gewend raken hun eigen chips te ontwerpen specifiek voor doeleinden die zich in de heel grote datacentra voordoen. Nackaerts: "Daardoor is een openheid van geest ontstaan waardoor architecturen mogelijk worden die nog zelden gezien zijn."

Consolidatie op komst

"Ik denk dat je het een beetje kan vergelijken met de grafische sector in begin jaren 90", zegt Nakaerts. "Je had toen enorm veel producenten van grafische kaarten met ieder hun eigen software-ecosystemen. Er waren bijvoorbeeld de Voodoo-kaart en de eerste Nvidia-kaart die volstrekt niet compatibel waren. We zitten met neurale netwerken ook nog in die fase. Er is een heel breed scala aan oplossingen, net als aan softwaretools. Die eerste consolidatieslag moet nog plaatsvinden."

Nackaerts ziet het wel als een voordeel dat voor dit soort analoge chips op technologisch vlak niets bijzonders nodig is. "Dat zou de toepassing in de markt veel moeilijker maken." Het proof-of-concept moet nu overgenomen worden door partijen die het verwerken in chipontwerpen en dan kunnen ze gewoon door de reguliere foundries in massaproductie worden genomen.

Voor het zover is, duurt nog wel even, denkt Nackaerts. "Om van een PoC te komen tot een product duurt doorgaans wel twee tot drie jaar. Het belangrijkste is nu vertrouwen winnen dat het werkt. Dan kan het ook wel heel snel gaan, zeker als een grote groep spelers in de startupmarkt het concept oppikt."

Beweging ooglid in kaart

Voor de spiking neural network (SNN)-chips ligt het misschien wel net iets anders, zegt Ilja Ocket die zich bij imec heeft gespecialiseerd in neuromorphic sensortechnologie. "Er zijn nu al wel niche-toepassingen van SNN, bijvoorbeeld in de genoemde event based camera's. Maar dat kan je nog geen grote doorbraak noemen. Er is nog een technisch probleem om aan te tonen dat de algoritmen echt beter werken. Dat is de bottom line. Zodra dat bewijs er is, zijn er toepassingen mogelijk in heel veel sensoren. Denk bijvoorbeeld aan camera's in de auto die in het halfdonker ooglidbewegingen kunnen detecteren om te bepalen of iemand nog wel alert is achter het stuur. "

Reactie toevoegen
De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.