Spiking neurale netwerken kunnen AI dichter naar de mens brengen

Onderzoekers van het CWI zetten een belangrijke stap gezet naar kunstmatige intelligentie (AI) die kan worden gebruikt in lokale apparaten zoals smartphones en in VR-achtige toepassingen, terwijl tegelijkertijd de privacy is beschermd. Hersenachtige neuronen in combinatie met nieuwe leermethoden maken het mogelijk om snelle en energie-efficiënte spiking neurale netwerken op grote schaal te trainen.

Het onderzoek is het werk van CWI-onderzoekers Bojian Yin en Sander Bohté. Zij presenteren de resultaten van hun studie in Nature Machine Intelligence. De ontwikkeling opent volgens het CWI de deur naar potentiële toepassingen variërend van draagbare AI tot alomtegenwoordige spraakherkenning en Augmented Reality.

Van spraakherkenning tot drone-navigatie

Kunstmatige neurale netwerken vormen de ruggengraat van de huidige AI-revolutie. Maar ze zijn slechts losjes gebaseerd op netwerken van echte, biologische neuronen zoals onze hersenen. Het menselijk brein omvat een veel groter netwerk, is veel energie-efficiënter en kan ultrasnel reageren wanneer het door externe gebeurtenissen wordt geactiveerd.

Spiking neurale netwerken zijn een speciaal soort kunstmatige neurale netwerken die de werking van ons brein dichter benaderen. Zo zijn zij in staat de werking van biologische neuronen beter na te bootsen. Net als hun biologische tegenhanger communiceren spiking neurale netwerken door het uitwisselen elektrische pulsen. Dit zonder daarbij een grote hoeveelheid energie te gebruiken.

AI-programma’s dichter bij de gebruikers brengen

Als het lukt om spiking neurale netwerken in een chip te integreren (neuromorfe hardware genoemd), kun je AI-programma’s dichter bij de gebruikers brengen op hun eigen apparaten. Denk hierbij aan smartphones, tablets en smartwatches. Het CWI noemt dergelijke lokale oplossingen gunstig voor de privacy, de robuustheid en het reactievermogen van deze programma’s. Het voorziet toepassingen variërend van spraakherkenning in speelgoed en apparaten, bewaking van de gezondheidszorg en drone-navigatie tot lokale surveillance.

Net als ‘gewone’ kunstmatige neurale netwerken moeten spiking neurale netwerken worden getraind voor het goed uitvoeren van hun taken. De communicatie tussen dergelijke netwerken vormt echter een serieuze uitdaging. “De algoritmen die hiervoor nodig zijn, vergen veel computergeheugen, waardoor we meestal alleen kleine netwerkmodellen kunnen trainen voor kleinere taken. Dit houdt tot nu toe veel praktische AI-toepassingen tegen”, licht Bohté van CWI’s Machine Learning-groep toe.

Het lerende brein nabootsen

Deze algoritmen kunnen het leervermogen van ons brein niet evenaren, melden de onderzoekers. Zo leren de hersenen direct van nieuwe ervaringen door het veranderen van verbindingen of zelfs creëren van geheel nieuwe verbindingen. De menselijke hersenen hebben hiervoor veel minder voorbeelden nodig en werken energie-efficiënter. “We wilden iets ontwikkelen dat dichter ligt bij de manier waarop onze hersenen leren”, zegt Yin.

Als je tijdens een rijles een fout maakt, leer je daar meteen van. Je corrigeert je gedrag terwijl je aan het rijden bent, en niet een uur later. Yin licht toe: “Je leert als het ware terwijl je de nieuwe informatie in je opneemt. Wij wilden dat nabootsen door elke neuron van het neurale netwerk een stukje informatie te geven dat voortdurend wordt bijgewerkt. Op die manier leert het netwerk hoe de informatie verandert, en hoeft het niet alle eerdere informatie te onthouden. Dit is het grote verschil met de huidige netwerken, die met alle voorgaande veranderingen moeten werken. De huidige manier van leren vergt enorme rekenkracht, en dus veel geheugen en energie.”

Zes miljoen neuronen

Het nieuwe leeralgoritme maakt het mogelijk om direct van de data te leren. Dit maakt veel grotere spiking neurale netwerken mogelijk. Samen met onderzoekers van de TU Eindhoven en onderzoekspartner Holst Centre demonstreerden Bohté en Yin dit in een systeem dat is ontworpen voor het herkennen en lokaliseren van objecten. Voor hun studie gebruikten ze real time beelden van een drukke straat in Amsterdam. Het onderliggende spiking neurale netwerk, SPYv4, is getraind in het onderscheiden van fietsers, voetgangers en auto’s en precies aangeven waar zij zich bevinden.

“Voorheen konden we neurale netwerken trainen met maximaal 10.000 neuronen, met het huidige algoritme kan dat vrij eenvoudig bij netwerken met meer dan zes miljoen neuronen”, zegt Bohté. “Daardoor kunnen we geavanceerde spiking neurale netwerken trainen, zoals onze SPYv4.”

Toekomst

“Nu we zulke krachtige AI-oplossingen hebben op basis van spiking neurale netwerken, worden er chips ontwikkeld die deze AI-programma’s kunnen draaien en daarbij zeer weinig energie verbruiken”, legt Bohté uit. De onderzoekers verwachten dat de netwerken uiteindelijk hun weg vinden naar tal van slimme apparaten. Denk hierbij aan gehoorapparaten, maar ook aan virtual reality-brillen.

Auteur: Wouter Hoeffnagel
Foto: Pixabay / Seanbatty