Hoe werkt een neuraal netwerk?
Een netwerk heeft een invoerlaag, een of meer verborgen lagen en een uitvoerlaag. De knooppunten in de verborgen lagen heten neuronen. Elk neuron vermenigvuldigt elke invoer met een eigen gewicht, telt alles op en voegt er nog een getal aan toe: de bias. De uitkomst gaat door een activeringsfunctie en daarna naar de volgende laag.
Die activeringsfunctie maakt het verschil. Zonder zo’n niet-lineaire stap blijft het netwerk een lineair model, hoeveel lagen je ook toevoegt. Met die stap leert elke laag een complexere functie van de ruwe invoer. Een veelgebruikte activeringsfunctie is ReLU. Die maakt van elke negatieve waarde een nul en laat positieve waarden staan.
Het netwerk leert van voorbeelden. Het vergelijkt elke voorspelling met het juiste antwoord. Met backpropagation past het daarna de gewichten aan, zodat de fout kleiner wordt. Heeft een netwerk meer dan één verborgen laag, dan heet het een diep neuraal netwerk, de basis van deep learning.
Een rekenvoorbeeld: tuincentrum De Groene Vinger uit Lisse wil voorspellen of een bezoeker iets koopt. Een neuron krijgt twee invoerwaarden: 6 bekeken pagina’s en 4 minuten op de site. Het gewicht voor pagina’s is 0,5, voor minuten 0,2 en de bias is -1. Dat geeft 6 × 0,5 + 4 × 0,2 – 1 = 2,8. ReLU laat 2,8 staan, want de waarde is positief. Tijdens de training schuift het netwerk met die gewichten, zodat de voorspellingen steeds beter aansluiten bij echte aankopen.
Welke soorten neurale netwerken zijn er?
- Convolutionele netwerken (CNN): zorgden voor doorbraken in het verwerken van beeld, video, spraak en audio.
- Recurrente netwerken (RNN): geschikt voor gegevens in een volgorde, zoals tekst en spraak.
- Transformer: een architectuur die Google ontwikkelde. Een Transformer werkt met self-attention en heeft geen convoluties of recurrente netwerken nodig. Grote taalmodellen zoals Gemini en GPT zijn erop gebouwd.
Ook Google Zoeken draait deels op neurale netwerken. Sinds 2018 gebruikt Google neural matching om beter te begrijpen hoe zoekopdrachten en pagina’s met elkaar samenhangen. Meer over taalmodellen lees je in het artikel over large language models.
Waarom kregen neurale netwerken een Nobelprijs?
John Hopfield en Geoffrey Hinton werkten vanaf de jaren tachtig aan kunstmatige neurale netwerken. Op 8 oktober 2024 maakte de Koninklijke Zweedse Academie van Wetenschappen bekend dat ze de Nobelprijs voor Natuurkunde kregen. Ze kregen de prijs voor fundamentele ontdekkingen die machine learning met kunstmatige neurale netwerken mogelijk maken.
Hopfield bedacht een netwerk dat beelden en andere patronen kan opslaan en weer kan reconstrueren. Hinton bouwde daarop voort met de Boltzmann-machine. Die leert kenmerkende elementen in een bepaald type data herkennen. Volgens de Academie hielp Hinton zo de huidige snelle ontwikkeling van machine learning op gang te brengen.
Verwar neurale netwerken niet met
- Biologische neurale netwerken: de echte zenuwcellen in je hersenen. Een kunstmatig netwerk leent alleen het idee: knooppunten staan voor neuronen en verbindingen voor synapsen.
- Neuromarketing: onderzoek naar hoe het menselijk brein op reclame en merken reageert. Dat gaat over echte hersenen, niet over computermodellen.
Veelgestelde vragen over Neurale netwerken
Lijkt een neuraal netwerk echt op het brein?
Alleen losjes. De techniek is oorspronkelijk geïnspireerd op de hersenen. Knooppunten spelen de rol van neuronen, verbindingen die van synapsen. Verder is het rekenwerk met gewichten en functies.
Wat is het verschil tussen een neuraal netwerk en deep learning?
Een neuraal netwerk heeft minstens één verborgen laag. Deep learning gebruikt netwerken met meer dan één verborgen laag. Elk deep-learningmodel is dus een neuraal netwerk, maar niet andersom.
Wie kreeg de Nobelprijs voor neurale netwerken?
John Hopfield en Geoffrey Hinton kregen in 2024 de Nobelprijs voor Natuurkunde. De prijs ging naar hun ontdekkingen die machine learning met kunstmatige neurale netwerken mogelijk maken.