‘Category Theory for Neuroscience (pure math to combat scientific stagnation)’ – zo’n titel werkt voor mij als click bait. Pure wiskunde! Categorietheorie! Neurowetenschap! Wetenschappelijke stagnatie bestrijden!

De spreker is Alexander Maier, een Amerikaanse psycholoog – zo te zien niet de allergrootste ster op het gebied, maar ook geen kleine jongen. Toch is het een wat wonderlijke lezing. Hij begint met aan te tonen dat de neurowetenschap – net als veel andere takken van wetenschap – in een impasse lijkt te verkeren: de grote ontdekkingen komen bijna allemaal uit de jaren vijftig en zestig, en sindsdien is er in de techniek van alles gebeurd, maar in ons inzicht veel minder. Zijn oplossing daarvoor: inspiratie opdoen in de wiskunde.

Hij neemt dan vervolgens zo’n beetje de abstractste tak van wiskunde die er bestaat: categorietheorie wordt wel ‘de wiskunde van de wiskunde’ genoemd, de studie van generalisaties over verschillende wiskundige deelgebieden: wat hebben bijvoorbeeld topologie en verzamelingenleer met elkaar gemeen. Hij legt bepaalde aspecten van die theorie uit – niet onverdienstelijk, voor zover ik dat kan beoordelen, en komt daarbij zelfs uit bij het Lemma van Yoneda.

Hij vat dat toch behoorlijk abstracte idee vervolgens enigszins huiselijk samen als dat de identiteit van een object puur wordt bepaald door de relaties die dat object heeft met andere objecten. Als je een ‘ander’ object zou creëren met precies dezelfde relaties met precies dezelfde andere objecten – dan zou dat helemaal geen ‘ander’ object zijn. Neem een persoon die precies dezelfde ouders heeft als ik, en precies dezelfde kinderen, en vrienden, en collega’s – en je hebt mij.

Vervolgens wendt hij zich tot een oud probleem in het onderzoek naar bewustzijn: hoe weten we dat jij de wereld hetzelfde ervaart als ik? Hoe kunnen we bijvoorbeeld zeker weten dat wat ik als rood zie, jij niet als groen ziet? Met andere woorden dat alles wat wij samen ‘rood’ noemen, in jouw hoofd er niet uitziet zoals groen er in mijn bewustzijn uitziet? Omdat we ons allebei op precies dezelfde manier gedragen, precies dezelfde stoffen en verven rood zullen noemen, komen we daar nooit achter?

Of wel? We weten dat het kleurenspectrum in perceptie een bepaalde vorm aanneemt. De MacAdam-ellips laat zien welke kleurschakeringen in het spectrum door het menselijk oog als hetzelfde worden ervaren:

Het kleurenspectrum is met andere woorden niet symmetrisch: groenachtige kleuren bezetten een groter gebied dan niet-groenachtige kleuren.

En nu komt het: als we het Lemma van Yoneda erbij pakken, dan zeggen we dat rood en groen zich verhouden tot andere kleuren; maar dan kun je rood en groen niet omwisselen, want in een spectrum als het bovenstaande krijg je dan heel andere verhoudingen. Zegt Maier.

Er lijkt me nog steeds wat op af te dingen, want het gaat bij dit probleem natuurlijk per definitie om de kwaliteit van wat je ziet, en die valt nu juist buiten de relaties met andere kleuren. Maar vooral is die hele categorietheorie misschien wel een beetje overkill, voor zover ze uberhaupt hierop van toepassing is.

De rood-groenkwestie is natuurlijk vooral (of zelfs uitsluitend) een taalkwestie: hoe weten we dat jij niet rood noemt wat ik groen noem en omgekeerd? En het taalkundige antwoord op die vraag is al heel lang – lang voor categorietheorie, en ruim voor de geboorte van Nobuo Yoneda (1930-1996): het structuralisme. In zijn in 1916 verschenen Cours de linguistique générale schreef hij de beroemd geworden woorden “dans la langue, il n’y a que des différences”, de taal bestaat geheel uit verschillen. De klinker a is alleen een a in de manier waarop hij verschilt van de andere klinkers (de aa is lager in de mond), het woord rood wordt gedefinieerd als de kleur die niet groen is, niet blauw, niet geel, enz. Geen enkel taalelement heeft op zich betekenis, was het inzicht van Saussure, maar altijd in relatie tot andere woorden. De taal als geheel is een systeem, en een klank, een woord of een zinsconstructie functioneert alleen binnen dat systeem.

Dit lijkt me precies het inzicht dat Maier wil uitdrukken. Hij heeft gelijk dat we de wetenschappelijke stagnatie kunnen oplossen door niet alleen maar eindeloos te meten, maar door eens stil te staan en verschillende inzichten te incorporeren. Dat kunnen alleen net zo goed inzichten uit de taal- als uit de wiskunde zijn.

Iemand die – in dit geval langs de wiskundige weg – tot een soortgelijke conclusie komt is Tai-Danae Bradley. Zij wordt hieronder uitvoerig bevraagd over wat categorietheorie precies is en hoe het volgens haar verband houdt met de grotetaalmodellen die ten grondslag liggen aan moderne chatbots:

Volgens Bradley is een van de interessante wiskundige aspecten van de taalmodellen dat zij gebaseerd zijn op enorme verzamelingen tekst. Deze zijn op twee manieren gestructureerd. De eerste noemt ze algebraïsch: elementen kunnen met elkaar gecombineerd worden, in dit geval door ze achter elkaar te zetten. Van oranje en stoplicht kunnen we oranje stoplicht maken. Daarnaast is er een andere dimensie namelijk de statististiek, in het bijzonder waarschijnlijkheid waarmee woorden in elkaars nabijheid kunnen verkeren: oranje is waarschijnlijker in de context van stoplicht of vrucht dan van pakweg idee.

Het combineren van verschillende wiskundige dimensies – in dit geval algebra en statistiek –, dat is precies waar categorietheorie goed in is. Bradley heeft daar zelfs haar proefschrift over geschreven, waarin ze een en ander overigens specifieker toepaste op de kwantummechanica (ook daarin kun je enerzijds deeltjes combineren op een algebraïsche manier, terwijl statistiek ook een rol speelt).

Waar Bradley tot een soortgelijke conclusie komt als Maier is dat ze denkt dat in het bijzonder zoiets als het Yoneda Lemma van toepassing is op de semantiek van woorden: die wordt bepaald door het contrast met andere woorden.

Maar dat is dus een structuralistische gedachte, die nu kennelijk wiskundige onderbouwing krijgt en op die manier opnieuw vorm krijgt.