Wat betekenen de woorden die chatbots gebruiken? Betekenen ze wel iets? Dat roept de filosofische vraag op wat betekenen precies, eh, betekent. Wat betekent, pakweg, de zin ‘de kat ligt te slapen’ om te beginnen als een mens hem gebruikt? Meestal gaan we ervan uit dat de betekenis ligt in de relatie tussen die zin en de werkelijkheid om ons heen. In die zin bevindt zich kennelijk een zoogdier met snorharen en als dat beest rustig ademhaalt noemen we de zin waar.

Nu kunnen chatbots geen relatie leggen met de werkelijkheid. Zij kennen die werkelijkheid alleen middels de data die aan hen is gevoerd: taal en misschien foto’s en filmpjes, maar niet de werkelijkheid waarin jij nu met een koffie in de hand ongelovig naar je beeldscherm zit te staren. Ik heb je wel in de gaten! Ze hebben ook helemaal geen zin om ons iets over die werkelijkheid mede te delen of op de mouw te spelden. Ze hebben vermoedelijk helemaal geen zin, ze rijgen de woorden aan elkaar volgens een statistische berekening.

Incompleet

De filosoof Matthew Mandelkern en de taalkundige Tal Linzen vertellen in een nieuw artikel in het tijdschrift Computational Linguistics de volgende gebeurtenis om de kwestie te verduidelijken. Stel, je ligt op het strand en voor je loopt een groep mieren in een stoet zigzag door het zand. Ineens valt je op dat als je door je oogharen kijkt de mierenstoet een serie letters vormt: “Peano bewees dat de aritmetica incompleet is”. Tegelijkertijd voel je je telefoon trillen: een bericht van je vriend Lucas die een cursus filosofie doet en je zijn laatste bevinding stuurt: “Peano bewees dat de aritmetica incompleet is”.

Het is nu redelijk om te zeggen dat de tekens van de mieren niets betekenen. Je kunt er natuurlijk als mens van allerlei betekenis in leggen (als mens kun je nu eenmaal overal betekenis in leggen), maar de mieren bedoelen niets en de ‘letters’ die ze maken zijn toevallige patronen. Tegelijkertijd betekent het bericht van Lucas wel degelijk wat, en wel iets wat nota bene niet waar is, want het was Gödel die bewees dat de aritmetica incompleet is, niet Peano.

Persoon

Zijn chatbots nu meer als die mieren of meer als Lucas?

Op het eerste gezicht zou je die mieren kiezen: die chatbots weten immers ook niet wat ze doen. Maar Mandelkern en Linzen zetten wel wat kanttekeningen bij die gedachte.

Stel, zeggen ze, dat Lucas echt een totale beginner is in de wiskundige filosofie. Van die hele Peano heeft hij nog nooit gehoord, maar wel meent hij – ook nog eens onterecht – te hebben opgevangen wat die Peano heeft gedaan voor het incompleetheidsbewijs. Hij weet dus eigenlijk niets over Peano, het enige dat hij meent te weten is onjuist. Toch zou je zeggen dat zijn zin wel iets betekent, en wel iets dat onwaar is. Het is dus niet nodig om over kennis te beschikken om te kunnen verwijzen: Lucas zal weten dat Peano een persoon is (omdat alleen personen in de twintigste eeuw wiskundige bewijzen leverden), maar dat weet een chatbot ook. Of in ieder geval zal een chatbot over Peano vertellen dat hij een persoon was, en een Italiaan, en een wiskundige, en wat niet al.

Externalisme

Mandelkern en Linzen hangen de idee aan dat een woord betekenis krijgt door het gebruik in een bepaalde taalgemeenschap. Ooit is er iemand geweest die voor het eerst een bepaald nattig goedje aanduidde als water. Iedere keer dat er daarna water werd gebruikt binnen de taalgemeenschap, borduurde de spreker voort op dat gebruik en al het eerdere gebruik. Dat voortborduren, dat is de betekenis. Als Lucas ons vertelt dat Peano de incompleetheidsstelling bewees, komt dat doordat hij ergens in de taalgemeenschap de naam Peano heeft opgepikt, en de betekenis van die naam is de man die oorspronkelijk zo heette en alle verhalen die er sinds die tijd over hem de rondte doen. Dat Lucas daar allemaal geen weet van heeft is minder belangrijk.

Deze opvatting over betekenis heet externalisme: de betekenis van woorden, het verband tussen het woord en het ding waarnaar het verwijst, wordt niet binnen het hoofd van de taalgebruiker gelegd, maar daarbuiten, in de taalgemeenschap en haar geschiedenis.

Maar als dat zo is, is dus de vraag of we de chatbots, anders dan de wandelende mieren, kunnen beschouwen als leden van de taalgemeenschap. Ze hebben hun kennis over de taal in ieder geval opgedaan door enorm veel teksten van die taalgemeenschap tot zich te nemen, en bovendien treden ze op een bepaalde manier ook met ons in gesprek. Dat alles geldt niet voor de mieren. En in die zin zou je dus kunnen zeggen dat de chatbots volgens zo’n externalistische opvatting wel degelijk woorden en zinnen voortbrengen die iets betekenen. Als de chatbot over Peano begint, houdt dat uiteindelijk op een bepaalde manier verband met de Italiaan die ooit zo heette.

Deel geworden

Stel je voor, zeggen Mandelkern en Linzen, dat iemand geboren wordt in een afgesloten en geheel lege ruimte en daar haar hele leven verblijft. Alle interactie met de rest van de wereld gebeurt via beeldschermen – op die manier leert ze alles kennen, en ze leert ook alleen praten door te teamsen. Uiteindelijk kan ze dus wel praten, en we zouden zeggen dat de zinnen die ze uit ook wel wat betekenen, ook al heeft ze nog nooit in het echt een kat zien liggen slapen.

Je zou de chatbots ook zo kunnen zien, als taalmachines die weliswaar op grote afstand staan van de werkelijkheid en daar niet echt contact mee hebben, maar die wel op een bepaalde manier deel zijn geworden van de taalgemeenschap van mensen en daaraan de betekenis ontlenen die ze aan hun woorden geven.