Wie zich iedere week wil onderdompelen in de bruisende gedachtewereld van een een Nederlandse tijdgenoot, moet een abonnement nemen op de nieuwsbrief van Felienne Hermans. De nieuwsbrief is gratis en Felienne is hoogleraar Vakdidactiek van de informatica aan de VU Amsterdam, terwijl ze ook zelf een paar dagen in de week in het voortgezet onderwijs voor de klas staat. In de nieuwsbrief geeft ze iedere week uitvoerig commentaar op van alles en nog wat dat haar interesseert, of dat nu tot haar vakgebied hoort of niet. En misschien hoort wel alles tot haar vakgebied: een kritische blik op AI, reflecties op romans die ze gelezen heeft, feminisme. En taal.

Ik ken Felienne persoonlijk omdat we vorig jaar meededen in een ‘lerarenpanel’ in een tv-quiz op RTL. We deden zelf tijdens die uitzendingen ook altijd mee. Dat was voor spek en bonen, en de quiz ging over van alles en nog wat, maar Felienne won met haar verbijsterende algemene ontwikkeling iedere keer. Ik weet niet of ik ooit iemand heb ontmoet met zo’n gigantische algemene ontwikkeling.

Helaas spreek ik haar nu niet meer zo vaak, maar er is dus die nieuwsbrief, waar altijd wel iets in staat om me iedere week op te frissen met zo’n sprankelende geest. Niet dat ik het iedere week met haar eens ben. Vorige week schreef ze bijvoorbeeld over taal (meteen een voorproefje van haar stijl):

Eén van mijn favoriete denkers over taal is Wittgenstein, vooral omdat hij net als ik eerst in de wereld van de wiskunde en de logica woonde, en probeerde om taal en betekenis te vangen in formele logica. Na een uitstapje waarin hij leraar op een school werd in Oostenrijk (wat niet geweldig ging en waarbij hij lijfelijke straffen niet schuwde) kwam hij terug naar Cambridge met een totaal andere, veel menselijkere theorie over taal: het krijgt pas betekenis als het wordt gebruikt door mensen in een gemeenschap. Maar LLMs kunnen niet meedoen aan een gemeenschap en doen dus ook niet aan taal, maar alleen aan tekst. De betekenis die wij daaraan toekennen komt uit de ene mens die de LLM gebruikt.

Ik heb het idee dat Felienne de oudere Wittgenstein wel erg menselijk en sociaal maakt – ik probeer me voor te stellen hoe de oude Wittgenstein op de bewering zou hebben gereageerd dat hij zo menselijk geworden was – en dat de betekenis uniek gedragen werd door ‘mensen in een gemeenschap’ is ook wel wat, eh, kort gezegd.

Maar intrigerend vind ik vooral het zinnetje ‘LLMs kunnen niet meedoen aan een gemeenschap en doen dus ook niet aan taal, maar alleen aan tekst’. Ook dat zinnetje zou Wittgenstein mogelijk irriteren – ik denk niet dat hij gelukkig zou zijn met de poging om te zeggen dat taal dit of dat was en niet zus of zo –, maar er wordt kernachtig iets uitgedrukt dat ook andere kritische deskundigen van de AI-hype wel naar voren brengen. Goed, chatbots kunnen teksten produceren die niet te onderscheiden zijn van persberichten, interviews, of eventueel zelfs korte verhalen, maar het échte taalgebruik van de mens doet zich voor in het gesprek. De hele dag bouwen mensen samen kasteeltjes van betekenis, die we gesprekken noemen.

Chatbots zijn geen mensen. Chatbots zijn tekstmachines. Echte mensen praten.

Het gevaar van die houding lijkt me dat je in een soort menszijn van de gaten vervalt. In de theologie heb je het idee dat God in de gaten verkeert: alles wat we niet echt begrijpen is een bewijs voor het bestaan van God. Dat maakt God naarmate onze kennis toeneemt (ah, zó werkt de bliksem! ah, zó kunnen mensen nieuwe mensen maken!) steeds kleiner wordt.

Dat gevaar zie ik ook bij dit soort argumenten wel. Tot een paar jaar geleden was het schrijven van een overtuigende tekst nog een belangrijke onderscheidende karakteristiek van de mens. Nu de computer dat ook kan, is het niet menselijk meer. Maar hoe weten we dat de moeilijkheden van het voeren van een gesprek voor de computer niet vooral erin gelegen zijn dat er niet miljarden gedigitaliseerde gesprekken zijn waarop die dingen getraind kunnen worden?

Hopelijk kunnen we daar binnenkort over lezen in Feliennes nieuwsbrief.