• Door naar de hoofd inhoud
  • Skip to secondary menu
  • Spring naar de eerste sidebar
  • Spring naar de voettekst
Neerlandistiek. Online tijdschrift voor taal- en letterkunde

Neerlandistiek

Online tijdschrift voor taal- en letterkundig onderzoek

  • Over Neerlandistiek
  • Contact
  • Homepage
  • Categorie
    • Neerlandistiek voor de klas
    • Vertelcultuur
    • Naamkunde
  • E-books
  • Neerlandistische weblogs
  • Archief
    • 10 jaar taalcanon
    • 100 jaar Willem Frederik Hermans
  • Jong Neerlandistiek
  • Frisistyk
  • Mondiaal

Voor chatbots is alles taal en dat is een probleem

17 november 2023 door Marc van Oostendorp 1 Reactie

Hoe nu verder met kunstmatige intelligentie. Het is inmiddels bijna een jaar geleden dat de wereld werd opgeschrikt door de komst van ChatGPT. Sindsdien zijn er vooral veel concurrenten van dat systeem bijgekomen. Die zijn ook allemaal wel iets beter geworden, maar enorme stappen lijken er vooralsnog niet gezet.

In een interessante lezing zette de Amerikaanse informaticus Thomas Dietterich deze zomer enkele redenen op een rij. Wat kunnen we er bijvoorbeeld aan doen dat die chatbots voortdurend van alles verzinnen? Als ze geen antwoord weten op een vraag, bedenken ze een antwoord, en brengen dat vol overtuiging, zodat de gebruiker niet eens weet wanneer hij nu op het systeem kan vertrouwen. Zelfs experimentele taalmodellen, zo laat Dietterich zien, die expliciet geïnstrueerd worden om gebruik te maken van erkend betrouwbare bronnen, wijken vaak toch nog af van die bronnen, terwijl ze wel doen alsof ze deze gebruiken.

Een bijzonder interessant inzicht haalde hij daarbij uit een wetenschappelijk artikel van een groep informatici en taalkundigen: het probleem van de huidige modellen is dat ze alle kennis in één grote goulash stoppen.

De menselijke geest lijkt tot op zekere hoogte modulair te werken. Er zijn een aantal van elkaar afgebakende domeinen van kennis, zoals logisch redeneren (‘alle mensen zijn sterfelijk, Socrates is een mens, dus Socrates is sterfelijk’), kennis van de wereld (‘als je een glas in je hand hebt en je laat los, valt het glas waarschijnlijk kapot op de grond’), begrip van wat de gesprekspartner van je wil (‘ze vraagt waar ze een batterij kan kopen, en dan bedoelt ze waarschijnlijk alleen locaties die hier in de buurt zijn en niet een uitputtende lijst van alle plekken op de wereld’) en kennis van hoe de taal werkt (‘Gerard lezen de boek is geen grammaticaal Nederlands’).

Het probleem van de huidige chatbots is dat er geen enkel schot zit tussen al de vormen van kennis. Het enige wat ze leren is hoe grote verzamelingen menselijke teksten in elkaar zitten, en hoe ze deze kunnen nabootsen. Alle logica, of alle begrip van hoe de wereld in elkaar zit, is daar óók van afgeleid, en is bovendien helemaal verweven met die taalkundige kennis. Er is geen cruciaal verschil voor een chatbot tussen een ongrammaticale zin zoals ‘Gerard lezen de boek’ en een onzinbewering zoals ‘Elektriciteit leest herfstige baklava’. Beide zijn vooral heel onwaarschijnlijke zinnen.

Maar precies daardoor kunnen de modellen niet goed omgaan met de werkelijkheid. Het is bijvoorbeeld vrijwel onmogelijk om zo’n model iets nieuws te leren over de wereld, omdat dat nieuwe feit ingaat tegen de miljarden zinnen die het systeem heeft geleerd (anders is het immers geen nieuw feit).

Je zou dus eigenlijk een vorm van modulariteit moeten inbouwen in de nieuwe systemen, waarbij iets anders verantwoordelijk is voor de logica, de feiten en het bijhouden van wat de gesprekspartner mogelijk wil op ieder moment. De huidige kunstmatige intelligentie is zeker goed met taal (al valt daar ook nog wel het een en ander aan te sleutelen), maar dat taalsysteem kan de rest niet vervangen. Voor de inhoud zouden andere modellen verantwoordelijk moeten zijn.

Delen:

  • Klik om af te drukken (Wordt in een nieuw venster geopend) Print
  • Klik om dit te e-mailen naar een vriend (Wordt in een nieuw venster geopend) E-mail
  • Klik om te delen op Facebook (Wordt in een nieuw venster geopend) Facebook
  • Klik om te delen op WhatsApp (Wordt in een nieuw venster geopend) WhatsApp
  • Klik om te delen op Telegram (Wordt in een nieuw venster geopend) Telegram
  • Klik om op LinkedIn te delen (Wordt in een nieuw venster geopend) LinkedIn

Vind ik leuk:

Vind-ik-leuk Aan het laden...

Gerelateerd

Categorie: Artikel Tags: AI, chatbots, kunstmatige intelligentie

Lees Interacties

Reacties

  1. Weia Reinboud zegt

    18 november 2023 om 12:47

    Het probleem is niet dat er geen schotten tussen de kennissoorten zitten, maar dat er totaal geen kennis aanwezig is. En ook niet gaat zijn. Je gaat misschien sommige domheden van de computer op kunnen vangen, maar dat is dan een lapmiddel, niet een teken dat het ding ‘dus’ kennis heeft.
    Vergelijk met de vraag ooit of de computer zou kunnen schaken. Nou, dan kon ie wat! Inderdaad is het mogelijk geworden om de allerbeste menselijke schakers te verslaan, maar dat werkte intern op een totaal andere manier dan hoe mensen schaken. Je zou kunnen vragen om andere modules te ontwikkelen, modules die wel echte kennis over het schaken hebben/opbouwen, maar dat kan het ding nou net niet. Dus om zulke modules vragen is een soort stap in de oneindige regressie.
    Epistemologisch bekeken is de computer alleen maar in staat tot inductie. Als iets kan met als input een grote bak nulletjes en eentjes dan zal de computer er iets van kunnen brouwen. Voor mensen lijkt het dan soms best op wat zij juist zónder inductie kunnen, dat er dus wel kennis moet zijn opgebouwd. Maar er is geen kennis. Inductie werkt bij ons totaal niet. (Lees het lemma over inductie op wikipedia en zie hoeveel misvattingen en slordigheden de rondgang doen…)
    De computer kan via inductie heel wat. Toen ik in 1970 leerde programmeren was er in de Uithof een reusachtige zaal voor de computer. We konden niet bedenken dat we een halve eeuw later een computertje op onze schoot zouden hebben dat miljoenen keren meer kon dan wat die hele zaal kon. We konden ons toen dus ook niet voorstellen dat de computer zou gaan kunnen schaken (dat wil zeggen: schakers verslaan) en verhalen zou kunnen gaan vertellen (dat wil zeggen: taalgebruikers kunnen verrassen). Er werd al wel nagedacht over hoe de computer zou kunnen leren schaken of taal zou kunnen leren, maar eigenlijk hadden we niet door dat uitsluitend Artificiële Inductie iets op zou kunnen leveren.

    Beantwoorden

Laat een reactie achterReactie annuleren

Deze site gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie gegevens worden verwerkt.

Primaire Sidebar

Gedicht van de dag

W.L. Penning • Het monster

Doller dan ooit is ’t monster losgebroken,
En menschen worden wilde beesten;
Helsch viert het kwaad zijn gloriefeesten –
Tot de overmacht heeft rechtgesproken

➔ Lees meer

Bekijk alle gedichten

  • Facebook
  • YouTube

Chris van Geel

HONDSDAGEN

Niet groen rijpt het gras dit jaar,
bomen dragen hun bladeren wit,
het licht is niet uit het veld
te slaan, de dag reikt aan
de dag, in dromen zoeken
de nachten onderdak.

Bron: Uit de hoge boom geschreven, 1967

➔ Bekijk hier alle citaten

Agenda

7 oktober 2025: een cadeautje voor secties Nederlands

7 oktober 2025: een cadeautje voor secties Nederlands

18 juli 2025

➔ Lees meer
19 september 2025: Afscheidscollege Fred Weerman

19 september 2025: Afscheidscollege Fred Weerman

15 juli 2025

➔ Lees meer
1 juli – 15 september 2025: Over de grenzen van het boek

1 juli – 15 september 2025: Over de grenzen van het boek

11 juli 2025

➔ Lees meer
➔ Bekijk alle agendapunten

Neerlandici vandaag

geboortedag
1949 Jeroen Groenendijk
sterfdag
1963 Jan Naarding
2008 Rein Bloem
➔ Neerlandicikalender

Media

The form of the adjective in Dutch

The form of the adjective in Dutch

20 juli 2025 Door Redactie Neerlandistiek Reageer

➔ Lees meer
De Literaire Letterenshow met Mustafa Stitou en Auke Hulst

De Literaire Letterenshow met Mustafa Stitou en Auke Hulst

19 juli 2025 Door Redactie Neerlandistiek Reageer

➔ Lees meer
Inclusive Dutch: Between Norm and Variation

Inclusive Dutch: Between Norm and Variation

15 juli 2025 Door Redactie Neerlandistiek 3 Reacties

➔ Lees meer
➔ Bekijk alle video’s en podcasts

Footer

Elektronisch tijdschrift voor de Nederlandse taal en cultuur sinds 1992.

ISSN 0929-6514
Bijdragen zijn welkom op
redactie@neerlandistiek.nl
  • Homepage
  • E-books
  • Neerlandistische weblogs
  • Over Neerlandistiek
  • De archieven
  • Contact
  • Facebook
  • YouTube

Inschrijven voor de Dagpost

Controleer je inbox of spammap om je abonnement te bevestigen.

Copyright © 2025 · Magazine Pro on Genesis Framework · WordPress · Log in

  • Homepage
  • Categorie
    • Voor de klas
    • Vertelcultuur
    • Naamkunde
  • Archief
    • 10 jaar taalcanon
    • 100 jaar Willem Frederik Hermans
  • E-books
  • Neerlandistische weblogs
  • Jong Neerlandistiek
  • Frisistyk
  • Mondiaal Neerlandistiek
  • Over Neerlandistiek
  • Contact
 

Reacties laden....
 

    %d