Vorige week was het op de middelbare school waar ik werk weer de tijd van het jaar. Het hoogtepunt voor mij als docent Nederlands: de mondelingen in de eindexamenklassen. Een leerling uit 5 havo schreef in een reflectie over de gelezen boeken, een verplichte voorbereiding op het mondeling, dat hij ‘veel heeft geleerd van begrippen als metanarratief en dat die hem hebben geholpen om de literaire werken op een dieper niveau te analyseren en begrijpen’. Al bij het woord ‘metanarratief‘ weet je als docent dat deze leerling de tekst niet zelf heeft geproduceerd, maar dat hij externe hulp heeft ingeschakeld van de nieuwe beste vriend van leerlingen: ChatGPT.
Twijfel vanuit de wetenschap
ArtificiëIe Intelligentie (AI) en dan met name ChatGPT, wat moeten we er toch mee? Afgelopen zaterdag in de Volkskrant legt hoogleraar computerwetenschappen (en docent programmeren en modelleren op een middelbare school) Felienne Hermans haar terughoudendheid over AI-toepassingen als ChatGPT uit. Het gevaar is aanwezig dat er onbewust voorkeuren in AI-systemen sluipen, doordat de meeste software gemaakt wordt door witte mannen die met niet-neutrale data zijn getraind. Daarnaast waarschuwt Hermans voor het feit dat het desinformatieprobleem door AI alleen maar groter wordt: die AI-modellen gaan onzin produceren en dat wordt weer geherformuleerd door andere modellen, totdat niemand meer weet wat nou echt is. Ze geeft aan dat het voor kwaadwillenden een peulenschil is om wetenschappelijk uitziende papers te produceren, inclusief bronnen en namen van echte wetenschappers, maar met gemanipuleerde data en tabellen. Hermans voorspelt dat de verwarring immens gaat worden en zegt dat ze daarvan wakker ligt. Al sinds deze technologie als ChatGPT voor het grote publiek beschikbaar is, vraag ik me af waarom dit instrument nodig is; wat voor nut heeft het nou echt? Aan het einde van het artikel verwoordt Hermans precies mijn gevoel: ‘Waarom werken programmeurs hier überhaupt aan? Ik begrijp dat niet, net zomin als ik begrijp wat voor probleem dit soort programma’s oplossen.’
In het onderwijs
Sinds eind vorig jaar buitelen de meningen over AI en dan met name het gebruik van ChatGPT in het onderwijs over elkaar heen. In de facebookgroep Leraar Nederlands wisselen angst en euforie elkaar af. Michel Pijpers juicht begin dit jaar in Didactief online over het feit dat ChatGPT enorm veel mogelijkheden voor ons onderwijs biedt. En volgens hem ‘kunnen er nu een hoop leraren- en leerlingentijdrovende bladvullingopdrachten de prullenbak in. Mooi hoor.’ Wat hij daar zo mooi aan vindt en welke mogelijkheden er dan precies zijn, doet Pijpers niet uit de doeken. Ook op de school waar ik werk, zijn we -en dan vooral de werkgroep digitale geletterdheid- met elkaar aan het nadenken over de implicaties van dit soort technologische ontwikkelingen. Inmiddels hebben we te maken met weer een vernieuwde versie: ChatGPT-4, een nieuwe versie die geleerd heeft van de oude. De havoleerling die zijn mondeling (deels) had voorbereid met behulp van AI is ook leerbaar, net als de technologie zelf: hij zal het gebruik van ChatGPT heus niet achter zich laten, maar het de volgende keer gewoon net iets slimmer aanpakken. De technologie is er en zal ook niet meer verdwijnen. En dus moeten docenten Nederlands ook daar weer iets mee, is de algemene teneur. Weer iets wat erbij komt op ons toch al volle bordje.
Kritische blik
Ik hoop vooral dat we met z’n allen ook kritisch blijven kijken naar de huidige ontwikkelingen op AI-gebied. Het feit dat iets er is, wil niet zeggen dat we het dus ook maar moeten omarmen in het onderwijs. Ongetwijfeld zal deze technologische ontwikkeling ook weer mooie opdrachten voor leerlingen en interessante gesprekken in de klas opleveren, maar ik zie uit naar een bredere discussie in de samenleving waarin ook de ethische argumenten een plek hebben zoals degene die Felienne Hermans aandraagt in het Volkskrantartikel.
Op grotere schaal voel ik namelijk hetzelfde als wat Hermans voelt. De ontwikkelingen binnen de AI zijn gewoon eng en ongrijpbaar. En ga nou niet zeggen dat we dat vroeger ook dachten over de rekenmachine en het bestaan van zoekmachines als Google. Het feit dat deze technologie zelflerend is waarbij op den duur desinformatie de waarheid dreigt te vertroebelen waardoor misschien niemand meer echt weet wat waar is, maakt de discussie fundamenteel anders. Precies dat maakt deze nieuwe ontwikkelingen voor mij zo beangstigend en daarmee is AI zoals ChatGPT wat mij betreft veel meer een vloek dan een zegen.
Monique Weijnans is masterstudent Leraar Nederlands aan de Hogeschool Utrecht
Experts op het gebied van kunstmatige intelligentie en leidinggevenden uit de industrie, hebben in een open brief, waaronder Elon Musk, hebben opgeroepen tot een “onmiddellijke” pauze van zes maanden voor de vooruitgang van AI-systemen die krachtiger zijn dan GPT-4 vanwege mogelijke risico’s voor de samenleving en de mensheid. Een van de schadelijke effecten is de verspreiding van desinformatie, de vernietiging van talenten en banen, en zelfs het risico van “verlies van controle over de beschaving”.
Leer dit de kinderen¡