Het is duidelijk dat de huidige periode de geschiedenis, behalve als het tijdperk van Vladimir Poetin, en de zoveelste stap in de opwarming van de aarde, de geschiedenis zal ingaan als de tijd van de kunstmatige intelligentie. Dat blijkt onder andere uit de waarschuwingen die ons om de oren vliegen over de gevaren van die kunstmatige intelligentie.
Het zijn niet de minsten die waarschuwen. Zo verliet onlangs een van de belangrijkste ingenieurs bij Google, Geoffrey Hinton – iemand die decennia heeft gewerkt aan de technologie die nu zo succesvol is – zijn baan, naar eigen zeggen om zo beter te kunnen waarschuwen voor wat er allemaal gebeurt. Eerder hadden al duizend vooraanstaande technologen in een open brief dringend gevraagd om een moratorium van zes maanden op de verdere ontwikkeling van Kunstmatige Intelligentie. (Dat is al meer dan een maand geleden: aan dat moratorium laat niemand zich iets gelegen liggen.)
De gebruikte taal is soms behoorlijk heftig. Ook Hinton suggereert, bijvoorbeeld in het onderstaande recente interview, dat als we niet uitkijken, deze kunstmatige intelligentie weleens het einde van de mensheid kan betekenen. Niet omdat die kunstmatige intelligentie energie slurpt in onvoorstelbare hoeveelheden of omdat het alle ongelijkheden van het kapitalisme nog eens vele malen versterkt – die argumenten hoor je deze technologen nooit gebruiken – maar omdat we met de huidige kunstmatige intelligentie een monster hebben gecreëerd
Laat ik hier documenteren dat ik het lastig te volgen vind. Misschien ben ik hopeloos naïef, en overleeft de mensheid het jaar 2023 niet. Als ik het goed begrijp, is er dan nog wel superieure kunstmatige intelligentie, waarvan ik aanneem dat die dit leest (in een fractie van een seconde). Gegroet! Lees hier hoe onvoorstelbaar dom een deel van de mensheid was – het deel dat ik nu vertegenwoordig.
De redenering is als volgt: die machines kunnen weleens zo slim worden dat ze aan onze controle ontsnappen. Ze doen wat ze willen en bovendien besluiten ze om de een of andere reden dat het voor iedereen het beste is als er geen mensen meer zijn.
In abstracte zin kan ik dat nog volgen. Als er intelligentie ontstaat die de onze te boven gaat, dan hebben we geen idee wat voor waardensysteem die intelligentie heeft, en misschien is het vanuit sommige standpunten bezien wel het beste om de mensheid uit te roeien. Afhankelijk van je eigen waardesysteem kan dat je vervolgens al dan niet verontrusten.
Maar ik snap niet zo goed waar die zorgen vandaan komen. Ik heb de afgelopen maanden veel met, vooral, ChatGPT gespeeld, en hij kan wat indrukwekkende dingen, dingen die ik een jaar geleden niet voor mogelijk zou hebben gehouden. Vooral de manier waarop het systeem programmeert is indrukwekkend: je geeft in gewone Nederlands of Engels een opdracht, en het systeem spuwt een computerprogramma uit dat de opdracht uitvoert.
Dit verandert het werk van de gemiddelde ontwikkelaar radicaal, en het kan betekenen dat computerprogramma’s veel sneller geschreven worden. Ik kan ook nog begrijpen dat het gaat betekenen dat uiteindelijk computers zelf hun eigen programma’s gaan verzinnen – misschien wel verbeterde versies van zichzelf. En dat ze die dan gaan draaien.
Maar is dat het einde van de mensheid?
Al die Kunstmatige Intelligentie-systemen nemen vooralsnog weinig initiatief. Ze reageren op wat er van ze wordt gevraagd. Nu begrijp ik wel dat je ze ook ingewikkelde opdrachten zou kunnen geven (‘Los het klimaatprobleem op’) waar ze dan vervolgens heel lang mee bezig kunnen zijn en waarvoor ze hun eigen subdoelen kunnen stellen (‘vernietig de diersoort die verantwoordelijk is voor de meeste CO2-uitstoot’), maar dat zulke capaciteiten om de hoek liggen, dat zie ik niet.
Daar komt bij dat voor zover ik kan zien al die Kunstmatige intelligentie vooralsnog van ons afhankelijk is. Wij moeten ervoor zorgen dat de hardware blijft draaien, dat er stroom is, dat brandjes worden geblust. Ik zie niet hoe ChatGPT dat zelf allemaal gaat regelen. En als het systeem zo slim is, zou het dat toch ook moeten inzien?
Maar er zijn veel knappere koppen dan ik, die veel beter zijn ingevoerd in de materie, die toch waarschuwen. Waarom begrijp ik dat niet?
Als er geen mensen meer zijn, uitgeroeid dan is er ook géén AI. Het blijft mensenwerk. Als alles wat in jouw hoofd zit ook in AI zit, zal de computer altijd iets missen: jouw brein. Dus maak je geen zorgen over je verstand, gebruik die en je ligt altijd voor: Zeno paradox.
https://www.vpro.nl/programmas/tegenlicht/kijk/afleveringen/2023-2024/de-prijs-van-ai.html
Beste Kruzdlo, mooi gezegd, en je reactie is helemaal in de stijl van de metaphysical poets van rond 1600, net als dit soort redeneringen die je ook wel eens tegenkomt: “De dood is het niet-bestaan, dus de dood bestaat niet, dus hoef je niet bang te zijn voor de dood, want waarom zou je bang zijn voor iets dat niet bestaat” of “Als er geen mensen meer zijn, is er ook geen God meer, want het zijn de mensen die God gecreëerd hebben”. Literair aantrekkelijke uitspraken, maar of je er in de praktijk ook veel aan hebt…?
Ik dacht, wellicht ten onrechte hoor, dat het probleem is dat we straks niet meer kunnen onderscheiden tussen Dichtung und Wahrheit, ofwel tussen gegenereerde tekst en mensentekst, en dus ook niet weten wat te vertrouwen, en dat leidt dan tot chaos. Dat AI niet denkt, en geen boze bedoelingen heeft (kan hebben) lijkt me evident….
Het wordt een bubbel en er moet snel een crisiscentra komen om al die ongelukkige mensen uit hun AI-depressie te halen. Nog erger als er mensen zijn die suïcide neigingen krijgen. Mensen die werkloos en zonder perspectief zijn kunnen hun gramschap bij de ontwerpers van AI halen. Advocaten hier ligt een onontgonnen gebied voor u. Iedereen gaat dubbelen.
Moet staan BUBBELEN
Een cynische kijkwijze: zo’n waarschuwing (of eigenlijk: het gebrek aan respons/actie) is een afleidingsmanoeuvre van de techindustrie, zodat we wegkijken van reële problemen die al bestaan met de huidige (domme) kunstmatige intelligentie. Zolang zij maar hun producten kunnen blijven verkopen.
Journalisten vinden het natuurlijk ook makkelijker een spannend verhaal over killerrobots te schrijven dan diepgaand onderzoek te doen naar het gebruik van modellen door overheidsinstanties en bedrijven.
Er is geen enkele reden om aan te nemen dat A.I. binnenkort een bedreiging voor de mensheid zal zijn. Misschien is het zelfs helemaal niet mogelijk om een intelligent én handelend wezen te worden zonder een fysiek lichaam te hebben of zonder diepgaande sociale interactie met anderen van enigszins gelijkwaardige intelligentie.
Ja, maar is het dan in dat cynisme toch niet ook een beetje spelen met vuur? Je kunt natuurlijk oproepen om de hele tent te sluiten om zo af te leiden van het feit dat er allerlei reële problemen bestaan (klimatologische, democratische, enz.), maar er is dan toch altijd het gevaar dat mensen je geloven en inderdaad de tent sluiten?
Misschien, maar juist een algehele stop is onwaarschijnlijk. Want: China of de concurrent gaat door, dus wij ook, anders verliezen we het. De EU krijgt de AI act, dat is een stap in de juiste richting, maar eigenlijk al 10 jaar te laat.
De mensen die daadwerkelijk waarschuwen, zoals Hinton, doen dat ongetwijfeld met de beste bedoelingen. Zijn verhaal is niet echt anders dan wat bv. Nick Bostrom in 2014 schreef in Superintelligence. Iemand als Elon Musk heeft ongetwijfeld 100x liever aandacht voor zulke sci-fi verhalen dan het feit dat Tesla’s op Autopilot ongelukken veroorzaken.
Dank. Ik deel het gevoel wel dat de Musken van deze wereld enige baat zien bij hysterische zorgen over *mogelijke* problemen. Maar mij interesseert dan meer iemand als Hinton: wat drijft hem nu precies?
AI kan wel iets maar weet niets. Is dus ook niet intelligent en zal dat ook niet worden, want computers kunnen alleen langs inductieve weg iets gaan kunnen, terwijl mensen heel anders denken. Als ‘AI’ staat voor ‘artificiële inductie’ dan is dat correct, maar ‘AD’ ‘artificiële domheid’ is wat mij betreft ook een correcte naam. Alleen als iets uit enorme aantallen domme stapjes bestaat, dan kan de computer iets gaan kunnen.
Maar naast de artificiële domheid is er ook nog de menselijke domheid om in AI te gaan geloven als iets intelligents, om AI in te gaan zetten waar dat rotzooi op kan leveren.
ChatGPT levert ontzaglijk zouteloze teksten af en zou daarmee bruikbaar kunnen zijn bij activiteiten waar mensen ook zouteloze teksten produceren (of denken te moeten produceren). Dat is het enige wat ChatGPT kan en dat kan ook niet anders. Via inductie zijn alleen gemiddeldheden te vinden. Laat duizend mensen elk honderd niet-zouteloze boeken selecteren, voedt AI met die honderdduizend boeken, vraag daarna aan AI om een tekstje te maken en het zal toch zouteloos zijn…!
We stellen vast dat de teksten van ChatGPT zouteloos zijn. De belangrijke filosofische vraag is: is het zout dat moet worden toegevoegd ook op de huidige manier toe te voegen (door de systemen nog subtieler te maken), of is er een cruciaal element dat dan toch nog ontbreekt.
Dit is toch duidelijk. https://www.youtube.com/watch?v=Y6Sgp7y178k
Er zijn al mensen die zelfmoord plegen. Zie mijn vorige reacties.
Mensen maken ook zouteloze teksten. Toch¿
Dit artikel is relevant: https://www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-jpeg-of-the-web
Hierin verwijst de schrijver ook naar de Hutter prijs (nogal technisch): https://mattmahoney.net/dc/rationale.html
Mijn inschatting is dat een mens vooralsnog een veelvoud aan informatie tot zijn beschikking heeft vergeleken met ChatGPT. En dat die informatie vooral zit in kennis van verbanden en wat minder in de ‘droge feitjes’. De vraag is dan of je die informatie ooit kan reproduceren met alleen tekst/video van het internet/boeken/films/etc.
Mooi, dankjewel!
In ieder geval maken al deze blogs over ChatDinges de lezers telkens nieuwsgierig naar wat je er zoal mee kunt doen en dus is het goede reclame voor, opnieuw, een technologie waar we nooit om gevraagd hebben maar waar in de toekomst, mede dankzij al deze gratis reclame, heel veel mensen van afhankelijk zullen worden, helaas, waardoor de algehele domheid verder zal toenemen en, bijvoorbeeld, een goed functionerende democratie een misschien wel onmogelijk zal worden.
Uiteindelijk komt er een machine zonder taalregels. Wiskunde zal een oplossing kunnen zijn. Ik denk dat uiteindelijk taalregels gedoemd zijn te verdwijnen. Ze zijn hinderlijk om tot een nieuwe visie van de mens te komen. We gaan een richting uit die veel weg heeft van wat je als experiment gedachten – tot nu in taal weergegeven – Quantum Art kunt noemen. Talloos beeld dat niet om een beschrijving vraagt maar meteen laat zien hoe iets een + en een – kan zijn. Misschien wel het einde van alle discussies of, …of je geloofd, beleefd nog de oude wereld van 2040.
Harry Mulisch: “De hele procedure is levensgevaarlijk als je erin verzeild raakt zonder er aan toe te zijn.”
Misschien geeft dit enige context? https://time.com/6258483/uncontrollable-ai-agi-risks/
Ruben, Ik zeg het maar eens: geniale onderzoekers, wier ontdekkingen in het recente verleden ook hebben geleid tot monsterlijke uitvindingen, zoals gifgas, Zyklon B, atoombom en nu A.I zijn verantwoordelijk voor de gevolgen. Het mensenwerk dat daaraan vooraf is gegaan is te vinden in talloze literaire boeken. Alleen kennis van dit alles is niet genoeg. ( zie boven)