Deze keer moest ik nog harder mijn best doen dan normaal om de blog niet te lang te maken. Ik moet u zeggen: het is me niet gelukt. Totaal niet. Sterker nog: of dit nog een blog mag heten, weet ik niet eens. Ik splits hem in tweeën om het iets verteerbaarder voor u te maken, want er is veel te zeggen (en te fantaseren) over de nieuwe ontwikkeling ChatGPT.
Wat chatten betekent begrijpen we inmiddels, maar waar GPT voor staat? GPT betekent Generative Pre-trained Transformer. Oké, dat is al iets, maar echt duidelijk is het nog niet. Op www.wikipedia.nl (op 10 januari 2023) lees ik:
‘ChatGPT is een prototype van een chatbot met kunstmatige intelligentie, ontwikkeld door OpenAI en gespecialiseerd in het voeren van dialogen met een (menselijke) gebruiker.De chatbot is een groot taalmodel dat is verfijnd met zowel “supervised” als “reinforcement” leertechnieken voor kunstmatige intelligentie. Het is gebaseerd op het GPT-3.5-model van OpenAI, een verbeterde versie van GPT-3. ChatGPT werd gelanceerd in november 2022 en heeft de aandacht getrokken vanwege zijn gedetailleerde reacties en uitgesproken antwoorden, hoewel de feitelijke nauwkeurigheid ervan wordt bekritiseerd.’
In mijn eigen woorden begrijp ik hieruit dat het dus een zichzelf steeds slimmer makende conversatiemachine is die antwoorden geeft op vragen en opdrachten door gebruikers. Als ik geen docent was geworden, had ik hier minder interesse in gehad, maar nu weet ik dat het grote consequenties kan hebben voor (geschreven) opdrachten door studenten. Ik ben namelijk verbaasd door de goede antwoorden van mister Chat. Hij is beleefd, en kan zelfs met onzekerheid omgaan. Hij weet veel en formuleert correct. Maar soms is ie nog echt heel dom. Eigenlijk net een mens dus. Een paar voorbeelden:
- Als ik vraag ‘wat is het integraal logistiek concept’ krijg ik als antwoord een heel stuk tekst dat misschien niet per se mijn eigen uitleg zou zijn, maar wel correct is. Ik schrik er een beetje van. Als een student dit zou schrijven, zou ik onder de indruk zijn. Sterker nog: het zou verdacht zijn.
- Als ik vraag hoe de logistiek is georganiseerd bij een bedrijf waarmee onze propedeusestudenten een opdracht uitvoeren, krijg ik eerst het antwoord dat Chat het bedrijf niet kent en ‘er dus geen uitspraken over kan doen’, maar als ik aanvul wat voor type bedrijf het is, krijg ik een lang antwoord met allerlei waarschijnlijke logistieke keuzes (die best goed zijn geformuleerd) die passen bij een dergelijk type bedrijf. Indrukwekkend, maar dus niet gebaseerd op dat ene specifieke bedrijf en dus niet per se de waarheid.
- Als ik vraag wat voor weer het was op 5 september 2022 krijg ik als antwoord dat hij dat niet weet omdat hij werkt op basis van informatie tot en met 2021. Hij doet keurig een paar suggesties voor bronnen en websites waar ik zelf mijn antwoord kan opzoeken.
- Als ik vraag ‘zijn docenten grappig’, krijg ik onderstaand antwoord (10 januari 2023). Ik vermeld het hieronder letterlijk, zodat u een beter beeld krijgt:
‘Het is moeilijk om een algemeen antwoord te geven op de vraag of docenten grappig zijn, omdat dit sterk afhankelijk is van de persoonlijkheid van de docent en de context waarin hij of zij lesgeeft. Sommige docenten zullen inderdaad grappig zijn en gebruik maken van humor om de lesstof interessanter te maken voor de studenten. Andere docenten zullen misschien minder gebruik maken van humor en eerder serieus en formeel zijn. Het is belangrijk om te benadrukken dat het gebruik van humor in de klas niet per se noodzakelijk is om een goede docent te zijn. Wat wel belangrijk is, is dat de docent de lesstof op een duidelijke en begrijpelijke manier kan overbrengen en de studenten kan stimuleren om te leren. Als een docent humor gebruikt om dit te bereiken, kan dat zeker bijdragen aan het leerproces, maar het is niet de enige manier om het te bereiken.’
Indrukwekkend, toch? Misschien dat ik hem wel vraag mijn volgende blog te schrijven. En je kunt er zoveel meer mee dan ik hier kan vertellen. Je kunt bijvoorbeeld ook aangeven iets te beschrijven in 5 hoofdstukken, dan zie je dit keurig terug in het antwoord, met steeds een ander onderwerp in een hoofdstukje. Je kunt hem gedichten laten schrijven, of laten antwoorden in een andere taal. Er zijn zelfs ChatGPT-varianten die computercode schrijven.
Mijn zoon zei me: ‘Pap, je moet eens ‘nee’ zeggen op zijn antwoord, het is leuk om te zien wat er dan gebeurt.’ Dat mijn zoon er al wat van weet, alarmeert me, maar daar kom ik op terug in deel 2 van deze blog over dit onderwerp. Ik vraag eerst Chat maar eens wat 23 keer 10 is en hij legt me in een volzin uit dat daar 230 uitkomt. Juist! Hij kan dus ook rekenen. Maar als ik daarna antwoord met: ‘nee, het is 250’, reageert ie met het aanbieden van zijn verontschuldigingen en zegt dat ie nog niet optimaal werkt. Hij zegt daarna zelfs dat 23 keer 10 inderdaad toch 250 is. Weinig ruggegraat. Dat ie nog niet optimaal werkt klopt dus, maar in dit specifieke geval vooral door zijn ongelijk te erkennen terwijl hij gewoon gelijk heeft. Maar goed, het is zoals gezegd een prototype waarbij het bedrijf Open AI de moed heeft getoond het toch gewoon al publiekelijk beschikbaar te stellen. Gratis. En daarmee – niet onbelangrijk – graag wil zien hoe mensen het gebruiken om hen (en Chat zelf) daar weer van te laten leren. Probeer het anders zelf eens op: ChatGPT: Optimizing Language Models for Dialogue (openai.com). Ik log in via Google, maar het is grappig om te zien dat als je anders inlogt je wel even een vakje moet aanvinken dat je geen robot bent. Dat zou wat zijn: twee robots met elkaar in gesprek. Ik zie dat overigens wel zitten; dan laat ik mijn ChatGPT-bot praten met de ChatGPT-bot van mijn verzekeraar. Kunnen ze onderling lekker elkaars mis-interpretaties bespreken en elkaar verder inwerken. Bovendien: misschien kunnen ze straks de minder interessante vergaderingen van me overnemen? Maar goed: ChatGPT is een nieuwe stap op weg naar een veel betere kwaliteit van chatbots en betere antwoorden op vragen van gebruikers. Gezien de personeelstekorten geen slechte ontwikkeling. En gezien de kwaliteit van veel customer service medewerkers, is het waarschijnlijk ook niet eens zo slecht voor de kwaliteit van de service.
Maar hoe gaat ChatGPT nou verder gebruikt worden? Zoals bij zoveel innovaties is er veel speculatie over wat de mogelijke toepassing zijn, en uiteraard ook over de nieuwe problemen die het genereert. Welke beroepen veranderen hierdoor het meest? Die van tekstschrijvers, journalisten, onderzoekers? … Docenten? Hoe gaan mensen het gebruiken of misbruiken? ChatGPT doet er zelf niet misselijk over als ik juist deze vraag maar even aan hemzelf stel. Ik type in het daarvoor bedoelde vakje mijn vraag: ‘wat zijn de gevaren van chatGPT.’ Zo’n vraag of opdracht heet trouwens een prompt, dat klinkt dan weer heel ouderwets. Chat’s antwoord (10 januari 2023):
ChatGPT is een taalgeneratie-model dat is getraind op een grote hoeveelheid tekst op het internet. Zoals met elk model dat is getraind op internetgegevens, kan het enige onnauwkeurigheden of stereotyperingen bevatten die zijn opgepikt uit de getrainde data. Bovendien kan ChatGPT worden misbruikt voor phishing- of valsnieuwsoplichting.
Een ander gevaar dat wordt geassocieerd met ChatGPT en soortgelijke modellen, is dat mensen zich kunnen verlaten op hun antwoorden zonder ze te verifiëren. Het is belangrijk om te onthouden dat de antwoorden die het model geeft, alleen zo goed zijn als de data waarop het is getraind, dus het is altijd een goed idee om de antwoorden die het model geeft te verifiëren voordat u er actie op onderneemt.
Daarnaast is het vermeldenswaardig dat zoals met elk AI model, chatGPT kan ook misbruikt worden voor automatisering van hate speech, discriminatie, spread van misinformation of fake news.
Het is belangrijk dat de ontwikkelaars en de gebruikers alert zijn op deze gevaren en maatregelen nemen om ze te voorkomen of te mitigeren.
Fijn eens een technologie te ontmoeten die zichzelf niet alleen maar geweldig vindt. Omdat ik tegenwoordig in het onderwijs zit, denk ik vooral na over de effecten voor scholen, docenten en studenten. Voor nu kennen we deze nog niet precies, denk ik, en misschien stellen we hierover nog niet eens de juiste vragen, maar het is al heel wat als we er over nadenken. Vandaar ook deze blog, om de bewustwording wat aan te wakkeren. Hoe serieus dit onderwerp is, wordt me nog even bevestigd als ik afgelopen woensdag in de krant lees dat er acht toonaangevende universiteiten in Australië zijn die studenten in 2023 meer opdrachten laten maken met pen en papier, zodat ze ChatGPT niet kunnen inzetten om hele stukken tekst te kopiëren. Ook hoor ik AI-kenner Remy Gieling (dec 2022) zeggen dat er al kunstmatige intelligentie ontwikkeld wordt waarmee je kunt controleren of bepaalde teksten met behulp van kunstmatige intelligentie zijn geproduceerd. Op onze Hogeschool Utrecht gebruiken wij uiteraard nu reeds plagiaatcontrole software, maar dan check je of het ergens anders al een keer eerder geschreven staat. Chat’s unique selling point is dat hij nieuwe teksten creëert, meestal niet terug te leiden naar andere bronnen.
U merkt, het onderwerp pakt me, ik ga helemaal los. Welnu: in deel 2 van de blog over dit onderwerp meer, zoals een brainstorm met mezelf over de gevolgen voor het onderwijs en een anekdote over een gesprek met mijn (studerende) zoons.
Tot zover: meester Bart wenst u een fijne dag!