Vijfde bloemlezing over ChatGPT

Er is sprake van een heuse lawine aan bijdragen over ChatGPT. Ik kan me dit niet herinneren dat een andere ontwikkeling op het gebied van leertechnologie zo veel heeft losgemaakt. Mijn leeslijst bevat momenteel maar liefst 35 bijdragen, en er zijn er ongetwijfeld nog meer verschenen. In deze vijfde bloemlezing, vat ik weer een negen bijdragen samen en deel ik van een negen anderen alleen de link.

Generative AIUniversiteit scherpt plagiaatregels aan om ChatGPT

Onderwijsinstellingen worstelen nog steeds met ChatGPT. Er zijn instellingen die ChatGPT, net als andere technologieën in het verleden, willen verbieden. Dat geldt niet voor de Universiteit Utrecht. De UU wil wel in het nieuwe Onderwijs en Examen Reglement opnemen dat studenten verplicht zijn te vermelden als zij ChatGPT gebruiken. “Controle op het naleven wordt nog een puzzel”, zo valt te lezen in deze bijdrage. Studenten plegen ook geen plagiaat, omdat ChatGPT nieuwe teksten genereert op basis van bestaande teksten. Je maakt uiteraard wel gebruik van bestaande bronnen, zonder bronvermelding. Het analyseren van schrijfstijlen van studenten zal op privacybezwaren stuiten. Docenten zullen andere manieren van toetsen moeten gaan toepassen, zoals het gebruik van mondelinge toelichtingen. Dat dit geen passende oplossing is voor vakken in het eerste jaar Psychologie zal duidelijk zijn. Verder kun je nadenken over het gebruik van ChatGPT voor nieuwe manieren van toetsing.

Chatbots… ben je als docent nog wel relevant?

Hoe gebruiken we deze techniek op een verantwoorde manier in onderwijs en onderzoek zonder de risico’s, privacy en beroepscodes uit het oog te verliezen? Deze vraag staat in deze bijdrage centraal. Volgens de auteur is een groot probleem dat chatbots zeer overtuigend kunnen schrijven, terwijl de inhoud onzin kan zijn: “Chatbots worden erop getraind om aannemelijke tekst te schrijven, maar kunnen de betrouwbaarheid ervan niet afwegen”. Het gebruik van applicaties zoals ChatGPT voor het schrijven van essays en dergelijke wordt dan “AIgiarisme” genoemd: “AIgiarisme onderscheidt zich van plagiaat, doordat chatbots geen teksten van anderen kopiëren, maar unieke teksten schrijven. De overeenkomst is dat iemand valselijk beweert schrijver te zijn van een idee of tekst van een ander, namelijk de chatbot en niet genoemde auteurs.” Hoe hiermee omgaan? De auteur noteert vier aandachts- en discussiepunten waar onder vaardigheden van de toekomst en regels en transparantie. Zij pleit voor heldere regels wanneer chatbots wel of niet mogen worden ingezet en hoe je aan gegenereerde teksten moet refereren. Tenslotte doet zijn vijf suggesties voor opdrachten waarbij studenten nieuwe vaardigheden, zoals contemplatief lezen en nadenken,oefenen en toepassingen zoals ChatGPT gebruiken.

ChatGPT listed as author on research papers: many scientists disapprove

Gaan we het mee maken dat ChatGPT als co-auteur van een artikel wordt opgevoerd? ChatGPT voldoet niet aan criteria voor een auteur van een studie. De applicatie genereert teksten op basis van bestaande teksten, maar neemt geen verantwoordelijkheid voor de inhoud en integriteit van papers en artikelen. Je zou echter in andere secties van een artikel kunnen vermelden dat de bijdrage is geschreven door een generatieve AI-toepassing. Een zorgwekkende ontwikkeling kan zijn dat mensen zonder domeinkennis proberen met behulp van ChatGPT wetenschappelijke papers te schrijven (die zullen bij een serieuze redactie geheid door de mand vallen, verwacht ik).

ChatGPT hallucineert, maar Nederlandse startup kan helpen

Maakt ChatGPT veel inhoudelijke fouten? Niet lang als het aan de Nederlandse startup Zeta Alpha ligt. Zij hebben het taalmodel GPT gekoppeld aan “een semantische neurale zoekmachine”. Daardoor zou output “veel betrouwbaarder en bovendien uitlegbaar” worden. De betreffende zoektechnologie houdt rekening met de betekenis van woorden, en de plek waar ze in een zin staan. Ook zouden generatieve AI-toepassingen hierdoor in staat zijn referenties naar bronnen te gebruiken.

Onderzoek: ChatGPT ondermijnt morele waarden in maatschappij

Deense en Duitse onderzoekers concluderen dan mensen geneigd zijn de informatie die ChatGPT produceert voor waar aan te nemen. Mensen onderschatten ook in hoeverre ze worden beïnvloed door deze output. ChatGPT blijkt ook inconsistent te zijn in het geven van adviezen waarin een morele afweging is gemaakt. ChatGPT zou daarmee morele maatschappelijke waarden ondermijnen. De remedie is mensen beter bewust te maken van beperkingen van deze AI-toepassingen. Investeren in digitale geletterdheid, dus.

Was it ‘I’, or ‘AI’, who wrote this blog?

Zac Woolfitt gaat in deze blogpost, mede op basis van een webinar van SURF over ChatGPT, in op vier vragen:

1. Wat is ChatGPT?

2. Hoe kan ChatGPT worden gebruikt door docenten en lerenden? O.a. een paper schrijven, een lesplan samenstellen.

3. Welke impact kan ChatGPT hebben op onderwijs en leren? Bijvoorbeeld repetitieve docenttaken terugdringen, het herzien van schrijfopdrachten (meer formatief evalueren; meerdere conceptversies inleveren in een leermanagementsysteem, zodat je stappen, revisies en ontwikkelingsproces kunt monitoren), meer focus op complexere vaardigheden.

4. Wat zijn enkele ethische kwesties voor GPT en hoe kunnen we vooruitgang boeken? Kunnen we gegenereerde content vertrouwen, wie verdient hieraan, hoe transparant zijn algoritmes, etc.

How ChatGPT3 Impacts the Future of L&D in an AI World

De auteurs zien voornamelijk twee gevolgen van Natural Language Processing voor Learning and Development. Op de eerste plaats faciliteren deze toepassingen de mogelijkheid om leerprogramma’s volledig automatisch samen te stellen, op basis van bestaande inhoud van hoge kwaliteit. Op de tweede plaats kun je volgens de samenstellers met behulp van deze toepassingen gepersonaliseerde leertrajecten aan lerenden aanbieden. ChatGPT weerspiegelt echter de inhoud van zijn ’trainingsbasis’ (de enorme hoeveelheid teksten). Het grootste probleem hierbij is dat deze ‘spiegel’ alleen de input naar ons kan terugkaatsen. Daarbij gaat het om feiten, maar ook om alle meningen en vooroordelen die de database met teksten bevat. De databases van dergelijke chatbots zouden dus zorgvuldig geselecteerde teksten moeten bevatten. Daarnaast bestaat waardevolle content niet alleen uit tekst. Zij concluderen o.a.: “While AI can remove some tedium, it still requires talented humans to create and curate the content, review the output, generate meaningful practice, and tie it all together into a learning experience. That’s likely to remain true for quite a while, despite advances—and we think that’s to the good.”

How ChatGPT Will Destabilize White-Collar Work

Deze bijdrage verkent de gevolgen van toepassingen zoals ChatGPT voor ‘hoger opgeleide’ werknemers. Zullen deze toepassingen gevolgen hebben voor werkgelegenheid? Om het artikel in z’n geheel te kunnen lezen, moet je geregistreerd zijn. Ik ben dat niet. De samenvatting komt echter op het volgende neer:

  • In de komende vijf jaar zal AI waarschijnlijk ten koste gaan van de werkgelegenheid voor hoogopgeleide werknemers. AI zal in staat taken uit te voeren waarvan we eerder dachten dat je daar hoog opgeleid voor moest zijn.
  • Je hebt daardoor waarschijnlijk minder werknemers nodig waardoor je kosten kunt besparen. De exacte impact hiervan is lastig te voorspellen.
  • Het is belangrijk dat werknemers op de hoogte blijven van de laatste ontwikkelingen op het gebied van AI en nadenken over hoe hun vaardigheden en expertise kunnen worden benut in een wereld waarin machines steeds meer taken kunnen uitvoeren.

Op basis van eerdere bijdragen geloof ik dat het werk van werknemers vooral zal veranderen. We zullen steeds vaker met technologie werken, waarbij technologie bepaalde werkzaamheden zal overnemen. Dit kan leiden tot minder werkdruk, al zullen we vooral nog cognitief inspannende taken gaan uitvoeren. De neiging zal bestaan om hetzelfde werk (of meer werk) met minder werknemers uit te voeren. Daar zullen werknemers erg waakzaam op moeten zijn. Wellicht ontstaan ook nieuwe banen, als gevolg van deze ontwikkeling. Het is evident dat we moeten leren omgaan met deze technologieën.

How to (Actually) Use ChatGPT?

Een vierendertig pagina tellende, maar toch bondig geschreven, handleiding over ChatGPT. Met aandacht voor ‘prompting’ en het spelen van rollenspellen. Laat ChatGPT bijvoorbeeld de rol van docent spelen. Met best indrukwekkende resultaten.

Andere bronnen over ChatGPT (geen tijd om kort te beschrijven)

Mijn eerdere bijdragen over ChatGPT

This content is published under the Attribution 3.0 Unported license.

Delen

Geef een antwoord

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

* Checkbox GDPR is verplicht

*

Ik ga akkoord

Deze site gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.