Het geheugen van ChatGPT verandert: wat is de mogelijke impact voor leren, opleiden en onderwijs? (en twee andere belangrijke ontwikkelingen)

Het was weer dolle boel, de afgelopen week. Niet alleen vanwege de ‘vasteloavend’, maar ook vanwege belangrijke ontwikkelingen op het gebied van generatieve AI. De afgelopen week maakte OpenAI bijvoorbeeld bekent dat het geheugen van ChatGPT gaat veranderen. Daarnaast maakte Google bekend dat de nieuwe versie van Gemini een ‘context window’ krijgt van 1.000.000 tokens. En OpenAI kondigde Sora aan. Met behulp van deze applicaties kun je door middel van een tekstuele opdracht een video van 60 seconden produceren. Wat is de mogelijke impact van deze ontwikkelingen op leren, opleiden en onderwijs?

Het geheugen van ChatGPT

Donald Clark verkent in ChatGPT gets memory upgrade – implications for AI in learning de gevolgen van het veranderde geheugen van ChatGPT. Het menselijk geheugen wordt volgens hem gekenmerkt door zijn complexiteit en beperkingen, zoals een beperkt sensorisch geheugen, een werkgeheugen dat slechts enkele elementen kan bevatten en een lange termijn geheugen dat onderhevig kan zijn aan verval (denk aan dementie).

Een toepassing als ChatGPT heeft ook een geheugen. Dit geheugen is nu aan verandering onderhevig. Het zogenaamde ‘contextvenster’ wordt al langere tijd omvangrijker.  In het kader van generatieve AI, is een ‘context window’ een hoeveelheid tekst dat aan een AI-model wordt gegeven om te helpen bij het genereren van nieuwe tekst. Het model kijkt naar de woorden in het contextvenster en gebruikt die informatie om te voorspellen welke woorden ernaast komen. Grotere contextvensters stellen de AI-toepassing in staat om langere gesprekken of documenten te begrijpen, maar vereisen meer rekenkracht en kunnen de nauwkeurigheid beïnvloeden.

Daarnaast kun je bij ChatGPT beter instellen wat ChatGPT moet onthouden. Je kunt ChatGPT straks expliciet vragen om iets te onthouden, vragen wat ChatGPT zich herinnert, en het via een gesprek of via instellingen vragen om te vergeten. Je kunt het geheugen ook volledig uitschakelen.

Dankzij deze innovatie kun je bij ChatGPT rekening houden met eerdere input van lerenden, of onthouden wie de gebruiker is en context uit die persoonsgegevens halen, zoals leeftijd, voorkennis, taalniveau en eerdere gesprekken over onderwerpen. Dit helpt meer gepersonaliseerde, efficiënte leerervaringen te faciliteren waarbij niet steeds dezelfde vragen gesteld worden. De gebruiker zelf bepaalt wat ChatGPT van de gebruiker onthoudt.

In de vergelijking tussen menselijk geheugen en AI-geheugen benadrukt Clark dat beide systemen informatie opslaan en ophalen, maar op verschillende manieren. Mensen gebruiken complexe neurale netwerken voor deze processen, terwijl AI digitale opslagmethoden en verschillende vormen van neurale netwerken gebruikt. Beide systemen herkennen patronen en generaliseren ervaringen naar nieuwe situaties. De aanpak verschilt echter: mensen leren van nieuwe ervaringen, terwijl AI-modellen worden getraind met nieuwe data. AI genereert ‘output’ zonder dat deze expliciet is aangeleerd. AI wordt zelfs gebruikt voor beeld- en spraakherkenning en het opzetten van dialogen.

De auteur nuanceert ook het idee dat ons menselijk geheugen een exacte weergave van de werkelijkheid is en benadrukt dat het met de tijd verandert. Dit geldt ook voor AI: het kopieert niet feilloos, maakt fouten en produceert soms zelfs eigen content. Deze inherente flexibiliteit blijkt verrassend genoeg een link te hebben met onze creativiteit, stelt Clark, omdat deze voortvloeit uit onze ervaringen en herinneringen.

Menselijk geheugen en generatieve AI verschillen volgens Donald Clark fundamenteel. Toch zijn beiden van groot belang voor leren, opleiden en onderwijs. Hij meent ook dat AI-tutorsystemen aanzienlijk kunnen verbeteren, vooral met de toename van de functionaliteit en meer omvangrijke contextvensters, als inzichten uit de wetenschap over leren worden toegepast.

Groter context window

De nieuwe versie van Google Gemini krijgt zoals gezegd een ‘context window’ van maar liefst 1.000.000 tokens. Dit is 8 keer zo veel als nu het geval is. Je kunt straks meer dan 1300 A4tjes tekst invoeren. Volgens Donald Clark is dit bijvoorbeeld uitgetest met Les Misérables van Victor Hugo. Dit betekent onder meer dat je opdrachten kunt geven om binnen lange teksten passages te destilleren, samenvattingen van meer uitgebreide teksten te maken (maar zie ook ChatGPT gebruiken voor het maken van samenvattingen werkt nu wat anders) of op termijn uitgebreide podcasts kunt laten samenvatten.

Video’s maken met Sora

OpenAI -de maker van ChatGPT en DALL-E- stelt binnenkort een nieuwe applicatie beschikbaar. Hiermee kun je op basis van een ‘prompt’ een video van 60 seconden produceren. Je kunt hiermee eenvoudig korte instructievideo’s maken of visuele illustraties produceren. Vooralsnog zullen dit type video’s bestaande kennisclips m.i. niet vervangen omdat 60 seconden in veel gevallen te beknopt is en het ingewikkeld zal zijn om bijvoorbeeld in te zoomen op een detail. De kwaliteit van de video zal volgens mij ook afhangen van de kwaliteit van de ‘prompt’ (zoals dat ook bij generatieve AI-toepassingen als ChatGPT of Google Gemini het geval is). Ook vermoed ik dat gebruikers -net als bijvoorbeeld bij DALL-E- ‘Sora-moe’ zullen worden omdat de stijl zo herkenbaar wordt. Maar opzienbarend is deze ontwikkeling wel.

Hieronder zie je een voorbeeld van een afbeelding van zo’n video plus prompt. Check ook de indrukwekkende voorbeelden bij OpenAI zelf. De tekst gaat verder onder de afbeelding.

Video still voorbeeld Sora
Bron: https://openai.com/sora

Tot slot

Je leest in diverse publicaties terug dat we wellicht ‘dommer’ worden als we veel cognitieve taken laten overnemen door AI. je zou je juist cognitief moeten inspannen en moeite moeten doen om te leren. De vrees dat internet ons dommer maakt, bestaat al veel langer. Volgens De Bruyckere, Kirschner en Hulshof (2015) kan deze claim echter niet worden bewezen. Voor degenen die denken dat AI cognitieve taken overneemt: er zijn juist ook AI-apps die lerenden juist cognitief uitdagen. Bijvoorbeeld: NSWEduChat, die wordt beschreven in The Guardian.

Andere bronnen over generatieve AI

  1. Ethischer Einsatz von Künstlicher Intelligenz (KI) in der Arbeitswelt: Ein Leitfaden
  2. 7 AI Trends 2024
  3. 5 Generative AI Chatbots Everyone Should Know About
  4. AI Revolutionizes Voice Interaction: The Dawn of a New Era in Technology
  5. 10 Mind-Blowing Generative AI Stats Everyone Should Know About
  6. 2024 EdTech Trends: Authenticity, Better Tools, and More AI Of Course
  7. Embracing Shadow AI Will Help Accelerate Innovation
  8. The OpenAI Endgame
  9. Generative AI Readiness is Shockingly Low: These 5 Tips Will Boost It
  10. How AI Has Begun Changing University Roles
  11. Microsoft Launch a New AI-Powered Reading Coach
  12. Maak een Chatbot om je Workshop of Les Nog Beter te Maken
  13. How Teachers Are Pondering the Ethics of AI
  14. AI is Disrupting Professions That Require College Degrees: How Should Higher Ed Respond
  15. Generative AI: The Latest Scapegoat for Research Assessment
  16. 10 Best AI tools for Education
  17. AI Changes Work and Will Change Who, Why and How
  18. 4 AI Imperatives for Higher Education in 2024
  19. Apple Keyframer AI Model om Afbeeldingen te Animeren
  20. RUG Omarmt Gebruik ChatGPT, Maar Er Zijn Wel Regels
  21. AI in het Onderwijs
  22. AI-Augmented Literature Reviews
  23. Cohere Research: AYA
  24. Generated by OpenAI’s Video-to-Text AI Model
  25. ChatGPT, Hackers uit Rusland, Noord-Korea, Iran
  26. 7 Strategies to Get Your Employees on Board with GenAI
  27. Blended Learning in een Tijdperk van AI: Hoe Maak Je Jouw Onderwijs Toekomstbestendig
  28. 2024 EDUCAUSE AI Landscape Study
  29. De Toekomst van AI: Scenariotest
  30. ChatGPT’s memory gives OpenAI’s chatbot new information about you – The Verge
  31. GUEST POST: The Benefits and Risks of ChatGPT for Education
  32. Most students use AI for studies, digital divide emerges – Survey
  33. Human or AI? Connectives Hold the Clues
  34. AI has begun changing university roles, responsibilities
  35. Teaching and Learning Workforce in Higher Education, 2024
  36. How Generative AI Will Change The Jobs Of Teachers
  37. OpenAI Gives ChatGPT a Memory
  38. AI: Can it think like your students do?
  39. ChatGPT-5: OpenAI’s Next Game-Changing AI
  40. The rise of AI in American football
  41. The Multimodal AI Model Problem
  42. AI Tutors: AI Is Shaping Educational Support
  43. ChatGPT vs. Microsoft Copilot vs. Gemini
  44. AI needs to be trained on culturally diverse datasets
  45. GenAI policies in higher education assessment
  46. Generative AI for future-proof student assessment
  47. Critical review of GenAI policies in higher education assessment
  48. Assessment, rote memorization and artificial intelligence
  49. The Lasso Way to Formative Assessment
  50. Internet of Things in Education
  51. AI Chatbots: 3 Free LLMs That Transform Teaching
  52. Tech in Education: The Rise of EdTech
  53. ChatGPT and Beyond: How to Handle AI in Schools
  54. Privileged students ‘likelier to use ChatGPT’
  55. When Should Students Use Artificial Intelligence?
  56. U.S. Department of Ed Revisits Distance Learning Guidelines
  57. 8 Tech Skills Every Student Should Have
  58. Bring AI Literacy to Schools and Colleges
  59. Fostering Students’ Academic Integrity in High School
  60. Presence and Integrity in Online Learning
  61. Rethinking assessment for GAI
  62. What GenAI May Take Away
  63. ‘AI Girlfriends’ Are a Privacy Nightmare
  64. Top 8 Cheat Sheets on AI
  65. Generative AI Is Coming to Google Maps
  66. What the AI Pin misunderstands about Star Trek
  67. The OpenAI Endgame
  68. Is it possible to concentrate to the max in age of distractions?
  69. Find the AI approach that fits the problem
  70. work and workplace trends to watch in 2024
  71. A.I. Economy Will Make Jobs More Human

Mijn bronnen over (generatieve) artificiële intelligentie

Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie, zoals ChatGPT.

This content is published under the Attribution 3.0 Unported license.

Delen

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

Deze site gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.