Enkele beperkingen van AI in het onderwijs

Artificiële intelligentie heeft potentie voor leren, opleiden en onderwijs. In On the Limits of Artificial Intelligence (AI) in Education schetst hoogleraar Neil Selwyn van de Autralische Monash University echter een aantal kritische thema’s die volgens hem een prominentere plaats moeten krijgen in toekomstige discussies over AI in het onderwijs. Ik voorzie zijn bijdrage graag van commentaar. Deze blogpost sluit af met 65 verwijzingen naar andere bronnen over (generatieve) AI.

3D render of artificial intelligence on a hype cycle, on a dark purple background, digital art
Dall-E:3D render of artificial intelligence on a hype cycle, on a dark purple background, digital art

Selwyn gaan eerst in op de enorme aandacht die sinds ruim een jaar uitgaat naar (generatieve) AI. Het voeren van evenwichtige en redelijke discussies over de maatschappelijke implicaties en uitdagingen van AI is daarmee best complex geworden, meent hij. Volgens de auteur zijn meer beredeneerde reacties op de educatieve mogelijkheden van AI noodzakelijk. Daarbij zouden docenten de meer extreme verwachtingen en angsten die het idee van AI-technologie oproept, moeten weerstaan.

Vervolgens schetst Neil Selwyn een aantal toepassingen van AI in het onderwijs, zoals online proctoring waarin bijvoorbeeld gezichtsherkenning wordt gebruikt voor authenticatie (hetgeen niet zonder problemen verloopt). Veel van de bestaande AI-toepassingen in het onderwijs vallen onder ‘narrow artificial intelligence’: AI ontworpen voor specifieke taken, zoals het beoordelen van essays of het voorspellen van studentengedrag. Ze worden verfijnd met trainingsgegevens over dit specifieke onderwijsgebied en herkennen patronen binnen vooraf gedefinieerde grenzen. Deze vormen van AI moeten worden gezien als geavanceerde vormen van statistische verwerking, die vragen oproepen over wat daadwerkelijk bereikt kan worden met deze technologieën in het onderwijs. De technologieën zijn niet echt intelligent en kunnen niet redeneren. Hij geeft ChatGPT als voorbeeld. Deze applicatie assembleert en herschikt bestaande tekstfragmenten van het internet op een statistisch waarschijnlijke manier, zonder ‘begrip’ of ‘kennis’ van wat de output betekent.

Het begrijpen van AI-technologie als een complexe statistische procedure (gebaseerd op enorme rekenkracht en gegevensverwerking) dwingt debatten over AI en onderwijs volgens Selwyn daarom om na te denken over enkele voor de hand liggende beperkingen van deze technologie die gewoonlijk niet worden erkend. Hij onderscheidt daarbij vier belangrijke zorgen over het gebruik van  AI in het onderwijs.

De eerste zorg betreft de vraag of onderwijs adequaat kan worden weergegeven en gemodelleerd in data. Veel aspecten van onderwijs en leren kunnen volgens de auteur niet betrouwbaar in data gevangen worden. Dit is nog uitdagender bij het vastleggen van de complexiteit van een klaslokaal of sociale omstandigheden van een lerend. AI wordt steeds geavanceerder. Toch leiden pogingen om de context van het onderwijs in modellen te vangen, tot onnauwkeurige computergestuurde benaderingen.

De tweede zorg betreft de sociale schade door AI, zoals ongelijke en soms oneerlijke verdeling van informatie, middelen en kansen. Voorbeelden zijn geautomatiseerde beoordelingssystemen die hogere cijfers toekennen aan lerenden uit bevoorrechte situaties en stemherkenningsystemen die ‘non-native‘ sprekers onterecht beschuldigen van valsspelen. Volgens Selwyn is er nu een groeiend besef van de werkelijke schade en de negatieve gevolgen als gevolg van de inzet van AI-technologieën in een sociale omgeving. Verder stelt hij dat ook het meest ‘goedaardige’ gebruik van AI in een school- of klasomgeving waarschijnlijk reeds bestaande institutionele vormen van controle zullen verergeren en verankeren.

Een derde punt van zorg is dat onderwijs wordt aangepast aan de behoeften van AI. Dit leidt tot standaardisatie en beperking van het onderwijs. De meeste mensen zijn bereid om hun sociale wereld aan te passen aan technologieën, in plaats van dat zij verwachten dat technologie zich aanpast aan de sociale wereld. Selwyn geeft voorbeelden van docenten en lerenden die zich aanpassen aan AI-systemen, bijvoorbeeld door weinig betekenisvolle handelingen uit te voeren om aan algoritmische verwachtingen te voldoen.

Ten slotte is de impact van AI op het milieu en ecologie de vierde zorg. Het ontwikkelen van AI en het verwerken van veel data in korte tijd via opdrachten gaat volgens Selwyn met aanzienlijke ecologische en milieukosten. Hij presenteert diverse cijfers hierover en pleit voor een kritische heroverweging van het gebruik van AI in onderwijs, met aandacht voor ‘groene’ technologieën en alternatieve benaderingen die minder belastend zijn voor het milieu.

Neil Selwyn waarschuwt voor de hype rondom AI en stelt dat docenten niet passief moeten toegeven aan de technologische veranderingen, maar juist actief deel moeten nemen aan de vormgeving van deze ontwikkelingen in het onderwijs. Docenten worden vaak in een ondergeschikte rol geplaatst op basis van drie veelvoorkomende aannames: 1) de toenemende inzet van AI-hulpmiddelen in de klas is onvermijdelijk, 2) docenten moeten snel ‘AI-geletterd’ worden om optimaal gebruik te maken van deze technologieën, en 3) het onderwijssysteem moet zich radicaal aanpassen aan de mogelijkheden van AI.

Docenten moet volgens hem zelf de controle nemen en proactief de agenda’s rond AI in het onderwijs vormgeven. Neem het voortouw in discussies, wees kritisch over vage claims van AI zoals het drastisch verminderen van de werklast van leraren of het fungeren van AI als een persoonlijke tutor, meent Selwyn.

Verder wijst Selwyn op de noodzaak om kritisch te kijken naar de nadelen en gevaren van een toenemende afhankelijkheid van AI in het onderwijs, zoals administratieve ‘geweld’ en algoritmische discriminatie. Hij roept op om AI niet alleen te zien als een technisch object, maar als een systeem dat verweven is met de complexe realiteit van onderwijssystemen, economische en politieke systemen.

Selwyn stelt voor om alternatieve vormen van AI te onderzoeken die beter aansluiten bij onderwijsbehoeften. Hij haalt voorbeelden, onder meer van onderwijsorganisaties die menselijke aspecten van leren en doceren benadrukt. Zijn zorgen hebben onder meer te maken met machtsverhoudingen, dat wil zeggen wie mag beslissen welke AI-tools in het onderwijs worden geïmplementeerd en welke invloed AI uitoefent op wat er in die onderwijsomgeving gebeurt. Hij benadrukt het belang van een vertraagde, doordachte benadering en waarschuwt tegen het blindelings accepteren van AI als de oplossing voor alle onderwijsproblemen.

Mijn opmerkingen

Het is op zich goed dat Neil Selwyn wijst op belangrijke zorgpunten, en ook een relatie legt met de machtsvraag. Het zal m.i. altijd het onderwijs zelf moeten zijn dat bepaalt welke technologie, op welke manier en met welk doel zal worden gebruikt. De adoptie van technologie zoals AI is geen autonoom verlopend proces. Het is geen trein die doordendert zonder dat een machinist, conducteur of treinverkeersleider daar invloed op heeft.

Toch heb ik de behoefte om enkele kanttekeningen bij zijn bijdrage te plaatsen:

  • De EU onderscheidt verschillende risico’s als het gaat om AI. Ook binnen het onderwijs zouden we m.i. een onderscheid moeten maken tussen meer en minder risicovolle toepassingen van AI. In Neil Selwyn’s bijdrage loopt dit nu door elkaar. Hij maakt geen onderscheid in verschillende typen AI-toepassingen. De ene keer heeft hij het bijvoorbeeld over toepassingen met gezichtsherkenning, de andere keer over generatieve AI-toepassingen zoals ChatGPT.
  • Daarnaast lijkt hij er geen rekening mee te houden dat je AI ook doordacht kunt gebruiken. Als je je bewust bent van het feit dat de complexiteit van het onderwijs maar deels kan worden gemodelleerd met data, en dat je daarnaast informatie over onderwijs op andere manieren moet verzamelen, verwerken en gebruiken, dan is het gebruik van AI veel minder een zorg. Investeren in geletterdheid op dit terrein heeft ook niet alleen betrekking op instrumenteel gebruik, maar juist ook op een kritisch gebruik. Hij gaat ook voorbij aan het feit dat docenten ook zonder AI lerenden ongelijk kunnen behandelen. Verder zie je dat docenten en lerenden hun gedrag altijd aanpassen, bijvoorbeeld aan de manier van toetsen. Daar moet je het sowieso over hebben.
  • Een aantal andere zorgen zijn bekend en terecht, zoals de vooroordelen en de impact op het milieu. Voor AI-ontwikkelaars is nog veel werk aan de winkel, en er worden ook vorderingen op deze terreinen geboekt. Uiteraard zouden AI-ontwikkelaars er beter aan hebben gedaan om deze problemen te voorkomen.
  • Neil Selwyn heeft m.i. ook onvoldoende oog voor de potentie van AI voor leren, opleiden en onderwijs. Het valt me op dat pleitbezorgers van deze technologie het verwijt krijgen te kritiekloos te opereren. Criticasters krijgen zelden het verwijt dat zij eenzijdig negatief over deze ontwikkeling zijn. Het voeren van evenwichtige en redelijke discussies over de maatschappelijke implicaties en uitdagingen van AI vraagt m.i. om genuanceerde bijdragen.

Andere bronnen over generatieve AI

  1. Universiteit Utrecht stelt functioneringsgesprek samen: “Structurele evaluatie van AI is nodig” – Nieuws – Universiteit Utrecht
  2. AI-Powered Analysis
  3. AI Policy
  4. 4 Skills That Can Help Companies Thrive with AI
  5. 4 Industries Where Chatbots Will Have the Biggest Impact
  6. Gen AI: The Software Developer’s New Best Friend
  7. Now That ChatGPT’s Been Introduced, It’s Time to Fine-Tune It
  8. OpenAI Announces First Partnership with a University
  9. AI is Already Better
  10. How Data Collaboration Platforms Can Help Companies Build Better AI
  11. GPT-4 is Not a Stochastic Parrot
  12. Arizona State Announces Plan to Give Education
  13. ChatGPT Effect: Coursera Sees Signups for AI Courses Every Minute in 2023
  14. 3 Ways Generative AI is Making Our World a Better Place
  15. Generative AI is Earning Good Grades in Education
  16. Have We Reached Peak Ethics in AI?
  17. OpenAI first partnership with a university
  18. Collaboration with OpenAI: future of Higher Education AI
  19. You thought 2023 was a big year for AI? Buckle up
  20. How to *Not* Use ChatGPT
  21. Beyond the Click: Your Guide to ChatGPT Legal Terms
  22. A meta systematic review of AI in Higher Education
  23. Getting HighEd Infrastructure AI-Ready
  24. Building an AI Chatbot Tutor. It Can’t Be Done
  25. 4 AI Imperatives for Higher Education in 2024
  26. Understanding AI and Its Implications for Teaching & Learning
  27. Implications of Generative AI for Higher Education
  28. Google’s ASPIRE teaches AI saying ‘I don’t know’
  29. Welcome to AI university
  30. Strategies for Unifying the Student Digital Experience
  31. Will Our Educational System Keep Pace with AI?
  32. Computers make mistakes and AI will make things worse
  33. UNESCO’s Pioneering Role inMeasuring AI Readiness
  34. Learning Technology Evolves: Where Will AI Take Us in 2024?
  35. Beyond AI exposure: Which tasks cost-effective to automate
  36. Get Ready for Multimodal AI in 2024
  37. Redefining Education in Times of Crisis
  38. Incorporating AI in Education
  39. Gen Z’s vision of AI and GPT in higher education
  40. Charting the course for Generative AI in Education
  41. Augment teaching with AI
  42. What two high schoolers make of AI
  43. Teachers & AI: Collaboration or Competition?
  44. AI Assignments: 10 Best Practices for Higher Ed
  45. Why Higher Education Should Embrace AI Now
  46. 12 new jobs for the Generative AI era
  47. 5 Ways to Use AI to Customize Activities for Students
  48. Teachers support AI in education–but need more support
  49. Framework for Enhancing Assessment in Higher Education
  50. Critical Power Skills Needed for the AI Era
  51. Find Edtech Tools that Take Educator Expertise Seriously
  52. AI risks can create opportunities
  53. 7 Ways to Detect AI Writing without technology
  54. Top News Sites Block AI Bots. Right-Wing Media Welcomes Them
  55. A red flag for AI translation
  56. Book of Computing Content
  57. Key questions to get tech transformation right
  58. Digital and AI leaders leaving the rest behind
  59. Social media algorithms ‘flatten’ our culture
  60. AI will change how you use computers
  61. State of Generative AI in the Enterprise
  62. AI boosts productivity without replacing workers
  63. 3 to 5 years, every interaction with systems is going to get rewritten to use AI
  64. AI is way more expensive than human labour
  65. AI and the future of workplace learning

Mijn bronnen over (generatieve) artificiële intelligentie

Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie, zoals ChatGPT.

This content is published under the Attribution 3.0 Unported license.

Delen

2 reacties

  1. Fijne nuance maak je op het einde Wilfred. Het is inderdaad belangrijk om met elkaar redelijke en evenwichtige discussies te voeren. Ik heb het idee dat dit soms best lastig is op het brede thema onderwijs en digitalisering.

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

Deze site gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.