Kritische bespreking van disciplinerende technologie (zoals online proctoring)

Online proctoring maakt deel uit van een trend die de Electronic Frontier Foundation disciplinerende technologie -‘disciplinaire technology’– noemt. Daarbij gaat het om een uitdijende categorie applicaties en apparaten die surveillance van de wieg tot aan het graf mogelijk maakt binnen steeds meer aspecten van ons dagelijks leven.

Volgens de Electronic Frontier Foundation gebruiken leidinggevende software om de productiviteit van werknemers te monitoren, gebruiken we online proctoring en ‘social media proctoring’ om lerenden te volgen en passen we ook allerlei applicaties toe om te volgen wat kinderen, partners en anderen doen. Vaak zonder dat deze personen dat weten. De Electronic Frontier Foundation noemt deze toepassingen

non-consensual violations of a subject’s autonomy and privacy, usually with only a vague connection to their stated goals

Degenen die gemonitord worden, kunnen daar niet vrijelijk voor kiezen. Zij bevinden zich vaak niet in een machtspositie om de toepassing van deze applicaties te weigeren. De rechter oordeelde op 1 juni 2021 ook dat de Universiteit van Amsterdam online proctoring tijdens de coronacrisis mag toepassen omdat sprake is noodzaak en proportionaliteit.

Kenmerken disciplinerende technologie

De auteurs van de Electronic Frontier Foundation stellen echter dat privacy een mensenrecht dat wordt geschonden door flagrante vormen van surveillance.

Zij stellen dat de coronacrisis een impuls heeft gegeven aan het gebruik van deze toepassingen omdat het niet meer mogelijk was surveillance door personen toe te passen. Daardoor worden deze technologieën steeds vaker ‘mainstream’:

  • Het gaat daarbij om technologieën die surveillance als doel hebben (kijken of gebruikers in overtreding zijn en gepakt kunnen worden).
  • Het betreft technologieën die zich richten op en gebruikt worden door consumenten en private organisaties (werkplek, scholen, thuis).
  • De disciplinerende technologieën hebben een discriminerende impact omdat zij achtergestelde onevenredig hard treffen. Bijvoorbeeld studenten uit arme gezinnen met slechte internetverbindingen of zwarte studenten waarvan de applicaties moeite hebben hun gezichten te herkennen.
  • Het is onduidelijk of de disciplinerende technologieën bijdragen tot het doel waarvoor zij worden gebruikt. Leidt ‘bossware’ tot een hogere productiviteit of tot lagere tevredenheid van werknemers met hun baan? Reduceert online proctoring de mate van fraude of leidt het tot een grote hoeveelheid valse meldingen?

Zo is technologie niet bedoeld

Volgens Electronic Frontier Foundation heeft het weinig zin om je te verzetten tegen specifieke toepassingen. We moeten ons volgens hen te weer stellen tegen het sterk wordende geloof dat het bespioneren van anderen acceptabel is voor een persoon of organisatie. Daarnaast is het nodig om aan te tonen hoe flinterdun de beloftes van deze disciplinerende technologieën zijn, en hoe schadelijk de toepassing ervan.

Tools that put machines in power over ordinary people are a sickening reversal of how technology should work.

Volgens mij gaat hier nog iets aan vooraf. Binnen onze samenleving gaan we ervan uit dat mensen misbruik maken van de situatie als zij niet worden gemonitord. We gaan ervan uit dat werknemers niet serieus werken, dat kinderen spijbelen of dat anderen onze kinderen iets aan willen doen, en dat lerenden fraude plegen als geen sprake is van surveillance. Opleidingen moeten zelfs expliciet aangeven hoe zij ervoor zorgen dat summatieve toetsen en examens ‘deugdelijk’ worden gemaakt.

En uiteraard zijn er mensen die misbruik maken van deze situatie. Het is echter de vraag wat daar de reden van is, wat de impact is van het ‘misbruik’ en hoe groot deze groep is (ik kan me voorstellen dat bepaalde groepen lerenden eerder frauderen dan anderen, als ze daar de kans toe krijgen). Daarnaast kun je kijken naar alternatieven voor disciplinaire technologie. Geef mensen in elk geval een oprechte en reële keuze om gebruik te maken van deze technologie.

Het toenemend gebruik van technologie voor surveillance en disciplinering is immers inderdaad een zorgelijke tendens vanuit het perspectief van publieke waarden zoals privacy, autonomie, gelijke machtsverhoudingen, gelijke behandeling en controle over technologie (lees hierover meer in Opwaarderen. Borgen van publieke waarden in de digitale samenleving).

This content is published under the Attribution 3.0 Unported license.

Delen

9 reacties

  1. Hoi Wilfred,
    In het verlengde van je stuk over disciplinerende technologie: wij hebben een experiment gedaan met proctoring, waarbij kiezen voor de proctoringvorm een keuze van de student is. De student kan het tentamen ook op de reguliere manier doen, maar kan kiezen voor proctoring, bijvoorbeeld omdat er dan geen reistijd is een/of omdat de student zich thuis meer op het gemak voelt dan op een externe locatie. We leggen bij het maken van die keus ook uit, hoe proctoring werkt en wat je kan verwachten. De deelnemende studenten zijn zeer enthousiast (afgezien van een groot probleem, vind ik, van slecht standaard Engels sprekende proctors). Gesteld dat we dergelijke problemen goed kunnen oplossen, is dit toch een mooie vorm om studenten een keuze te geven voor de tentamenvorm die het best bij ze past? Ik hoor graag hoe jij dit ziet.

    Groet!

  2. Het lijkt me wel dat men onderscheid moet maken tussen situaties waarin een live vorm van een bestaande surveillance verloren gaat (proctoring) en een vorm waarbij je surveillance toepast die er eerder niet was. In het eerste geval compenseer je een verlies, in het tweede geval ga je al snel op het hellende vlak. De vraag is natuurlijk wel op wat voor manier proctoring de klassieke surveillance bij een tentamen opvangt.

  3. Wilfred, je hebt me een groot plezier gedaan met dit artikel!
    Het gebruik van disciplinerende technologie zegt inderdaad veel over de relatie tussen werkgever en medewerker en tussen een onderwijsinstelling en haar leerlingen en studenten. Ook hier geldt: ‘The method is the message’. Nog los van het fundamentele gevoel van wantrouwen, versterkt het gebruik van bossware en online proctoring gehoorzaamheid en maakt het moeilijker om een beroep te doen op autonomie, zelfsturing en een onconventionele inbreng. Dat zal ongetwijfeld invloed hebben op het geloof in eigen kunnen, het beleven van welzijn, bevlogenheid en geluk. Dat zijn niet zulke fraaie condities voor leren en werken. En zo hadden we technologie toch niet bedoeld. Het is echt de moeite waard om te onderzoeken of hier sprake is van de schending van een fundamenteel mensenrecht. Joseph Kessels

  4. Het bijzondere aan deze technologie is eigenlijk dat het het spreekwoord bevestigd:
    Zoals de waard is vertrouwd hij zijn gasten. Waarmee je dus eigenlijk kunt stellen, dat het de leidinggevenden zijn die onbetrouwbaar zijn en constant onder controle zouden moeten staan van de technologie die ze hun medewerkers opdringen.
    Het is ook een uiting van wat er verder al in de samenleving leeft, het wantrouwen in de ander. We zien het in de manier waarop omgegaan wordt met signalen en berichten over fraude, zonder dat gekeken wordt naar de verhouding van die fraude tot andere fouten die gemaakt worden en die geld kosten. We zien het in het feit dat de samenleving meer bezig is met de fouten van anderen dan de kwaliteiten. We zien het in de media die eerder melding zal doen van fouten, fraude, misdrijven, wantrouwen, affaires, leugens, dan van het gehele plaatje rond de beschreven “afwijkingen” van onze verwachtingen.
    Verder zie je bij al die vormen van technologie bedoelt om te controleren, dat het motiverende uitgangspunt is: Wat kost het als we het niet doen? Zonder dat de vraagt gesteld wordt: Wat kost het om het te doen en staat dat in verhouding tot wat het kost als we het niet doen? Want heeft het zin om fraude te bestrijden als dat net zoveel kost als de fraude zelf? Dat heet dan geloof ik ook wel een Pyrrus-overwinning.
    Maar zoals altijd is het makkelijker om met technologie een ander te controleren, dan je als leidinggevende in te spannen om de ander het vertrouwen te geven, zodat de ander zich betrouwbaar gedraagt. En zolang dat wantrouwen in welke vorm dan ook het uitgangspunt is zal er niet veel veranderen en zullen leidinggevenden liever kiezen voor wantrouwen gedestilleerd in controlerende technologie.
    Misschien wordt het dus wel tijd voor een andere benadering in het onderwijs van leerlingen. Misschien moeten we wel stoppen met summatief evalueren en alleen nog maar formatief evalueren.

  5. Er zijn inderdaad meer voorbeelden te bedenken van een geïnstitutionaliseerd wantrouwen. Dat klopt. Ik zou summatief beoordelen trouwens niet volledig willen vervangen door formatief evalueren. We kunnen formatief evalueren wel meer toepassen.

  6. Graag gedaan, Joseph. Je legt ook een terechte relatie met de leercultuur binnen organisaties!

  7. Leidinggevenden geven ook aan dat zij normaliter werknemers in hun werk observeren (of dat echt zo is laat ik maar even in het midden). Het is ook de vraag of we bij regulier beoordelen wel moeten surveilleren. Moeten we niet beter kijken naar alternatieve manieren van beoordelen?

  8. Los van het feit dat je ook kunt kiezen van manieren van beoordelen waarbij surveillance niet nodig is, vind ik dit te verdedigen. Voor ‘Corona’ gebeurde dat ook op deze manier. Na de zomer zal dit bij veel onderwijsinstellingen praktijk zijn. Dan mag je online proctoring ook niet meer verplichten, maar kan dit alleen maar na toestemming van de student.

  9. Het lijkt me sterk dat leidinggevenden tijd hebben om normaliter hun werknemers in hun werk te observeren. Dat zou betekenen dat ze niet meer aan hun eigen taken toekomen. Of bedoelen leidinggevenden dat de vijftien minuten die ze iedere dag rondlopen op de werkvloer en de wandelingen naar de koffiehoek beschouwen als observeren van werknemers. Dan is de overgang van 30 minuten observeren per dag naar 8 uur observeren middels software wel een belachelijke inflatie van observatiegedrag met 1550%.

    Persoonlijk ben ik voor het mensen leren om eerlijk te zijn, ipv. het signaal afgeven dat je anderen moet wantrouwen en dat je daarvoor alles mag doen waarvan je hoopt dat het het gewenste effect zal hebben. Voor die paar mensen die oneerlijk zijn, is de oplossing denk ik niet iedereen controleren, maar ontdekken wat die paar oneerlijkerds motiveert om oneerlijk te zijn? Dan kun je gerichter het gedrag aanpakken, dan dat je met een kanon op een vlieg schiet.

Geef een antwoord

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

* Checkbox GDPR is verplicht

*

Ik ga akkoord