Hoe meer routinewerk automatisering overneemt, hoe moeilijker het resterende menselijke werk kan worden.
Automatisering kan oefening en feedback verminderen, terwijl mensen verantwoordelijk blijven voor uitzonderingen. We stellen voor te toetsen of zij fouten nog herkennen en bij falen kunnen ingrijpen.
Hoe meer routinewerk automatisering overneemt, hoe moeilijker het resterende menselijke werk kan worden.
Automatisering wordt ingevoerd omdat mensen traag of feilbaar zijn. De mens blijft vervolgens toezichthouder voor de uitzonderlijke situaties die de automatisering niet aankan — precies de situaties waarin de beste kennis en snelste diagnose nodig zijn. Maar routineautomatisering heeft de operator intussen uit de lus gehaald.
Bainbridge beschrijft hoe automatisering oefening en actuele proceskennis kan verminderen terwijl mensen moeten kunnen ingrijpen. In een gerandomiseerde wiskundestudie op één middelbare school vonden Bastani en collega’s (2025) betere oefenprestaties met GPT-4, maar slechtere prestaties zonder hulpmiddelen kort daarna in de variant zonder leerwaarborgen. In de variant met leerwaarborgen was dat nadeel niet aantoonbaar. Dit is geen bewijs voor langdurige retentieverliezen of herstelvermogen in organisaties.
Automatisering kan oefening en terugkoppeling verminderen, terwijl de mens verantwoordelijk blijft voor uitzonderingen. Daardoor kan de verantwoordelijkheid groter worden dan de onderhouden vaardigheid, vooral bij zeldzame en moeilijke situaties.
Te onderzoeken AI-toepassing: moderne AI kan dit bestaande mechanisme uitbreiden naar professioneel denkwerk en op grotere schaal laten optreden.
Voorgestelde toets, nog niet uitgevoerd: vergelijk werken zonder AI, AI die antwoorden geeft, AI die analyse ondersteunt en vergaande uitbesteding aan AI met regelmatige overname-oefeningen. Meet gewone prestaties en later het zelfstandig herkennen van uitzonderingen, stellen van diagnoses en aanpassen van de aanpak.
Een mens laten meekijken bewijst nog niet dat die kan ingrijpen. Als menselijke tussenkomst noodzakelijk is, moet de benodigde vaardigheid worden onderhouden en aangetoond.
AI kan hier een bestaand mechanisme versterken. Minder oefening kan herstel bemoeilijken, maar goede training of systeeminrichting kan dat voorkomen. De voorgestelde test is niet uitgevoerd.
Bainbridge (1983), Ironies of automation
Bastani et al.(2025), Generative AI without guardrails can harm learning — author manuscript
Bainbridge (1983), full article via IFAC
Bainbridge bespreekt vaardigheid, toezicht en oefening bij automatisering. Bastani en collega’s onderzoeken kortetermijnprestaties bij wiskunde op één school. Die aanvullende studie toont geen langdurig verlies van vaardigheden of organisatorisch herstelvermogen aan.
Help deze case beter maken
We bekijken je bijdrage voordat we de tekst of bronnen aanpassen.