Een beloning verandert niet alleen hoeveel van het gewenste gedrag je krijgt, maar ook welke nieuwe strategieën rationeel worden.
De beroemde cobra-anekdote is historisch zwak gedocumenteerd, maar het mechanisme van perverse incentives is sterk. Zodra een interventie payoffs verandert, gaan strategische actoren reageren op wat werkelijk beloond wordt.
Een beloning verandert niet alleen hoeveel van het gewenste gedrag je krijgt, maar ook welke nieuwe strategieën rationeel worden.
Het populaire verhaal vertelt dat een overheid een premie per gedode cobra invoerde, waarop mensen cobra’s begonnen te kweken. De historische betrouwbaarheid van die specifieke anekdote is onzeker; ze illustreert wel het probleem van verkeerd ontworpen prikkels.
Perverse incentives, principal–agentproblemen en gaming zijn sterk evidenced. De cobra story zelf mag niet als empirisch bewijs voor het mechanisme worden gebruikt.
Een ingreep verandert wat gedrag oplevert. Mensen passen zich aan aan wat wordt beloond, waardoor de beloning en het werkelijke doel verder uit elkaar kunnen gaan lopen.
Te onderzoeken AI-toepassing: AI kan sneller mazen in regels en strategieën voor een hogere beloning vinden. Dat kan het bestaande mechanisme versterken.
Voorgestelde toets, nog niet uitgevoerd: Vergelijk onvolledige beloningsregels met en zonder AI-hulp en met onafhankelijke controles die verborgen blijven of wisselen. Meet zowel de beloonde score als de feitelijke kwaliteit.
Het cobra-verhaal illustreert het probleem. De theorie over prikkels en het werk van Goodhart en Campbell bieden aanknopingspunten voor onderzoek.
Gebruik het cobra-verhaal als illustratie, niet als historische bewijsbasis. Onderzoek of een beloningsregel gedrag veroorzaakt dat de proxy verbetert zonder het onafhankelijke doel te verbeteren.
Campbells werkdocument uit 1976 (pp. 49–54) onderbouwt het prikkelprobleem, niet de historische cobra-anekdote. De tijdschriftversie uit 1979 is een afzonderlijke publicatie waarvan de volledige tekst hier niet is beoordeeld. De AI-toepassing is nog niet getest.
Help deze case beter maken
We bekijken je bijdrage voordat we de tekst of bronnen aanpassen.