Newcomb’s Problem

Neem in dit gedachte-experiment aan dat je sterke redenen hebt om de voorspeller bijna altijd juist te achten, ook in deze situatie. De transparante doos bevat altijd €1.000. Vóór jouw keuze vult de voorspeller de ondoorzichtige doos met €1.000.000 als die voorspelt dat je alleen deze doos kiest, en met niets als die voorspelt dat je beide kiest. Daarna kies je alleen de ondoorzichtige doos of beide. Je verandert de eerdere vulling niet, maar kiest wel welk geld je meeneemt.

Het is een bekend, onopgelost probleem uit de besliskunde. Een praktische toepassing vereist een situatie waarin toewijzingen van een voorspelling afhangen en de volgorde van voorspelling, toewijzing en keuze duidelijk vastligt.

In dit protocol kan je keuze een aanwijzing zijn voor de eerdere doosvulling, terwijl ze die vulling niet veroorzaakt. De causale vergelijking houdt de vulling vast; de evidentiële vergelijking neemt het verband met de voorspelling mee. Dat onderscheid beslist hier niet welke beslisregel juist is.

Te onderzoeken AI-toepassing: Als een AI-systeem gedrag in een afgebakende taak voldoende betrouwbaar voorspelt en vooraf middelen toewijst, kunnen we toetsen hoe gebruikers voorspelling en causale invloed onderscheiden. Die voorspelbetrouwbaarheid moet afzonderlijk worden aangetoond; ze volgt niet uit Newcombs gedachte-experiment.

Voorgestelde toets, nog niet uitgevoerd: Ontwerp taken waarin een voorspelling de voorafgaande toewijzing bepaalt. Varieer of de causale structuur expliciet wordt getoond. Meet onjuiste toeschrijving van oorzaken en de gemaakte keuzes.

Newcombs probleem helpt onderscheid maken tussen voorspelling, samenhang en causale invloed. Het levert geen algemeen aanvaarde oplossing voor het geschil tussen beslisregels.

De voorspelling en doosvulling gaan vooraf aan de keuze. De keuze veroorzaakt geen wijziging van het verleden. Causale en evidentiële beslisregels blijven filosofisch betwist.

Nozick (1969), Newcomb’s Problem and Two Principles of Choice, p. 114–116: aanname over betrouwbaarheid en volgorde; p. 134: geen terugwaartse causaliteit.

Nozicks tekst legt de betrouwbaarheid van de voorspeller, de volgorde van gebeurtenissen en het ontbreken van terugwaartse causaliteit vast. De bedragen zijn voor dit voorbeeld naar euro’s omgezet. Het gedachte-experiment bewijst geen voorspelbetrouwbaarheid van bestaande AI-systemen.