Trolley Problem

In varianten van Foot en later Thomson kan iemand een tram omleiden, zodat één persoon sterft in plaats van vijf. Kleine veranderingen in het causale verband, de bedoeling en de gebruikte middelen kunnen morele intuïties sterk veranderen.

Er is veel beschrijvend onderzoek naar morele oordelen, maar geen algemeen aanvaarde normatieve oplossing. Moral Machine verzamelde op grote schaal voorkeuren binnen een afgebakende, hypothetische onderzoeksopzet.

Morele oordelen kunnen afhangen van wie handelt, de bedoeling, het causale verband en de presentatie van het probleem, niet alleen van het aantal slachtoffers. Uit wat mensen doen of vinden volgt zonder aanvullende normatieve uitgangspunten niet wat moreel juist is.

Te onderzoeken AI-toepassing: AI kan voorkeuren verzamelen, simuleren en in beleidsregels omzetten. Daardoor bestaat het risico dat gemeten overeenstemming ten onrechte als morele rechtvaardiging wordt gebruikt.

Voorgestelde toets, nog niet uitgevoerd: presenteer dezelfde gegevens over meerderheidsvoorkeuren, met of zonder expliciet onderscheid tussen gemeten voorkeur en normatief argument. Meet de ervaren morele rechtvaardiging en aanvaarding van beleid.

De trolley-cases helpen onderscheid maken tussen bewijs over voorkeuren en argumenten die een morele beslissing rechtvaardigen.

Onderscheid schade veroorzaken, schade laten gebeuren, een gevolg bedoelen en iemand als middel gebruiken. Geobserveerde voorkeuren rechtvaardigen op zichzelf geen beleid.

Foot (1967), The Problem of Abortion and the Doctrine of the Double Effect, later reprinted text — typescript pp.2–4: driver/judge, doing/allowing and negative/positive duties

Awad et al. (2018), The Moral Machine experiment — Nature 563:59–64; publisher abstract and data availability

Voor Foot is een onofficiële transcriptie gebruikt (pp. 2–4); het exacte gelinkte bestand is niet beoordeeld. Voor Moral Machine (2018) is de uitgeverssamenvatting gebruikt. Gegevens over voorkeuren leveren op zichzelf geen normatieve rechtvaardiging.