Chinese Room

Een persoon die geen Chinees begrijpt zit in een kamer. Via een sleuf komen Chinese tekens binnen; een regelboek vertelt welke symbolen teruggestuurd moeten worden. Voor buitenstaanders kan de conversatie vloeiend lijken, terwijl de persoon binnen geen Chinees begrijpt. Searle gebruikte dit in 1980 tegen de stap van succesvolle symbolische verwerking naar intrinsiek begrip.

De filosofische conclusie blijft omstreden. Tegenargumenten richten zich op begrip van het hele systeem, de rol van een robotlichaam of een virtuele geest. De voorgestelde praktijktest gaat daarom over antwoordkwaliteit en het vermogen om een redenering te reconstrueren, kritisch te onderzoeken en aan te passen; niet over bewustzijn.

Zichtbare prestaties, overtuigende uitleg en aantoonbaar begrip kunnen verschillen. Een aanwijzing voor begrip, zoals een correct antwoord, bewijst niet automatisch dat iemand de onderliggende vaardigheid beheerst.

Te onderzoeken AI-toepassing: Generatieve AI kan overtuigende output produceren zonder daarmee vast te stellen wie de onderliggende redenering kan reconstrueren.

Voorgestelde toets, nog niet uitgevoerd: vergelijk werken zonder AI, AI die direct antwoorden geeft en AI die het analyseren ondersteunt. Meet de onmiddellijke prestaties en later het zelfstandig reconstrueren van de redenering, herkennen van fouten en aanpassen aan gewijzigde aannames. De hypothese is dat directe AI-antwoorden de onmiddellijke prestaties sterker verbeteren dan de latere zelfstandige vaardigheid.

Maak concreet wat begrip in een taak betekent: een redenering reconstrueren, fouten herkennen en het geleerde in een nieuwe situatie toepassen. Zo kan de relatie met kennisveerkracht worden onderzocht. De case bewijst niet dat AI principieel geen begrip kan hebben.

Overtuigende output stelt op zichzelf niet vast wie de redenering zelfstandig kan reconstrueren. Deze operationele vraag beslist Searles filosofische geschil niet.

Searle (1980), Minds, brains, and programs

Searle (1980), accessible prepublication text — penultimate draft; final journal wording may differ

De bespreking steunt op een voorpublicatieversie van Searles artikel, inclusief de systeem- en robottegenargumenten. De definitieve tijdschrifttekst is niet volledig vergeleken. De filosofische discussie valideert de voorgestelde praktijktest niet.