Le coût d'avoir tort / Prise de décision

Deux manières d’avoir tort

Presque toute décision peut échouer dans deux directions opposées. Vous pouvez agir quand vous auriez dû vous retenir, ou vous retenir quand vous auriez dû agir. Vous pouvez traiter un patient en bonne santé ou manquer un malade ; déclencher une fausse alerte ou dormir pendant un vrai incendie ; rejeter une idée vraie ou accepter une fausse. Les statisticiens appellent cela les deux types d’erreur, et le fait central à leur sujet est que leurs coûts ne sont presque jamais égaux.

Une fois que vous voyez que les deux erreurs coûtent des montants différents, toute la décision se réorganise autour d’une seule question : dans quel sens est-il plus cher d’avoir tort ? Vous n’essayez pas d’avoir raison. Vous essayez d’échouer, quand vous échouez, dans la direction la moins chère.

Concevoir pour l’asymétrie

C’est pourquoi les bonnes décisions sous incertitude sont délibérément biaisées. Un détecteur de fumée est accordé pour crier au loup, parce qu’une fausse alerte coûte des minutes et un incendie manqué coûte des vies. Un tribunal pénal est accordé pour acquitter le coupable plutôt que de condamner l’innocent, parce que le système juridique juge une erreur bien plus grave que l’autre. Aucun n’essaye d’être précis d’une manière symétrique et impartiale. Chacun penche, à dessein, vers l’erreur survivable.

Décider bien, alors, c’est demander non seulement « qu’est-ce qui est vrai ? » mais « étant donné que je pourrais avoir tort, à quelle erreur veux-je être exposé ? » — et puis pencher le choix vers le sens de l’échec que vous pouvez le plus vous permettre. La marge de sécurité en ingénierie est exactement cette logique versée dans le béton : construire pour supporter bien plus que ce que vous attendez, parce que le coût de surconstruire est un peu d’acier supplémentaire et le coût de sous-construire est l’effondrement.

La rationalité sous l’incertitude n’est pas l’absence de biais. C’est le biais pointé délibérément vers l’erreur que vous pouvez vivre, et loin de celle que vous ne pouvez pas.

Le biais de résultat : juger la mauvaise chose

Il y a un échec de jugement qui ruine silencieusement notre capacité à apprendre des décisions, et il suit directement de tout ce qui précède. Nous jugeons les décisions par la façon dont elles ont tourné. Nous appelons le pari qui a gagné « intelligent » et le pari qui a perdu « stupide », lisant la qualité du choix à rebours à partir de la qualité du résultat.

Sous l’incertitude c’est une erreur de catégorie. Une décision bien formée — bonne structure de gain, désavantage récupérable, biaisée vers l’erreur bon marché — peut encore perdre, parce que l’incertitude signifie que de bons choix rencontrent parfois de la malchance. Une décision imprudente peut gagner, parce que de mauvais choix rencontrent parfois de la chance. Juger par les résultats récompense l’imbécile chanceux et punit le prudent malchanceux, et entraîne tous ceux qui regardent à imiter exactement la mauvaise chose.

La discipline est d’évaluer la décision par ce qui était connaissable quand elle a été prise : la forme du gain était-elle juste, le désavantage survivable, l’erreur pointée dans la direction bon marché ? Une bonne décision qui a perdu est encore une bonne décision. Une mauvaise décision qui a gagné est encore une mauvaise décision. Les résultats sont des données sur le monde ; ils ne sont pas des verdicts sur le processus.

Ce que tout cela a en commun

Reculez sur tout le sujet et remarquez ce que les bons mouvements partagent. La robustesse à travers les futurs, les formes de gain convexes, la porte à sens unique contre à deux sens, l’asymétrie des coûts d’erreur — aucune de celles-ci n’est un fait sur le contenu d’une décision particulière. Aucune ne vous dit si prendre ce travail ou faire cet investissement. Ce sont des faits sur la structure des décisions en général : comment les gains sont arrangés, comment les options se relient, comment les erreurs sont formées.

C’est une chose frappante. La partie transférable de la prise de décision — la partie qui se porte de l’argent à la médecine à la guerre à une vie — n’est pas du tout de la connaissance de domaine. C’est la structure, abstraite des objets spécifiques, ne laissant que le motif des relations entre options et résultats. Ce qui soulève une question qui s’ouvre sur un champ entier de mathématiques : que signifierait étudier la structure elle-même, dépouillée des choses dont elle est la structure ?