Стоимость быть неправым / Принятие решений

Два способа быть неправым

Почти любое решение может провалиться в двух противоположных направлениях. Вы можете действовать, когда следовало воздержаться, или воздержаться, когда следовало действовать. Вы можете лечить здорового пациента или пропустить больного; поднимать ложную тревогу или проспать настоящий пожар; отвергать верную идею или принимать ложную. Статистики называют это двумя типами ошибок, и центральный факт о них в том, что их стоимости почти никогда не равны.

Как только вы видите, что две ошибки стоят разных сумм, всё решение реорганизуется вокруг одного вопроса: в каком направлении дороже ошибиться? Вы не пытаетесь быть правым. Вы пытаетесь ошибиться, когда ошибаетесь, в более дешёвую сторону.

Проектирование под асимметрию

Вот почему хорошие решения при неопределённости намеренно смещены. Дымовой детектор настроен кричать «волки», потому что ложная тревога стоит минут, а пропущенный пожар — жизней. Уголовный суд настроен оправдывать виновного, а не осуждать невинного, потому что правовая система считает одну ошибку гораздо более тяжёлой, чем другую. Ни один не пытается быть точным симметрично и беспристрастно. Каждый намеренно склоняется к переживаемой ошибке.

Решать хорошо, значит, спрашивать не только «что истинно?», но «учитывая, что я могу ошибиться, к какой ошибке я хочу быть подвержен?» — и затем наклонять выбор в сторону того способа провала, который вы больше всего можете себе позволить. Запас прочности в инженерии — точно эта логика, залитая в бетон: строить так, чтобы выдерживать гораздо больше, чем вы ожидаете, потому что цена перестроительства — немного лишней стали, а цена недостроительства — обрушение.

Рациональность при неопределённости — не отсутствие смещения. Это смещение, намеренно направленное к ошибке, с которой вы можете жить, и прочь от той, с которой не можете.

Смещение результата: судить не ту вещь

Есть провал суждения, который тихо разрушает нашу способность учиться на решениях, и он следует прямо из всего выше. Мы судим решения по тому, как они закончились. Мы называем пари, которое выиграло, «умным», а проигравшее — «глупым», читая качество выбора задом наперёд от качества результата.

При неопределённости это категорийная ошибка. Хорошо сформированное решение — правильная структура выигрыша, переживаемый downside, смещённое к дешёвой ошибке — всё равно может проиграть, потому что неопределённость означает, что хорошие выборы иногда встречают плохую удачу. Безрассудное решение может выиграть, потому что плохие выборы иногда встречают хорошую удачу. Судить по результатам вознаграждает удачливого дурака и наказывает осторожного невезучего и тренирует всех наблюдающих имитировать именно неправильную вещь.

Дисциплина — оценивать решение по тому, что было познаваемо когда оно было принято: была ли форма выигрыша правильной, downside переживаемым, ошибка направлена в дешёвую сторону? Хорошее решение, которое проиграло, всё равно хорошее решение. Плохое решение, которое выиграло, всё равно плохое. Результаты — данные о мире; они не вердикты о процессе.

Что у всего этого общего

Отступите назад через всю тему и заметьте, что общего у хороших ходов. Робастность через будущие, выпуклые формы выигрыша, односторонняя против двусторонней двери, асимметрия стоимостей ошибок — ни одна из них не факт о содержании какого-то конкретного решения. Ни одна не говорит вам, брать ли эту работу или делать то вложение. Это факты о структуре решений в общем: как устроены выигрыши, как соотносятся опции, как сформированы ошибки.

Это поразительная вещь. Переносимая часть принятия решений — часть, которая несётся от денег к медицине к войне к жизни, — вовсе не доменное знание. Это структура, абстрагированная от конкретных объектов, оставляющая только паттерн отношений между опциями и исходами. Что поднимает вопрос, который, как оказывается, открывает целое поле математики: что значило бы изучать структуру саму по себе, лишённую того, структурой чего она является?