Изготовление релевантности / Экономика внимания

Релевантность раньше находили

Есть разница между тем, что является важным, и тем, что ощущается важным, и большую часть истории эти два были грубо связаны трением. То, что до вас доходило, прошло через людей — редакторов, соседей, институты, — которые применяли какое-то суждение, каким бы несовершенным оно ни было, о том, что стоит передавать. Релевантность обнаруживалась, медленно и несовершенно, цепочкой людей.

Экономика внимания разрывает эту связь. Она не обнаруживает, что релевантно для вас; она изготавливает то, что ощущается релевантным, непрерывно вычисляя, какой стимул наиболее надёжно захватит именно ваше внимание, — и доставляя это, важно это по любому стандарту, кроме захвата, или нет.

Дёргание древних рычагов

Изготовление работает, потому что у него есть точная цель: эволюционировавшая система внимания из первой темы. Отбор настроил нас щёлкать на новизну, угрозу, возмущение, социальный конфликт, на всё, что могло иметь значение для ancestral выживания. Эти рефлексы — рычаги, и они выставлены.

Оптимизирующая система не нуждается в том, чтобы понимать вас. Ей нужно только обнаружить неустанным экспериментом на миллиардах испытаний, какие входы заставляют ваше внимание надёжно ловиться — и эти входы предсказуемо сходятся на тех же древних триггерах: тревожащем, возмущающем, угрожающем, племенном. Фид становится машиной для дёргания рычагов, которые наша биология оставила выставленными, откалиброванных по человеку, уточняемых каждый раз, когда вы вздрагиваете к экрану. То, что вы переживаете как «это важно», часто просто инстинкт, которым оперирует система, получающая прибыль от его оперирования.

Изготовленная релевантность не ощущается изготовленной. Она ощущается как важность, как срочность, как забота о правильных вещах. Именно поэтому это работает — рычаг и ощущение — один и тот же нерв.

Перелом общего мира

Здесь ущерб перестаёт быть личным и становится коллективным, и это самая тяжёлая цена темы. Когда релевантность обнаруживалась через общие каналы, общество держало примерно общую картину того, что имеет значение — общую повестку, даже при разногласиях о ней. Изготовленная релевантность растворяет это, потому что вычисляется по человеку. Каждый ум получает другой, индивидуально оптимизированный поток того, что ощущается срочным.

Результат — не общество, спорящее об общей реальности. Это миллиард частных реальностей, каждая внутренне убедительная, каждая изготовленная для максимизации вовлечённости одного человека, со всё меньшим перекрытием между ними. Люди больше не спорят об одних и тех же фактах; они населяют разные изготовленные миры и принимают других за лжецов или дураков. Координационный слой общества — общее чувство того, что реально и что важно, — именно то, что по-человечески изготовленная релевантность разъедает.

Эпистемическая плата

Вспомните из самой первой темы, что наша невооружённая когниция — инструмент пригодности, а не истины, и что мы поэтому зависим от внешних лесов — институтов, общих методов, общей записи, — чтобы ловить ошибки, которые производит наша проводка. Изготовленная релевантность напрямую атакует эти леса. Она заменяет общие, нагруженные трением каналы, которые раньше приближали общую реальность, частными фидами, оптимизированными под захват, удаляя самую общность, которая требуется коллективному смыслообразованию.

Таким образом, изготовление релевантности делает нечто худшее, чем тратит внимание. Оно ухудшает условия, при которых население вообще может мыслить вместе — фрагментируя общий мир на максимизированные для вовлечённости частные, и оставляя каждого человека более уверенным и менее правильным.

Последний оборот винта

Есть развитие, которое переводит это из тяжёлого в ошеломляющее, и именно здесь тема заканчивается и начинается следующая. До сих пор мы предполагали, что релевантность изготавливается для людей и вовлечённость от людей — что аудитория, как бы ни манипулируемая, реальна. Это предположение проваливается. Всё больше контент генерируется машинами, вовлечённость выполняется машинами, и сама аудитория может быть вовсе не человеческой. Когда смотрящий может быть ботом, а говорящий — синтезом, ценность просмотра падает до нуля, и вопрос под всей экономикой наконец всплывает: в системе, оптимизированной захватывать внимание, как вы вообще знаете, что на другом конце есть человек?