Интернет убит / Доказательство личности

Потоп, а не засуха

История, которую мы себе рассказывали о смерти интернета, была историей упадка — мёртвые ссылки, заброшенные форумы, медленное остывание некогда тёплого общего достояния. Эта история неверна. Интернет умер не от запустения. Его убило изобилие.

Генеративные системы свели предельную стоимость производства правдоподобно человеческого текста, изображений и голосов практически к нулю. Когда стоимость производства вещи падает до нуля, вещь перестаёт нести информацию. Подпись что-то значит, потому что её подделка дорога. Уберите стоимость — и вы уберёте смысл.

Порог неразличимости

Бо́льшую часть жизни сети работала простая эвристика: связный, контекстный, отзывчивый язык подразумевает человека на другом конце. Эта эвристика теперь мертва.

Как только синтетические агенты переступают порог, за которым их продукт неотличим от человеческого, всякий канал, построенный на старой эвристике, переворачивается. Отзыв на товар, искренний комментарий, ответ, который как будто вас понимает, — ни об одном из них нельзя предположить, что он исходит от человека. Презумпция переключается с вероятно человек на неизвестно.

Это не будущий риск. Это нынешнее состояние каждого открытого текстового поля в интернете.

Почему «выявлять подделки» не работает

Интуитивное решение — обнаружение: построить классификатор, помечающий синтетический контент. Это не может стать фундаментом по структурной причине.

Обнаружение состязательно. Каждый детектор — обучающий сигнал для следующего генератора. Целевая функция генератора буквально состоит в том, чтобы победить детектор. В любой состязательной игре, где генератор может дёшево итерировать, генератор выигрывает равновесие. Обнаружение покупает время, а не безопасность.

Поэтому задачу нельзя решить на уровне контента. Узор пикселей, распределение токенов — именно это оптимизирует противник. Задачу нужно поднять на уровень выше: от что́ сказано к кому позволено говорить.

От контента к удостоверениям

Если нельзя отличить людей от машин, рассматривая их продукт, личностность приходится устанавливать до того, как продукт создан, — и нести её как удостоверение.

Это концептуальный поворот всей области. Единицей доверия становится не сообщение, а говорящий. Утверждение приходит вместе с доказательством: это написано проверенным, единственным человеком, без раскрытия, каким именно. Доказательство проверяемо; личность — нет.

Это странный объект. Он требует одновременно анонимности и подотчётности — права говорить без слежки и обязанности быть при этом ровно одним человеком.

Что мы на самом деле защищаем

Соблазнительно представить это как проблему спама. Это не так. Спам — экономическая помеха. Это помеха эпистемическая.

Общество координируется через общие сигналы: во что люди верят, чего хотят, за что готовы поручиться. Если эти сигналы можно фабриковать в любом масштабе и по желанию, координационный слой общества деградирует. Вы больше не можете «прочитать зал», потому что зал состоит почти из одних зеркал.

Доказательство личности — не о спасении разделов комментариев. Оно о сохранении самой возможности коллективного смыслообразования в среде, где самое дешёвое в мире — убедительная имитация разума.

Интернет как доверенное общее достояние убит. Вопрос, организующий всё дальнейшее, — сможем ли мы построить преемника на фундаменте, до которого потоп не дотянется.