Han matado a internet / Prueba de personalidad

Una inundación, no una sequía

La historia que nos contábamos sobre la muerte de internet era una historia de decadencia — enlaces rotos, foros abandonados, el lento enfriamiento de un bien común antes cálido. Esa historia es falsa. Internet no murió de abandono. Lo mató la abundancia.

Los sistemas generativos redujeron a prácticamente cero el coste marginal de producir texto, imágenes y voces que suenan convincentemente humanos. Cuando el coste de producir una cosa cae a cero, esa cosa deja de portar información. Una firma significa algo porque falsificarla es caro. Quita el coste y quitas el significado.

El umbral de la indistinguibilidad

Durante la mayor parte de la vida de la web funcionó una heurística simple: un lenguaje coherente, contextual y receptivo implica una persona al otro lado. Esa heurística está ahora muerta.

En cuanto los agentes sintéticos cruzan el umbral en que su producción es indistinguible de la de un humano, todo canal construido sobre esa vieja heurística se invierte. Una reseña de producto, un comentario sentido, una respuesta que parece entenderte — de ninguno puede presumirse que provenga de una persona. La presunción por defecto pasa de probablemente humano a desconocido.

No es un riesgo futuro. Es la condición presente de todo campo de texto abierto en internet.

Por qué «detectar los falsos» fracasa

La solución intuitiva es la detección: construir un clasificador que marque el contenido sintético. Esto no puede ser un fundamento, por una razón estructural.

La detección es adversarial. Cada detector es una señal de entrenamiento para el siguiente generador. La función objetivo del generador es literalmente derrotar al detector. En cualquier juego adversarial donde el generador pueda iterar a bajo coste, el generador gana el equilibrio. La detección compra tiempo, no seguridad.

Así que el problema no puede resolverse al nivel del contenido. Un patrón de píxeles, una distribución de tokens — eso es exactamente lo que el adversario optimiza. El problema debe subir un nivel: de lo que se dijo a quién tiene permiso para hablar.

Del contenido a las credenciales

Si no se puede distinguir a los humanos de las máquinas examinando su producción, hay que establecer la condición de persona antes de que la producción ocurra — y portarla como una credencial.

Ese es el giro conceptual de todo el campo. La unidad de confianza deja de ser el mensaje y pasa a ser quien habla. Una afirmación llega acompañada de una prueba: esto fue escrito por un humano verificado y único, sin revelar cuál. La prueba es verificable; la identidad no lo es.

Es un objeto extraño. Pide anonimato y responsabilidad al mismo tiempo — el derecho a hablar sin ser vigilado, y la obligación de ser exactamente una persona al hacerlo.

Qué protegemos realmente

Es tentador plantear esto como un problema de spam. No lo es. El spam es una molestia económica. Esto es una molestia epistémica.

Una sociedad se coordina mediante señales compartidas: lo que la gente cree, lo que quiere, aquello por lo que está dispuesta a responder. Si esas señales pueden fabricarse a gran escala y a voluntad, la capa de coordinación de la sociedad se degrada. Ya no puedes leer la sala, porque la sala es casi toda espejos.

La prueba de personalidad no trata de salvar las secciones de comentarios. Trata de preservar la posibilidad de un sentido colectivo en un medio donde lo más barato del mundo es una imitación convincente de una mente.

Internet como bien común de confianza está matado. La pregunta que organiza todo lo que sigue es si podemos construir un sucesor sobre un fundamento que la inundación no pueda alcanzar.