L'internet a été tué / Preuve de personnalité

Une inondation, pas une sécheresse

L’histoire que nous nous racontions sur la mort d’internet était une histoire de déclin — liens morts, forums abandonnés, lent refroidissement d’un bien commun jadis chaleureux. Cette histoire est fausse. L’internet n’est pas mort de négligence. Il a été tué par l’abondance.

Les systèmes génératifs ont rendu pratiquement nul le coût marginal de produire du texte, des images et des voix d’apparence humaine. Lorsque le coût de production d’une chose tombe à zéro, cette chose cesse de porter de l’information. Une signature a un sens parce que la contrefaire coûte cher. Supprimez le coût et vous supprimez le sens.

Le seuil d’indiscernabilité

Pendant la majeure partie de la vie du web, une heuristique simple fonctionnait : un langage cohérent, contextuel et réactif implique une personne à l’autre bout. Cette heuristique est désormais morte.

Dès que les agents synthétiques franchissent le seuil où leur production devient indiscernable de celle d’un humain, tout canal bâti sur cette ancienne heuristique s’inverse. Un avis produit, un commentaire sincère, une réponse qui semble vous comprendre — rien de tout cela ne peut être présumé provenir d’une personne. Le défaut bascule de probablement humain à inconnu.

Ce n’est pas un risque futur. C’est l’état présent de chaque champ de texte ouvert sur internet.

Pourquoi « détecter les faux » échoue

La solution intuitive est la détection : construire un classificateur qui signale le contenu synthétique. Cela ne peut servir de fondation, pour une raison structurelle.

La détection est adversariale. Chaque détecteur est un signal d’entraînement pour le générateur suivant. La fonction objectif du générateur est littéralement de vaincre le détecteur. Dans tout jeu adversarial où le générateur peut itérer à bas coût, le générateur remporte l’équilibre. La détection achète du temps, pas de la sécurité.

Le problème ne peut donc pas être résolu au niveau du contenu. Un motif de pixels, une distribution de jetons — c’est exactement ce que l’adversaire optimise. Le problème doit monter d’un cran : du ce qui a été dit au qui a le droit de parler.

Du contenu aux justificatifs

Si l’on ne peut distinguer les humains des machines en examinant leur production, il faut établir la qualité de personne avant que la production ait lieu — et la porter comme un justificatif.

C’est le pivot conceptuel de tout le domaine. L’unité de confiance cesse d’être le message pour devenir le locuteur. Une affirmation arrive accompagnée d’une preuve : ceci a été rédigé par un être humain vérifié et unique, sans révéler lequel. La preuve est vérifiable ; l’identité ne l’est pas.

C’est un objet étrange. Il réclame à la fois l’anonymat et la responsabilité — le droit de parler sans être surveillé, et l’obligation d’être exactement une personne en le faisant.

Ce que nous protégeons réellement

Il est tentant de présenter cela comme un problème de spam. Ce n’en est pas un. Le spam est une nuisance économique. Ceci est une nuisance épistémique.

Une société se coordonne par des signaux partagés : ce que les gens croient, ce qu’ils veulent, ce qu’ils sont prêts à cautionner. Si ces signaux peuvent être fabriqués à grande échelle et à volonté, la couche de coordination de la société se dégrade. On ne peut plus lire la salle, car la salle n’est faite que de miroirs.

La preuve de personnalité ne vise pas à sauver les sections de commentaires. Elle vise à préserver la possibilité d’un sens commun collectif dans un média où la chose la moins chère au monde est une imitation convaincante d’un esprit.

L’internet comme bien commun de confiance est tué. La question qui organise tout ce qui suit est de savoir si nous pouvons bâtir un successeur sur une fondation que l’inondation ne peut atteindre.