Das Internet wurde getötet / Nachweis der Personeneigenschaft

Eine Flut, keine Dürre

Die Geschichte, die wir uns über den Tod des Internets erzählten, war eine Geschichte des Verfalls — tote Links, verlassene Foren, das langsame Erkalten einer einst warmen Allmende. Diese Geschichte ist falsch. Das Internet ist nicht an Vernachlässigung gestorben. Es wurde durch Überfluss getötet.

Generative Systeme haben die Grenzkosten für überzeugend menschlich klingenden Text, Bilder und Stimmen praktisch auf null gesenkt. Wenn die Kosten für die Herstellung einer Sache auf null fallen, hört die Sache auf, Information zu tragen. Eine Unterschrift bedeutet etwas, weil ihre Fälschung teuer ist. Nimm die Kosten weg, und du nimmst die Bedeutung weg.

Die Schwelle der Ununterscheidbarkeit

Für den größten Teil des Lebens des Webs funktionierte eine einfache Heuristik: Kohärente, kontextbezogene, reaktionsfähige Sprache impliziert einen Menschen am anderen Ende. Diese Heuristik ist nun tot.

Sobald synthetische Akteure die Schwelle überschreiten, an der ihre Ausgabe von der eines Menschen nicht mehr zu unterscheiden ist, kehrt sich jeder auf dieser alten Heuristik gebaute Kanal um. Eine Produktbewertung, ein herzlicher Kommentar, eine Antwort, die dich zu verstehen scheint — von keiner davon lässt sich annehmen, dass sie von einer Person stammt. Die Vorannahme kippt von wahrscheinlich Mensch zu unbekannt.

Das ist kein künftiges Risiko. Es ist der gegenwärtige Zustand jedes offenen Textfelds im Internet.

Warum „die Fälschungen erkennen” scheitert

Die intuitive Lösung ist Erkennung: einen Klassifikator bauen, der synthetische Inhalte markiert. Das kann aus einem strukturellen Grund kein Fundament sein.

Erkennung ist adversarial. Jeder Detektor ist ein Trainingssignal für den nächsten Generator. Die Zielfunktion des Generators besteht buchstäblich darin, den Detektor zu schlagen. In jedem adversarialen Spiel, in dem der Generator billig iterieren kann, gewinnt der Generator das Gleichgewicht. Erkennung kauft Zeit, keine Sicherheit.

Das Problem kann also nicht auf der Ebene des Inhalts gelöst werden. Ein Pixelmuster, eine Token-Verteilung — genau das ist es, was der Gegner optimiert. Das Problem muss eine Ebene höher steigen: vom was gesagt wurde zum wer sprechen darf.

Vom Inhalt zu Nachweisen

Wenn man Menschen nicht von Maschinen unterscheiden kann, indem man ihre Ausgabe untersucht, muss man die Personeneigenschaft vor der Ausgabe feststellen — und sie als Nachweis mitführen.

Das ist der konzeptionelle Dreh- und Angelpunkt des ganzen Feldes. Die Vertrauenseinheit ist nicht mehr die Nachricht, sondern der Sprecher. Eine Behauptung kommt mit einem Beweis: Dies wurde von einem verifizierten, einzigartigen Menschen verfasst, ohne preiszugeben, welchem. Der Beweis ist prüfbar; die Identität ist es nicht.

Das ist ein seltsames Objekt. Es verlangt Anonymität und Rechenschaft zugleich — das Recht zu sprechen, ohne überwacht zu werden, und die Pflicht, dabei genau eine Person zu sein.

Was wir tatsächlich schützen

Es ist verlockend, dies als Spam-Problem darzustellen. Das ist es nicht. Spam ist ein wirtschaftliches Ärgernis. Dies ist ein epistemisches.

Eine Gesellschaft koordiniert sich über geteilte Signale: was Menschen glauben, was sie wollen, wofür sie einzustehen bereit sind. Wenn diese Signale in großem Maßstab und nach Belieben fabriziert werden können, verfällt die Koordinationsschicht der Gesellschaft. Man kann den Raum nicht mehr lesen, denn der Raum besteht überwiegend aus Spiegeln.

Der Nachweis der Personeneigenschaft dient nicht der Rettung von Kommentarspalten. Er dient der Bewahrung der Möglichkeit kollektiver Sinnstiftung in einem Medium, in dem das Billigste der Welt eine überzeugende Nachahmung eines Geistes ist.

Das Internet als vertrauenswürdige Allmende ist getötet. Die Frage, die alles Weitere ordnet, ist, ob wir einen Nachfolger auf einem Fundament errichten können, das die Flut nicht erreicht.