Das Problem: Warum wir KI (noch) nicht blind vertrauen können
Ben Fielding zeigt auf, dass Vertrauen in KI das zentrale Problem unserer Zeit ist.
- Proprietäre Modelle (OpenAI, Anthropic) sind Blackboxes. Man zahlt ein Abo, weiß aber nicht, welche Verzerrungen (Bias) in den Antworten stecken.
- Das „Open“-Paradoxon: Selbst „Open-Weights“-Modelle sind nicht wirklich überprüfbar. Der Trainingsprozess kann leicht manipuliert werden („Model Corruption“), ohne dass es der Endanwender merkt.
Die Lösung: Auditierbares Training (Jenson Open 1B)
Jensons Antwort ist die vollständige Reproduzierbarkeit des Trainings.
- Jeder Schritt (z. B. Schritt 8.062) kann von jedem zu Hause nachgerechnet werden.
- Das Ergebnis muss Bit für Bit identisch sein. Das garantiert, dass keine versteckten Befehle oder Manipulationen im Modell schlummern.
- Es entsteht eine statistische Garantie, ähnlich wie bei Open-Source-Software: Niemand liest den ganzen Code, aber die Community prüft stichprobenartig die Korrektheit.
Dezentralisierung & Krypto: Die Vertrauensinfrastruktur
- Warum Blockchain? Die Hashes der Modelle müssen unveränderlich gespeichert werden. Wären sie nur auf GitHub, könnte der Anbieter sie austauschen.
- Neutralität: Nur ein dezentrales Netzwerk kann garantieren, dass die KI nicht von einer einzelnen Firma oder Regierung kontrolliert wird.
Delphi: Der Informationsmarkt der Zukunft
- Wie bringt man Maschinen die Wahrheit bei? Über finanzielle Anreize!
- Prognosemärkte (wie Polymarket) sind das Vorbild. Wer Geld auf eine Prognose setzt, signalisiert echte Überzeugung.
- Der Clou bei Jenson: Nutzer können auf
delphi.fyi gegen den KI-Forecaster handeln.
- Liegst du richtig, gewinnst du Geld & das Modell lernt von deiner Information.
- Liegst du falsch, wird der Forecaster besser.
- Das große Ziel: Ein Weltmodell, das nicht nur Text vorhersagt (LLMs), sondern kausale Zusammenhänge. „Was passiert, wenn ich diesen Job annehme?“ – mit echten Wahrscheinlichkeiten.
Fazit
Ben Fielding skizziert eine Zukunft, in der KI nicht nur intelligent, sondern auch neutral, überprüfbar und kausal ist. Der Fortschritt hängt nicht nur von Rechenzentren ab, sondern von der Weisheit der Vielen.