Geo-Gründer Yaniv Tal hat vier Schwachstellen bei Online-Informationen identifiziert, die seiner Meinung nach KI-Antworten unzuverlässig machen: verlorene Herkunft, eingeebnete Autorität, verborgene Meinungsverschiedenheiten und wiederholte modellgenerierte Fehler.
Zusammenfassung
- Geo trennt Behauptungen, Quellen und unterstützende Beweise in gemeinschaftlich verwalteten Wissensräumen.
- Tal sagt, menschliches Urteilsvermögen könne helfen, glaubwürdige Argumentationen zu bewerten, ohne konkurrierende Ansichten zu entfernen.
- Eine Nature-Studie ergab, dass wiederholtes Training mit synthetischem Material zu einem Modellkollaps führen kann.
- NIST empfiehlt, Trainingsquellen zu verfolgen und menschliches Expertenfeedback in KI-Systeme einzubeziehen.
Geo-Gründer Yaniv Tal sagte gegenüber crypto.news, dass unzuverlässige KI-Antworten oft mit dem Material beginnen, das die Modelle erhalten, und argumentierte, dass das Internet dazu entwickelt wurde, Informationen zu verbreiten, nicht um ihre Autorität, Herkunft oder Verantwortlichkeit zu bewahren.
„KI hat kein Wahrheitsproblem, das Internet hat eines“, sagte Tal.
Laut Tal verliert Information kritischen Kontext, wenn Websites sie scrapen und neu veröffentlichen. Eine Behauptung kann mehrere Seiten durchlaufen, bevor sie in einen Trainingssatz gelangt, sodass das Modell die Aussage hat, aber keinen klaren Weg zurück zur ursprünglichen Quelle.
Autorität wird auch schwer zu messen, wenn ein Forschungspapier, eine Unternehmensankündigung und ein anonymer Forenbeitrag in dieselbe Datenpipeline als Text gelangen. Tal sagte, Modelle könnten dann Material mit unterschiedlichen Beweisstandards behandeln, als ob es ähnliches Gewicht hätte.
„Die Herkunft kollabiert. Eine Behauptung wird gescrapet, neu formuliert und erneut gescrapet, bis die ursprüngliche Quelle nicht mehr wiederherstellbar ist“, sagte er.
Geo-Gründer identifiziert vier Fehler hinter unzuverlässigen KI-Antworten
Meinungsverschiedenheiten schaffen ein weiteres Problem, weil Sprachmodelle oft konkurrierende Positionen in einer Antwort kombinieren. Tal sagte, solche Komprimierung könne echte Streitigkeiten unter qualifizierten Experten verbergen und den Benutzern eine einzige selbstbewusste Antwort geben, ohne zu zeigen, dass glaubwürdige Alternativen existieren.
Die vierte Schwäche entsteht, wenn KI-generiertes Material in die Datenversorgung späterer Modelle zurückkehrt. Fehler können wiederholte Veröffentlichungen überleben, während synthetische Artikel, Beiträge und Zusammenfassungen es schwieriger machen, das von Menschen erstellte Material zu finden, aus dem eine Behauptung stammt.
„Modelle trainieren zunehmend mit Ausgaben anderer Modelle, also bleiben Fehler nicht nur bestehen, sie verstärken sich“, sagte Tal.
Unabhängige Forschung hat ein damit verbundenes Risiko dokumentiert. Eine Nature-Studie aus dem Jahr 2024 untersuchte, was passiert, wenn generative Modelle wiederholt aus Material lernen, das von früheren Modellen erzeugt wurde. Forscher beschrieben „Modellkollaps“ als einen Prozess, bei dem Systeme allmählich Informationen über die ursprüngliche Datenverteilung verlieren.
Weniger verbreitetes Material begann in den frühen Phasen der Experimente zu verschwinden, so das Papier, während spätere Modellgenerationen Verteilungen erzeugten, die kaum Ähnlichkeit mit den Quelldaten hatten. Forscher sagten, der Zugang zu ursprünglichen, von Menschen erstellten Informationen bleibe wichtig, während KI-generiertes Material sich im Internet verbreitet.
Tal klassifiziert die vier Schwächen nicht als Fehler, die auf das Modelldesign beschränkt sind. In seiner Darstellung reproduzieren Modelle Fehler, die bereits in ihrem Trainingsmaterial eingebettet sind, einschließlich fehlender Quellen und eines Mangels an sichtbaren Unterscheidungen zwischen Beweisen, Meinung und Werbung.
Menschliche Verifizierung würde Behauptungen bewerten, ohne Meinungsverschiedenheiten zu entfernen
Geos vorgeschlagene Antwort beginnt damit, eine Aussage von ihrem Autor und den sie unterstützenden Beweisen zu trennen. Beziehungen zwischen Einträgen können zeigen, ob ein Argument ein anderes unterstützt, ihm widerspricht oder direkt auf einen strittigen Punkt reagiert.
Sobald diese Verbindungen aufgezeichnet sind, kann Geo Argumente nach ihrer bewerteten Stärke ordnen, während konkurrierendes Material darunter erhalten bleibt, sagte Tal. Die Struktur soll Meinungsverschiedenheiten verfügbar halten, ohne jeden Beitrag als undifferenzierten Kommentar-Feed anzuzeigen.
„Pluralismus muss nicht Lärm bedeuten“, sagte Tal. „Wir denken, dass mehrere gut strukturierte konkurrierende Perspektiven oft die ehrlichere Antwort sind.“
Geo organisiert Informationen durch unabhängige Gemeinschaften namens Spaces. Seine aktuelle Website listet erste Spaces auf, die Krypto, Gesundheit, KI, Bildung, Weltgeschehen und US-Politik abdecken.
Mitglieder können Beiträge leisten und an Diskussionen teilnehmen, während Personen mit relevantem Wissen sich als Redakteure bewerben können. Laut Geo fordert sein Kuratorenprogramm die Teilnehmer auf, Quellen zu bewerten, Argumente zu verbinden und strukturierte Informationen zu einem offenen Wissensgraphen hinzuzufügen.
Das Modell wurde aus Geo Genesis entwickelt, das im Januar 2025 in den frühen Zugang ging. Wie zuvor berichtet, teilte seine Standard-Governance-Struktur die Teilnehmer in Redakteure und Mitglieder. Redakteure erhielten Stimmrecht, während Mitglieder Informationen zu einzelnen Räumen beitragen konnten.
Geo Genesis basiert auf dem Aragon-OSx-Governance-Framework und folgte der Veröffentlichung von GRC-20, einem Standard zur Darstellung verbundenen Wissens. The Graph erklärte im Juni 2025, dass GRC-20 es Gemeinschaften ermöglichen könnte, strukturierte Informationen onchain zu veröffentlichen und sie über Subgraphen und Substreams abzurufen.
Tal, der The Graph mitbegründete, bevor er Geo startete, sagte, dass Fachwissen unter dem vorgeschlagenen System nicht von einer zentralen Autorität zugewiesen würde. Mitwirkende würden sich durch ihre Arbeit einen Ruf aufbauen, und Geo beabsichtigt, dass diese Aufzeichnung einer Person zwischen Räumen folgt.
„Menschliches Urteilsvermögen ist jetzt der knappe Input, nicht der redundante. Maschinen erzeugen mehr Inhalte, als Menschen verarbeiten können, und fast nichts davon hat jemanden, der für seine Wahrheit verantwortlich ist."
Community-Governance steht weiterhin vor einem Identitätsproblem
Ein von Menschen betriebenes Wissensnetzwerk muss weiterhin feststellen, ob Mitwirkende echt, qualifiziert und unabhängig sind. Offene Governance-Systeme können Sybil-Angriffen ausgesetzt sein, bei denen ein Teilnehmer mehrere Identitäten erstellt, um Einfluss auf Abstimmungen, Rankings oder Belohnungen zu gewinnen.
Ein Erklärstück vom Juni 2026 untersuchte, wie biometrische Checks, soziale Vertrauensnetzwerke und Zero-Knowledge-Identitätstools versuchen, einzigartige Personen zu verifizieren. Jede Methode beinhaltet Kompromisse zwischen Datenschutz, Angriffsresistenz, Zugänglichkeit und Kontrolle, während KI Angreifern helfen kann, überzeugende Personas zu geringen Kosten zu erstellen.
Tal sagte, Geo würde sich auf Beitragsaufzeichnungen und domänenspezifische Gemeinschaften verlassen, anstatt anonymem Material den gleichen Status zu geben wie Behauptungen, die mit Personen mit öffentlicher Historie verbunden sind. Redakteure würden sich über einzelne Räume bewerben, und Mitglieder würden an der Verwaltung der Themen teilnehmen, denen sie folgen.
„Eigenes Engagement ohne finanzielle Einsätze verändert die Qualität dessen, wofür Menschen bereit sind, ihren Namen zu geben", sagte Tal.
Der Ansatz beseitigt nicht die Notwendigkeit zu entscheiden, wer Redakteure auswählt, wie Gemeinschaften koordinierte Manipulation lösen oder ob Fachwissen, das in einem Fach erworben wurde, in einem anderen Gewicht haben sollte. Tal bezeichnete das Gatekeeper-Problem als real, argumentierte jedoch, dass unabhängige Räume verhindern würden, dass eine Institution jedes Feld kontrolliert.
Menschliche Beteiligung hat auch in der Krypto-Sicherheit an Aufmerksamkeit gewonnen, wo automatisierte Tools bösartige Aktivitäten erkennen können, Benutzer jedoch weiterhin Transaktionen autorisieren. Im Mai 2026 beschrieb ein Ledger-Sicherheitsbericht manuelle Verifizierung und klare Transaktionsanzeigen als Schutz gegen KI-gestütztes Phishing, gefälschte Schnittstellen und automatisierte Betrügereien.
Onchain-Aufzeichnungen trennen Transaktionen von umgebenden Behauptungen
Krypto ist einer der ersten Räume von Geo, weil Blockchain-Aktivität einen direkten Test für den Unterschied zwischen verifizierbaren Aufzeichnungen und menschlicher Interpretation bietet, sagte Tal.
Eine Blockchain kann bestätigen, dass eine Transaktion an einer aufgezeichneten Adresse und in einem Block stattgefunden hat. Sie kann ohne zusätzliche Beweise nicht feststellen, wer die Adresse kontrolliert, warum Gelder bewegt wurden, ob die Aktivität organisch war oder was ein Projekt als Nächstes plant.
„Onchain-Daten sind konstruktionsbedingt verifizierbar. Eine Transaktion fand statt oder nicht", sagte Tal. „Alles, was darum herum gewickelt ist, sind Behauptungen."
Projektankündigungen, Partnerschaftsbeschreibungen, Marktprognosen und Erklärungen von Token-Bewegungen erfordern daher laut Tal eine separate Behandlung. Geo beabsichtigt, solche Behauptungen benannten Mitwirkenden zuzuordnen und ihre Aufzeichnungen zu bewahren, einschließlich früherer Aussagen, die sich als falsch erwiesen haben.
Werbeaktivitäten machen die Unterscheidung besonders wichtig in Märkten für digitale Vermögenswerte, wo Teams ausgewählte Kennzahlen neben verifizierten Transaktionsdaten präsentieren können. Tal sagte, eine vertrauenswürdige Wissensebene sollte die Kategorien kennzeichnen, anstatt beide in derselben Stimme zu präsentieren.
US-Leitlinien fordern auch Herkunftsnachweise und menschliche Überprüfung
Für US-Entwickler und Unternehmen, die generative KI einsetzen, hat das National Institute of Standards and Technology mehrere Kontrollen empfohlen, die sich mit Teilen von Tals Argument überschneiden.
Das Generative AI Profile des NIST, veröffentlicht im Juli 2024, empfiehlt Organisationen, die Quellen der Trainingsdaten zu dokumentieren, die Herkunft generierter Materialien zu überwachen und das Feedback zwischen Herkunftssystemen und menschlichen Prüfern zu bewerten. Der freiwillige Rahmen fordert auch, dass Fachexperten und betroffene Gemeinschaften an bestimmten Bewertungen teilnehmen.
Standards für Inhaltsherkunft bieten eine weitere Methode, um festzuhalten, woher digitales Material stammt. Die Coalition for Content Provenance and Authenticity verwendet kryptografisch signierte Content Credentials, um Informationen darüber zu bewahren, wer ein Asset erstellt oder geändert hat und wie es bearbeitet wurde.
Gemäß der C2PA-Spezifikation bestimmt eine validierte Herkunft jedoch nicht, ob eine beigefügte Behauptung gut, schlecht oder wahrheitsgemäß ist. Der Standard verifiziert, dass Behauptungen mit dem zugrunde liegenden Asset verbunden, korrekt formatiert und vor Manipulation geschützt sind.
