Założyciel Geo, Yaniv Tal, zidentyfikował cztery słabości informacji online, które jego zdaniem sprawiają, że odpowiedzi AI są niewiarygodne: utracone pochodzenie, spłaszczony autorytet, ukryte nieporozumienia i powtarzające się błędy generowane przez modele.
Podsumowanie
- Geo oddziela twierdzenia, źródła i dowody potwierdzające w przestrzeniach wiedzy zarządzanych przez społeczność.
- Tal twierdzi, że ludzki osąd może pomóc w rankingu wiarygodnego rozumowania bez usuwania konkurencyjnych poglądów.
- Badanie opublikowane w Nature wykazało, że wielokrotne szkolenie na materiałach syntetycznych może spowodować załamanie modelu.
- NIST zaleca śledzenie źródeł szkoleniowych i włączanie opinii ekspertów ludzkich do systemów AI.
Założyciel Geo, Yaniv Tal, powiedział crypto.news, że niewiarygodne odpowiedzi AI często zaczynają się od materiałów, które otrzymują modele, argumentując, że internet został zaprojektowany do rozpowszechniania informacji, a nie do zachowania ich autorytetu, pochodzenia ani odpowiedzialności.
„AI nie ma problemu z prawdą, to internet go ma” – powiedział Tal.
Według Tala informacje tracą kluczowy kontekst, gdy strony internetowe je zeskrobują i ponownie publikują. Twierdzenie może przejść przez kilka stron, zanim trafi do zestawu szkoleniowego, pozostawiając modelowi stwierdzenie bez jasnej drogi powrotu do oryginalnego źródła.
Autorytet staje się również trudny do zmierzenia, gdy artykuł naukowy, ogłoszenie firmowe i anonimowy post na forum trafiają do tego samego potoku danych jako tekst. Tal powiedział, że modele mogą wtedy traktować materiały o różnych standardach dowodowych tak, jakby miały podobną wagę.
„Pochodzenie się załamuje. Twierdzenie jest zeskrobywane, przeformułowywane i ponownie zeskrobywane, aż oryginalne źródło staje się nie do odzyskania” – powiedział.
Założyciel Geo identyfikuje cztery błędy stojące za niewiarygodnymi odpowiedziami AI
Nieporozumienia stwarzają kolejny problem, ponieważ modele językowe często łączą konkurencyjne stanowiska w jedną odpowiedź. Tal powiedział, że taka kompresja może ukrywać prawdziwe spory między wykwalifikowanymi ekspertami, dając użytkownikom jedną pewną odpowiedź bez pokazywania, że istnieją wiarygodne alternatywy.
Czwarta słabość pojawia się, gdy materiały generowane przez AI wracają do dostaw danych używanych przez późniejsze modele. Błędy mogą przetrwać wielokrotną publikację, podczas gdy syntetyczne artykuły, posty i podsumowania utrudniają znalezienie materiałów stworzonych przez człowieka, z których pochodzi twierdzenie.
„Modele coraz częściej trenują na wynikach innych modeli, więc błędy nie tylko się utrzymują, ale i wzmacniają” – powiedział Tal.
Niezależne badania udokumentowały powiązane ryzyko. Badanie opublikowane w Nature w 2024 roku zbadało, co się dzieje, gdy modele generatywne wielokrotnie uczą się na materiałach wyprodukowanych przez wcześniejsze modele. Naukowcy opisali „załamanie modelu” jako proces, w którym systemy stopniowo tracą informacje o oryginalnym rozkładzie danych.
Mniej powszechne materiały zaczęły znikać we wczesnych etapach eksperymentów, zgodnie z artykułem, podczas gdy późniejsze generacje modeli produkowały rozkłady niewiele przypominające dane źródłowe. Naukowcy stwierdzili, że dostęp do oryginalnych informacji stworzonych przez człowieka pozostaje ważny, gdy materiały generowane przez AI rozprzestrzeniają się w internecie.
Tal nie klasyfikuje tych czterech słabości jako błędów ograniczonych do projektowania modeli. Według niego modele odtwarzają wady już osadzone w ich materiale szkoleniowym, w tym brakujące źródła i brak widocznych rozróżnień między dowodami, opiniami a promocją.
Weryfikacja przez ludzi miałaby ranking twierdzeń bez usuwania nieporozumień
Proponowane rozwiązanie Geo zaczyna się od oddzielenia stwierdzenia od jego autora i dowodów je potwierdzających. Relacje między wpisami mogą pokazać, czy jeden argument wspiera inny, przeczy mu, czy też bezpośrednio odpowiada na sporny punkt.
Po zarejestrowaniu tych powiązań Geo może uporządkować argumenty według ich ocenionej siły, zachowując jednocześnie konkurencyjne materiały pod nimi, powiedział Tal. Struktura ma na celu utrzymanie dostępności nieporozumień bez wyświetlania każdego wkładu jako niezróżnicowanego strumienia komentarzy.
„Pluralizm nie musi oznaczać szumu” – powiedział Tal. „Uważamy, że kilka dobrze ustrukturyzowanych konkurencyjnych perspektyw jest często bardziej uczciwą odpowiedzią”.
Geo organizuje informacje za pośrednictwem niezależnych społeczności zwanych Przestrzeniami. Jego obecna strona internetowa wymienia początkowe Przestrzenie obejmujące kryptowaluty, zdrowie, AI, edukację, sprawy światowe i politykę USA.
Członkowie mogą wnosić wkład i uczestniczyć w dyskusjach, a osoby z odpowiednią wiedzą mogą ubiegać się o status edytorów. Według Geo, jego program kuratorski prosi uczestników o ocenę źródeł, łączenie argumentów i dodawanie ustrukturyzowanych informacji do otwartego grafu wiedzy.
Model został opracowany na podstawie Geo Genesis, który wszedł w fazę wczesnego dostępu w styczniu 2025 roku. Jak wcześniej informowano, jego domyślna struktura zarządzania dzieliła uczestników na Edytorów i Członków. Edytorzy otrzymali prawo głosu, a Członkowie mogli wnosić informacje do poszczególnych Przestrzeni.
Zbudowany na frameworku zarządzania Aragon OSx, Geo Genesis powstał po wydaniu GRC-20, standardu reprezentowania powiązanej wiedzy. The Graph ogłosił w czerwcu 2025 roku, że GRC-20 może pozwolić społecznościom publikować ustrukturyzowane informacje w łańcuchu i pobierać je przez subgrafy i Substreams.
Tal, który współzałożył The Graph przed rozpoczęciem Geo, powiedział, że w proponowanym systemie wiedza specjalistyczna nie będzie przypisywana przez jeden centralny organ. Współtwórcy będą budować reputację poprzez swoją pracę, a Geo zamierza, aby ten dorobek podążał za osobą między Przestrzeniami.
„Ludzki osąd jest teraz dobrem rzadkim, a nie zbędnym. Maszyny generują więcej treści, niż ludzie są w stanie przetworzyć, a prawie żadna z nich nie ma nikogo odpowiedzialnego za jej prawdziwość.”
Zarządzanie społecznością wciąż stoi przed problemem tożsamości
Sieć wiedzy zarządzana przez ludzi musi nadal ustalać, czy współtwórcy są autentyczni, wykwalifikowani i niezależni. Otwarte systemy zarządzania mogą być narażone na ataki Sybilli, w których jeden uczestnik tworzy wiele tożsamości, aby uzyskać wpływ na głosowanie, rankingi lub nagrody.
Wyjaśnienie z czerwca 2026 roku analizowało, w jaki sposób kontrole biometryczne, sieci zaufania społecznego i narzędzia tożsamości oparte na wiedzy zerowej próbują weryfikować unikalne osoby. Każda metoda wiąże się z kompromisami między prywatnością, odpornością na ataki, dostępnością i kontrolą, podczas gdy sztuczna inteligencja może pomóc atakującym w tworzeniu przekonujących person po niskich kosztach.
Tal powiedział, że Geo będzie polegać na rejestrach wkładu i społecznościach specyficznych dla danej dziedziny, zamiast pozwalać anonimowym materiałom na posiadanie takiego samego statusu jak twierdzenia przypisane osobom z publiczną historią. Edytorzy będą ubiegać się o status w poszczególnych Przestrzeniach, a członkowie będą uczestniczyć w zarządzaniu tematami, które śledzą.
„Zaangażowanie bez stawek finansowych zmienia jakość tego, pod czym ludzie są gotowi się podpisać” – powiedział Tal.
To podejście nie eliminuje potrzeby decydowania, kto wybiera edytorów, jak społeczności rozwiązują skoordynowaną manipulację ani czy wiedza zdobyta w jednej dziedzinie powinna mieć znaczenie w innej. Tal opisał problem strażnika jako realny, ale argumentował, że niezależne Przestrzenie zapobiegną kontrolowaniu każdej dziedziny przez jedną instytucję.
Udział ludzi zyskał również uwagę w bezpieczeństwie kryptowalut, gdzie zautomatyzowane narzędzia mogą wykrywać złośliwą aktywność, ale użytkownicy nadal autoryzują transakcje. W maju 2026 roku raport bezpieczeństwa Ledger opisał ręczną weryfikację i przejrzyste wyświetlanie transakcji jako zabezpieczenia przed phishingiem wspomaganym przez sztuczną inteligencję, fałszywymi interfejsami i zautomatyzowanymi oszustwami.
Rekordy w łańcuchu oddzielają transakcje od otaczających je twierdzeń
Kryptowaluty są jedną z pierwszych Przestrzeni Geo, ponieważ aktywność blockchain oferuje bezpośredni test różnicy między weryfikowalnymi rekordami a ludzką interpretacją – powiedział Tal.
Blockchain może potwierdzić, że transakcja miała miejsce na zarejestrowanym adresie i w bloku. Nie może, bez dodatkowych dowodów, ustalić, kto kontroluje adres, dlaczego środki zostały przesłane, czy aktywność była organiczna ani co projekt planuje zrobić dalej.
„Dane w łańcuchu są weryfikowalne z definicji. Transakcja miała miejsce albo nie” – powiedział Tal. „Wszystko, co jest wokół niej owinięte, to twierdzenia.”
Ogłoszenia projektów, opisy partnerstw, prognozy rynkowe i wyjaśnienia ruchów tokenów wymagają zatem oddzielnego traktowania – według Tala. Geo zamierza przypisywać takie twierdzenia do nazwanych współtwórców i zachowywać ich rejestry, w tym wcześniejsze oświadczenia, które okazały się błędne.
Działalność promocyjna sprawia, że to rozróżnienie jest szczególnie ważne na rynkach aktywów cyfrowych, gdzie zespoły mogą prezentować wybrane wskaźniki obok weryfikowalnych danych transakcyjnych. Tal powiedział, że godna zaufania warstwa wiedzy powinna oznaczać kategorie, zamiast przedstawiać oba w tym samym tonie.
Wytyczne USA wymagają również pochodzenia i przeglądu przez ludzi
Dla amerykańskich programistów i firm wdrażających generatywną sztuczną inteligencję, Narodowy Instytut Standardów i Technologii zalecił kilka kontroli, które pokrywają się z częścią argumentacji Tala.
Profil generatywnej sztucznej inteligencji NIST, opublikowany w lipcu 2024 r., zaleca organizacjom dokumentowanie źródeł danych treningowych, monitorowanie pochodzenia wygenerowanych materiałów oraz ocenę sprzężenia zwrotnego między systemami pochodzenia a recenzentami ludzkimi. Dobrowolne ramy zalecają również, aby eksperci dziedzinowi i społeczności dotknięte brały udział w niektórych ocenach.
Standardy pochodzenia treści oferują inną metodę rejestrowania, skąd pochodzi materiał cyfrowy. Koalicja na rzecz Pochodzenia i Autentyczności Treści używa kryptograficznie podpisanych Poświadczeń Treści, aby zachować informacje o tym, kto stworzył lub zmienił zasób oraz jak został edytowany.
Jednak zgodnie z specyfikacją C2PA, zweryfikowane pochodzenie nie określa, czy dołączone oświadczenie jest dobre, złe czy prawdziwe. Standard weryfikuje, że twierdzenia są powiązane z bazowym zasobem, poprawnie sformułowane i wolne od manipulacji.
