Geo 創辦人 Yaniv Tal 指出了線上資訊的四個弱點，他認為這些弱點使得 AI 答案不可靠：來源遺失、權威扁平化、隱藏的分歧，以及重複的模型生成錯誤。
摘要
- Geo 在社群治理的知識空間中分離主張、來源和佐證證據。
- Tal 表示，人類判斷可以幫助排序可信的推理，而不移除競爭觀點。
- 一項《自然》研究發現，重複訓練於合成材料可能導致模型崩潰。
- NIST 建議追蹤訓練來源，並將專家的人類回饋納入 AI 系統。
Geo 創辦人 Yaniv Tal 告訴 crypto.news，不可靠的 AI 答案通常始於模型接收的材料，他認為網際網路的設計目的是分發資訊，而非保留其權威、來源或問責性。
「AI 沒有真相問題，網際網路才有。」Tal 說。
根據 Tal 的說法，當網站抓取並重新發布資訊時，資訊會失去關鍵的脈絡。一個主張可能經過多個頁面才進入訓練集，使得模型只有陳述，卻沒有清晰的路徑回到原始來源。
當研究論文、公司公告和匿名論壇貼文以文字形式進入相同的資料管道時，權威也變得難以衡量。Tal 表示，模型可能將具有不同證據標準的材料視為具有相似的權重。
「來源遺失。一個主張被抓取、重述、再抓取，直到原始來源無法恢復。」他說。
Geo 創辦人指出不可靠 AI 答案背後的四個失敗
分歧造成另一個問題，因為語言模型經常將競爭立場組合成單一回應。Tal 表示，這種壓縮可能隱藏合格專家之間的真實爭議，給用戶一個自信的答案，卻沒有顯示存在可信的替代方案。
第四個弱點出現於 AI 生成的內容回流到後續模型使用的資料供應時。錯誤可能在重複發布中存活，而合成文章、貼文和摘要使得更難找到主張最初源自的人類生成材料。
「模型越來越常在其他模型的輸出上訓練，所以錯誤不僅持續存在，還會放大。」Tal 說。
獨立研究已記錄了相關風險。2024 年《自然》研究探討了生成模型反覆從早期模型生成的資料中學習時會發生什麼。研究人員將「模型崩潰」描述為系統逐漸失去原始資料分佈資訊的過程。
根據論文，較不常見的材料在實驗早期階段開始消失，而後來的模型世代產生的分佈與來源資料幾乎沒有相似之處。研究人員表示，隨著 AI 生成的內容在網際網路上傳播，取得原始的人類生成資訊仍然重要。
Tal 並不將這四個弱點歸類為僅限於模型設計的失敗。在他的描述中，模型複製了訓練材料中已嵌入的缺陷，包括缺少來源，以及證據、意見和宣傳之間缺乏可見的區別。
人類驗證將排序主張而不移除分歧
Geo 提出的解決方案始於將陳述與其作者及支持證據分離。條目之間的關係可以顯示一個論點是否支持另一個、與之矛盾，或直接回應爭議點。
Tal 表示，一旦記錄了這些連結，Geo 可以根據評估的強度對論點進行排序，同時在其下方保留競爭材料。該結構旨在保持分歧可用，而不將每個貢獻顯示為無差別的評論串流。
「多元主義不必然意味著噪音。」Tal 說。「我們認為，幾個結構良好的競爭觀點往往是更誠實的答案。」
Geo 透過稱為 Spaces 的獨立社群來組織資訊。其目前的網站列出了初始的 Spaces，涵蓋加密貨幣、健康、AI、教育、世界事務和美國政治。
成員可以貢獻並參與討論，而具備相關知識的人可以申請成為編輯。根據Geo的說法，其策展人計劃要求參與者評估來源、連結論點，並將結構化資訊添加到開放的知識圖譜中。
該模型源自Geo Genesis，該項目於2025年1月進入早期訪問階段。正如先前報導，其預設治理結構將參與者分為編輯和成員。編輯擁有投票權，而成員可以為各個空間貢獻資訊。
Geo Genesis基於Aragon OSx治理框架構建，並在GRC-20發布後推出，GRC-20是用於表示關聯知識的標準。The Graph在2025年6月表示，GRC-20可以讓社群在鏈上發布結構化資訊，並通過子圖和Substreams檢索。
Tal在創立Geo之前共同創辦了The Graph，他表示在提議的系統下，專業知識不會由單一中央機構分配。貢獻者將通過他們的工作建立聲譽，而Geo打算讓這些記錄跟隨個人在不同空間之間流動。
「人類判斷現在是稀缺輸入，而不是多餘的。機器生成的內容超過人們能處理的量，而且幾乎沒有任何人對其真實性負責。」
社群治理仍面臨身份問題
一個由人類運行的知識網絡仍然必須確定貢獻者是否真實、合格且獨立。開放的治理系統可能面臨女巫攻擊，即一個參與者創建多個身份以影響投票、排名或獎勵。
一份2026年6月的解釋探討了生物識別檢查、社交信任網絡和零知識身份工具如何試圖驗證真實的人。每種方法都在隱私、抗攻擊性、可訪問性和控制之間進行權衡，而AI可以幫助攻擊者以低成本創建令人信服的角色。
Tal表示，Geo將依賴貢獻記錄和特定領域的社群，而不是允許匿名材料與具有公開歷史的人所附帶的聲明具有相同地位。編輯將通過各個空間申請，成員將參與管理他們關注的主題。
「沒有財務賭注的利害關係改變了人們願意以自己的名義承擔的品質，」Tal說。
這種方法並未消除決定誰選擇編輯、社群如何解決協調操縱，或者在某個主題獲得的專業知識是否應在另一個主題中具有權重的需求。Tal將守門人問題描述為真實存在的，但認為獨立的空間將防止單一機構控制所有領域。
人類參與在加密安全領域也受到關注，自動化工具可能檢測惡意活動，但用戶仍然授權交易。在2026年5月，一份Ledger安全報告將手動驗證和清晰的交易顯示描述為防範AI輔助釣魚、虛假介面和自動化詐騙的保障。
鏈上記錄將交易與周圍的聲明分開
Tal表示，加密是Geo的首批空間之一，因為區塊鏈活動提供了可驗證記錄與人類解釋之間差異的直接測試。
區塊鏈可以確認交易發生在記錄的地址和區塊上。如果沒有額外證據，它無法確定誰控制該地址、資金為何移動、活動是否自然，或者項目計劃下一步做什麼。
「鏈上數據在結構上是可驗證的。交易發生或沒有發生，」Tal說。「圍繞它的一切都是聲明。」
因此，根據Tal的說法，項目公告、合作描述、市場預測和代幣移動的解釋需要單獨處理。Geo打算將這些聲明附在具名的貢獻者身上，並保留他們的記錄，包括後來證明錯誤的早期聲明。
促銷活動使這種區別在數字資產市場中尤為重要，團隊可能在可驗證的交易數據旁邊呈現選定的指標。Tal表示，一個值得信賴的知識層應該標記類別，而不是以同一種聲音呈現兩者。
美國的指導方針也要求來源出處與人工審查
對於部署生成式 AI 的美國開發者和公司，美國國家標準與技術研究院（NIST）建議了幾項控制措施，這些措施與 Tal 的部分論點重疊。
NIST 於 2024 年 7 月發布的生成式 AI 概況建議組織記錄訓練資料來源、監控生成內容的來源，並評估來源系統與人工審查者之間的回饋。這份自願性框架也要求領域專家和受影響社群參與某些評估。
內容來源標準提供了另一種記錄數位素材來源的方法。內容來源與真實性聯盟（C2PA）使用加密簽署的內容憑證，以保存關於誰建立或修改了資產，以及如何編輯的資訊。
然而，根據 C2PA 規範，經過驗證的來源並不能判定所附的聲明是好、是壞或真實。該標準僅驗證聲明是否與底層資產相關、格式是否正確，以及是否未被竄改。
