OpenAI與Anthropic推動前沿AI模型30天審查機制

OpenAI 和 Anthropic 正在華盛頓合作，共同制定一個針對先進 AI 模型的聯邦審查系統，儘管它們在客戶、資金和技術領導地位上相互競爭。

OpenAI 和 Anthropic 尋求共同的審查標準

根據 The Information 報導，OpenAI 和 Anthropic 正在敦促川普政府對具有先進網路安全或國家安全能力的 AI 模型採用一致的審查流程。

它們的合作是在 8 月 1 日聯邦機構截止日期之前進行的，該截止日期要求定義哪些系統應符合「涵蓋前沿模型」的資格。這些模型在發布給其他可信合作夥伴之前，最多可提供給政府進行 30 天的評估。

據報導，兩家公司都希望這些標準能應用於整個 AI 行業，而不僅限於已經與華盛頓合作的開發者。這可能使競爭公司（包括 Meta 和 Elon Musk 的 xAI）在其模型超過最終能力門檻時，也受到相同的審查框架約束。

這些討論標誌著 OpenAI 和 Anthropic 之間罕見的政策一致。兩家公司都銷售通用 AI 系統，並在企業合約、研究人員、計算能力和投資方面相互競爭。

兩家公司均未公開其希望納入最終框架的完整條款。

川普行政命令設定自願性 30 天流程

總統唐納德·川普於 6 月 2 日通過 第 14409 號行政命令 指示聯邦機構建立一個機密基準測試流程。

該命令指示國家安全局、網路安全與基礎設施安全局、財政部及其他聯邦機構確定 AI 模型何時具有足夠強大的能力以需要額外審查。

參與該框架的開發者將能夠向政府詢問模型是否符合涵蓋前沿模型的門檻。然後，他們可以在將系統提供給其他經批准的合作夥伴之前，向聯邦評估人員提供最多 30 天的存取權限。

該命令要求在評估期間保護智慧財產權、機密資訊、網路安全和內部威脅。

然而，它明確指出該流程不能為開發或發布 AI 模型創建強制性的聯邦許可、預先審查或授權規則。因此，除非有單獨的法律或政府權力適用，公司將自願參與。

美國 AI 開發者尋求發布前的明確性

一個共同的框架可以為美國開發者提供更清晰的標準，以決定何時需要進行政府測試。仍有疑問的是哪些技術基準將觸發審查、哪些機構將測試每個系統，以及官員將如何批准早期存取合作夥伴。

這些不確定性已經影響了最近的發布。OpenAI 和 Anthropic 在廣泛發布之前向政府官員提供了先進模型的早期存取權限，但外部研究人員對這些評估的了解有限。

一份 7 月的報告 發現，這些審查涉及的機構、測試和批准要求仍然不明確。缺乏公開的流程可能使開發者的發布規劃更加困難，並讓較小的 AI 公司不確定相同的標準是否適用於它們。

對 OpenAI、Anthropic、Meta、xAI 和其他開發者應用一個基於能力的門檻，可以減少部分不確定性。它也可能限制人們對華盛頓給予特定公司不同待遇的擔憂。

開放權重AI的爭論分裂了業界

OpenAI和Anthropic呼籲建立共同審查流程之際，其他科技公司正警告華盛頓不要對開放權重AI模型實施廣泛限制。

正如crypto.news上週報導，Nvidia、Meta和微軟與其他22個組織聯名發表公開信，認為全面限制可能削弱美國在與中國競爭加劇時的領導地位。IBM、Palantir、Mistral、Hugging Face、Mozilla、Andreessen Horowitz和Linux基金會也簽署了該信。

該團體呼籲針對濫用行為採取有針對性的法律和商業措施，而不是對具有合法研究和商業應用的技術進行限制。

開放權重模型允許公司、研究人員和政府下載軟體、修改並在自己的基礎設施上運行。支持者表示，這讓用戶對其數據、安全性和計算系統擁有更大控制權，同時降低部署成本。

簽署者並未將開放和封閉模型視為互斥。相反，他們認為兩種方法都需要，以支持競爭並為開發者提供構建和部署AI系統的不同方式。

Nvidia CEO黃仁勳在他的第一篇X貼文中分享了這封信，並為兩種開發模型的作用辯護。

「世界既需要前沿封閉模型，也需要前沿開放模型。」

伊隆·馬斯克也在回覆黃仁勳時支持了這封信，儘管他的AI公司xAI並未列在報道的25個簽署者中。

這兩項努力針對政策辯論的不同部分。OpenAI和Anthropic正在尋求對跨越國家安全能力門檻的模型進行一致的聯邦評估，而公開信則反對主要基於模型是否公開其權重來施加限制。

聯邦機構現在需在8月1日前定義前沿模型門檻並概述自願審查流程。最終框架將顯示華盛頓是專注於可衡量的能力，還是根據AI模型的分發方式施加更廣泛的條件。