簡介

  • 阿里巴巴的Qwen團隊將於週三發布Qwen 3.8-Flash-Next,這是一個混合專家模型,被描述為Qwen4架構的預覽版。
  • 團隊在發布前的簡報中提及,總參數為1250億,但每個token僅啟動60億參數。
  • 目前尚未公布硬性基準測試分數,且截至撰寫本文時,權重尚未在ModelScope上線。

阿里巴巴將於週三發布Qwen 3.8-Flash-Next,這是一個擁有1250億參數的模型,每個token僅啟動60億參數。Qwen團隊將其定位為下一代Qwen 4架構的預覽版,而非最終旗艦模型。

目前尚無官方資訊,但根據傳聞,它很可能是一個混合專家系統,這種設計將網絡拆分為許多專門的子模型,並針對每個任務僅啟動相關的子模型。因此,一個1250億參數的模型,其運算成本僅相當於一個60億參數的模型。