阿里巴巴推出更高效的Qwen3-Next人工智能模型
金色财经报道,阿里巴巴旗下通义千问发布了下一代基础模型架构Qwen3-Next,并开源了基于该架构的Qwen3-Next-80B-A3B系列模型。该结构相比Qwen3的MoE模型结构,进行了以下核心改进:混合注意力机制、高稀疏度MoE结构、一系列训练稳定友好的优化,以及提升推理效率的多token预测机制。基于Qwen3-Next的模型结构,阿里训练了Qwen3-Next-80B-A3B-Base模型,该模型拥有800亿参数仅激活30亿参数。该Base模型实现了与Qwen3-32B dense模型相近甚至略好的性能,而它的训练成本(GPU hours) 仅为Qwen3-32B的十分之一不到,在32k以上的上下文下的推理吞吐则是Qwen3-32B的十倍以上,实现了极致的训练和推理性价比。
0
0
免责声明:文章中的所有内容仅代表作者的观点,与本平台无关。用户不应以本文作为投资决策的参考。
PoolX:锁仓获得新代币空投
不要错过热门新币,且APR 高达 10%+
立即参与!
你也可能喜欢
日本央行行长:对中性利率的估计范围仍然很大
PANews•2025/12/19 06:42
美元兑日元短线微涨至 155.99
Chaincatcher•2025/12/19 06:40
日本央行行长:随着经济和物价的改善,日本央行将继续提高政策利率
AIcoin•2025/12/19 06:36
日本央行行长:预计实际利率将维持在显著偏低的水平
BlockBeats•2025/12/19 06:35
加密货币价格
更多Bitcoin
BTC
$86,929.68
+0.57%
Ethereum
ETH
$2,918.84
+3.26%
Tether USDt
USDT
$0.9994
-0.02%
BNB
BNB
$838.82
+0.71%
XRP
XRP
$1.83
+0.05%
USDC
USDC
$0.9995
-0.03%
Solana
SOL
$122.94
+0.30%
TRON
TRX
$0.2785
+0.47%
Dogecoin
DOGE
$0.1256
+0.68%
Cardano
ADA
$0.3606
-0.25%
交易热门币种
新用户可获得价值 6200 USDT 的迎新大礼包
立即交易
立即成为交易者?新用户可获得价值 6200 USDT 的迎新大礼包
立即注册