开云·kaiyun(中国)官方网站 登录入口

开云·kaiyun(中国)官方网站 登录入口

你的位置:开云·kaiyun(中国)官方网站 登录入口 > 资讯 > 体育游戏app平台每 token 激活 6B 参数-开云·kaiyun(中国)官方网站 登录入口

体育游戏app平台每 token 激活 6B 参数-开云·kaiyun(中国)官方网站 登录入口

发布日期:2026-08-28 07:46    点击次数:168

体育游戏app平台每 token 激活 6B 参数-开云·kaiyun(中国)官方网站 登录入口

8月26日音讯,阿里通义千问团队今晚郑重发布了 Qwen3.8-Flash。通义团队同期发布了 Qwen3.8-Flash-Next 的开源权重,Next 新架构将是全新一代 Qwen4 系列模子的雏形。

这是一个多模态 MoE 模子,主模子参数目为 125B,稀奇配备 51B 的 N-gram Embedding,每 token 激活 6B 参数。它原生因循 262,144 tokens 高下文,并可通过 YaRN 扩张至 1M tokens。

据先容,Qwen3.8-Flash 围绕四个标的进行了系统升级:

在 Attention 方面,选拔 GDN(Gated DeltaNet)+ QSA(Qwen Sparse Attention)羼杂架构。GDN 负责高效压缩历史信息,QSA 则通过轻量级 Indexer 在 micro-block 粒度上筛选弥留高下文,权贵裁减长序列 Attention 支拨。

濒临 1M token 的超长高下文,QSA 的 Attention Kernel 在 Prefill 和 Decode 阶段诀别已毕最高 7.6 倍和 4.9 倍的加快。

在 Residual 方面,引入 Gated Residual(GR)机制,将残差流扩张为 4 条并行分支,通过动态 Gate 截止信息读写。残差景况因循 FP8 存储,大幅裁减访存支拨。

在 Embedding 方面,引入 51B 参数的 N-gram Embedding,左右局部高下文查表扩张模子容量。这些参数可卸载至 Host Memory,通过异步 Prefetch 与模子打算访佛,不永久占用 GPU 显存。

在 Optimization 方面,选拔 Muon Optimizer,并针对正交化精度、参数单干及交融矩阵拆分等战略进行优化。针对新架构再行拟合了 Scaling Law。

性能与资本

比拟 Qwen3.7-Plus,Qwen3.8-Flash 的执行资本仅约为前者的九分之一,但在编码和办公任务上具备更强才能。

在 6B 激活参数下,Qwen3.8-Flash-Next-Base 在 14 个 benchmark 中的 8 个上得到最优后果,包括 MMLU-Pro、SuperGPQA、BBH、SWEBench-Pretrain、MGSM 与 MMMU。

模子进展

纯文本:

多模态:

模子结构:

Base 模子进展:

可用性与订价

从官方获悉,Qwen3.8-Flash 行将上线千问 AI 平台,对外提供 API 就业,订价为每百万 Tokens 输入 1 元、输出 3 元。

模子权重已于北京时辰 8 月 26 日 23:00 在 Hugging Face 与 ModelScope 平台开源体育游戏app平台,同步发布 FP8 量化版块。Qwen3.8-Flash-Next 默许因循 1M 高下文并内置官方器具。