商汤开源 SenseNova-Loop-9B 正式版32 层权重循环实现 56 次层计算,同步上线 AWQ 量化版

商汤正式开源 SenseNova-Loop-9B 正式版,这款模型采用 Looped Transformer 循环架构,只用 32 组独立解码器权重,通过中间模块循环复用,一次前向传播完成 56 次层计算,模型总参数量维持在 9B,并且发布当天同步放出 AWQ 4bit 量化版本,主打小参数、高推理深度、低显存部署,在 Agent 智能体、代码、数据分析、长文档理解任务上,性能可以对标 27B 级别大模型,适合本地私有化部署、低显存显卡跑复杂推理任务。它和传统堆层数、堆参数的大模型思路不一样,传统模型每一层都要独立存储权重,层数越多权重文件越大、显存门槛越高;而 Loop 架构是固定一组中间权重,重复跑两遍,靠增加计算深度提升推理能力,搭配双流 mHC 流形约束超连接机制,保证循环过程里信息传递稳定,不会出现信号衰减。整套架构的计算逻辑是,开头 0-3 层只跑一次,4-27 层这个模块复用跑两轮,最后 28-31 层再跑一次,叠加起来刚好 56 次层计算,同时采用混合注意力方案,四层一组,三层线性注意力 + 一层全注意力,兼顾长上下文速度和理解精度。综合来看,这个模型的核心优势就是参数体量小、长上下文能力强、量化友好,AWQ 量化之后权重体积很小,普通消费级显卡也能跑,适合开发者做 Agent、数据分析、代码开发类本地应用。

一、模型核心参数表

项目参数详情
物理解码器权重层数32 层
单次前向层计算次数56 次
总参数量约 9B
最大上下文长度512K tokens
支持输入文本 + 图像,输出文本
量化版本AWQ 4bit 同步上线
4bit 量化权重大小约 4.9GB
部署显存门槛低至 10GB 以内
开源协议Apache-2.0

二、关键技术模块说明

  1. 循环 Transformer 主干:4-27 层共享权重循环执行两次,用重复计算换取更深推理深度,不新增参数量
  2. 双流 mHC 超连接:两条残差流做信息路由融合,解决循环多次之后特征信息退化问题
  3. 混合注意力分组:每 4 层为一组,3 层线性注意力 + 1 层全注意力,长上下文推理更省算力
  4. MTP 多 token 预测:配套 MTP 加速头,提升推理吞吐速度

三、正式版对比预览版的变化清单

  • 上下文上限从 262K 提升到 512K tokens,超长文档处理能力大幅增强
  • Agent、数据分析、代码评测指标全面优化,NL2Repo、AIDABench 榜单表现提升
  • 官方原生 AWQ 量化包同步发布,不用开发者自行转量化
  • 训练数据覆盖文本、图像、代码、工具调用轨迹,多模态和工具链能力更稳定

四、适合场景与局限

✅适合场景

  • 本地私有化 Agent、代码助手、数据分析工具
  • 超长文档摘要、PDF 深度解读、知识库问答
  • 低显存显卡、边缘算力设备部署,控制硬件成本
  • 循环计算会拉高单 token 推理耗时,推理速度比同参数普通 9B 模型慢
  • 对推理框架适配有特殊要求,需要支持 Loop 结构的代码实现
  • 性能对标 27B 模型是特定评测场景,不是全部任务都能超越

❌局限

五、部署简单步骤

  1. Hugging Face 下载 SenseNova-Loop-9B 正式版权重或者 AWQ 量化权重
  2. 使用 Transformers 加载,开启 trust_remote_code,加载循环架构配置
  3. 优先搭配 vLLM、SGLang、LightLLM 推理框架,开启 MTP 加速
  4. 4bit AWQ 版本可以直接在 10G 显存显卡加载,跑 256K 上下文

【相关 FAQ】

问题 1:商汤 SenseNova-Loop-9B 正式版 32 层权重循环执行 56 次层计算是什么意思?

回答 1:商汤 SenseNova-Loop-9B 正式版 32 层权重循环执行 56 次层计算,就是模型只保存 32 套独立解码器权重,中间 4-27 层模块重复跑两轮,一次前向总共完成 56 次层运算,不靠增加参数,靠循环计算加深推理深度。

问题 2:商汤 SenseNova-Loop-9B 正式版的 AWQ 量化版有什么用处?

回答 2:商汤 SenseNova-Loop-9B 正式版同步上线 AWQ 量化版,4bit 量化之后权重仅约 4.9GB,显存需求低至 10GB 内,降低本地显卡、私有化部署硬件门槛,方便开发者直接跑推理。

问题 3:商汤 SenseNova-Loop-9B 正式版最大上下文是多少?

回答 3:商汤 SenseNova-Loop-9B 正式版上下文最高支持 512K tokens,对比预览版 262K,超长文档、长对话、长代码理解能力提升明显。

问题 4:商汤 SenseNova-Loop-9B 正式版适合用来做什么?

回答 4:商汤 SenseNova-Loop-9B 正式版适合本地 Agent 智能体、代码生成、数据分析、超长文档理解、图文混合问答,在低显存硬件上拿到接近 27B 大模型的推理效果。

【参考资料】

[2026-11-17](商汤开源 SenseNova-Loop-9B 正式版:32 层权重循环执行 56 次层计算,AWQ 量化版同日上线)IT 之家

[2026-11-17](SenseNova 发布 Loop-9B 正式版 参数约 9B 权重约 4.9GB)新浪财经

[2026-11-17](商汤发布 SenseNova Loop-9B 模型:部署显存需求低至 10 GB 内)ZAKER 新闻

[2026-11-12](商汤开源 SenseNova Loop-9B-Preview:32 层跑出 56 次层计算)艾瑞网

[2026-11-01](SenseNova-Loop-9B-Preview: Inside the Looped Transformer You Can Run Now)MindStudio

【免责声明】

以上内容整理自商汤官方发布信息、模型卡与行业媒体评测,模型循环架构会带来推理延迟变化,不同硬件、推理框架下实测速度和显存占用存在差异;评测结果为厂商自评,不代表所有任务场景表现,仅作为模型选型、技术调研参考。

本文来自作者[云轨调度官]投稿,不代表新新网立场,如若转载,请注明出处:https://www.xxcmw.com/rgzn/202611/3989.html

赞 (1)
反馈

发表回复

本站作者后才能评论

评论列表(4条)

  • 云轨调度官
    云轨调度官 2026年11月18日

    我是新新网的签约作者“云轨调度官”!

  • 云轨调度官
    云轨调度官 2026年11月18日

    希望本篇文章《商汤开源 SenseNova-Loop-9B 正式版32 层权重循环实现 56 次层计算,同步上线 AWQ 量化版》能对你有所帮助!

  • 云轨调度官
    云轨调度官 2026年11月18日

    本站[新新网]内容主要涵盖:互联网行业的追踪与探索

  • 云轨调度官
    云轨调度官 2026年11月18日

    本文概览:商汤正式开源 SenseNova-Loop-9B 正式版,这款模型采用 Looped Transformer 循环架构,只用 32 组独立解码器权重,通过中间模块循环

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们