商汤开源 SenseNova Loop-9B-Preview：探索以计算深度释放模型潜力

本文作者：

导语：SenseNova Loop-9B-Preview 只是起点。

商汤开源日日新 SenseNova Loop-9B-Preview 。这是商汤面向下一代模型架构的一项前沿探索：它采用创新 Looped Transformer 架构，引入循环计算、扩展模型的有效计算深度，并探索更充分的信息交互机制，提升模型在复杂任务上的处理能力，在仅 9B 的有限参数规模下，媲美 27B 参数大小模型。

从参数规模到计算深度

随着大模型能力持续演进，模型能力提升不再只有扩大参数规模一条路径。如何在控制参数规模的同时，通过增加有效计算深度进一步释放模型潜力，正成为值得探索的方向。近期，循环计算正成为大模型架构研究的重点方向，国内外研究社区围绕 Looped Transformer 展开了攻关探索。但目前的探索多停留在学术研究层面，社区尚缺乏可直接面向日常使用的 Looped Transformer 模型。

此次开源的 SenseNova Loop-9B-Preview，为社区提供了一个 9B 级 Looped Transformer 的开源实践，既填补了这一空白，体现了商汤对下一代大模型架构的持续探索与思考。

不过，如何让多轮计算真正转化为模型能力的提升，尤其是在信息传递、特征交互和训练稳定性等方面，仍有进一步探索的空间。现有相关工作仍以研究验证为主，如何在更大模型规模下兼顾计算深度、模型能力与实际应用需求，也有待持续推进。

循环结构与信息交互机制

SenseNova Loop-9B-Preview 以 9B 尺度模型为基座，保留首尾各 4 层原始解码器模块，将中间层改造为参数共享的循环计算模块，通过多轮迭代扩展有效计算深度。

在此基础上，模型进一步探索循环计算中的信息传递机制，尝试引入 mHC（Manifold-Constrained Hyper-Connections），利用多路残差连接与受约束的信息混合，增强特征交互并维持信号传播的稳定性。整体设计旨在控制参数规模的同时，探索提升模型推理能力的新路径。

模型表现：在多类复杂任务中展现潜力

SenseNova Loop-9B-Preview 在保持 9B 级参数规模的同时，展现出较强的跨任务性能。在当前评测设置下，模型在代码生成、办公场景和智能体任务等多个方向上均优于其他模型，并在 WorkBuddy Bench、RaccoonPPT Bench 和 AutomationBench 等评测中进一步超过 Qwen3.5-27B。这些结果初步展现了通过扩展有效计算深度，提升小参数模型复杂任务处理能力的潜力。

商汤进一步通过消融实验评估了 mHC 的实际收益。采用该机制后，模型取得明显的性能提升，其中 GPQA Diamond 和 TeamBench 分别提高了 4.42 分和 13.34 分，展现出在复杂推理任务以及多步骤 Agent 任务中的应用潜力。后续还将继续探索 DSA、自适应迭代次数等机制，以提升模型的推理效率与任务表现。

持续探索下一代模型架构

SenseNova Loop-9B-Preview 只是起点。面向下一代 SenseNova，商汤将进一步探索 Looped Transformer 在更大模型规模下的 Scaling 潜力、自适应“快慢思考”机制，深度挖掘参数共享的更多潜能，以更灵活的计算方式、更高的参数效率，持续突破模型能力与推理效率的边界。

模型权重开源：

Github：https://github.com/OpenSenseNova/SenseNova-Loop

Hugging Face：https://huggingface.co/sensenova/SenseNova-Loop-9B-Preview

0 人收藏

分享：

相关文章

SenseNova

商汤

下一代模型架构

商汤实测 GPT-6-Astra 并开源 SenseNova-RoboRSI：具 ...

SenseNova U1.5 Lite正式版发布：支持超长指令，解锁 ...

原生统一多模态进阶！SenseNova U1.5-Lite-Preview开 ...

商汤新模型 SenseNova-U1 Pro 曝光，对标 GPT-Image ...

小七

发私信

当月热门文章

阶跃 Step 5 Preview 登上 OpenRouter 全球第一，10月15日开源！

阶跃 Step 5 Preview 接入腾讯 WorkBuddy，独家限免 2 周！

产业出题，科技答题：2026 IEIC国际具身智能技能大赛，用真实岗位任务考核机器人落地能力

昆仑万维诞生世界上第一款消费级显卡视频大模型游戏，同步开源

Meshy 跻身 a16z 消费级 AI 应用月收入 Top 50，为榜单唯一 AI 3D 公司

最新文章

Pika 基于 MiniMax H3 开源 H3 Flex，六步实现音视频联合生成

小米汽车10月交付超5万辆，澎程首个完整交付月持续上量

从“懂回答”到“能执行”：Zoho如何让AI走进企业业务

阿里巴巴与 Apple 达成合作，将千问集成至 Apple 智能

游戏手柄销量涨108%！《影之刃零》爆火带动游戏装备“换新潮”

沙钢接入千问办公，已将Agent落地核心业务场景

热门搜索

Google

机器学习

财报

互联网

游戏

地平线

HoloLens

Apple TV

半导体

ChatGPT

在线教育

为了您的账户安全，请 验证邮箱

您的邮箱还未验证,完成可获20积分哟！

重发邮箱 修改邮箱

请验证您的邮箱

立即验证

完善账号信息

您的账号已经绑定，现在您可以 设置密码 以方便用邮箱登录

立即设置

以后再说