海光这套 Agent 全生命周期全家桶方案，核心是依托 Agent to Token 开放计算架构，用 CPU+DCU 双芯协同的模式，解决现在 AI Agent 落地难的痛点，很多项目卡在任务编排、记忆存储、沙箱安全、大模型推理互相割裂的问题，海光直接把硬件节点、底层架构、软件栈、安全能力打包成套，覆盖 Agent 从开发、调度、运行、记忆存储到 Token 产出、交付运维的完整生命周期，分为云端大规模集群方案和私有化 AgentServer Flex 算力矩阵两条交付路线，企业可以按规模选，小团队试点、中大型企业业务上线、数据中心大规模智能体集群都能适配，部署的时候先确定业务是公有云集群还是私有化本地部署，再搭配三类专用节点组合，依靠开放软件栈完成模型迁移和 Agent 框架适配，最后落地业务场景，整套方案不用零散拼凑多家厂商硬件和软件，降低 Agent 项目落地的适配成本和开发门槛。
一、核心架构：Agent to Token 开放计算架构
- CPU 定位：Agent 业务调度枢纽，负责数据预处理、多智能体沙箱隔离、任务编排决策、记忆体分级存储、向量数据库检索五大模块，处理逻辑流转、工具调用、状态管理
- DCU 定位：Token 生成加速单元，负责批量解码、KV 缓存优化、长序列推理、预处理加速，专门承接大模型词元生成的并行计算
- 四大开放方向
- 算力开放：原生支持 CPU+DCU 组合，兼容其他异构加速卡
- 互连开放：自研 HSL 高速互连协议，提升芯片之间传输带宽、降低延迟
- 安全开放：芯片级内生安全，全链路可信，适配政企合规需求
- 软件栈开放：DTK 工具链，CUDA 代码高兼容，适配大量主流大模型与 Agent 框架
二、两大产品交付路线
路线 1：云端数据中心模块化节点方案（适合大规模集群）
| 节点名称 | 核心硬件 | 主要能力 | 适用场景 |
|---|---|---|---|
| Agent 编排沙箱节点 | 海光 CPU 为主 | 单节点支持上千个 Agent 并发，提供隔离沙箱，高频读写 Agent 记忆、任务调度 | 多智能体批量运行、业务编排、工具调用 |
| LLM 推理节点 | DCU 加速卡集群 | 高密度多卡、OAM 模组、超节点形态，提升 Token 吞吐，大模型推理 | 大模型、长文本、多模态推理服务 |
| 向量库 & 记忆节点 | CPU + 分层存储 | 热温冷分布式存储，全闪、混闪、归档分层，向量检索加速 | Agent 长期记忆、知识库、RAG 检索 |
路线 2：AgentServer Flex 私有化算力矩阵（适合政企、金融、制造）
- 配置规模：单套 3–9 节点灵活组合，从小规模试点到中规模业务上线
- 核心优势：数据不出园区，满足强合规、本地化部署要求，开箱式算力矩阵
- 适配模型：Qwen、GLM、DeepSeek、Kimi、MiniMax 等主流国产大模型
三、覆盖 Agent 全生命周期环节清单
- 开发阶段：软件栈适配、模型迁移、Agent 框架调试，降低迁移成本
- 调度阶段：CPU 负责任务拆解、工具调用、多 Agent 之间协同调度
- 运行阶段：沙箱隔离，防止 Agent 执行脚本带来安全风险，独立环境运行
- 记忆阶段：向量库、分级存储，短期上下文 + 长期知识库记忆分开管理
- 推理生成阶段：DCU 加速，稳定输出 Token，控制推理时延
- 运维计量阶段：支持 Token 统计、成本核算，方便词元业务计费、扩容
四、生态与配套能力
- 模型适配：已经适配 GLM、Qwen、DeepSeek、Kimi 等 400 多款主流大模型
- 工具链：DTK、DAS 算子库，算子数量 2000+，CUDA 代码迁移成本大幅下降
- 行业适配：政务、金融、电力、医疗、电信等，支持联合一体机方案，比如电话机器人 Agent 方案
五、落地实施步骤
- 评估业务规模、数据合规要求，确定是云端模块化集群还是私有化 AgentServer Flex
- 搭配对应节点组合，编排沙箱、推理、向量记忆节点配比
- 基于 DTK 软件栈迁移大模型，对接自研或者开源 Agent 框架
- 配置沙箱安全策略、向量知识库、记忆存储分层策略
- 上线测试，监控 Agent 并发量、Token 吞吐、推理时延，按需弹性扩缩节点
【相关 FAQ】
问题 1：海光 Agent 全生命周期全家桶方案里 CPU 和 DCU 分别负责什么？
回答 1：海光 Agent 全生命周期全家桶方案里 CPU 是 Agent 业务调度枢纽，承担数据预处理、任务编排、沙箱隔离、记忆存储、向量检索；DCU 专门负责 Token 生成、批量解码、KV 缓存优化等大模型推理加速，二者配合完成 Agent 全流程。
问题 2：海光 Agent 全生命周期全家桶方案的 AgentServer Flex 适合什么客户？
回答 2：海光 Agent 全生命周期全家桶方案的 AgentServer Flex 是私有化算力矩阵，适合金融、政务、制造这类有数据不出园、强合规要求的企业，支持小规模试点到中规模业务部署，不用上公有云集群。
问题 3：海光 Agent 全生命周期全家桶方案的 Agent to Token 架构有什么优势？
回答 3：海光 Agent 全生命周期全家桶方案依托 Agent to Token 架构，打通业务需求、Agent 调度、词元生产、结果交付闭环，从算力、互连、安全、软件栈四个维度开放，不容易被单一厂商锁定，同时可以统计 Token 产出、核算算力成本。
问题 4：海光 Agent 全生命周期全家桶方案可以兼容哪些大模型？
回答 4：海光 Agent 全生命周期全家桶方案软件栈适配 GLM、Qwen、DeepSeek、Kimi、MiniMax 等 400 多款主流大模型，国产主流开源模型基本都支持，也支持很多 Agent 开发框架。
【参考资料】
[2026-11-13]（为 Agent 全生命周期量身定制！海光掏出全家桶方案，打通 Agent 落地每一层）智东西
[2026-08-28]（海光信息发布 “Agent to Token 开放计算架构”）经济参考网
[2026-08-27]（当词元经济成为了下一个风口，国产算力如何卡住身位）环球网
[2026-08-28]（大模型进入 Agent 时代，海光信息聚焦 Token 产出效率）光明网
[2026-09-10]（从 “流量经营” 到 “词元经营”：海光 “双芯” 如何夯实数字经济算力底座）环球网
【免责声明】
本文仅整理海光 Agent 全生命周期全家桶方案公开技术信息，节点性能、模型适配清单、交付形态、价格以海光官方最新文档、售前方案为准；架构能力、兼容范围会随 DTK 软件栈迭代更新；不同行业合规要求、业务负载下的实际效果存在差异，本文不构成项目采购和技术选型建议，项目落地前建议联系海光官方生态伙伴做 POC 验证。