您的位置首页 >人工智能 >

不是 “塞进 98% 的模型”AMD Instinct Coder 355 是单机 8 卡,在 SWE-bench 上追到前沿模型的 98%

我先找到 “Instinct Coder 355” 的原始发布内容,确认 “98%” 究竟指模型覆盖比例、性能比例,还是其他指标。

官方博客、硬件清单和脚注都核对完了。标题里的 “98%” 确实是翻译走样;我已经在正文第一段说明。以下是交付稿。

先纠正被译错的那句话。AMD 当地时间 11 月 9 日发布的 Instinct Coder 355,官方原文是 “最多可达前沿模型基准测试成绩的 98%”(Up to 98% of Frontier model benchmark performance),脚注写得很清楚:在 Vals AI 的 SWE-bench Verified 榜单(2026 年 9 月 1 日更新)上,本地跑的 GLM-5.3 解出 95.4% 的任务,Claude Opus 5 解出 97.0%,两者相比约 98.3%。所以 “98%” 说的是一个开源模型在一个编程基准上的解题率,接近某个前沿模型的成绩,不是 “一台机器里塞了 98% 的前沿模型”,更不是 “在所有任务上达到前沿水平的 98%”。而这套东西的真实形态是:一台配 8 张 MI355X(每张 288GB HBM3e)、2 颗 EPYC 9575F 的服务器,加一套本地优先的推理调度软件,官方标价约 59 万美元、按每节点 85 名开发者(50 并发)设计、宣称最多降 75% TCO。

一、把 “98%” 的三种误读摆出来

可能的理解是否成立实际情况
一台机器装下了 98% 的前沿模型不成立本地只部署一个模型:GLM-5.3
本地模型能力达到前沿模型的 98%部分成立,但仅限一个基准SWE-bench Verified 上 95.4% vs 97.0%,比值约 98.3%
98% 的请求都能本地处理不成立官方设计是 “默认本地、必要时才路由到前沿”,比例由企业策略决定

这三行是本篇最该记住的:98% 是成绩之比,不是模型数量,也不是覆盖率。而且它比的是一个具体对手 ——Claude Opus 5,在一个具体榜单、一个具体时间点。换个基准、换个对手、换个日期,这个数就会变。

二、“一台机器” 拆开看:两个版本,配置几乎对齐

项目Dell 版Supermicro 版
服务器PowerEdge XE9785AS-A126GS-TNMR
CPU2× EPYC 9575F(64 核 / 3.3GHz)同
GPU8× Instinct MI355X8× MI355X(288GB HBM3e,UBB8)
显存合计约 2.3TB HBM3e约 2.3TB HBM3e
内存3TB DDR5-6400 ECC(24×128GB)同
本地存储8× 7.68TB PCIe Gen5 NVMe同
网络2× Broadcom 200G(单口 400G)2× Pensando Pollara 400 400GbE
电源12× 3200W 冗余(6+6)6× 5250W 冗余(3+3)
服务Dell 3 年下一工作日上门Supermicro 3 年 NBD 上门

两个版本只换了机箱、网卡和售后,算力底座一致。这里有个容易被忽略的隐性门槛:单机电源规模在 30kW 以上(12×3200W 或 6×5250W),这不是普通办公楼机柜能扛的负荷,机房供电、散热、承重都要提前算,往往比服务器本身更难搞定。

三、软件才是这套方案的卖点:本地优先,必要时才出网

硬件只是底座,AMD 这次真正打包的是三层:

层内容作用
本地模型GLM-5.3承担日常代码生成、测试生成、文档、常规 Code Review
前沿模型Claude、GPT、Gemini只在任务确实需要、且企业策略允许时调用
调度与治理Spectro Cloud PaletteAI Inference Launchpad智能路由、用量计量、配额、成本可见性、全栈生命周期管理
开发工具Claude Code、Cursor、VS Code开发者不用换工作流,直接接进来

这套设计的核心不是 “本地更快”,而是“默认不出网”。源码、提示词、上下文留在企业内网,只有被策略判定为 “可以外发” 的请求才走前沿 API。对金融、军工、医药、车企这类代码本身就是核心资产的行业,这一条比性能数字更重要。

四、75% TCO 怎么算出来的:一个能被复算的模型

AMD 在脚注里把假设全列出来了,这点值得肯定 —— 它给了你复算的入口:

假设项数值
开发者规模85 人
人均每月 AI 编程/API 支出2,000 美元(年 204 万美元)
服务器标价(含软件与授权)590,000 美元,按 3 年摊销
仍需支付的前沿 API 费用基线的 10%(年 20.4 万美元)
数据中心年运营成本50,000 美元
模型算出的年成本约 513,500 美元
结论约降 75%,回收期约 5 个月

AMD 自己也写明 “结果仅为示意”。这句话要当真:这个 75% 高度依赖两个变量 —— 人均月支出 2,000 美元,以及 85 人满负荷使用。如果你们人均月花 300 美元,或者只有 30 个开发者偶尔用,同一台 59 万美元的机器摊下来,账会完全反过来。采购前把自己的真实用量代进去算,比看厂商的示意模型有用得多。

五、谁适合,谁别碰

你的情况判断原因
80 人以上研发团队,AI 编程已成日常值得评估规模足够摊薄单机成本,85 人 / 节点的设计就是这个量级
代码不能出内网(金融、军工、医药)强相关本地优先路由直接解决合规问题
人均 AI 编程支出高、账不可预测值得评估把按量计费换成可预算的固定基础设施
20 人以下团队不建议59 万美元的机器,摊不到人头上
只想要 “最强模型”不建议本地是 GLM-5.3,不是前沿模型本体;追新能力仍要出网
机房供电压不住 30kW先解决机房电和散热是前置条件,不是配套

六、真要采购,先问这六个问题

  1. 98% 是对谁、在哪张榜、哪一天? 答案是 GLM-5.3 vs Claude Opus 5、SWE-bench Verified、2026 年 9 月 1 日快照。让对方确认这个口径,别接受 “接近前沿” 的模糊说法。
  2. 85 人 / 50 并发是怎么测的? 是并发会话数还是同时在跑的 Agent 数?这两个含义完全不同。
  3. 模型能不能换? 官方写的是 “可评估新的本地模型”,要确认换模型后路由策略、性能验证、支持范围是否还在服务内。
  4. 路由策略谁定、怎么审计? 哪些请求允许出网,必须由企业策略控制并可追溯,否则合规上是空话。
  5. 59 万美元含什么、不含什么? 官方口径是含软件与授权、3 年硬件摊销;电费、机房改造、运维人力不在里面。
  6. 三年后怎么办? 摊销按 3 年算,但 GPU 代际更新远快于 3 年,要提前想好到期后的续购或置换路径。

七、不同角色该看什么

你是关注点一句话
CIO / IT 负责人数据边界与治理本地优先路由+用量配额,是这套方案真正的价值
研发负责人并发与工具兼容确认 50 并发怎么定义,Claude Code/Cursor 接入是否开箱可用
财务TCO 假设是否成立用自己人均支出重算,别用厂商的 2,000 美元
运维机房条件30kW 以上单机功率,供电与散热先行

八、收尾的判断

这次发布值得写,但值得写的地方不在 “98%” 这个数字,而在两件事:一是 AMD 把 “本地跑编程模型” 从散件组装变成了带售后的整套交付(硬件+模型+调度+三年上门);二是它给出了一个可复算的 TCO 模型,虽然只是示意,但至少把假设摊开了。

至于那个被传歪的标题 —— 记住一句就够:98% 是 GLM-5.3 在 SWE-bench 上相对 Claude Opus 5 的解题率,不是这台机器装下了 98% 的前沿模型。一台机器里只有一个本地模型,剩下的能力,得靠路由把请求送出去。

IT之家

【相关 FAQ】

问题 1:AMD Instinct Coder 355 说的 “98% 前沿模型性能”,到底是什么意思?

回答 1:指的是本地运行的 GLM-5.3 在 Vals AI 的 SWE-bench Verified 榜单(2026 年 9 月 1 日更新)上解出 95.4% 的任务,对比 Claude Opus 5 的 97.0%,比值约 98.3%。这是 Instinct Coder 355 在单一编程基准上相对某个前沿模型的成绩之比,不是 “装下了 98% 的前沿模型”。

问题 2:AMD Instinct Coder 355 一台机器是什么配置,能支持多少开发者?

回答 2:Instinct Coder 355 单节点为 8 张 Instinct MI355X(每张 288GB HBM3e,合计约 2.3TB 显存)、2 颗 EPYC 9575F(64 核)、3TB DDR5 内存、8 块 7.68TB NVMe,分 Dell 与 Supermicro 两个版本;官方设计为每节点最多 85 名开发者、50 并发。

问题 3:AMD Instinct Coder 355 本地只跑一个模型,那前沿模型怎么用?

回答 3:Instinct Coder 355 采用 “本地优先” 路由:默认把请求发给本地的 GLM-5.3,只有当任务确实需要且企业策略允许时,才经 Spectro Cloud PaletteAI Inference Launchpad 路由到 Claude、GPT、Gemini 等前沿服务,敏感工作负载可全程留在内网。

问题 4:AMD Instinct Coder 355 宣称降 75% TCO,这个数字能直接信吗?

回答 4:不能直接套用。Instinct Coder 355 的 75% 基于一组具体假设:85 名开发者、人均每月 2,000 美元 AI 支出、服务器标价 59 万美元按 3 年摊销、仍需 10% 的前沿 API 费用、年运营 5 万美元,AMD 自己也注明 “结果仅为示意”;团队规模或人均支出不同,结论会反转。

问题 5:中小企业适合上 AMD Instinct Coder 355 吗?

回答 5:通常不适合。Instinct Coder 355 是按每节点 85 名开发者、50 并发设计的整机方案,服务器标价约 59 万美元,且单机电源规模在 30kW 以上;20—30 人团队摊不平成本,机房供电也常是硬门槛,更适合 80 人以上、且代码不宜出内网的研发团队。

【参考资料】

  • [2026-11-11](AMD 推出企业级 AI 辅助编程平台 Instinct Coder 355,支持本地运行 GLM-5.3)IT 之家
  • [2026-11-11](AMD 推出 Instinct Coder 355:单节点 8 张 MI355X,支持 85 名开发者)IT 之家官方微博
  • [2026-11-11](AMD Unveils Local Coding Platform Instinct Coder 355)AIbase
  • [2026-11-10](AMD 部落格:Instinct Coder 355 发布信息汇总)AMD
  • [2026-11-09](Introducing AMD Instinct Coder 355: The next generation AI Assisted Coding Platform for the Enterprise(含 Supermicro 版配置与脚注))AMD
  • [2026-11-09](Introducing AMD Instinct Coder 355: A Turnkey AI Assisted Coding Platform for the Enterprise(含 Dell 版配置与脚注))AMD

【免责声明】

本文硬件配置、开发者规模、性能与 TCO 数据均引自 AMD 官方博客(2026 年 11 月 9 日)及其脚注:98% 为 GLM-5.3 与 Claude Opus 5 在 Vals AI SWE-bench Verified 榜单(2026 年 9 月 1 日快照)上的解题率比较,75% TCO 与 5 个月回收期为 AMD 基于特定假设的建模结果,官方注明 “结果仅为示意”,实际成本与收益随用量、利用率、模型选择、机房条件变化。文中 “一台机器” 指单节点 8 卡服务器,售价为官方列出的约 59 万美元(含软件与授权、按 3 年摊销),不含电费、机房改造与运维人力。本文仅作技术与选型分析,不构成采购建议。