无需梯度训练,Opus 5.5 手写 Transformer 权重,13 类算法任务全部满分

微软联合多所高校推出 iWSP 可解释权重空间编程方案,Claude Opus 5.5 不需要反向传播、梯度下降,不用海量训练数据,直接靠推理手写 Transformer 权重,在 13 类算法任务、26 次独立测试中,隐藏测试集拿到 100% 准确率,这个实验打破了大家默认神经网络必须训练调参的固有认知。传统训练模式是先搭好网络结构,喂大量数据,依靠损失函数迭代更新权重,属于拟合数据的黑盒过程;而这套新方式是 Opus 5.5 先理解任务逻辑,把对应的数学规则、判断逻辑直接编码成 Transformer 里的权重数值,再配合评测反馈反复微调权重数值,整个过程不存在训练阶段。对比同系列其他模型还能看出差异,Opus 5.5 写出的网络参数量中位数只有 166 个,Sonnet 5.5 需要 41600,Haiku 5.5 更是要 10 万,推理越强的模型,手写出来的神经网络越精简,而且每一组权重对应的逻辑都能追溯审计,不再是黑盒模型。当然目前这个能力只局限在 13 类规则型算法任务,不是通用大模型都能这么生成,距离拿来直接做通用大模型还有很远距离。

一、iWSP 手写权重和传统训练的对比表

项目传统梯度训练Opus 5.5 手写 Transformer 权重(iWSP)
权重生成方式数据拟合、反向传播迭代LLM 推理编写权重数值,基于评测反馈迭代
训练数据需要大规模标注数据集不需要海量训练数据
优化器SGD、Adam 等优化器无梯度优化器
可解释性黑盒,很难定位单条参数含义权重逻辑可审计,能追溯算法规则
参数量通常偏大同等任务下参数量极小(本次中位数 166)
适用场景通用识别、生成类任务规则明确的算法任务

二、整套 iWSP 执行流程清单

  1. 任务输入:向 Opus 5.5 给出目标算法任务、评测指标和测试用例
  2. 逻辑推导:模型自行分析任务底层数学规则、判定逻辑
  3. 权重编码:直接输出 Transformer 各层权重矩阵的数值,用代码形式写出网络
  4. 沙箱评测:在测试集运行生成的小网络,返回准确率结果
  5. 迭代修正:Opus 5.5 根据评测失败的样例,修改权重数值,多轮优化
  6. 输出成品:收敛后拿到可直接运行、无训练过程的 Transformer 网络

三、本次实验关键信息

  • 研究名称:可解释权重空间编程 iWSP
  • 模型:Claude Opus 5.5
  • 任务规模:13 类算法任务,26 次独立复现实验
  • 测试结果:隐藏测试集全部 100% 正确率
  • 参数量对比:Opus 5.5 中位数 166;Sonnet 5.5 中位数 41600;Haiku 5.5 中位数 100000
  • 核心限制:仅针对规则类算法任务,不是通用大模型构建方案

四、技术价值和局限

✅ 价值

  1. 证明神经网络权重可以被 “编程式生成”,不只有数据拟合一条路
  2. 生成的模型高度可解释,方便科研人员核查内在逻辑
  3. 规则类小模型参数量极低,推理开销很小
  4. 只适合逻辑清晰、规则确定的算法任务,图像、自然语言生成这类复杂任务暂时不行
  5. 生成过程依赖 Opus 5.5 自身强推理能力,token 消耗高、迭代轮次多
  6. 还属于学术研究阶段,没有大规模工程落地

❌ 局限

【相关 FAQ】

问题 1:Opus 5.5 手写 Transformer 权重,是不是代表以后大模型不用预训练了?

回答 1:不是。Opus 5.5 手写 Transformer 权重只是在 13 类规则算法任务上实现满分,这套 iWSP 方案目前只能生成小型专用网络,通用大模型依然离不开大规模预训练,不能直接替代现有预训练模式。

问题 2:Opus 5.5 手写出来的 Transformer 权重,为什么参数量比训练出来的小很多?

回答 2:Opus 5.5 手写 Transformer 权重是直接把任务的数学规则写进参数,没有为泛化冗余拟合数据,所以同等任务下参数量可以压缩到极小;梯度训练出来的网络会预留冗余参数适配分布变化,参数量普遍更大。

问题 3:iWSP 方案里,Opus 5.5 手写 Transformer 权重之后还需要微调吗?

回答 3:不需要梯度微调,Opus 5.5 是拿到评测结果后,靠自身推理直接修改权重数值,属于 LLM 主导的权重重写迭代,不是传统意义上基于梯度的微调训练。

【参考资料】

[2026-11-19](不用训练!Opus 5.5 直接手写 Transformer 权重,13 类任务全拿 100%)36 氪

[2026-11-19](不用训练!Opus 5.5 直接手写 Transformer 权重,13 类任务全拿 100%)新浪财经

[2026-11-18](One engineer had Claude hand-write AI weights, and it nearly matched training)AI Insiders

[2026-11-17](Weight-Space Programming Doesn’t Need Transformers)alphaXiv

[2026-11-16](Same Fix, Different Weights: Replicating Weight-Space Programming with Claude)arXiv

【免责声明】

本文仅整理公开学术研究和媒体报道信息,Opus 5.5 手写 Transformer 权重属于前沿实验室成果,还未进入商用阶段;内容不代表该技术可直接用于模型开发采购,不构成 AI 项目投资、技术选型建议,技术落地效果以官方论文复现结果为准。

本文来自作者[锐熵寻址]投稿,不代表新新网立场,如若转载,请注明出处:https://www.xxcmw.com/rgzn/202611/4395.html

赞 (0)
反馈

发表回复

本站作者后才能评论

评论列表(4条)

  • 锐熵寻址
    锐熵寻址 2026年11月19日

    我是新新网的签约作者“锐熵寻址”!

  • 锐熵寻址
    锐熵寻址 2026年11月19日

    希望本篇文章《无需梯度训练,Opus 5.5 手写 Transformer 权重,13 类算法任务全部满分》能对你有所帮助!

  • 锐熵寻址
    锐熵寻址 2026年11月19日

    本站[新新网]内容主要涵盖:互联网行业的追踪与探索

  • 锐熵寻址
    锐熵寻址 2026年11月19日

    本文概览:微软联合多所高校推出 iWSP 可解释权重空间编程方案,Claude Opus 5 5 不需要反向传播、梯度下降,不用海量训练数据,直接靠推理手写

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们