Edge0 开源 145B 端侧大模型，内存占用降低 60%，编码能力满血

Edge0 正式开源 Edge0-145B 以及 Edge0-120B 两款稀疏 MoE 端侧模型，搭配自研统一推理框架一起放出，核心亮点是用三级存储流水线方案，把 145B 千亿参数模型的峰值内存压到 29GB，相比传统加载方案内存开销减少 60%，编码能力没有缩水，在 DeepSWE 等代码基准上表现亮眼，普通高配笔记本就能本地离线跑，不用依赖云端服务器，同时支持最长 256K 上下文，适合本地写代码、长文档分析、智能体任务，解决了千亿大模型过去只能在服务器上跑、端侧硬件装不下的痛点。

Edge0-145B 核心参数表

内存节省 60% 的核心技术原理

1. 稀疏 MoE 专家路由：不是全部参数一起运算，只激活少量专家，降低每一步计算量。
2. 三级存储流水线：热专家常驻显存，大部分专家放在系统内存，大容量词汇数据放在 SSD，通过 mmap、LRU 预取机制按需加载。
3. 分层缓存调度：跨层共享专家缓存，减少重复读取，隐藏磁盘 IO 延迟，不会因为从 SSD 读数据明显卡顿。
4. 整层加载优化：权重按整层打包存储，加载开销更低，CPU 加载和 GPU 计算并行执行。

能力基准与编码表现

• DeepSWE 1.1 编码基准：64.6 分，保持满血代码生成、调试、补全能力，不会因为内存压缩出现代码能力衰减。
• Terminal-Bench 2.1 智能体基准：86.52 分，支持本地工具调用、脚本执行、任务规划。
• 适用任务：代码开发、长代码库理解、长文档总结、本地 Agent 任务、离线数据分析。

适合和不适合的场景清单

✅ 适合：高配笔记本本地离线编码、涉密代码开发、不想上传代码到云端、本地长上下文项目分析

✅ 适合：端侧智能体研发、本地私有化部署、边缘设备离线推理

❌ 不适合：内存小于 29GB 的普通轻薄本、手机等低内存移动设备

❌ 不适合：追求极低功耗、高频小请求的嵌入式场景

配套开源资源

• Edge0-145B、Edge0-120B 模型权重（NVFP4 量化）
• 统一推理框架、缓存调度、预取组件源码
• 部署示例、硬件适配脚本、基准测试脚本

【相关 FAQ】

问题 1：Edge0 开源的 145B 端侧模型，内存省 60% 是靠什么技术实现的？

回答 1：Edge0 145B 端侧模型依靠稀疏 MoE 路由 + 三级存储流水线，专家权重分层放在显存、内存、SSD，搭配 LRU 预取缓存机制，相比传统方案内存占用降低 60%，同时保留满血编码能力。

问题 2：Edge0-145B 端侧模型，普通笔记本电脑可以跑吗？

回答 2：Edge0-145B 峰值内存 29GB，M 系列 MacBook Pro、RTX4090/5090 这类高配笔记本可以本地离线运行，低配轻薄本内存不足无法加载。

问题 3：Edge0-145B 端侧模型的写代码能力有没有缩水？

回答 3：Edge0-145B 是内存调度优化，不是裁剪能力，在 DeepSWE 编码基准上有不错得分，代码生成、调试、补全能力满血，没有因为内存压缩下降。

问题 4：Edge0 除了 145B 端侧模型，这次还同步开源了什么？

回答 4：Edge0 同步开源 Edge0-120B 模型、统一推理框架和全套部署工具，模型权重以 NVFP4 量化版本上传 Hugging Face。

【参考资料】

[2026-11-13]（Edge0 开源 145B 端侧大模型，内存降低 60%，编码能力满血）AIBase

[2026-11-13]（29GB 内存跑 145B，Edge0-145B 千亿端侧模型开源）搜狐网

[2026-11-13]（Edge0 open-sources 145B on-device AI model for local laptop inference）SiTech Blog

[2026-11-12]（Edge0-145B: Open-Source On-Device AI with 145B Parameters）Edge0 官网博客

【免责声明】

本文仅为资讯整理，Edge0-145B 端侧模型的实际运行速度、内存占用、跑分受硬件、驱动、量化版本影响，模型开源协议、商用限制以 Hugging Face 和项目 GitHub 仓库原文为准，不构成硬件采购、模型商用选型建议。