SkillPedia Skills Encyclopedia
中文 EN
今日更新 2026-11-20 UTC

今天还没有新提交

查看更新动态

2026-11-03 · 来源 YouTube

DeepSeek开源线上生产级推理引擎DeepInfer与Harness架构解密及阿里Qwen开源路线

2026-11-03 YouTube 1174 字 约 3 分钟读完 更新于 2026-11-05 11:19:29
DeepSeek开源DeepInfer生产级推理引擎性能与显存带宽评测图表
DeepSeek开源DeepInfer生产级推理引擎性能与显存带宽评测图表

专题一:DeepSeek开源生产级推理引擎DeepInfer,显卡吞吐提升3倍重塑算力经济学

深度求索(DeepSeek)在迭代上线V4.1 Flash最新微调模型后,正式将其线上真实生产环境中承载海量高并发的核心推理引擎“DeepInfer”全面开源。硅谷技术分析师bycloud对此开展了详尽的底层源码与算力经济学拆解。测试显示,该开源引擎在面对大规模长文本与复杂智能体任务时,将单张GPU的有效吞吐量直接提升至传统方案的3至4倍以上,颠覆了业内对于MoE超大模型推理成本高企的固有认知。

在技术架构上,DeepInfer将计算密集型的预填充(Prefill)与显存带宽受限的解码(Decode)阶段彻底实施硬件解耦:预填充采用2至8卡的紧凑专家并行组,而解码阶段则采用64卡超宽专家并行(EP64),使得单卡只需驻留少数专精专家参数即可运行;同时深度协同底层自研3FS分布式存储,以100PB级SSD池构建分层KV缓存,将全局缓存命中率提升至惊人的96%。更为关键的是,该引擎在支持最新英伟达Blackwell硬件的同时,原生集成了对华为昇腾国产算力集群的高效内核,向全球开发者树立了如何通过极致工程重构大模型商业盈利模型的全新样板。

专题二:DeepSeek Harness超级智能体架构解析:插件化时空组合颠覆传统编程范式

阿里通义千问Qwen开源许可溯源与全球开发者社区生态辩论
阿里通义千问Qwen开源许可溯源与全球开发者社区生态辩论

知名AI系统架构专家Sam Witteveen对DeepSeek近期开源的DSH SuperAgent超级智能体展开了全方位的架构复盘。区别于海外诸多依赖单体庞大代码库的闭源智能体方案,DeepSeek Harness的核心创新在于彻底落实了源自北大科研团队的Cordis“时空可组合性”插件哲学——在整套系统设计中,无论是路由器、工具注册表、会话日志还是主循环本身,均被抽象为可以即插即拔的微型插件模块,卸载时能够无残留物理回滚。

基于这一轻量可扩展的插件底座,SuperAgent开创了面向工业生产级多任务的高效协同流水线:由轻量级主会话路由器(Router)批量监听外部GitHub Issue与PR动态,按预设权限与作用域完成工单封装;各独立Worker工作槽并发领单并在沙箱中完成代码重构与测试验证,且后续会话直接由对应Worker独立订阅以跳过顶层路由,大幅削减无谓Token消耗。实测对比显示,该开源智能体框架以仅为商业竞品数分之一的极低运行成本,追平了业界顶尖辅助编程工具的任务通过率,印证了“框架级工程拓扑对于智能体成败具有决定性价值”。

专题三:阿里通义千问Qwen 4生态引全球论战,开源社区重申开放标准与多模态愿景

阿里通义千问Qwen开源许可溯源与全球开发者社区生态辩论
阿里通义千问Qwen开源许可溯源与全球开发者社区生态辩论

随着阿里通义千问Qwen 4全家桶定档发布以及国行Apple智能落地,国际开源社区近期就“Qwen未来是否会如海外某些巨头般走向闭源商业化”展开了热烈论辩。知名开源追踪博主Run Local AI等学者对阿里技术演进与官方声明展开了多方溯源。事实表明,通义千问全球衍生模型与基座在全网公开下载量已突破40亿次大关,在阿姆斯特丹技术研讨会上,阿里核心团队明确表态将坚定不移推进全尺寸模型的开放权重与宽松商用授权。

分析指出,在跨国地缘竞争加剧与算力供应链割裂的当下,阿里巴巴选择将全矩阵Qwen模型持续全面开放,不仅有效化解了国际开发者社区对单一中心化供应商技术封锁的集体焦虑,更依托多词元预测(MTP)、稀疏注意力内核与全模态长思维链能力,在全球开源阵营中构建起了不可替代的底层事实标准。从开发者私有化本地单卡部署到跨国消费电子硬件的系统级集成,通义千问正成为国内大模型向全球数字基础设施输出技术话语权的关键标杆。

本文配图

DeepSeek Harness超级智能体插件化时空可组合架构拆解画面
DeepSeek Harness超级智能体插件化时空可组合架构拆解画面

Sources参考来源

  1. DeepSeek's New LLM Engine Just Made GPUs 3x More Valuable (bycloud) (Views: 88981)
  2. NEW DeepSeek Harness - Super Agent! (Sam Witteveen) (Views: 41070)
  3. Is Qwen Going Closed Source? I Traced the Rumour (Run Local AI) (Views: 671)

Keywords这条涉及

DeepSeek DeepInfer DeepSeek Harness SuperAgent Qwen 4 Open Source Huawei Ascend Inference 3FS KV Cache Cordis Architecture 深度求索推理引擎 昇腾算力推理 通义千问开源路线 智能体架构 插件化MaaS

全部资讯第 7 / 33 条 · 全部资讯

更多资讯More news

百度ERNIE 5.5 Flash零代码自主开发测试3D游戏与中国开源大模型商业化破局及MiniMax H3端侧视频生成

百度正式推出新一代混合专家(MoE)开放权重模型“ERNIE 5.5 Flash Preview”,并宣布将于11月下旬正式开源模型权重。该模型具备超长上下文窗口与高速词元生成能力,…

DeepSeek开放全家桶应用API与腾讯混元Realtime上线,国产开源低成本推理加速生态落地

DeepSeek 正式面向开发者开放全套应用层 API,涵盖搜索、网页抓取、文字识别(OCR)、语音识别与语音合成等独立能力接口,支持按需组合调用;同时将搜索、文件读取与链接解析原生整合进模型对话接口,…

阿里通义千问Qwen 4 Max Preview实测追平顶级闭源模型与27B端侧架构及DeepSeek本地霸榜

阿里巴巴正式开放了下一代多模态旗舰基座“Qwen 4 Max Preview”的早期体验通道。该版本支持文本、图像与视频全模态输入,具备高达100万Token的上下文窗口,并默认开启深度思考模式。…

百度时隔16个月开源文心5.5基座与中国人形机器人出货超97%及DeepSeek端侧蒸馏模型爆火

11月6日,百度文心大模型研发团队正式发布并上线开源了全新的“ERNIE 5.5 Flash Base”基座大模型。这是百度自2025年中推出ERNIE 4.5系列以来,…

DeepSeek多智能体解构重塑开发范式与乌镇峰会聚焦具身智能及工业数据安全监管

海外知名软件工程团队AI LABS针对DeepSeek近期开源的SuperAgent多智能体拓扑开展了全流程实战重构。针对以往开发者在多个AI交互会话间反复切换、导致思维上下文频频中断与任务卡顿的行业痛点,…

回到技能本身

资讯讲的是动向,技能目录讲的是能装进 AI 客户端的具体能力。