部署工程

技术方向 · 把模型跑起来的工程实践：推理优化、量化与成本、Serving 架构与可观测性 · 共 3294 条

只展示置信度达到公开门槛且每篇排名前三的主题标签，降低泛化误贴。

11月3日周二 · 20 条

14:55

正文结构化主题已通过公开置信门槛

量子位产品发布

纯语音Personal Agent Orilo发布：双层架构实现低延迟对话

量子位报道了一款名为Orilo的纯语音Personal Agent产品，由百川智能联合创始人焦可的团队打造。该产品采用Voice-first路线，聚焦早晨信息处理场景，通过前端轻量语音模型与后端高推理Agent的双层架构实现低延迟对话，在Full-Duplex-Bench测评中打断后重新开口仅需1.08秒。文章认为其交互形态接近乔布斯对Siri的构想，但当前

13:59

正文结构化主题已通过公开置信门槛

Hugging Face Daily Papers一手来源研究

Wave Forcing：面向光速流式视频生成的协同设计框架

上海交通大学 Deng Lab 提出 Wave Forcing（WF），一种面向流式长视频生成的训练与执行框架，通过分块因果注意力、错峰去噪与缓存刷新调度，以及三阶段训练流程，实现连续长视频输出。在 Wan2.1-T2V-1.3B 上，5 步 WF 质量与 Rolling Forcing 相当，100 秒视频的 Dynamic Degree 从 36.63

13:42

正文结构化主题已通过公开置信门槛

llama.cpp Releases一手来源开源

llama.cpp b12064：Hexagon 新增分块 HVX 转置拷贝

llama.cpp 发布 b12064 版本，为 Hexagon NPU 后端新增分块 HVX 转置路径，用于处理带置换的 CONT/CPY 拷贝。此前这类拷贝会退化为逐元素 DMA 描述符，速度仅约 45 MB/s；新内核通过 2D DMA、vgather 转置和双缓冲提升性能，并补充了 f32/f16 多种尺寸的测试。该改动主要优化视频 VAE 中通道优

当日发布

正文结构化主题已通过公开置信门槛

arXiv cs.SE一手来源研究

歧义输入下的自动形式化：SQL与逻辑形式的精度、覆盖与成本

该论文研究面向歧义输入的自然语言自动形式化问题，在 SQL 与一阶逻辑基准上评估了七种工作流。结果显示，原始模型在 AMBROSIA 和 AmbiQT 上 F1 分别为 53.35% 和 60.85%，而 DRIFT 在 AmP 上以 2.03 倍 token 成本提升 15.98 个 F1 点，LoC 则成本更高但 F1 更低。在 AutoCedar 中，

当日发布

正文结构化主题已通过公开置信门槛

arXiv cs.IR一手来源研究

生成式推荐中 Beam Search 的首步覆盖瓶颈与预算重分配

该论文研究生成式推荐中 beam search 的排序损失定位问题，发现 TIGER 推荐器在六个全测试设置下，所有被剪枝的精确 top-10 路径均首次丢失于解码第一步，即首步覆盖瓶颈。作者提出将 beam 宽度预算重新分配到首步，在 Beam-50 不变预算下将 Search Recall@10 提升 0.96–10.90 个百分点，并在全部 77,37

当日发布

正文结构化主题已通过公开置信门槛

arXiv cs.LG一手来源研究

输出感知块影响：用于深度剪枝的雅可比透镜加权

该论文提出一种基于雅可比透镜（J-Lens）的深度剪枝评分方法 J-BI，将 ShortGPT 的 Block Influence 局部相似度通过 J-Lens 传输到最终残差流或 logits 上再计算。在 Qwen3-8B、Llama-3.1-8B-IT 和 Gemma-3-12B-IT 上，相同稀疏度下 J-BI 相比 BI 将剪枝后准确率最高提升 1