AWS 生成式 AI 定制化光谱：从提示工程到自定义模型
AWS 发布博客，提出生成式 AI 定制化光谱的 8 步决策框架，帮助团队在提示工程、RAG、微调、继续预训练和从零训练之间做出选择。框架分为 USE、ENHANCE、TRAIN 三类，并映射到 Amazon Bedrock 等 AWS 服务。核心原则是从最简单的方法开始，仅在准确率、延迟或领域需求不满足时才升级。
部署工程
技术方向 · 把模型跑起来的工程实践：推理优化、量化与成本、Serving 架构与可观测性 · 共 3317 条
只展示置信度达到公开门槛且每篇排名前三的主题标签，降低泛化误贴。
9月14日周一 · 20 条
正文结构化主题已通过公开置信门槛
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b10964，版本号升至 0.4.1
llama.cpp 发布 b10964 版本，将版本号提升至 0.4.1（PR #28900）。该版本为 macOS、iOS、Linux、Android、Windows 及 openEuler 等多个平台提供预编译二进制包，涵盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。
正文结构化主题已通过公开置信门槛
Langfuse v4.36.0 发布：新增 AI Gateway 转发 OpenAI Responses 请求等功能
Langfuse 发布 v4.36.0 版本，主要新增 AI Gateway 转发已认证的 OpenAI Responses 请求、过滤器内联建议、表格统一列弹窗、trace 瀑布图提示、会话时间线开关及可配置事件传播块大小等功能。同时修复了计费、图表、网关模型展示、会话时间线、监控任务卡死等多项问题，并进行了 ClickHouse 查询归因和前端重构等维护
正文结构化主题已通过公开置信门槛
蚂蚁发布大模型内生式安全护栏SingProbe
蚂蚁AI安全实验室在国家网络安全宣传周期间发布大模型内生式安全护栏SingProbe，将安全检测融入模型生成过程，让AI边生成边输出风险提示。该方案复用推理过程中的内部信息，在Ling-3.0-flash生产环境中额外开销低于0.5%，并同步发布流式安全评测基准SingStreamBench及医疗场景方案SingProbe-Med。目前SingProbe已适
正文结构化主题已通过公开置信门槛
GigaChat 发布 3B 双向嵌入模型 Giga-Embeddings-instruct-3B-0826
Hugging Face 上发布了 GigaChat 系列的新文本嵌入模型 Giga-Embeddings-instruct-3B-0826，基于 Qwen3 架构（36 层、hidden 2048、约 3B 参数），将自注意力改为双向 encoder 风格，并用 InfoNCE 对比损失训练。模型采用 mean pooling + L2 归一化，支持俄语和
正文结构化主题已通过公开置信门槛
不用外部编排器：在 Postgres 上实现持久化工作流
文章介绍 Kestrel Workflows 团队放弃 Temporal、AWS Step Functions 等外部编排器，改用 Postgres 实现持久化工作流执行。核心手段是用 SELECT ... FOR UPDATE SKIP LOCKED 把普通表变成并发工作队列，用主键约束保证步骤幂等，并用租约加清扫器模式实现崩溃恢复。作者认为这样可减少一个
正文结构化主题已通过公开置信门槛
llama.cpp b10955 修复 ggml-cpu 堆损坏问题
llama.cpp 发布 b10955 版本，修复了 ggml-cpu 中因预编译头（PCH）导致的 CACHE LINE SIZE 不一致问题。PCH 强制在 ops.h 之前包含 ggml-impl.h，使 C++ 内核使用 256 字节的硬件破坏性干扰大小，而 C 工作缓冲区代码仍用 64，导致 rope 工作缓冲区偏小并引发堆缓冲区溢出，最终在 gg
正文结构化主题已通过公开置信门槛
K2-Horizon-MoVA-36B-A4B 社区 GGUF 量化版发布
Hugging Face 用户 ngquocvinh 发布了 IFM/K2-Horizon-MoVA-36B-A4B 的社区 GGUF 量化版本，提供从 Q8 0 到 Q1 0 共 15 种量化档位。该基础模型是采用 Mixture-of-Values 注意力的稀疏 MoE 模型，总参数 36B、每 token 激活约 4B，原生支持 524,288 tok
正文结构化主题已通过公开置信门槛
violetxi 发布 92M Block-MTP 国际象棋文本生成模型
Hugging Face 用户 violetxi 发布了一个 92M 参数的 Block-MTP 模型检查点（step 235000），基于 transformers 库，支持文本生成，标签涉及国际象棋、block-mtp 和截断 BPTT。该模型采用三路循环打分机制，每次生成三个 token 的块，不支持 KV 缓存和束搜索，上下文为 1024 个逻辑 t
正文结构化主题已通过公开置信门槛
AutoRound 两行参数修正：GGUF 量化精度大幅提升
Archsloth 在 Hugging Face 博客中披露，其 GGUF 量化流程中 AutoRound 的两个参数设置错误：误用 W4A16 方案却以 Q4 K M 格式导出，且未启用 SignRoundV2 符号梯度搜索。修正后，Qwen3-4B 的 Q4 K M 量化在韩语、代码等十个测试轴上 KL 散度较 unsloth 版本降低 20.9% 至
正文结构化主题已通过公开置信门槛
llama.cpp b10952 发布：修复 SYCL oneDNN scratchpad 内存池释放顺序
llama.cpp 发布 b10952 版本，主要修复了 SYCL 后端中 oneDNN scratchpad 破坏内存池释放顺序的问题（PR #28704）。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。
正文结构化主题已通过公开置信门槛
mlx-optiq 发布 Gemma-4 12B QAT 混合精度 4-bit 量化模型
mlx-optiq 发布了 mlx-community/gemma-4-12B-it-qat-OptiQ-4bit，这是基于 Google 量化感知训练（QAT）版 Gemma-4 12B 的 4-bit 混合精度 MLX 量化模型。它采用敏感度引导的逐层比特分配（157 个组件用 8-bit，171 个用 4-bit，平均 5.25 bits-per-we
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b10951：优化 llama decode 调用时机
llama.cpp 发布 b10951 版本，其中一项改动是将 llama n rs seq 检查移到 llama decode 调用之前，若检查为真则直接返回，从而在不需要时避免调用 llama decode。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包，覆盖 CUDA、Vulkan、ROCm、SY
正文结构化主题已通过公开置信门槛
InitGen：智能助手交互发起候选生成框架
OPPO 小布助手团队提出 InitGen 框架，用于智能助手在用户表达意图前生成候选交互查询。该方法联合生成候选集合并通过加权偏好优化对齐用户反馈，权重来自用户活跃度和下游排序分数，同时采用滚动窗口更新策略。在线 A/B 测试中，点击率从 0.95% 提升至 1.61%（相对提升 69.1%），查询曝光量增加 17.9%，完整候选集生成耗时 180 毫秒，
正文结构化主题已通过公开置信门槛
Occamy-1.0：面向协作的开源帕累托前沿35B智能
研究团队发布 Occamy-1.0，一个基于 Qwen3.6-35B-A3B 检查点继续训练得到的 35B 规模协作（co-work）智能体模型。该模型通过执行导向数据、可回放长程轨迹基础设施以及分阶段后训练（Marathon Expert 与 Sprint Expert 合并）来提升工具调用、状态跟踪与长任务连续性。在多个协作基准上，Occamy-1.0
正文结构化主题已通过公开置信门槛
Pinterest 发布 PinDCO：十亿级整页感知动态创意优化系统
Pinterest 在 arXiv 发布其生产级动态创意优化系统 PinDCO，用于十亿级视觉发现平台上的广告创意检索与选择。系统核心为 Creative Component Fusion Network（CCFN），对图像、标题、布局等创意组件分别建模并融合打分，同时引入 Pixel-aware Adjustment Module（PAM）根据创意尺寸调整
正文结构化主题已通过公开置信门槛
基于ONNX的量化分析工具助力高效AI模型部署
马里兰大学的研究者提出 Quantization Analysis Tool，一个基于 ONNX 框架的量化分析工具，用于简化 AI 模型量化工作流。该工具提供逐层敏感度分析、权重与激活分布可视化，帮助开发者识别对低精度敏感或鲁棒的层，从而在模型大小、延迟与精度之间做出权衡。实验表明该工具能有效提升量化后精度，改善边缘设备部署效率。
正文结构化主题已通过公开置信门槛
NUS Show Lab 寿政：融合自回归与离散扩散，打造具身大模型底座
新加坡国立大学 Show Lab 负责人寿政教授在 ECCV 2026 上介绍了 Show-o 系列统一多模态模型，该架构在单个 Transformer 中融合自回归预测与离散掩码扩散生成，解决文本离散性与视觉连续性难以统一的问题。团队进一步提出循环一致性监督实现理解与生成的双向反哺，并通过 3D Tokenizer 与时空双向注意力提升连续视频生成质量。研
正文结构化主题已通过公开置信门槛
Qwen3.8-Flash 量化包登陆 Strix Halo，支持长上下文与视觉输入
开发者 jcbtc 在 Hugging Face 发布了 Qwen3.8-Flash-CIRU-STRIX-IU4 v4.0.0，这是面向 128 GB AMD Strix Halo（Ryzen AI Max+ 395）机器的 Qwen3.8 Flash 量化包，支持长上下文文本生成、OpenAI 兼容 API、Web UI 和可选图像输入。该包基于 Qwe
正文结构化主题已通过公开置信门槛
handy-computer 发布 nemotron-3.5 流式 ASR 的 GGUF 量化版
handy-computer 在 Hugging Face 发布了 nvidia/nemotron-3.5-asr-streaming-0.6b 的 GGUF 量化版本，供 transcribe.cpp 使用。该模型是 0.6B 参数的 cache-aware 流式 FastConformer 编码器加 RNN-T 解码器，支持 32 种语言区域的多语言语音