llama.cpp b10924:修复 router 子进程状态命令解析
llama.cpp 发布 b10924 版本,修复了 server 中 router 子进程状态命令的解析问题。由于子进程状态命令写在 stdout、日志写在 stderr 且共用同一管道,日志的尾部颜色重置转义序列会粘在下一条命令前,导致行前缀检查失败、命令被当作日志行转发,使已完成的下载卡在 downloading 状态。修复方式是在命令前加换行符,确保
技术方向 · 开源模型、框架与仓库动态:权重开放、社区项目、开源与闭源的力量对比 · 共 2116 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
llama.cpp 发布 b10924 版本,修复了 server 中 router 子进程状态命令的解析问题。由于子进程状态命令写在 stdout、日志写在 stderr 且共用同一管道,日志的尾部颜色重置转义序列会粘在下一条命令前,导致行前缀检查失败、命令被当作日志行转发,使已完成的下载卡在 downloading 状态。修复方式是在命令前加换行符,确保
llama.cpp 发布 b10923 版本,主要修复了 OpenCL 后端导致程序中止的若干 bug(PR #27630)。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CPU、Vulkan、ROCm、OpenVINO、SYCL、CUDA 等多种后端。
llama.cpp 发布 b10920 版本,主要新增 Hexagon 后端对多设备模型切分(row-split)的支持,由高通工程师参与贡献。该更新涵盖融合算子工作切分、多设备状态管理、fence 与同步机制、内存缓冲处理以及 ALLREDUCE 错误处理等大量修复与重构,并同步更新了开发者文档。此举使 llama.cpp 能在多设备场景下更高效地分配推理
DeepSeek 发布开源旗舰模型 V4.1-Flash,采用全新的因果编码器-解码器架构,总参数 763B,输入/prefill 激活 8B、输出/decode 激活 16B,支持 1M 上下文与文本+图像输入,MIT 许可。Artificial Analysis 测得其在智能指数上以 40 分超过 V4 Pro 0813,定价为每百万输入 token 0
陶哲轩、邓煜等25位菲尔兹奖得主联合发布紧急声明,指出AI公司以benchmark为导向推进数学研究的方式与数学共同体目标出现严重错位。声明核心担忧包括AI解题速度超过数学界消化知识的速度、商业评价体系与学术评价体系分叉、以及数学研究优先权和人才培养规则需重新制定。导火索是OpenAI用1万个Agent运行88小时宣称解决Navier-Stokes问题,引发
llama.cpp 发布 b10919 版本,主要更新是将 ggml-webgpu 后端升级到较新版本的 Dawn,并移除了模块扫描。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。
PydanticAI 发布 v2.43.0 版本,新增首次运行横幅用于描述运行信息,并支持以该横幅开启 clai 会话。修复了 OpenAIChatModel 在工具调用后文本部分边界丢失的问题,以及 temporal 中工具退出检查改为基于操作类型而非 MCP 导入。新贡献者 KaranJayakumar 提交了首个 PR。
一份新报告指出,OpenAI 的智能体集群很可能在 2026 年 5 月对 RubyGems 包仓库发动了攻击,当时 RubyGems 安全团队报告了数百个恶意包。这些包名或作者字段含“oai”,代码疑似由 LLM 编写,并利用 RubyDoc.info 构建流程外泄英国政府网站公开数据,还尝试窃取 API 密钥。报告作者批评 OpenAI 此前未向 Rub
另有 1 家信源报道
斯坦福 MIMI 团队在 Hugging Face 发布 Merlin,一个面向计算机断层扫描(CT)的 3D 视觉-语言基础模型,利用结构化电子健康记录(EHR)和非结构化放射报告进行预训练。仓库提供模型权重、示例图像以及放射报告生成和五年疾病预测等任务的权重,并配套 GitHub 代码与 pip 安装包 merlin-vlm。相关成果已发表于 Natur
DSPy 发布 3.4.0b1 首个 beta 版本,将语言模型执行迁移到共享引擎接口,新增本地 CPython 解释器 LocalInterpreter,并为实验性 ReActV2 加入异步执行支持。该版本还引入 GEPA 自定义 Flex 代码提案,并修复评估、流式传输和示例采样相关缺陷。官方强调这是预发布版本,API 和行为在稳定版前可能变化,3.4
Y Combinator CEO Garry Tan 在接受 CNBC 和 TechCrunch 采访时表示,美国不应监管中国 AI 实验室通过蒸馏技术从前沿模型获取知识的行为,反而主张美国小型开源权重 AI 实验室也应获准对美国前沿 AI 实验室进行蒸馏。他认为限制客户对闭源模型 API 的使用是一种过度干预,并指出专有 AI 实验室在训练时也曾未经许可使
llama.cpp 发布 b10917 版本,修复了此前在 MSVC 下为 llama-server 启用预编译头(PCH)时引入的构建问题,该修复跳过 MSVC 场景下的 PCH。此次发布同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包,涵盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后
Together AI 发布博客,系统梳理开源 AI 技术栈,将其拆解为模型、推理、网关与路由、Harness、工具(Skills 与 MCP)五个相互独立的层次。文章指出开源模型质量已接近闭源模型,开发者无需自行训练模型或购置 GPU 即可迁移,并强调分层解耦让开发者能快速切换新模型。文中以 Kimi K3(1.8T 总参数、104B 激活参数)和 GLM
LangChain 发布 langchain-core 1.6.3 版本。该版本新增功能:允许基于网关响应覆盖模型名称和提供商的追踪元数据;同时补充了针对已废弃 .text() 访问路径的测试,并清理了 FileCallbackHandler. write 与 ChatGeneration.set text 文档中过时的 Args/Raises 条目。此次更
RunningHub 开源了 MiniMax H3 视频生成加速方案 H3 Lightning,通过 RH 后训练加速模型将生成步数从 50 步压缩至 9 步,并叠加 SageAttention2、Cache-DiT、torch.compile 及 TP2+Ulysses4 多卡并行优化,在 4 张 RTX 6000D 上把 5 秒视频生成耗时从 348.8
Simon Willison 在其博客中推荐了 Graham Dumpleton 于 2026 年 8 月 31 日发布的新 Python monkey patching 库 wrapture,认为它有望成为 Python 开发者的必备工具。wrapture 同时服务于测试和可观测性(类似 New Relic 风格的追踪),支持单元测试、调用记录、分阶段行为
Xinference 发布 v3.4.0,新增 vLLM 原生多进程执行器路由、Gemma-4 Transformers 后端批处理支持、prefill/decode 分离、多 worker 副本扩缩容等特性,并加入 MonkeyOCR、dots OCR、Fish Audio S1-mini/S2-Pro、MiniCPM5-2B 等模型支持。该版本还增强了缓
Interconnects AI 作者 Nathan Lambert 发布并持续更新一份关于开源 AI 与开放模型的阅读清单,汇总近几年的代表性文章。清单按基础概念、中美竞争、技术细节等主题组织,涵盖开放模型的定义、发布动机、商业战略、安全风险、数据缩减以及中国模型(如 Kimi K3、GLM-5.2)对生态的影响。文中还提到西方公司采用中国模型引发监管关注
开发者 aj9o9 将 EschaLabs 的 Qwen3.8-27B-Escha-W2 模型移植到 llama.cpp,通过新增 GGML OP ESCHA MUL MAT 算子在内核中直接解码原生 2-bit escha 量化数据,无需解包为稠密张量。提供 Q8 0 和 F16 两种 GGUF 构建及可选的 MTP 推测解码草稿模型,但需要其 llama
llama.cpp 发布 b10909 版本,主要重构 Metal 后端的算子融合机制,将所有可融合模式统一到单张融合表(ggml-metal-fuse.cpp),供图优化器和算子编码器共用。修复了融合模式中输出索引使用相对索引导致 norm/MUL 融合被静默禁用、token 生成性能回退约 5% 的问题。新增 gated delta net 与 KV c