llama.cpp b11451 发布:修复 Adreno OpenCL GEMM 越界读取
llama.cpp 发布 b11451 版本,主要修复了 OpenCL 后端在 Adreno GPU 上 xmem GEMM 的越界读取问题(#30041)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译包,支持 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后
技术方向 · 开源模型、框架与仓库动态:权重开放、社区项目、开源与闭源的力量对比 · 共 2115 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
llama.cpp 发布 b11451 版本,主要修复了 OpenCL 后端在 Adreno GPU 上 xmem GEMM 的越界读取问题(#30041)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译包,支持 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后
Simon Willison 在 Show HN 上发现新的可观测性平台 Parseable,它有 AGPL 许可的 Rust 开源实现(单个约 180MB 二进制文件)、企业版和云托管选项。由于 Datasette 1.0a41 新增了 OpenTelemetry 支持,他使用 Codex 研究如何运行 Parseable 并将 Datasette 的追踪
NVIDIA 发布 DOCA GPUNetIO,一个以 GPU 为中心的网络 SDK 层,让 CUDA 内核直接驱动以太网、RDMA、Verbs 和 DMA 操作,将 CPU 移出应用关键路径。该框架已从单一实现演变为统一的 GDA-KI 基础,被 NVSHMEM、NCCL、Aerial 5G SDK、UCX/NIXL、DeepEP/HybridEP 等集成
llama.cpp 发布 b11449 版本,主要修复了 ggml 中 CLAMP 操作在非连续视图(non-contiguous views)上的处理问题,涉及 CPU 和 CUDA 后端。此前 CUDA 将 ggml nelements 值按扁平方式处理而忽略视图步长,CPU 则按 j nb01 寻址行而忽略 nb02/nb03,现在两者都遵循维度 1.
llama.cpp 发布 b11448 版本,主要更新为 CUDA 后端对 BF16/FP16 到 F32 的大规模转换进行分块处理,并在分块 cuBLAS 矩阵乘法中正确处理目标步长。该改动由社区贡献者提交,旨在提升大张量类型转换与矩阵运算的显存效率。版本同时提供覆盖 macOS、Linux、Windows、Android 等多平台多后端的预编译二进制包。
llama.cpp 发布 b11447 版本,主要变更为模型支持新增 pplx-decider(PR #30044)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,涵盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
llama.cpp 发布 b11446 版本,主要修复了 Metal 后端在量化 flash attention 中线程组内存超额分配的问题(PR #29340)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,支持 CUDA、Vulkan、ROCm、SYCL、OpenVIN
Hugging Face Transformers 发布 v5.19.0,新增 Google 基于 Gemma 4 架构的多模态嵌入模型 EmbeddingGemma2,可将文本、图像、音频和视频编码到共享的 768 维向量空间。该版本还包含多项破坏性变更,如所有 MoE 模型在 output router logits=True 时返回路由 logits、
NVIDIA 发布 AICR v1.0,为 GPU 加速的 Kubernetes 集群提供版本锁定、经过验证的配置配方(recipe),并支持 Helm、Argo CD、Flux、Helmfile 等部署工具。该版本为 CLI、REST API、Go SDK、bundle 布局和 artifact schema 建立了稳定的兼容性契约,并引入签名验证证据与验
llama.cpp 发布 b11445 版本,主要修复 Vulkan 后端在 1.0 版本 loader(如 Android 8.1)上因缺少 vkEnumerateInstanceVersion 而调用空指针导致初始化崩溃的问题,将其按 1.2 以下 loader 处理。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平
Hugging Face 上发布 Mitsuba & HiMitsuba 27B GGUF 模型,基于 Qwen3.8-27B 自研三值化(1.58-bit)权重,面向 ComfyUI 的图像/视频提示词生成与图像描述任务,不适用于编程。提供 PQ2 0(7.3GB)与 PTQ1 0(6.0GB)两种 GGUF 格式,可在单张 16GB GPU 上运行,并新
LangChain 发布 langchain-core 1.6.7 版本,包含对 Bedrock Converse 输出中 OpenAI redacted content 的修复,以及针对 Python 3.14 的 inspect.signature 兼容性加固,同时升级了 notebook、urllib3、tornado 等依赖。
开发者 samuel-vitorino 在 Hugging Face 发布开源 TTS 模型 sopro-v2-turbo,参数规模 120M,支持英语、欧洲葡萄牙语、法语和德语,具备零样本声音克隆与流式合成能力。该模型可在笔记本 CPU 或浏览器(ONNX 运行时)上运行,M3 CPU 上流式 RTF 为 0.21,H100 上为 0.07,首音频延迟约
LibreOffice 背后的非营利组织 The Document Foundation 本周发布博客,宣布在可预见的未来不会在软件中加入 AI 功能,认为当前没有满足其要求的 AI 集成方案。该组织强调此举是为了确保用户文档不被上传到服务器处理、软件无需联网即可运行,从而保护机密和敏感数据。用户仍可通过安装扩展连接本地 AI 模型来使用 AI 功能。这一决
法国 AI 实验室 Mistral AI 发布 Mistral Large 4(ML4),一个拥有 1 万亿参数的大型多模态模型,昵称 Le Chonk,目标是同时超越中美竞争对手。该模型目前仅通过公共护栏端点提供访问,Mistral 计划在三周安全测试完成后开放权重。ML4 完全使用 Mistral 自有算力训练,仅用 4000 块 Nvidia GPU,
Interconnects AI 作者撰文批评当前关于开放权重模型网络风险的讨论过于片面,认为主张封禁开放模型的人忽视了政策权衡,且未认真理解中国企业的风险评估逻辑。作者指出,迄今公开记录的网络攻击多由闭源模型导致,若因网络风险封禁开放模型,逻辑上也应禁止前沿闭源模型的公开 API,否则可能扩大攻防差距。文章还认为开放权重模型在气隙网络等场景中可能是防御方唯
LangGraph 发布 langgraph-sdk 0.4.6 版本,主要修复了线程流请求中 thread id 和 assistant id 的百分号编码问题,并同步发布 langgraph 1.2.13。此外还包含依赖项的小版本与补丁更新,包括将 urllib3 从 2.7.0 升级至 2.8.0。
Hugging Face 在 LeRobot 框架下发布 SmolVLA 基础模型(lerobot/smolvla base),这是一个紧凑高效的视觉-语言-动作(VLA)模型,基于 SmolVLM2-500M-Video-Instruct,采用流匹配训练目标,可在单张 GPU 上训练并部署于消费级硬件。模型支持多视角图像、本体状态和可选语言指令输入,输出连
Hugging Face 上发布了 lerobot/pi05 libero finetuned v044,这是 Physical Intelligence 的 π₀.₅ 视觉-语言-动作(VLA)模型在 LIBERO 任务上微调后的 LeRobot 版本。该模型基于 flow matching 动作头,支持多视角图像、本体状态和可选语言指令输入,输出连续动作
llama.cpp 发布 b11443 版本,主要将 nextn 行裁剪逻辑整合为共享辅助函数,用 crop before nextn() 和 crop after nextn() 替代各模型重复的裁剪条件与标志位。同时让 mimo2、qwen4exp、deepseek4 等模型无条件设置 t h nextn,主机端读取仍由 cparams.embeddin