Ornith-1.5-35B-A3B 的 ROCmFP4 量化版发布
用户 julianmb 在 Hugging Face 发布了 Ornith-1.5-35B-A3B 模型的 ROCmFP4 量化版本,面向 AMD Strix Halo(gfx1151)与 RDNA 3.5 GPU。该量化版文件 17.74 GiB,在 Ryzen AI Max+ 395 上配合 MTP 推测解码可达约 101 tok/s,比 Q4 K M
技术方向 · 开源模型、框架与仓库动态:权重开放、社区项目、开源与闭源的力量对比 · 共 2115 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
用户 julianmb 在 Hugging Face 发布了 Ornith-1.5-35B-A3B 模型的 ROCmFP4 量化版本,面向 AMD Strix Halo(gfx1151)与 RDNA 3.5 GPU。该量化版文件 17.74 GiB,在 Ryzen AI Max+ 395 上配合 MTP 推测解码可达约 101 tok/s,比 Q4 K M
llama.cpp 发布 b11213 版本,主要修复了 Vulkan 后端在 Adreno GPU 上 argsort 内核选择的问题(PR #29469)。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制,覆盖 CUDA、ROCm、Vulkan、SYCL、OpenVINO 等后端。此次更新属于针对高通 Adre
Hugging Face 用户 KasugaiSakura/abenzerps 发布了基于 Qwen/Qwen-Image-2.1 的未审查(Uncensored)GGUF 量化版本,用于本地图像生成。该仓库提供 BF16、FP8、INT8、NVFP4、MLX 4/6/8-bit 以及 Q8 0 至 Q4 0 等多种量化格式,并附带文本编码器与 VAE 文件
英伟达发布 Nemotron 3 Diarization 说话人分离模型,约 1 亿参数,权重免费开放。该模型可实时区分最多八位说话人,并检测多人同时说话,配合 Parakeet 等语音识别系统可生成带说话人标签的转录。在 VoiceArena 的 Diarization-Bench 上以 14.72% 错误率排名第一,相比前代 Streaming Sort
llama.cpp 发布 b11211 版本,主要变更是 RPC 后端改用 RDMA completion channel(完成队列)来避免忙等待(spin),并为 Apple RDMA 添加了 TODO。该版本同时提供了覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,涵盖 CUDA、Vu
llama.cpp 发布 b11209 版本,主要修复了 llama-bench 中 hf file 的越界访问问题(由 Adrien Gallouët 提交)。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制包,覆盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
llama.cpp 发布 b11207 版本,主要更新为 Hexagon 后端新增对分块(tiled)Q4 0 和 Q8 0 量化格式的 GET ROWS 支持,采用分块 HVX 反量化并改进 DMA 流水线与内核选择逻辑,同时重新启用向量化器。该版本同步提供 macOS、Linux、Windows、Android 等多平台预编译二进制包。
llama.cpp 发布 b11206 版本,主要新增 Hexagon 后端采样器支持(PR #29502),包括实现 TOPK、STEP、SUM、ARGMAX、ARGSORT 等采样算子,并改进二进制算子对大 logits 的分块处理与标量支持。同时修复了维度广播索引错误和性能回退问题,并禁用自动向量化以改用显式提示优化关键循环。该版本为 Snapdrag
ggml-org 在 Hugging Face 上发布了 Qwen3.8-27B 的 GGUF 量化版本,基于 Qwen/Qwen3.8-27B 与 incoai/Qwen3.8-27B-DFlash2 转换而来,采用 apache-2.0 许可,支持 image-text-to-text 任务,可通过 llama.app 的 llama serve 命令直
IsValorum 在 Hugging Face 发布 Occamy-1.0-APEX-I-MiniPlus-V2-GGUF 量化模型,基于 Accio-Lab/occamy-1.0,采用逐张量定制量化方案,保留 F32 路由门、Q6 K 输出头和 Q8 0 注意力门。该版本面向系统内存(DDR4/DDR5)推理优化,支持最高 256K 上下文,并附带 Q8
llama.cpp 发布 b11205 版本,主要变更是 CUDA 后端支持 Nemotron 3 的 Puzzle state size 96,用于 SSM scan。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
llama.cpp 发布 b11203 版本,主要变更为 CUDA 后端的 FWHT(快速沃尔什-哈达玛变换)内核新增 F16 输入支持。该改动将源数据类型改为模板参数,使内核可直接读取 F16 源而无需先转换为 F32 副本,原有 F32 路径保持不变。同时引入共享谓词 ggml cuda op mul mat use fwht,统一 supports o
llama.cpp 发布 b11202 版本,主要修复了 Windows 平台上 server 的 wake fd 警告问题,由 Adrien Gallouët 提交。该版本同时提供 macOS、Linux、Windows、Android 等多平台及多种后端(CUDA、Vulkan、ROCm、SYCL、OpenVINO 等)的预编译二进制包。
Hugging Face 上发布了 audio-cpp/Yue2-3B-GGUF 仓库,提供适配 audio.cpp 推理框架的 Yue2-3B 音乐生成模型 GGUF 权重,包含 BF16、Q8 0、Q4 0 三种量化版本及配套 VAE 权重。该仓库在 0.8.1 版本中加入 LoRA 支持,并附带多种条件生成(直接生成、完整规划、旋律条件、乐谱条件)的示
Hugging Face 用户 Alissonerdx 发布了名为 BFS(Best Face Swap)的 LoRA 模型集合,用于在 Qwen Image 2.1、Qwen Image Edit 2509/2511、Flux 2 Klein、Krea 2 及实验性 LTX-2 等基础模型上实现换脸、换头和换身体。该仓库提供多个版本的权重文件与配套 Com
llama.cpp 发布 b11201 版本,主要变更是回滚了此前合并的 PR #28849(统一 KV 缓存下自动适配最大上下文长度的改动),恢复原提交 b04d4e5 之前的行为。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVIN
Hugging Face 上出现一个名为 ComfyPod-Models 的镜像仓库,由 AiAngelGallery 发布,用于托管免费 AI Angel ComfyPod RunPod 模板所下载的模型文件,按 ComfyUI 的 models/ 目录结构组织。仓库声明所有文件与上游源逐字节一致(SHA-256 校验),目的是防止上游仓库移动或删除文件导
Robinson Labs 在内部审查后撤下了其发布的模型 RobinsonLabs/Qwen3.5-122B-A10B-abliterated-GGUF,并已从仓库中移除权重。该机构表示不建议继续依赖此前已下载的副本。
索辰科技与战略投资企业美梦空间在第五届全球数字贸易博览会上联合发布Physical-WAM物理-世界动作模型和RoboTwin-Phys物理漂移评测基准。Physical-WAM通过PhysLens、PhysDream、PhysAct三个模块插入物理Token表征,让机器人具备摩擦、重量、重心等物理感知与预判能力;RoboTwin-Phys新增13类物理扰动
llama.cpp 发布 b11199 版本,主要修复了 jinja 模板相关的编译错误(PR #29468)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,支持 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。