ISTA-DASLab 发布 Qwen3.8-Flash-Next 非均匀 GGUF 量化版
ISTA-DASLab 发布了 Qwen3.8-Flash-Next 的 GGUF 量化版本,采用 GSQ 与 RCO 两种方法实现非均匀量化,为每个张量分配不同量化类型。该模型为 512 专家的稀疏 MoE 架构,提供四种尺寸(2.40 至 3.50 bpw),并附带视觉投影器支持多模态。量化文件可在 llama.cpp、Ollama 和 LM Studi
技术方向 · 把模型跑起来的工程实践:推理优化、量化与成本、Serving 架构与可观测性 · 共 3314 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
ISTA-DASLab 发布了 Qwen3.8-Flash-Next 的 GGUF 量化版本,采用 GSQ 与 RCO 两种方法实现非均匀量化,为每个张量分配不同量化类型。该模型为 512 专家的稀疏 MoE 架构,提供四种尺寸(2.40 至 3.50 bpw),并附带视觉投影器支持多模态。量化文件可在 llama.cpp、Ollama 和 LM Studi
腾讯旗下操作系统层级个人 AI 管家 Marvis 在上线四个月后宣布完成定位升级,从单一 App 转向「AI 服务直达」,强调 Agent 负责执行、管家负责长期管理用户数字资产的分工。Marvis 推出电脑、文件、软件、浏览器等「管家团队」,其中电脑管家与腾讯内部 IT 团队「8000」共建覆盖 4 大类 27 个场景的 Skill 清单,并计划通过端侧
llama.cpp 发布 b11247 版本,主要变更是 Vulkan 后端在绑定保持不变时复用 descriptor sets,并在销毁 buffer 前递增 buffer destroy count。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CPU、CUDA、Vulkan、ROCm、SY
llama.cpp 发布 b11245 版本,主要变更是 common 模块改用 fs::path 处理缓存目录,避免 Windows 上无用的字符串转换,并移除 BSD 与 emscripten 的特殊处理。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、O
该论文提出一种用于加速3D MRI重建的MeanFlow方法,将数据一致性权重、加速倍数和笛卡尔采样模式整体视为可学习操作点,通过超网络映射到网络的逐通道调制,并端到端经过五步可微共轭梯度投影微调。研究发现学习采集模式带来的增益远大于其他操作点,且单步评估即可超越20步patch-diffusion先验,同时完全采样档案并非必需。
llama.cpp 发布 b11243 版本,主要更新 CI 与构建流程以适配 Intel oneAPI 2026.1 工具包。由于 oneDNN 在 2026.0 起从 Intel Deep Learning Essentials 中移除,项目将 Ubuntu 和 Windows CI 切换到统一的 oneAPI Toolkit 安装器以保留 oneDNN
AMD 以 82 亿美元收购 World Labs,后者由李飞飞创立,专注空间智能。World Labs 近期发布 Atlas 全能模型架构,通过结合生成模型与多视图几何,解决了计算机视觉中长期存在的稀疏重建问题,可预测新相机视角,在机器人仿真、设计、工程等领域有广泛应用。同期 Anthropic 发布 Claude Sonnet 5.5,性能接近 Opus
CrashOverrideX 在 Hugging Face 发布 Quillan-Ronin v5.4.0-oni 模型,这是一个基于 Qwen3.5-0.8B、BitNet-b1.58-2B-4T 和 Llama-3.2-1B-Instruct 合并的多模态 H-NMoE 模型,采用 1.58-bit 三值量化与 34 专家 MoE 架构,面向消费级硬件。
MLX 发布 v0.32.3 版本,包含大量 bug 修复与性能优化。主要涉及 Metal 和 CUDA 后端的注意力核函数改进(如 GQA、NAX 注意力、D512 向量注意力)、量化矩阵乘法(qmm)修复、流与并发处理、内存与 I/O 优化,以及 Python API 行为调整(如 unstack 返回 tuple、axis 参数可选)。这些改动提升了框
llama.cpp 发布 b11242 版本,主要修复了 mtmd 模块在 GCC 15 下 decode embd batch 函数出现的 stringop-overflow 编译警告/错误(#29607)。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,支持 CUDA、V
Hugging Face 上发布了开源非自回归决策模型 Von 1.3,基于 ModernBERT-large 骨干(395M 参数),通过单次双向前向传播对候选选项打分,无需生成 token 或思维链。1.3 版本在推理引擎中加入 chain-of-options 控制器,可在日期、金额等结构化状态上执行确定性运算,JevBench 困难档准确率从 37.
RealRebelAI 在 Hugging Face 发布了 Krea-2 基础模型的 GGUF 量化权重,面向低显存和消费级硬件的 ComfyUI 本地工作流。由于标准 GGUF 节点无法识别 krea2 架构标签,作者同时提供了修改版自定义节点 ComfyUI-GGUF KREA-2,并说明需搭配 Qwen3-VL-4B 文本编码器与 qwen imag
xAI 的 Grok 4.7 现已在 Amazon Bedrock 上线,该模型面向编程、长时运行智能体和知识工作,支持 500K token 上下文窗口和四档可配置推理强度。据 xAI 称,其采用更大基座模型和更长强化学习训练,自我验证能力增强,Artificial Analysis 独立评测显示智能指数从 44 升至 46、编程智能体指数从 47 升至
Anthropic 发布 Claude Sonnet 5.5,官方称其运行速度提升 30% 以上、多数任务成本降低最多 30%,定价与 Sonnet 5 相同但在各项基准上均优于前代。该模型现已成为 claude.ai 免费层所用模型,作者认为其能力明显强于使用 Luna 5.6 的 ChatGPT 免费层。作者还测试了其生成 WebGL 3D 鹈鹕骑自行车
另有 1 家信源报道
据知情人士透露,AI 推理基础设施提供商 Modal Labs 即将完成由 Accel 领投的 7.5 亿美元融资,估值达 157.5 亿美元,较四个月前 46.5 亿美元的估值增长两倍多。这轮融资发生在推理服务需求激增、多家推理初创公司(如 Baseten、Fireworks、Fal)也在以更高估值寻求新资金的背景下,但这些公司普遍利润率偏低。Modal
llama.cpp 发布 b11238 版本,主要改动是让 Parakeet、LFM2-Audio、Granite Speech 和 Gemma 4 音频编码器改用 ggml pad ext 在左侧填充,替代此前先右填充再 roll 的做法;DFlash2 也借此将零填充块与前序 token 合并为单个节点。改动后 Gemma 4 音频嵌入保持逐位一致,同时
llama.cpp 发布 b11237 版本,主要变更是 ggml-openvino 后端将未对齐的 batch-stride 视图标记为不支持(PR #29603)。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,支持 CUDA、Vulkan、ROCm、SYCL、OpenV
AMD 宣布以 82 亿美元收购李飞飞创办的 World Labs,后者专注开发理解物理现实的深度学习模型。World Labs 创始人李飞飞将加入 AMD 担任执行副总裁兼首席科学家。此举被视为 AMD 在 AI 专用芯片生态上对抗英伟达的重要布局,交易预计年底前完成,尚待监管批准。
AWS 宣布 Claude Sonnet 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上正式可用。该模型定位为更智能高效的 Sonnet 版本,适合聚焦编码与知识工作,在多数任务上成本更低、速度更快,并支持区域数据驻留及 IAM、CloudTrail、CloudWatch、Bedrock Guardrails
llama.cpp 发布 b11236 版本,主要变更是将 speculative、mtmd 和 server 迁移到 batch ext(#29385),并适配 common 模块、新增 common batch、处理 imrope 及 add()/add embd() 返回值、增加零填充警告。该版本同时提供覆盖 macOS/iOS、Linux、Andro