parakeet-tdt-1.1b 发布 GGUF 量化版,支持 transcribe.cpp
handy-computer 在 Hugging Face 上发布了 nvidia/parakeet-tdt-1.1b 的 GGUF 量化版本,用于 transcribe.cpp 推理框架。该模型为 1.1B 参数的 FastConformer-XL 编码器加 TDT/RNNT 解码器的离线英语语音识别模型,提供 F32 到 Q4 K M 六种量化档位,Li
公司与模型 · 英伟达的 AI 芯片与生态动态:GPU 新品、CUDA 生态、机器人平台与 AI 算力供给
关联由结构化实体与正文位置共同判定 · 最近刷新 2026-11-11 06:27
handy-computer 在 Hugging Face 上发布了 nvidia/parakeet-tdt-1.1b 的 GGUF 量化版本,用于 transcribe.cpp 推理框架。该模型为 1.1B 参数的 FastConformer-XL 编码器加 TDT/RNNT 解码器的离线英语语音识别模型,提供 F32 到 Q4 K M 六种量化档位,Li
handy-computer 在 Hugging Face 发布了 nvidia/parakeet-tdt-0.6b-v3 的 GGUF 量化版本,供 transcribe.cpp 使用。该模型为 6 亿参数的 FastConformer-TDT 多语言语音识别模型,支持 25 种欧洲语言,提供 F32 至 Q4 K M 多种量化档位,LibriSpeech
Hugging Face 用户 handy-computer 发布了 NVIDIA parakeet-tdt-0.6b-v2 的 GGUF 量化版本,供 transcribe.cpp 推理框架使用。该模型为 6 亿参数的英文离线语音识别模型,基于 FastConformer 编码器与 TDT/RNNT 解码器,提供 F32 至 Q4 K M 多种量化档位,L
Hugging Face 用户 handy-computer 发布了 NVIDIA parakeet-tdt ctc-1.1b 语音识别模型的 GGUF 量化版本,供 transcribe.cpp 推理框架使用。该模型为 1.1B 参数的 FastConformer-XL 编码器加 TDT/RNNT 解码器,支持带标点和大小写的离线英文转写,非流式、不支持翻
llama.cpp 发布 b11678 版本,主要变更是将 CUDA 固定主机内存(pinned host buffer)的最大大小限制为 4 GB(PR #30449)。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA 12/13、Vulkan、ROCm、SYCL、OpenVINO 等后端。
研究团队发布 Intern Lumina U2,一个基于多码本离散视觉 token 的扩散语言模型,在单一骨干网络中统一图像、视频、3D 的理解、生成与编辑。该模型为 16.9B MoE 架构,仅激活 1.4B 参数,是首个在全离散空间建模多码本视觉 token 的扩散语言模型。通过 Plateau-Halton 采样与 V-verify 策略,图像生成端到
Hugging Face 用户 handy-computer 发布了 nvidia/parakeet-unified-en-0.6b 的 GGUF 量化版本,供 transcribe.cpp 使用。该模型是 0.6B 参数的 FastConformer 编码器加 RNN-T 解码器的英语语音识别模型,支持离线与流式推理,并提供 F32 到 Q4 K M 多种
英伟达RTX Spark笔记本电脑将于10月15日晚8点全球首批开售,搭载N1X超级芯片,将Grace CPU与Blackwell RTX GPU集成,主打本地AI智能体运行。该设备提供笔记本和紧凑型桌面主机两种形态,支持本地模型推理、微调及多智能体任务,英伟达称其AI性能与DGX Spark相当,并强调本地运行可大幅降低Token成本。
雷峰网报道称,DeepSeek R1 发布后 AI Infra 人才薪资大幅上涨,优秀 Infra 工程师年包可达七八百万,跳槽涨幅常见 2 倍、个别达 3 倍。原因是行业从拼算法转向拼底层系统工程,Infra 通过提升 GPU 利用率(行业平均仅 25% 27%,优秀团队可达 40%)直接为公司节省数千万算力成本。但高溢价仅集中在推理优化、模型量化、算子开
llama.cpp 发布 b11632 版本,为 CUDA 和 HIP 后端新增 GDN(Gated Delta Net)分块内核,代码移植自 tetherto/qvac-fabric-llm.cpp 的 PR #257。该更新在经 RTX 3090 与 RTX 4090 验证后,为 Ampere(SM86)和 Ada(SM89)架构启用 GDN MMA,未
MLX 发布 v0.32.4 版本,这是一个以修复和优化为主的补丁更新。主要变更包括为缩放点积注意力(SDPA)和门控 delta 网络添加 VJP 支持、新增 Python 3.15 支持、修复大量 Metal/CUDA 后端与视图/步幅相关的 bug,并优化了量化矩阵乘法和 gather qmm 等内核性能。该版本提升了 MLX 在 Apple Sili
llama.cpp 发布 b11623 版本,主要变更是 CUDA 后端在 AMD GPU 上使用 SIMT 隐式 GEMM 实现 conv2d,不再依赖 WMMA,并在短归约场景下跳过该 SIMT 路径。该改动由社区贡献者提交,Claude Opus 提供辅助。版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包。
Ollama 发布 v0.40.5 版本,主要更新包括将 MLX 的 Metal 自定义内核移植到 CUDA、在 OpenAI 兼容的 Responses 历史中支持自定义工具调用、更新模型推荐与语言标准化文档、优化云支付错误提示,并升级 MLX 版本。该版本为常规迭代更新,提升了跨平台推理与 OpenAI 接口兼容性。
llama.cpp 发布 b11592 版本,主要改动在 CUDA 后端:新增 GGML CUDA GRAPH DEBUG 环境变量用于控制 CUDA graph 调试日志,并将环境变量读取改为通过静态访问器只读取一次,避免每次调用重复读取。同时移除了 CUDA graph 日志的 NDEBUG 门控。该版本照例提供 macOS、Linux、Windows、
位于密歇根州安娜堡的初创公司 Laplace Intelligence 正在为机器人和物理 AI 构建自动化红队测试,利用基于 Nvidia Cosmos 的高保真仿真环境和 AI 智能体自动设计极端场景,在部署前发现并修复问题。公司由 Howie Sun 和 Henry Liu 创立,已获得包括五十铃、Bot Auto 和 Nvidia 在内的客户,并实现
Liquid AI 在 Hugging Face 发布两款开源决策模型 d1-3B 和 d1-omni-600M,基于其 Liquid Foundation Models 构建,不生成 token 而是单次前向传播给出答案。d1-3B 在 Decision Index 0.2.1 上以 48.57 分成为 10B 以下最佳决策模型,支持文本和图像,在 NVI
英伟达宣布 DLSS 5 将于 11 月 5 日随《霍格沃茨之遗》正式上线,并将在下月底登陆《燕云十六声》。相比年初展示时明显改变人物面孔的效果,新截图显示面部变化已大幅收敛。英伟达还将在 10 月更新神经渲染系统,使 DLSS 5 在 RTX 50 系列 GPU 上速度翻倍,模型参数缩减 24% 至约 1.18 亿,4K 显存占用降低 20%。同时英伟达应
llama.cpp 发布 b11581 版本,主要变更是移除模型中冗余的 ggml cont 调用,因为所有一元算子内核现已支持该操作,涉及 CUDA 一元内核及 qwen3next 模型中的 sigmoid 前后处理调整。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制包。
llama.cpp 发布 b11576 版本,修复了 no-cache 注意力路径中 KV 维度未填充的问题。此前该路径构建 [n tokens, n tokens] 掩码并直接传入未填充的 K、V,导致 head size 512 的 CUDA 内核因不满足 FATTN KQ STRIDE 倍数要求而回退到 CPU,且 -fa auto 探测会禁用此类模型
微软发布第三代自研AI芯片Maia 300,定位为微软产品与服务的“主要AI推理系统”,计划2027年投入生产部署。该芯片采用chiplet架构与台积电N2P工艺,官方称每兆瓦token数比领先GPU系统高40%,96加速器配置下机架级吞吐量达Maia 200的7倍。微软云业务负责人Scott Guthrie表示将把Maia扩展至多吉瓦级部署,从而减少对Nv