法国初创Kog通过软件优化提升GPU推理速度
法国初创公司Kog致力于通过软件优化在现有数据中心GPU上实现更快的AI推理速度，其技术预览在Hacker News上引起关注，并获得了200个商业线索。Kog计划在9月前将首个大型模型推理速度提升10倍，以吸引投资并推动业务发展。
NVIDIA 英伟达
公司与模型 · 英伟达的 AI 芯片与生态动态：GPU 新品、CUDA 生态、机器人平台与 AI 算力供给
关联由结构化实体与正文位置共同判定 · 最近刷新 2026-11-11 12:39
顺带提及正文出现过，但不是文章的主要讨论对象，当前共 681 条。
8月14日周五 · 2 条
正文顺带提及命中实体：cuda
正文顺带提及命中实体：cuda
算力需求两年涨10倍，机器人研发转向云端工作站
逐际动力与阿里云无影灵构合作，将机器人研发环境迁移至云端，以应对算力需求两年增长5-10倍的挑战。无影灵构通过云上工作站提供标准化环境、弹性算力和低延迟3D交互，显著降低研发成本并提升效率。该合作旨在将具身智能研发基础设施标准化，使机器人公司聚焦于模型与算法创新。
8月13日周四 · 3 条
正文顺带提及命中实体：nvidia
Acrab获4.8亿美元融资，端侧AI芯片GΞLIX 1量产在即
新加坡AI芯片公司Acrab完成1.3亿美元B轮融资，累计融资超4.8亿美元，用于扩大产能和研发下一代平台。该公司成立不到三年，首颗端侧AI芯片GΞLIX 1已进入量产准备，并推出个人AI中心Agent Box，瞄准端侧Agent计算需求。Acrab强调CPU与NPU协同、统一内存和Prefill性能，其自测显示在特定条件下Prefill速度达1416 To
正文顺带提及命中实体：nvidia
Hugging Face 发布 Luth-2 法语小模型，采用 MOPD 技术刷新多项基准
Hugging Face 发布了 Luth-2-0.8B 和 Luth-2-2B 两个法语小语言模型，基于 Qwen3.5 后训练，采用多域策略蒸馏（MOPD）技术，在数学、代码、指令跟随、通用知识和工具调用等基准上刷新了同尺寸模型的最优成绩，性能可与两到三倍大小的模型竞争。模型、数据、代码和评估方法均已开源。
正文顺带提及命中实体：nvidia
AI乳腺癌检测工具未达放射科医生预期
一项针对215名乳腺影像学会成员的调查显示，约半数已使用FDA批准的AI工具，但AI在降低召回率、减少不必要活检和减轻倦怠方面的实际效果远低于放射科医生的预期。多数医生仅将AI视为第二意见，成本和缺乏机构支持是主要障碍。AI行业早前关于放射科医生失业的预测被指过于夸大。
8月12日周三 · 2 条
正文顺带提及命中实体：nvidia
Mistral 推出欧盟数据处理和优先访问服务，但存在重要限制
Mistral 推出欧盟区域数据处理选项和优先队列访问服务，均需额外付费。区域推理仅覆盖部分功能，且账户设置等数据仍可能在区域外处理。优先层级提供 99.5% 可用性 SLA，但价格上浮 75%。此外，Mistral 平台开始托管第三方模型，如 Z.ai 的 GLM-5.2，并寻求长期算力承诺以支持欧洲数据中心建设。
正文顺带提及命中实体：nvidia
研究揭示可窃取并移植加密推理痕迹，引发隐私担忧
一篇研究论文展示了如何通过重放加密的推理块，从Claude、GPT和Gemini等前沿模型中提取隐藏的推理痕迹，并成功移植到其他模型或会话中，从而显著提升开源模型性能。初步扫描约7000个公共痕迹发现62个API密钥、33个邮箱和33个密码等敏感数据泄露。该漏洞已负责任披露，部分已修复，但类似攻击仍可能发生。
8月10日周一 · 1 条
正文顺带提及命中实体：nvidia
Hugging Face 提出高效知识蒸馏方法，显存占用大幅降低
Hugging Face 团队发表论文，提出两种系统优化方法：离线缓存教师模型的 Top-K logits，以及融合分块 KL 损失，以大幅降低大语言模型知识蒸馏的显存占用和训练成本。该方法使长上下文蒸馏可在单 GPU 上运行，并支持大规模实验。
8月8日周六 · 1 条
正文顺带提及命中实体：cuda
SGLang v0.5.17 发布：支持 Kimi K3 与 MiniMax-H3，多项性能优化
SGLang 发布 v0.5.17 版本，包含 582 个 PR，来自 194 位贡献者。主要亮点包括对 Kimi K3 和 MiniMax-H3 的 day-0 支持，以及新的 DCP 通信后端、DWDP 预填充策略、会话感知的 Radix Cache 等性能优化。此外，还新增了多个模型支持，并提升了引擎恢复速度和降低了主机开销。
8月7日周五 · 1 条
正文顺带提及命中实体：nvidia
AI漏洞报告泛滥，苹果赏金计划设冷静期并加速修复
苹果因AI生成的漏洞报告泛滥，对bug赏金计划设置提交上限和30天冷静期。AI工具降低了漏洞发现门槛，导致大量虚假报告，审核团队不堪重负。同时，苹果在macOS安全更新中首次致谢AI工具，并加速发布节奏以应对漏洞披露周期的变化。
8月6日周四 · 1 条
正文顺带提及命中实体：cuda
llama.cpp b10293 发布：新增 AMD ROCm CI 支持并修复 RDNA3.5 推理问题
llama.cpp 发布 b10293 版本，主要更新包括为 AMD ROCm CI 添加 gfx1151 支持，并修复了集成 GPU 上的调试断言问题。针对 RDNA3.5 架构的 HIP 后端，通过启用 HIP LAUNCH BLOCKING 解决异步执行导致的推理错误，并暂时跳过 jamba 和 top-k 等不支持的测试。该版本提供了多平台预编译二进
8月5日周三 · 2 条
正文顺带提及命中实体：nvidia
Anthropic 与 AI 云初创 Volta 签署 100 亿美元协议
Anthropic 与 AI 云初创公司 Volta 签署了价值 100 亿美元的协议，Volta 将在六年内为 Anthropic 提供云计算服务。该数据中心位于挪威，由 Bitdeer 协助开发，容量为 133 兆瓦，将使用 Nvidia 的 Vera Rubin 系统。此举是 Anthropic 扩大计算能力、与竞争对手抗衡的一部分。
正文顺带提及命中实体：nvidia
谷歌联手博通摩根士丹利为Anthropic提供350亿美元TPU融资
谷歌与博通、摩根士丹利及多家投资机构合作，设立特殊目的载体（SPV）为AI初创公司Anthropic提供价值350亿美元的TPU芯片租赁融资，以避免硬件出现在各方资产负债表上。该结构涉及约100万颗TPU，博通提供300亿美元担保，并利用加密矿企的电力设施建设数据中心。若Anthropic违约，谷歌潜在负债达440亿美元，但仅账面记录8.15亿美元。
8月4日周二 · 3 条
正文顺带提及命中实体：nvidia
Mistral AI 发布开源多模态安全分类器 Shieldstral
Mistral AI 发布了 Shieldstral，一个 3B 参数的开源多模态安全分类器，通过将内容审核构建为策略自适应问答任务，在文本安全方面匹配甚至超越高达其 7 倍规模的模型，并在多模态审核上达到新高度。该模型支持在推理时以自然语言提供政策，无需重新训练即可统一处理文本和图像，并输出校准的安全分数。Shieldstral 以 Apache 2.0
正文顺带提及命中实体：nvidia
推理工程大师课：Baseten解析AI推理优化前沿
Baseten在完成130亿美元融资后成为AI基础设施领域的独角兽，其团队成员Philip Kiely和Ali Taha在播客中深入探讨了推理工程这一新兴学科。他们讨论了缓存感知路由、预填充与解码分离、量化、投机解码等技术，以及如何通过优化将模型推理速度提升10倍。对话还涉及NVIDIA Dynamo、GPU并行、视频生成的计算瓶颈，以及训练与推理的融合趋势
正文顺带提及命中实体：nvidia
Minions：端侧小模型与云端大模型协作降低 LLM 成本
Together AI 的研究团队提出了一种名为 Minions 的方法，通过让小型端侧模型与云端前沿模型协作，将大量 LLM 工作负载转移到消费设备上，仅本地读取长上下文，从而降低云成本且几乎不损失质量。实验表明，Minions 在保持 97.9% 准确率的同时，成本仅为云端方案的 17.5%。该方法通过分解-执行-聚合循环，解决了小模型长上下文和多步指令
8月3日周一 · 3 条
正文顺带提及命中实体：nvidia
Together AI 强调推理效率是 AI 生产系统的关键
Together AI 在 NVIDIA GTC 2026 上强调推理效率对 AI 生产系统的重要性，指出推理成本占系统总成本的 80-90%。该公司通过 FlashAttention、ThunderKittens 和 Aurora 等开源技术优化推理性能，并利用 Blackwell 硬件实现全栈优化，帮助客户降低单位经济成本。文章还引用斯坦福 AI 指数，
正文顺带提及命中实体：cuda
ParallelKernelBench：前沿 LLM 尚无法编写快速多 GPU 内核
Together AI 发布了 ParallelKernelBench（PKB），一个用于评估多 GPU 内核生成的基准测试框架，包含 87 个来自真实代码库的问题，要求模型将 PyTorch + NCCL 实现替换为直接通过 NVLink 通信的 CUDA 内核。测试前沿模型如 GPT-5.5、Gemini 3 Pro 和 Opus 4.7 后发现，正确率
正文顺带提及命中实体：nvidia
Together AI 在 ICML 2026 展示全栈前沿研究
Together AI 在 ICML 2026 上发表了九篇论文，覆盖从智能体到 GPU 内核的全栈研究。其中，Aurora 论文提出的自适应投机解码已作为 ATLAS 投机器在生产环境中部署。研究还包括 DSGym 数据科学智能体评估框架、ThunderAgent 智能体工作负载优化、TTT-Discover 开放模型科学发现，以及 RARO 无验证器强化
8月2日周日 · 1 条
正文顺带提及命中实体：nemotron
开放模型新动态：Inkling、Hy3、Kimi K3 等展示帕累托前沿价值
Interconnects AI 发布第23期开放模型盘点，指出开放模型生态持续繁荣，而非此前预测的行业整合。文章重点介绍了 Thinking Machines 的 Inkling、腾讯的 Hy3、Poolside 的 Laguna S2.1、DeepSeek-V4-Flash 和 Moonshot 的 Kimi K3 等模型，并讨论了开放模型的商业价值、许