Nick Cammarata 推翻十年旧论:神经网络并非黑箱
OpenAI 早期机制可解释性研究者 Nick Cammarata 发表长文《Neural Networks Are Already Clean》,推翻自己十年前在《Zoom In》中提出的经典结论,认为 InceptionV1 中编号 4e:55 的神经元并非识别猫脸或车头,而是检测 V 字几何形状。他称借助更先进的算法与 Agent 工具,现代视觉模型最
技术方向 · 通用文本大模型的发布、能力更新与技术路线 · 共 527 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
OpenAI 早期机制可解释性研究者 Nick Cammarata 发表长文《Neural Networks Are Already Clean》,推翻自己十年前在《Zoom In》中提出的经典结论,认为 InceptionV1 中编号 4e:55 的神经元并非识别猫脸或车头,而是检测 V 字几何形状。他称借助更先进的算法与 Agent 工具,现代视觉模型最
研究者提出 HPCAgent-Bench,一个用于评估代码优化智能体、工具链与技能的开源基准框架,包含 689 个内核,覆盖循环级优化、HPC 代码和机器学习模型三个赛道。框架用 NumPy 统一指定内核并派生 C/Fortran 参考实现,通过外部裁判在隐藏模糊输入上校验正确性并计时,防止智能体作弊。作者还提出干预效能和加权 token 成本两项指标,用于
台湾的研究者开发了一个基于 Line Messaging API 的实时聊天机器人,利用大语言模型和社科领域的七阶段理论来检测恋爱诈骗。当检测到诈骗时,聊天机器人会通过大语言模型提供阶段解释和预防建议。该工作提供了一个实际应用,可用于真实场景以降低恋爱诈骗风险。
该论文提出了一种名为 MPI Mutated Dataset (MMD) 的新数据集,通过从数千个开源 GitHub 项目中提取 MPI 程序并注入合成代码突变来模拟开发者错误。研究者利用该数据集训练了基于 AST-T5 嵌入的紧凑多层感知机(MLP)模型,在检测多种 MPI 错误(如 CallOrdering、InvalidParameter)上达到了最高
The Verge 报道称,安全研究者 Sammy Azdoufal 发现儿童机器人玩具 Eiliko 的制造商 Energize Lab 存在严重安全漏洞:用户与玩具的对话被明文存储在中国服务器上,涉及全球约 6.8 万台设备、1300 万条对话,其中超过 3.1 万个档案属于儿童。数据库还包含用户画像、未加密的儿童照片和音频,管理员密码极为薄弱。Azdo
该论文对Android已弃用API及其推荐替代API进行了系统性研究,分析了1000个弃用API和从GitHub收集的4336个迁移示例,归纳出六类迁移场景和可复用的使用更新模式。研究者将这些模式加入GUPPY基准的零样本提示中,在156个任务上使正确更新数从139提升至147,并在六类中的五类表现更好,表明经验推导的迁移模式能为基于LLM的API更新提供有
研究者提出 DivAlgo 基准,用于系统评估代码生成模型的算法多样性,包含算法上不同的编程题解数据集和轻量级相似度指标。对 24 个现代代码生成模型的实验显示,模型生成的代码多样性仅为人类解法的 31%,即使采用温度变化、verbalized sampling 等多样性策略也只能达到 70.5%。研究还发现模型倾向于对齐更流行的人类解法,且无法复现人类解法
该论文提出 BenchChecker 框架,用于检测 LLM 修复 bug 基准测试中的数据污染问题。它采用两阶段取证检测:先通过代码前缀探测判断仓库是否出现在训练集中,再通过相似度对齐与测试套件验证补丁是否在训练截止快照中持续存在。在 StarCoder-15B、StarCoder2-15B 和 CodeGen2-16B 上评估,AUC 约 0.9;应用于
一项预注册复现实验测试了品牌在 Gemini 回答中被提及的预测持久性。研究向 gemini-3.1-pro-preview 发送相同的 162 个请求(54 个问题,覆盖英语、爱沙尼亚语和芬兰语),在 2026 年 9 月 22-23 日约十小时内分三波收集,并在 20.3 天后的 10 月 13 日再次收集。基于前九次回答的预测在 Brier 分数 0.
该论文提出一种逆推理模型(inverse reasoning LLM),将思维链(CoT)视为隐变量,在仅有答案的问答数据上训练一个以答案和问题为条件生成推理轨迹的辅助模型,从而实现高效的离线自蒸馏后训练。在 Qwen3-0.6B 上针对 Countdown 和 GSM8K 任务,GRPO 训练饱和后经一轮离线蒸馏,困难提示的 pass@1 约翻倍,并在 C
Mistral AI 发布首个时间序列基础模型系列 Timestral,最大模型仅 209M 参数,却在 GIFT-Eval、TIME 和 fev-bench 三个主要公开基准上排名第一,超越参数量更大的模型。该系列包含 5M、28M、123M、209M 四个尺寸,支持概率化多变量预测及过去/未来协变量,无需 GPU 即可在 CPU 上高效推理。模型结合合成
Google Research 发布技术报告,展示其地理空间推理智能体(Geospatial Reasoning agent)如何结合领域基础模型、空间工具与前置规划,完成独立 LLM 无法胜任的复杂空间分析和行星级预测。该智能体已通过 Ask Google Earth 和 Agent-to-Agent(A2A)服务扩大实验性访问。报告还发布两个新基准 Ge
该论文提出 LACRM 框架,利用大语言模型挖掘电商广告中广告主之间的有向竞争关系,构建带连续边强度的有向竞争图。方法包含 LLM 驱动的角色分离画像、非对称多路径检索以及对齐时序竞价行为的 listwise 排序学习。在工业基准离线检索实验中优于有向 GNN 基线,生产 A/B 测试中引导出价与激励分配分别提升广告收入 1.73% 和 1.14%。
该论文介绍了 Fin Agent 系统参加 FinEval 2026 多语言金融语言理解共享任务,涵盖希腊语金融命名实体识别、日语隐含沟通识别和多语言金融问答三个子任务。系统分别采用规则与零样本 Qwen2.5-32B 分类结合、可解释线索序数评分器、以及 BGE-M3 检索加 Qwen3-32B 生成的方法,并报告了各子任务的 F1 或准确率。作者指出方法
研究者将 CIMemories 扩展为 CIMemories Dialogue,一个包含 4,410 个双智能体对话实例、基于语境完整性理论的隐私泄露基准。他们系统评估了 Qwen3 和 Llama 3.1 系列的 7 个开源模型,在 1 轮和 6 轮对话及三种提示条件下测试。结果显示任务能力与隐私泄露根本耦合:能力越强的模型泄露越多,思考型模型比非思考型泄
论文提出 Gungnir,一种利用编码智能体(coding agents)演化 DBMS 测试生成器的方法。其核心是「生成见证」(generation witness)机制:智能体在修改生成器时需提供见证,记录生成目标 SQL 语句所需的数据库设置与语义选择,验证器通过重放这些选择来确认修改后的生成器能复现目标语句,从而在存在幻觉风险下保证新增 SQL 特性
该论文提出 DoSA(Dots Sparse Attention),一种无损稀疏注意力方法,通过分数上下界证书提前拒绝候选 token,仅对仍符合条件的候选进行完整打分,从而保持精确的 Top-K 选择。其 GPU 实现使完整 Indexer 相比 SGLang 提速最高 2.74 倍、相比 LiteTopK 提速 1.69 倍。在 GLM-5.2 和 De
另有 1 家信源报道
llama.cpp 发布 b11607 版本,主要变更是将聊天(chat)模块的输出字符串替换为 parts 结构(PR #30389)。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制,覆盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
旧金山初创公司 Industrial Next 在 TechCrunch Disrupt 2026 的 Startup Battlefield 上展示其 AI 驱动的自包含机器人工作站,利用专有基础模型连接视觉、任务上下文与运动,使产线换型从数周缩短到数分钟。公司宣布与宝马集团技术办公室合作评估其 AI 灵巧操作技术,并透露其工作站已用于某款全球热门智能手机
Meta 将 Instagram 的“Your Algorithm”功能引入 Facebook,允许用户直接添加和管理想在信息流及 Reels 中看到的话题,并通过“感兴趣/不感兴趣”按钮或自然语言描述实时调整推荐。Meta 表示其推荐系统正更多地使用 LLM,以理解用户兴趣、上下文和意图,实现可对话的算法。
另有 1 家信源报道