llama.cpp b11463:SYCL 加速 GLM MLA prefill
llama.cpp 发布 b11463 版本,主要针对 SYCL 后端优化 GLM MLA 的 prefill 性能。改动允许 GLM-4.7 Flash 的 576/576/512、GQA-20、F16 KV 形状进入 MKL flash-attention 流水线,避免回退到较慢的 TILE 内核。在 Intel Arc Pro B70 上,pp8192
技术方向 · 通用文本大模型的发布、能力更新与技术路线 · 共 527 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
llama.cpp 发布 b11463 版本,主要针对 SYCL 后端优化 GLM MLA 的 prefill 性能。改动允许 GLM-4.7 Flash 的 576/576/512、GQA-20、F16 KV 形状进入 MKL flash-attention 流水线,避免回退到较慢的 TILE 内核。在 Intel Arc Pro B70 上,pp8192
量子位文章吐槽当前AI模型(如Claude、GPT、DeepSeek等)在编程场景下输出大量黑话和压缩表达,导致用户难以理解。文章分析认为Coding过拟合和CoT压缩(为省Token采用穴居人式表达)是主因,并指出中文/文言文因天然压缩特性被视为AI母语,还提及2019年文言文编程语言wenyan-lang。最后称Gemini因语言风格和排版设计成为少数仍
研究者提出 SWORD 框架,用于用户行为模拟,可联合优化多智能体工作流拓扑与自然语言提示,仅依赖标量任务指标(MAE/RMSE)驱动,无需领域专家初始化或任务特定工程。实验显示其在受控同骨干对比下显著优于仅提示优化、仅工作流优化和分阶段优化基线,并在使用更小骨干模型、更少训练数据和每数据集 4-6 美元 API 成本的情况下,超过最强的已发表领域专用基线。
该论文针对印度法律判决中的先例检索(IL-PCR)任务,实证评估了三种连续设计的检索系统。研究发现,结合修辞角色(事实、判决理由、先例、论点、法规)优于单独使用角色或全文检索,法规相似度不具区分性,而由LLM生成训练数据的法律蕴含重排序器在官方评估中远差于内部验证分数。作者提出采用查询不相交切分和冻结验证融合的新设计,最终四阶段流水线取得Micro F1 0
Google 在 arXiv 发布论文,介绍其部署于内部开发工具 Critique 和 Cider 的 AI 智能体 AutoRepair,用于在持续集成系统的 pre-submit 阶段自动修复测试失败。AutoRepair 采用 ReAct 风格的生成-验证循环,并加入执行前后弃权过滤器,以满足严格的低延迟要求。论文称这是首个面向 pre-submit
该论文提出 S1-MAS 框架,将多智能体系统中的协调决策与推理任务解耦:由轻量级 System One 控制器(Laya)负责任务选择、角色分配和终止判断,轻量级读取器(Qwen3-0.6B)检索证据,而强 LLM 仅负责开放式推理。在七个基准上对比 AgentVerse、DyLAN 和 SelfOrg,S1-MAS 将 GPT-4o token 消耗降低
清华大学AIR研究院与南京大学的研究者提出条件锚定生成蒸馏(CAGD)方法,用于缓解语言模型持续学习中的灾难性遗忘。该方法保留少量旧提示作为锚点,用冻结的上一代模型重建补全和生成状态,并让学生模型在学习新任务时匹配教师的软预测分布。在219M掩码扩散语言模型的四任务持续适应中,CAGD将最终留出损失从2.927降至1.114(正序)和从2.168降至0.89
该论文发布了 SEMAADB,一个包含 3000 个工程上下文和 15000 张 SysML 图的数据集与基准,每个上下文含需求、块定义、活动、状态机、序列五个相互关联的视图。作者对图集进行了一致性与渲染校验,并人工验证 100 个上下文作为测试集。评估三个语言模型在图表修复和跨图更新任务上的表现,结果显示语法修复已接近解决,但语义修复和跨图一致性仍是难题。
Hugging Face 上发布了 litert-community/Ministral-3-3B-Instruct-2512 的 LiteRT-LM 量化版本,将 Mistral 的 Ministral-3-3B-Instruct 模型转换为 Google LiteRT 端侧运行时格式(blockwise int4 量化,约 2.3GB),并移除了 Pix
Simon Willison 发布 llm-mistral 0.16 版本。该插件用于在 LLM 命令行工具中调用 Mistral 模型。正文仅包含发布日期和近期文章列表,未提供更多细节。
Musubi 发布了一款名为 PolicyLM-1.7B 的轻量级决策模型,专为实时内容审核设计,并开放权重。该模型可将用自然语言写成的政策在 50 毫秒内应用于消息,且政策变更时无需重新训练。此举正值决策模型成为行业热点,Musubi 希望借此推动内容审核领域对决策模型的关注。
旧金山初创公司 Mirror Particle 正在构建一个从零开始训练的“世界模型”,用于模拟人类行为及其随时间变化的动机,而非依赖 LLM 角色扮演来预测消费者行为。其 CEO Abhivyakti Ahuja 认为 LLM 只建模书面语言,无法捕捉视觉感知、空间推理与社会智能,因此该公司结合客户数据、时事、流行文化与社交媒体等专有数据,聚焦“真实行为”
Google Research 发布 Google Earth AI 的 Population Dynamics Foundation Model(PDFM),将隐私保护的搜索趋势、人口流动、建成环境密度和环境决定因素压缩为按月的区位嵌入,无需任务微调即可接入现有流行病学模型。研究团队与西奈山、波士顿儿童医院、NYU、牛津大学等合作,在五个公共卫生场景中验证
llama.cpp 发布 b11443 版本,主要将 nextn 行裁剪逻辑整合为共享辅助函数,用 crop before nextn() 和 crop after nextn() 替代各模型重复的裁剪条件与标志位。同时让 mimo2、qwen4exp、deepseek4 等模型无条件设置 t h nextn,主机端读取仍由 cparams.embeddin
该论文提出 ALoDLM,一种自适应循环扩散语言模型,用 token 级自适应潜在循环替代均匀计算深度,根据 token 难度分配计算量。作者将 token 级计算调度建模为隐变量并推导条件 NELBO,联合学习 token 预测与计算分配。在 1.7B 和 8B 参数规模、十一个基准上,ALoDLM 平均得分超过所有评估的扩散模型及对应自回归基线,同时保持
该研究针对移动应用评论的细粒度情感分类问题,基于Plutchik八类基本情感标注框架和1090条人工标注数据,系统比较了编码器微调(多标签与二元集成)与解码器零样本/少样本提示方法,并评估了损失重加权、重采样和生成式数据增强等类别不平衡缓解策略。结果显示,微调编码器在基线时大幅落后于最佳解码器少样本提示,但结合生成式增强和正例加权损失后可缩小差距,且推理延迟
该论文研究如何提升智能家居中LLM智能体的韧性,基于开源框架HomeAssistant,结合监督学习与优化提示,并测试ReAct和Reflexion等智能体范式。结果显示,在多设备控制任务上,这些范式相比微调LLM的投入回报有限,但在故障响应等韧性任务上展现出潜力。
该研究提出一个两阶段框架用于自动化ICD编码:第一阶段用多模态双编码器检索模型,通过门控融合整合结构化EHR数据与非结构化临床笔记,将患者就诊记录与ICD编码元数据对齐到共享嵌入空间,并用FAISS近似最近邻搜索输出top-k候选编码;第二阶段用基于LLM的重排序器对候选编码重新打分并给出临床相关解释。在MIMIC-III等基准数据集上,该方法相比多模态双融
该研究提出一种LLM增强的时空学习框架,用于网格级有桩共享单车需求预测。LLM将城市事件文本(市政活动、新闻、交通公告)解析为强度、空间影响半径和时间滞后三个物理参数,构建高斯衰减场并注入零膨胀自适应时空图卷积网络(ZI-ASTGCN)。在巴塞罗那Bicing数据集上,该方法优于现有神经基线,尤其在高需求时段提升明显。
该论文提出 LRPRec,一个面向 LLM 驱动序列推荐的可学习提示框架。针对现有方法对提示措辞高度敏感、缺乏个性化以及连续提示易发生语义漂移的问题,LRPRec 将指令提示参数化为由离散模板初始化的连续向量,并引入个性化提示注入机制与语义漂移约束。在三个基准数据集上,该方法在无需人工调优背景与任务推理模板的情况下,稳定优于强基线。