返回主题地图

多模态

技术方向 · 文本之外的能力:视觉理解、图文混合、音视频输入输出的模型与产品 · 共 1342 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

11月3日周二 · 10 条
正文结构化主题已通过公开置信门槛
arXiv cs.LG一手来源研究

IsoAlign:基于联合嵌入预测架构的异构体感知DNA-蛋白质对齐

该论文提出 IsoAlign,一个多模态框架,通过将转录本与其对应的蛋白质异构体对齐,把基因组预训练建立在异构体感知的 DNA-蛋白质对齐之上。它使用两个联合嵌入预测架构(JEPA):DP-JEPA 通过对比对齐从 DNA 预测蛋白质表示,IM-JEPA 通过掩码蛋白质预测建模同一基因不同异构体之间的关系。在致病性、适应度、基因表达和转录因子结合等多项任务上

正文结构化主题已通过公开置信门槛
arXiv cs.CL一手来源研究

从割裂到融合:全模态嵌入综述与路线图

这篇 arXiv 综述论文指出,嵌入模型研究长期按模态(文本、图像、音频、图、表格、时间序列)各自为战,研究社区、综述文献和评测基准都相互割裂。作者认为,在对比学习、Transformer 架构和粒度转变的推动下,各模态嵌入研究正走向共同原则,并提出覆盖度、可比性、组合性三层递进能力框架,以及变换、对齐、联合嵌入三条统一路径。该文自称是首个跨模态统一梳理全模

正文结构化主题已通过公开置信门槛
TechCrunch AI产品发布

Google 将 AI 故事应用 Dreambeans 推向印度市场

Google 将其实验性 AI 应用 Dreambeans 推广至印度,这是该应用首次进入美国以外的市场,支持包括印地语、泰米尔语在内的 13 种当地语言。Dreambeans 利用用户的 Google 服务数据(如 Gmail、日历、照片等)主动生成个性化图文故事,并已加入 Veo 视频模型来动画化部分内容。该应用在美国上线后下载量约 5.5 万次,但 1

正文结构化主题已通过公开置信门槛
Meituan Technical Team一手来源模型发布

美团发布 LongCat-2.5 原生多模态智能体模型

美团正式发布面向长程智能体任务的原生多模态模型 LongCat-2.5,总参数 1.6 万亿、每 token 激活约 480 亿,在 LongCat-2.0 基础上强化原生视觉理解与智能体编程能力。模型通过长程轨迹数据与大规模长程强化学习提升复杂代码库开发、完整项目构建等端到端工程能力,并将视觉信号表示为多层级离散 token 以统一处理图文输入。配套基础设

另有 1 家信源报道

正文结构化主题已通过公开置信门槛
量子位产品发布

PixVerse 与 OpenAI 合作:插件接入 ChatGPT 与 Codex

爱诗科技旗下 PixVerse 与 OpenAI 宣布开启深度合作,完成 PixVerse 插件原生接入 ChatGPT 与 Codex、推出 PixVerse CLI 并支持 Canvas 工作台,同时首次共同推出“从提示词到成片”创作者教育计划。合作使视频生成能力被封装为 Agent 可直接调用的接口,创作者可在 Codex 内用自然语言完成从创意到成片

正文结构化主题已通过公开置信门槛
Simon Willison's Weblog开源

LLM 0.37 发布:新增模型与端点配置命令

Simon Willison 发布 LLM CLI 工具与 Python 库的 0.37 版本,累积约两个月的功能与修复。新增 gpt-6.1-sol 和 gpt-6.1-terra 模型支持,并加入 llm openai endpoint add 命令以便配置 OpenAI 兼容端点;默认模型切换为价格减半的 gpt-6-luna。嵌入功能现支持不同二进制

正文结构化主题已通过公开置信门槛
Google AI一手来源模型发布

Google 2026 年 10 月 AI 进展:Gemini 4 Argon 与 Carbon 等发布

Google 发布 2026 年 10 月 AI 进展汇总:推出前沿推理模型 Gemini 4 Argon 并全球上线,两周后宣布面向长周期工程与网络安全防御的 Gemini 4 Carbon 进入预发布测试;同时发布实时交互世界模拟 Genie 4、智能健身追踪器 Fitbit Edge、开源多模态嵌入模型 EmbeddingGemma 2,并扩大 Syn

正文结构化主题已通过公开置信门槛
智东西模型发布

美团发布1.6万亿参数LongCat-2.5原生多模态模型

美团LongCat团队发布原生多模态模型LongCat-2.5,总参数1.6万亿、每Token激活约480亿,重点强化原生视觉理解与智能体编程能力。该模型在AutomationBench、LongCatClawBench等基准上领先Claude-Opus-5、GPT-5.6-Sol,Terminal Bench v4.0得分38.5。模型将视觉信号转为多层级

另有 1 家信源报道

正文结构化主题已通过公开置信门槛
AWS Machine Learning Blog一手来源教程

用 Nova 多模态嵌入与 Bedrock AgentCore 构建多智能体工程助手

AWS 博客介绍如何用 Amazon Nova Multimodal Embeddings、Amazon Bedrock AgentCore 和开源 Strands Agents SDK 构建多智能体工程助手,用于航空航天零件替代评估。系统由规划器把查询路由给 Catalog、Evaluation、Knowledge 三个专家智能体,分别做多模态检索、确定性

正文结构化主题已通过公开置信门槛
NVIDIA Technical Blog一手来源产品发布

NVIDIA Cosmos 推出世界模型开发平台与仿真工具

NVIDIA 发布 Cosmos 平台,包含世界基础模型与开发工具,面向物理 AI 开发者。Cosmos Framework 提供用于世界模型训练、多模态数据处理、优化与推理的 agent skills 和 recipes,并扩展支持 Alpamayo、GR00T、Qwen、pi0.5 等 Hugging Face 模型;Cosmos NIM 微服务通过应用

11月2日周一 · 10 条
正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

Mistral 发布 1T 参数多模态 MoE 模型 Mistral Large 4

Mistral AI 发布 Mistral Large 4(代号 Le Chonk),这是一个总参数约 1 万亿、每 token 激活约 520 亿参数的原生多模态 MoE 模型,在 Mistral 位于欧洲的自有数据中心用 3800 块 NVIDIA Grace Blackwell GPU 从零训练。模型支持 100 万 token 上下文、160 多种语

正文结构化主题已通过公开置信门槛
量子位模型发布

商汤发布日日新SenseNova 6.8 Flash,主打委派智能与动态设计

商汤科技发布多模态智能体模型日日新SenseNova 6.8 Flash,主打“委派智能”,用户只需给出目标,AI自主完成全流程。该模型在TeamBench、DataAnalysis2.0等基准上取得第一,在长期记忆评测BEAM 128K上与GPT 6 Luna并列第一。实测中它可生成3D动态网页、动态海报、SVG动画和动态PPT,并在办公场景中基于长期记忆

正文结构化主题已通过公开置信门槛
MinerU Releases一手来源开源

MinerU 4.1.4 发布:VLM 识别行内公式并改进转义处理

MinerU 发布 4.1.4 版本,在 Standard/Advanced PDF 文本模式下改用 VLM 识别表格外的行内公式切片,保留混合文本与公式,单切片失败时局部回退 MFR。同时改进公式定界符与文本转义处理,避免普通美元符号被误判为公式。该版本还将 DocVortex 最低版本提升至 0.6.11,并在中英文 README 中补充解析档位指南入口

正文结构化主题已通过公开置信门槛
雷峰网 AI科技评论产品发布

智元发布Worken度量衡与GO-3等具身技术矩阵

智元创新日在上海举行,创始人稚晖君提出具身智能新度量衡Worken(有效智能工时),以活跃机器人数量×自主工作时长×产出效能比衡量机器人真实生产力,并展示龙旗产线、香格里拉酒店等实时工时看板。智元公布上半年出货9700台、全球份额超43%、收入近20亿元,并发布GO-3 Preview基座模型、AGILE运动引擎、WITA-Omni全模态交互模型、AHA3硬

正文结构化主题已通过公开置信门槛
MIT Technology Review AI观点

智能体网络已然到来

MIT Technology Review 回顾了 Tim Berners-Lee 在 2001 年提出的语义网愿景,指出基于大语言模型的智能体正让这一构想以「智能体网络」的形式成为现实。Meta 的 Muse、OpenAI 的 Dots 和 Anthropic 的 Claude Duet 等智能体产品获得大量下载,并被授权访问用户的银行账户和邮箱。文章认为

正文结构化主题已通过公开置信门槛
量子位商业

央视严选中国AI创业十骏:唯一AI制药公司水木分子上榜

央视公布「中国AI创业十骏」名单,清华AIR孵化的AI制药公司水木分子是唯一上榜的AI制药企业。水木分子提出对话式药物研发范式ChatDD,构建BioMedGPT等生物医药大模型与OpenBioMed技能包,并以平台加自研管线双轮驱动,其首个自免双抗管线仅用七个月完成临床前候选分子确认。公司预计2026年进入商业放量阶段,收入为去年的3至4倍。

正文结构化主题已通过公开置信门槛
arXiv cs.AI一手来源研究

音频大模型多模态语音情绪识别的不一致性感知评估

该研究提出一种基于高斯混合模型(GMM)的跨模态不一致性评分方法,将文本与音频映射到共享的效价-唤醒-支配(VAD)空间,把两者距离转化为连续的不一致性概率,并与人类判断进行验证(Spearman r=0.65)。作者在eNTERFACE'05、MELD和CMU-MOSEI三个语料上评估三个音频大模型,发现在控制真实情绪和特征空间距离后,只要音频存在,不一致

正文结构化主题已通过公开置信门槛
arXiv cs.CV一手来源研究

Drone-PUR:无人机场景视觉线索发现与推理基准

天津大学等机构的研究者提出 Drone-PUR,一个面向无人机场景的视觉线索发现、理解与推理数据集和基准,包含 11 项任务、17.5 万训练样本和 2 万测试样本,覆盖单图、图像序列、跨模态图像和多视角。评测 22 个通用视觉语言模型后发现,它们在空间判断、跨模态与跨视角推理上存在持续局限,且感知能力更强的模型推理表现更好。团队还基于 Qwen3-VL 分

正文结构化主题已通过公开置信门槛
arXiv cs.CL一手来源研究

Mage-VL-Cowork:从演化 harness 学习混合计算机使用的完整训练配方

该论文提出 Mage-VL-Cowork,一个 4B 参数混合计算机使用智能体(CUA),从通用多模态对齐检查点出发,经五阶段渐进式课程(中训练、SFT、RL)训练,同时结合 GUI 视觉交互与终端代码执行。为支撑大规模训练,作者构建 Mage-CUA-Forge 环境合成流水线,覆盖 6,915 项技能、合成 293,806 个桌面与网页任务,并将单任务重

正文结构化主题已通过公开置信门槛
Apple Machine Learning Research一手来源研究

Apple 提出在线密集强化学习框架,训练 iOS 应用 UI 导航智能体

Apple 机器学习研究团队提出一种在线强化学习框架,直接在真实 iOS 应用上训练 UI 导航智能体。该框架将智能体拆分为规划智能体和 UI 定位模型,使用 LLM-as-a-Judge 提供结合逐步密集反馈与任务完成终端奖励的信号,并采用 PPO 与逐步优势估计进行优化,同时提出 GiGPPO 方法提升 critic 稳定性。研究还搭建了可编排数百台并发