返回主题地图

多模态

技术方向 · 文本之外的能力:视觉理解、图文混合、音视频输入输出的模型与产品 · 共 1351 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

8月30日周日 · 1 条
正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

Surge 发布 AriannaV4:基于 Gemma 4 的多模态本地助手

Surge 发布了 AriannaV4,一个基于 google/gemma-4-12B 与 Aria v4 权重合并的多模态本地助手模型。该模型采用核心权重加侧车架构,支持文本、推理、视觉、音频和视频理解,并提供 GGUF 量化版本供 llama.cpp、Ollama 和 LM Studio 使用。模型遵循 CC-BY-NC-SA 4.0 许可证。

8月29日周六 · 4 条
正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

Unsloth 发布 GLM-5.3-Flash GGUF 量化版

Unsloth 发布了 GLM-5.3-Flash 的 GGUF 量化版本,支持通过 llama.cpp 或 Unsloth Desktop 运行。GLM-5.3-Flash 是 GLM-5 系列首个原生多模态模型,总参数 320B,激活参数 18B,采用混合架构和 mHC 技术,性能超越 GLM-5.2 且成本更低。

正文结构化主题已通过公开置信门槛
THE DECODER开源

LAION发布千万小时开放视频数据集BVD,助力AI研究

LAION发布了大型开放视频数据集Big Video Dataset(BVD),包含1000万小时视频,源自CommonCrawl中的13亿个视频URL,下载了8000万个视频并提取了5500万个片段及3亿张静态图像。基于BVD训练的模型在视频到文本基准测试中比InternVid训练的模型性能提升高达2.1个百分点。该数据集仅用于研究,LAION依据2024

正文结构化主题已通过公开置信门槛
arXiv cs.CV一手来源研究

模态成熟度指数:评估全模态模型多模态能力的基准

arXiv 论文提出 Modality Maturity Index (MMI) 基准,用于评估全模态模型在文本、图像、音频、视频和文档五种模态及其组合上的输入输出能力。MMI 包含 893 个问题,并引入 Modality Presence Score (MPS) 衡量模态生成能力。测试五个前沿模型发现 MPS 仅 15.6 至 34.9,表明现有模型多模

正文结构化主题已通过公开置信门槛
arXiv cs.CV一手来源研究

手术视频生成综述:从扩散模型到世界模型

这篇综述论文系统梳理了2024至2026年间手术视频生成领域的研究进展,将其分为无条件生成、条件生成和世界模型生成三类范式,揭示了从合成视觉上合理的帧到建模手术场景因果动态的任务定义转变。论文指出像素级保真度与临床合理性之间存在持续差距,并将泛化能力、物理真实性、可控性和可解释性视为主要瓶颈。该综述为智能感知、多模态融合、生成式AI和手术数据科学交叉领域的研

8月28日周五 · 10 条
正文结构化主题已通过公开置信门槛
雷峰网 AI科技评论观点

Sora 为何输给 Codex:算力调度与工作负载架构的差异

OpenAI CEO 奥特曼在播客中表示,Sora 因算力消耗巨大而优先级低于 Codex,资源向后者倾斜。文章分析认为,Sora 的算力集中在连续的视频生成路径中,难以复用,而 Codex 的 Agent 工作流可将算力碎片化,通过缓存、批处理和调度优化提高 GPU 利用率。这种架构差异导致两者扩张速度不同。

正文结构化主题已通过公开置信门槛
Latent Space产品发布

OpenAI预计2026年底实现AGI,多款AI产品发布

OpenAI首席科学家Jakub Pachocki表示,未发布的Astra模型已达到其2026年9月设定的“自动化AI研究实习生”目标,而Sama在《时代》采访中估计OpenAI将在2026年12月内部宣布实现AGI。此外,Hugging Face与Pollen Robotics联合推出399美元的开源双足机器人Microduck,支持模拟训练和强化学习定制

正文结构化主题已通过公开置信门槛
量子位商业

2026奇点智能技术大会北京站官宣,Transformer联合作者领衔

2026奇点智能技术大会北京站将于11月20-21日举行,由奇点智能研究院与CSDN联合主办。大会汇聚70余位技术专家,围绕18个前沿主题,涵盖大模型、AI原生软件研发、C++及系统软件等方向。OpenAI资深研究科学家、Transformer联合作者Łukasz Kaiser已确认发表主题演讲。

正文结构化主题已通过公开置信门槛
arXiv cs.IR一手来源研究

PrismRec:基于频谱分解的偏好流匹配微视频推荐框架

国防科技大学、新加坡国立大学和郑州大学的研究者提出 PrismRec 框架,用于微视频推荐。该框架通过频谱语义分解(SSF)将视频帧分解为静态语义和动态因子,并利用上下文校准偏好匹配(CPM)将用户敏感度作为条件注入生成过程。在四个数据集上的实验表明,PrismRec 相比最先进基线最高提升 22.65%,且推理成本和峰值内存最低。

正文结构化主题已通过公开置信门槛
阿里 AgentScope Releases一手来源产品发布

AgentScope v2.0.7.post1 发布:新增 GoalPipeline 与多模态支持

阿里 AgentScope 发布 v2.0.7.post1 版本,包含多项修复和功能更新。主要改进包括:从媒体类型自动推导音频格式、排除 Gemini 工具执行 token、支持原生多模态工具输出、新增 GoalPipeline 管道模块、达到最大迭代次数后生成最终文本摘要、修复 WebUI 会话隔离、追踪中断的聊天响应、保留 OpenAI Response

正文结构化主题已通过公开置信门槛
AWS Machine Learning Blog一手来源教程

AWS 与 fal 集成:通过 MCP 构建代理式创意工作流

AWS 博客介绍了如何通过 Amazon Quick 和 fal 构建代理式创意工作流。Amazon Quick 作为代理工作区和编排层,fal 提供超过 1000 个生成式媒体模型,两者通过 Model Context Protocol (MCP) 标准接口连接。该方案支持故事板和音乐视频概念原型制作,通过 Skills 编码可复用流程,并在关键创意节点引

正文结构化主题已通过公开置信门槛
AWS Machine Learning Blog一手来源产品发布

AWS在印度推出OpenAI GPT-5.6模型,支持境内推理

AWS宣布Amazon Bedrock在印度支持OpenAI GPT-5.6模型(Terra和Luna),通过印度地理跨区域推理,确保数据在印度境内处理,满足金融、医疗和公共部门的数据驻留要求。模型支持100万token上下文窗口,可处理文本和图像输入。文章介绍了如何使用推理配置文件、控制台和API(包括OpenAI Responses API和Bedroc

正文结构化主题已通过公开置信门槛
Google Research Blog一手来源研究

Google 推出行星预测引擎,自动化地理空间建模

Google Research 推出行星预测引擎(PPE),作为 Earth AI 计划的一部分,该实验性研究系统能自主执行从数据发现到模型训练的完整地理空间建模流程。在公共卫生、粮食安全、环境风险和社会经济等领域的测试中,PPE 相比人工专家流程显著提升了预测精度,例如将疾病健康指标的 R² 从 60.0% 提升至 76.8%,并将建模时间从数周缩短至数分

正文结构化主题已通过公开置信门槛
THE DECODER模型发布

谷歌发布Gemini Omni 1.1 Flash,视频生成更便宜更灵活

谷歌发布了Gemini Omni 1.1 Flash视频生成模型,支持场景扩展、风格参考和关键帧控制,并新增360p草稿模式,速度提升60%,成本降低至720p的三分之一。该模型通过Google AI Studio和开发者文档提供,定价按秒计算,从360p的0.03美元到4K的0.30美元不等。

正文结构化主题已通过公开置信门槛
Google DeepMind News一手来源模型发布

谷歌发布 Gemini Omni 1.1 Flash,增强视频生成控制能力

Google DeepMind 发布了 Gemini Omni 1.1 Flash,这是一套面向开发者的生成式视频工具,通过 Gemini API 在 Google AI Studio 中提供。新功能包括场景扩展(支持最多 10 秒上下文,可延长至 40 秒)、首尾帧指定、360p 快速预览(比 720p 快 60% 且成本低三分之一)、最高 4K 分辨率放

8月27日周四 · 5 条
正文结构化主题已通过公开置信门槛
arXiv cs.AI一手来源研究

基于VLM的建筑平面图多粒度图自动表示方法

麻省理工学院、香港科技大学(广州)和清华大学的研究团队提出了一种基于视觉语言模型(VLM)的自动多粒度图表示方法,用于从建筑平面图图像中构建任务自适应的图结构。该方法通过节点识别、边推断、文本解析和图粗化等步骤,在147个学术图书馆平面图上验证了有效性,生成的图与人工标注高度一致,且不同粒度的图在不同任务中表现各异。该研究将平面图转化为知识表示,有望提升建筑

正文结构化主题已通过公开置信门槛
Latent Space商业

NVIDIA 130 亿美元收购 HuggingFace,GLM-5.3-Flash 发布

NVIDIA 以 130 亿美元收购 HuggingFace,约为其 1.5 亿美元 ARR 的 80 倍,较 2026 年 1 月 70 亿美元的报价近乎翻倍。同时,Z.ai 正式发布 GLM-5.3-Flash(即 Ox Alpha),这是一个 320B 总参数、18B 激活参数的 MIT 许可多模态模型,支持 1M 上下文,完全运行在中国 AI 芯片上

正文结构化主题已通过公开置信门槛
Gemini API Release Notes一手来源模型发布

Gemini Omni Flash 正式可用:新增视频续写与分辨率控制

Google 在 Gemini API 发布说明中宣布,视频生成与编辑模型 gemini-omni-1.1-flash 正式可用(GA)。该版本新增视频续写、首尾帧插值生成,以及 360p 至 4K 的分辨率控制(1080p 和 4K 通过放大生成)。原有 gemini-omni-flash-preview 端点将于 2026 年 9 月 30 日弃用。

正文结构化主题已通过公开置信门槛
Simon Willison's Weblog模型发布

Qwen3.8-Flash-Next:多模态 MoE 模型,Qwen4 架构预览

Qwen 发布了新的开源权重模型 Qwen3.8-Flash-Next,这是一个多模态 MoE 模型,也是 Qwen4 架构的早期预览。模型总参数为 125B,但仅有 6B 激活,性能显著提升。作者 Simon Willison 在 DGX Spark 上使用 Unsloth 量化版本进行了测试,并分享了初步体验。

正文结构化主题已通过公开置信门槛
NVIDIA Technical Blog一手来源模型发布

Qwen3.8-Flash-Next在NVIDIA GB300 NVL72上支持代理编码

阿里巴巴发布了Qwen3.8-Flash-Next模型权重,作为Qwen4架构的预览,供开发者实验和评估。该模型是一个多模态MoE模型,主模型125B参数,附加51B N-gram嵌入,每token激活6B参数,原生上下文窗口262,144 token,可通过YaRN扩展到1M。NVIDIA提供了Day 0功能支持,包括SGLang、vLLM和TensorR