EVISTA:证据感知时序路径优化的统一多模态视频搜索
越南胡志明市科技大学的研究团队为2026年胡志明市AI挑战赛开发了EVISTA统一多模态视频检索系统,并提出了TEMPO-P证据感知时序路径优化方法,用于有序多事件检索。TEMPO-P通过跨事件和模态聚合候选视频、联合视觉/OCR/ASR证据对关键帧评分,并利用动态规划选择紧凑的时序有序路径。在五个组织方查询和36个额外多事件查询上,TEMPO-P在视觉描述
技术方向 · 语音合成、实时对话、音乐生成与音频理解 · 共 168 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
越南胡志明市科技大学的研究团队为2026年胡志明市AI挑战赛开发了EVISTA统一多模态视频检索系统,并提出了TEMPO-P证据感知时序路径优化方法,用于有序多事件检索。TEMPO-P通过跨事件和模态聚合候选视频、联合视觉/OCR/ASR证据对关键帧评分,并利用动态规划选择紧凑的时序有序路径。在五个组织方查询和36个额外多事件查询上,TEMPO-P在视觉描述
Apple 研究团队提出一种轻量级语码转换(CS)检测方法,直接利用预训练语音编码器中的帧级语言信息判断一句话中是否同时出现两种语言,而无需依赖多语言转录。该方法通过单语录音识别语言选择性隐藏维度,并聚合其帧级激活进行 CS 预测,再用小规模 CS 数据集调整决策规则。实验显示 Whisper-small 编码器在 CS-FLEURS 的 14 个语言对上平
上海大模型公司模思智能(MOSI)宣布完成超10亿元Pre-A轮融资,由华控基金领投,国开科创、上海科创基金等多家机构参与,老股东持续跟投。资金将用于全模态实时交互智能研发与全球商业化落地。该公司孵化自复旦大学邱锡鹏教授的OpenMOSS团队,2026年以来已发布20多个模型,即将推出全模态实时交互系统MOSS Live,面向AI眼镜、智能汽车、机器人等终端
阿里 AgentScope 发布 v2.0.10 版本,主要包含大量 bug 修复,覆盖 TTS、RAG、模型适配(DashScope、Anthropic、Gemini、Ollama、Moonshot、MiniMax)、工具调用、MCP、调度器与工作区等模块。同时文档宣布新增 SOP、TeamPipeline 及 MiniMax 支持。该版本以稳定性与兼容性
Hugging Face 上出现了一个名为 innkl24/f5-shan-tts-model 的模型,基于 F5TTS v1 Base 构建,采用 cc-by-nc-4.0 许可,面向掸语(Shan/Tai-Yai)。该模型使用仅含掸语的干净词表(75 个字符),并已扩展 embedding,便于后续微调。
该研究提出 CircuitTree 数据结构与贪心、密度缩放组合算法,解决此前简单掩码并集组合电路时的密度支配与干扰问题。作者从 HuBERT 中剪枝出 39 个音素电路(15 个元音、24 个辅音),将其组合为音节分类器,实现单个电路不具备的能力。通过将 CircuitTree 串联成电路层级流水线,开放音节转写准确率达 64.8%,仅比不共享任何电路的
Xinference 发布 v4.0.0,新增无状态 OpenAI Responses API(/v1/responses)、jina-ocr-v1 OCR、Confucius4-TTS 支持,并引入 Xavier 快照存储与 KV 缓存共享机制,支持 vLLM、SGLang、MLX 之间的 P/D 分离与跨平台传输。该版本还新增 NIXL 后端、运行时日志
OpenAI 发布了 @openai/agents-realtime 的 0.20.0 补丁版本,修复了生成后音频中断丢失的问题,通过适配传输方式的缓冲区清理和针对响应的播放时长来保留音频中断。同时该版本更新了对 @openai/agents-core@0.20.0 的依赖。
OpenAI 发布 Java SDK v4.78.1 版本,主要修复了自定义语音创建参数的问题,并优化了 CI 流程以复用 Java 构建的 SDK 编译输出。此次更新为常规补丁版本,影响使用 Java SDK 进行语音相关 API 调用的开发者。
llama.cpp 发布 b11488 版本,新增对 LiquidAI/d1-omni-600M 决策模型的支持,并在 CUDA 上保留 conformer GLU sigmoid。服务端支持通过 images 和 input audio 传入 d1omni 音频,并将无记忆 lfm2 限定为非因果模式。同时将决策类型 d1omni 重命名为 lfm2-d1
该研究针对流式说话人日志(diarization)模型在少量数据域适应后出现的指标掩盖问题展开诊断。作者将发布的 Streaming Sortformer v2 在 7.5 小时双人对话数据上微调,并在六个语料库上评估,发现域内 DER 显著改善且可迁移到独立语料,但改进并不一致:额外混淆主要来自时间身份一致性受损,而非说话人数目错误。局部重映射诊断显示不同
OpenAI 发布 @openai/agents-realtime 0.19.0 版本,主要修复了条件工具审批与隔离的规范化执行输入绑定、在持久化审批恢复时重新评估当前策略,以及拒绝不可复制的规范化值等问题。同时修复了 Realtime 大音频缓冲区编码时的栈溢出、对话历史更新顺序保持、切换无工具 Realtime agent 时清理陈旧工具等缺陷,并更新了
Boson AI 在 Hugging Face 发布 Higgs Audio V2 Tokenizer,一种以 25 帧/秒运行、在 24 kHz 数据上统一训练语音、音乐和声音事件的离散音频分词器。该模型采用非扩散编码器/解码器实现快速批量推理,并在声学、语义和美学指标上取得均衡表现,已原生支持 transformers。
微软AI发布实时转录模型MAI-Transcribe-2-Streaming,声称在Artificial Analysis准确率排名第一,支持60种语言,首个部分结果延迟约100毫秒,可让语音代理在用户说话中途响应,年底前音频价格为每小时0.54美元。同时发布两款文本转语音模型MAI-Voice-2.1和MAI-Voice-2.1-Flash,前者可用同一声
论文提出 FD-VAD,一种无需 ASR 的流式语义端点检测方法,用于全双工语音交互。它将语义端点检测建模为因果音频-语言推理任务,把有界因果音频窗口直接映射为 Continue/Stop 决策,结合冻结语音编码器、轻量模态适配器和参数高效微调的语言模型,并采用 last-chunk 训练目标。方法还引入置信度门控端点提交与边界聚焦难负样本采样,在域内和对话
Google 发布 Gen AI JavaScript SDK v2.25.0,新增 Gemini 3.8 Flash TTS 与 Gemini 3.8 Flash Lite TTS 模型支持,并加入用于导出调优任务指标的 gcs metrics uri 参数。该版本还引入 environments 专用模块及 from environment 支持,为 L
Google 发布 Google Gen AI Python SDK v2.26.0,新增 Gemini 3.8 Flash TTS 与 Gemini 3.8 Flash Lite TTS 模型支持,并加入 gcs metrics uri 用于导出调优任务指标、environments 专用模块及 from environment 支持。同时修复了 Vert
Vercel AI SDK 发布 ai@7.0.124 补丁版本,为语音生成和转录功能新增遥测能力,包括提供商用量传播和实验性流式生命周期回调。同时更新了 @ai-sdk/provider、@ai-sdk/provider-utils 和 @ai-sdk/gateway 等依赖包版本。
Hugging Face Transformers 发布 5.18.0 版本,新增四个模型支持:NVIDIA 的 Nemotron 3 Diarization 流式说话人分离模型、NemotronH Omni 多模态推理模型、NAVER 的 HyperCLOVAX Vision V2 视觉语言模型,以及 GTE 文本表示与重排序模型。该版本还包含多项破坏性变
llama.cpp 发布 b11238 版本,主要改动是让 Parakeet、LFM2-Audio、Granite Speech 和 Gemma 4 音频编码器改用 ggml pad ext 在左侧填充,替代此前先右填充再 roll 的做法;DFlash2 也借此将零填充块与前序 token 合并为单个节点。改动后 Gemma 4 音频嵌入保持逐位一致,同时