今天的 AI 动态有一个共同方向：能力升级不再只发生在模型参数里，也发生在实时交互、训练基础设施、推理软件和开发工具链中。对团队而言，真正需要判断的不是哪条新闻最热，而是哪种变化会改变自己的产品边界和工程成本。
1. ElevenLabs 发布 Eleven Realtime：语音 Agent 直接进入推理轮次
ElevenLabs 发布 Eleven Realtime speech-to-speech 模型，官方称其目标是在约半秒开始说话，同时处理需要口语推理的问题。它面向客服、陪练、电话工作流和实时协作等对打断与反馈速度敏感的场景。大版本 v1 Max 面向客服和要分步处理的任务，小版本 v1 Mini 面向更便宜的日常对话。官方给出的成绩是：Max 平均 0.57 秒开始出声，语音推理题答对 98.8%。
0.57 秒是它在自己测试里的出声时间，不是接上你的网络、电话和业务系统之后的承诺。真正要试的是打断以后能不能接话、查资料或调用工具时会不会突然变慢，以及吵环境和长对话还稳不稳。
Min Kim
2. DeepSeek 开源 DeepInfer：推理基础设施成为新的开放层
DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，并同步开放生产级 Token 编解码组件 deepseek-recipe。现有官方材料将重点放在大规模模型推理和性能优化工作流，而不是新模型发布。
DeepInfer 是现在用来大规模跑 DeepSeek-V4.1-Flash 的框架，Apache 2.0 许可；recipe 负责把外部请求转成模型能读的格式，再把结果转回去，和官方接口的处理方式对齐，MIT 许可。
目前只支持 NVIDIA SM100 和华为昇腾 950，也只支持 V4.1-Flash。缓存、预填充和解码拆开部署、负载均衡，都还没放进这次开源。
https://github.com/deepseek-ai/DeepInfer
3. Meta 公布 Prometheus：训练集群开始按完整系统设计
Meta 官方介绍了位于美国俄亥俄州的 Prometheus 超集群。第一阶段已经建成，用来训练 Muse 基础模型，其中包括 Muse Wonder。现在有几十万张 GPU，分在多栋楼里，靠光纤连成一台机器；官方的下一步目标是大约 100 万张。
卡多不等于训练快。一张卡出问题，整次训练都可能慢下来。Meta 说，训练 Muse Wonder 时，预训练有 85% 以上的时间在做有效计算，强化学习超过 90%；平均大约每 4.7 万卡时才中断一次。这是它自己集群上的成绩。100 万张是还没达到的目标。
4. OpenAI 收购 Orchestra Bio：不再只卖模型，开始做行业软件
OpenAI 宣布已收购 Orchestra Bio，一个帮生物制药团队协调药物开发的平台，并计划把团队和技术并入自己的生命科学产品 Rosalind。Rosalind 原来主要帮科学家分析问题、看实验结果、安排下一步实验；Orchestra 补上的是项目推进：研究做到哪一步、哪里延误，以及一个环节出问题后，后面哪些工作会受影响。
官方表明，在美国一种新药从早期研究到获批平均要 10 到 15 年。中间要跨很多部门和外部伙伴，用的系统也常常连不起来，所以进展慢，也容易被打断。OpenAI 想用 AI 帮忙盯这些进度。比如一批生产失败、可能耽误临床试验时，AI 先找出受影响的安排，把情况汇总起来，并比较几种补救办法；要不要调整，仍由人决定。药会不会因此更快到患者手里，现在还只是目标。
5. NVIDIA 把生成式仿真带入临床手术训练
NVIDIA 发布 Cosmos3-H-Dreams，面向腹腔镜胆囊切除术研究，把临床手术视频、机器人运动学和器械动作作为条件，生成后续手术场景。官方还开放了 checkpoint、训练配方和流式推理运行时，并提供两步和四步版本。
它适合用来研究动作策略、生成训练轨迹和在真实设备实验前做低成本验证，但不能被当作经过临床验证的手术系统。生成画面逼真并不等于组织响应在物理上正确，医疗使用仍需要外科专家评估、真实设备验证和独立安全审查。
6. TorchNeuron 公开测试：PyTorch 代码可以指向 AWS 的 Trainium
PyTorch、AWS 和 Hugging Face 官方材料确认 TorchNeuron 进入 public beta。它为 AWS Trainium 提供原生 PyTorch 后端，覆盖 eager、torch.compile、分布式 API 以及 Transformers、Diffusers 等生态工作流，并采用 Apache 2.0 许可。
对使用 Trainium 的团队来说，迁移重点可能从专用编译链适配，转向算子覆盖、后端成熟度、性能调优和云资源成本评估。public beta 不代表所有模型和生产负载都已经与 CUDA 工作流无差异，仍应通过自己的模型和真实服务负载验证。
Amazon Web Services
今日总结
这几条放在一起看，AI 产品正在从「调用一个模型」，变成「把模型放进一套能跑起来的系统」。语音要重新看打断和等待，手术模拟要把动作和画面绑在一起，训练集群要看有效计算而不只是卡数，推理框架和芯片后端则决定模型能不能以可控的成本跑。
昨日回顾
- Claude OSS Scanner：让 AI 持续帮开源项目找漏洞
- MiniMax M3.1 Flash：面向高频 Agent 任务的快模型
- OpenAI：AI 开始读懂几十年前的 COBOL 代码
- Meta 发布 Muse Glimmer：30B 开放权重模型面向消费级硬件
- FLUX 3 Max：视频生成继续追求更短等待时间
Scarlett
扫码加入 HiFox AI 内测群，及时获取 最新 AI 资讯~
HiFox
