Modal 宣布多节点集群 Modal Clusters 正式可用,一行装饰器启用 RDMA
Modal 宣布其多节点集群 Modal Clusters 正式可用,用户通过 @modal.clustered 装饰器即可创建集群。集群节点间通过 InfiniBand RDMA 通信,速率最高 6.4 Tbps,为 PyTorch 和 NCCL 自动配置,按秒计费。
Modal 宣布其多节点集群 Modal Clusters 正式可用,用户通过 @modal.clustered 装饰器即可创建集群。集群节点间通过 InfiniBand RDMA 通信,速率最高 6.4 Tbps,为 PyTorch 和 NCCL 自动配置,按秒计费。
SCLATE 是持续学习智能体的训练与评估执行基座,基准测试和未修改的智能体可通过适配器把事件加入同一个开放事件调度器。
Neighborhood OPSD(N-OPSD)把局部参数扰动产生的互补参考修正转化为监督,改进数学推理模型的在线策略自蒸馏(OPSD)。在 AIME 2024、AIME 2025 和 HMMT February 2025 上,Qwen3-1.7B、4B、8B 的三基准 Average@12 分别比 OPSD 提升 2.75、1.67、1.94 分。
Databricks 的 Data and AI Platform 通过 zero-copy Open Sharing 和 Lakehouse Federation 直接查询工厂、供应商与质量系统中的原始数据,无需为每个用例新建 ETL 管道或复制数据。平台以序列号、批次或零件号作为关联键,把跨阶段的追溯问题变成一次查询,并支持机器与车辆遥测的低延迟处理。
新算法 LIPPAX 面向联邦随机变分不等式优化,可缓解 Local Extra SGD 的客户端漂移问题,并在有界 Hessian、有界算子和低方差等场景取得更优收敛保证。论文还用精细化分析收紧了经典 Local Extra SGD 的收敛界,并把结果扩展到联邦复合变分不等式。
LangChain 发布 LangSmith Fine-Tuning 和 smithtune CLI,用于把 LangSmith 的 agent 轨迹转成训练数据,并完成数据集准备、训练与评测。
Sarvam Vision 2.1 在 olmOCR-Bench 总体得分 87.3,OmniDocBench v1.6 总体得分 94.97,并新增复杂多页表格结构化抽取、表单 KV 抽取与 Indic 手写识别能力。该模型沿用 harness-with-VLM 架构,在监督微调后进行 RLVR 后训练,缓解了此前的幻觉与不一致问题。团队同时优化推理栈,使 API 定价低于发布时,面向生产负载。
Botika 把全栈生成式 AI 运行在 Modal 上:自研数十亿参数基础模型、100TB 图像数据管道,并在生产环境同时服务约 15 个模型。该管道用数千个并发容器处理 100TB 数据,错误率低于 1%;单个研究员的实验量从每天一两个提升到 50 个。生产推理覆盖 L4、L40S、A100 和 H100,队列、自动扩缩容与冷启动由 Modal 承担。
Pyromind 创始人兼 CEO Kevin Ding 称,RL as a Service 只是起点,公司押注的 AutoRL 要把训练、奖励、反馈、部署与数据回流串成可自动循环的管道。
Airbyte 的 Gong、Hubspot、Salesforce、Shopify、Stripe、Typeform、Zendesk Support 数据源现可作为文档加载器直接在 LangChain 应用中使用,这是 Airbyte 300+ 数据源接入 LangChain 的开端。
Cube 与 LangChain 集成,以文档加载器 CubeSemanticLoader 将语义层数据模型的嵌入写入向量数据库。该向量库可用于匹配语义层实体,把自然语言输入映射到数据模型中的视图及其成员,加载时只载入视图。Cube 还提供 chat 演示应用,用 OpenAI 提示词、FAISS 向量库和 Streamlit 界面生成对 Cube SQL API 的查询。
LangChain 发布指南,展示如何用 LangSmith 管理数据集并评估开源大模型和 gpt-3.5-turbo 的微调效果。测试任务为知识图谱三元组抽取,训练集约 1500 条标注句子,在 A100 上微调 7B 模型不到 15 分钟。
Hamel Husain 汇总了其在 AI 产品工程与评估方向的长期写作,最新一篇为 9/30/26 的《Claude 新 auto eval 工具》。他联合教授 AI Evals for Engineers and PMs 课程,已有来自 500+ 公司的 5,000 多名学生,包括 OpenAI、Anthropic 和 Google。
OpenRouter 新增可蒸馏模型标识,并推出 enforce_distillable_text 请求参数,开启后所有输出都来自许可允许用于训练和蒸馏的模型。
Modal 产品更新:多节点训练集群进入 beta,加 @clustered 装饰器即可调度多主机上的数十块 GPU,并借 3.2 Tbps Infiniband RDMA 随节点数线性扩展。