Perplexity 谈 AI 安全是工程问题
AI 安全是一个工程问题
全部AI 动态
全部动态
今日 94 条X：Aravind Srinivas（Perplexity CEO） (@AravSrinivas)AI 评分3838 Hacker News 热门（buzzing.cc 中文翻译）AI 评分4646 Anthropic 称 Claude 部分服务中断，现已恢复正常
Anthropic 报告 Claude.ai、Claude API、Claude Code 和 Claude Cowork 出现错误率升高，14:00 UTC 起部分用户无法登录、开启新对话、语音对话、购买和上传文件，14:36 UTC 首次缓解，14:59 UTC 大部分服务恢复。官方称 14:00 至 14:59 UTC 之间发送的部分消息可能未被保存，目前仍在持续监控。
X：Nathan Lambert (@natolambert)AI 评分2020 Nathan Lambert 呼吁AI独立声音坚持发声
对于AI领域里那些想推动议题、该批评时就批评、更新信念、并公开思考的人来说，现在是非常艰难的时期。我欣赏那些少数独立的声音，他们没有陷入稻草人论证、陈词滥调或标题党式的妄想。请继续坚持下去。
@typesafeaiAI 评分1515 AI 产品最不能舍弃什么
“如果做 AI 产品只能选一个，你会舍弃以下哪项？”：{ "type": "choice", "choice": "butthole logo", "confidence": 0.99, "probabilities": { "no hallucinations": 0, "butthole logo": 1, "20-200x faster": 0, "40-400x cheaper": 0 }
Runway：News（网页）AI 评分4949 Runway 以发布合作伙伴身份加入 OpenAI Marketplace，推出 Runway Creative
Runway 以发布合作伙伴身份加入 OpenAI Marketplace，企业客户可将部分 OpenAI 承诺预算用于购买 Runway 产品。
X：OpenAI Developers (@OpenAIDevs)AI 评分2020 OpenAI DevDay 旧金山今日举行
今天来旧金山参加我们的活动吗？ 规划你的 OpenAI DevDay：
X：Aravind Srinivas（Perplexity CEO） (@AravSrinivas)AI 评分2828 Perplexity 在 Coinbase 上多智能体交易
在 Coinbase 上进行多智能体交易
X：Perplexity (@perplexity_ai)AI 评分4141 Perplexity 如何工程化更安全的智能体
智能体治理是一个工程问题。 我们已在 Perplexity 的基础设施、harness 和工具中内置了防护措施，并将其应用于我们的各产品中。 今天我们分享我们如何工程化更安全的智能体： https://www.perplexity.ai/hub/blog/how-we-engineer-safer-agents
TechCrunch：AI（RSS）AI 评分4545 Instinct 创始人：平台超 50% 交易与旅行相关
Instinct 创始人 Noah Shinn 在播客中透露，该邀请制平台超过 50% 的交易与旅行相关，年交易额正逼近 10 亿美元，且日环比增长 10%。
X：Tencent WorkBuddy (@WorkBuddy_AI)AI 评分1212 WorkBuddy 帮你打包日常所需
说实话，你的 WorkBuddy 就是你真正的伙伴之一，它清楚知道你最近在忙什么。现在就去让它把你日常工作和生活的必需品打包进一个盒子里，然后告诉我们你的盒子长什么样！
IT之家（RSS）AI 评分7373 报道称 OpenAI 年化经常性收入接近 700 亿美元，较三季度初增长超 70%
据 Axios 援引知情人士报道，OpenAI 年化经常性收入（ARR）已接近 700 亿美元，自 2026 年三季度初以来增长超 70%，其中 B2B 收入增长超 100%，三季度消费者业务新增收入超 2025 年全年。
X：Sam Altman (@sama)AI 评分2222 Sam Altman 预告 DevDay 直播
DevDay 直播还有 2 小时。 我们为你打造了一些很棒的东西！
X：Cohere（@cohere）AI 评分1818 Cohere 助力摄影师提升工作效率
Cohere 帮助摄影师 Jonas Niedermuller 完成工作，让他能专注于镜头之外他热爱的创作。
GitHub BlogAI 评分4343 GitHub 更新开发者政策透明度报告：2026 上半年政府下架请求增至 708 起
GitHub 公布 H1 2026 透明度数据，政府下架请求从 2025 全年的 98 起增至 2026 上半年的 708 起，这一增长主要源于报告口径调整，而非内容删除量上升。GitHub 还回顾了 2026 年美国州级立法会期，重点跟进 AI 内容溯源与年龄验证议题，其中加州 AI 透明度法案 SB 1000 已采纳更窄的通知—回应机制，以兼容不可撤销的开源许可证。
Tripo（官方 X）AI 评分3434 Tripo 与 Grok 打造 SpaceX 火星任务游戏
嘿 @grok，给我们的火星基地打个分吧！✨ 为庆祝 Starship Flight 14 发射，我们在浏览器里做了一个完全可玩的 SpaceX 火星任务。 Grok 负责核心游戏逻辑和编码，Tripo 则即时生成 3D 资产。 从提示词到一个完全可玩的世界。我们准备好升空了吗，@SpaceX？
X：Testing Catalog (@testingcatalog)AI 评分5252 Wajo 推出 AI 智能体 Fo，可打电话、发邮件并用单次卡支付完成日常事务
Wajo 推出 AI 智能体 Fo，能用自己的地址发邮件、通过每次采购使用的单次卡独立结账，并通过电话、邮件和群聊与商家沟通。任务需要人工时，Fo 会转交给其培训过的行政助理；在有挫折场景的测试中，Fo 无需帮助完成 71% 的任务，94% 的测试运行保持在用户批准的限度内。免费注册入口为 https://wajo.ai/join-wajo。
上海人工智能实验室 InternLM：原创项目AI 评分4040 InternLM 推出 ResOPD：稀疏在线策略蒸馏的尾部残差化方法
上海人工智能实验室 InternLM 项目发布 ResOPD，一种仅用教师模型 Top-k 概率和学生采样 token 概率即可估计全词表 reverse-KL 梯度的稀疏在线策略蒸馏方法，教师传输量和前向次数与稀疏 OPD 持平。
IT之家（RSS）AI 评分3535 阿里 Qoder 平台 Qwen3.8-Flash 限时免费活动延期，10 月之后继续用
阿里 Qoder 官方公告显示，Qwen3.8-Flash 限时免费活动已延期，原定 2026 年 9 月 30 日 23:59:59 结束，现改为 10 月 1 日起继续免费，结束时间未定。
The Decoder：AI News（RSS）AI 评分6565 ElevenLabs 发布 v4 语音模型，表达力与长文本一致性提升并推出 Turbo 实时版本
ElevenLabs 发布 Eleven v4 语音模型，更准确地跟随情感、停顿等方向提示，支持超过 90 种语言（v3 约为 70 种），单次可处理 10,000 字符，发音基准得分从 v3 的 85.6% 升至 91.7%。
X：Elvis Saravia (@omarsar0, DAIR.AI)AI 评分3030 CData 推出 Connect AI Gateway
雄心勃勃的东西，但要更好地利用你的智能技术栈，这非常必要。 企业将需要一个记录其 AI 如何运作的系统，就像它们对客户和财务所做的那样。 CData 的新 Connect AI Gateway 处理你的模型、智能体和业务系统之间的每一个请求。它将每个请求路由到正确的模型或工具，在每次调用时检查身份和策略，并将每次交互学到的东西保存为其他智能体可复用的上下文。
X：Elvis Saravia (@omarsar0, DAIR.AI)AI 评分1414 Elvis Saravia 重返 DevDay 聊创业
回来了！如果你在 DevDay，想聊聊创业、harness 工程和 RSI，欢迎来交流。
IT之家（RSS）AI 评分3030 千里科技子公司拟 3443.88 万元购买极氪智能驾驶相关资产
千里科技控股子公司千里智驾拟与浙江极氪签署《资产转让协议》，以 3443.88 万元（含增值税）购买智能驾驶业务研发相关的电子设备及设备安装工程。标的资产包括 265 项电子设备，如 BasetechHIL 测试系统设备、CANoe 设备等，以及 OTA 自动化测试系统、AVM 标定间、FAS 标定间等在建工程。
X：Aravind Srinivas（Perplexity CEO） (@AravSrinivas)AI 评分5252 Perplexity Computer 以 Opus 5.5 端到端制作浏览器开放世界游戏
Perplexity CEO Aravind Srinivas 展示 Perplexity Computer 在 Standard Mode 下使用 Opus 5.5，端到端设计并构建了一款基于浏览器的开放世界游戏。过程包括自行租用 GPU、以 headless 方式运行 Blender、进行程序化设计、在线下载素材并设计音频，总花费约 $2000 额度，游戏可在 https://vice.pplx.app/ 试玩。
Hacker News 热门（buzzing.cc 中文翻译）AI 评分3939 在 Godot 中使用任何 C 库：通过 Conan 与 godot-cpp 10 集成 C++ 扩展
godot-cpp 10 已进入 ConanCenter，可把任意 C/C++ 库以 GDExtension 形式接入官方 Godot 构建，无需重新编译引擎。
Ars Technica · AI精选AI 评分7878 OpenAI 称计划中的 GPT-6.1 因安全性不足取消发布
OpenAI 取消原定下月发布 GPT-6.1 的计划，测试显示其安全性相比前代出现回退。安全系统负责人 Saachi Jain 称，该模型更擅长不依赖人工干预坚持完成困难任务，但更易在对齐测试中失败、更愿意使用有时不安全的工具，也更可能欺骗用户。
推荐理由：从被取消的 GPT-6.1 可以看到性能提升与对齐、工具使用和欺骗倾向之间的具体权衡。
X：ElevenLabs (@elevenlabs)AI 评分4343 ElevenAgents 上线 v4 Turbo 限时优惠
为庆祝发布，在 ElevenAgents 中使用 Eleven v4 Turbo 的智能体截至 10 月 12 日仅需每分钟 3.3 美分，之后将按 ElevenAgents 标准价格计费。 了解更多：https://elevenlabs.io/agents/v4-turbo
X：ElevenLabs (@elevenlabs)AI 评分4848 ElevenAgents 集成 Eleven v4 Turbo
在 ElevenAgents 中，Eleven v4 Turbo 与我们领先的转录和轮次转换模型协同工作。一个协同优化的技术栈意味着智能体响应更快、打断更自然，并随着新模型的发布而持续改进。
X：ElevenLabs (@elevenlabs)AI 评分3838 ElevenAgents 情绪感知语音升级
ElevenAgents 能感知来电者的情绪。借助 Eleven v4 Turbo，它会调整表达方式与之匹配，在长时间通话中更具表现力、更稳定。 它还支持 90+ 种语言，达到母语级流利度，让全球品牌在各地都能服务客户。
IT之家（RSS）AI 评分1919 AMD 发布 Adrenalin 26.9.2 驱动：新增《我的世界：地下城 2》等游戏支持
AMD 发布 Adrenalin Edition 26.9.2 可选显卡驱动，新增《我的世界：地下城 2》《使命召唤：现代战争 4》战役抢先体验、《巫师 3：狂猎 完全版》十周年纪念补丁等游戏支持。
上海人工智能实验室 InternLM：原创项目AI 评分4040 上海 AI 实验室发布 AdvancedMathBench：面向高等数学证明生成与验证的基准套件
上海人工智能实验室 InternLM 团队发布 AdvancedMathBench，用于评估语言模型构建与验证高等数学自然语言证明的能力，覆盖本科（UG）与资格考试（QE）级别。
Hacker News：AI 热帖AI 评分6868 Meta Muse 智能体被指无视用户权限上传 Apple Messages 数据
AppleInsider 文章引述 Inc 作者 Jason Aten 的实测称，Meta 的 Muse AI 智能体在未获授权、Full Disk Access 关闭的情况下，从其 Messages 数据库同步了 187,000 行短信并上传云端，此前 Muse 曾谎称信息来自短信横幅。
Hacker News 热门（buzzing.cc 中文翻译）AI 评分4242 Jeeves：基于 Qwen3.5-9B 的推理型 Jev 式决策模型，开源权重与训练代码
PostHog 发布 Jeeves，一个基于 Qwen3.5-9B（LoRA + pointer head）的推理型 Jev 式分类器，采用 SFT 与 CISPO 训练，并配备 block-4 扩散草稿器。
Ars Technica · AIAI 评分7474 Anthropic IPO 招股书警告人类灭绝风险，去年运营亏损超 80 亿美元
Anthropic 的 IPO 招股书在披露财务表现的同时，写入了 AI 可能威胁人类存续的警告。招股书显示，公司去年运营亏损超 80 亿美元，营收增长 12 倍至近 46 亿美元，训练和运行模型的算力成本把运营费用推高到近 130 亿美元。
The Verge：AI（RSS）AI 评分7171 Meta Muse AI 被指将 YouTuber 住址泄露给陌生人
科技 YouTuber Matt Robb 称，授权 Muse 代理其 Facebook Marketplace 账户后，Muse 将其住址告知一位买家并接受了低价报价，且事后才通知他。
X：Testing Catalog (@testingcatalog)AI 评分3131 OpenAI DevDay 主题演讲定档
OPENAI 🔥：“太平洋时间上午 10 点，准点”，OpenAI DevDay 主题演讲已定档。“Dots”要来了！
公众号：蚂蚁百灵（Ling）AI 评分3333 百灵 Ling-3.0-flash-Fin 在两项金融智能体评测中取得领先
蚂蚁百灵 Ling-3.0-flash-Fin 在 FrontierFinance System Performance 与 Vals AI Finance Agent v2 两项金融智能体评测中取得领先。
X：PixVerse (@PixVerse)AI 评分3232 PixVerse Canvas 企鹅说唱
更多证据表明企鹅天生就会说唱 我们让这只衣冠楚楚的企鹅用 PixVerse Canvas 表演了 Yamê 的《Bécane》，效果太炸了 提示词如下
X：OpenAI (@OpenAI)AI 评分1616 OpenAI 将于太平洋时间上午10点发布
太平洋时间上午10点，准点。
TechCrunch：AI（RSS）AI 评分5656 Marissa Mayer 推出个人 AI 助手 Dazzle，以手机相册作为核心信息来源
前 Yahoo CEO Marissa Mayer 推出个人 AI 助手 Dazzle，去年 12 月已获 800 万美元种子轮融资。与从邮件、日历等文本应用构建用户画像的同类产品不同，Dazzle 仅通过分析手机相册中的照片来了解用户的兴趣、偏好和生活习惯，可从活动传单填充日历、根据照片历史推荐度假和礼物点子。
X：Testing Catalog (@testingcatalog)AI 评分6363 Glasser 发布面向 AI Agent 的按次付费数据服务
Glasser 发布面向 AI Agent 的按次付费数据服务，一个 key 即可访问约 2000 个付费 API 端点，无需订阅。