OpenAI 发布模型失配行为的追踪、调查与披露框架,规定公开披露的标准和时间安排,包括尚未完全解释或缓解的情况;复杂案例可能需要更长调查或第三方协调。同时公布过去六个月在训练或评估中观察到的六份失配案例报告,后续将持续更新。
X 日报个人阅读
2026 年 9 月 17 日 · 周四
2026-09-16 08:00 至 2026-09-17 08:00(北京时间)
关注账号覆盖
条入选
个主题
晨间播报
开车或走路时直接听;会记住播放速度和上次听到的位置。下载 MP3
编辑导言
本期最值得展开的不是下一款模型叫什么,而是 AI 安全讨论如何变成可检查的行动。OpenAI 公布模型失配行为的调查与披露框架,并同时发布六份案例报告;Zack Korman 把监督重点指向网络安全;Yann LeCun 则反对通过放慢进展换取安全。这些声音并未形成共识,但把问题拆得更具体了:哪些行为需要披露,谁有能力监督,技术进步本身又能解决多少风险。
另一条线索来自实际工作。Scale Army 因现成软件不能满足销售辅导需求而自行开发,Manus 尝试把培训导向应用,Gemini 展示从参数化设计到 3D 打印的路径。相较于笼统谈模型能力,这些帖子更值得追问的是交付物和使用流程。与此同时,DeepMind Institute、LawZero 获支持的消息,以及 Timnit Gebru 对参与者同质化的批评,提醒我们:决定 AI 走向的不只有产品团队,也包括研究机构、公共资金和参与讨论的人。
01安全争论落到行动
从失配案例披露到网络安全监督,安全主张需要对应可执行、可检查的机制。
Korman 在 NBC 报道中主张:如果要为 AI 实验室设置监督者,应以网络安全专业能力为核心,而不是由 METR 配置少量网络安全人员来承担。焦点是监督机构的专业构成。
Korman 预测,下一次由 AI 实验室引发的重大 Agent 事故,可能原本完全可以通过良好的网络安全措施避免。这是他对风险来源的判断,并非已发生事故的调查结论。
LeCun 用航空设计和发动机可靠性的进步作类比,认为更好的 AI 会更安全,刻意放慢研发节奏反而适得其反。这是支持加速发展的安全论证,不能直接当作 AI 风险已被解决的证据。
02谁来塑造 AI 未来
跨学科研究、政府支持与参与者多样性,呈现了模型研发之外的治理议题。
Hassabis 表示,DeepMind Institute 将扩大对 AI 时代关键问题的跨学科研究,涉及 AGI 对经济、科学和社会的潜在影响,希望推动关于后续行动的讨论。
Bengio 感谢加拿大与德国政府对 LawZero 的重大支持,称其将推动团队进入下一阶段发展。帖文未披露支持金额、具体形式或技术里程碑;同一消息的法语版本不重复收录。
获 RSA Albert Medal 后,Hassabis 强调:科学与技术带来机会,但在 AGI 时代,艺术与人文学科对于社会决定自己想要什么样的未来同样关键。
Gebru 在校对书稿时重提自己 2015 年的担忧:相较于机器失控接管世界,她更关注推动 AI 技术的人群过于同质、视角单一。她把治理问题的重心放在谁参与技术发展及其决策上。
03把 AI 能力变成业务结果
自建销售工具、人才筛选与实操培训,共同指向能否解决具体业务问题。
Scale Army 认为 Gong 能覆盖约八成需求,但无法充分满足其销售辅导要求,因此自行开发工具:按团队销售标准复盘通话,在 Slack 向销售及经理反馈表现,并跟踪长期进步。Kruger 称,团队正更多地把现成软件未满足的需求交给内部 AI 小组尝试构建。
Kruger 分享 AI 人才筛选标准:不以简历为重点,而是看做过什么、是否熟悉相关工具、能否解决真实业务问题、能否用普通人听得懂的话解释,以及合作过的人如何评价。
Manus 推进 Learn AI with Manus,基于与培训机构、学校及学习社区的合作,把了解 AI 转向实际应用,并寻求全球合作伙伴共同建设更注重实践的学习路径。
李开复认同 Lisa Su 关于人和 AI 协作创造长期价值的主张:关注安全之外,也应关注用 AI 解决哪些有意义的问题。他将这一立场与自己的《AI Native》一书联系起来。
04产品走向具体场景
设计、个人事务与商家广告提供了明确入口,但产品宣称和实际效果仍需区分。
Gemini 展示 Canvas 的实体设计用法:编写定制应用来设计花瓶,通过数学参数调整并查看 3D 效果,再导出 .STL 文件用于 3D 打印,把代码生成连接到实体制作。
Reddy 宣布 Abacus AI Bot,称其可自动寻找并路由到网上的免费 LLM,用于日历管理、订票和预约等个人事务,并宣称可永久免费使用。这是发布方的产品承诺,原帖未提供稳定性、权限或费用边界的验证。
Brockman 提到帮助 Shopify 商家在 ChatGPT 中为商品投放广告。原帖文字仅给出这一方向,未说明开放范围、投放机制或效果数据。
低信号与抓取缺口
第一类,窗口内零发帖:按审计中 status=ok 且 window_post_count=0 的口径,共 34 个账号窗口内无更新:@Red_Xiao_、@OfficialLoganK、@AnthropicAI、@tydsh、@hugo_larochelle、@drfeifei、@soumithchintala、@OriolVinyalsML、@StanfordAILab、@goodfellow_ian、@ShunyuYao12、@NotebookLM、@berkeley_ai、@AIatMeta、@wadefoster、@ilyasut、@seb_ruder、@sundarpichai、@ThomasOrTK、@karpathy、@lexfridman、@JeffDean、@elicollins、@BaiduResearch、@Metamind、@IntelAI、@Tesla_AI、@MSFTResearch、@GoogleDeepMind、@GoogleAI、@fchollet、@rowancheung、@geoffreyhinton、@AndrewYNg。 第二类,有发帖但未选入主报告:共 6 个账号。@steipete 发了 3 条,主要是依赖对话上下文的简短回应;@srush_nlp 发了 2 条,分别是调侃与缺少背景的追问;@EMostaque 发了 3 条,主要是短回复和概念性讨论;@ID_AA_Carmack 发了 1 条,讨论太阳能板平铺的取舍,与本期主线关联较弱;@IBMResearch 发了 1 条,介绍量子误差缓解与纠错的混合方法,属于独立研究信号,本期不为其强凑主题;@sama 发了 1 条,仅预告某项未具名发布推迟至下周。以上均是发了但未入选,不是无更新。其余 12 个有发帖账号各有内容入选;同一账号的重复、上下文不足或信息密度较低内容已筛除。 第三类,抓取失败:无。52 个账号的审计状态均为 ok。 本次关注帖窗口为 2026-09-16 08:00 至 2026-09-17 08:00(北京时间),从现有 44 条 raw 帖选入 15 条,组成 4 个主题;仅依据冻结的 raw/audit 编辑,不重新抓取,抓取成功不额外证明分页覆盖完整。buildernews 的 27 条候选已审阅,本期未混入外部信号,主报告所有条目均来自精确窗口内的关注帖。