本期最值得展开的不是下一款模型叫什么,而是 AI 安全讨论如何变成可检查的行动。OpenAI 公布模型失配行为的调查与披露框架,并同时发布六份案例报告;Zack Korman 把监督重点指向网络安全;Yann LeCun 则反对通过放慢进展换取安全。这些声音并未形成共识,但把问题拆得更具体了:哪些行为需要披露,谁有能力监督,技术进步本身又能解决多少风险。
另一条线索来自实际工作。Scale Army 因现成软件不能满足销售辅导需求而自行开发,Manus 尝试把培训导向应用,Gemini 展示从参数化设计到 3D 打印的路径。相较于笼统谈模型能力,这些帖子更值得追问的是交付物和使用流程。与此同时,DeepMind Institute、LawZero 获支持的消息,以及 Timnit Gebru 对参与者同质化的批评,提醒我们:决定 AI 走向的不只有产品团队,也包括研究机构、公共资金和参与讨论的人。
从失配案例披露到网络安全监督,安全主张需要对应可执行、可检查的机制。
OpenAI 发布模型失配行为的追踪、调查与披露框架,规定公开披露的标准和时间安排,包括尚未完全解释或缓解的情况;复杂案例可能需要更长调查或第三方协调。同时公布过去六个月在训练或评估中观察到的六份失配案例报告,后续将持续更新。
Korman 在 NBC 报道中主张:如果要为 AI 实验室设置监督者,应以网络安全专业能力为核心,而不是由 METR 配置少量网络安全人员来承担。焦点是监督机构的专业构成。
Korman 预测,下一次由 AI 实验室引发的重大 Agent 事故,可能原本完全可以通过良好的网络安全措施避免。这是他对风险来源的判断,并非已发生事故的调查结论。
LeCun 用航空设计和发动机可靠性的进步作类比,认为更好的 AI 会更安全,刻意放慢研发节奏反而适得其反。这是支持加速发展的安全论证,不能直接当作 AI 风险已被解决的证据。
跨学科研究、政府支持与参与者多样性,呈现了模型研发之外的治理议题。
Hassabis 表示,DeepMind Institute 将扩大对 AI 时代关键问题的跨学科研究,涉及 AGI 对经济、科学和社会的潜在影响,希望推动关于后续行动的讨论。
Bengio 感谢加拿大与德国政府对 LawZero 的重大支持,称其将推动团队进入下一阶段发展。帖文未披露支持金额、具体形式或技术里程碑;同一消息的法语版本不重复收录。
获 RSA Albert Medal 后,Hassabis 强调:科学与技术带来机会,但在 AGI 时代,艺术与人文学科对于社会决定自己想要什么样的未来同样关键。
Gebru 在校对书稿时重提自己 2015 年的担忧:相较于机器失控接管世界,她更关注推动 AI 技术的人群过于同质、视角单一。她把治理问题的重心放在谁参与技术发展及其决策上。
自建销售工具、人才筛选与实操培训,共同指向能否解决具体业务问题。
Scale Army 认为 Gong 能覆盖约八成需求,但无法充分满足其销售辅导要求,因此自行开发工具:按团队销售标准复盘通话,在 Slack 向销售及经理反馈表现,并跟踪长期进步。Kruger 称,团队正更多地把现成软件未满足的需求交给内部 AI 小组尝试构建。
Kruger 分享 AI 人才筛选标准:不以简历为重点,而是看做过什么、是否熟悉相关工具、能否解决真实业务问题、能否用普通人听得懂的话解释,以及合作过的人如何评价。
Manus 推进 Learn AI with Manus,基于与培训机构、学校及学习社区的合作,把了解 AI 转向实际应用,并寻求全球合作伙伴共同建设更注重实践的学习路径。
李开复认同 Lisa Su 关于人和 AI 协作创造长期价值的主张:关注安全之外,也应关注用 AI 解决哪些有意义的问题。他将这一立场与自己的《AI Native》一书联系起来。
设计、个人事务与商家广告提供了明确入口,但产品宣称和实际效果仍需区分。
Gemini 展示 Canvas 的实体设计用法:编写定制应用来设计花瓶,通过数学参数调整并查看 3D 效果,再导出 .STL 文件用于 3D 打印,把代码生成连接到实体制作。
Reddy 宣布 Abacus AI Bot,称其可自动寻找并路由到网上的免费 LLM,用于日历管理、订票和预约等个人事务,并宣称可永久免费使用。这是发布方的产品承诺,原帖未提供稳定性、权限或费用边界的验证。
Brockman 提到帮助 Shopify 商家在 ChatGPT 中为商品投放广告。原帖文字仅给出这一方向,未说明开放范围、投放机制或效果数据。