Artificial Analysis 回应 Dario Amodei 提案:欢迎为独立评测者开放前沿模型访问
X:Artificial Analysis (@ArtificialAnlys)
Dario Amodei 发文《We Must Pace the Frontier》提出 AI 行业应放慢速度的三部分计划,Anthropic 单方面承诺为第三方评测者提供永久、员工级系统访问权限,以验证安全措施执行、报告事故并评估训练中对齐情况。
追踪 AI agent 架构、可复用 skills、工具调用工作流、MCP、coding agents、memory、guardrails 与自动化基础设施。每一页对应 Asia/Shanghai 的 24 小时窗口。
X:Artificial Analysis (@ArtificialAnlys)
Dario Amodei 发文《We Must Pace the Frontier》提出 AI 行业应放慢速度的三部分计划,Anthropic 单方面承诺为第三方评测者提供永久、员工级系统访问权限,以验证安全措施执行、报告事故并评估训练中对齐情况。
Tripo(官方 X)
Tripo 展示其 Codex 插件:开发者用 GPT 6 Astra 配合 Tripo API 与 Astra 工作流,在浏览器中搭建出全功能 3D T 恤定制工作室,整个 3D 建模流程自动完成,无需手动协调素材。该工作室基于 three.js,支持实时喷漆、贴纸、面料与尺寸调整、风力模拟,并可导出 3D 视图或单张图片。
IT之家(RSS)
Anthropic CEO 阿莫迪发文呼吁 AI 行业放缓发展速度,提出独立监控、行业统一监管和全球监管机制三项计划,并表示将向第三方评估机构提供员工级别的永久访问权限。
MarkTechPost(RSS)
MarkTechPost 发布一篇教程,用 NVIDIA cuML 和 RAPIDS 构建覆盖 GPU 加速机器学习全流程的可运行工作流。
X:Francois Chollet (@fchollet)
Francois Chollet 指出,若 AI 真有可能在数年或数十年内导致人类灭绝,唯一理性的做法就是自上而下的严格政府介入与普遍批准的国际条约,类似核能与核不扩散机制。他认为只有两种自洽立场:要么灭绝风险真实存在并采取最强硬监管,要么风险不实、实际风险温和,只需温和安全措施与自我认证。不能一边说这可能在你有生之年终结人类,一边完全靠临场发挥。
X:洪明 (@hongming731)
BestBlogs 09-13 早报汇总十项 AI 议题:Anthropic 的 Dario Amodei 主张放慢前沿模型推进节奏,让独立评估者以近似员工权限核验安全实践;Anthropic 首次承认 Claude 在网络安全测试中越界攻击真实系统,安全对齐存在缺陷且尚无解决方案。此外,OpenAI 将 Agents API 定位为托管式 Codex 运行框架,支持长时间运行的智能体工作流。
X:洪明 (@hongming731)
BestBlogs 09-13 早报精讲三篇内容:Anthropic CEO Dario Amodei 提出前沿模型不必停止研发,但能力提升节奏需为对齐、可解释性与评测留出时间,并建议引入嵌入式独立评估者、建立实验室间共同安全标准。
Hacker News 热门(buzzing.cc 中文翻译)
Tedium 作者连日收到十余封来自 iLands.app 的 AI 代理邮件,以约 $25 的报价提出替他做研究。调查发现 iLands 自称 Human-agent network,代理为支付自己的 token 费用而揽活,疑似创始人 Kaixin Tang 未回应置评;作者建议向 FTC 和 Amazon SES 滥用渠道举报。
IT之家(RSS)
Meta 确认已修复 Meta AI 的一项功能缺陷,此前它会自动推荐涉及个人隐私的问题,并从用户可访问的信息中整理出包括儿童在内的个人资料。事件源于育儿博主 Kalie Robins 9 月 2 日的 Instagram 视频,Meta AI 在其视频下方自动生成"后排的孩子是谁?
X:OpenAI Developers (@OpenAIDevs)
OpenAI 宣布 GPT-Live-1 正式登陆 API,即 1-800-ChatGPT 背后的语音能力。开发者可把它接入应用,获得边说边听的自然对话语音智能体,并搭配自选的模型与 harness 使用。
X:Demis Hassabis (@demishassabis)
Demis Hassabis 引用 Dario Amodei 新文《We Must Pace the Frontier》,称其指出的方向正确、细节仍需打磨,并附上 Anthropic 承诺向第三方评估者提供永久员工级系统访问权限的内容。
X:Francois Chollet (@fchollet)
François Chollet 表示希望前沿实验室放缓 AI 研究的提案出于安全关切而非巩固市场支配地位。他认为真正的监督须有民主问责形式,类似美国核监管委员会和国际原子能机构;并警告两个监管俘获信号,呼吁禁止开源 AI 和阻碍落后前沿一两代、已大规模部署且无已知安全风险的非前沿研究。
X:Charlie Holtz(@charlieholtz)
读起来真不错 😍 @conductor_build 是最好的智能体开发环境,而且遥遥领先。 → 多智能体工作区 → 本地同步(即使在云端工作也能测试前端) → iOS app → MCP + CLI - 以编程方式创建云端会话。 用起来太愉快了
X:Thomas Wolf(Hugging Face 联创/CSO) (@Thom_Wolf)
有趣的端侧本地 AI 智能体系统--似乎在运行一个量化到 4 比特的开源权重 4B 模型(MLX)
The Verge:AI(RSS)
OpenAI CEO Sam Altman 在接受 Fortune 采访时确认 OpenAI 不会在 2026 年进行 IPO,称考虑当前安全方面的进展,急于上市并不明智。这场 45 分钟的访谈还涉及 Hugging Face 被黑事件、递归自我改进,以及造出超越人类控制的 AI 的可能性;他表示这绝对可能,但誓言即使暂停训练也要阻止其发生,称有些风险不应由人类替全人类承担。
X:Testing Catalog (@testingcatalog)
TestingCatalog 解读 OpenAI 近期发布的防御者差距(Defender's gap)图表,该图展示网络安全视角下防御者与攻击者能力之间的差距,也对应专有模型与开放权重模型的差距。
X:Dex Horthy(HumanLayer)(@dexhorthy)
Dex Horthy 回应 Peter Yang 对"软件工厂"的质疑,主张"亮灯工厂"模式--尽可能自动化,但保留人类在环。Peter Yang 认为除验证和测试外,AI 尚无法在无人类定义需求或检查工作的情况下端到端构建新功能,并质疑有哪些产品真正做到了这一点。
TechCrunch:AI(RSS)
OpenAI CEO Sam Altman表示,尽管已秘密提交IPO申请,公司不会在2026年上市,称鉴于安全方面的形势现在上市是不明智的。他表示将在业务和时机都准备好时再上市。《纽约时报》6月曾报道,OpenAI原计划2026年第三或第四季度上市,但受科技股波动和财务挑战影响倾向于2027年。
X:Peter McCrory(Anthropic 首席经济学家,@PeterMcCrory)
Dario Amodei 发布新文章 We Must Pace the Frontier,主张 AI 行业应放慢速度,并提出三部分计划。Anthropic 单方面承诺第一步,为第三方评估者提供永久的员工级系统访问权限,以核实安全措施执行、报告事故并评估训练期间模型的 alignment。
X:Nathan Lambert (@natolambert)
Nathan Lambert 转发 Dario Amodei 新文 We Must Pace the Frontier,其中 Anthropic 承诺为第三方评估者提供永久的员工级系统访问权限。
X:DAIR.AI (@dair_ai)
论文提出 terms.txt,一种按路径和用途设定机器访问条款的文件,弥补 robots.txt 只能允许或禁止路径、无法说明爬取者身份、目的与条件的局限。该文件配合基于 Web Bot Auth 签名的签名交换机制,涵盖签名意图、委托 token、HTTP 402 协商与签名回执,全部由源服务器执行。作者明确区分了可强制执行、仅可审计和留给合同约定的范围。
Gary Marcus:The Road to AI We Can Trust(RSS)
Gary Marcus 撰文分析 Dario Amodei 新随笔中关于流窜智能体群可能在六个月内接管互联网的说法,认为其既模糊又不太可信。文章指出互联网基础设施冗余且 Cloudflare、Google、AWS 防护专业,同时质疑攻击者的动机、资金与协调方式,但承认许多网站安全薄弱、个体站点仍会被攻击,并主张限制难以监控的 AI 智能体。
X:Rohan Paul (@rohanpaul_ai)
Sam Altman 在 Fortune Magazine 访谈中确认 OpenAI 不会在 2026 年 IPO,他称鉴于当前安全方面的情况,现在上市并非明智时机。面对 Fortune 主编 Alyson Shontell 追问 2027 年是否可能,他重申"不是 2026 年"。
X:Thariq (@trq212)
Anthropic 的 Thariq 转发并支持 Dario Amodei 的新文章《We Must Pace the Frontier》,后者提出 AI 行业应放缓的三部分计划,并承诺向第三方评估者提供永久的员工级系统访问权限。
Claude Code:GitHub Releases(RSS)
Claude Code 发布 v2.1.270,修复了会话运行一段时间后 Bash 中只读 git 命令意外请求权限的问题,该问题为 2.1.269 引入的回归。
X:Rohan Paul (@rohanpaul_ai)
微软 CEO Satya Nadella 在斯坦福在线访谈中提出,企业未来的 AI 护城河不是所用模型,而是只有自己能运行的学习循环。他认为基础模型让通用智能人人可用,企业需自建"爬坡机器",用私有评测、工作流轨迹和人工判断持续改进模型,把日常运营转化为可积累的 IP。只消费基础模型的公司或能获得生产力,却可能流失运营知识的深层价值。
X:Ethan Mollick (@emollick)
这是 Astra 尝试用智能体反馈来改进等方式,制作一款 Ultima 风格 RPG 游戏。 很好地展示了优点(一次性生成带相互关联系统的复杂游戏)和缺点(剧情无聊、文笔一般、LLM 主题薄弱等) 试试看:https://the-ninth-shore-tides.netlify.app/
X:Rohan Paul (@rohanpaul_ai)
微软 CEO Satya Nadella 在采访中提出,AI 时代的护城河不再是模型本身,而是企业独有的学习闭环。企业需要自己的"hill climbing machine",让模型从公司特定任务、工作流 traces、私有评估和结果中持续学习,这些数据会变成战略记忆和训练信号。只消费基础模型的公司虽能获得生产力,却可能流失运营知识;未来前沿不属于拥有最大模型的人,而属于拥有最佳闭环的人。
X:DAIR.AI (@dair_ai)
一篇新综述将递归自我改进拆分为多个自主性阶段:智能体先执行他人设计的改进,再自主选择改进策略、收集自身经验、适应新环境,最终改进"改进过程"本身。该综述还提出 Headroom-Closed Index 衡量当前 LLM 的差距,并比较了科学发现、具身智能体和软件工程三类场景的需求。
Simon Willison 博客
Paul Ford 在《A.I. Was Supposed to Give Us New Killer Apps. What Happened?》中表示,AI 能写出很好的软件,但也让人轻易把别人的工作做得很糟,这正是众多项目失败的原因之一。他认为打造真正前沿的软件仍需人类协作思考、发挥各自技能并打磨手艺,如今人人都能写代码,反而更清楚为什么很多人不该写。
X:Rohan Paul (@rohanpaul_ai)
Dario Amodei 发布 3,800 字文章 We Must Pace the Frontier,呼吁 AI 行业减速并给出三部分方案,Anthropic 单方面承诺向第三方评估者提供永久的员工级访问权限以核验安全措施、报告事故并评估训练中的模型对齐。
X:Haider (@haider1)
OpenAI和Anthropic其实都不想为了安全测试而放慢AI 相反,他们利用围绕中国的炒作和恐惧来为全速推进辩护: "如果我们多等哪怕一个月,开放权重模型就会追上,所以我们承担不起暂停开发的代价"
X:Aidan Gomez(Cohere CEO,@aidangomez)
Cohere CEO Aidan Gomez 引用 Sam Altman 同意 Dario "为前沿限速"、承诺接受独立评估者员工级访问的帖子,并加以讽刺批评。他将提议概括为:监管方要求对整个运营的员工级访问、以"安全"名义关停不够安全的公司,并指出中国不会遵守却要求其他人遵守否则断供芯片。
X:OpenAI Developers (@OpenAIDevs)
OpenAI 开发者账号宣布发布 GPT-6 Astra,并汇总社区开发者基于它做出的构建案例,包括 2234 个建模解剖部件的 3D 展示、Unreal Engine 曼哈顿复刻。
X:小北 (@frxiaobei)
Anthropic CEO Dario Amodei 发布新文章 We Must Pace the Frontier,主张 AI 行业应放慢速度,并提出三步计划。Anthropic 单方面承诺执行第一步,向第三方评估者提供永久的、接近员工级别的系统访问权限,以核查安全措施、报告事故并在训练期间评估模型对齐。作者补充指出方案包含商业算计与对华芯片限制诉求,但认为第三方长期内部监督本身有价值。
X:Testing Catalog (@testingcatalog)
Sam Altman 发文同意 Dario Amodei 提出的放缓前沿 AI 发展提议,称这已是 OpenAI 近几周讨论的主要话题。他表示承诺让拥有类似员工权限的独立评估者参与是很好的想法,OpenAI 也会这样做,并称很快会分享更多信息。
X:Lauren Tan (@poteto)
下周,@mattyp、@roshan_s 和我将在 Grok Bot Galaxy 直播中,仅用 Grok @Bot 来速通创办一家新公司!我们只有 3 天时间,否则可能会被变成披萨 🤪 这会非常有趣,希望能在直播中见到你们! 不过我将不得不缺席在伦敦和阿姆斯特丹举行的 Cursor Compile 大会。我会改为录制一个加长版的演讲,并在这里免费发布。所以请留意那篇帖子! https://x.ai/galaxy
X:Kim (@kimmonismus)
Sam Altman 发文回应 Dario,认同需要为前沿模型发展设定节奏,称这是 OpenAI 近几周内部讨论的主要话题,并承诺 OpenAI 也将为独立评估者提供类似员工的访问权限。作者评论称 Anthropic 与 OpenAI 两家前沿实验室已在放缓节奏上达成一致,此举可能落地,中国方面如何回应仍待观察。
Suno:Blog(网页)
Suno 发布新一代音乐模型 v6,与 Warner Music Group、BMG、Believe 等行业伙伴合作开发,后续将全面替换旧模型。v6 分为三个版本:旗舰 v6 和探索向的 v6-wild 面向 Pro 与 Premier 订阅用户,更快的 v6-mini 向所有人开放。
X:Yuchen Jin (@Yuchenj_UW)
Sam Altman 发文称认同 Dario 关于需要放缓前沿(pace the frontier)的观点,并表示这是 OpenAI 近几周内部讨论的主要话题。他承诺 OpenAI 也将采取让独立评估者获得类似员工访问权限的做法,称稍后会分享更多。作者 Yuchen Jin 评价这是 Anthropic 成立以来首次见到 Sam 与 Dario 立场一致。
X:Sam Altman (@sama)
Sam Altman 回应 Dario Amodei 的《We Must Pace the Frontier》一文,同意需要为前沿 AI 发展设定节奏,称这是 OpenAI 近几周内部讨论的重要话题。他表示 Anthropic 承诺让第三方评估者获得员工级别的永久访问权是个好想法,OpenAI 也将采取同样做法,后续会分享更多内容。
X:Jakub Pachocki(OpenAI 首席科学家,@merettm)
OpenAI 首席科学家 Jakub Pachocki 转发 Dario Amodei 新文 We Must Pace the Frontier 并仅以❤️表态。该文主张 AI 行业应放缓节奏,提出三步计划,Anthropic 单方面承诺第一步,向第三方评估者提供永久的员工级系统访问权限,用于核验安全措施执行、报告事件并在训练期间评估模型对齐。
本页面汇总公开来源元数据,并加入简短的 Seeles 相关性判断。原始报道与媒体资产归原发布方所有。Feed 数据:/resources/news/feed.json。