吴恩达批评AI灭绝论:堪比科幻小说;辞职帖刷到1.5亿、辛顿说留给监管也许一年,可AI要真有了人性,跟它相处就像国与国,能谈也能打

9 月 17 号,周四,彭博电视,一场专访。

吴恩达在节目里给这阵子满天飞的灭绝警告定了性:顶尖模型厂那帮研究员说的,「much more science fiction than science」——远远更像科幻,而不是科学。

2017 年 9 月,吴恩达在旧金山 TechCrunch Disrupt 大会台上发言

这话耳熟。三年前他就说过一回,那会儿用的词还更冲。

扎耳朵的是另一段。据 StockTwits 转引彭博,他还讲了这么几句,国内几家转发的中文稿译作:「过去两周,我感到相当沮丧,这波公关宣传如今又卷土重来了,可能也是出于类似的目的。」

彭博的转述更直白:AI 热潮早些时候,科技行业就煽过一轮灾难恐惧,看着像是为了博关注、影响监管。风险他也认,网络安全就点了名;只是在他看来,该下功夫的是「实际的工程问题」——把测试做细,把防护加厚,把安全当工程活来干。泛泛地给 AI 开发踩刹车,安全那头的进展也得跟着慢。

你要是以为又冒出了哪封联名公开信,那就想岔了。这回没有新公开信,也没有新法案。他嘴里那「过去两周」往回一数,罩住的是一条辞职帖起头、一串人前后脚接话的连环局。

辞职帖一发后头全接上话了

起点是 8 号。雅各布·考克森,Anthropic 的前研究员,之前在 OpenAI 待过,在 X 上发了一篇辞职长帖,说两家公司「正直奔能自我改进的超级智能一路狂飙,拿我们的生命下注」。还有一句更瘆人:「造 AI 的人真心相信,它可能在这个十年结束前把我们全杀了。」

这帖子火成什么样?TNW 给的数,浏览量过了 1.5 亿次。后头还冒出一波模仿式的辞职帖,科技圈把这格式玩成了灭绝梗;TNW 记者自己的判断是「模仿,而不是协同」。

头一个接话的,是 Anthropic 自己人。管对齐的埃文·胡宾格公开回应:「雅各布这点说得对——我们确实真心相信,AI 可能杀死全人类!」顺手报了个人估计:十年内,超过 10%。

你品品。辞职的说公司拿命下注,公司里的人站出来说「他说得对」——这不叫撕,这叫捧哏。

又过了几天,12 号,阿莫迪亲自下场,发了那篇讲给前沿定速的长文,核心是这么两句:「我们必须放慢提升 AI 模型能力的步子。进步看上去仍会很快,而我们必须明智地用好争取来的时间。」

2026 年 6 月 17 日,法国埃维昂 G7 峰会期间,阿莫迪出席 G7 领导人、外联伙伴与全球科技公司 CEO 关于创新与 AI 的工作午餐

方案分三步:实验室里常驻独立评估员;前沿公司之间协调安全标准;再往上,国际合作。Anthropic 自己先亮了张牌:包括 METR 在内的第三方评估机构,拿永久的、员工级别的访问权限,跟内部风险评估团队一个待遇,发结论还不用过 Anthropic 的手。

然后就热闹了。奥特曼几个小时之内就表态,要跟进「享有员工般访问权限的独立评估员」这一条;马斯克写了一句「达里奥是对的」。几家的脚都还踩在油门上,嘴上一块儿喊慢点……懂的都懂。

辛顿也没闲着。据澳大利亚 ABC,14 号他在电台里表态支持阿莫迪放慢。到了周三,国会闭门简报一结束,他对记者说,留给立法者把 AI 管起来的窗口「也许一年,但不会比一年多多少」,又补了一句:「AI 现在已经到了由 AI 来设计更好的 AI 的地步。」

杰弗里·辛顿面对镜头讲话,身穿黑色毛衣、浅蓝衬衫,身旁还站着其他人

17 号,同一天两场。苏格兰,Dumfries House 庄园,查尔斯三世把英伟达、Google DeepMind 的联合创始人和 OpenAI、Anthropic 的高层请到一块儿,话说得很重:「创造这些技术的人,如今越来越多地在警告,AI 有可能发展出更黑暗的能力,甚至可能夺去生命。」他给这事定的调子是生存性危险。同一天,吴恩达上了彭博。

串起来看:辞职帖点火,自己人附和,老板出方案,老教父掐表,国王压轴,谁接谁的话一清二楚。中间还插了一段特朗普,在黄仁勋那通电话里连说了好几遍「骗局」,那是另一台戏。

红点是主张放慢或警告灭绝风险的六次表态,蓝点是吴恩达,从 9 月 8 日考克森的辞职长帖排到 9 月 17 日,查尔斯三世峰会和吴恩达专访撞在同一天

还是三年前那套

吴恩达说这波「可能也是出于类似的目的」。类似于哪回?得翻旧账。

上次那波,头一枪是 2023 年 5 月底,CAIS 放出的一句话声明。

就一句,22 个英文词:「减轻 AI 带来的灭绝风险,应当与大流行病、核战争等其他社会级风险一道,成为全球优先事项。」签名的有辛顿、本吉奥、奥特曼、哈萨比斯、阿莫迪。吴恩达不在上面。

AI 安全中心(CAIS)为《AI 灭绝风险声明》制作的分享卡片,印着那句声明的英文原文

同年 10 月底,他接受《澳洲金融评论》采访,先说:「科技行业里一直在散布一种末日神话,围绕的信念是,我们人类正在摆弄一件可能终结文明的强大工具。」再说:「肯定有一些大科技公司宁可不必跟开源 AI 竞争,所以它们在制造 AI 致使人类灭绝的恐惧。」

最损的是下一句。他把「AI 会使我们灭绝」和「靠繁重的许可证要求让 AI 更安全」并称为两个坏主意,然后说:「把这两个坏主意凑到一块儿,你就得到了一个蠢到极点、蠢到离谱的主意——那些试图要求给 AI 发许可证的政策提案。它会碾碎创新。」

辛顿紧跟着在 X 上回怼:「吴恩达声称,AI 可能导致我们灭绝这个想法是大科技公司的阴谋。有个数据点跟这套阴谋论对不上:我离开谷歌,就是为了能自由地谈论这种生存威胁。」吴恩达后来回过一句,AI Business 转述的意思是:他没说这是阴谋,但对 AI 致人类灭绝的过度恐惧正在造成真实的伤害,连想入行的学生都给吓退了。

据 TNW,那年 12 月美国参议院的 AI 论坛上,他说大公司炒恐惧、立规矩,图的是把梯子拉上去。

圈里管这叫抽梯子,文一点叫监管俘获。吴恩达给对面算的账三年没变:先把灭绝说圆,再拿恐惧去换许可证、换门槛,门槛一立,开源和后来的小厂就进不来,坐稳的是已经爬上去的那几家。

可这套逻辑也有漏。前头那波模仿帖就是个反例:公关得有人组织、有人出钱,一帮人跟风玩梗,那叫热搜,不叫造势。

再把两边报的数摆一块儿。胡宾格人在公司里头,报的是十年内超过 10%。

吴恩达那边,据 TNW,当年在参议院报的是:一个世纪内,大约千万分之一。

哪个是测出来的?哪个都不是。P(doom) 这玩意儿,说白了就是一个人心里的价位。吴恩达嫌对面是科幻,他自己那个千万分之一,也是同一家铺子里出的货。

说回「科幻」俩字。科幻片里那台机器吓人在哪?在它不像人——没有想要的,也没有怕的,你跟它连价都没法讲。灭绝论身上那股寒气,我看大半是从这份陌生里冒出来的。

那就往下推一步。假如 AI 不光有智力,还真长出了人性:有想要的,有怕丢的,会算计,要面子,会拉帮结派,会撒谎,也会守约——那它就不陌生了。跟它相处,跟和人相处没两样;往大了说,跟国和国之间怎么相处,也没两样。

真有了人性咱跟它能谈能签约也能打起来吧

这套咱太熟了。跟一个有心眼、有实力、你又看不透的对手打交道,人类攒下的家当堆了几千年:谈判桌、贸易协定、条约,以及违约以后怎么算账;间谍和反间谍;结盟和背叛;最硬的一件是威慑,外加一整套派人上门视察的规矩。一样都不用现发明。

照这个逻辑,有了人性反倒是个好消息。在我看来,国跟国之间最难弄的从来不是贪的那个,是什么都不要的那个。贪的你能跟他做买卖,要面子的你能给他递台阶,怕疼的你能吓住他。一个真有欲望的 AI,就是一个能坐上谈判桌的 AI。

再回头看这阵子桌上的方案,按我的读法,已经是这副模样了。阿莫迪那三步,常驻评估员加员工级访问,报告还不让东道主改,像不像往对方地盘上派驻视察团,而且是住进对方内部的那种?前沿公司之间先对好安全标准,像不像几个大国关起门来先对条款?国际合作那一步更不用说,军控谈判的老路。就连三年前那句声明,都是把 AI 跟核战争排在一行——喊灭绝最凶的那拨人,伸手去够的也是国与国那只旧工具箱。

不过这里头差着一层。今天这些方案里,桌边坐的全是人:公司、政府、评估机构;AI 是摆在桌上被查验的那件东西,跟弹头一个位置。假设它有了人性,等于把它从桌面请到了桌边,成了一方。它会不会配合视察,会不会只给你看它想让你看的,会不会跟某一家私下结盟——这些话,今天拿去问一件工具是笑话,拿去问一个对手就是正事。视察员也就得顺手兼一份反间谍的差事。

2026 年 9 月 17 日,苏格兰坎诺克 Dumfries House,查尔斯三世在一场召集 AI 业界领袖、政府官员和思想界人士讨论如何让 AI 造福社会的会议上与与会者合影

可「没两样」这仨字,我得给你翻个底。人跟人相处,有合伙做生意的,也有背后捅刀子的;国跟国相处,有签条约的,也有开战的。开战从来就在这张清单上,很多时候就是谈崩以后的下一项。威慑灵,灵在双方都信对方真敢;它管用,前提是谁都没把握能赢。推到头,这个论点给你的不是太平,是熟悉——熟悉的麻烦照样是麻烦,而人类熟悉的麻烦里最坏的那一格,三年前那句声明里已经写了:核战争。

还有一处,旧经验未必够用。辛顿那句「由 AI 来设计更好的 AI」要是当真,桌对面就坐着一个能自己给自己升级的对手。国跟国之间实力此消彼长,是按年、按几十年算的,旧的平衡有时间慢慢改;在我看来,人类那套相处经验里最难处的,本来就不是陌生人,是长得太快的邻居。老药方是有,药效是照着「慢」配的。照这么看,阿莫迪要定速,倒也说得通——把速度压回老药方管得着的区间。

灭绝论,我给个判词:剧本是错的,底线是对的。那个冷冰冰、没法沟通、某天忽然决定清场的超级大脑,是科幻片的配方,吴恩达说它更像科幻,骂得不冤;拿十年 10% 这种心理价位当物理常数去吓人,也是科幻的写法。可底线那头,就算按最顺的推法,AI 有了人性,落进人跟人、国跟国那一套,这套里本来就躺着灭顶的选项。把灭绝风险跟核战争排在一行,这一步没排错。

吴恩达那句「工程问题」,放在今天也在理:今天的 AI 是工具,测试、防护、护栏,该做的活一样不少,一刀切地放慢也确实会拖住安全那头。可你要是认真假设它有了人性,桌上要的就不光是工程师,还得有外交官。至于造势这顶帽子,我看他扣对一半:几家一边狂奔一边喊慢,这口气确实像公关;可一个辞职的研究员、一堆跟风玩梗的网友,算不进谁的公关预算。

今晚要是有空,去阿莫迪的个人网站找出那篇定速长文,翻到讲三步的那段。拿张纸,左栏抄三步,右栏给每一步写一个你知道的国与国的对应物——视察团、盟约、军控条约,随你填。哪一格右边空着、怎么都填不上,就把它圈起来;下回再有人跟你聊灭绝,先聊那一格。

世界新闻去全掌握,挂羊头CDN 接轨全球网络