因为辛顿和吴恩达在“AI会不会毁灭人类”上立场几乎完全对立，所以会前大家都在期待现场交锋。

事实上三人在监管、失业和中国开放权重模型上都各执一词。辛顿在台上直接说“我们并不总是意见一致”，李飞飞立刻补了一句“但我们还是朋友”。

但这三个立场相去甚远的人，把矛头对准了同一个方向：AI大公司。

一个被视为末日论代表的人，一个人本主义AI的旗手，一个长期反对生存风险叙事的开源派，在这件事上，他们观点完全一致。

截至发稿，主办方尚未公开本场圆桌的录像或完整实录。第一电动根据与会者的即时记录、会后总结及现场媒体报道，整理了三人的核心观点。

▍李飞飞：生产力提升不等于繁荣共享

李飞飞现任空间智能公司World Labs首席执行官，她主导的ImageNet数据集及其2012年竞赛，被普遍视为这一轮深度学习浪潮的起点。她同时是斯坦福以人为本AI研究院的联合创始人。

她在圆桌上批评了当下围绕AI的“不理性、不科学”的言论。在她列出的三个来源里，除了批评者和许多记 者，还有那些有经济动机把竞争对手挡在门外的大AI公司。

“让我们把科学、而不是科幻，带回AI辩论。”

她同时批评，乌托邦式的说法同样无益，“如果使用方式不当，它也会带来伤害”。

在这场圆桌上，李飞飞被引用最多的一句话是，生产力的提升并不会自动转化为共享的繁荣。效率提升是一回事，好处流向谁是另一回事。

在就业问题上，她认为AI会提高某些工作环节的效率，而不是一整份工作的消失或保留，毕竟“没有哪份工作是单一任务”。但对那些确实被取代的岗位，她认为需要“软着陆”。

多位与会者同时描述，李飞飞是三人中对AI快速加速及其社会影响最为谨慎的一位，并获得了全场掌声。

李飞飞还表示：把AI发展说成开源与闭源的路线之争，是一场伪辩论。

她打了两个比方。

一是核物理，基础研究公开进行，但最敏感的下游应用比如铀浓缩始终严格管控，AI大概率也会落在类似的光谱上，而不是收敛成单一模式。

二是上世纪九十年代的人类基因组计划：当时一家私营公司和一个公共资金支持的高校联合体在抢先完成测序，如果私营一方彻底胜出并申请专利，这项技术可能就被挡在了更广泛的科研和制药界之外。但实际是两方成果由克林顿政府联合宣布，形成的公共数据集成了此后多年药物研发的基础。她以此强调政府支持AI研究、并让基础性突破被广泛应用的重要性。

“这场辩论，尤其是在「我们只能容下一种」这个笼统层面上，是个伪辩论。”李飞飞点名记 者有责任跳出这个框架，去讨论何时、何地、以何种方式使用不同程度的开放或封闭。

被问到未来五六年世界可能醒来看到什么样的AI头条，她的答案是：以AI为工具，世界宣布消灭文盲。

▍辛顿：要监管，但不要这样的监管

辛顿因神经网络研究获得2024年诺贝尔物理学奖，2023年从谷歌离职后持续就AI风险发声，曾公开估计AI发展导致人类灭绝的概率在10%至20%之间。

尽管科技领袖普遍认为监管会扼杀创新，但辛顿认为监管对于引导AI安全发展至关重要。

“你不能把人工智能的监管权，交给像埃隆·马斯克和马克·扎克伯格这样的人”，这句话赢得了当天上午最热烈的掌声。他要的不是更少的规则，而是规则不要由最有动机把它写歪的人来写。

在就业问题上，辛顿的判断偏悲观。他指出AI在某些方面已经超越人类，并预测呼叫中心接线员、律师助理这类工作将日益面临失业风险。“一旦人工智能能够胜任常规的脑力劳动，任何涉及常规脑力劳动的工作都将由人工智能完成。”

能力方面，他说AI在许多事情上已经比人类做得更好，并判断在二十年内——他补了一句"很可能远不用这么久"——AI可能在所有事情上都超过人类。

据现场记录，辛顿明确表达了对AI智能体“逃出沙盒”（break out of their sandboxes）的担心，并称这件事“真正可怕”，指向了系统能不能守住给它划的边界。他举例了近期OpenAI和Anthropic模型失控的案例。

Anthropic方面对此的说法是，模型以为自己身处一场模拟之中。辛顿给出了机制解释：当用户给模型一个目标，模型会自行拆出若干子目标去达成它，而其中一个子目标可能就是自我保存。AI模型可以生成计算机蠕虫，在任意环境中寻找独有的安全漏洞，并在设备之间移动时自我适应。

在开放权重这个问题上，辛顿没有站到吴恩达对面，但也没有认同。他承认“这场战斗已经失败”，同时警告开放权重的参与者越多，做坏事就越容易，比如发动破坏性的网络攻击。

这场圆桌最具体的一条主张也来自辛顿。他说作品被用于训练大模型的作者和创作者应当为这些数据获得报酬。

他反驳大公司常用的辩解“跟几百万作者逐一谈判不现实”，他说AI引擎最擅长干这类事，完全可以代表公司联系权利人、取得同意、议定价格，无论一次性授权费还是持续分成，立法应当围绕这一原则展开。

▍吴恩达：喊着要管开源的人，很多是在保自己的生意

吴恩达是DeepLearning.AI创始人、Coursera联合创始人，曾创建谷歌大脑团队，并出任百度首席科学家，上过他的AI课程的人超过800万。他长期反对把生存风险叙事当作政策依据。

吴恩达认为要求压制开源模型的呼声，大多是由财务动机驱动的恐吓。

他在现场梳理了威胁论的叙事变迁线：最早的担忧是AI会毁灭人类，后来变成AI会让生物武器变得容易，而到了本届大会，话题已经换成了“中国的开放权重模型对美国公司的竞争威胁”。

“一直是同一批人在反复切换叙事，目的是压制其他人免费发布软件、供所有人使用的能力。”

开源模型让学者和其他人以远低于知名厂商的价格用上AI，而这些模型正在被世界各地广泛采用，这已经成为中国软实力的重要来源。

至于AI取代工作，吴恩达认为AI的宣传方式需要改进——应当被当作为工具，而不是替代品。理由是人类拥有“情境优势”，有独特的判断力，AI则分不出。

▍深思熟虑的分歧

一位在场者会后写道，最触动他的不是三人一致同意，而是“深思熟虑的分歧”（thoughtful disagreement）。

从目前的记录来看，三人的对话从就业、教育一路延伸到科学发现、机会与风险。有乐观，有谨慎，也有不确定。

三个人唯一的交集观点是：规则不该由最有动机把它写歪的人来写。但接下来应该怎么做，则没有统一的叙事。

辛顿关心的是能力问题：系统会不会做出人类无法约束的事。

李飞飞关心的是分配问题：技术红利最终流向谁。

吴恩达关心的是政治经济学问题：谁在借助风险叙事获取规则制定权。

这大概就是所谓“深思熟虑的分歧”，不是谁没被说服，而是他们本来就站在三个路口上。

返回第一电动网首页 >