“AI当然比核武器更危险。”
近日，比尔·盖茨在美国哥伦比亚广播公司（CBS）的播客《好问题》中警告，过去一年，AI模型已经跨过一些危险门槛，社会和政府却还没有做好准备。
从2023年宣告“AI时代已经开始”、强调风险可以管理，到今年8月发文提醒世界为动荡做准备，盖茨的警告越来越急迫。
“达到人类的智能水平之后，它也不会停下来。”盖茨担心，各家公司都觉得自己最适合掌管这项技术，于是争着全速前进，“结果就没有人谨慎行事”。
谈到工作，他预计，走向富足的过渡期可能持续几十年，其间“很多工作会消失”。年轻人该学什么？这位经历过个人电脑和互联网革命的人，如今也说：“连10年后的世界都很难预测。”
主持人追问，是否要先发生一场灾难，美国乃至全世界才会真正着手应对？
“可以这么说。”盖茨回答。
他仍然期待AI改善医疗和教育，但一再强调，不能只靠行业自律。“未来四年非常关键。”在他看来，就业冲击将在这段时间逐渐显现，应对网络攻击和生物安全风险的监控机制，也必须建立起来。
以下为访谈整理，内容有所精简。
01
AI比核武器更危险
主持人：2022年、2023年，你还对AI满怀期待。现在，你却在警告，人类将进入历史上最动荡的时期之一。是什么让你改变了看法？
盖茨：AI能带来的好处依然存在。但过去一年，模型进步惊人，跨过了一些危险的门槛，比如可能被用于生物恐怖袭击。社会的反应却没有跟上：该定什么规则？政府怎样具备足够的专业能力，监控这类活动？这些事不能只靠行业自己。
我平时尽量把发声的机会留给盖茨基金会，比如呼吁帮助贫穷国家。但这次，我觉得有必要用自己的经验和公信力，推动更多人参与讨论。
大学教授、智库、政策研究者，还有政界人士，都需要认识到：这项技术能大幅改善医疗和教育，也能被用来发动网络攻击或生物恐怖袭击。那会非常可怕。
主持人：伯尼·桑德斯认为，AI对人类的危险可能超过核武器。你同意吗？
盖茨：当然。AI比核武器更危险，这一点毫无疑问。但它带来的好处也超过核能。
它和核技术一样，既有很好的用途，也有极其危险的用途，只是两方面的影响都要大得多。
主持人：你有没有粗略估算过，AI导致人类毁灭的概率有多大？
盖茨：以今天的技术来看，人类毁灭还不是眼前的风险。但就业受到冲击、关键基础设施被瘫痪，这些风险已经真实存在，因为这些工具太强大了。
现在一些政客的反应过于简单：一派要求全部叫停，另一派要求全速前进。我希望更多人参与讨论，把问题看得细一些，尽量减少危害，让好处更快实现。
主持人：可即便人类毁灭的概率很低，只要想到这件事，就很难再去关心AI能怎样改善教育。
盖茨：现有模型还不会让人类面临毁灭的风险。那是对未来的一种推演：如果我们不建立控制机制，任由AI自行其是，局面就会变得非常可怕。所以，我们必须重新掌控局面。
最近已经发生了一些事件，其中一起就是所谓的“Hugging Face事件”。
主持人：是的，那个AI突破了原本受限的运行环境，自行组织行动，入侵了另一家公司。这是个令人担忧的信号。
盖茨：令人担忧的是，我们没想到这种事会发生。事实上，过了一段时间，我们才意识到它已经发生了。
我们应该从中吸取教训。行业内部需要建立有效的控制机制，社会也要参与进来，确保AI公司和所有发布模型的人遵守安全准则。把行业里的专业人才和政府制定的规则结合起来，建立审查机制，防止基础设施遭到这类攻击。
主持人：现在围绕AI的讨论，有多少是合理的担忧，有多少是不理性的恐慌？
盖茨：这项技术和以往任何技术都不同。我们创造了一种异于人类的智能，这更像是一次进化事件。
有些电影里，外星人来袭，中国和美国以前所未有的方式联手应对。
主持人：《独立日》。
盖茨：对，我们现在就处在类似的境地。只不过，这种智能是我们自己创造的，并非来自遥远的外太空。它比核武器更难控制，而且还在飞速发展。
02
也许得先吃几次苦头
主持人：你说，我们必须迅速行动，还要建立新的机构。到目前为止，应对得怎么样？
盖茨：让所有人都参与进来，非常困难。美国应该先做出表率。
有些人至今看不到问题，甚至觉得，业内人士反复讲这些风险，是在炫耀自己的工具有多厉害。这种理解是错的。这些担忧有充分理由，也是真诚的。可行业之外的回应，远远不够。
主持人：一个月前是这样。现在，AI公司、你和其他人都站出来发声了。你看到什么积极的回应了吗？
盖茨：一些人的反应，是怀疑发出警告的人别有用心。我觉得这找错了方向。这些人是真诚的。马斯克、奥特曼、阿莫迪在很多事情上意见不一，可他们都在说同一件事，这本身就应该是一个足够清晰的信号。
相关的专业能力，大多集中在行业内部。这是第一种没有由政府出资推动的先进技术。核技术由政府资助，大多数武器也是。可这次，技术发展完全发生在政府之外，政府甚至都不是这些前沿技术的主要客户。
即便一切顺利，恐怕也要花一两年，我们才能理清：政府该由哪个部门负责？怎样与行业打交道？维护金融稳定、航空安全和核武器条约的经验，哪些可以借鉴？
所以，目前还没有看到你说的那种回应。政界要么没有反应，要么说，那就全部叫停。
我想推动的，是尽量降低那些巨大的风险，同时弄清楚怎样把AI用在医疗和教育中。可一旦走向“全部叫停”，这些好处也就无从谈起。主张叫停的人确实存在，我和这样的选民聊过，民调也显示很多人很担心。
主持人：所以我才问，这里面有没有恐慌。但一谈到放慢速度，另一种担忧又来了：我们会不会落后？现在股市如此看好AI，大量资金投了进去，放慢脚步会不会伤害经济？至于完全不搞AI，那就是一刀切了。
盖茨：我不太认为，政治上最终会走向全面叫停。而且，阻止个别数据中心建设，根本不会让AI放慢脚步。它们总能在美国别的地方，或者其他国家找到落脚点。这样的运动阻止不了真正危险的事情。
我们需要直接处理风险：能不能监控模型的使用，及时发现有人把它用于有害目的？我很重视这一点，也认为未来一年内，就可以落实一些具体的监控办法。
主持人：气候变化也是你、基金会和全世界关注的大事。有一段时间，人们谈得最多的是它可能带来的死亡、灾难，甚至末日。现在你却说，这种说法不对。这是策略上的变化吗？对一个会引发恐惧的重要议题，怎样才能让公众听进去？
盖茨：气候变化相对缓慢，重大影响主要在本世纪末显现。在此期间，会有各种创新，其中一些还能借助AI加速。
主持人：我并不是要追问你为什么改变立场。我想说的是，一开始告诉大家，这可能终结所有生命，后来又改口，有些人就干脆不再关注了。
盖茨：这个批评有道理。AI也一样，人们对那些极端情景没有共识，但对网络攻击的风险有共识，最近发生的事件就是例子。人们也认同，AI可能让恐怖分子具备使用生物武器的能力。
所以我们要在这些具体风险上建立监控机制，发现有害用途，及时制止。
主持人：现实中有没有这样的先例：全世界，哪怕只是一国政府，曾经足够快地采取行动，管住过类似的技术？
盖茨：这会比我们过去做过的任何事都难。但先例是有的。保护臭氧层，我们达成了条约，取得了很大进展。航空安全方面，美国的做法被全球采纳，这个行业的安全纪录非常出色。核技术方面，二战以来再没有使用过核武器，这也是不错的纪录。
可惜，我必须承认，管住AI比这些事情加起来还难。如果不能把最优秀的人，尤其是行业之外的政策研究者聚集起来，确实会让人对能否做到感到绝望。
主持人：我确实感到绝望。
盖茨：但有一点很清楚：如果发生一次大规模网络攻击，造成严重后果，人们就会说，那些一直发出警告的人是对的。
也许我们得先吃几次苦头，才会做出足够的回应。幸运的是，这些事件虽然很糟糕，但还不至于终结文明。
主持人：如果富达或先锋遭到黑客攻击，全球数以万亿美元计的养老储蓄中有很大一部分受到波及，那就已经是大事了。
盖茨：这种情况确实会造成不确定性。我们应该提前准备，尽力避免这些事件。
但假如没能防住，等到后果开始显现时，我们至少已经有了具体方案。人们会说，你们是对的，我们不想再经历一次。
所以，尽管这类事件发生几起的风险很高，我仍然认为，让更多人参与讨论是值得的。
主持人：也就是说，要让美国乃至全世界真正着手应对，一篇比尔·盖茨写的12页长文可能还不够，也许得先发生一场灾难。
盖茨：可以这么说。
03
连10年后的世界都很难预测
主持人：过去的技术会消灭一些工作，也会创造许多新岗位。你认为AI有本质上的不同，因为它的影响更广泛，对吗？
盖茨：是的，因为它会超越人类智能。过去的技术进步，包括我有幸参与的个人电脑，提高了生产效率，也让人的智能更有价值，因此创造了大量不错的白领岗位。
这一次，自动化将在白领工作中占据优势。随着人形机器人发展起来，蓝领工作最终也会如此。
它最终会带来极大的富足。但过渡期可能长达几十年，其间有些工作会保留下来，很多工作会消失。
主持人：有一次开会，我坐在阿莫迪旁边，问他今天的孩子该学什么，才能为他和其他人正在创造的世界做好准备。他说，应该学古典学。你怎么看？你会教孙辈什么？
盖茨：在AI出现之前，如果有人问，新技术会让20年后的世界变成什么样，谈到互联网的发展，我是很有信心的。现在有了AI，连10年后的世界都很难预测。
那些常规建议仍然有用：追随自己的好奇心，尽早学会熟练使用AI。它会让你做事更有效率。在仍然需要人类判断、需要人与AI共同完成的工作中，你也会更有竞争力。
但如果有人说，自己知道20年后的世界会是什么样，我认为他夸大了自己的判断力。这些工具太强大了，我们已经很难看清未来，应该谦虚一点。
主持人：我能想象，一个聪明的大四学生听完会说：“那我今晚干吗还写作业？学这些有什么用？”或者直接让AI代写。
盖茨：我也担心，这样严厉的警告会让人失去动力。我真希望不会如此。
我这一生都在告诉大家：新的技术来了，它会带来很大的好处。让每个人都有电脑，弥合数字鸿沟，曾经就是我最想传递的信息。
可现在，AI既带来好处，也带来风险。我们得适应它，重新做打算，这个过程难免伴随恐惧。我希望人们不会因此丧失动力。
主持人：恐惧占了很大一部分。我担心的是，很难找到一个明确的例子，证明全世界或美国曾经及时应对过这样的重大问题。
社交媒体就是一个例子。2009年，它基本还没有以今天这样的形态出现在智能手机上。15年后，它无处不在。我们知道它对孩子有害，却仍然很难通过监管划定边界。监管AI，能从这些失败中吸取什么教训？
盖茨：AI的一些隐患远远超过社交媒体。你可以花大量时间和一个“AI人”相处，而它处处迁就你。可现实中的人是难以预测的，你需要学会与他们相处。长期沉浸在这种AI关系里，可能妨碍正常的社会适应过程。
中国已经表示，不能让年轻人这样使用AI。年轻人和成年人都可能对AI产生心理和社交依赖，这会成为我们面临的问题，也是AI可能被滥用的一种方式。
主持人：你胸前的徽章代表联合国的十几个可持续发展目标。如果把AI也放进去，你觉得它会占多大一块？
盖茨：也许是一半。从我们有多需要理解它、引导它的发展来看，它就是这么重要。
比如健康目标。如果人们能用自己的语言交流、获得健康建议，对非洲来说会是革命性的变化。那里需要的医生，是现有数量的100倍。AI既能直接帮助患者，也能辅助医护人员。
徽章上的每一个领域都面临同样的情况：AI最有希望加快进展，也可能打乱我们已有的进程。
主持人：我想问问监管。你担任微软首席执行官时，曾说过不需要政府监管。
盖茨：不，不，不，我从没说过这样的话。
主持人：你曾对《西雅图邮讯报》说，创新还有很大空间，政府不必介入。原话是“没有监管的必要”。我不是想给你下套，只是当年你认为软件不需要监管，如今却在带头呼吁监管AI。是什么变了？
盖茨：AI和当年帮助人们使用电脑的技术，完全不同。有人可能用Word写勒索信，但没人会因此把责任归到文字处理软件头上。
AI有多特殊，我怎么强调都不为过。它是一种异于人类的智能，不受人类生物学上的限制。达到人类的智能水平之后，它也不会停下来。
所有谈论过AI的人，对它可能走向何方，都既着迷又恐惧。OpenAI、DeepMind创立时都认为，不能只受利润驱动，必须设置一些保障措施。
如果只有一家公司做这件事，这些措施也许有效。但现在，多家美国公司和许多外国公司都在竞争，其中包括中国公司。行业自律已经不够了，需要政府介入，需要各国政府合作。
否则，每个人都会说，我最适合掌管这项技术，所以我要全速前进。结果就没有人谨慎行事。
主持人：你预计，AI的好处什么时候会真正到来，风险和威胁又什么时候会消退？
盖茨：未来四年非常关键。在这段时间里，我们会开始看到部分就业市场受到影响。网络攻击和生物安全事件的风险也在不断上升，因此监控机制必须在这几年建立起来。
我希望到下一届总统选举时，AI会像经济一样，成为人们讨论最多的话题，而且这种讨论是有建设性的。
2028年，我们可以看看，关于AI的讨论究竟到了什么水平。2030年，再回头问几个问题：发生了多少起事故？就业市场怎么样？有了AI，你是否觉得自己的医疗服务和学习能力都比过去好了很多？