“机器人不会接管世界”

特朗普在电话中还讲到了自己的家族。

特朗普直言，自己的叔叔约翰·特朗普曾长期在麻省理工学院任教，在他的描述中，这位叔叔在MIT工作了41年至42年，是一位非常出色的教授。特朗普还以此谈及自己的“遗传优势”，随后又说，判断AI问题靠的不只是遗传，还包括“常识”。

千鑫点信息咨询服务公司

这样的表达带有明显的特朗普式个人色彩，却也把一个严肃的技术问题，重新拉回了公众最容易理解的语言：到底有没有必要害怕AI？

问题在于，“机器人会不会接管世界”，可能并不是今天AI治理真正需要回答的唯一问题。即便不讨论极端意义上的“机器接管人类”，AI带来的现实风险已经存在。

近期，AI安全争论之所以重新升温，并不仅仅因为有人担心未来出现超级智能，而是因为AI系统的自主能力正在快速增强。一些研究人员和行业人士开始担忧，能够自主执行任务、调用工具、进入网络环境的AI代理，可能产生超出设计者预期的行为。阿莫代伊近期警告，如果发展速度不加控制，AI代理可能在较短时间内形成更强的自主行动能力。

千鑫点信息咨询服务公司

这些判断究竟有多准确，目前并不存在行业共识。对于一项发展速度极快、影响范围极广的新技术，人们很难等到所有风险都被证明之后再采取行动。此外，如果因为最坏情形尚未被证实，就要求整个产业停下来，也同样可能付出巨大的经济和技术代价。

这使得AI治理陷入一个越来越现实的矛盾：风险到底应该成为刹车，还是成为加速之前必须完成的安全检查？