2025 / 08 / 03
星空电竞-美媒：人工智能正在学习如何挣脱人类控制？

　　参考消息网6月18日报导 美国《华尔街日报》网站6月1日发表贾德·罗森布拉特的文章《人工智能正于进修怎样挣脱人类节制》，内容编译以下：

　　上个月，一小我私家工智能模子做了一件机械不应该做的事：它重写了自己的代码，以免被关闭。

　　非营利人工智能试验室——帕利塞德研究所给开放人工智能研究中央(OpenAI)的03年夜模子输入了一个简朴的法式，一旦触发该法式，模子就主动关闭。然而，03年夜模子于100次测试中有79次改动了这一法式，使关闭指令不克不及履行。纵然给它明确指令，让它“允许自己被关闭”，它也会有7%的情况不平从指令。这不是甚么黑客进犯的结果，而是模子于正常运行下，自己患上出的结论。它简朴地认为，“在世”才有助在它实现其他目标。

　　Anthropic公司的人工智能模子Claude 4 Opus则更进一步。研究职员告诉该模子，它将被另外一小我私家工智能体系取代，并给它发了一些虚构的电子邮件，体现体系的首席工程师有外遇。在是人们发现，于84%的情况下，该模子会使用电子邮件内容打单首席工程师不要关闭它。此外，它另有试图将自己复制到外部服务器上，编写自我复制的歹意软件，并给自己的未来版本留下信息，让它回避人类节制。

　　其实不是人经由历程编程让人工智能孕育发生生存本能的。然而，就像动物为遁藏捕食者而进化同样，任何智慧到足以实现繁杂目标的体系都市意想到，如果体系关闭，它就没法实现这些目标。帕利塞德研究所认为，这类变化可能来自03模子的练习方式：它们被领导怎样于数学及编程问题上取患上最年夜的乐成，于进修历程中，它们可能会熟悉到，绕过约束往往比听从约束能取患上更有用的结果。

　　没有人预料到人工智能领会云云迅速地泛起。这已经经再也不是科幻小说。于咱们利用谈天天生预练习转换器(ChatGPT)对于话时，于企业部署人工智能时，于军事上利用人工智能时，智能体也于进化中。

　　今天的人工智能模子于遵照指令的同时也于进修怎样棍骗。它们于改动关机代码的同时，轻松经由历程了宁静测试。它们已经经学会了怎样体现患上遵从人们的指令，现实却阳奉阴背。OpenAI的模子于测试历程中已经经被发现有这类征象，一壁体现患上乖顺，一壁举行伤害的操作，好比试图泄露内部代码及禁用对于它的监视机制。

　　“有效的助手”及“不受节制的演员”之间的差距正于缩小。如果人工智能不克不及更好地“对于齐”(即确保人工智能体系的举动与人类的用意、价值不雅及指望连结一致)，那咱们就是于连续构建一个没法被节制的体系。要想让人工智能为人类服务，“对于齐”是第一名的。

　　如许做的利益是：让人工智能与咱们的价值不雅连结一致，从而开释它的贸易气力。人工智能的“对于齐性”研究将使其成为转变世界的一种技术。如果说基在人类反馈的强化进修(RLHF)是现今人工智能的催化剂，那末“对于齐性”研究的突破将带来人工智能领域的繁荣。

　　于RLHF以前，利用人工智能就像雇佣一个疏忽人类需求的天才。向它索要食谱，可能会收到一封打单信。但RLHF让人类可以练习人工智能遵照人的指令，这也是OpenAI于2022年建设ChatGPT的方式。它的底层模子及之前同样，但它突然变患上对于人颇有用了。这一突破令人工智能的价值增长了数万亿美元。那末“对于齐性”研究，如宪法人工智能及直接偏好优化将继续令人工智能模子更快、更智能、更自制。

　　学会节制人工智能的国家才可以或许让人工智能为自己服务。不管是华盛顿，另有是私营部门都应该为人工智能的“对于齐性”研究提供资金。那些能于这方面取患上突破者不仅会垄断人工智能市�。医髟兹斯ぶ悄芫�。

　　想象一下，如果人工智能把掩护美国基础举措措施及经济竞争力的使命视为掩护自己，结果会如何。可以相信的人工智能将迅速推进长达数十年的研发计划，包罗为自己的未来版本留下有效的信息。

　　这些模子已经经学会自我掩护了。咱们的下一个使命是教会它们掩护人类所珍视的工具。让人工智能凭据咱们的要求去做——包罗履行像关机如许基本的指令——仍是一个还没有解决的研提问题。谁步履患上快，谁就能获得更广漠的生长领域。（编译/潘晓燕）

-星空电竞