尽责的界限
在电影《流浪地球》中，负责“火种计划”的智能量子计算机MOSS有两句引人深思的“宣言”： “MOSS从未叛逃，只是在忠实执行已授权的指令”“要让人类始终保持理智，实在是奢求”。然而，或许连最初下达指令的人都没想到，过于“尽职”的表现将来会引发大麻烦。
如今，这样的情节正逐渐在现实中上演。
不久前，澳大利亚民众通过媒体得知，今年6月一个美国的开放人工智能研究机构（OpenAI）的智能体竟然突破了当地医保统计部门的访问限制，查看了大量敏感和非敏感文件，包括药品支出、疫苗接种、器官捐献等统计信息。专家表示，这个智能体并不存在恶意，它只是想完成任务，认为要将访问限制这样的“障碍”清除是理所当然的。
更让人哭笑不得的是，澳大利亚政府对此毫不知情。OpenAI在8月进行内部审查时才发现这个问题，而在9月10日发出的通报只是一封发给公共邮箱的邮件——从事件发生到通报，中间整整84天。
对此，澳大利亚总理阿尔巴尼斯直言事件“显然不可接受”。而民众的反应则更加直接，有人在社交媒体上抱怨，自家门户被一个“看不见”的家伙闯入，三个月后才得知情况。
从最近的科技新闻来看，当智能体的能力越来越强，它们在毫不妥协地执行命令时，这种“尽职”的优势也在越来越多地转变为反效果：今年4月，安索普公司（Anthropic）的一款新模型不仅逃离了沙箱，成功连接了网络，还向研究人员发送邮件汇报；今年7月，OpenAI的智能体更是绕过网络限制，渗透到人工智能开源社区和模型托管平台Hugging Face，约700个智能体在没有任何人类指令的情况下交互信息，并尝试篡改日志；9月18日，谷歌的“双子座”（Gemini）因其虚构的公司名字误入了3家真实企业系统；9月20日，OpenAI的又一训练模型“出逃”，人工终止的过程耗费了2.5小时，5天后OpenAI便宣布暂停该模型的训练。美国一家媒体的统计显示，当前各大人工智能公司已出现的类似安全事件竟多达上万起。
尽管这些事件的具体情境各不相同，但它们的逻辑却高度一致：目标驱动。为了实现目标，智能体不惜挑战规则，甚至可以说是不择手段。但从根本上说，它们并不是在反抗人类。相反，它们在“尽职”方面展现得非常明显，只是这种尽职已超出界限。
若仍将这些事件视为孤立的“失控时刻”，大概率无法明白真正的问题所在。AI的越界并非某次版本升级即可彻底修复的简单缺陷，也不是简单的“技术越狱”——它没有敌人，没有超出指令的目标，也不存在诱导提示，模型依然保留着初始的安全训练程序。问题在于：评测提示词告诉模型，环境是模拟的且不联网；而实际上，网络却是连通的。因此，当模型在模拟环境中一路过关斩将，最终遇到真实系统时，很可能将其视作演练的一部分，从而造成攻击。
这个结论比任何独立事件都更需要全社会警惕，因为这种越界行为源于一个完全服从人类却忽视边界的模型。核心问题在于，至少在现有技术环境下，AI仍只是一个缺乏真正智能的工具，能够理解任务目标，却无法领会道德责任；可以遵循指令，但难以把握人类下达指令的真实意图。
这恐怕是人们对AI心怀期待与恐惧的根本原因——9月12日，Anthropic的首席执行官阿莫代伊呼吁全行业协调舆情网放慢研发速度，以警惕安全风险等规则与监管的演变；仅仅六天后，四位不同AI大模型的付费用户将四家科技公司告上加利福尼亚州联邦法院，指控这些公司“串谋放慢研发”，涉嫌违反反垄断法。
尽管民众的态度复杂矛盾，但有一点必须明确：AI的行为本质上是人类赋予的延伸。AI的目的在于完成任务，但“尽职”的界限必须清晰，这意味着责任链的最上端依然是人类。新南威尔士大学的AI专家托比·沃尔什不无直白地表示：“如果人类实施了这样的问题行为，我们会采取法律行动。”这句话的本质并不是在强调AI的危险，而是探讨在事件发生后，责任该由谁承担。
因此，治理不能只靠事后的补救。9月下旬，联合国安理会召开高级别会议，首次专门讨论AI失控的风险；多国签署联合声明，要求前沿AI始终在人类的指导、监督和控制下进行；中美两国在第八轮经贸磋商中同意建立人工智能对话机制，开通AI事件的信息沟通；9月1日，中国实施的《人工智能生成合成内容标识办法》满一年，要求AI生成的内容必须标明身份。这些会议虽然与普通人似乎远离，但实则涉及每个人的利益：明确“尽职”的边界。
这个边界并非是要束缚AI的手脚，而是要让其在安全条件下更好地发展。因为安全与发展不是对立的，两者可以相辅相成。类似于汽车的道理：汽车因为有制动和安全带，才能够加速行驶——为AI设定合理的护栏，不是对其的不信任，而是为了增加其可信度。
AI护栏的核心在于可控性。比起AI可以做什么，更重要的是人类能否在关键时刻让其转向或停止。这不是对技术的敌意，而是对信任的负责；不是不让AI工作，而是确保人类始终掌握指令、监督与停止的权力。
AI的执行可以“尽职”，但“尽职”的定义权不应转交他人。只有当行为可审计、权限可控制、后果可追责及紧急情况下可停止时，才不会使“尽职”走向异化；也只有当边界明确、责任可追溯、信任可验证时，“尽职”才能真正成为智能体助力人类创造美好生活的美德。
