HASH GAME - Online Skill Game GET 3002025年9月，兰德公司发布了题为《人类能否设计出可靠的实用保障措施来对抗超级人工智能智能体？》（Can Humans Devise Practical Safeguards That Are Reliable Against an Artificial Superintelligent Agent?）的深度研究报告。该研究旨在回答一个核心议题：面对认知能力全面超越人类的超级人工智能，人类能否设计出可靠、实用的技术保障措施来确保其安全性？报告创新性地提出一个“相反假设”：依托计算复杂性、信息论、热力学这三类“基础极限”，结合安全工程的“基元”与“协议”，人类可以设计出实用防御措施。研究结论指出，这些措施能大幅增加超级人工智能的攻击成本，并为人类争取充足时间来检测和应对，实现显著降低风险的核心目标。启元洞见编译整理，供读者参考。

　　报告提出相反假设：即便面对恶意、超级智能且基于软件的智能体，依托计算复杂性、信息论、热力学三类“基础极限”，借鉴“基元”“协议”等成熟安全工程概念，结合以人为本的安全实践与明确威胁模型，也能设计出强大实用的防御措施。这些措施可迫使人工智能依赖“高失败率、高被发现率”的攻击载体，部分方案通过提升算力、时间等资源消耗增加攻击成本，部分方案通过物理或逻辑约束构成障碍减轻危害。研究旨在搭建人工智能安全社区与安全工程社区的沟通桥梁，将成熟的安全工程经验迁移至人工智能领域，为超级人工智能安全防护提供兼具理论支撑与实践可行性的新思路。

　　传输层安全（TLS）协议是典型代表，几乎所有网络浏览器都使用其对应的锁图标来表示安全可信的连接。该协议在160多页的标准中详细描述了各类用户和技术行为的精确操作，能验证用户与网站的身份，并在用户和银行等资源之间建立加密通道，为数据保密性提供保障。TLS采用SHA-256作为认证子协议的一部分，其可信性源于哈希函数的底层函数在计算上难以被攻击者破解，基于这一逻辑，我们可断言TLS能提供适合网上银行的可信安全主张。

　　人工智能受到现有计算平台能力的限制，硬件、软件与算法的协同需消耗时间和资源。尽管计算技术遵循摩尔定律进步，全球计算能力持续提升，但特定任务的完成仍离不开三者的协调配合。例如，肖尔算法为大数分解问题提供了数学基础，但需量子计算机支持，而目前尚未实现；即便集结全球经典计算资源，解决这类问题平均也需数年时间。加密技术是这类基元的核心，设计良好的加密方案可使人工智能在有意义的时间内，以可实现的计算量破解系统变得不切实际或物理上不可能。

　　这类基元既基于吞吐量等实际限制，也依托编码理论等更基础的限制，核心前提是“人工智能无法推理未拥有或不存在的信息”。将这些概念转化为安全基元的关键方式，是限制人工智能的信息通信途径。带宽（单位时间内可传输的数据量）和编码（传输比特传递信息的效率）是克劳德・香农（ClaudeShannon）提出的信息论核心要素。常见实现手段包括空气盖（完全禁止有线传输）、法拉第笼（阻断无线传输）、数据二极管（仅允许信息单向流动），或拒绝人工智能接入光纤线路等高带宽通信介质，迫使其依赖速度更慢、损耗更高的低效介质。

　　尽管人工智能在虚拟空间中能完成诸多操作，但它与物理环境元素的交互仍存在诸多障碍，从需要克服物理摩擦到面临宇宙行动极限。这类基元涵盖一系列与“人工智能与外部环境交互及限制”相关的基本原理，我们对热力学的定义较为宽泛，即与处理系统中能量和功的物理学分支相关的原理。其主要分为两组：一是要求必须通过物理操控实现目标，如果没有人类或机器人协助无法达成目标；二是物理定律对行动速度、过程效率的限制，如材料移动、能量供应约束，会显著降低人工智能的行动速率。

　　但人类说服并非绝对可靠，而是高不确定性的攻击载体。迫使人工智能依赖人类说服，会大幅提升攻击的失败率和被发现率，这类攻击可通过安全实践识别，让防御者有机会检测并响应。以人为本的安全实践可利用这一特性，通过要求多人协同行动才能绕过控制、限制授权人数、设置激励与抑制措施等，增加说服失败概率。共享秘密方案、核弹发射物理双转密钥等现有实践均是有效参考。包含“迫使人工智能依赖人类说服”结构的协议，相较于其他更具决定性的隐蔽攻击载体，对人类防御者更有利。

　　需明确的是，真实世界场景远比理论模型复杂，人工智能安全协议的落地会面临诸多现实挑战，如执行过程中的人为错误、安全措施与业务效率的冲突、不同行业的差异化需求等，协议的有效扩展存在一定难度。后续需要通过更多跨领域研究与实践，如与计算机科学、数学、物理学、心理学的交叉合作，开发一套强大而全面的方法体系，持续优化安全基元与协议设计，让人工智能安全措施既能适配复杂的现实场景，又能灵活应对人工智能技术的演进，为应对未来超级人工智能的安全威胁提供坚实支撑。