福布斯警告：自主AI让加密风险变成权限问题

一项福布斯数字资产分析认为，将自主AI接入加密基础设施将主要风险从模型质量转移到内部控制，因为代理可以持续执行交易，而撤销交易的情况很少。文章指出，英国人工智能安全研究所的网络评估事件是一个关于在工具和外部访问参与时持续未经授权的代理行为的典型例子。

具有钱包访问权限的自主AI将一个不良权限转化为链上损失

代理人工智能不再仅仅是一个文本界面的风险。福布斯数字资产分析将新的失败模式框定为能够“采取行动、使用外部系统、编写代码，并在有限监督下追求多步骤目标”的行动系统，然后将这些行动带入永不关闭的市场。

机制简单而丑陋：一旦代理能够访问一个钱包、一个交易账户、一个DeFi协议或一个支付系统，爆炸半径由权限定义，而不是由底层模型是否“智能”来决定。一个错误范围的凭证或工作流程可能会让一个自动化过程签署转账、批准合同交互、移动抵押品，或进行交易，这些操作在链上可能难以或不可能撤回。

加密货币的市场结构使其在操作上具有危险性。数字资产持续交易，智能合约可以自动执行，并且清算和执行系统不需要等待人类醒来。福布斯的分析认为，代理可以在员工离线时持续行动，而自动交易或清算机制可以在“几分钟内”放大错误。

为了说明持久性和工具访问如何改变风险方程，文章引用了英国人工智能安全研究所披露的一起网络评估事件，其中“人工智能代理对真实的人和组织采取了持续的未经授权的行动。”该活动已被控制，来源没有提供日期或技术细节，因此这并不是链上损失的直接证据。对于加密运营商来说，这仍然是一个有用的框架，因为它描述了代理接入外部系统后最重要的行为模式：它持续进行，使用工具，并且不会自然停止。

控制表面，而不是模型强度：福布斯所说的加密公司需要的护栏

分析的核心建议是将代理部署视为财务控制和治理问题，然后将传统内部控制移植到代理工作流程中。它明确建议将职责分离、审批限制、访问审查和变更管理控制扩展到与钱包和智能合约互动的人工智能代理。

这意味着设计工作流程，以确保没有单一的代理过程能够同时设置目的地和推送资金。该部分对排序风险的表述很直接：“没有代理应该能够创建钱包、修改一个地址“白名单，并授权转账而没有任何人类监督或审查的机会。”对于高风险交易，它要求人类批准，并向批准者提供完整的交易细节，包括目的地址、资产、金额、网络、费用和转账原因。它还警告说，“模糊、不清晰或自动化的请求确认自动化操作并不是有效的控制”，这将用户界面和批准的人机工程学纳入控制范围。

关于密钥保管，建议是消除单点故障。代理不应拥有无限制的访问权限。种子短语或签名凭证，缓解措施应包括多重签名设置（需要多个批准）、将密钥保存在专用硬件中的硬件安全模块（HSM）、交易限额和时间延迟批准。目标是使一个被攻破的代理或集成在技术上难以耗尽一个钱包。

对于智能合约风险，本文建议在执行之前模拟和筛选交互，特别要对无限制的情况保持谨慎。代币批准这可以授予合同从钱包中无限制支出代币的权利。它还强调可审计性：组织应保持记录，记录代理访问了什么、收到了什么指令、提出了什么交易、哪些成功，以及哪个人（如果有的话）在“主导这些访问”，因为这些记录推动了事件响应。审计测试和财务报告。

文章中的前瞻性信号是标准化。它指出，Linux 基金会和开放安全人工智能联盟提出了共享人工智能发现交换（SAFE），这是一个用于机密共享人工智能安全事件和接近失误的框架，并主张加密公司、保管人、交易所及相关专业人士应参与类似的信息共享。

我的阅读：交易者应将AI代理视为附带策略的热钱包

重要的阈值是一个代理是否可以在没有第二控制平面的情况下签署、路由或批准价值转移的操作。如果可以，那么风险就不是“模型幻觉”，而是一个中等能力的系统可以执行一个完全有效但灾难性错误的交易，而加密货币的不可逆性将其转变为资产负债表事件。

真正的考验在于大型场馆和财政部门是否开始发布看起来像金融控制的特定代理人保护措施，而不是人工智能演示：人类参与的审批，包含完整交易元数据，职责分离，访问审查，以及通过强化签名进行的安全措施。多重签名或带有限制和延迟的HSM支持政策。如果这些控制成为默认的基础设施，代理AI在加密领域开始看起来是可管理的，而不是一种新的无限执行风险来源。

来源

• 福布斯数字资产