美国德州奥斯汀，11月10日 /PRNewswire/ -- Responsible AI Institute（RAI）推出TrustX Assurance Lab，这是一个独立、供应商中立的环境，旨在回答企业在部署自主AI时面临的一个关键问题：在允许AI代理进入生产环境之前，能否证明它会在授权边界内运行？

随着AI系统从生成建议发展到做出决策、调用工具并采取行动，企业需要的不仅是书面政策和模型评估，还需要证据来证明安全控制、授权权限上限、人工审批和升级机制确实有效。

TrustX Assurance Lab是RAI AI assurance工作的基础，覆盖AI发现、基准测试和独立验证。该实验室提供了一种结构化方法，用于对AI工作负载进行分类，在真实和对抗性条件下测试其控制措施，并独立验证相关证据。该实验室已于10月23日在RAISE 2026上进行现场演示，标志着让负责任AI变得可衡量、可证明迈出重要一步。

Responsible AI Institute副董事长Matt Sanchez表示：“多年来，行业一直专注于定义负责任AI应该是什么样子。现在我们必须证明它真的有效。”

“自主AI不能仅仅因为一项政策声称它安全就被信任。它的控制措施必须经得起测试，而且证据必须能够被独立验证。这就是我们创建TrustX Assurance Lab的原因。”

从AI政策到独立保证

负责任AI的第一阶段重点是建立原则、框架和标准。随着AI变得越来越自主，下一步挑战是确保这些要求能够转化为在AI采取行动时真正有效的控制措施。

TrustX Assurance Lab通过六个阶段应对这一挑战：

• 识别：定义AI工作负载、其用途、能力和运行环境。
• 分类：根据自主性、决策权限、系统覆盖范围、持久性和潜在影响评估风险。
• 控制：确定所需的保障措施，并建立其实施和执行方式。
• 测试：在真实、故障和对抗性场景下检验工作负载及其控制措施。
• 验证：将测试结果和运行时证据与既定要求进行独立评估。
• 改进：识别薄弱环节，提出纠正措施，并在系统演进时支持重新测试。

该流程会生成证据，企业可据此用于部署审批、安全审查、内部保证、监管检查以及持续监督。

该实验室建立在RAI的TrustX Health和TrustX Finance工作组基础之上，这些工作组汇集成员组织和领域专家，为受监管行业制定实用的控制要求和证据预期。

RAISE与会者看到的：AI控制如何运作

在RAISE 2026上，RAI演示了一个自主AI工作负载如何通过TrustX Assurance Lab，从初始风险分类到对其行为的独立评估。

演示重点检验了三个关键问题：AI系统被允许做什么？当它试图执行超出这些边界的动作时会发生什么？企业能否提供关于所发生情况的可靠证据？

在现场演示中，RAI对一个员工构建的商务代理通过TrustX Assurance Lab进行了评估：

• 单指令评估：仅根据代理的元数据，实验室就将该工作负载按12个风险维度进行分类并分配风险等级，仅在元数据不完整时才提出澄清问题。
• 运行时决策：在与OWASP Agent Control Standard的概念验证集成中，代理每一步都会触发一个钩子，返回允许、拒绝或询问的决定，其中“询问”会将动作转交人工审批。
• 可验证证据：每一步都会生成带签名的遥测记录。验证器检查完整性并重放这些决定，然后将代理自述风险与其观察到的行为进行比较，生成姿态标签和证据报告。如今，12个风险维度中有8个可在运行时观测。
• 嵌入现有工具：由于大多数AI构建者都在自己已经使用的工具中工作，RAI还展示了同样的评估如何作为Microsoft Copilot插件和Claude技能运行。

这一演示说明了一个根本区别：拥有AI政策，与证明执行这些政策的控制措施按预期运行，并不是一回事。

与主要依赖文档或自我声明的传统评估不同，Assurance Lab在既定测试条件下评估可观察到的系统行为和技术证据。

该实验室目前在合成数据和成员用例上运行，计划于2027年在成员环境中进行测试。

开放、多方合作的AI保证路径

TrustX Assurance Lab整合了开放标准、独立研究、企业实践和运行时控制技术。

• 开放标准：RAI正在参与OWASP Agent Control Standard（ACS）工作组，并在RAISE 2026上演示了ACS集成的概念验证。该实验室提供了一个环境，用于评估与ACS一致的运行时控制在企业要求和真实代理行为面前的表现。
• 独立研究：来自剑桥大学和伦敦帝国理工学院的研究人员贡献了控制架构、评估方法和测量方法方面的专业知识，以增强技术测试的严谨性。
• 企业实践：RAI成员组织和行业工作组提供受真实环境启发的用例、控制要求和证据预期。
• 运行时技术：运行时控制技术将企业政策转化为可执行决策，允许、阻止或升级代理动作，同时记录支持性证据。
• 开放AI基础设施：该实验室使用可通过NVIDIA和Hugging Face获得的模型和支持技术，以便在不同AI架构和实现之间进行可重复测试。

RAI定义独立保证要求并评估证据；技术提供商则展示并实施正在测试的控制措施。企业仍对其自身的生产系统、运营控制和部署决策负责。

该实验室旨在保持供应商中立，并向其他技术提供商开放，只要其实现能够按照实验室发布的要求接受评估。

企业会员扩张

随着RAI企业会员扩展至NatWest、FactSet和Wellington Management，Assurance Lab的推出也反映出金融机构和信息提供商对管理并独立验证日益自主化AI的实用方法兴趣上升。

通过RAI会员资格，组织可以参与行业工作组、贡献共享的负责任AI实践、获取TrustX评估资源，并参与推动基于证据的AI保证的倡议。

Assurance Lab进一步扩展了这些活动，提供一个可将控制要求与实际AI行为进行测试的实用环境。

创始企业首批成员正在组建

RAI正在挑选有限数量的首批企业，参与TrustX Assurance Lab。

参与组织将有机会评估选定的AI工作负载、识别控制要求、测试运行时行为，并开发支持内部保证和独立验证的证据包。

首批成员还将帮助塑造测试方法、行业特定要求以及未来实验室能力。

有意参与的企业可访问www.responsible.ai/trustx/表达兴趣。

关于Responsible AI Institute

Responsible AI Institute（RAI）是一家独立、供应商中立的501(c)(3)非营利组织，也是一个负责任AI“do tank”。该机构成立于2016年，致力于实现一个可信的人类—AI伙伴关系未来，在这个未来中，组织、政府和个人可以依赖AI系统和代理，因为它们的行为可以被证明，而不仅仅是被承诺。

RAI通过三大支柱推进这一愿景：通过教育项目“Build Capability”，帮助个人和组织负责任地使用AI；通过TrustX assurance“Prove Trust”，包括AI发现、基准测试和独立验证；以及通过与成员、研究人员和政策制定者共同开发的行业工作组和开放框架“Shape the Standard”。RAI将其大量工作以开源形式发布。

了解更多信息：www.responsible.ai。

媒体联系

Responsible AI Institute