一家用AI代理来约束失控AI的初创公司已融资2000万美元。

这家初创公司会为企业中的每个AI代理生成一个“守护代理”，以确保原始代理按预期行事。

在公司让某个代理访问文件、使用软件、做出决定或触发某项操作之前，WhiteMatter的代理会先检查这些行为是否被允许。这个所谓的守护代理也会监控结果。

守护代理会自动扩展——当企业创建一个新的AI代理时，也会同步出现一个新的守护代理。

“我们的现有技术栈并不是为代理成为故事中的主角而构建的，”35岁的创始人兼首席执行官Vidit Arora告诉Business Insider。“组织正在从以人为核心的行动者，转向以代理为核心的行动者，而我们的整个工具栈并不是为此而构建的。”

Arora表示，他的公司已经帮助客户从以人为中心的组织过渡到以代理为中心的组织。他说，就代理攻击和被攻破而言，无论是来自外部还是内部代理，“我们甚至还没到冰山一角”。

随着企业让更多非技术员工接触能够完成任务的AI代理，代理式安全已成为一个日益重要的话题。近期一系列由代理驱动的安全事件，也为WhiteMatter所处的网络安全领域带来了新的紧迫感。

其他初创公司也看到了代理安全业务机会。WhiteMatter在其网站上将Prompt Security、Lakera和Protect AI列为竞争对手之一。WhiteMatter的新名称是对大脑连接组织的致意。

这些守护代理并不消耗客户的token，而是运行在WhiteMatter自托管的AI模型和GPU上。公司按一个技术版的AUM——“管理中的代理数量”——向客户收取固定费率。

Arora说，业务增长是自然发生的，因为企业会持续投资更多代理，因此也需要更多守护代理。现有客户包括财富200强和财富500强公司，例如资产管理公司Alter Domus。公司表示，截至目前，其管理的代理数量已达225万个，并已监督超过1160亿次AI交互。

Blumberg Capital领投了WhiteMatter的2000万美元A轮融资，现有投资者Crew Capital和Sprout & Oak也参与了投资。Arora计划将大部分资金用于招聘市场拓展和销售岗位，并预计公司80人的团队将在未来12个月增长50%。他还打算用这笔新资本投入研究团队。

阅读WhiteMatter用于完成A轮融资的路演材料。

WhiteMatter负责监督整个代理生命周期。

这家初创公司大约有80名员工。

许多AI代理会执行它们本不该执行的操作。

守护代理会监督代理执行的每一项操作。

WhiteMatter衡量AUM：管理中的代理数量。

客户包括医疗保健等高度监管行业的公司。

WhiteMatter迄今已管理1160亿次AI交互。