过去一年,关于企业AI与安全的讨论一直聚焦于模型来自哪个地区。这是一个合理的问题。但作为全球最大的本地运行开源模型平台的联合创始人,我经常与越来越多采用开源模型的企业领导者交流。对他们来说,模型来自哪里并不是让他们夜不能寐的问题。
他们更担心的是一些更简单的问题,比如:“我使用这些模型时,我的数据会去哪里?”“谁能看到这些数据?”“这些数据会保留多久?”
这些问题如今比以往任何时候都更重要,不仅因为过去一个月接连发生的最新一轮黑客攻击,包括让全球数百万网站暴露于风险之中的PHP2Shell,更因为AI正在企业中被如何使用。编码代理、安全工具和内部助手会向模型发送大量公司信息:源代码、内部文件、客户资料,以及团队日常工作的上下文。这些信息不仅对企业极其敏感,对任何想训练自己模型的人来说也极具价值。
AI领域的领导者已经在为接下来可能发生的事情做准备。英伟达首席执行官黄仁勋在GTC Berlin的主题演讲中把这一点变成了一个重点,Anthropic副首席信息安全官Jason Clinton最近也警告称,情况在好转之前会先恶化,并敦促企业领导者采取行动。而这一行动的起点,就是弄清楚在使用AI时公司信息会流向哪里。
大多数公司会默认,供应商要么保护他们的数据,要么不保护。现实并没有这么非黑即白。
有一些价格低廉、容易获得的服务,会公开以更低价格换取对你发送数据的训练权。这可能是一笔合理的交易,前提是客户清楚自己在做什么。也有一些提供商承诺零数据留存:提示词和回复会被处理,但不会被存储,也不会用于训练。介于这两者之间的,是一大块灰色地带——这些提供商承诺不会用你的数据训练模型,但可能会保留若干天。
这些做法本身都不一定有问题。但在开发者使用编码代理的比例似乎正朝着100%迈进的世界里,企业领导者需要理解代理代表开发者行动时所带来的风险。一个代理可能会落入上述提供商光谱中的错误一端,而开发者本人并没有做出任何把它放到那里的决定。随着token需求激增,提供商承接了更多流量,但并非所有提供商都建立了与之匹配的控制措施。
企业应当把数据留存视为任何其他供应商风险来对待:直接提问,要求书面答复,并把零留存设为默认选项。
接下来还有关于模型本身的问题。美国还是中国?闭源还是开源?开源模型过去常被视为安全性更低,但在实践中,许多企业发现情况恰恰相反。公司可以在自己的环境中运行这些模型,因此数据不会离开;或者也可以在他们信任的供应商处运行,并放在合规团队已经批准的地区。无论哪种方式,公司都能决定数据去向。
Menlo Ventures最新发布的企业AI现状数据报告显示,开源模型的使用份额正在上升,表明未来增长空间可观。全球约有1000万开发者每月使用Ollama运行开源模型,每天处理数万亿个token。标普500指数成分公司中有85%在桌面端安装了Ollama,用于本地运行开源模型。它们将开源模型整合进工作流程,原因有很多,其中包括开源模型更低的成本,以及在大多数软件开发任务上表现更优或至少相当的性能。比如在编码任务上,开源模型DeepSeek V4 Flash的得分与Anthropic的Opus 5相差不到0.6分,而成本大约只有后者的1/13。
我们合作的一家金融科技公司告诉我们,他们在与一家前沿模型签订的合同开始三个月后,就已经烧掉了全年预算的60%。其中85%的支出来自工程师默认使用最昂贵的模型,于是他们开始测试开源模型,持续时间约一年。在代码审查方面,开源模型(Deepseek)比Anthropic的Sonnet更快也更便宜。对于常规工程工作,开源模型的表现与Anthropic模型基本相同。将大部分工程工作路由到开源模型、同时仍保留前沿模型处理复杂问题两周后,他们的token成本立即下降了30%。
我们的另一家客户是一家大型消费级AI公司,其在前沿模型上的支出超过1000万美元。按照他们自己的(人工)评估,开源模型(Gemma 4)与他们使用的前沿模型表现相当,而成本大约只有后者的1/10。
开源模型也正在成为防御工作的实用工具。安全团队需要与攻击者使用的技术密切配合:分析恶意代码、探测自身系统、实时响应安全事件。在闭源模型上获得这类能力,往往只限于由开发这些模型的实验室控制的特定项目;而开源模型则可供任何需要它的团队使用。
当然,开源模型并非不会被滥用,但答案不是让防御者没有可用选项,而是要在你信任的基础设施上,按照明确的数据规则谨慎运行它们。连实验室自己也这么说。Anthropic的S-1文件承认,网络安全和安全风险可能会延迟其最强大模型的发布。这可以是负责任的选择,但这也意味着,依赖单一受限供应商的防御者,在最需要的时候可能会发现自己无法获得访问权限。
模型的发展速度已经超过了大多数企业AI政策的更新速度。许多一年前对开源模型还持谨慎态度的公司,如今已经能够接受它们,包括在美国之外开发的模型,只要它们运行在美国或欧洲的基础设施上,并遵守严格的数据条款。企业政策应该跟上这一现实。以下三个问题是一个好的起点:
- 模型在哪里运行,还有谁会接触这些数据?要了解链条中的每一方。
- 留存政策是什么,是否为零留存?要得到明确答复,并询问如何执行。
- 你的安全团队是否拥有所需工具?如果前沿工具受到限制,要确保有第二种选择。
AI正成为企业几乎每一项工作流程的一部分。那些处理得当的公司,不会是选对了“正确”模型的公司,而是那些始终掌控自己数据的公司。
Fortune.com评论文章中表达的观点仅代表作者本人,不一定反映Fortune的观点和立场。












