我共同创办了全球最大的本地运行开源模型平台 这也是企业领导者最关心的问题
Fortune
Ai 注目
过去一年,企业AI与安全的讨论一直聚焦模型来自哪个地区,但作者认为,企业领导者真正担心的是数据会去哪里、谁能看到、会保留多久。文章指出,随着编码代理、内部助手和安全工具在企业中广泛使用,数据留存与模型部署位置已成为更现实的风险点,而开源模型因可在企业自有环境中运行,正被越来越多公司采用。
役立つ
No.ヘルプ

过去一年,关于企业AI与安全的讨论一直聚焦于模型来自哪个地区。这是一个合理的问题。但作为全球最大的本地运行开源模型平台的联合创始人,我经常与越来越多采用开源模型的企业领导者交流。对他们来说,模型来自哪里并不是让他们夜不能寐的问题。

他们更担心的是一些更简单的问题,比如:“我使用这些模型时,我的数据会去哪里?”“谁能看到这些数据?”“这些数据会保留多久?”

这些问题如今比以往任何时候都更重要,不仅因为过去一个月接连发生的最新一轮黑客攻击,包括让全球数百万网站暴露于风险之中的PHP2Shell,更因为AI正在企业中被如何使用。编码代理、安全工具和内部助手会向模型发送大量公司信息:源代码、内部文件、客户资料,以及团队日常工作的上下文。这些信息不仅对企业极其敏感,对任何想训练自己模型的人来说也极具价值。

AI领域的领导者已经在为接下来可能发生的事情做准备。英伟达首席执行官黄仁勋在GTC Berlin的主题演讲中把这一点变成了一个重点,Anthropic副首席信息安全官Jason Clinton最近也警告称,情况在好转之前会先恶化,并敦促企业领导者采取行动。而这一行动的起点,就是弄清楚在使用AI时公司信息会流向哪里。

大多数公司会默认,供应商要么保护他们的数据,要么不保护。现实并没有这么非黑即白。

有一些价格低廉、容易获得的服务,会公开以更低价格换取对你发送数据的训练权。这可能是一笔合理的交易,前提是客户清楚自己在做什么。也有一些提供商承诺零数据留存:提示词和回复会被处理,但不会被存储,也不会用于训练。介于这两者之间的,是一大块灰色地带——这些提供商承诺不会用你的数据训练模型,但可能会保留若干天。

这些做法本身都不一定有问题。但在开发者使用编码代理的比例似乎正朝着100%迈进的世界里,企业领导者需要理解代理代表开发者行动时所带来的风险。一个代理可能会落入上述提供商光谱中的错误一端,而开发者本人并没有做出任何把它放到那里的决定。随着token需求激增,提供商承接了更多流量,但并非所有提供商都建立了与之匹配的控制措施。

企业应当把数据留存视为任何其他供应商风险来对待:直接提问,要求书面答复,并把零留存设为默认选项。

接下来还有关于模型本身的问题。美国还是中国?闭源还是开源?开源模型过去常被视为安全性更低,但在实践中,许多企业发现情况恰恰相反。公司可以在自己的环境中运行这些模型,因此数据不会离开;或者也可以在他们信任的供应商处运行,并放在合规团队已经批准的地区。无论哪种方式,公司都能决定数据去向。

Menlo Ventures最新发布的企业AI现状数据报告显示,开源模型的使用份额正在上升,表明未来增长空间可观。全球约有1000万开发者每月使用Ollama运行开源模型,每天处理数万亿个token。标普500指数成分公司中有85%在桌面端安装了Ollama,用于本地运行开源模型。它们将开源模型整合进工作流程,原因有很多,其中包括开源模型更低的成本,以及在大多数软件开发任务上表现更优或至少相当的性能。比如在编码任务上,开源模型DeepSeek V4 Flash的得分与Anthropic的Opus 5相差不到0.6分,而成本大约只有后者的1/13。

我们合作的一家金融科技公司告诉我们,他们在与一家前沿模型签订的合同开始三个月后,就已经烧掉了全年预算的60%。其中85%的支出来自工程师默认使用最昂贵的模型,于是他们开始测试开源模型,持续时间约一年。在代码审查方面,开源模型(Deepseek)比Anthropic的Sonnet更快也更便宜。对于常规工程工作,开源模型的表现与Anthropic模型基本相同。将大部分工程工作路由到开源模型、同时仍保留前沿模型处理复杂问题两周后,他们的token成本立即下降了30%。

我们的另一家客户是一家大型消费级AI公司,其在前沿模型上的支出超过1000万美元。按照他们自己的(人工)评估,开源模型(Gemma 4)与他们使用的前沿模型表现相当,而成本大约只有后者的1/10。

开源模型也正在成为防御工作的实用工具。安全团队需要与攻击者使用的技术密切配合:分析恶意代码、探测自身系统、实时响应安全事件。在闭源模型上获得这类能力,往往只限于由开发这些模型的实验室控制的特定项目;而开源模型则可供任何需要它的团队使用。

当然,开源模型并非不会被滥用,但答案不是让防御者没有可用选项,而是要在你信任的基础设施上,按照明确的数据规则谨慎运行它们。连实验室自己也这么说。Anthropic的S-1文件承认,网络安全和安全风险可能会延迟其最强大模型的发布。这可以是负责任的选择,但这也意味着,依赖单一受限供应商的防御者,在最需要的时候可能会发现自己无法获得访问权限。

模型的发展速度已经超过了大多数企业AI政策的更新速度。许多一年前对开源模型还持谨慎态度的公司,如今已经能够接受它们,包括在美国之外开发的模型,只要它们运行在美国或欧洲的基础设施上,并遵守严格的数据条款。企业政策应该跟上这一现实。以下三个问题是一个好的起点:

  • 模型在哪里运行,还有谁会接触这些数据?要了解链条中的每一方。
  • 留存政策是什么,是否为零留存?要得到明确答复,并询问如何执行。
  • 你的安全团队是否拥有所需工具?如果前沿工具受到限制,要确保有第二种选择。

AI正成为企业几乎每一项工作流程的一部分。那些处理得当的公司,不会是选对了“正确”模型的公司,而是那些始终掌控自己数据的公司。

Fortune.com评论文章中表达的观点仅代表作者本人,不一定反映Fortune的观点和立场。

チップ
$0
いいね
0
保存
0
閲覧数 16
CoinWorldは、読者の皆様にブロックチェーンを理性的に捉え、リスク意識を高め、各種仮想トークンの発行と投機に注意を払うようお願いします。サイト内のすべてのコンテンツは市場情報または関連する見解のみであり、いかなる形式の投資アドバイスも構成しません。機密情報を含むコンテンツを発見した場合は、“報告”,をクリックしてください。すぐに対処します。
送信
コメント 0
人気
最新
まだコメントがありません。最初のコメントを投稿しましょう!
関連
Garmin Signal VHF获2026年DAME设计奖总冠军
Garmin宣布,Garmin Signal VHF系列被评为2026年DAME设计奖总冠军,并在导航与通信类别中获最高荣誉。该奖项在阿姆斯特丹举行的Metstrade展会上公布。
PR Newswire
·2026-11-19 23:24:55
15
BLUETTI重点展示面向家庭备用电源和户外探险的灵活能源解决方案
BLUETTI表示,随着冬季临近及户外出行需求增长,公司正推出一系列便携式电源产品,以满足家庭备用供电、房车旅行、露营和离网生活等不同场景需求。该公司称,其2026年黑色星期五活动将于11月19日至30日举行,重点产品包括Elite 100 V2、Elite 100 Mini、Elite 300、Apex 300和Balco 260,并提供额外5%折扣码EUPR05。
PR Newswire
·2026-11-19 23:24:53
15
Sui通过Hashi和Fluid将比特币借贷带入主网
Sui宣布Hashi在主网上线,并联合20多家合作伙伴开放比特币抵押借贷、稳定币借款和托管式金融产品。Fluid已支持用户以hBTC作抵押借入USDC,Anchorage Digital提供机构托管接入;此次上线紧随Sui在10月披露的逾5亿美元资本承诺之后,但该数字并不代表已存入Hashi的资产规模。
crypto.news
·2026-11-19 23:24:51
11
瑞银采用Chainlink在以太坊上自动化代币化结构性票据
瑞银与Chainlink合作,将结构性票据的发行和存续期管理接入以太坊,通过Chainlink Runtime Environment把现有银行系统连接到区块链网络。Chainlink表示,生产试点已展示该方案可监控预设产品条件,并在相关生命周期事件发生时发送经验证的指令;未来还可能结合合适的瑞银数字货币产品实现自动结算,但尚未公布上线时间。
crypto.news
·2026-11-19 23:24:49
10
首批主动ETF偏爱银行股,六大行等18只个股被重仓
首批18只主动ETF将于11月23日集中上市。公告显示,这批产品目前平均股票仓位约57%,底仓配置呈现“红利打底+算力增强”特征,银行板块最受青睐,合计持仓市值超过14亿元,在18只基金前十大重仓股总市值中占比超过21%。
The Block
·2026-11-19 23:24:47
10
もっと見る