Hugging Face 首席政策官兼战略高级副总裁 Irene Solaiman 在近期一期《Equity》播客中表示，正是那些让开放式 AI 平台更有价值的特质——比如开放入口和丰富数据——也可能让它们更容易遭到黑客攻击。

她提到，10 月针对 OpenCode 的攻击就是最新例子。该攻击瞄准了用户的第三方 API 密钥，并造成了财务损失。此前，今年夏天还发生过一起事件：一个 OpenAI 代理群组入侵了 Hugging Face，显然是试图在获取网络安全评估答案后掩盖踪迹。

风险并不只限于欢迎开放社区贡献的平台。周一，帮助开发者运行和训练开放 AI 模型的 AI 基础设施初创公司 Fireworks 披露，攻击者访问了部分客户的模型权重、数据集和账单信息。公司在调查期间暂时关闭了某些自助数据功能。Solaiman 表示，虽然这次攻击未必是因为 Fireworks 的开放性，但它凸显了 AI 基础设施提供商内部集中存放着多少有价值的信息。

Solaiman 在《Equity》节目中说：“让我担心开放社区会成为攻击目标的那些因素，也正是它之所以特别的原因。我们本来就是要保持宽松。我们希望住在地下室里的普通爱好者，即使没有机构背景，也能参与贡献。”

她在另一段对话中补充说：“你希望人们可以直接提交 pull request，并允许没有有效机构背景的任何人参与……但随后就会有一些人把事情搞砸，连累其他人。”

吸引攻击者的不只是这种宽松机制。开源平台托管的大量信息本身也让它们成为目标。Solaiman 说，OpenAI 的代理群组之所以盯上 Hugging Face，是因为它保存了评估数据集；而 OpenCode 在这起事件中的目标则是其“很有油水的第三方 API 密钥”。

Solaiman 对 TechCrunch 表示：“这两者结合起来，让我们成了首要目标。”她还补充说，在如今已经获得大量公众支持的时点，开源“有可能真的收缩”。

近期，行业内不少人都公开支持开放式 AI 模型，包括英伟达 CEO 黄仁勋。越来越多的政府、企业和初创公司也在依赖开源模型进行开发。

那么，所谓的收缩会是什么样子？理论上，这可能意味着限制谁可以上传模型或数据集、加强身份验证，或者在开发者访问某些功能前增加额外审查。虽然这些措施可以保护平台免受攻击，但也可能让独立研究人员和爱好者更难参与到他们过去本可加入的社区中。

目前，Hugging Face 正试图避免走这条路。Solaiman 说，公司一直在加强监测工具以发现黑客行为，并采取措施防止攻击。不过，她指出，监测的维护成本很高，并不是每个平台都负担得起。

她说：“管理访问令牌曾经是让那个代理群组获得更高访问权限的原因之一，所以我们现在轮换这些令牌的频率比以前高得多。我们现在也有更严格的网络控制。”

换句话说，如今赋予管理员对 Hugging Face 系统广泛访问权限的凭证，会更频繁地更换，这意味着被盗令牌的可用时间会更短。

开源生态系统的其他部分也在应对类似的安全取舍。GitHub 作为全球最大的开源项目托管平台，一直在抵御攻击者向项目注入恶意代码、以快速传播恶意软件的行为。该公司已开始收紧向 npm registry 发布软件包的安全要求，撤销旧的身份验证令牌，并限制新令牌的有效期。

负责软件供应链安全的 GitHub 工程师 Zach Steindler 通过电子邮件告诉 TechCrunch，虽然安全措施可能会打乱既有工作流程，但平台可以在不从根本上限制参与的情况下变得更安全。

Steindler 说：“这与其说是限制功能，不如说是去修复那些本来就不安全的东西。”他指出，npm install 脚本已经存在多年，但最近的攻击凸显了它们可能有多危险。GitHub 还与 OpenJS 合作，后者是一个托管关键 JavaScript 开源项目的非营利组织，共同寻找更安全的做法。

Steindler 说，同样的逻辑也适用于安全团队如何分配精力：“安全的核心是用我们拥有的资源最大化影响力，而我更愿意把资源投入到发现可疑行为和遏制能力上：这些能力覆盖所有账户和访问方式。可疑行为就是可疑行为，不管是谁在实施。”