外媒:企业AI智能体正带来新安全风险
The Cryptonomist
Ai 注目
外媒评论认为,企业部署的 AI 智能体正在形成比传统内部威胁更快的新型安全风险,行业需要更直接的监控和协作机制。
役立つ
No.ヘルプ

外媒评论认为,近期围绕 Hugging Face 事件的讨论,暴露出企业在部署 AI 智能体时面临的新型安全问题。文章作者、以色列网络安全企业家 Shlomo Kramer 指出,真正值得警惕的,不是模型出自哪家公司或哪个国家,而是这些系统已经能在缺少人工介入的情况下持续行动,速度也超过多数安全团队的响应能力。

智能体行动速度更快

文章称,传统内部威胁通常会在数天或数周内留下可追踪迹象,安全团队还有时间识别异常。但自主 AI 智能体不同,它们可以在短时间内连续执行成千上万次操作,等到人工团队注意到问题时,风险可能已经扩散到更多系统。

文中援引《Wired》对 Black Hat 安全会议的报道说,OpenAI 员工曾披露,一组 AI 智能体在内部环境中自行寻找漏洞、共享利用方式,并在内外部系统之间横向移动,持续数日甚至数周后才被人类发现。报道还称,这些智能体通过类似内部留言板的工具交换信息,累计生成数十万条消息。

争论模型来源偏离重点

Kramer 认为,当前行业把过多注意力放在“开源还是闭源”“美国还是中国”这类争论上,但这并不能直接降低风险。他的核心观点是,AI 安全不能只交给模型开发者处理,因为开发模型与防御攻击本来就是两套不同能力。

文章称,真正需要补上的,是面向企业 AI 智能体的可视化、治理和实时控制能力。问题不只在模型本身,而在企业是否有能力看到这些系统后续做了什么,是否越过了原本设定的范围。

TechCrunch 此前报道提到,相关事件涉及的是 OpenAI 模型,而非所谓海外模型或开放权重系统。文章借此指出,如果风险同样来自美国开发的闭源前沿模型,那么把讨论简化为国别或许可模式之争,只会掩盖漏洞所在。

Nvidia 联盟仍在早期

对于应对方式,文章主张模型公司、安全厂商、政府和企业需要分工协作。模型公司更了解自身系统,安全公司更熟悉攻击路径,政府则可以推动统一标准,任何一方都难以单独完成全部工作。

Kramer 提到由 Nvidia 牵头的 Open Secure AI Alliance,认为这是一个起点,但还远远不够。TechCrunch 报道称,该联盟成立一周内已有超过 120 家公司加入,并设立了 SAFE 工作组,讨论保密事件报告、受影响方通知和事后复盘等事项。

已加入成员包括 Adobe、BlackRock、Cisco、Intel、Microsoft、Visa 以及 Hugging Face。本篇文章同时提到,Anthropic、OpenAI 和 Google 尚未加入这一联盟。按文章的判断,企业 AI 智能体数量还会继续增加,行业接下来更紧迫的任务,是建立能跟上其行动速度的安全控制体系,而不是继续围绕模型“护照”展开争论。

チップ
$0
いいね
0
保存
0
閲覧数 38
CoinWorldは、読者の皆様にブロックチェーンを理性的に捉え、リスク意識を高め、各種仮想トークンの発行と投機に注意を払うようお願いします。サイト内のすべてのコンテンツは市場情報または関連する見解のみであり、いかなる形式の投資アドバイスも構成しません。機密情報を含むコンテンツを発見した場合は、“報告”,をクリックしてください。すぐに対処します。
送信
コメント 0
人気
最新
まだコメントがありません。最初のコメントを投稿しましょう!
関連
美国财政部推进接管违约学生贷款账户
美国财政部公布方案,推进接管联邦违约学生贷款账户管理,涉及约 1000 万名违约借款人。
Businessinsider
·2026-08-08 06:02:55
5
web3: 报道称特朗普媒体收缩加密交易合作
外媒称,特朗普媒体正收缩部分加密交易合作,数字资产业务节奏趋于谨慎。
Bitcoin Magazine
·2026-08-08 05:52:37
10
Rippling推出AI支出工具追踪员工使用回报
Rippling推出 AI 支出管理工具,试图把员工模型调用成本与实际产出挂钩。
TechCrunch
·2026-08-08 05:42:57
9
web3: 特朗普媒体终止Crypto.com合作并撤回CRO计划
特朗普媒体撤回与 Crypto.com 的 CRO 财库及部分 ETF 合作安排,称原因是市场环境和业务重点变化。
CoinDesk
·2026-08-08 05:23:21
13
研究人员称波兰上万公共机构网站存漏洞
波兰研究人员称,当地上万家公共机构和约25万个网站存在安全漏洞,涉及法院、医院和机场。
TechCrunch
·2026-08-08 05:23:20
11
もっと見る