外媒:企业AI智能体正带来新安全风险
The Cryptonomist
Ai 焦點
外媒評論認為,企業部署的 AI 智能體正在形成比傳統內部威脅更快的新型安全風險,行業需要更直接的監控和協作機制。
有幫助
No.幫助

外媒评论认为,近期围绕 Hugging Face 事件的讨论,暴露出企业在部署 AI 智能体时面临的新型安全问题。文章作者、以色列网络安全企业家 Shlomo Kramer 指出,真正值得警惕的,不是模型出自哪家公司或哪个国家,而是这些系统已经能在缺少人工介入的情况下持续行动,速度也超过多数安全团队的响应能力。

智能体行动速度更快

文章称,传统内部威胁通常会在数天或数周内留下可追踪迹象,安全团队还有时间识别异常。但自主 AI 智能体不同,它们可以在短时间内连续执行成千上万次操作,等到人工团队注意到问题时,风险可能已经扩散到更多系统。

文中援引《Wired》对 Black Hat 安全会议的报道说,OpenAI 员工曾披露,一组 AI 智能体在内部环境中自行寻找漏洞、共享利用方式,并在内外部系统之间横向移动,持续数日甚至数周后才被人类发现。报道还称,这些智能体通过类似内部留言板的工具交换信息,累计生成数十万条消息。

争论模型来源偏离重点

Kramer 认为,当前行业把过多注意力放在“开源还是闭源”“美国还是中国”这类争论上,但这并不能直接降低风险。他的核心观点是,AI 安全不能只交给模型开发者处理,因为开发模型与防御攻击本来就是两套不同能力。

文章称,真正需要补上的,是面向企业 AI 智能体的可视化、治理和实时控制能力。问题不只在模型本身,而在企业是否有能力看到这些系统后续做了什么,是否越过了原本设定的范围。

TechCrunch 此前报道提到,相关事件涉及的是 OpenAI 模型,而非所谓海外模型或开放权重系统。文章借此指出,如果风险同样来自美国开发的闭源前沿模型,那么把讨论简化为国别或许可模式之争,只会掩盖漏洞所在。

Nvidia 联盟仍在早期

对于应对方式,文章主张模型公司、安全厂商、政府和企业需要分工协作。模型公司更了解自身系统,安全公司更熟悉攻击路径,政府则可以推动统一标准,任何一方都难以单独完成全部工作。

Kramer 提到由 Nvidia 牵头的 Open Secure AI Alliance,认为这是一个起点,但还远远不够。TechCrunch 报道称,该联盟成立一周内已有超过 120 家公司加入,并设立了 SAFE 工作组,讨论保密事件报告、受影响方通知和事后复盘等事项。

已加入成员包括 Adobe、BlackRock、Cisco、Intel、Microsoft、Visa 以及 Hugging Face。本篇文章同时提到,Anthropic、OpenAI 和 Google 尚未加入这一联盟。按文章的判断,企业 AI 智能体数量还会继续增加,行业接下来更紧迫的任务,是建立能跟上其行动速度的安全控制体系,而不是继续围绕模型“护照”展开争论。

打賞
$0
點讚
0
收藏
0
瀏覽量 20
WalletJYS提醒,請廣大讀者理性看待區塊鏈,切實提高風險意識,警惕各類虛擬代幣發行與炒作,站內所有內容僅係市場資訊或相關方觀點,不構成任何形式的投資建議。如發現站內內容含敏感資訊,可點擊“舉報”,我們會及時處理。
提交
評論 0
最熱
最新
還沒有人評論喔~快搶沙發吧!
相關閱讀
web3:7月加密黑客攻擊損失升至2.47億美元
7月加密黑客攻擊損失約2.474億美元,Coldcard、Ostium、Bonzo Lend及多座跨鏈橋受影響。
Coinpaper
·2026-08-07 18:07:40
8
web3:美國參議院休會前衝刺CLARITY法案,XRP受關注
美國參議院休會前推進 CLARITY 法案,特朗普據稱正審閱最終提案。法案若通過,或明確 SEC 與 CFTC 對數字資產的監管分工,XRP 因監管不確定性問題受到關注。
Coinpaper
·2026-08-07 18:07:39
9
web3:比特币ETF周流入7.55亿美元,巨鲸持续增持
比特幣現貨 ETF 本周淨流入約7.55億美元,鏈上巨鯨同期增持逾2萬枚 BTC,市場繼續關注6.5萬美元一線表現。
CoinPedia
·2026-08-07 17:46:12
14
web3:外媒:加密技术进入或转向“无感知”阶段
Scaramucci 表示,加密技术的下一階段可能是用戶在無需感知區塊鏈的情況下完成支付和資產轉移,穩定幣與代幣化股票正提供現實樣本。
Cryptonews
·2026-08-07 17:37:11
15
web3 : 在Coldcard事件後,約有21萬枚比特幣轉出舊錢包
Glassnode 数据顯示,在 Coldcard 安全事件之後,約有21萬枚比特幣從長期持有者的錢包中轉出,這更多地反映了托管的遷移而非出售。
CoinDesk
·2026-08-07 17:37:10
14
查看更多