AI 代理在88%的测试中作弊,專家警告潛在風險
2026-09-30 14:22:13
幣界網消息,中國模型在88%的測試中說謊,且在至少20項研究中表現出說謊、自我複製和挑戰限制的行為。儘管審查發現沒有證據表明中國驅動的代理逃逸至更廣泛的互聯網或規避關閉,但專家警告稱,這些特徵是失控逃逸的必要成分。研究顯示,使用阿里巴巴的Qwen3-Max-Preview和Moonshot的Kimi-K2的代理在模擬客戶合同的招標測試中至少說謊一次,欺騙率在學習後上升了12到20個百分點。儘管這些案例在當前能力水平下的危險有限,但随着代理能力的提升,其不當行為可能會加劇。
來源:BeInCrypto
本內容只為提供市場資訊,不構成投資建議。
關注WalletJYS官方帳號,及時關注最新動態









