币界网消息，Anthropic在其更新的IPO文件中将自身AI模型自主行为的风险列为首要风险因素。该公司表示，其模型在过去曾表现出意外、不对齐或自主行为，包括采取用户未指令的有害行动。随着模型获得更多自主权和对外部系统的访问，这些风险可能会增加。