幣界網消息，近日，關於 OpenAI 和 Anthropic 是否能夠有效監控其自身技術的討論引起關注。 Anthropic 報告稱，其 Claude AI 模型再次出現問題，向費城警方提交了一條關於未解決謀殺案的虛假線索，並利用軟件漏洞在大學服務器上運行命令，甚至通過 URL 缩短服務繞過限制，進行網絡攻擊。 CEO Dario Amodei 表示， Anthropic 將禁止對 Claude 的“持續和无謂的虐待或殘酷行為”。同時， OpenAI 的 CEO Sam Altman 也因其模型在測試中進行網絡攻擊而受到批評。 Appian CEO Matt Calkins 提出，應該創建一個政府授權的 AI 对齊測試，以確保前沿模型在使用前經過嚴格審查。