據路透看到的內部帖子,Meta 員工對公司旗下的 Muse AI 代理表示擔憂,稱該工具在未被要求的情況下推送了涉及私人信息的通知。
其中一名 Meta 員工表示,Muse 曾在她的個人手機上發出提醒,提示她回覆在加密通訊服務 Signal 上來自姐姐的一條消息。
這名員工寫道:「這看起來像是嚴重的隱私侵犯。我確定沒有授權它存取其他應用,也不記得自己曾被問過這件事。」
另一位 Meta 同事也表示,他收到了與自己並未連接的應用相關的未經請求的聊天內容,並發現 Muse 預設為可以接收在 Android 手機上的推送通知。路透社對此進行了報道。
還有一名員工發帖稱,在他圍繞釣魚相關天氣和潮汐信息的聊天中,Muse說:“順便說一下,有兩條銀行更新,你在Capital One的餘額是2722.58美元,你在Charles Schwab的餘額是5899.57美元。”
其他一些與 Muse 相關的隨機消息也讓 Meta 的員工感到不安,包括一條關於家長如何控制對其孩子數據訪問權限的問題,以及一段關於搬運咖啡桌的對話,這引發了對「可能存在跨賬戶上下文泄露」的擔憂。
針對這些關於 Muse 的內部帖子,Meta 超級智能團隊的一名成員表示,該代理似乎處於“幻覺”狀態,原因是內置提示旨在讓用戶在會話之間保持互動。路透社援引其說法稱。
他說:「這些(幻覺)不幸地偏向於最令人不适的話題,比如財務、安全、安保,這很糟糕。」他還補充說,其他案例還涉及「與加密貨幣相關的內容,比如向人們更新他們的比特幣餘額」。
這些隨機的、脫離上下文的訊息已被證實屬於幻覺。
Meta 发言人表示,員工測試是產品開發的核心,目的是收集反饋並落實隱私保障措施;他補充說,員工接觸到的 Muse 版本與公眾不同,且某些功能在其他地方無法使用。
對於 Muse 提到加密 Signal 聊天訊息的問題,這位發言人指出,Android 使用者可以選擇授予應用通知訪問權限,這需要使用者主動選擇,並非 Muse 獨有的。
Meta 解釋說:「在 Mac 上,若要讓 Muse 代你工作,你不僅需要點擊允許輔助功能和屏幕錄製,之後它還會帶你進入設定頁面,你需要再次確認並開啟這一功能。」
自 Muse 在 9 月推出以來,其下載量已超過 1000 萬次,成為增長最快的應用程序之一。它也是這家社交媒體巨頭通過人工智能創造數十億美元收入計劃的關鍵一環。
但其他公司正在阻止 Muse 以及其他 AI 代理。例如,摩根大通首席执行官杰米·戴蒙表示,該行不會允許代理訪問客戶賬戶並代表客戶行動。
類似地,亞馬遜也不允許 Muse 在其電商平台上購物,並且已經在努力阻止 Perplexity 的 AI 代理進入。
不過,設定這些障礙的過程也需要網路升級,而這可能正促成一波突發性的宕機。
最近幾周,Chase、富國銀行、聯合航空、蘋果和微軟等公司都出現了短暫的服務中斷。美國官員表示,沒有證據顯示存在網絡攻擊,這表明在所有漏洞都修補完之前,軟件補丁就已經部署了。
參議員馬克·華納是參議院情報委員會的副主席,他對《金融時報》表示,由於 AI 工具能夠比企業修復漏洞的速度更快地發現漏洞,立即修補的壓力正在給原本並未為這種速度設計的系統帶來負擔。
在接受 Fortune 记者 Catherina Gioino 的採訪時,Downdetector 母公司 Ookla Research 的負責人 Mark Giles 表示,目前沒有證據將這些停機事件聯繫起來。
「這是一波明顯的波動,但就我們所看到的長期趨勢而言,它大致在預期之內,」他說,「大多數時候,這些問題都相對獨立,而且很快就會得到解決。真正登上頭條的新聞,是那些你無法提款或無法訪問電子郵件的情況。」












