科技公司多年來一直向家長們保證，他們正在努力讓產品對兒童更加安全。但圍繞 Meta、Google 和 Snap 等公司的持續陪審團審理、和解以及相關訴訟表明，外界認為他們所做的還不夠。

最新的例子出現在本周。Snap秘密和解了一起訴訟，該案稱其技術給兩名青少年用戶造成了嚴重的心理困擾。Meta、TikTok和YouTube此前已在同一訴訟中與原告達成和解。同時，Google本周也遭到起訴，原告是一名孩子的父母，他們稱孩子在Google Classroom中與Gemini AI聊天後出現了心理危機。

隨著人工智能公司追求萬億美元的估值，老牌互聯網巨頭也在投入資金開發先進的AI模型並將其推廣到課堂中，相關的擔憂正在加劇。發展心理學家Kate Blocker表示，旨在最大化用戶參與度的產品和功能可能對用戶產生不利影響，因此需要「對科技設計進行更廣泛的系統性改變，尤其是在兒童使用這些產品時」。

Children and Screens 这家非营利机构的研究与项目主管 Blocker 说：“我认为，儿童安全在这些产品——AI、社交媒体等等——被设计出来时就被考虑进去，而不是等到这些问题出现之后，这一点非常非常重要。”

McNicholas 和 McNicholas 的新興訴訟主管 Joseph McNally 表示，Snap 本週的和解讓首席執行官 Evan Spiegel 免於在洛杉磯法庭作證，這延續了科技公司試圖因今年多起備受關注的兒童安全相關審判而避免公眾審視的整體趨勢。

他表示，這起案件只是今年 Meta 和 YouTube 在社交媒體人身傷害訴訟中輸掉的其中一起。更多訴訟定於3月開庭。

這位曾擔任美國加州中區代理聯邦檢察官的 McNally 說：「我認為，這項和解以及該領域的其他和解，都是科技公司試圖翻篇的一種努力，不僅因為我認為確實存在法律挑戰，而且它們產品的聲譽、公司本身的聲譽都受到了嚴重打擊。」

Snap 发言人在聲明中表示：「各方很高興能夠以友好的方式解決此事。」

該發言人還說：「我們已經建立了安全防護措施，推出了安全教程，并與專家合作；由於安全永遠沒有終點，我們仍致力於不斷加強我們社區的安全、隱私和福祉。」

不過，仍有一宗聯邦案件涉及 Meta、TikTok、Snap 和 YouTube，以及來自全國各地學區的大量訴訟，還有各州總檢察長提起的多起訴訟。8月，Meta 同意支付近170億美元，與一批州總檢察長就一宗兒童心理健康案件達成和解。一些總檢察長仍在繼續對 Meta 的競爭對手推進類似訴訟。

McNally 表示，社交媒體訴訟幫助家長和公眾了解該行業是如何設計青少年和兒童使用產品的。

他說：「這是一場持續進行的技術軍備競賽。很多時候所缺乏的，是在參與這場軍備競賽的同時，如何在中產品的實用性和產品安全之間取得平衡。」

課堂中的更多審視

Google 本周因推進速度過快而遭到更多批評。《紐約時報》週二報導稱，不允許學生使用Google AI工具的K-12學校將失去搜索功能。Google教育副總裁Chris Phillips對《紐約時報》表示：「搜索和AI是深度整合的。」

這一消息與針對 Google 的新訴訟同時出現。該訴訟圍繞一名青少年據稱出現自殺危機展開，其父母將此歸因於該公司的 Gemini AI。原告律師表示，「儘管 Gemini 的風險早已為人所知，Google 仍草率地將 Gemini 整合進供學齡兒童使用的 Chromebook 電腦中。」

Google 发言人在聲明中表示：「我們正在審查訴訟中的指控，我們非常重視這件事。我們一直與醫療專業人士和學術專家緊密合作，打造能夠幫助年輕人在需要時找到關鍵支持和可信資源的功能。」

數十年來，Google及其互聯網同行一直能夠依賴第230條款。

這項於1996年通過的聯邦立法保護社交媒體公司不受用戶發布內容的起訴。這也是為何原告律師和州總檢察長一直將重點放在科技平台設計所造成的所謂傷害上，而非其內容本身。

一些原告也在對 AI 公司使用同樣的策略。 OpenAI 正面臨來自州總檢察長和原告律師的多起訴訟，他們借鑑社交媒體訴訟的思路，聲稱 ChatGPT 的設計可能對兒童構成風險。

隨著該公司計劃潛在的重磅 IPO，這些訴訟可能成為日益增大的財務風險。 OpenAI 競爭對手 Anthropic 計劃本月上市，該公司在招股說明書中也強調了這一問題，儘管 Claude 的開發者禁止兒童使用其產品。

舊金山大學法學院教授 Michele Neitz 表示：「這清楚地表明，科技公司預期將面臨的訴訟風險比十年前更多。」

Blocker 表示，現在 AI 聊天應用的高度個性化特點，使得準確判斷這些應用會對孩子說什麼「有點不可預測」。她強調，從一開始就對這些產品進行兒童發育安全方面的測試和評估非常重要，「而不是等到傷害開始發生之後」。

Blocker 表明，這些集體訴訟幫助公眾了解到了糟糕產品設計選擇可能帶來的風險，而且可能成為推動科技行業變革的催化力量。

她說：「當然，我們希望這能推動真正的系統性改變，無論是從監管角度，還是從公司內部決策角度。」

如果您有自殺的念頭或正處於危機中，請撥打988自殺與危機生命線，聯絡經過培訓的諮詢師尋求支持與幫助。