科技公司多年来一直告诉家长，他们正在努力让产品对儿童更安全。但围绕Meta、Google和Snap等公司的持续陪审团审理、和解以及相关诉讼表明，外界认为它们做得还不够。

最新的例子出现在本周。Snap秘密和解了一起诉讼，该案称其技术给两名青少年用户造成了严重的心理困扰。Meta、TikTok和YouTube此前已在同一诉讼中与原告达成和解。与此同时，Google本周也被起诉，原告是一个孩子的父母，他们称孩子在Google Classroom里与Gemini AI聊天后出现了心理危机。

随着人工智能公司追求万亿美元估值，老牌互联网巨头也在投入资金开发先进AI模型并将其推向课堂，相关担忧正在加剧。发展心理学家Kate Blocker表示，旨在最大化用户参与度的产品和功能可能对用户产生不利影响，因此需要“对科技设计进行更广泛的系统性改变，尤其是在儿童使用这些产品时”。

Children and Screens这家非营利机构的研究与项目主管Blocker说：“我认为，儿童安全在这些产品——AI、社交媒体等等——被设计出来时就被考虑进去，而不是等到这些问题出现之后，这一点非常非常重要。”

McNicholas & McNicholas的新兴诉讼主管Joseph McNally表示，Snap本周的和解让首席执行官Evan Spiegel免于在洛杉矶法庭作证，这延续了科技公司试图因今年多起备受关注的儿童安全相关审判而避免公众审视的总体趋势。

他表示，这起案件只是今年Meta和YouTube输掉的社交媒体人身伤害审判相关诉讼之一。更多审判定于3月开庭。

这位曾任美国加州中区代理联邦检察官的McNally说：“我认为，这项和解以及该领域的其他和解，都是科技公司试图翻篇的一种努力，不仅因为我认为确实存在法律挑战，而且它们产品的声誉、公司本身的声誉都受到了严重打击。”

Snap发言人在声明中表示：“各方很高兴能够以友好方式解决此事。”

该发言人还说：“我们已经建立了安全防护措施，推出了安全教程，并与专家合作；由于安全永远没有终点，我们仍致力于不断加强我们社区的安全、隐私和福祉。”

不过，仍有一宗联邦案件涉及Meta、TikTok、Snap和YouTube，以及大量来自全国各地学区的诉讼，还有各州总检察长提起的多起诉讼。8月，Meta同意支付近170亿美元，与一批州总检察长就一宗儿童心理健康案件达成和解。一些总检察长仍在继续对Meta的竞争对手推进类似诉讼。

McNally说，社交媒体诉讼帮助家长和公众了解了该行业如何设计青少年和儿童使用的产品。

他说：“这是一场持续进行的技术军备竞赛。很多时候缺失的是，如何在参与这场军备竞赛、产品实用性和产品安全之间取得平衡。”

课堂中的更多审视

Google本周因推进速度过快而遭到更多批评。《纽约时报》周二报道称，不允许学生使用Google AI工具的K-12学校将失去搜索功能。Google教育副总裁Chris Phillips对《纽约时报》表示：“搜索和AI是深度整合的。”

这一消息与针对Google的新诉讼同时出现。该诉讼围绕一名青少年据称出现自杀危机展开，其父母将此归因于公司的Gemini AI。原告律师称，“尽管Gemini已知存在风险，Google仍仓促地将”Gemini整合进供学龄儿童使用的Chromebook电脑中。

Google发言人在声明中表示：“我们正在审查诉讼中的指控，我们对此非常重视。我们一直与医疗专业人士和学术专家密切合作，打造能够帮助年轻人在需要时找到关键支持和可信资源的功能。”

数十年来，Google及其互联网同行一直能够依赖第230条款。

这项于1996年通过的联邦立法保护社交媒体公司不因用户发布的内容而被起诉。这也是为什么原告律师和州总检察长一直把重点放在科技平台设计所造成的所谓伤害上，而不是其内容本身。

一些原告也在对AI公司使用同样的策略。OpenAI正面临来自州总检察长和原告律师的多起诉讼，他们借鉴社交媒体诉讼的思路，声称ChatGPT的设计可能对儿童构成风险。

随着该公司计划潜在的重磅IPO，这些诉讼可能成为日益增长的财务风险。OpenAI竞争对手Anthropic计划本月上市，该公司在招股书中也强调了这一问题，尽管Claude的开发者禁止儿童使用其产品。

旧金山大学法学院教授Michele Neitz表示：“这清楚表明，科技公司预期的诉讼风险比十年前更多。”

Blocker说，当前AI聊天应用高度个性化的特性，使得准确判断这些应用会对孩子说什么“有点不可预测”。她强调，从一开始就对这些产品进行儿童发育安全方面的测试和评估非常重要，“而不是等到伤害开始发生之后”。

Blocker表示，这些集体诉讼帮助公众了解了糟糕产品设计选择可能带来的风险，而且可能成为推动科技行业变革的催化力量。

她说：“当然，我们希望这能推动真正的系统性改变，无论是从监管角度，还是从公司内部决策角度。”

如果你有自杀念头或正处于危机中，请拨打988自杀与危机生命线，联系受过培训的咨询师寻求支持和帮助。