纳斯达克开盘钟声前 Anthropic CEO 重申将放缓 AI 研发节奏
TechCrunch
11-20 00:32
Ai 焦点
Anthropic 首席执行官 Dario Amodei 在纳斯达克开盘钟声前重申,公司将以安全为先推进 AI 研发,不会屈从于商业或政治压力,并称训练和部署 AI 系统将按确保安全所需的时间推进。
有帮助
No.帮助

Anthropic 周四在华尔街迎来“首秀”,并完成了历史上规模最大的 IPO。首席执行官 Dario Amodei 在纳斯达克开盘钟声前发表讲话,重申公司致力于负责任地开发人工智能。他表示,这家 AI 公司不会屈从于商业或政治压力,并将“始终处于人类控制之下”。

Amodei 读着打印稿开始演讲,先谈到 Anthropic 的创立初衷:打造能够造福人类的强大技术。他说,这一想法受到他父亲因一种在几年后就变得可治愈的疾病去世的影响。

他承认,尽管人类智慧已经让鼠疫、天花和脊髓灰质炎等疾病在世界大部分地区成为历史,但仍有太少的科学家、太少的时间去推动其他疾病领域的进展。他表示,AI 可以通过与人类协作来帮助推进医学进步。

Amodei 以强调 AI 可能带来救命用途的故事开场,也颇具意味,因为他一直反复警告技术推进过快的风险。9 月,Amodei 曾因提出一项放缓 AI 发展的计划而受到关注,其中包括与其他领先公司协调安全标准,以及引入第三方组织的评估人员,核实企业是否遵守其安全承诺。

OpenAI 首席执行官 Sam Altman、Google DeepMind 负责人 Demis Hassabis 以及 xAI 创始人 Elon Musk 都表示认同 Amodei 的立场,不过几乎没有人作出具体承诺。

在周四上午的讲话中,Amodei 再次强调,推进 AI 技术与确保安全同样重要。他提到,AI 落入不良行为者之手会带来“非常真实的风险”,无论这些行为者是个人还是民族国家;此外,还可能引发“经济扰动”以及“失去对 AI 系统的控制”。

他表示,只要有相应保障措施,这些风险是可以避免的。Amodei 说,公司将继续投入 AI 对齐与测试工作,并开发新的方式来理解 AI 行为,从而让其保持在人类控制之下。

“还有很多工作要做,最困难的安全工作还在前方,”他说,“公司令人难以置信的人才帮助我们构建了最强大的 AI 系统,但接下来需要比以往更加把精力放在反复确认这些系统是安全的,并且仍然受人类控制。”

“我明确地说,我们会放缓 AI 系统的训练和部署,在获得足够信心、确认它们安全且仍受人类控制之前,会尽可能花费必要的时间,”Amodei 总结道。

Anthropic 联合创始人、Amodei 的妹妹 Daniela Amodei 周四在接受 CNBC 采访时也表达了类似观点。她说,虽然风险真实存在,但 AI 的前景同样“令人难以置信”。

“我们创立公司的初衷就是要减轻这些风险,我认为到目前为止我们在这方面做得非常出色。显然,我们还有很多工作要做,但我们对安全有着深度承诺,”她补充说。

以下为 Dario Amodei 开场演讲全文:

谢谢你,Daniela。我的联合创始人和我创立 Anthropic,是因为我们相信,当代最强大的技术应该为全人类的利益而构建。Daniela 和我都曾失去父亲,他死于一种几年后就变得可治愈的疾病。我最初从事生物学研究,希望能帮助未来的治愈来得更早一些。在实验室里,我看到了科学家在理解疾病和开发新疗法时所面对的巨大复杂性。许多能够穿透这种复杂性的科学工具——基因编辑工具、基因合成工具、用光控制脑细胞的工具——最初都只是纯粹的想法。换句话说,它们来自思考,来自智能。

人类智慧已经让鼠疫、天花和脊髓灰质炎在世界大部分地区成为历史。但在其他疾病上的进展,对太多患者和家庭来说仍然太慢。从一个伟大的想法到一种治疗方法,往往需要几十年。从 DNA 中发现一种奇怪重复模式,到首个利用 CRISPR 治疗某种疾病的方法获批,中间也经历了很多年。自然界充满这些模式,但我们一直缺乏足够的智能去解读其中大多数。科学家太少,时间太少。现在我们可以构建这种智能。无论是蛋白质折叠、药物设计、癌症遗传学,还是临床试验管理,生物和医学许多领域的科学家都发现 Claude 能帮助他们在远少于几年前所需的时间内完成研究。我相信,足够强大的 AI 如果与人类协同工作,能够把一个世纪的科学和医学进步压缩到十年之内。

我不想说得太超前。到目前为止,我们只有早期结果。实验和临床试验仍然需要时间,尽管它们涉及缓慢而繁琐的流程,但我相信 AI 可以大幅加速这些流程。我们希望未来更少的家庭会因为晚了几年而错过治愈。医学只是一个特别鲜明的例子,但 Claude 还有许多其他应用。我们的客户——世界上最有雄心的公司、非营利组织和个人——已经在利用我们构建的智能来刺激经济增长、帮助人们摆脱贫困、保护民主和自由社会,甚至让像车管所这样的日常服务运转得更好。我们很荣幸能与他们并肩合作,我对我们未来能够共同实现的成就极为乐观。

与此同时,我们一直坦诚承认,这项技术存在非常真实的风险。这些风险包括个人或民族国家对技术的滥用、经济扰动,以及失去对 AI 系统的控制。我们讨论这些风险,并不是因为我们认为它们不可避免、而我们仍会继续推进;相反,我们认为这些风险是可以避免的,而我们也能避免它们。避免这些风险取决于开发 AI 的人所做出的选择。对安全关注甚少的 AI 发展路径,与对安全极度执着的路径之间,存在巨大的差异。从一开始,Anthropic 的基因里就写入了对安全和公共利益的执着:从防范生物和网络风险的保护措施,到对齐训练和测试,再到像做 X 光一样审视我们的模型,Anthropic 一直在开创理解和引导 AI 行为、并让其保持在人类控制之下的方法。还有很多工作要做,最困难的安全工作还在前方;公司令人难以置信的人才帮助我们构建了最强大的 AI 系统,但接下来需要比以往更加把精力放在反复确认这些系统是安全的,并且仍然受人类控制。

我明确地说,我们会放缓 AI 系统的训练和部署,在获得足够信心、确认它们安全且仍受人类控制之前,会尽可能花费必要的时间;我们不会屈从于商业或政治压力。今天让公司处于更强的财务位置,而这只会进一步增强我们做正确事情的决心。如果我们能够证明,在重视安全的同时也能打造一家极其成功的公司,行业中的其他人也会受到鼓舞,去做同样的事。我们把这称为“向上竞赛”。

当“向上竞赛”运转良好时,哪家公司拥有最好的模型并不重要。因为大家都在安全地构建,所有人都会受益。向上竞赛在由领先者带动时效果最好,而我们完全希望并期待自己能处于这一位置。但目标是让整个行业变得更好,不论 Anthropic 在任何时点是赢还是输。机器智能的出现是人类历史上的一个里程碑,我们有一个难得的机会把它引向更好的方向。谢谢。

打赏
$0
点赞
0
收藏
0
浏览量 53
WalletJYS提醒,请广大读者理性看待区块链,切实提高风险意识,警惕各类虚拟代币发行与炒作, 站内所有内容仅系市场信息或相关方观点,不构成任何形式投资建议。如发现站内内容含敏感信息,可点击“举报”,我们会及时处理。
提交
评论 0
最热
最新
还没有人评论哦~快抢沙发吧!
相关阅读
11月20日热门中概股多数下跌 拼多多涨11.04%
11月20日,热门中概股多数下跌,纳斯达克中国金龙指数(HXC)收跌1.86%。拼多多涨11.04%,京东涨2.89%,富途控股涨4.84%,满帮涨8.11%;网易跌11.39%,台积电跌2.90%,阿里巴巴跌1.26%,小鹏汽车跌3.70%,蔚来跌3.97%。
The Block
·2026-11-20 08:31:54
59
英伟达据悉洽谈至少5亿美元收购 Inception 以助力开发 Nemotron 开源模型
据知情人士透露,英伟达正就收购初创公司 Inception 进行深入谈判,拟议金额至少5亿美元,外加与新员工相关的业绩奖励。知情人士称,此举旨在增强英伟达的 Nemotron 开源模型,并可能帮助其在机器人人工智能领域推进相关工作。
The Block
·2026-11-20 08:31:52
69
Cramer:我最喜欢的图表分析师看到Alphabet股票酝酿两大上涨信号
CNBC主持人Jim Cramer表示,基于长期合作的图表分析师Larry Williams的判断,Alphabet看起来准备反弹。Williams认为,Alphabet的估值和技术面都在改善,近期机构买盘也显示出类似于此前股价见底前的形态。
CNBC
·2026-11-20 08:31:50
60
11月20日隔夜要闻:油价震荡 标普500指数六连跌 Anthropic首秀大涨难提振美股 伊朗加大对油轮的袭击
11月20日隔夜市场要闻显示,美股三大股指均跌超2%,道指跌破5万点,标普500指数录得六连跌;Anthropic首秀收涨17%,但未能提振整体市场情绪。宏观方面,特朗普9月交易记录曝光,美能源部长称美国柴油价料持续下行,库什纳表示特朗普对向乌克兰提供类似北约第五条的安全保障持开放态度。
The Block
·2026-11-20 08:31:48
168
Anthropic上市引发美股波动 AI狂欢是否见顶再受关注
Claude大模型开发商Anthropic在纳斯达克挂牌上市,首日收盘较发行价上涨17.07%,市值一度超过2万亿美元,但美股三大股指同日均跌超2%。市场对AI行情是否见顶、AI基础设施投资回报及相关科技股走势的讨论随之升温。
The Block
·2026-11-20 08:22:14
154
查看更多