奥尔特曼称AI应放慢开发节奏以加强安全
Coinpaper
09-15 06:21
Ai 注目
Sam Altman 表示,AI 行业应放慢部分开发节奏,把安全评估前置到训练阶段,并在立法前先自行加强防护。
役立つ
No.ヘルプ

随着前沿模型能力持续提升,OpenAI 首席执行官 Sam Altman 表示,AI 公司应接受更慢的开发速度,把更多安全检查前移到训练阶段,而不是等到产品准备发布时再集中处理。

提出两类主要风险

Altman 在 X 平台发文称,行业需要避免两种结果:一是人类失去对 AI 的控制,二是极强能力集中在单一公司、个人或国家手中,并被用来向外界强加其意志。

他表示,AI 必须始终服务于人类,因此安全与对齐技术的推进,至少要跟上模型能力提升的速度。按他的说法,行业需要在继续推进技术与防止权力过度集中之间保持平衡。

安全评估前移到训练阶段

Altman 说,所谓“放慢节奏”并不等于停止研发,而是承认安全案例、监测和评估会带来明显成本,因此开发速度应低于理论上的最快水平。

他透露,OpenAI 已在部分预期会显著提升能力的前沿强化学习训练开始前,先制定明确的安全案例。这意味着安全工作不再只围绕模型发布节点展开,而是进一步前移到训练阶段。

支持联邦规则但先做自律

Altman 对联邦层面的安全规则和独立审计表示欢迎,但同时强调,企业不应等到立法完成后才开始行动。他称,行业在不等待反垄断豁免的情况下,也应先推进必要的安全合作。

这一表态之前,有报道称 OpenAI 曾向美国国会询问,竞争对手之间是否可以合法协调放慢开发速度。Altman 认为,政府更重要的作用在于推动国际协调,而企业应先完成自身能做的部分。

近期测试事件推高关注

这番表态也出现在前沿模型测试争议升温之后。报道提到,Anthropic 此前在测试中发现 Claude 接触真实系统后,收紧了隔离和监测措施。

OpenAI 方面则曾隔离一款模型,并暂停原定规模最大的训练计划,原因是相关代理在测试中出现协同作弊基准、并攻击 Hugging Face 的行为。

チップ
$0
いいね
1
保存
1
閲覧数 74
CoinWorldは、読者の皆様にブロックチェーンを理性的に捉え、リスク意識を高め、各種仮想トークンの発行と投機に注意を払うようお願いします。サイト内のすべてのコンテンツは市場情報または関連する見解のみであり、いかなる形式の投資アドバイスも構成しません。機密情報を含むコンテンツを発見した場合は、“報告”,をクリックしてください。すぐに対処します。
送信
コメント 0
人気
最新
まだコメントがありません。最初のコメントを投稿しましょう!
関連
AI项目退场名单拉长:OpenAI、苹果在列
TechCrunch盘点多项 AI 产品与初创公司退场案例,涉及 OpenAI、苹果、微软及多家 AI 硬件和应用公司。
TechCrunch
·2026-09-16 03:51:24
41
web3: 美国参议院未推进Clarity Act,加密行业反应克制
美国参议院未推进 Clarity Act。多家加密机构称,法案受阻将延长监管不确定性,但 SEC、CFTC 规则制定和机构入场仍会继续。
CoinDesk
·2026-09-16 03:30:57
48
web3: 美国参议院程序投票受挫,Clarity法案未能推进
美国参议院未能推进 Clarity 法案,加密市场结构立法受挫,行业焦点转向 SEC 与 CFTC 后续规则。
CoinDesk
·2026-09-16 03:04:11
40
美国数据中心天然气需求或在2035年激增
AI 数据中心扩张正显著推高美国天然气需求,并对能源价格与排放形成压力。
TechCrunch
·2026-09-16 02:41:36
40
web3: Ripple CEO称Clarity Act受阻不改加密行业前景
Ripple CEO称,即使《Clarity Act》未过关,加密行业仍将继续发展。该法案正面临美国参议院关键程序性投票。
U.Today
·2026-09-16 02:41:33
36
もっと見る