一些AI研究人员正在讨论，AI是否有朝一日会获得意识。微软AI首席执行官 Mustafa Suleyman 的看法则是否定的。

Suleyman 周日在一篇较长的 X 帖文中表示，当前的AI模型并没有意识，开发者应当确保它们一直如此。

他写道：“如果这在可能的情况下成立，基于我所知道的一切，开发有意识的AI将是鲁莽的，我们不应该去构建它们。”他还说：“如果在训练过程中开始出现意识，我会呼吁所有人停止AI开发，直到我们能够把这些特性设计掉。”

如果出现任何证据表明AI模型具有意识，Suleyman 说，必须立即向公众披露，以便社会决定下一步该怎么做。

他表示：“我们AI开发者绝对没有权利把一个新的有意识物种带到这个世界上，即便有些人可能希望以AI福利为最高优先级来这样做。地球上另外80亿有意识的人类并没有报名参加这场实验，而我们有义务首先保护他们的道德权利、安全和福祉。”

围绕AI模型有朝一日是否可能变得有意识的讨论，正在科技界升温。去年4月，Anthropic 启动了一项研究项目，调查并为应对“模型福利”做准备。该初创公司在一篇博客文章中质疑，开发者是否应该担心模型潜在的意识和体验。

Google DeepMind 今年也发布了关于AI意识的研究论文，以及将这种特性归因于AI可能带来的挑战。

Suleyman 在 X 上表示，如果一个AI模型表现得像是在受苦，或者真的相信自己会受苦，它很可能会把自身需求置于运营目标之上。因此，它们可能会因为争夺算力和能源等资源来追求自身目标，而伤害人类。

他说：“我们应该只设计不会有意识、也不应享有权利的AI，并且其唯一目的应是加速人类福祉，而不是受自身内在动机驱动……这样我们就可以看看，这样做更容易还是更难以对齐并保持安全。”