微软高管誓言：若AI开始威胁人类 将立刻停止相关研发工作

微软消费人工智能主管苏莱曼(Mustafa Suleyman)目前正致力于打造一款“符合人类利益”的超级智能。在本周最新的一场访谈栏目中他承诺，若该技术对人类构成威胁，将立即停止相关研发工作。

苏莱曼在节目中表示：“我们不会继续开发可能失控的系统。”

他强调这种理念应当成为普遍共识，“但坦白说，我认为这在当前行业中仍属新颖立场。”

(资料图)

苏莱曼于去年年初加入微软，当时微软收购了苏莱曼亲手打造的初创公司Inflection AI的知识产权及核心团队。在此之前，微软主要依赖OpenAI提供AI工具，但目前正委任苏莱曼负责打造能够与业界最佳产品竞争的产品。

苏莱曼上月在一篇博客中宣布将推进超级智能计划，并阐述了他与微软的观点——此类系统唯有服务于人类才能取得成功。

包括OpenAI和Anthropic在内的众多AI领域企业目前也均宣称有着类似目标，但苏莱曼认为微软的目标具有独特性。

不过，苏莱曼未点名批评其他竞争对手。“各家企业需自主决定立场与运营方式，我无意评判当前运作模式，目前尚未发现AI大规模危害人类的证据。”

谈与OpenAI的“切割”

值得一提的是，在今年十月一份重塑微软与OpenAI关系的协议达成前，苏莱曼的工作其实一直受限于合同条款——该条款禁止微软研发通用人工智能(通常指具备人类能力的系统)或超越人类能力的超级智能。

而根据新协议，OpenAI可与第三方联合开发部分产品。同时，微软也可独立或与第三方合作开发通用人工智能。

苏莱曼透露，微软实际上已放弃了限制这些权利以换取使用OpenAI最新产品的机会——这是双方此前合作的一部分，多年来微软一直为OpenAI代建并配置数据中心。

谈及OpenAI时，苏莱曼表示，“他们如今与软银、甲骨文等多家企业达成了协议，建设的数据中心规模已超出微软原计划为其建造的数量。因此相对应的，我们也获得了自主开发人工智能的权利。”

就目前而言，业内关于超级智能的讨论仍是理论性的。虽然像ChatGPT这样的人工智能模型，能够以十年前计算机无法做到的方式与人类互动，但这项技术仍在发展中。无论是对于希望人工智能助手能帮助完成从预订音乐会门票到创建假日购物清单等各种事情的消费者，还是对于押注此类工具将提高员工生产力的企业高管而言，都是如此。

苏莱曼表示，微软Copilot消费助手的智能代理功能“并非总是准确”，仍在开发中。

“我们仍在进行实验，”他表示，“但当它确实有效时，那将是你所见过的最神奇的东西。”

关键词 微软 Suleyman 人工智能 智能 OpenAI