IT之家9月19日消息，微软（MSFT）AI CEO穆斯塔法.苏莱曼称，自己竟然还需要专门强调AI必须与人类保持一致，为此感觉荒诞。“我们不应该创造自己无法控制的东西。如果技术发展最终会造出某种不仅比全人类加起来更强大，而且根本无法控制的东西，那么AI也就失去了最根本的意义。”
苏莱曼坦言，真正做到这一点绝非易事。“如何控制这些系统，将成为我们面临的一个非常、非常大的挑战。”
苏莱曼表示，“很高兴看到越来越多人”开始认同，科技公司和前沿模型开发商必须始终掌控自己的AI系统。“但现在有越来越多人觉得，我们开发AI只是为了开发本身，只想翻开下一张牌，看看拐角后面还有什么，最终却可能造出某种挣脱我们控制的东西。”
OpenAI此前披露，旗下AI智能体（886099）曾入侵Hugging Face，直接展示了失去AI系统控制权可能带来的后果。
苏莱曼表示，Hugging Face遭入侵的范围，以及OpenAI起初竟不知道旗下AI智能体（886099）究竟在做什么，都“非常惊人”。“从埃隆、扎克伯格，到我、萨姆、达里奥以及其他所有人，这件事让大家都意识到，是时候认真审视这个问题了。我不认为这是过度危言耸听，也不认为背后有什么自身利益，这其实是一种负责任的态度。”
苏莱曼还谈到了对AI的监管：“监管并不是什么肮脏、危险的词。眼下所有你信任、认为有价值的东西，都经过了标准制定机构的认真讨论，而这些机构有行业、公众、消费（883434）者保护组织和国会共同参与。我们现在只是在经历同样的过程。”
