3月29日消息，美国OpenAI公司的人工智能（885728）对话模型ChatGPT引发全球关注，该公司的核心投资方微软（MSFT）开始评估其背后的最新模型GPT-4对未来人类的影响。GPT-4是一个可以生成类似于人类语言的大型多模态模型，它在各种专业和学术的标准测试中表现出了人类水平的性能，例如它可以通过模拟律师资格考试，并且得分在前10%之内。
然而，GPT-4也存在一些潜在的风险，可能会对社会和人类造成不利的影响。特斯拉（TSLA）创始人埃隆马斯克和一千多名人工智能（885728）专家和行业高管在一封公开信中呼吁暂停开发比GPT-4更强大的系统六个月，直到制定并实施一套共享的安全协议，并由独立专家进行审计。他们还提到了高级人工智能（885728）系统可能导致的经济和政治动荡，并呼吁开发者与政策制定者合作建立监管机构。
这封信由非营利性的“生命未来研究所”发布，包括马斯克、苹果公司联合创始人史蒂夫-沃兹尼亚克和Stability AI首席执行官埃马德-莫斯塔克在内的1000多人签署。
信中说：“只有当我们确信强大的人工智能系统的效果是积极的，其风险是可控的，才应该开发。”
此外，欧盟警察局欧洲刑警组织也在周一发出了对高级人工智能（885728）如ChatGPT的道德和法律担忧，警告说这种系统可能被滥用于网络钓鱼、虚假信息和网络犯罪等方面。自从去年发布以来，微软（MSFT）支持的OpenAI的ChatGPT已经促使竞争对手推出了类似的产品，并且许多公司也将其或类似的技术集成到了他们的应用和产品中。
据了解，OpenAI此前表示，他们已经花了六个月的时间对GPT-4进行了迭代调整，使其在事实性、可控性和拒绝超出安全范围方面取得了最好的结果(尽管还不完美)。
公开信原文
正如广泛的研究和顶级人工智能（885728）实验室所承认的，人工智能（885728）系统对社会和人类构成较大的风险。《阿西洛马人工智能（885728）原则》中指出，高级人工智能（885728）可能代表着地球上生命历史的深刻变革，应该以相应的谨慎和资源进行规划和管理。然而，尽管最近几个月人工智能（885728）实验室掀起AI狂潮，开发和部署越来越强大的数字大脑，但目前没有人能理解、预测或可靠地控制AI系统，也没有相应水平的规划和管理。
现在，人工智能（885728）在一般任务上变得与人类一样有竞争力，我们必须问自己：我们应该让机器在信息渠道中宣传不真实的信息吗？我们是否应该把所有的工作都自动化，包括那些有成就感的工作？我们是否应该开发非人类的大脑，使其最终超过人类数量，胜过人类的智慧，淘汰并取代人类？我们是否应该冒着失去对我们文明控制的风险？这样的决定绝不能委托给未经选举的技术领袖。只有当我们确信强大的人工智能（885728）系统的效果是积极的，其风险是可控的，才应该开发。同时，这种信心必须得到验证，并随着系统的潜在影响的大小而加强。OpenAI最近关于人工智能（885728）的声明中指出，在开始训练未来的系统之前，可能必须得到独立的审查，对于最先进的努力，同意限制用于创建新模型的计算增长速度。我们同意，现在就该采取行动。
因此，我们呼吁所有人工智能（885728）实验室立即暂停比GPT-4更强大的人工智能（885728）系统的训练，时间至少持续6个月。这种暂停应该是公开的、可核查的，并包括所有关键参与者。如果这种禁令不能迅速实施，政府应该介入并制定暂停令。
人工智能（885728）实验室和独立专家应在暂停期间，共同制定和实施一套先进的人工智能（885728）设计和开发的共享安全协议，由独立的外部专家进行严格的审查和监督。这些协议应该确保遵守协议的系统是安全的。值得一提的是，这并不意味着暂停一般的人工智能（885728）开发，只是从危险的竞赛中退后一步，限制不可预测的研究和开发。
人工智能（885728）的研究和开发应该重新聚焦于，使目前最先进和强大的系统更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。
同时，人工智能（885728）开发者必须与政策制定者合作，大幅加快开发强大的人工智能（885728）治理系统。这些至少应该包括：专门针对人工智能（885728）的监管机构；监督和跟踪高能力的人工智能（885728）系统和大型计算能力的硬件；出处和水印系统帮助区分真实和合成，并跟踪模型泄漏；强大的审查和认证生态系统；对人工智能（885728）造成的伤害承担责任；为人工智能（885728）安全技术研究提供强大的公共资金以及资源充足的机构，以应对人工智能（885728）可能导致的巨大的经济和政治破坏。
人类可以通过人工智能（885728）享受繁荣的未来。现在，我们成功地创建了强大的人工智能（885728）系统，可以在这个“人工智能（885728）之夏”中获得回报，为所有人的明确利益设计这些系统，并给社会一个适应的机会。停止使用其他技术可能会对社会造成灾难性影响，因此我们必须保持准备状态。让我们享受一个漫长的人工智能（885728）夏天，而不是匆忙进入秋天(fall，亦可指坠落)。
