3月29日，昨天，未来生命研究所的一封公开信在全球科技圈引发热议。
信中呼吁，所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。
（We call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4.）
截至目前，这封信已有超过1332名科技领袖和研究人员签名，其中包括，马斯克、苹果联合创始人史蒂夫沃兹尼亚克（Stephen Wozniak）等。
生命未来研究所（Future of Life Institute，FLI）是位于美国波士顿地区的一家研究与推广机构，其致力于降低人类所面临的风险，尤其是人工智能技术开发过程中的可能风险。
生命未来研究所创立于2014年3月，创始人为麻省理工学院宇宙学家马克斯·泰格马克（Max Tegmark）、Skype联合创始人让·塔林（Jaan Tallinn）、哈佛大学博士生维多利亚·克拉科夫那（Viktoriya Krakovna）、波士顿大学博士生、泰格马克之妻美雅·赤塔-泰格马克（Meia Chita-Tegmark）与加州大学圣克鲁兹分校宇宙学家安东尼·阿吉雷（Anthony Aguirre）。
研究所顾问委员会的成员则包括计算机科学家斯图尔特·罗素，生物学家乔治·丘吉，宇宙学家史蒂芬·霍金、企业家伊隆·马斯克（Elon Musk.），以及演员、科学传播人亚伦·艾达、摩根·弗里曼等。
附这封公开信的译文（英文原文）
正如广泛的研究和顶级人工智能实验室所承认的那样，具有与人类媲美的智能的AI系统可能对社会和人类构成深刻的风险。也正如被广泛认可的阿西洛马人工智能原则所指出的那样，先进的AI可能代表着地球生命历史上的深刻变革，应该以相应的关注和资源来计划和管理。不幸的是，尽管最近几个月AI实验室正陷入一场无法控制的竞赛，试图开发和部署越来越强大的数字智能，但这种规划和管理并未实现，甚至连它们的创造者也无法理解、预测或可靠地控制这些智能。
随着当代AI系统正逐渐在一般任务上实现与人类竞争的水平，我们必须问自己：我们应该让机器充斥我们的信息渠道，散布宣传和不实信息吗？我们应该自动化所有工作，包括那些令人有成就感的工作吗？我们应该发展可能最终比我们更多、更聪明、更先进、能取代我们的非人类智能吗？我们应该冒着失去对文明的控制的风险吗？这些决定不应该被委托给未经选举的技术领袖。只有当我们确信AI系统的影响是积极的，其风险是可控的时候，才应该开发强大的AI系统。这种信心必须有充分的理由，并随着系统潜在影响的增加而增加。OpenAI最近关于人工智能的声明指出：“在某个时候，可能需要在开始训练未来系统之前获得独立审查，并要求最先进的努力同意限制用于创建新模型的计算增长。”我们对此表示同意。现在就是那个时候。
因此，我们呼吁所有AI实验室立即暂停至少6个月的时间，停止训练比GPT-4更强大的AI系统。这个暂停应该是公开和可验证的，并包括所有关键参与者。如果这样的暂停无法迅速实施，政府应该介入并实行一个暂停令。
AI实验室和独立专家应该利用这个暂停期共同制定和实施一套共享的AI设计和开发安全协议，这些协议应由独立的外部专家严格审核和监督。这些协议应确保遵守它们的系统在合理怀疑范围之外是安全的。这并不意味着暂停整个AI领域的发展，而仅仅是从危险的竞赛中退后一步，避免研究更大、更难以预测、具有突现性能力的黑箱模型。
AI研究和发展应该重新聚焦于使现有的强大、最先进的系统更加准确、安全、可解释、透明、稳健、一致、可信和忠诚。
同时，AI开发人员必须与政策制定者合作，大力加速AI治理系统的发展。这些治理系统至少应包括：专门负责AI的新型和有能力的监管机构；对高能力AI系统和大量计算能力的监督和跟踪；用于区分真实与合成内容并跟踪模型泄漏的来源和水印系统；强大的审计和认证生态系统；对AI造成的损害承担责任；对技术AI安全研究的强大公共资金支持；以及应对AI带来的剧变（尤其是对民主制度）的经济和政治破坏的资源充足的机构。
人类可以与AI共享一个美好的未来。在成功创建强大的AI系统之后，我们现在可以享受一个“AI的夏天”，在这个夏天里，我们可以收获成果，为所有人明确地造福，并给社会一个适应的机会。我们的社会已经在其他可能对社会产生灾难性影响的技术上按下了暂停键。我们在这里也可以做到。让我们享受一个漫长的AI之夏吧，而不是毫无准备地冲进秋天。
早上，看到这个签名公开信的下面，有个声明：“由于需求量大，签署者名单暂停”。
“由于需求量大，我们仍在收集签名，但暂停了他们在信件上的出现，以便我们的审查流程能够跟上。另请注意，靠近列表顶部的签名都是独立且直接验证的。”
对于这个公开信，业界评论不一。
3月29日下午，有网友发现OpenAI CEO Sam Altman的名字也出现在“呼吁暂停大型AI训练”的公开信上。
但据媒体报道，Sam Altman的名字曾短暂出现后，便迅速从签名者名单中消失。
有网友在自媒体报道称，马斯克（Elon Musk）和史蒂夫沃兹尼亚克（Stephen Wozniak）的推特上，根本就没有提及公开信签名这回事，而杨立坤（Yann LeCun）在自己的推特上则直接辟谣：
Nope. I did not sign this letter. I disagree with its premise.
在我看来，这个公开信中的一些观点是值得赞赏的，但是，这个公开信恐怕很难产生多大影响。
对此，您怎么看？欢迎跟帖分享！
蕉石岭山脚下的荔城中学操场
Photo by Johnnie Walker