持续关注人工智能领域的发展。
先是埃隆马斯克等人在 Future of Life 发起公开信，千人公开信呼吁暂停巨型AI实验，一时舆论哗然！
接着，看到吴恩达（Andrew Ng）和杨立坤（Yann LeCun）有一个谈话，可惜在北京时间深夜。
今天，看他们的谈话回放，很受启发，在这这个谈话节目中，他们认为 AI 暂停 6 个月是个坏主意。
未来生命研究所提议暂停六个月训练比 OpenAI 的 GPT4 模型更强大的 AI 模型。Joshua Benjo，Sue Russell，Elon Musk 签署了这项提案。
截止本文截稿时，共有18363位签署了这个提案。
然而，吴恩达和杨立坤则不仅认为 AI 研发暂停 6 个月是个坏主意，并且对该提议表示担忧。
杨立坤认为，呼吁延迟研发会减缓知识、科学和技术的进步。
他认为，监管研发没有意义，因为它减少了可用于使技术更好、更安全的知识。
实际上，此前，在社交媒体上，吴恩达就曾对这封公开信表达了自己的观点，他认为，“呼吁在6个月内暂停让人工智能取得超过GPT-4的进展是一个可怕的想法。我在教育、医疗、食品等方面已经看到了许多AI的新应用，这将帮助许多人。”
吴恩达指出，更应该平衡人工智能正在创造的巨大价值与现实的风险。
杨立坤认为，应该对进入人们手中的人工智能产品进行监管，而不是对人工智能的研发进行监管。
吴恩达则认为，暂停的做法会造成伤害并减缓对许多人有用的有价值应用程序的创建和研发。
在这个只有半个小时的对话节目中，两位深入浅出，精彩纷呈，结尾的问答环节，也让人打开眼界。
在谈话中，杨立坤提到了莫拉维克悖论（Moravec’s paradox），引发了自留地君些许思考。
莫拉维克悖论（Moravec’s paradox）是由人工智能和机器人学者所发现的一个和常识相悖的现象。
这个悖论是由汉斯·莫拉维克（Hans Moravec），罗德尼·布鲁克斯（Rodney Brooks），马文·闵斯基（Marvin Minsky）等人于20世纪80年代提出。
莫拉维克悖论指出：
和传统假设不同，对计算机而言，实现逻辑推理等人类高级智慧只需要相对很少的计算能力，而实现感知、运动等低等级智慧却需要巨大的计算资源。
正如机器人学者莫拉维克所说，“要让电脑如成人般地下棋是相对容易的，但是要让电脑有如一岁小孩般的感知和行动能力却是相当困难甚至是不可能的。”
语言学家和认知科学家史迪芬·平克认为，莫拉维克悖论是人工智能学者的最重要发现。
在《语言本能》这本书里，史迪芬·平克写道：经过35年人工智能的研究，发现到最重要的课题是“困难的问题是易解的，简单的问题是难解的”。
用莫拉维克悖论可以解释，为什么人工智能有时特聪明，有时特蠢笨，聪明到可以打败地球上所有的围棋大师，蠢笨到连完整抓取一枚鸡蛋都是一件艰巨的任务。
有不少人认为，这算不得一个悖论，只能是在人工智能领域中的一个重要现象。
也有人认为它是悖论，是因为，依据这个观点，人们就进入了一个两难境地：
如果该假设成立，那么，计算机智能永远无法达到人类智能的水平，因为人类智能具有某些独特的优势，如创造力、判断力和直觉等。
然而，如果该假设不成立，那么，计算机智能可能会迅速超越人类智能，并最终取代人类智能的地位。
因此，Moravec 悖论引发了对人工智能的深入思考，并促进了人工智能的研究和发展。
在今天，一些人大呼人工智能“威胁论”的大背景下，再次学习莫拉维克悖论还是非常有价值的。
我们以为很高级的“智慧”其实很容易就被实现或模仿了，而我们以为很低级的直觉却反而很难实现或模仿，这究竟说明了什么呢？
西安交大黎荔认为，这说明“高级”、“低级”的划分本身就有问题。那些“感知、运动等低等级智慧”才是真正深邃复杂的东西，是人类漫长的进化史中无数探索积淀的混沌构造，是真正体现了长年累月的价值积累的东西；而我们自以为“逻辑推理等人类高级智慧”其实并没有多么了不起——至少没有我们所自以为的那样了不起。（）
黎荔，莫拉维克悖论的思考，2021
https://www.163.com/dy/article/GO43JMHH0521S8N2.html
Photo by Johnnie Walker