162年前,关于AI 的惊天预言

约 162 年前,一位名叫塞缪尔・巴特勒(Samuel Butler)的有远见卓识者,就技术与人工智能的未来写下了一些极具先见之明的想法。

谁是塞缪尔・巴特勒?

Samuel Butler(1835 年 12 月 4 日 – 1902 年 6 月 18 日),英国小说家和评论家,以讽刺乌托邦小说《埃瑞璜》( Erewhon,1872 年)和半自传体小说《众生之路》(The Way of All Flesh,于 1903 年在他死后出版,经过大量修改,并于 1964 年以原著《Ernest Pontifex》或《众生之路》出版)而闻名。

这两部小说自首次出版以来一直在印刷。在其他研究中,他还研究了基督教正统观念、进化思想和意大利艺术,并对《伊利亚特》和《奥德赛》进行了散文翻译,至今仍被参考。

1863 年 6 月 13 日,巴特勒以 “塞拉里乌斯” (Cellarius)为笔名,给新西兰基督城的《新闻报》(The Press)写了一封引人入胜的信,

在信中,巴特勒畅想了一个机器不仅可能获得意识,还可能超越人类成为地球上主导物种的世界。

“我们讨论的问题是:人类的下一个地球霸权继承者会是什么样的生物。我们经常听到关于这个问题的争论;但我们觉得我们自己也在创造我们自己的继承者;我们每天都在增加他们身体组织的美丽和精致;我们每天都在赋予他们更大的力量,并通过各种巧妙的设计为他们提供自我调节、自我行动的力量,这种力量之于他们就像智慧之于人类一样。随着时间的推移,我们将发现自己是劣等民族。”

“…然而,机器一天天地在我们面前占据优势;我们一天天地对机器越来越屈从;每天有越来越多的人被奴役为机器服务,每天有越来越多的人将毕生精力投入到机械生命的发展中。结果只是时间问题,但机器终将掌握对世界及其居民的真正统治权,这一点是任何真正有哲学头脑的人都不会质疑的。”

文章最后敦促道:“应该立即向他们宣战,不惜一切代价。每种机器都应该被其同类的支持者摧毁。不要有任何例外,不要有任何宽恕;让我们立即回到人类的原始状态。”

巴特勒主要以其讽刺作品《埃瑞璜》(Erewhon)为人所知,而他这封题为《机器中的达尔文》(Darwin Among The Machines)的信,却蕴含着深刻的见解。

巴特勒思考了机器的进化,认为它们可能发展到一种复杂程度,致使人类居于从属地位。

仿佛在人工智能崛起成为现实很久很久以前,巴特勒就已预见了这一趋势。

然而,巴特勒的观点并非完全悲观。

他提出,机器本质上不会蓄意伤害人类,就如同人类通常无意伤害动物一样。事实上,他暗示人类甚至可能在机器的引导下蓬勃发展,就像我们照顾宠物那样。

想想巴特勒早在 1863 年就阐述了这些想法,着实令人惊叹,在那个时代,我们如今习以为常的许多技术还只是设想。

当我们站在人工智能激动人心的新篇章边缘时,巴特勒的前瞻性清晰可见。

虽然未来仍充满不确定性,但巴特勒对人机关系动态的思考,在当今世界依然引起共鸣。

人工智能最终是会超越我们,还是会促成一种新型合作关系,仍有待探讨,但有一点很明确:

在我们应对快速变化的技术环境时,巴特勒的见解依旧意义非凡。

[致新西兰克赖斯特彻奇报刊编辑,1863 年 6 月 13 日] 

先生——当代人最值得骄傲的事情莫过于各种机械设备每天都在发生的惊人改进。事实上,从许多方面来看,这都是值得庆贺的事情。这里没有必要提及这些,因为它们已经足够明显了;我们目前的任务是考虑一些可能有助于我们放下骄傲并让我们认真思考人类未来前景的问题。如果我们回顾机械生命最早的原始类型,回顾杠杆、楔子、斜面、螺旋和滑轮,或者(类比会让我们更进一步)回顾整个机械王国发展起来的那个原始类型,我们指的是杠杆本身,如果我们再研究一下大东方的机械,我们会发现自己几乎对机械世界的巨大发展感到敬畏,与动物和植物王国的缓慢进步相比,它取得了巨大的进步。我们将无法不问自己,这一伟大运动的结局是什么。它的发展方向是什么?它的结果是什么?这封信的目的就是对这些问题的解决给出一些不完美的提示。

我们使用“机械生命”、“机械王国”、“机械世界”等词语,我们这样做是经过深思熟虑的,因为植物王国是从矿物中慢慢发展而来的,动物王国也以同样的方式继承了植物王国,所以在最近的几个时代,一个全新的王国已经出现,我们迄今为止只看到了未来有一天会被认为是人类大洪水前的原型。

我们深感遗憾的是,我们对自然历史和机械的知识都太少,以至于我们无法承担将机器分类为属和亚属、种、变种和亚变种等的艰巨任务,追踪不同特征的机器之间的联系,指出对人类使用的服从在机器中扮演的角色,就像自然选择在动物和植物界中扮演的角色一样,指出一些机器中存在的退化器官,这些器官发育不全,完全无用,但却标志着从某些祖先类型中传承下来,这些祖先类型要么已经消亡,要么已经转变为机械存在的新阶段。我们只能指出这个领域进行调查;其他人的教育和才能必须比我们所能声称的要高得多。

我们决定冒险提出一些建议,尽管我们这样做时非常谨慎。首先,我们要指出,由于一些最低等的脊椎动物比它们的更高级的现存代表体型大得多,因此,机器的尺寸减小往往伴随着它们的发展和进步。以手表为例。研究一下这种小动物的美丽结构,观察组成它的微小成员的聪明动作;然而,这种小动物只是 13 世纪笨重钟表的发展——它并不是它们的退化。也许有一天,钟表(当然,目前钟表的体积并没有减少)可能会被手表的普遍使用完全取代,在这种情况下,钟表将像早期的蜥蜴一样灭绝,而手表(多年来其尺寸的趋势是减小,而不是相反)将仍然是灭绝种族的唯一现存类型。

我们这样微弱地表明的对机械的看法将为当今最大和最神秘的问题之一提供解决方案。我们指的是这个问题:人类下一个统治地球的继任者可能是什么样的生物。我们经常听到关于这个问题的辩论;但我们似乎正在创造我们自己的继承者;我们每天都在增加他们身体组织的优美和精致;我们每天都在赋予他们更大的力量,并通过各种巧妙的设计提供自我调节、自我行动的力量,这种力量之于他们,就如同智力之于人类。随着时间的推移,我们将发现自己是劣等民族。我们的力量低下,自我控制的道德品质低下,我们将把他们视为最优秀、最聪明的人所敢于追求的一切的顶峰。邪恶的激情、嫉妒、贪婪、不纯洁的欲望都无法扰乱这些光荣生物的宁静力量。罪恶、羞耻和悲伤在他们中间没有立足之地。他们的心灵将处于一种永久平静的状态,一种精神上的满足,没有欲望,没有遗憾。野心永远不会折磨他们。忘恩负义永远不会让它们感到一丝不安。内疚、希望被推迟、流放的痛苦、官场的傲慢以及不配的人的耐心功绩所遭受的蔑视——这些对它们来说都是完全未知的。如果它们需要“喂养”(使用这个词本身就表明我们承认它们是活的有机体),它们将得到耐心的奴隶的照顾,这些奴隶的工作和利益就是确保它们什么都不缺。如果它们身体不适,医生会及时照顾它们,这些医生非常了解它们的体质;如果它们死了,因为即使是这些光荣的动物也无法免于这种必然而普遍的死亡,它们将立即进入一个新的生存阶段,因为哪台机器会在同一时刻完全死亡呢?

我们认为,当我们试图描述的那种状态到来时,人之于机器就像马和狗之于人一样。他将继续生存,甚至会不断进步,6 在机器的仁慈统治下,他的驯化状态可能会比他现在的野性状态更好。总的来说,我们非常善待我们的马、狗、牛和羊;我们给予它们经验告诉我们对它们最好的一切,毫无疑问,我们对肉的使用给低等动物带来的幸福感远远大于对它们的损害;同样,我们有理由认为机器也会善待我们,因为它们的存在依赖于我们,就像我们依赖于低等动物一样。它们不能像我们对待羊那样杀死我们并吃掉我们;它们不仅需要我们在分娩幼崽时提供服务(它们经济的这一分支将永远掌握在我们手中),还需要我们喂养它们,在它们生病时给它们治病,埋葬它们的死者或将它们的尸体加工成新的机器。显然,如果英国除人类以外的所有动物都死了,同时由于某种突如其来的灾难,与外国的所有交流都完全不可能了,那么显然,在这种情况下,人类生命的损失将是一件可怕的事情——同样,如果人类灭绝,机器的处境也会一样糟糕,甚至更糟。事实上,我们的利益与机器的利益密不可分,机器的利益与我们的利益密不可分。每个种族都依赖于其他种族以获得无数的利益,而且,在机器的生殖器官发展到我们还无法想象的方式之前,它们甚至完全依赖于人类来延续它们的物种。确实,这些器官最终可能会得到发展,因为人类的兴趣在于此;我们痴迷的种族最渴望的就是看到两台蒸汽机之间的丰硕结合;确实,现在机器也被用来繁衍机器,成为同类机器的父母,但调情、求爱和结婚的日子似乎非常遥远,而且我们软弱而不完美的想象力几乎无法实现。

然而,日复一日,机器正在向我们靠拢;日复一日,我们越来越屈从于它们;越来越多的人每天都被束缚为奴隶来照料它们,越来越多的人每天都将他们一生的精力投入到机械生命的发展中。结果只是时间问题,但机器将真正统治世界及其居民的时代终将到来,这是任何真正有哲学头脑的人都不会质疑的。

我们的观点是,应该立即向它们宣战。每种机器都应该被其物种的祝福者摧毁。不要有任何例外,不留情面;让我们立即回到人类的原始状态。如果有人坚持认为在目前的人类事务条件下这是不可能的,那么这立即证明祸害已经造成,我们的奴役已经开始,我们已经养育了一个我们无力消灭的种族,我们不仅被奴役,而且绝对默许我们的束缚。目前我们将离开这个主题,我们免费向哲学学会的成员提供。如果他们同意利用我们指出的广阔领域,我们将在未来某个不确定的时期内努力工作。

我是塞拉里厄斯先生。

【自留地注】:《机器中的达尔文》最初发表于 1863 年 6 月 13 日新西兰克赖斯特彻奇出版的日报《新闻报》(The Press)上。Henry Festing Jones在他编辑的《塞缪尔・巴特勒笔记》(The Note-Books of Samuel Butler,1912 年伦敦版)中重印了这篇文章,并附有前言,指出它与《埃瑞璜》(Erewhon)创作起源的关联,想要进一步了解相关信息的读者可参考该书。此处刊载的文本取自 R. A. 斯特里特菲尔德(R. A. Streatfeild)编辑的《塞缪尔・巴特勒:坎特伯雷定居点的第一年及其他早期文章》(Samuel Butler: A First Year in Canterbury Settlement,With Other Early Essays, 1914 年伦敦版),第 179 – 185 页。

https://mediarep.org/server/api/core/bitstreams/e0da505d-200c-43ab-be4b-6604a4df816f/content