书接前回,我们继续聊SmallVill。
SmallVill 是人工智能背景下的一个关于虚拟世界的开创性的项目。
25 个人工智能代理在虚拟环境中自主交互和生活,模拟人类生活的复杂性。
the virtual city in which various AIs live as humans
生成式代理代表了人工智能的下一个前沿领域。
它将先进的大语言模型(LLM)与计算软件代理(Agent)相结合,以模拟可信的人类行为。
这项技术源于 Park 等人的开创性工作,他们的研究展示了人工智能驱动的生成式代理在创建反映人类社会的沉浸式交互式虚拟世界方面的潜力。
在 SmallVill 中,创造者们加入了这些生成式代理,每个AI智能体都有不同的个性、技能、偏好和目标。他们与环境互动,形成关系并根据个人经验做出决策。
在SmallVille 这样的沙盒演示之外,生成式代理(AI 智能体,Generative Agents)具有“巨大的潜在应用”。
游戏可能即将变得非常非常身临其境,NPC 可以与玩家实时交谈和互动。
再比如,随着AI 智能体的改进和不断发展,它们可以被集体部署,用来模拟和研究人类行为,并建立、测试和发展新的社会系统或社会学、人类学、心理学理论。
随着这些智能体的发展,它们变得越来越擅长模仿人类行为、从经验中学习以及参与复杂的交互。从而展现出令人难以置信的类人能力,虚拟世界的未来可能比以往任何时候都更近。
未来,它们还可以用于提前模拟个人的需求,与其他技术融合,使他们的生活更加方便和舒适。
生成式代理可以彻底改变从设计工具到沉浸式环境的各种交互式应用程序。
未来的应用可能会超越游戏,进入政治、消费者行为和心理学 等领域。
当然了,诚如作者在文章中所提及的那样:
“生成式代理在为人机交互提供全新可能性的同时,也引发了必须解决的重要伦理问题,”
我们还必须解决人工智能进步的道德影响,仔细考虑不当关系、错误、错误信息和恶意内容创建等风险。
在利用这些AI 智能体的潜力和确保负责任的发展之间取得平衡是关键。
在 SmallVille中,即使这25个生成式代理能够意识到自己是“计算实体”,人类与它们(应该称他们/她们?)形成准社会关系的可能性会成为一个潜在的风险。
熟悉二十年前面世的 Second Life 之类的虚拟世界的朋友们,以及那些迄今还沉浸其中的游戏玩家,应该非常清楚(甚至正在感知)其中的风险。
因此,为了减轻这种风险,文章作者建议遵循两个原则:
第一,代理应该必须明确披露其作为计算实体的性质;
第二,开发人员必须确保它们“价值一致,这样,他们/她们就不会做出会影响安全的行为。
在文章中,来自斯坦福和谷歌团队的研究人员指出,除其他风险外,生成代理可能会被用来取代设计过程中的人类输入,在野外部署时会产生有害错误,或者加剧与深度伪造或其他形式的错误信息相关的现有人工智能风险。
Smallville 人工智能模拟背后的研究让我们得以“目睹”未来人工智能代理令人信服地模拟人类行为的前景。
SmallVille虚拟城镇展示了大型语言模型与计算交互代理融合的巨大潜力。它允许突发行为、爱情故事和复杂的互动。
自留地君坚信,随着虚拟世界的不断发展,它们可能具有娱乐以外的实际应用。
尽管存在需要解决的局限性,但 Smallville 的研究为人工智能的未来开辟了令人着迷的可能性。
继续探索人工智能尤其是生成式代理(AI智能体)进步的伦理和实践影响至关重要。这将有助于确保人工智能仍然是我们社会积极变革和创新的力量。
SmallVill的创建者,日本的KOWLEDGE Sense 公司还推出了与SmallVill项目中的角色相关的 NFT 系列,以支持进一步的研究和开发。
他们的 NFT SmallVill 系列现已开始销售。
文中图片源自 Knowledge Sense 公司首席执行官 A. Kadowaki 的博客,引用未经授权,特别鸣谢!
品茗论道蕴儒雅 ,谈古说今育贤才
得闲一起吃茶?