生成式人工智能一日千里。
在过去这些年，我们测评和衡量人工智能的智能程度，看它们能否通过律师资格考试、编写可运行的代码、以及操作你的电脑界面。
我们测试它们的推理能力和完成复杂任务的能力，或是它们能在多大程度上让人类眼前一亮。
然而，到目前为止，我们缺少的是一种严谨且可信的方法来评估人工智能对我们产生了什么影响——对我们的思想、对我们的心灵、或对我们的社群。
目前的AI评估体系几乎全部集中在认知能力与任务表现上，而忽略了AI作为社会行动者对人类的内在影响。
我们总是热衷于讨论 AI 能做什么，却很少认真追问一个更根本的问题：
AI 正在对“人”本身做什么。
这是一个极其尖锐但又被整个AI行业回避的问题。
AI不是一个静态的工具，它是一个正在重塑人类自我认知、社会关系和存在方式的“环境”。
我们确实缺少一个“AI的社会与心理影响评估框架”。
当我们津津乐道于 AI 的推理能力与智能表现，
当我们试图用 AI 赋能学生与教师，全力推动人工智能教育应用，
当生成式 AI 被用来辅助教师做教学设计、批量批改学生作业——
学生的思维与认知，他们的学习能力，
以及教师的教学设计能力，
究竟在经历着怎样的变化？
当前似乎鲜有充足的研究证据回答这个问题。
一句话，那就是，当AI越来越像人，人会不会越来越不像人？
这正是我在课堂、讲座和分享中常引用的伦敦商学院 Andrew J. Scott 教授的那句名言，“当机器日益精进越来越能干的时候，人类就必须越来越擅长活出更真实的人性……”（As machines get better at being machines, humans have to get better at being more human…）
的确，人工智能不仅改变世界，更正在改变“人”本身。
从印刷术到电视，从互联网到社交媒体，每一次媒介革命都伴随着认知结构与社会关系的重构。
因此，当前的人工智能研究应当也必须从“AI 技术能力研究”转向“人类存在研究”。
在过去的几十年间，随着互联网的高速发展，互联网平台经济长期建立在“注意力争夺”基础之上。社交媒体平台通过无限滚动、推荐算法、即时反馈、甚至多巴胺刺激，形成“注意力经济（attention economy）”。
其核心目标是最大化用户停留时间。
这一机制已被大量研究证明与注意力碎片化、焦虑、成瘾、信息极化密切相关。
而今天，生成式人工智能正在从“注意力经济”转向“依恋经济”。
社交媒体争夺的是用户的时间。
而生成式AI争夺的则是用户的内在关系空间。
今天的大语言模型系统已经具备：连续记忆、情感回应、语气适配、人格模拟、以及情绪反馈，
用户越来越容易将AI视为倾诉对象、情感陪伴者、心理支持者、认知协作者，这意味着AI正在进入人类最深层的心理结构。
1966年，MIT学者 Joseph Weizenbaum 开发了聊天程序 ELIZA。
尽管ELIZA仅具备简单文本替换能力，但大量用户却认为它“理解自己”。
这一现象后来被称为：ELIZA Effect（伊丽莎效应）。
其本质是人类倾向于将心理属性投射给机器。
而今天的大模型系统已经远远超越ELIZA。它们能够模拟共情，使用自然语言节奏，提供持续反馈，保持人格一致性，
因此，ELIZA效应已经从实验室现象，演变为一种全球性社会现实。
不仅如此，随着人工智能教育应用的快速展开，生成式人工智能可能引发的人类认知外包、关系退化、主体性削弱与教育危机。
众所周知，人类高级能力恰恰是在“认知挣扎”中形成的。而人工智能在学生学习和教师教学中的应用，可能会使得学习过程和教学过程中的“生成性思维”被压缩，从而对学习、教学，乃至人的认知和思维产生长期的负面影响，也就是我之前在推文中所提出的，《我们是否在用短期生产力的提升，在换取长期认知能力的下降？这一令人难以置信的便利的长期代价到底是什么？》
回到问题本身，也许我们可以说，AI对“人类”正在做的，本质上是一场大型的、未经人类同意的人类定义实验。
它在逼迫我们回答：当我们被剥夺了作为优秀工具的价值（记忆、计算、高效率创造）后，我们剩下的、无法被剥夺的核心究竟是什么？是有意识地自讨苦吃？
是体验痛苦的能力，是明知无意义仍选择去爱的勇气，还是纯粹的意识本身？
这些问题的答案，需要我们放下对AI能做什么的兴奋，转向审视自己正在失去什么，只有这样，我们才能会找到答案，才可能开始寻找正确的方向。
联系到人工智能教育应用，我们所有人都认同：教育效果需数十年才能显现。
我们无法让一组孩子隔离于AI来设置对照组；更重要的是，我们缺乏衡量思维深度、认知品质的精确工具，因为我们正在用旧指标（分数）来衡量一个被新技术从根本上改变了的学习过程。
“人工智能教育问题”的本质，并非单纯的技术使用问题，而是“人类认知形成机制”所面临的结构性重构。
人工智能在教育中应用的核心，并不在于“如何防范作弊”，而在于：人类的“认知形成机制”是否正在被悄然替代。
AI时代的核心风险不再仅是“机器超越人类”，而是“人类逐渐失去形成自身能力的过程”。
生成式AI时代学校教育最大的风险，可能不是机器拥有意识，而是人类逐渐放弃思考、挣扎、关系、判断、主体性，
因此：未来教育最重要的问题，不再只是“如何教学生使用AI”，
而是“如何在AI时代继续培养完整的人”。
也就是我引用帕斯卡的名言，“做一根会思考的芦苇”。
Photo by Johnnie Walker