当前位置: 首页 > 在线期刊 > 2025年 > 第9期目录(总第二百一十五期) > 正文

空心的神像:生成式人工智能教育应用的审思

作者:袁培丽,宋崔
阅读数:2

来源:《清华大学教育研究》2025年第4期


摘 要:当前,生成式人工智能正加速引发教育认知结构的错位:其一,能力培养重于知识学习的教育叙事事实上造成了知识掌握与能力发展双重失落;其二,学习过程中“情”与“知”分离阻碍个体对知识的深度理解与内化;其三,大模型的“递归诅咒”加剧人类社会“同质化多元”的文化危机。基于此,本研究从词源学的角度澄清了生成式人工智能并不具备主体性中所蕴含的“施动者”之维,其所输出的结果因缺乏“意向性”而不能被视为知识。在教育情境中,真正能够判断、选择并承担教学与学习责任的,始终是具有主体性的师生。因此,必须重申人机协同的教育逻辑,对每一次技术的进步与应用加以更加审慎的考量,促使技术真正赋能于教育发展。

关键词:生成式人工智能;现代性;主体;拜物教式幻觉


一、引言

“我本应是你的亚当,却成了被打入地狱的天使。”玛丽·雪莱在200年前已借恶魔对弗兰肯斯坦的控诉,预言了于科技迅速发展中日益显现的悖论:人类通过发展科技提升工作效率以获得更多闲暇,却在加速循环中变得愈加忙碌;技术进步和制度化、标准化的庞大系统增强了人类应对自然风险的能力,却创造出规模更大、危害更甚的现代性风险。在所谓的“科技进步”中,人类究竞是在不断实现自己的心愿,还是与它渐行渐远?这样的质疑并非是对技术悲观主义的简单拥趸,而是指向随着现代性的深入发展而无法回避的问题:人类会被自己的造物引向何方?

未及这一问题被深入探讨,人类社会已经以高歌猛进之势迈入智能化变革时代。以ChatGPT、DeePSeek等为代表的生成式人工智能正全方位深入到生产生活的各个层面,在各个领域包括教育领域展现出巨大的应用潜力。和之前每一次技术应用都不同的是,生成式人工智能基于概率推演和算法模拟所生成的内容高度“仿真”且在“表象”上逼近人类思维,使其已成为极具魅力的“神像”。由此,人类开始以极大的想象力勾勒未来教育的样态,生成式人工智能正在以“高效”“智能”“赋能”之名快速渗透到教育系统中,“精准教学”“智能批改”“未来学校”“智慧课堂”等概念与观点再次呼啸而来,世界各国也纷纷出台系列政策与规划,积极推动教育数字化转型。

回顾近代信息技术对教育的变革可以发现,以新颖的、博人眼球的方式华丽登场的生成式人工智能技术带给教育界的乐观情绪,并非第一次出现,也正如每一次技术进步一样,不少学者已经反思其教育应用的风险。然而,当前关于生成式人工智能教育应用的反思多停留在隐私、安全、公平等应用层面的伦理问题,较少涉及认知层面的反思。部分研究虽然聚焦于生成式人工智能引发的师生关系异化与教师身份焦虑等问题,但多局限于生成式人工智能本身进行探讨,尚未将其与人类思想的现代转型相关联,因而总不免有雾里看花之嫌。事实上,诸如学习的目的、教师的角色替代等议题之所以在技术进步所引发的讨论中反复出现,正是因为这些症结超越了具体的技术问题,而根植于现代性的深入发展当中。鉴于此,只有将生成式人工智能教育应用所隐含的危机置于现代性视域之下,才能为深入理解危机的表征与产生的根源提供思考的进路,从而辨明生成式人工智能加剧危机的作用方式与破解关键,为把握人工智能教育应用的真实价值与限度提供有益的启发。

二、生成式人工智能教育应用的危机表征及现代性根源

人工智能教育应用所带来的影响已从课堂样态、教学和学习方式等实践层面深入到有关教育教学的根本性的认知层面,从学习目的、学习过程、学习内容和结果等维度来审视,可以看到当前生成式人工智能的教育应用正激化着现代性发展所带来的认知错位,给教育发展带来潜在危机。

(一)没有赢家的争论:知识掌握与能力培养的双重失落

人工智能在算法、算力、数据三要素的支持下,获取知识的能力已经超过人类。许多学者由此认为,在人工智能时代,对知识的了解与掌握已不再是学习的主要目的。事实上,轻视具体知识学习的论断已经在教育实践中产生影响且有愈演愈烈之势。而本研究意在明确地指出,轻视具体知识学习的教育,不可能培养出任何能力。

对于能力,尤其是通用能力的重视并不是智能时代所特有的。早在生成式人工智能出现的100多年前,我们就可以找到这一观点的“杜威版本”:教育的目的在于使个人能继续他们的教育,或者说,学习的目的和报酬,是继续不断生长的能力。而未成熟的人为生长而有的特殊适应能力,构成他的可塑性,这种可塑性是一种发展各种倾向的力量。杜威所讲的可塑性同我们今天提倡的可迁移能力、综合素养等内容都强调一种超越单一技能的“通用能力”。通用能力在现代社会受到极大重视的现代性根源在于由知识生产模式的颠覆性转向所导致的现有知识的“永远落后”状态。在前现代时期,知识的产生建立在长时间的观察、实践和代际传承之上,其正当性根植于生活实践的连续性之中,是“传统”的内在构成。而作为“引线”的传统通过对过去的阐释,锚定了个体的现在,并能够对其未来作出明确的指引。传统是“一条贯穿过去的引线,同时也是锁链,所有新一代人无论意识到与否,他们对世界以及自身经验的理解都被束缚在其上”。在这样的时代,知识很大程度上不是被“更新”,而是被“传承”,而教育的核心任务不是突破旧知,而是引领儿童进入现有的知识秩序以在社会中生存下去,这也就是杜威所批判的“教育即预备”:儿童在社会中不被视为有充分正式地位的成员,他们被看作候补人,列在等待批准的单上。这一观点的基础性前提在于既有知识作为传统的构成,具有确定性与连续性,而正是传统所提供的确定性与连续性,构成了传统本身令人感到“束缚”的前提。

与此相对,现代人则从这种“束缚”中被解放出来,因此面临着另一种命运:“他降生在这个世界上,但在这里,他的心灵和思想传统都不能再提出合适的、有意义的问题,更不要说对他自身的困惑给出什么答案了”。促成这一解放的,正是自启蒙运动至今不断被发扬的科学精神及其所规定的知识生产方式,而作为其基础的理性原则则规定了它最为显著的特征:一切都必须在理性的法庭面前为自己的存在作辩护或者放弃存在的权利。科学的范式决定了现代人对待知识的基本态度—质疑。当现代人笃定质疑的态度能够推动知识“进步”时,也有必要意识到这种态度所隐含的知识观:知识甫一产生,就成了“旧”、有待更新的东西。终身学习不再是个体对未知世界的自由追问,而是一种对“落后”的持续否定。在教学中,这就意味着教师所传授的任何知识都被视为“有待更新”的内容。由此,原本作为教师权威来源的知识的深度与连贯性在现代性背景下反而被视为对创造力发展的抑制性因素。教师权威在知识维度的失落与异化的终身学习一道,为庄子在两千多年前的警示提供了现代性注脚:“吾生也有涯,而知也无涯。以有涯随无涯,殆已”。在无边无际的知识洪流面前,个体不再感受到认知的兴奋,反而深陷于对落后的焦虑当中。于是,一个似乎充满希望的转向必然在此浮现:如果我们能够一劳永逸地“学会如何学习”,即掌握某种超越具体内容的“通用能力”,是否就不再需要不断追逐那些不断更迭的具体知识了?

生成式人工智能的出现与迅猛发展为这一观点提供了又一个有力的支撑:正如自然界是人类“无机的身体”,似乎人工智能就是我们大脑的外在延伸,可以“替”人将知识储存起来并供人随时调取。在某些领域,它甚至表现出比人类更高的“知识处理”效率。如果知识的储存、获取与处理真的可以交由人工智能“代劳”,那么人类自身是否不再需要将知识的掌握作为学习目的,而只需保留学习和使用知识的“通用能力”?因此,当人们认为具体、明确的知识能够通过人工智能被随时调取,对于人类应当学会什么的回答也就日益变为所谓的“元认知”“核心素养”“可迁移技能”等,最终指向“没有任何内容的学习”。而我们必须意识到,人类避免“以有涯随无涯”的努力所显现的,是普遍(the Universa1)与特殊(the Particu1ar)之关系的思辨性倒置。一旦倒置,那些感性的具体事物,也只能算作抽象的普遍事物的现象形式(Phenomena1 form),这与事物的真实状态背道而驰。所以比斯塔才会说,“暗示学习是应当贯穿于生命的事物或应当在学校促进的事物—没有任何真正的意义,直到规定了学习的内容是什么”。所以,或许对知识的了解与掌握在人工智能时代已然居于次要目的,但毫无疑问的是,不论学习的目的是什么,都必然通过学习指向这一目的的“具体知识”来达成,而生成式人工智能所加剧的对知识学习的轻视,最终将会导向知识掌握与能力培养的双重失落。

(二)没有瑕疵的知识:学习过程的“情”“知”分离

在重申具体知识的学习在数智时代之必要性的前提下,便可以进一步探讨人工智能技术的发展对学习过程的影响,以及存在于这种影响中的“情”“知”分离的教育风险。怀特海指出:“一切教育的核心在于要使知识充满活力,而不能使知识僵化”。而要使知识充满活力,对于知识的学习就不能停留在单纯的记忆和调取,需要真正地理解。理解不仅限于一种逻辑分析,而且是在超越理性的意义上将知识内化为自身知识体系的内在构成。然而,在生成式人工智能主导的学习语境中,人们通常默认生成式人工智能能够快速提供自己需要的知识,因而愈发习惯于“指令—获取”式的“学习”。这种“便捷”的代价是对知识内化过程的直接跳跃,学习在很大程度上成为一种“资讯”的获取,由此得来的“知识”无法在具体情境中迁移和适当取用,而是一种僵化的、被尼采所鄙弃的“没有瑕疵的知识”:“‘这是我的最爱’,——被诱惑者如是诱惑自己——爱着大地,正如月亮之爱大地,只以眼睛轻触它的美。我称之为关于一切事物的没有瑕疵的知识,此即我对事物绝无所求:除了让我躺在它们面前,犹如一面百只眼睛的镜子”。

“没有瑕疵的知识”所显现的,是一种无关痛痒、缺乏批判和深思的知识状态。其揭露了人们在接受新知时,如同面对一面冷冰冰的镜子,仅仅是被动地反射其影像,而没有自己的追求和思考。这种被动的求知状态不仅无助于创造力和批判性思维的发展,还使得个体在面对信息洪流时,丧失了自主性和能动性。人们的学习过程不再是主动的探索和深思,而是机械式的资讯处理,而其所得到的是没有生命力的惰性知识,它们无法真正丰富人的内在世界,甚至损害对事物的深层理解和批判能力。

这种学习过程中“情”“知”分离状态出现的原因在于知识学习中工具理性对价值理性的僭越,这种僭越由现代社会中的竞争逻辑所推动。由于“技术”“社会变化”和“生活节奏”三者相互作用而不断加速形成的循环,个体被迫不断更新自己的知识以维持自己在社会运行系统中持续的“被需求状态”,从而在永无休止的竞争中不断在“暂时”的意义上维系着自己脆弱的相对优势。由此,学习变成一种“无法避免的事情,是我们必须且不能不做的事情”。这种竞争用永恒的不确定性、高度变迁速率,以及日渐增加的徒劳感持续威胁着主体,最终导致学习的“异化”:社会环境“胁迫”下的外在压力替代了个体对新知之天然好奇的内部动力,经由个体的自我规训而成为个体学习的主要驱动力。这种学习动力的质变决定了现代人类对于知识的工具主义态度。因此,当用以训练生成式人工智能的数据规模不断扩大,其对人类要求的满足日益精确,知识获取不是变得更加个性化,而是促使“填鸭式教育”日益转向“填鸭式学习”。因为个性化学习的前提是“自主”,但在现代资本主义社会中所发生的,是学习动力由外在的压力转向个体内在的自我规训。“21世纪的社会不再是一个规训社会,而是功绩社会。其中的成员也不再是‘驯化的主体’,而是功绩主体”,其所展现的是对知识获取效率的无休止的、工具主义式的追求。

显然,生成式人工智能的出现不仅不会改变这种知识获取态度,反而更促使人类在这条道路上疾驰狂奔。在这个过程中,知识获取的便利性反而使得学习者在学习过程中主动或被动地放弃掺杂着复杂情感的深度思考与内化,教师也难以坚守“不愤不启、不悱不发”的等待。可以说,获取知识越是便利,人类越是无知,而这条道路的终点便是阿瑟·克拉克(ArthurC.Clarke)在《2001:太空漫游》中所描述的猿人的处境:“他们身处丰饶之中,却逐渐饥饿致死”。

(三)“同质的多元”:递归坦咒对多元文化的冲击

在数智时代,人们越来越依赖于各类基于大数据和机器学习的系统来获取和传播“知识”。可以预见的是,当人工智能的训练数据越来越多地来自其自身生成的内容时,那些原本在训练语料中频繁出现的主流观点将被进一步放大、固化,而边缘的、冷门的、异质的观点与思想则被日益排除,最终逐步遗忘。因此,依赖生成式人工智能进行教与学的又一潜在风险,人类获取知识的多样性受到了越来越狭隘的观点子集的影响,这一过程被称为“递归诅咒”(the curse of recursion)。显然,这种趋势将改变人类世界多元文化样态的可能性,进而对人类文明的长远发展产生不利影响。

从历史上看,不同文化间的交流在促进人类文明发展方面起着至关重要的作用,不断为人类文明的发展提供着新的可能性。通过知识与技术的传播、文化的创新与融合、思想与价值观的碰撞,社会得以不断进步和发展。信息传递媒介的不断发展极大地便利了多元文化之间的交流,但另一个与这种日益便利的交流相伴而生的重要趋势不应被忽略:中心化。多元文化日益集中于几个标签化的“中心”文化,而中心以外的丰富性则在不断消失。造成这一现象的根源在于现代性中的“脱嵌”(Disembedding)机制。根据吉登斯的解释,脱嵌指的是将社会关系从彼此互动的地域性情境中“脱离出来”,并穿越不确定的时空范围而得到重构,在迄今为止的多次信息技术变革中,人们都曾设想教育实践的脱嵌样态,如对电视与互联网的出现将会如何改变教育教学实践样态等的想象。但事实上,面对面的交流,即地域性情境中的互动依然被认为是教育发生的关键要素。因此,相比于教育的实践样态,教育的内容事实上更加显著地反映了现代性的脱域机制及其所带来的显著影响,而这些信息技术的变革也更多是在内容的层面对人类世界的文化版图施加影响。

在前现代时期,文化的交流与传播主要依托地域性的情景来进行,但在现代社会,人类获取知识的渠道变得前所未有的多样化,尤其是进入互联网时代以来,大量的知识被置于线上网路中,这当然极大地便利了人们对于异文化的了解,但显而易见的是,这种便利并不意味着知识的均衡传播。相反,由于受到诸多复杂因素的综合影响,不同文化的内容在网络上的分布极不均匀。这种数据分布的偏差导致大模型在生成内容时,倾向于重复那些在训练数据中频繁出现的内容与流行观点,这不仅影响了模型的输出质量,也在潜移默化中改变着文化的传承与交流。而人们在与这些模型互动时,接收到的是经过大量流行观点过滤后的信息,久而久之,这些流行观点进一步固化,成为公众思维的一部分。在话语体系中处于弱势地位的地方性知识在人工智能知识生产中的边缘化和消解,强化着现有的知识—权力体系。

因此,“递归诅咒”对人类文化的多样性和完整性可能造成的损害是难以估量的。如果人类的文化版图是五彩斑斓的渐变色,那么在“递归诅咒”的影响下,整个版图可能变为少数几个边界分明、内部一致的“色块”。在这种情况下,文化依然是多元的,但每一文化单元内部及单元之间由于不断被单元“中心”所同化,因而失去了复杂性与丰富性,最终导向一种“同质化的多元”。随着生成式人工智能在教育领域的深入应用,当教师不再深度备课,而是依赖于各种智能软件生成教案;不再基于自主探索,而是依赖平台的算法推荐;不再进行自主反思,而是依赖大模型提供的自动分析与改进建议,这种依赖终将受到其系统偏见的反噬,“同质的多元”现象也将会通过教育被进一步强化。

三、生成式人工智能何以加剧危机:“拜物教式幻觉”的制造

在以效率、精准、自动为核心的技术理性推动下,生成式人工智能正通过其“高度拟人化”与“去人化”共存的双重特性,造成了一种它“可以理解”人类语言的错觉,进而激化着教育领域的认知错位。这种错觉可以被称为数智时代的“拜物教式幻觉”。拜物教式幻觉这一概念可以追溯至马克思所谓的“商品拜物教”,指的是商品形式和它借以得到表现的劳动产品的价值关系本身是人们自己一定的社会关系,但它在人们面前采取了物与物的关系的虚幻形式。马克思认为,在宗教的幻境中,人脑的产物表现为赋有生命的、彼此发生关系并同人发生关系的独立存在的东西。而在商品世界里,人手的产物也是这样。

与商品拜物教不同的是,生成式人工智能所带来的幻觉更为隐蔽、更具欺骗性。幻觉得以生效通常有两个条件:一是客体的“客观破绽”被遮蔽,二是主体具有沉溺其中的“主观动因”。这一分析的前置条件是假定主体主动而客体被动。然而在生成式人工智能的应用情境中所显现的则更像是某种倒置:人类作为主体受到基本被动性(fundamenta1 Passivity)的驱使而屈从于无可避免之事,生成式人工智能作为客体则在这一过程中不断“主动”地打搅、妨碍主体。在这里,我们所观察到的“无可避免之事”即是人类总是存在着建构意义的倾向。在这种倾向的影响下,人类总是“被动”地为生成式人工智能的运行赋予“人性”,并对其输出结果赋予意义。

另一边,生成式人工智能则通过主动地在输出结果中露出“破绽”,干扰、妨碍主体的意义建构过程。当输出结果中偶尔暴露出某些意义不明的语词、逻辑悖误或违背伦理的表达时,这种破绽反而成为主体感受到“瘙痒”的刺激点,从而进一步激发其意义建构的欲望。因此,这种主动与被动的倒置状况重塑了数智时代拜物教式幻觉的发生条件:即便客体“主动”地显露出破绽,主体依然有沉迷其中的“客观”理由。这一机制使得生成式人工智能所引发的拜物教式幻觉与传统商品拜物教之间产生了显著差异。“他们没有意识到这一点,但他们这样做了。”这句话来自马克思对商品拜物教的分析,它事实上指出了拜物教幻觉中“知”与“行”的分离,且认为幻觉位于“知”的层面,即“没有意识到这一点”是幻觉得以发挥作用的关键。但是,对于由生成式人工智能所引发的幻觉是“他们即使意识到了这一点,但他们仍在这样做”。因为生成式人工智能的输出结果与人类的表达具有高度的相似性,同时其输出结果的过程伴随着人们对于回答的期待,这种期待是以“它能以人类的方式理解我”为前提的。因此,即便人工智能偶尔出现“智障”的情况,人类使用者依然会沉溺其中,并为其辩护。

问题并没有止步于此,人们习惯于以“理论指导实践,实践反馈理论”的方式来应对日常生活,这种生活方式事实上要求的是“知行合一”。于是,原本位于行动层面的幻觉开始延伸至认知层面。周鸿祎在谈到生成式人工智能时的言论便体现了此种延伸:“不管它能不能理解,它能准确地回答问题,你就应该当成它理解了。”这类看似务实的观点,实际上混淆了技术运行中的“准确”与人类语境中的“理解”,所谓的“当成它理解了”即体现了拜物教式幻觉从行为向认知的渗透。此种混淆流行所致的结果是“智能”“理解”“知识”等概念的消解,最终使人们走向一种无反思的实用主义态度,从而加剧前述教育危机。

四、幻觉的破解:澄清生成式人工智能所不具备的主体性之维

在揭示数智时代“拜物教式幻觉”及其作用机制的基础上,我们需要思考破解这一幻觉的突破口。正如马克思所指出的,人类对于自己在劳动中使用的工具往往会带有情感投射,将其视为自己的“伙伴”,因而才会沉溺于这种幻觉之中。因此,破解幻觉的关键在于正确理解生成式人工智能的本质,直面和回应“生成式人工智能是否具有主体性”这一问题,而这一问题的答案取决于人们如何理解“主体”。

在当下的日常用语中,“主体”指的是言说或行为的发起者,其具备自我意识,能够决定自身所言所行并对其负责。这一版本的主体被里贝拉(A1ain de Libera)称为“现代主体”(sujet moderne),是当下公众及学科话语中关于主体的普遍共识,也是判断生成式人工智能是否为“主体”时的普遍参照系。那么,生成式人工智能是否能决定自己的所言所行并为之负责呢?如果我们从现代主体的意涵出发,会发现这一问题难以得到解答,因为生成式人工智能使得信息的获取不再限于等待调取的被动状态,它可以根据用户要求调动大量数据,生成有针对性的、具高关联度的信息。有学者据此认为,在认知层面,这种生成是一种主动的创造行为;然而当其生成的信息有误或出现虚假信息时,我们无法令其承担责任和后果。这种矛盾使得生成式人工智能的主体性问题变得晦暗不明。

事实上,“现代主体”可追溯至笛卡尔提出的“我思故我在”。而其无法为生成式人工智能的主体性问题提供有效见解的关键,在于“主体”所蕴含的行动的“承载者”与“施动者”的双重内涵,被“我思故我在”所隐藏起来。尼采曾指出,笛卡尔之“我思故我在”事实上是“我们为某个行为设定一个行为者的语法习惯的一个表达。质言之,这里已经作出了一个逻辑—形而上学的假设”。也就是说,连接“思”与“在”的“故”这一逻辑环节,并非基于严密的逻辑推理,而是一种假设:每一个行为的执行者或者说承载者同时也是施动者,即行动产生的动因。然而,这一假设并不总是成立。例如在“火山爆发”这一语句中,火山虽然是主语和爆发行为的承载者,却并非主动施动者。也就是说,主谓结构中的主语是行动的执行者,但是,主语却未必是施动者。当主语是“我”或“他”时,我们则倾向于将其同时视为执行者与施动者,这一理解深植于现代语言与法律结构中。里贝拉指出,现代主体是一个晚近的概念,现代意义上的“主体”(suiet)直到16世纪才开始出现,而将其与“人”概念等同更是18世纪之后的事情,在此之前,“suiet”一词的含义不是“主体”,而应该是逻辑语法意义上的“主语”。

在现代形而上学的开端,人们开始关注“人本身借以为自己寻求一个无条件的确定之物的道路”“人本身借以界定真理之本质的道路”的问题。传统形而上学的主导问题“什么是存在者”转变为“什么是真理的不可动摇的根基”。为了解决这个问题,笛卡尔开启了人类“自我”(Ich)以占据支配地位的方式变为“主体”(Subiekt)的道路。这一转向使得“人”以“主体”的身份开始出现。继笛卡尔之后,康德发明了“先验的主体”这一概念,将其与人类“自我”进一步关联起来,认为“我”是思维活动的统一者,尽管我们无法对它有直接认识,但它是所有概念得以产生的条件。而主体的“施动者”涵义则源于亚里士多德的“赋谓”与“归罪”的联系。在前亚里士多德时期,希腊语“κατηγoρει”的流行含义是“指控”:人们控诉某人干了什么。亚里士多德扩大了这个动词的含义和用法,敌意的指控变成了中性的赋谓并且被指控的某人变成了某物—“用某物指控某人”变成了“将某物赋谓给某物”。这在哲学层面影响了有关人类的“自我”与“动因”关系的认识,因为“”的双重含义仿佛意味着:能被赋谓的主语,即是能承担谓词所指涉行动的施动者。在法庭语境中,被指控者之所以需要回应“你做了某事”的责难,正因作为人的被指控者被预设为行动产生的原因,而当这种指控结构与逻辑上的赋谓联系在一起时,施动者也就仿佛与普遍意义上的行动的执行者“合二为一”。所以在洛克那里,我们看到的是“自我”与“施动者”被等同起来:人格是一个法律术语。无论一个人在何处认定所谓的“自我”,他人便可认定那里存在着同一个“人格”。这是一个具有法律属性的术语,用于归属行为及其功过;因此仅适用于能够理解法律、感受幸福与痛苦的理性施动者。

上述词源学的考察揭示了隐藏在现代主体中的“承载者—施动者”的双重内涵,主体性不仅意味着行动的执行,更包含对行为的意图、责任与反思能力。基于此,生成式人工智能的主体性问题得以明晰:生成式人工智能仅仅是行动的承载者、执行者,而非行动产生的原因,因而不具有主体性。生成式人工智能并非基于“想要回答”或“认为正确”的主观动机作出响应,而是通过复杂的参数计算,从概率分布中选取最可能匹配该提示的词汇序列。一言以蔽之,生成式人工智能并没有超越马克思所讲的“对象化关系中的智能器官”这一概念:它们是人的手创造出来的人脑的器官,是对象化的知识力量。对于生成式人工智能而言,人类才是施动者;是人类使得生成式人工智能的一切行动得以产生,其只是人类本质力量的对象化。进一步来看,具备“施动者”之维度的人类所创造的“知识”都是“意有所指”的,是有关世界的现象、规律的描述,不具备“施动者”之维的生成式人工智能所生成的任何结果都不具有意向性,是人类对于意义建构的执着赋予其意义与价值。循此思路,由生成式人工智能所引发的拜物教式幻觉得以破解。

五、危机的应对:赋能而非卸责,重申人机协同中的教育逻辑

幻觉的破解构成了探讨生成式人工智能的角色定位与应用边界,进而预防生成式人工智能应用加剧教育危机的前提。如前所述,生成式人工智能的“生成”行为并不来源于内在意图,其并不具备“施动者”的维度,无法成为“主体”。在教育情境中,真正能够判断、选择并为教学与学习行为负责的,依然是作为主体的师生。因此,首先必须明确生成式人工智能的“赋能”应定位于对教师与学生主体性的增强,而非替代或卸责,警惕教育向技术叙事自我规训与消音。应充分发挥生成式人工智能技术的潜力,如协助教师完成繁重的低阶任务、辅助教师开展大规模因材施教及拓宽师生思维广度等,以释放师生的精力从而投入到更具创造性的教育活动中,但前提是不能剥夺师生自主反思、主动探索与专业判断的权利。

其次,应重申系统性知识学习在教育中的核心地位,强调教师在知识结构建构中的引领作用。生成式人工智能往往被误用为“答案生成器”,导致学生在学习过程中依赖其获取结论,容易忽视对知识结构的深度理解与思维路径的自主建构。事实上,学生能够进行创造之前,必须首先跟随教师的引领,经历“亦步亦趋”,在对知识的内容与逻辑进行系统把握的基础上,生成式人工智能为学生提供的内容才能被识别为“有效的材料”,才具备具有启发性的可能。为此,教师在教学设计中应以系统的知识逻辑为主线,构建系统递进的知识框架,引导学生在结构化的学习过程中掌握核心概念、形成认知图式,而不是依赖智能技术进行跳读式、碎片化的内容捕获。生成式人工智能技术可以协助教师查找与梳理材料、分析和解读数据,但不能取代教师在课程实施过程中的认知引导功能,更不能成为教育者逃避复杂教学设计的“万能工具”。

再次,应充分关注教育教学的情感维度,避免因技术介入而导致学习过程的“去情感化”。一方面,教学设计也应避免机械灌输与任务堆砌,注重通过师生之间的价值沟通与经验共享,为学生学习过程中的困惑、纠结、不解提供空间,守护学习过程的情感投入,增强课堂的生命力。另一方面,教育过程离不开共情、鼓励、理解与价值澄清等关键的人文互动,教师应在技术协助的基础上,积极发挥其情感引导者的作用。在技术提供行为反馈和情绪识别的基础上,教师应发挥自身的实践智慧,保持自身的专业判断。通过课堂上的眼神、肢体、语言互动、对话反馈与情境共建等方式,唤起学生的学习意愿、激发其对知识的内在兴趣,并帮助其在情感共鸣中重构学习意义。

此外,应有意识地引导学生突破技术逻辑的“最可能性”“最优解”,积极抵御生成式人工智能应用所导致的知识同质化与思维封闭风险。生成式人工智能的运转本质上基于大数据训练的统计归纳机制,其生成内容往往趋向于“常规”“主流”和“高频”,在长期使用中极易造成师生思维路径的单一化,获取的知识的同质化。这要求教师在使用生成式人工智能技术进行教学设计等活动时,也需时刻警惕其生成内容可能存在的偏见、歧视与片面性,保持面对技术的专业判断力与伦理警觉性。教师必须有意识地在课堂教学中通过设置多样化的提问、提供多解任务、组织辩证性讨论等方式,确保学生在技术洪流中保持清醒的头脑,不被算法所驯化。例如,在面对人工智能所生成的回答时,教师可以引导学生思考:为什么是这个答案?是否还有其他可能?其生成的信息背后反映了哪些预设假设与意识形态立场?进而激发学生独立思考的能力与敢于探索和批判的精神。

六、结语与展望

斯图尔特·罗素(Stuart Russell)指出,“当前我们所扩展的大语言模型好像黑匣子,它们是看不透的,它们能够满足的目标是我们现在不清楚的……今天的人工智能恰恰是违反了整个文明发展的技术思路,我们并不理解这些系统如何运作……只是让它增长”。生成式人工智能的迅猛发展及其在教育中的广泛应用,虽然为教学提供了诸多便利,确实为教育变革带来了更多的可能性,但也可以看到其通过“拜物教式幻觉”的制造干扰着人类的“行”与“知”,也因此加剧着根源于现代性深化的教育认知危机。应对危机的前提是澄清这个充满魅力与诱惑的神像本质上是“空心”的,明确人工智能赋能教育的核心并不在于“智能程度”的不断攀升,而在于“人的主体性”能否在智能化支持下被持续激活和提升,进而从“知”的层面的改变来规范和指导“行”的改变。

生成式人工智能不具有主体性,并不意味着我们可以不去考虑其对教育乃至整个人类社会造成颠覆性影响的可能性,因为人类的本质中有着太多不可思议、难以想象的东西。因此,机器不具有主体性并不意味着其不能实现对人类的奴役,只是这种奴役不是从黑格尔主奴辩证法的意义上来讲,不是拥有主体性的机器奴役人类,而是人类被作为自身本质力量对象化的机器所奴役,是人类被自身所奴役,这一趋势已初见端倪,成为现代人必须面对的议题。从这个意义上来讲,相比于刘慈欣在《赡养上帝》中提到的“机器摇篮”,尼采所鄙弃的“最后的人”反而更加一语中的地预言了人类对于人工智能缺乏反思的状态。总之,技术的每一次跃进,都是对人类自我理解的挑战,不断进步的人工智能技术在教育领域的应用需要不断被辩证与批判地加以审慎考量,才能为人类文明的未来孕育新的可能性。


(本文参考文献略)


The Hollow Idol: A Scrutiny of Generative Artificial Intelligence’s Artificial Intelligence’s Application in Education

YuanPeili SongHuan


Abstract: Generative artificial intelligence (GAI) is accelerating the dislocation of educational cognitive structures in Problematic ways. First, the dominant discourse that emphasizes skill development over knowledge acquisition has led to the dual loss of both knowledge mastery and competence development. Second, the separation of emotion and cognition in learning hinders students’ ability to understand and internalize knowledge deeply. Third, the “recursive curse” of large models intensifies the cultural crisis of “homogenized Pluralism”. This study argues, from an etymological Perspective, that GAI lacks the “agent” dimension inherent in subjectivity, and therefore its outputs cannot be considered knowledge due to the absence of “intentionality”. In educational settings, it is still the human subjects—teachers and students—who are capable of making judgments, making choices, and taking responsibility for teaching and learning. Based on this understanding, the paper calls for a renewed emphasis on the logic of human-machine collaboration in education and urges more cautious consideration of each technological advancement and its application to ensure they truly empower educational development.

Key words: generative artificial intelligence; modernity; subjectivity; techno-fetishistic illusion


初审:王悦桦

复审:孙振东

终审:蒋立松


版权所有 |教育学在线 京ICP备1234567号 在线人数1234人