当前位置: 首页 > 在线期刊 > 2024年 > 第3期目录(总第二百零一期) > 正文

破解“科林格里奇困境”:教育数字化转型风险治理的向度、原则与进路

作者:赵书琪,于洪波
阅读数:27

来源:《中国电化教育》2024年第3期


摘 要:教育数字化转型的“科林格里奇困境”揭示了数字技术在教育场域应用中普遍存在的潜在风险与治理难题,并以算法决策诱发师生认知坎陷、技治主义导致主体价值僭越、数字孪生加剧教育信任危机为具体表征。为有效规制教育数字化转型风险,治理方案应将社会价值预设于技术设计之中,以韧性建构、多元共治、数字福祉为价值导向,以安全可靠、共生协同、相称认责为基本原则。基于此,我国教育数字化转型风险治理应遵循“刚性底线”与“柔性边界”相统一的治理逻辑,“人性复归”与“良法善治”相交融的治理理念,“责任规制”与“融通联动”相结合的治理策略。

关键词:教育数字化转型;风险治理;向度;原则;进路


一、引言

数字技术赋能教育创新发展已经成为一种国际共识。习近平总书记指出:“科技是发展的利器,也可能成为风险的源头”[1]。新兴技术在助力教育高质量发展的同时,也不可避免地带来了数据垄断、隐私侵犯、伦理冲击等潜在的安全风险。技术风险倘若难以被有效识别与控制,对技术失控的畏惧将演变为“现代性”恐慌,进而诱发“科林格里奇困境”。“科林格里奇困境”这一命题由英国学者大卫·科林格里奇在《技术的社会控制》一书中提出,现已成为研究科技风险控制的经典范式。它用以表征“技术的不良后果在其初兴期难以被精准识别,在发展成熟后,已难以对其进行有效控制。伴随着新兴技术广泛应用,解决其所衍生的问题将变得异常困难”[2]。该困境集中体现了技术应用效度与风险防控效率间的结构性矛盾,此种矛盾嵌入至教育场域之中,对教育数字化转型风险治理发起了严峻挑战。

晚近数年,世界各国普遍意识到技术风险治理在数智时代教育政策制定中的重要性。诸多国家结合本国特色与资源禀赋,围绕数字化教育可能的治理目标、要素、机制与路径展开了多元化设计,掀起了一场全球教育数字化转型治理的超大规模“社会实验”。其制度内容涵盖教育技术珍视谁的价值(价值立场),珍视何种价值(向度目标),如何正确对待有价值的事物(正义原则)以及如何对其进行合理分配等。诚如海德格尔所言,“技术愈使有脱离人类的统治的危险,对于技术的控制意愿就愈加迫切”[3]。古今技术都是一种“解蔽”,传统技术呈现出守护性的生成性解蔽,而现代社会科技领域彰显出的是一种促逼式解蔽,那么,应如何破解这种“促逼式”技术困境?教育数字化转型治理的向度为何?遵循何种原则开展治理实践?应朝向何方促成治理范式改善以破解“科林格里奇困境”?对此,本研究通过揭示教育数字化转型的风险表征,明晰治理向度,厘清治理原则,绘制治理进路,为我国教育数字化转型进程中的风险治理实践提供些许镜鉴。

二、教育数字化转型的“科林格里奇困境”及其表现

细述数智时代人类的生存境遇,尼尔·波斯曼基于技术与人的共生关系将科技发展划分为“工具时代、技术统治和技术垄断”[4]三个阶段。技术作为具有目的性与延展性的人造物,其持续为人的生存与社会发展设定新的锚点。然而,教育数字化转型进程中技术并非总是发挥均衡且有效的社会价值,在应用中不可避免地显现出“算法之弊”“主体之陷”与“信任之殇”。

(一)无声的“殖民”:算法决策诱发师生认知坎陷

在历时性演进的技术谱系中,教育技术持续发展的背后是日新月异的算法优化,其激进式地迅猛发展确立了技术体系内部自我强化、增量迭代的进化法则。以人工智能、物联网、区块链等为代表的新兴技术能够以类人脑的形式对海量信息进行“深加工”,并以影像语言、听觉创构、情景互动等形式生动呈现,实现学习资源的精准供给与有效输出,无形中简化了师生的心智劳动。然而,当技术愈发“善解人意”,新的知识调用方式助推人机知识互嵌,亦潜移默化地改变了人类的获知与求知模式。教育中高效决策所需的信息量终将超越人脑的可承受限度,原本处于辅助决策地位的“类脑智能”不可避免地成为决策活动的主体。在超强算力的加持下,算法决策将可能优于并取代人类决策。智能算法基于学习环境中的“数据足迹”,全方位地捕捉教育主体偏好。教育者与学习者在人机对话中,落入无处不在的“算法议程”,成为被“投喂”的消费主体。算法的生成逻辑与数据偏好厘定了其生成内容的价值导向,左右着师生对于信息的判断及现实环境的感知,长此以往将阻碍其认知活动与情意交往。

当人的认知以“自我取消这种奇特的存在为特征”[5],不自知地追随技术意志,其行为便不能由生命与生存需要所主导。“在那个世界里,当我们不再需要工作时,我们就会变得异常懒惰,混吃等死。最要命的是,我们的大脑也退化了,因为机器不仅能自我维持,还能维护其他一切”[6]。“机械”的进步皆源于“机心”,但技术的单向度发展固然无法回应“人何以存在”这一根本性的哲学问题。在“抱翁汲水”[7](《庄子·天地》)技巧章节中,庄子巧妙地借汉阴丈人之口揭示出机器在使用中的异化现象,且尖锐地指出其形成的动因,即机械—机事—机心—离道。与其说,机器所“知”乃人为活动,毋宁说,机器所“知”背离了“循道”,从“无为”至“有为”,已然远离了本性之“德”与自然之“道”。换言之,数字技术赋能下的教育在使人们获得便利的同时,也致教育主体的地位“屈从”于程序化技术,这不可避免地削弱了师生在知识生产过程中的参与权重,以致诱发其认知坎陷,加速了其走向“持存物”的进程。

(二)被动的“祛魅”:技治主义导致主体价值僭越

技治主义认为:一切人类需要都是技术性需要。迁移至教育场域,人类社会的各种教育现象、事实与活动均遵循着一定的规律、原理及法则,而这些都可以被技术重现与预测。柏拉图曾于《斐德若篇》中借塞乌斯神话预言了技术所带来的“恶果”。欣喜于技术体系的进化,人类成为技术的拥护者,他们满怀信心地谈论着技术乌托邦,并在“技治主义”的统治下生存。技术本应是将纯粹真理解读出来的解蔽方式,但解蔽如今却演变为摆弄,它“促逼着人,使人以订置方式把现实当作持存物来解蔽”[8]。事实上,技术治理与教育系统不存在必然的对立,但吊诡之处在于,以效率至上为基本特质的技治主义常常使学校教育生态面临受损的风险,技术在赋能教育的同时,也在悄然的越界成为教育目的的一部分。自教育产生以来,教育系统的主体性便是其应然价值性与实然功能性的统一。以科技生产力为代表的社会子系统无形中制约着教育,但就教育通过培育人才引领社会风尚这一功能而言,则无不体现出其应有的超越性。而教育自初兴之时便着力于促进个体的个性化与社会化,并以形塑人的主体性为价值旨归。技治主体的“技术决定论”打破了教育的现实性与超越性。承袭计算理性的技术权力会使教育主体逐渐沦为信息社会中“物化的人”“迷惘的人”“单向度的人”。

一则,对数字技术的崇拜掩盖了教育“此在”本真。当技术取代人成为教育场域中的主体,人之为人的崇高性与唯一性在技术的全景敞开中被遮蔽,取而代之的是数字化的宇宙图景与冰冷空洞的计量程式。此等隐忧并非当下才有,庄子时代就曾发出“浑沌之死”的感叹。“有机械者必有机事,有机事者必有机心。机心存于胸中,则纯白不备;纯白不备,则神生不定;神生不定者,道之所不载也”[9]。“术之机心”若导致人魂不守舍,则道逐渐远离育人匠心者的视野,亦遁出教育本质之外。二则,对数字技术的过度依赖将致使主体记忆外化。记忆是个体主体性与社会性经验不断累积、过滤、沉淀与内化后所形成的认知性盈余,是人塑造“本体我”与自我认同的关键一环。伴随着具有记忆可供性媒介的不断涌现,人类的记忆形态由最初的具身“生物记忆”不断外扩,而广泛使用的“云存储”以意识代具的形式外化主体记忆,这不可避免地导致师生记忆功能简化乃至退化。三则,对数字技术的不当使用将侵蚀学习者自主心智。学校教育将人视为宇宙中的唯一能动者和意义追寻者,亦是教育价值的创造者与承载者。新兴数字技术的失范应用背离了教育的本质,即尊重人的内在自然,启迪学习者全面、充分且自由地成长,唤醒其生命的自觉。技术承载物作为人类的替身出现,将使人作为万物之灵的独特性、神圣性、唯一性不复存在。“那种用技术解放生活的承诺很可能会变成通往奴役的门票”[10],教育作为实现人完满生活且具有永恒意义的活动亦无存在之根基。

(三)隐匿的“监视”:数字孪生加剧教育信任危机

由于人类知识的不完备性、技能本身异质性和学习过程内隐性等多重因素,教育技术迅猛发展与其风险治理的实际效果并非呈现简单的线性关系。“技术风险及其社会影响往往具有意外性、分散性、集体性特征”。师生畅游在由数字孪生编织的映射系统中,殊不知在虚实相生的教育平行宇宙中潜藏着一个巨大的危机:开放共享的技术在开启智识同构的同时,亦将在教育生活中广泛建立起适用于社会权力传递的、带有唯一性和绝对主义色彩的认授规则。诚然,数字权力所带来的禁锢似是边沁所设想的封闭式圆形监狱,后被福柯描绘为全景式敞视监狱,而如今则进一步化身为“数字利维坦”。

一方面,教育信息化的显著特点是信息获取的去知觉化。被誉为“人工智能教父”的计算机科学教授杰弗里·辛顿认为:“人工智能已开始具备自主建构、模式识别与逻辑推理等超卓能力”[11]。以虚拟现实技术为例,数字技术通过对海量心智数据搜集与分析,模拟现实教育场域的各种情境,为学习者的深度学习推送新的方案。但当人的意识世界毫无保留地向可穿戴技术敞开,随之而来的数据真实性、数据隐私等安全风险难以避免。“我们的个人隐私在不知不觉中受到侵害,我们不知道个人隐私被侵害到何种程度,也许我们早已经变成一个‘赤裸裸的人’,却毫无知觉”[12]。教育大数据凭借其超常的“读心术”对现实情境进行全景式数字监控,造成了语境消解、社交倦怠与隐私越位。神经网络算法“黑箱”特性的负面效应日益凸显,而数据孪生过程中催生的虚假信息泛滥,智能“造脸”等深度伪造现象亦层出不穷、复杂难辨。另一方面,与以往的权力类型不同,巨型教育科技公司享受着由技术创新带来的“知识型权力”,此种权力通过平台所推送的产品和服务渗透至教育场域。“寡头垄断”型主体沿着“算法—规则—权力”的路径生成“数字特权”,获取“民意”与“政策”的解释权,对教育治理实践产生深层次的影响。技术的重重规制无疑加重了社会弱势群体自我封闭和离群索居的趋势。事实上,教育数字技术应用中的算法歧视与偏见问题已引发广泛关注,这无疑加剧了教育信任危机。

三、教育数字化转型风险治理的向度

新兴技术的潜在风险对现有的教育治理体系发起了挑战,如何在教育数字化、智能化转型中寻求适当的治理模式成为国际社会共同面临的问题。为了使数字技术在合理的范围内发挥最大的教育效能,当下有必要从治理目标(建构何种特性的治理)、结构(由谁来参与治理过程)与伦理向度(治理中应珍视谁的价值)三方面为数字技术赋能教育高质量发展提供价值引导。

(一)目标向度:从风险缓释到韧性建构

传统公共教育风险治理的核心是风险缓释,即在风险发生后立即开展应急救援,后再对破坏进行补偿性重建。在此种情境下,教育风险治理就被囿于“头疼医头,脚疼医脚”的模式之中。公共教育风险治理绩效的提升呼吁治理诸多要素与环节的优化重组。风险治理的韧性思维应运而生。它基于结构主义范式,沿着对系统有限资源优化整合的思路,将风险防控和应急响应相统一,提升公共安全风险治理的整体效能。韧性(Resilience)反映了系统对周边环境的适应能力和状态。伴随着公共治理理论的勃兴,“韧性”日益成为国际公共治理中的核心要义。它用以表征治理反应速度敏捷,内容科学有效,过程包容有序,尺度合理得当。例如:联合国发布的2023《全球数字契约》已然指出,联合国、各国政府、私营部门和民间社会决心“采取必要的大胆和变革性步骤,以应对数字信任、安全、敏捷治理等问题,由此为所有人创造开放、自由、安全的数字未来,使世界走上可持续和有韧性的发展道路”。

详述之,基于韧性思维的教育数字化转型治理逻辑具有如下特征:一则,敏锐的风险预判。风险预判能够为风险治理响应争取宝贵的时间窗口。区别于传统的检验性思维,以韧性为特质的教育风险治理体系具有前瞻性,能够进行实时数据收集与全面风险评估,进而提高风险预警能力。例如:联合国教科文组织在《教育政策和总体规划中的信息通信技术指南》中指出:数字教育技术使用前需严格甄别系统开发和应用环节中的潜在风险,确保其遵循了数字包容原则。二则,弹性的环境适应。“调适有度”是社会治理韧性的本质特征。教育数字化转型韧性治理体系要求治理方案具备因境施策的艺术,即通过稳健多样、动态学习的预案设计应对不同环境下的应急性风险,提升治理系统对复杂教育环境的适应性。三则,多维的危机响应。危机响应时效制约着风险治理绩效。教育韧性治理体系能够根据风险的不同类型与程度采取相应的措施,以提升治理效度。例如:《2030数字罗盘:欧盟数字十年战略》中针对技术在公共社会领域使用中存在的安全性、道德性问题,制定了必要的防范性措施。该原则试图建立危机响应措施,规范数据的所有权和使用、用户隐私及技术使用的道德问题,为学习者提供开放、和谐、健康的数字生态环境。

(二)结构向度:从单一治理到多元共治

结构向度集中阐述了各治理主体在教育数字化转型治理中的角色与作用。它以“行动者—资源”视角对多元治理主体和多样化治理资源及其关系予以解释。作为一项系统工程的教育数字化转型治理,其规划、部署与实践往往涉及社会多层次、多领域的协作。故而,元治理(Meta-governance)理念亟需被引入。元治理作为一种二阶治理的形式,乃对治理的治理。它旨在“为各治理行动者制定原则与规范,平衡、协同与整合各种治理机制间的关系,创造治理行动开展所需的条件”[13],以减少治理的碎片化与重叠性。治理框架中诸多教育部门通过在内部促进部门间协同,在外部构建治理网络,积极促进自身角色转型,更好地承担治理功能。随着教育治理所面对的现实情境日益复杂,各国参与教育数字化转型治理实践的主体也日益多元。多元协作的治理模式正成为国际共识,国际社会正呼吁建立跨领域、跨行业、跨部门、跨区域、跨学科、跨学校的综合性的教育数字化转型治理生态系统。

诚然,多元的教育治理主体是汇聚与整合治理资源的必要条件,那么配置得当的治理资源则是激励各方治理主体协同合作的内生动力。全球性教育技术安全威胁需全球化应对,保持沟通的态度本身就可以带来信任。扼要地说,教育数字化转型治理行动者包括政府、学校、企业、社区、媒体及社会公众,其各自享有独特的治理资源,在教育数字化转型治理生态中发挥着互补性作用。例如:2021年,欧盟宣布正式启动“数字化教育枢纽”,围绕“联系、监督、合作、创新”四大目标,委员会充分考虑各成员国教育数字化转型的不同利益诉求,并创建覆盖成员国广泛参与的信息共享和合作交流机制。其任务包括统筹规划、协调、制定与实施数字教育政策,研发数字教育共同标准,探讨数字教育治理方案,完善数字化教育质量保障机制,实现资源整合和优势互补等。

(三)伦理向度:从计算主义到数字福祉

面对技术的深度介入让人类道德生活愈加复杂的现实,人们更呼唤技术伦理自觉。教育数字化转型应该促进伦理进步,让教育变得更加公正、民主、向善、文明而非相反。普遍的“道德律令”对于技术而言不具有绝对约束性,故倘若教育技术缺乏终极动机和底层信念,那么,其极有可能成为教育秩序的破坏者。以技术与善的联系观之,数智时代人类福祉的理想形态是技术增进社会福祉与福祉技术化的良性耦合。“事实上,技术的更早的形态是技艺(Technics),而技艺又被认为合乎人文法度”[14]。教育技术伦理的引入是人伦道德之理在教育发展和技术创造活动中的生命延续。“将价值规范渗入技术治理,将伦理嵌入至技术发展的进程中,目的是为了解决道德超载问题”[15],进而促进技术善治。

“应当珍视谁的价值”是一切伦理实践所要面临与解决的原点性问题。东西方的伦理传统无不体现出深厚的人类中心主义立场。举凡之,各国政府、国际组织、科技产业巨头、各级各类学校,纷纷呼吁践行教育技术伦理准则,以此强化技术责任归属,进而有效解决算法偏倚操纵、利益俘获等问题。联合国教科文组织将人文主义视为教育领域数字技术应用的指导原则,强调在教育场域中使用任何形式的技术都必须保护人权和人类尊严,促进教育包容和平等,支持社会的可持续发展。《2019年技能展望:在数字世界中发展》[16]中指出,技术革新下的就业市场中,发达国家的学生数字技能水平较发展中国家表现得更出色。各国仍需通过改善教育环境与培训政策,降低数字技能造成的不平等扩大、失业加剧等风险,以帮助更多的人从数字化转型中获益。《非洲数字转型战略(2020—2030年)》中肯定了数字化转型正在改变非洲,数字技术和创新正在创造新的就业机会,这无疑有助于实现《2063年议程》中可持续发展的目标。非洲将持续加快包括教育在内的社会公共事业治理,以打破数字鸿沟,消除贫困。诸如此类,不胜枚举。

四、教育数字化转型风险治理的原则

“技术控制”的概念意味着人们在使用过程中能自始至终对某项技术具有透彻的洞察力以及娴熟的操作技巧。数字技术赋能教育在激发创新“活力”的同时,也应增强必要的“定力”,保持应有的“张力”。教育治理原则能够通过提取“最大公约数”的形式对价值共识进行清单式列举。目前,教育数字化转型风险治理的原则体现在安全有效、共生协同、相称认责三维度。

(一)安全有效

教育数字化转型治理中的首要原则是安全可靠。安全性描述了技术在特定情况下的稳健可靠性,即系统在面对对抗性干扰乃至攻击时能否有效进行抵御、维持自身正常运转。“在数字技术领域,尤以机器学习算法为例,安全性通常用以表征算法对数据变化的容忍程度。技术应用从本质上而言是把握利益与风险之间的动态平衡,终极目的则是整体上提高社会的安全性和可持续性”。教育数字化转型治理的安全原则具有两大核心要义:一是保障学习者的合法权益,精准靶向师生深度教学与学习的需求,使治理方案避免技术机械化附带的识别失准。警惕数字技术以自动化推送、深度合成及用户画像等形式侵害个体的教育选择权。二是预防算法滥用风险的发生,借由责任优先原则履行技术风险的安全评估,从内部检测、漏洞防御及监测预警等方面降低直至消除潜在的教育风险要素。简言之,治理体系的构建不仅致力于实现解放教师劳动、提高教育教学效能等传统目标,更要确保技术安全可控,以激发教师的教学想象与学习者的深度学习,打造新型教育环境,服务于未来学校的建设图景。

与安全性相伴随的是有效性,但二者通常被区分使用。安全性的侧重点在于系统持续运行与对抗干扰,而有效性的关键在于实现既定的目标任务。后者通常用于持续监测和检验系统运行情况,验证其是否与设计者预期保持一致。对于偏离设计者期望的操作将受到妥善处理,确保系统平稳、高效、持续运转。教育数字化转型的两大支柱是算法和大数据,系统的有效性不仅依赖于算法设计,亦会受到数据质量的影响。因而相关政策认为有效性的前提是高质量的数据输入,并呼吁通过设立行业标准将反哺系统迭代升级。诸如:2021年6月,日本在《关于后疫情时代下数字活用报告书》中提出如下5项数字化技术保障政策,其中目标之一便是保障可信和安全的网络空间。美国为应对数字化教育技术诱发的安全风险,颁布了《保护学生权利修正案》《儿童在线隐私保护法》《儿童互联网保护法》,并成立隐私技术授助中心。2021年,美国国家标准技术研究院(NIST)发布了人工智能风险治理框架(AIRMF),通过设立四项原则以规范AI行为的“可解释”程度。按照“安全意识(A)—安全技能(S)—安全知识(K)—实践认证(P)”的理路,促进AI应用的准确性、可靠性、安全性、鲁棒性和可解释性,加强使用者对人工智能系统的信任。

(二)共生协同

诚如吉登斯所预言,“现代公共制度中的信任模式就其本质而言,实际上是建立在知识基础的模糊性与人们对其片面理解之上的”[17]。尽管在治理中信息缺失和不对称的情况难以消解,现代风险治理理论仍主张进行必要的信息交换与社会沟通。之于教育数字化转型风险治理,我们不能放弃缩小知识鸿沟和打开技术黑箱的种种尝试,要对缓解技术恐惧与建立共识理解抱有信心。事实上,无论是建构符合期望的教育数字化转型治理体系,抑或是对技术行为的社会后果负责,这些都有赖于特定社会行动结构的支持。我们应该坚守怎样的原则以规范技术使用,消解技术风险,促进其更好地为人类发展服务?共生协同原则已然成为具有共识基础的答案。

教育数字化转型的多元协同治理需基于以下逻辑:一则,打破壁垒,形成治理生态。教育数字化转型是一场全球性的教育革命,故对其治理亦具有“去疆域化”的特质,它不仅呼吁国家在其主权范围之内采取行动,亦倡导搭建跨国家和跨区域的全球治理体系。二则,推动知识与经验共享。正如有治理原则指出:“访问代码的人越多,越有可能解决程序漏洞,化解潜在风险并获得长期机会”。基于对自治价值的尊重,治理的进程中引入各方机制能够有效地保障治理中利益相关者持有自我管理与自主决策的权利。三则,稳固民主协作与公共秩序。数字技术被赋予促进教育公正、建构全民终身学习体系,助推教育高质量发展的期望。民主协作致力于维护民主协商的公共秩序,充分尊重不同人群的教育需求,避免了因市场、技术和信息资源集中带来权力的垄断及由代表性不足导致的教育歧视与压迫。诸如:欧盟委员会颁布的《数字教育行动计划2021—2027》中提出了“重置数字时代的教育和培训”十项原则,其中包括:是否鼓励各个利益相关方之间的全面合作以及是否支持国家、地区和各部门的行动计划。面对教育外部网络攻击造成的师生数据泄露事件频发,日本文部科学省提出,教育数字化治理需要“产学官民”等利益相关方相互协作、共同提出包括标准化规则制度、行为规范、人员资质、效果评估等在内的监管课题,提升安全风险和数据泄露的应对能力,构建能够表达社会利益诉求的监管体制。

(三)相称认责

相称原则在应用伦理学与行政法学中历来备受重视。事实上,相称理念自古有之,其发端于亚里士多德的分配正义(Distributive Justice)思想。不同于校正正义(Compensatory Justice)与回报正义(Rewarding Justice),亚氏认为:“分配公正在于成比例,不公正则在于违反比例”[18]。平等的事是一种适度,公正的事也就是一种适度。相称原则演变至今,在公共治理实践中多用于公平与效率、手段与目的、事实与价值、道德与法制、公权利与私权利、集体权利与个人权利等范畴之间的权衡与协调。它要求在鼓励技术创新的同时避免主体责任的缺失,确保技术创新造福于人。在教育数字化转型治理原则中,它体现在如下维度。

一则,伦理治理与教育发展相称。增加人类福祉,确保教育有序发展是教育技术创新的永恒追求。以责任伦理视角观之,责任应与行为能力相匹配。技术治理水平需要与教育技术研究深度及应用水平相适应,即之于发达国家而言,高度发展的数字技术将伴随着较高的安全风险,故也应采取更为有力的治理举措。治理虽具有一定的前瞻性,但在实践中仍需考虑国家的教育总体发展现状与水平,尤其对于教育现代化水平相对落后的国家,要避免将技术伦理问题泛化而阻碍其教育的可持续发展。二则,治理力度与风险程度相称。以风险后果维度观之,治理力度与风险程度相称要求对风险后果进行分级。对可能生成严峻风险的技术进行精准识别并采取预禁原则,对较低风险的技术遵循先行发生原则并予以持续监控,涉及有限风险的技术则需权衡其应用利弊与紧迫性后再稳步推广。例如,欧盟《教育数字化转型治理框架提案》从风险范围、程度、类型、是否可逆等维度对数智教育技术的应用后果进行系统性评估,并由此划分了低风险、有限风险、高风险与不可接受的风险四种风险类型。三则,国家治理与国际治理相称。鉴于国际上已有相对成熟的教育技术伦理准则与治理模式,故参考借鉴国际教育治理经验是十分必要的。然而,任何国际经验的背后无不体现着策源地的地方性特征。基于国情的差异,各国仍需立足自身的教育文化传统、地域发展程度、社会主流价值观等现实情况,因地制宜地开展治理实践。

五、教育数字化转型风险治理的进路

在“乌卡时代”与高风险社会,任何确定性的教育治理假设与模式都将面临严峻挑战。这种挑战将持续、反复地考验学校、地区、国家和乃至全球教育治理体系的韧性,并对教育数字化转型风险治理提出更高的要求。未来,我们需从刚柔并济的治理逻辑、伦理先行的治理理念与多方共举的治理策略维度统筹规划,找寻技术风险的破局之道。

(一)“刚性底线”与“柔性边界”相统一的治理逻辑

作为一种适应于复杂环境的治理范式,韧性治理以其包容性、审慎性、冗余性、响应性、反思性等特征契合于教育数字化转型发展的需求。韧性治理要求教育数字化转型治理由事后处置前移至对“架构化”社会关系的规制与形塑。换言之,形成教育数字化转型软硬法混合治理的“中心—外围”模式势在必行。“硬法”则是具有强制约束力的法律、法规和政策。“软法”指“那些效力结构未必完整,缺乏强制力和执行力保障,但能够在社会运转过程中发挥实效的规范”[19]。相较于“硬法”,“软法”具有更好的敏捷性,可以避免繁冗的机构流程与授权限制,快捷地实现条目修订与应用。目前,国际上教育数字化转型“软法”文本通常是技术应用中伦理声明和实践准则的混合体,其正逐渐生成具备共识基础的行动框架。

面对技术权力的狂飙式跃进,人类应坚持“保守”的态度,冷静、理性而富有责任地反思未来教育技术世界的可能境遇,并为教育技术权力设置原则与底线,当技术越界之时及时给予纠偏与矫治。一方面,划定刚性底线。以现有法律法规、部门规章、基础性标准规则等为准绳,明确数字技术的边界限度,束缚技术要素“从心所欲而逾矩”的僭越之举,防止有意为之的算法“黑箱”、算法歧视和数据滥用等异化现象带来的教育风险。充分发挥软法效力,以软法规制先行介入,在教育数字化转型中加快完善教育数据知识产权制度、建立教育数据侵权专门法庭等来守护公平正义、和谐健康的教育数字化转型环境。另一方面,设置柔性边界。教育数字化转型治理的焦点不是事后的“违法处置”,而是在信任的基础上形成事前的“基本共识”,重“先行介入”而非“后置处理”。对低风险或无风险的技术采用先行原则,对可能造成不严峻风险的技术应采用预禁原则,对涉及有限风险的技术要权衡其应用价值后采取相应的防控措施。概言之,我国仍需努力推进治理实践中的预控预警使风险处理的关口前移,以提高教育数字化风险治理效能。

(二)“人性复归”与“良法善治”相交融的治理理念

庄子曾解:于无始无终、无边无垠的宇宙中,万物与人之关系并非主客对立,实为“天地与我并生,而万物与我为一”[20]的共生关系。换言之,人与物一体以“道”为基础,而“道”又乃“自然”之展现;人与天地万物乃是共生、共存的生命共同体,人不能主宰万物,物亦无法主宰人。《说文解字》曾论:“人乃天地之性最贵者也”[21]。诚然,人是一切教育活动的原点,培育与发展人是教育活动的根本归宿。教育数字化转型要指向造福人类的终极目标,回归涵养人性的基本逻辑。技艺之存在意在延续个体生命,这要求技术设计者与应用者自身不断“觉醒”,通过“复归人性”实现法治规则、德性诉求与教育发展规律交相辉映,生成一种服务于教育目的、学术进步、文化繁荣、权益保障的技术秩序。

良法善治在数字技术领域的表现形式为“条文之治”“规则之治”,其意指在向善理念的指引下促使技术程序设计与应用实践合乎道义、趋于正当。教育数字化转型良法善治局面的形成基于技术各利益相关者恪守科技伦理,时刻回应“好的生活是怎样的,什么样的技术有益于人类实现这种生活”这一问题。详述之,实现教育数字化转型良法善治的基础是搭建“算法道德化+道德技术化”的伦理规约。第一条思路是将算法道德化,即对教育数字化技术架构的道德价值基础予以确认。“规制浮出水面,并非通过某部法律,而是通过统治该空间的代码”[22]。人类创造出代码,并赋予了其决定网络空间自由与规制程度的权力。故而,教育技术设计者在考虑经济利益与应用效能之前,首要关注的应是基于道德伦理准则来编写代码,编制算法。第二条思路是道德技术化。其意指将技术伦理渗透至技术物之中,并将其打造为“道德行动者”。“道德物化”扭转了长久以来人们对技术物自由意志的曲解,并试图将道德理性嵌入技术实体,通过技术设计、布置、应用来践行道德。人们对于技术物的道德规约在技术实践中指向“负责任创新”这一原则,视教育伦理为“好的科技产品”生成的核心要件,将伦理反思注入教育技术设计与创新过程中,使技术的道德意蕴转变为教育技术发展的显性要素。我们要在理解技术自身意蕴的基础上,坚守固有的道德边界,借由事前的义务履行达成对教育技术伦理风险的评估,从技术审查、监测预警、敏捷追责等维度消除风险要素。

(三)“责任规制”与“融通联动”相结合的治理策略

数智时代教育数字化转型治理的关键在于如何解决技术发展过程中的责任承担问题。未来,要以责任规制为原则,坚持伦理治理与教育发展相称,治理力度与风险程度相称,国家治理与国际治理相称,构建合理、可行的技术问责体系,明确技术行为的责任主体及份额。在实践中,治理主体囊括数据供应者与所有者,技术研发者、持有者、使用者、监管者等。一个凝聚共识的行动框架是宏观的伦理主张转化为治理实践和制度体系的桥梁。故应以“技术应用”与“责任规制”为主线,将育人目标深度绑定,就设计目的、风险评估、过程控制等维度设置教育伦理问责点,健全责任分配机制,避免陷入无人担责的“公地悲剧”。

没有生命叙事的数据,没有文化包容的代码,没有平权理念的算法流程以及没有福祉指向的教育技术,均不可取。面对教育数字化转型中算法路径、平台霸权和数字基础设施管控对教育公共性和公益性造成的严峻挑战,在技术自身规制之外,全人类亟需联合起来实现协同共治。一则,鼓励多元主体参与。正如《北京共识——人工智能与教育》[23]中所呼吁:“进一步扩大联合国教科文组织与相关联合国机构和多边合作伙伴、地区开发银行和组织以及私营部门的合作”。教育数字化转型治理主体应囊括政府、技术研发者、教师、学生、家长在内的所有行动者,面向过程应为设计、使用、交往、管理、维护等诸多环节。要倡导共同行动,构建更具包容性和开放性的全社会共治模式,以预防、对抗、消解新兴教育技术带来的风险。二则,建立平等对话机制。强化国际教育数字化转型风险治理合作。建构平等开放的多元对话机制,发挥国际组织在协同治理和公共服务领域的积极作用。此外,各国需增强交流理解、强化共识互信,加快建成集法律法规、政策规划与伦理规范为一体的教育数字化转型治理体系。三则,构建新型治理格局。当下应综合多种方式,形成全社会“资源共建、责任共担、成果共享”的新型治理格局。重新审视、整合教育治理机构、人员、原则等治理要素,实现各环节和要素的精准衔接与相称认责,促进风险治理绩效提升,践行技术为善。

六、结语

柏拉图曾预言文字即将替代口语的风险,“你发明的文字使习字人的心灵患上健忘症,因为他们不再使用自己的记忆;他们会相信外在的文字,记不得自己”[24]。在乌卡时代和高风险社会,数字技术本身所蕴含的“不确定性”在教育领域中显现,它迫使教育系统的运转陷入一种复杂且易变的情境之中,这与教育事实本身的“确定性”形成了巨大的张力,并反复考验着学校、社区、地方、国家乃至全球教育治理体系的应变力与适应性。

数字化所引发的并非仅是一次单纯的技术变革,更是一场意义深远的国家治理革命。目前,教育数字化是助推中国式教育现代化的重要引擎,建构与之相应的风险治理体系则是教育数字化转型的重点任务。技术治理的核心在于平衡发展与安全之间的关系。我们或许可以参考刘易斯·芒福德的建议,以平和的心态与警惕的头脑应对教育数字化转型的浪潮,毕竟“机器体系的规律是人发现的,机器体系的实体是人创造的,机器体系的节奏是人根据生活中的管理技艺而预订的”[25]。在以ChatGPT为代表的更高效、智能、便捷的技术形态勃兴之时,要依托更为强大的治理结构避免其失范应用,勿让技术风险掩盖其所携带的诸多可能性。概言之,我们应秉承和合共生的理念,涵养人文情怀,完善治理方案,共同致力于技术向善,以数字化转型助推教育强国建设。未来,同生共构于高质量发展理念下的治理体系建设将成为数智时代教育发展的核心议题,而相关跟进性研究也将丰富教育数字化转型治理的“中国经验”。


注释:

①起源于荷兰学派的“道德物化”思想体现了科技伦理学关于“非人”,即物的关注,其借由名词形式呈现技术与伦理道德的融合;将技术道德化进行直译,体现技术与伦理之间的动态耦合。


参考文献:

[1]习近平.在中国科学院第二十次院士大会、中国工程院第十五次院士大会、中国科协第十次全国代表大会上的讲话[EB/OL].https://www.gov.cn/xinwen/2021-05/28/content_5613746.htm.

[2] Collingridge D. The Social Control of Technology [M]. London: Frances Pinter,1980:11.

[3][8][德]马丁·海德格尔.孙周兴,译.演讲与论文集修订译本[M].北京:商务印书馆,2020.

[4][美]尼尔·波斯曼.何道宽,译.技术垄断:文明向技术投降[M].北京:北京大学出版社,2007:23-61.

[5][英]齐格蒙·鲍曼.郁建兴,周俊,等译.生活在碎片之中——论后现代道德[M].上海:学林出版社,2002:80.

[6][美]拜伦·瑞希.王斐,译.人工智能哲学[M].上海:文汇出版社,2020:66.

[7][9]王先谦,撰.庄子集解第2版[M].西安:三秦出版社,2005.

[10][加]厄休拉·M.富兰克林.田奥,译.技术的真相[M].南京:南京大学出版社,2019:140.

[11] Hinton G. Artificial Intelligence: Neural Networks [M]. New York: John Wiley & Sons,2005:1.

[12][法]马尔克·杜甘,克里斯托夫·拉贝.杜燕,译.赤裸裸的人:大数据,隐私和窥视[M].上海科学技术出版社,2017:序.

[13] Jessop B. The rise of governance and the risks of failure: the case of economic development [J]. International Social Science Journal,1999(1).

[14]吴国盛.让科学回归人文[M].南京:江苏人民出版社,2003:41.

[15] Pelt R, Jansen S, et al. Defining blockchain governance: A framework for analysis and comparison [J]. Information Systems Management,2020(1).

[16] OECD. OECD Skills Outlook2019: Thriving in a Digital World [R]. Paris: OECD Publishing,2019:19.

[17] Giddens A, Kolarz P. Sociology, Politics and Power: An Interview with Anthony Giddens [J]. Global dialogue,2016(12).

[18][古希腊]亚里士多德.廖申白,译.尼各马可伦理学[M].北京:商务印书馆,2003:134-136.

[19] Abbott K W, Corley E A, et al. Soft law oversight mechanisms for nanotechnology [J]. Jurimetrics,2012(3).

[20]陈鼓应.庄子今注今译上[M].北京:商务印书馆,2016:88.

[21]朱骏声.说文通训定声(影印版)[M].武汉:古籍书店,1983:82.

[22][美]劳伦斯·莱斯格.李旭,沈伟伟,译.代码2.0:网络空间中的法律[M].北京:清华大学出版社,2018:28.

[23]联合国教科文组织.人工智能与教育——北京共识[R].巴黎:联合国教科文组织,2019:63.

[24][加]哈罗德·伊尼斯.何道宽,译.帝国与传播[M].北京:中国传媒大学出版社,2015:85.

[25][美]刘易斯·芒福德.陈允明,王克仁,等译.技术与文明[M].北京:中国建筑工业出版社,2009:278.


Breaking the Colin Grinch Dilemma: The Direction, Principles, and Approaches of Risk Governance in Digital Education Transformation

ZhaoShuqi YuHongbo


Abstract: The “Corinthian Dilemma” of digital transformation in education reveals the potential risks and governance challenges commonly present in the application of digital technology in the education field, and is characterized by algorithmic decision-making induced cognitive barriers between teachers and students, technocracy leading to the violation of subject values, and digital twins exacerbating the crisis of educational trust. To effectively regulate the risks of digital transformation in education, governance plans should preset social values in technological design, with resilience construction, diverse governance, and digital well-being as value orientation, and safety and reliability, symbiosis and collaboration, and proportional accountability as basic principles. Based on this, the risk management of digital transformation in education in China should follow the governance logic of unifying “rigid bottom line” and “flexible boundary”, the governance concept of integrating “human nature restoration” and “good law and good governance”, and the governance strategy of combining “responsibility regulation” and “integration and linkage”.

Key words: digital transformation of education; risk governance; dimension; principles; route


初审:曹洪家

复审:孙振东

终审:蒋立松







010-123456 jiaoyuxuezaixian@163.com

北京市教育学在线

版权所有 |教育学在线 京ICP备1234567号 在线人数1234人