摘 要：可信性作为教育知识生产的本体论前提，关联教育现代化的伦理根基与实践效能。在数智技术驱动下，教育知识生产正由经验依附转向数据-算法协同，并引发数据、算法与主体应用层面的机制重构。然在实践中，数据基础失衡致使价值偏见被嵌入其中，算法黑箱使知识的科学性和教育适切性被削弱，判断权的让渡导致应用主体的认知能力弱化，共同损害了教育知识生产的可信性。破解可信性风险，需超越工具主义的思维，构建内嵌教育逻辑的治理生态，针对数据、算法以及应用主体的特征展开治理。只有这样才能调和数智效率与教育本体之间的矛盾，实现知识生产从技术赋能向育人价值跃迁。
关键词：数智时代；知识生成；可信性风险；多维治理
一、引言
知识生产并非始终遵循某一特定学科的范式逻辑，而是在具体应用情境中不断生成与调整。教育知识不同于一般知识或信息，是围绕教学、学习、评价与育人实践生成的知识形态。同时，教育实践本身具有鲜明的情境敏感性、多主体交互性与动态复杂性，这就决定了教育知识必须在具体教育情境中加以理解、解释和运用，其生成与应用既依赖研究证据和实践经验的支撑，也受到教育价值与行动目标的规约。进入数智时代，大数据、学习分析与生成式人工智能持续嵌入教师备课、学生作业、资源开发、学习评价等环节，教育知识生产日益呈现数据化、模型化与平台化特征，知识获取方式也由传统的检索、甄别与整合，逐步转向指令输入、内容生成与直接使用。然而，技术嵌入并不必然带来知识可信性的同步提升。生成式人工智能依赖海量语料训练与概率生成机制，其输出虽具语言流畅性和形式完整性，却缺乏稳定事实依据、清晰来源标识和充分论证链条。在教育场景中，若将生成结果直接视为可靠知识，容易遮蔽教育知识本应具有的情境适切性与实践检验要求，并进一步引发内容失真、判断偏误和学术失范等问题。基于此，有必要系统辨析数智时代教育知识生产的可信性风险及其生成机制。
二、数智时代教育知识生产逻辑的机制化构建
数智技术介入教育知识生产，并非单一工具的叠加，而是通过数据化、算法化与组织化的协同作用，重塑知识生成、分发与迭代的整体机制。因此，讨论其可信性，须以“数据—算法—应用主体”为分析框架，厘清教育知识生产的运行逻辑与内在关联，为后续风险识别与治理提供理论基础。
（一）教育知识的数据资源化机制
教育知识的数据化解构，是机制运行的首要环节。其核心在于将教育场域中的材料与过程转化为可标注、可计算的数据。依据波兰尼关于显性知识与默会知识的区分，这一解构可分两条路径推进：其一，课程教材、教学大纲、知识点体系等显性知识，可通过分类标准与编码体系实现颗粒化拆解，形成可检索、可链接的数据结构；其二，教师的情境化教学判断、教学机智，以及学生的内隐认知策略等默会知识，必须通过可观测指标建构与数据采集方案设计，转译为可度量、可分析的表征形式。
教育知识数据的结构化组织，是教育数据由碎片化走向价值化的关键。结构化组织一方面要求尊重学科知识的内在逻辑，另一方面又需回应教学应用与学习支持的场景需求，从而把分散的数据单元整合为可推理、可调用的知识结构。在技术路径上，知识图谱等形式化知识表示能够将概念、关系与属性组织为语义连通网络，为知识的检索、关联与生成奠定结构基础；在教育场景中，这类结构既可能表现为学科知识结构的数字化复现，也可能表现为“学习者特征一知识需求—资源供给”的映射关系，从而使教育知识同时具有内容属性与适配属性。
教育知识数据的价值预激活，是后续知识生成的目标导向。其本质并不在于对既有信息的机械汇聚，而在于通过学习分析与教育数据挖掘，识别隐藏于学习过程中的关键模式、关联关系与发展趋势，使数据资源转化为可用于教学决策的知识线索。这一过程要求在算法计算与教育解释之间保持张力：既提升知识提取效率，也避免过度依赖量化指标，从而保留教育知识生产的情境性与可解释性。
（二）算法驱动的知识生成机制
原始数据经加工后，算法赋能机制会将数据资源转化为可利用的知识产品，并在知识生成中嵌入规范化约束和动态优化逻辑。从技术路径看，算法处理实现数据语义理解、信息抽取与知识表示，并提供结构化语义网络。随后，生成式模型在目标约束、上下文条件下实现内容生成、表达产出，最终形成“语义识别—结构组织—内容生成”链条。
但须注意，生成式大模型更近似于对语言分布、符号共现关系的高维拟合，其输出多呈形式连贯，在提升教育知识生产效率的同时，也带来新的可信性挑战。在教育应用研究中，相关研究常把机会与风险并置：一方面，大模型在概念解释、示例生成、个性化支持等方面可提供新的助力；另一方面，大模型的幻觉、偏差、不透明性会把知识确证、责任归属问题推向教学现场。
此外，算法系统还结合了实时学习数据对学习者状态进行追踪及生成调节，使教育知识生产具有情境性、动态优化特征。如在知识追踪、学习状态评估中，面向可解释性的模型设计通常会把推断与教育含义更紧密地结合，以避免“高精度—低解释”的黑箱困境[。但算法的可解释性并不等于完全透明，模型复杂性、数据管道、平台制度往往共同构成结构性不透明，使外部主体难以充分理解算法的证据链、推演路径。所以，算法赋能知识生成机制一方面塑造着知识生产新的范式，另一方面也在制度、伦理上提出了更高要求。
（三）知识应用中的互动反馈机制
互动反馈机制首先将知识应用过程转化为可记录、可分析、可追溯的交互证据。相较于仅以测验成绩或完成率判断学习成效的传统做法，数智情境更强调对停留时间、错误类型、回退路径、提问序列、协作对话与策略迁移等过程性数据的系统采集，从而形成知识应用的过程画像。学习分析重视反馈证据，正是为了推动数据由“记录”走向“洞见”，并进一步转化为可实施的教学处置。在课堂互动和开放性任务中，多模态学习分析还将语音、姿态与注意分配等线索纳入证据体系，虽提升了复杂学习的刻画能力，也对伦理合规与解释责任提出了更高要求。
互动反馈机制的第二项关键工作，在于将学习表现中的差异转化为可辩护的诊断线索，并据此明确可修订之处。有效反馈应回应“目标是什么？差距在哪里？下一步如何改进？”等问题，否则难以被学习者吸收并转化为教学改进行动。在数智情境下，解释不仅涉及概念理解，还应兼顾表征适配与情境条件：学习者的错误未必源于“不会”，也可能来自概念边界模糊、前提缺失或推理链条断裂；同一知识在不同表征下，亦会引发不同的认知负荷与注意分配；而任务结构、评价方式和课堂文化同样会影响知识应用效果，脱离情境的通用解释往往容易造成误判。
互动反馈机制的第三项关键工作，是将解释结果回流至知识修订与教学处置之中，进而形成持续迭代的运行结构。具体而言，回流既包括面向个体学习者的微观支持，如提示、支架、分层练习、纠错路径与替代表征等，也包括面向知识产品的中观修订，即针对高频误解点进行内容重写、例证替换、结构重排与难度梯度再设计，并在后续应用中加以验证。相关研究表明，反馈干预不宜采取一刀切式逻辑；模型在特定情境中的有效性，并不意味着其可无差别迁移至不同课程、群体与制度条件。若忽视情境差异，回流机制反而可能放大误判与不公平处置。
三、可信性风险在数智时代教育知识生产中的多维体现
在数智技术介入教育知识生产过程中，可信性风险并非孤立的偶发错误，而是贯穿“数据资源化—算法生成一实践应用”全链条的结构性结果。具体而言，数据阶段的偏差易在算法黑箱中被放大，算法阶段的不可解释性又会削弱知识验证与责任辨识能力，最终在应用阶段表现为教育判断权让渡与主体批判能力弱化，从而影响教育系统对知识可信性的把关功能。
（一）生产前：数据基础失衡与价值偏见嵌入的可信性风险
数据基础失衡首先源于教育数据生成与分布过程中的非均衡性。教育数据并不是对教育现实的完整映射，而是在特定平台、设备、制度安排和使用情境中被选择性记录与沉淀的结果。相关研究指出，数据治理推动了教育治理的全方位变革，但也会在治理理念、治理主体、治理结构和治理方式等方面形成新的张力；若缺乏制度化的数据治理条件，教育数据便难以充分呈现复杂教育实践的多元面向。因此，数字基础设施完善、平台使用频率较高、数据治理能力较强的学校和群体，更容易在数据系统中获得充分表征；而数字接入不足、平台使用有限或高度依赖地方经验的教育场域，则可能在数据分布中处于低可见甚至不可见状态。即便算法通过多重采样、加权修正处理数据分布差异，也难以弥补数据覆盖不足和情境表达缺失。亦有研究对机器学习偏见的研究表明，偏见可能产生于数据收集、样本选择和特征表征等多个环节，而并非仅由模型训练过程造成。由此看，数据基础失衡的关键风险在于教育实践数据化时已发生分布偏移。建立在这种数据基础上的教育知识，容易更多反映高可见群体的经验，从而削弱其对弱势群体、边缘地区和复杂教育情境的解释力与适切性。
另外，数据标注与结构化进程中的人为建构构成了价值偏见嵌入的关键通道。教育数据的资源化，自始至终都充满价值判断。无论是分类体系的制定、特征标签的定义，还是知识图谱的构建，都绝非纯技术流程，而是设计者与标注者主观认知与价值框架的直接体现。拉图尔的行动者网络理论表明，技术物并不是中性工具，而是固定了特定社会关系与价值判断的“脚本”。在教育数据资源化的进程里，设计者所秉持的教育观，通过数据标准与标签体系这个“脚本”，被悄然无声地铭刻进知识生产的底层逻辑。当很多承载隐性价值预设的结构化数据被输入算法模型之后，其所产生的知识就不可避免地内化了很多前置性的价值偏向。这不仅会导致生成的知识在立场和视角上出现系统性偏见，更会进一步塑造并固化特定的认知模式与价值取向。这种认知上的固化，将从根本上动摇并放大其知识可信性的风险。
（二）生产中：算法黑箱与验证悬置引发的可信性风险
算法黑箱风险首先植根于深度学习模型本身。目前，主流生成式模型运行均依赖海量参数与多层非线性变换，机制复杂且难以追溯；在大规模参数运算与高维映射的作用下，模型从输入数据到输出知识的决策路径被深度遮蔽，甚至开发者也难以准确说明某一知识陈述的生成原因及其推理链条。卢曼社会系统理论中的“不透明性”由此获得技术化呈现：算法系统作为自我生成、封闭运作的结构，其内部通信过程对外部观察者形成难以穿透的认知壁垒。置于教育语境中，这种不透明性直接引发知识合理性判定的危机，并与教育知识所要求的可解释性、可辩护性形成根本张力。教育中的知识传授不仅关乎结论是否正确，更强调知识成立的内在逻辑及其论证过程，这与科学哲学所强调的“辩护的语境”高度契合。然而，黑箱化机制往往遮蔽这一语境，其输出常表现为缺乏清晰推理链条的直觉式断言，难以基于情境理解为结论提供可审查、可质疑的合理性辩护。
与此同时，验证机制的悬置在更深层面上加剧了知识生产中可信性风险的积累与集中爆发。所谓“验证悬置”，主要表现为算法生成内容脱离了传统知识生产所依托的同行评议等质量把关环节。数智驱动的知识生产往往优先追求生成速度与规模，算法模型在不断追逐内容多样性与新颖性的过程中，常常将教育适用性、认知负荷的合理性以及价值导向的正当性等要求置于次要甚至被忽略的位置。而当前的算法生成模式在很大程度上绕开了这一相对严密的验证闭环，转而依赖预测概率、用户点击率等量化指标进行简化评估。此种验证标准的迁移，固然可能提升生成内容的“受欢迎程度”，却难以保证其在科学性与教育性方面的基本质量。正是由于算法在偏倚数据基础上生成知识，而生成过程又缺乏足够的外部验证与校正，问题知识才得以大规模涌入具体教学场景，从而急剧放大了整体的可信性风险。
（三）生产后：判断权让渡与认知能力弱化蕴含的可信性风险
教育者判断权的让渡，直接动摇了知识在教学场景中的可信根基。面对数智系统高效、权威的知识输出，教师易因路径依赖而收缩审辨与价值引导职能。当其习惯于直接采纳算法推送的内容时，便不再基于学科素养展开独立研判，从而由知识的批判性使用者，逐渐滑向生成内容的被动传递者与执行者。海德格尔对技术本质的批判在此尤显深刻：技术并非中性工具，而是一种“座架”，以特定方式迫使人按照其固有逻辑去揭示和理解世界。算法系统正是这样一种教育“座架”，以其预设的效率标准与内容逻辑，重新界定着教师的专业实践边界与自主空间。当教师逐渐丧失质疑、补充与重构知识的能力时，教育过程中的思辨张力与对话活力也随之被驯化，知识教学的可信性便被悬置。
对学习者而言，长期在高度个性化、低认知难度的算法服务背景中，认知能力的结构化衰弱也影响着知识的终端可信性。这主要表现为高阶思维运用的减少和认知惰性的产生。一方面，算法对信息的准确预测和推送，代替了学习者本应亲历的自主检索、筛选、甄别，而这些活动是信息素养及批判性思维培养的重要环节。适度的认知挑战是思维发展的重要条件，算法认知外包在无形中缩小了学习者经历思维锻炼和形成深度认知的空间。另一方面，数智技术在持续提供个性化供给的同时，也可能重塑学生与知识、技术之间的关系，使学生主体性面临被遮蔽、被削弱的风险。算法不断投喂符合用户口味的资讯，虽然提高了获取效率，却也窄化了知识视野，压缩了学习者接触不同观点和进行辩证思考的空间。长久以来，学习者的知识结构逐渐碎片化、扁平化，独立探究和解决复杂问题的元认知能力会逐渐退化，失去对教育知识可信性作出判断的基础能力。
四、数智时代教育知识可信性风险的治理路径
从数智时代教育知识生产可信性风险看，形成系统化、全链条治理路径，是维护教育知识生态健康发展的紧迫要求。依据风险在教育知识生产前、中、后不同阶段的表现，治理框架应以“标本兼治、协同共治”为基本原则，从数据、算法、主体三个层面展开系统治理。
（一）前端治理：数据治理框架与价值校准体系的构建
数据的价值更多地源于数据的二次利用，因此不能把教育领域的数据简单地汇集起来，而需要对数据进行规范采集、有效评估和多元监管，形成教育领域数据治理价值链。首先，制定并实施包容性的数据采集规范。其目的在于打破数据来源单一化局限，将不同地区、学段和社会经济背景的教育主体纳入采集范畴。尤其应关注基础教育阶段不同类型学校、不同发展水平学生及一线教师的真实教育经验，从而为课程资源生成、教学内容优化和学习支持服务等场景中的知识生产奠定具有广泛代表性的数据基础。其次，可参照数据正义原则，建立均衡性评估指标体系，对数据在群体覆盖、区域分布等方面的表现进行量化监测与动态优化，从源头奠定教育知识生产的数据可信基础。最后，应在数据处理环节建立标准化的分类与元数据管理体系。对数据来源、采集语境及其潜在局限作出完整、透明的标注，为后续质量评估和偏见识别提供可追溯依据。尤其为涉及学生认知发展、教师教学判断和教育资源配置的知识应用提供更为稳固的数据支撑，全面强化数据在全流程中的可信赖保障。
在夯实数据基础的同时，还应依据模型类型建立差异化的价值校准机制。价值偏见并不只涉及一般意义上的人类价值对齐，在教育知识生产中还关涉育人方向、知识立场与主流意识形态的一致性。对于生成式人工智能而言，其开放生成和语义重组能力可能导致事实表达、规范判断和价值引导出现偏移。因此，近年来相关研究主要通过指令微调、人类反馈强化学习等方式提升模型输出与人类偏好和安全规范的一致性，并已取得明显进展。但对于分类、推荐、预测等非生成式模型而言，问题通常并非来自模型主动生成价值立场，而更多源于训练数据分布、标签体系、特征选择和任务目标设定[%。据此，教育知识生产的偏见治理不宜笼统归因于算法本身，而应形成分层路径：生成式模型重在开展价值与意识形态双重对齐评估，审查其知识生成和价值表达倾向；非生成式模型则重在数据审计、标签复核和特征检验。与此同时，应推动教育研究者与计算机学科研究者协同，将教育价值要求转化为可检验的技术指标和评估流程，从而提升治理的精准性与可操作性。
（二）中端治理：算法透明化与验证闭环的建立
分层次且可操作的可解释性框架是算法透明化的首要举措。由于算法模型本身具有复杂性，去追求完全的技术透明是不可行的，但构建面向不同利益相关者的功能性透明是可行的。在技术实现层面，可引入可解释性人工智能作为关键教育知识生成的事后解释者。例如，对于算法所生成的知识结论，可解释人工智能可自动生成其依据的关键证据源和推理路径，甚至可提供反事实解释，这样可使教育者在教师备课、课堂讲授、作业反馈和资源整合等具体场景中，评估生成知识的内在合理性，而不是单单借助结果的外观流畅性来判断其可信性。在制度层面，应强制推行算法影响评估制度，要求开发者去披露模型的基本架构、训练数据的核心特征和已知局限性等内容。这种面向教育实践的意义透明，与纯粹的技术代码公开相比较，更能够实质性地提升算法在教育场域当中的可信性。
构建多层级的动态验证闭环，是弥补传统质性验证缺失、确保生成知识具备教育效度的关键机制。该机制需建立一套融合教育专业性、伦理规范与教学实效的综合性验证标准，并贯穿于算法开发与应用的全过程。首先，在算法正式投入应用前，应基于教育设计研究范式开展前瞻性验证。可组建跨学科验证委员会，在模拟教学场景中对概念阐释、案例说明、试题答案、反馈评语等算法生成的知识内容进行多轮迭代评估，重点审查其科学性、认知适配性与价值导向。其次，在算法运行过程中，需嵌入持续性验证机制。在课堂问答、个性化辅导、作业反馈和资源推荐等高频应用场景，应开发实时异常知识检测算法，构建基于学科内在逻辑的自动识别与标记工具，实现对生成内容的动态监控与风险预警。最后，在互动反馈机制上，形成“教学—验证—优化”的完整数据闭环。具体而言，应将教师的修正记录、教研组的复核意见以及课堂实施后学生的学习表现，作为数据实时回流至生成模型，推动其持续微调与优化。只有将算法设计、数据管理、伦理审查与责任追究等环节统合起来，使“技术透明”与“制度验证”双管齐下，中端治理才能实现从量变到质变的飞跃、促进教育体系的良性运行。
（三）后端治理：主体权责重构与认知能力的制度化提升
重构教育主体的权责关系，是应对判断权让渡风险、建立可信性制度保障的基础。为此，需在人机协同框架下明确各方责任边界，并以责任伦理为核心构建问责机制。首先，应确立教师对算法生成知识的最终审核权，使其成为可信性保障的制度支点。凡进入课堂教学、作业评价、学习反馈及校本资源建设等环节的算法生成内容，均应由具备相应资质的教师进行专业审查并确认。此举并非否定技术价值，而是重申教师在知识筛选、解释与判断中的主体地位，防止技术性弃权对学生认知发展和教学质量造成损害。其次，应建立教育知识溯源与责任追究机制，为知识可信性提供程序保障。一旦算法生成内容出现事实性错误或引发不良教学后果，不仅要追究模型与平台的技术责任，也应明确内容使用教师、学校管理者及相关平台主体的相应责任，以此促使各方在备课、教学与评价中保持必要审慎，进而巩固教育知识生产的可信基础。
应对数智环境下认知能力弱化风险、夯实可信性的认知根基，关键在于提升教育主体的认知能力。为此，应通过课程体系、培训制度与评价改革，将批判性思维、算法素养与信息甄别能力纳入教育主体的核心素养。对教师而言，应在职前培养与职后发展中系统开设算法批判素养课程，使其不仅理解技术原理，更能从认识论层面把握算法知识的特性与限度，成长为具备可信性审查能力的专业主体。培训内容亦应超越工具操作，着重提升教师在课堂教学、作业设计、学习评价与个别辅导中的人机协同能力，使其能够将算法生成知识转化为促进探究的教学资源，并在协作中保持教学主导性与创造性。对学生而言，则应将数字公民素养与批判性思维融入各学段、各学科课程标准，通过案例分析、项目学习等方式强化其信息辨识与算法意识，增强突破“信息茧房”的自觉。尤其在基础教育阶段，更应维护学生在知识理解、判断选择与价值形成中的主体地位，防止其因过度依赖技术供给而弱化独立思考与自主求证能力。如此，方能培育对知识保持质疑与求证习惯的学习者，并为数智时代教育可信性重建提供根本支撑。
五、结语
数字技术融入教育知识生产，既提高知识生成、流通与应用效率，也带来诸多可信性风险。具体来讲，数据资源化机制不断对教育信息进行解构、整合、调用，加速了教育知识流通；算法驱动机制借助自然语言处理、生成式技术提高教育知识生产能力。然而，验证机制不健全、教育逻辑嵌入不足时，知识来源不明、知识生成不透明、知识适切性降低、论证不完整等问题会显现出来，还可能进一步降低学习者的判断能力，促使知识使用中判断责任外移，对师生认知结构及教育实践造成影响。数智时代教育知识生产不能仅聚焦于技术性能的提升，而应立足教育规律、育人目标，在数据筛选、算法审查、主体能力提升之间形成协同治理机制。此外，本文虽依托文献梳理、概念诠释和逻辑演绎，对数智时代教育知识生产的可信性风险进行了阐释，但对不同教育阶段、学科类型和应用领域的风险差异仍缺乏实证案例。未来研究可结合课堂教学、作业评价、教育决策等场景，进一步运用案例研究加以确认，还可在可信性评价指标、人机协同责任、师生数智素养培育等问题上开展相关研究。
（本文参考文献略）
Trustworthiness Risk and Governance Path of Educational Knowledge Production in the Era of Digital Intelligence
LiHuan CaoFuchen
Abstract: Trustworthiness, as the ontological premise of educational knowledge production, is deeply intertwined with the ethical foundation and practical efficacy of educational modernization. Driven by digital and intelligent technologies, educational knowledge production is shifting from relying on experience to data-algorithm collaboration,triggering a mechanism reconstruction at the data, algorithm, and subject application levels However, in specific practice,imbalances in the data foundation lead to the embedding of value biases,algorithm black boxes weaken the scientific nature and educational relevance of knowledge, and the transfer of judgment rights weakens the cognitive ability of application subjects, collectively undermining the trustworthiness of educational knowledge production. To address these trustworthiness risks, it is necessary to transcend instrumental thinking, build a governance ecosystem embedded with educational logic, and implement governance targeted at the characteristics of data, algorithms, and application subjects. Only in this way can we reconcile the contradiction between digital and intelligent efficiency and educational ontology, and achieve a leap from technology empowerment to educational value in knowledge production.
Key words: digital intelligence era; knowledge generation; credibility risk; multidimensional governance
初审：普清筠
复审：孙振东
终审：蒋立松
