生成式人工智能赋能高等教育的风险透视与预警机制构建
Journal: Advances in Computer and Autonomous Intelligence Research DOI: 10.12238/acair.v3i3.15594
Abstract
生成式人工智能(AI-Generated Content,AIGC)的迅猛发展为高等教育数字化转型注入新活力,但在赋能过程中也潜藏着诸多风险。本文基于AIGC赋能高等教育的六大智能应用场景(助教、助学、助评、助育、助研、助管),系统地剖析了如教学内容同质化、学习路径固化、大模型幻觉、认知偏差等风险,并从“制度-技术-管理-教育”四个维度构建风险预警机制。本研究旨在为高等教育领域规范、安全地应用生成式人工智能提供理论参考与实践路径。
Keywords
生成式人工智能；高等教育；风险
Funding
乌鲁木齐职业大学2025年校级科研课题,项目名称《生成式人工智能大模型应用风险的识别与预警机制构建研究》,项目编号：2025ZC002。
Full Text
PDF - Viewed/Downloaded: 0 TimesReferences
[1] 戴琼海.大模型技术:变革、挑战与机遇[J].中国科学基金,2023,37(05):713.
[2] 李婧.基于知识图谱与强化学习的双路径个性化在线学习资源推荐方法研究[J].信息系统工程,2025,(05):132-135.
[3] 曾华,刘文娟.基于人工智能的个性化智能辅导系统设计与实现[J].智能物联技术,2025,57(03):103-106.
[4] 赵博,王海福.生成式人工智能赋能高等教育的价值、风险与纾解路径[J].人工智能,2024,(01):100-107.
[5] 褚如心.生成式人工智能赋能高等教育发展的应用、风险及破解之道[J].青年学报,2024,(04):60-66.
[6] 梁远高.论人工智能大模型训练数据风险的分层规制[J].郑州大学学报(哲学社会科学版),2025,58(03):61-67+144.
[7] 徐琦,孙智蒲.大模型智能体幻觉难题:成因、风险与应对[J].中国传媒科技,2025,(05):7-14.
[8] 郭园方,余梓彤,刘艾杉,等.多模态大模型安全研究进展[J].中国图象图形学报,2025,30(06):2051-2081.
[9] 国家互联网信息办公室发布《生成式人工智能服务已备案信息》公告[EB/OL].
[10] 中国互联网络信息中心在京发布第56次《中国互联网络发展状况统计报告》[EB/OL].
[2] 李婧.基于知识图谱与强化学习的双路径个性化在线学习资源推荐方法研究[J].信息系统工程,2025,(05):132-135.
[3] 曾华,刘文娟.基于人工智能的个性化智能辅导系统设计与实现[J].智能物联技术,2025,57(03):103-106.
[4] 赵博,王海福.生成式人工智能赋能高等教育的价值、风险与纾解路径[J].人工智能,2024,(01):100-107.
[5] 褚如心.生成式人工智能赋能高等教育发展的应用、风险及破解之道[J].青年学报,2024,(04):60-66.
[6] 梁远高.论人工智能大模型训练数据风险的分层规制[J].郑州大学学报(哲学社会科学版),2025,58(03):61-67+144.
[7] 徐琦,孙智蒲.大模型智能体幻觉难题:成因、风险与应对[J].中国传媒科技,2025,(05):7-14.
[8] 郭园方,余梓彤,刘艾杉,等.多模态大模型安全研究进展[J].中国图象图形学报,2025,30(06):2051-2081.
[9] 国家互联网信息办公室发布《生成式人工智能服务已备案信息》公告[EB/OL].
[10] 中国互联网络信息中心在京发布第56次《中国互联网络发展状况统计报告》[EB/OL].
Copyright © 2025 姚苗
This work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License