“人工智能+教育”领域的政府监管问题研究

    朱芊逸

    [摘 要] 文章从“人工智能+教育”领域的发展背景与监管现状入手，以小猿搜题APP为例，通过问卷调查形式对社会公众意见进行收集整理，分析得出“人工智能+教育”领域存在的问题以及成因，最终得出优化“人工智能+教育”领域政府监管的对策建议，包括促进政府监管理念的转变；推动人工智能领域立法进程，出台《人工智能监管法》；完善人工智能领域监管体制，成立人工智能监管委员会；通过多元化的协同监督，创新人工智能领域监管模式以及全方位综合提高监管能力，为“人工智能+教育”领域搭建一个安全、有序、明晰的平台。

    [关键词] 人工智能+教育；小猿搜题；政府监管；技术伦理

    中图分类号：D523 文献标识码：A

    ★基金项目：北京市2018年社科基金青年项目《北京市共享经济监管困境及其治理创新研究》（18ZGC011）的阶段性成果。

    从21世纪初起，随着人工智能技术发展的逐步成熟，以互联网、大数据以及深度学习为依托的第三次人工智能高峰已然到来，人工智能技术已成为推动社会发展的重要技术动力，是各个行业和领域发展的新兴趋势。教育作为决定国家科技发展水平和创新能力重要环节，对人工智能技术的应用更加迫切。如何使“人工智能+教育”适应时代需要，通过人工智能技术的使用改革教育方式和培养创新型人才，成为对我国的一项重要挑战。

    一、“人工智能+教育”领域发展与政府监管现状

    （一）“人工智能+教育”领域发展

    国务院于2017年上半年发布的《新一代人工智能发展计划》中提出智能教育应以形成交互式、智能化的新型教育系统作为发展目标，同时应促进人工智能技术在教育、管理和资源建设领域的应用。同年，国务院发布《十三五国家教育发展规划纲要》中提出发展未来教育，进一步构建新型教育模式应综合运用人工智能、大数据、虚拟现实等技术[1]。2018年，教育部发布的《高等教育人工智能创新行动计划》中指出对于新一代人工智能的创新发展，需要进行顶层计划和部署。2019年，在国际人工智能和教育会议上讨论，审查和批准了文件《北京共识——人工智能与教育》，形成了国际社会对智能时代教育发展的共识。

    （二）“人工智能+教育”领域政府监管

    根据教育部官网站数据，截至2018年底全国共计2963个县（区、市）已开始专项治理整顿工作，其中1247个县（区、市）已基本完成任务，完成率达42%。对于教育机构的整顿方面，全国校外教育机构共摸排401050家，其中问题机构占比68%，其中六成已完成整改共计163203家。尽管行业监管政策更为严格，鼓励教育行业创新的政府政策也在不断推广，尤其是从资金投入方面，2012年至2016年4年间教育支出逐年增加，连续五年占GDP的比重超过4%，并将持续增加[2]。

    二、基于“小猿搜题APP”拍照搜题软件的实证研究

    在“小猿搜题APP”软件调查问卷设计方面，调查主要针对用户的使用感受、满意度以及是否认为该软件需要政府监管的方面进行数据收集和分析。通过问卷结果分析，得出小猿搜题软件存在以下几方面问题：第一，产品技术水平有待提高。检索完成后结果排版杂乱，展示不够直观，用户无法直接找到所需结果，拍照识别精准度不高，后续需进一步提升。第二，拍照搜索内容存在缺失或出错。目前小猿搜题主要面向理工类科目，对于文史类科目，存在搜索准确性低、无法反馈结果等问题。并且，作为信息化的产物，由于不能进行独立地思考，故不能保证提供百分之百正确的答案。第三，易使用户产生惰性和依赖，不利于对具体知识和解题思路的掌握。作为软件，解题的步骤不能做到完全详尽和标准化，故学习能力弱的学生无法仅凭步骤解决问题，准确掌握所学的知识点，使所学知识无法得到巩固。第四，全员“小猿”，不利于家长和教师了解学生学习的真实水平。作业完成情况是老师衡量学生学习，调整授课内容的重要手段，通过使用“小猿搜题”，作业无法呈现学生对知识掌握的真实情况，家长和教师无法进行有针对性的辅导。第五，平台是否拥有优质的师资力量有待考证。由于小猿搜题主打功能是搜题，存在师资素质和资历参差不齐的情况，缺乏专业性和权威性。第六，平台内容和经营管理问题存在混乱。小猿搜题软件曾因为推送中存在低俗有害信息而被央视报道和点名，同时还存在一些在线教育的通病，包括超前教学、收取预付费以及退费难等问题，使得用户体验大打折扣。

    三、“人工智能+教育”领域的问题与成因分析

    （一）“人工智能+教育”领域存在问题

    1.“人工智能+教育”領域粗放发展。我国还处于弱人工智能时代，“人工智能+教育”领域的理论研究与创新滞后于技术进步与时代发展需求，使得具体教育实践环节缺乏对应的理论指引，并且教育领域所投入的技术与配套设施的完善程度不足，未形成系统化、高效的应用体系。由于教育行业没有统一的方式和标准，其复杂性和多样性使其难以与现代人工智能技术相结合。

    2.教育工作者对人工智能技术应用的态度不一。人工智能技术由于其功能的强大和多元，使得教育工作者普遍对技术的信任感不强，对其应用价值存疑。很多教育工作者存在对于人工智能领域的研究、开发和应用的单方面错误认知，不确定今后“人工智能+教育”的发展应用之中，是否自己还有教育的主导权，具体是辅助关系，合作关系还是被替代的关系，故不希望将人工智能技术推广到教育当中应用。

    3.用户隐私泄露多发与安全责任归属不清。未被监管的数据收集过程易导致用户的个人隐私泄露。由于以“深度学习+大数据”为主要模式的技术深入对于数据的需求量大，用户在使用时提供的数据可能会被非法利用，以至用户个人隐私信息被泄，责任与安全、权利与义务归属问题难以界定。

    （二）“人工智能+教育”领域遭遇监管困境的成因

    第一，人工智能技术的发展带来失业风险的加剧。人工智能技术的大规模使用将导致从事劳动密集型、重复型、高度流程型等职业人员类型面临失业，颠覆传统劳动关系，解构社会分工模式，造成大量结构性失业，影响社会公平正义，使社会安全水平下降，引发社会动荡。第二，人工智能技术研发过程中存在算法歧视现象。由于人工智能产品从输入到输出的数据质量、算法、公式和内在隐含信息决定了最终结果，其过程易受到主观歧视影响，如性别、职业甚至种族歧视等等。由于算法歧视的出现是系统化的，若使用带有歧视的算法评估个人利益会使公民个人权益受损，加剧价值鸿沟，进而造成社会动荡。第三，人工智能技术的使用存在技术依赖问题。由于现在信息获取变得越来越简单，智能机器可根据获取的信息来进行分析，得到用户画像，进而推送逐渐精准和趋同的个性化信息，使人们重复接触自己感兴趣的领域，产生路径依赖，导致人的自主能力下降，使思维固化并且存在盲区和偏见，影响人的自我发展[3]。第四，人工智能技术发展存在伦理关系失调风险。当强人工智能时代来临时，一旦智能机器人催化出自我意识，激发出人性特征后，如何界定其权利与义务？如何在法律上界定其社会地位？人类和智能机器是否在社会中和谐稳定的共存是需要讨论的。

    四、完善“人工智能+教育”领域政府监管的对策建议

    （一）推动人工智能领域立法进程

    出台《人工智能监管法》之后，应及时完善各类法律的细化。明确规定违法使用人工智能时，依照其性质和程度规定应负的民事、刑事责任，明晰人工智能犯罪的违法成本，对社会公众达到警示的作用，从而一定程度上减少人工智能技术的非法使用而产生的违法活动[4]。理清人工智能各个监管主体的责任、义务的划分，以避免法律层面上监管责任的相互推诿，使人工智能的监管在更细致明确的法律法规支撑下形成新的全方位、多元化、多角度监管局面。

    （二）完善人工智能领域监管體制

    在人工智能领域的监管方面，除去立法还应依法完善监管体制，设置负责监管人工智能的专门机构。监管机构的设立主要负责人工智能技术的政策制定和具体监管事项，着重审核人工智能产品研究立项与开发的安全性。在政策制定方面，人工智能监管机构应负责定义人工智能、建立人工智能审核认证程序以及流程定期，并且政策制定应及时更新修正以确保与技术发展同步[5]。

    （三）创新人工智能领域监管模式

    监管 “人工智能+教育”领域，基于该领域的特殊性，政府作为单一主体无法进行有效的监管，故其监督需要多元主体的参与，应采用多元协同的监管模式。多元协同监管模式是政府，企业、协会、研究机构和社会公众等利益相关者共同参与监管政策制定和具体实施的监管模式，除了协同多主体之外，还需要运用跨学科、跨部门的参与方式，跨学科合作为人工智能时代的教育生态系统的重建奠定了基础，并为人工智能政策的制定提供了参考。

    参考文献：

    [1]蔡自兴.中国人工智能40年[J].科技导报，2016，34（15）：12-32.

    [2]陈鹏.人工智能时代的政府治理：适应与转变[J].电子政务，2019（03）：27-34

    [3]何哲.人工智能时代的政府适应与转型[J].行政管理改革，2016，8（8）：53-59.

    [4]侯浩翔，钟婉娟.人工智能视阈下教育治理的技术功用与困境突破[J].电化教育研究，2019，40（04）：37-43.

    [5]姜皓文.人工智能技术在教育领域中的应用[J].电子技术与软件工程，2018（05）：255.