今年两会,为人脸识别套上“法治笼头”成为代表委员热议的话题。 近年来,随着人脸识别、大数据、人工智能等技术的飞速发展和商业化应用,人们在技术无孔不入的窥视下有渐成“透明人”之忧。其中,数据的违规采集与泄露、非法交易与使用等问题是人脸识别技术应用面临的主要风险。 而在诸多应用场景和领域中,人脸识别等人工智能技术进校园,存在着更大的隐患。在全国政协委员、民进上海市委专职副主委胡卫看来,人脸识别进入校园不光面临“丢脸了”的风险,其滥用也会对教育生态造成一定程度的破坏。 胡卫认为,人脸识别主要应用在学生签到、门禁的场景中,同时还作为家校联系的一种手段,“但是我认为这些场景不使用人脸识别技术也是可以的,完全可以用人工代替”。 值得注意的是,人脸识别已经进入课堂。曾有媒体报道,某一线城市小学构建智能课堂行为分析系统,运用姿态评估、表情识别、语言识别等技术,捕捉分析孩子在课堂上的各种活动。 用镜头拴住学生,真能提高教学质量吗?胡卫说:“按照人本主义教育学的理论,老师和学生在学校里应展现真实的状态,老师应该无条件接受学生的缺点和问题。但是在一个满是镜头和人脸识别监控的环境里,学生可能出现表演型人格,表现得表里不一。” “人脸信息是敏感的生物信息数据,是唯一的、不被重复的。”针对收集、管理中的乱象,胡卫建议,建立人脸识别的行业准入和分级管理制度。“国家可以成立人脸信息银行,把公民的人脸数据统一管理起来。同时,将信息储存等级分为永久储存、固定期限储存、一次性储存三种。学校应该只储存一次性信息。” 拍照搜题、表情识别、陪伴机器人……当前以人脸识别为代表的人工智能新技术已进入教育领域。 在首都师范大学基础教育发展研究院教授苏尚锋看来,新技术能否进校园的一大标准是,能否促进教与学。 教育部2016年印发的《关于新形势下进一步做好普通中小学装备工作的意见》指出,建立装备新技术、新产品进入学校的科学实验和论证机制,经过危害性测试和教学适应性评价的技术与产品方可进入学校。 但现实情况是,地方教育部门受专业性限制,无法对智能产品的安全性、科学性作出准确评估,智能产品进校园的准入规则亟待制定与完善。 苏尚锋认为,新技术在教育场景内大规模推广使用之前,需要由教育专业人士所组成的团队进行评估与鉴定,要通过严格的科学实验和论证,对该技术在教育教学工作中所处的位置有明晰的分辨与判断,并对其使用制定一套明确的程序与规范,从而切实保证技术服务于育人工作。 有代表委员认为,面向学生的人脸识别也不能简单地一禁了之。全国政协常委会委员兼副秘书长、民进中央副主席朱永新认为,人脸识别可以合理、审慎地应用在游戏防沉迷领域。 朱永新说:“对于人脸这种生物隐私信息需慎重,应鼓励有能力的企业先行积极探索,另外也希望尽快形成人脸识别技术运用的国家标准,明确规范适用范围及使用程度等。”
|