人工智能进校园,恐过度“发挥”触及孩子们的隐私底线,伤及自尊

近日,准备赴港上市的AI巨头旷视科技引发争议。在其发布的场景演示视频中,身处教室的学生们正被AI系统所监控,每一个学生的睡觉、举手、阅读等动作都将被捕捉,并成为衡量他们在校表现的指标。一些舆论认为,旷视科技是在打着“校园安全”的幌子,将孩子置于360度全透明的“监狱”中。

AI进校园,无疑有助于提升学校的教育管理水平,提高学生的学习效果,但人们也担心,AI在赋能校园的同时,是否会因其过度“发挥”而触及孩子们的隐私底线,伤及自尊?

作为国内的AI“独角兽”,旷视科技在陷入风波后快速做出了回应,称该场景只是技术的概念化演示,目前公司的人脸识别主要还是用于智能校门、教室门及宿舍的出入,方便学生安全出入校园。

记者也了解到,AI与校园结合而产生的“智慧校园”概念,当前主要应用在学校管理、教学管理以及学生学习等方面,有助于学校管理的降本增效。

已经布局该业务的科大讯飞一位相关负责人就告诉记者,公司在“智慧校园”领域重点打造了“智慧课堂”产品,这款产品是利用AI等智能信息技术打造智能、高效的课堂,通过构建“云、台、端”整体架构,创设网络化、数据化、交互化、智能化学习环境,真正实现个性化学习和因材施教。

“事实证明,智慧课堂的应用对学生有很大帮助。”连云港某中学年级主任王老师带着两个智慧课堂班级,每次考试后他都会自己制图制表对比使用数据,他告诉记者,“这两个班是10个理科平行班中的普通班,高二分班时一个在年级平均分之上,一个在之下,成绩中等。智慧课堂应用一个半学期后,期中考试两个班都比年级平均分高了5分以上。”

而在国家级贫困县河北蔚县的一所农村中学里,“智慧校园”还帮助学校解决了生源流失的难题。据该校校长吴利军介绍,在生源素质明显下降与年轻教师出走的情况下,学校开设了两个智慧课堂实验班。一个学期后,学校对全部科目进行数据分析,两个实验班的平均分高于平行班72%、及格率高于68%、优秀率更是高于72.5%,各学科的名次与总成绩名次均居前列。“出了成绩后,很多家长要将孩子送来读书,并且主动要求‘加钱’上实验班,其实智慧课堂不会对学生另收费,但是家长与社会的支持,让我们有信心坚持发展‘智慧校园’。”吴利军表示。

智慧校园市场千亿“蛋糕”待分享

“智慧校园”所具备的切实有效和拥有广泛群众基础的特点,使得其市场规模正在急剧扩大。猎豹全球智库分析师李欣告诉记者,今年4月,教育部发布的2018年全国教育经费总投入为4.6万亿元,按照此前要求的比例下限8%估算,预计我国在教育信息化上的投入能达到3600亿元。而智慧校园是教育信息化的重要组成部分,这也意味着,按照最保守的规模估计,智慧校园将是一个千亿级别的市场。

“蛋糕很大,但是反观校园市场,包括信息化建设在内的效率提升仍然处于初级阶段。”李欣认为,语音、人脸、个性化推荐等AI技术的出现,给了众多企业进入校园的机会。于是,包括AI为代表的科技新兴企业、现代化的教育培训公司以及互联网巨头三股势力纷纷“杀进”智慧校园,大家“玩法”不尽相同,主要切入点有智能教室、考勤安防、智慧教学、智慧考试、家校互动等方面。

而在这一轮“三国杀”中,也不乏江苏企业的身影,上市公司苏州科达就是其中的佼佼者。据苏州科达科技教育事业部总经理彭涛介绍,公司早在2015年就提出“走进机器识图时代”,在教育领域也一直在探究能实际落地的AI应用。目前,公司已推出了多种面向不同场景的AI应用,如人脸无感点名,到勤率、前排就座率、抬头率等“三率分析”,人员导流,在线可视化督导,教学场景智能摄录等。

彭涛还表示,在越来越多“玩家”涌入后,智慧校园已拥有众多新功能,比如录播系统、跨校远程互动、在线教学督导等等。不过,这些新科技在进入校园时还应解决一个“痛点”,那就是避免重复建设、打破信息孤岛。为此,苏州科达所有前端设备均可以共用,后台系统可以复用和无缝对接。比如,一间教室只需安装2个摄像机,就可以实现电子巡考、远程互动教学、教学督导、日常安保等诸多应用。

人工智能当守尊重隐私的底线

智慧校园在资本的推进下不断进步,但就像旷视科技带来的争议一样,更多人担忧,在技术和技术巨头的包裹下,包括孩子在内的每个人,都可能成为毫无隐私的“透明人”。AI的伦理规范,因此被提上日程。

就在今年6月,科技部发布了《新一代人工智能治理原则》,《治理原则》旨在更好协调人工智能发展与治理的关系,确保人工智能安全可控可靠,推动经济、社会及生态可持续发展,共建人类命运共同体。《治理原则》还突出了发展负责任的人工智能这一主题,强调了和谐友好、公平公正、包容共享、尊重隐私等八条原则。

对于上述原则,科大讯飞董事长刘庆峰认为,在保护用户隐私方面,不仅法律要同步跟上,企业也要有更强的保护意识,现在已经有很多服务涉及老百姓的日常生活。因此,领军企业要做到表率作用,不仅仅是向用户进行告知,还包括价值观层面的指引。另外,目前很多数据都是在用户不知情的情况下被企业拿走。“从技术层面看,我们应该通过人工智能技术的发展给予用户更多的选择权,例如科大讯飞的翻译机,考虑到机密信息可能泄露,公司在设计产品的时候就做了离线翻译的版本,这是非常必要的。”

相关推荐