关注微信公众号
下载APP

您是个人用户,您可以认领企业号

AI不识少年烦

40715
AI财经社 2019-09-11 18:35 抢发第一评

640.webp.jpg

文 | 孙静 唐煜

庄莉小心翼翼地把一个银色索尼录音笔放进孩子书包的外口袋中。“他心大,不会发现。”儿子的学习一直处于小学班上中不溜的位置,庄莉有点焦虑,她想知道儿子上课是不是和同桌说了话,有没有积极回答老师的提问。儿子背着书包高高兴兴地跑进了校园。不过,一天下来,庄莉发现可能因为儿子太好动,录音太过嘈杂,她很难听得清。

 
庄莉一定很羡慕浙江那家小学。她在网上看到,家长只要交100元钱,就能获得一个账号密码,在手机上下载一个软件,登录就可以看到孩子班级内的即时画面。画面清晰到足以看清孩子的动作,虽然看不太清孩子的细微表情。
 
但最近这个技术又要被升级了。从网上疯传的一张照片中可以看到,位于南京的中国药科大学在两间教室试点了人脸识别系统,能够自动识别和统计学生在课堂上玩手机、睡觉、趴桌子、举手等行为。
 
“简直是电子监狱,我是来上学不是坐牢的!”“完全无视个人隐私,为什么不先给老师们用?”这几天,在中国药科大学上大二的小柯只要在网上搜索学校的名字,就能看到网友对学校的猛烈批判。

5.webp.jpg


“我们习惯了?”

 
“在社交媒体讨论前,这件事就在学校里传开了。“小柯对AI财经社说,”刚开始我也有些害怕。”
 
但去上过几次课后,小柯觉得这事没有网上说得那么邪乎。这是一间能容纳60人的智能教室,教室前后左右共有6块显示屏,老师可以根据需要展示不同的PPT和板书。他只隐约记得教室前方有两个摄像头,但老师未对他们提起过人脸识别和行为统计这件事,他也从未在显示屏上看到哪位同学开小差的实时影像,因此没什么被监视的感觉。“人脸识别如果有,应该也是在学校后台显示吧。”
 
小柯后来也仔细想过,之前全国大学或高中每个教室几乎都有摄像头,老师可能会去看看学生的上课情况。“现在只不过是通过AI去分析学生的听课情况,虽然也有点隐私被侵犯的感觉,但个人还是可以接受的。”
 
不仅是教室里,小柯发现,今年暑假过后校园里基本所有门禁都换成了人脸识别。他回想起来,上学期学校收集过证件照,原来是在为这件事做准备。而现在不少学生觉得,不用掏卡进教室、打考勤实际上很方便。

4.webp.jpg

摄影/小柯

但这件事在一些高中生中产生了不同的反应。在河北某高中,一名老师请学生抽几分钟时间,匿名写下他们对于课堂人脸识别系统的看法。在这个随机小调查中,几十张小纸片密密匝匝地汇聚了学生对于“被扫描”的感受,绝大部分学生持排斥或谨慎态度。
 
“我不希望学校普及这种东西,会使我的注意力分散,有被人监视的感觉。我不想当一个每天活在别人监视下的犯人。明明很想活动,还要做出一种我在学习的假象。” 一名学生较为克制地陈述了反对。
 
他的一名同学则措辞激烈地表达了对安装摄像头的厌恶和抵触:“这相当于将自己的隐私生活公开,被别人批评、鉴赏。这会让学生活在一个僵硬的氛围中,只会教出一群奴化的行尸走肉、只会条件反射性地摆出顺从姿态的机器。”
 
小纸片中很多学生关注“隐私”。摄像头的存在让他们有种被窥视感,让教室气氛压抑,“没有自由可言,正常的同学交流也会受限”。有学生认为摄像头会让“一下课,教室空无一人”;有学生心存质疑:学习是自己的事,自己想学就能学好。不愿意学习的人,为此就有内心动力了吗?”也有学生提出妥协方案,是否可以“课下休息时不开摄像头”。
 
此前,在全国闻名的衡水中学,教室的高清摄像头甚至可以看到学生正在做的试卷内容。也有其他学校的高清摄像头,能看清学生在刷手机淘宝。所以小纸片上也有学生写道:如果实在要装,能不能不装那种能清楚看到我在写什么字的摄像头?
 
这次小调查显示,还有少部分同学表示支持课堂人脸识别,因为可以提高自己的注意力。还有班上发生打架等冲突时,摄像头可以辨清事实。
 
相比自我权利觉醒的高中生,小学和初中生对摄像头表现出某种“习惯”。“除了厕所以外,学校到处都有摄像头。”一位小学生对AI财经社说,“我从来没有注意过,但老师跟我们说过,摄像头是360度的,哪里都能拍到,所以你们不要有什么猫腻。”
 
北京某重点中学初一学生小阳说,他赞成教室安装摄像头,理由是可以让老师同时受到约束。小阳读小学时,老师有一次让在场同学都别过脸,然后公开体罚一个顽皮的孩子,这让同学内心惶惶不安。 
 
一颗摄像头,以校园安全、课堂秩序、教学评估等各种名义,理直气壮地闯入校园生活。
 
作为被影响的另一方,老师们是否欢迎新“助手”?上述高中老师对人工智能的应用效果心存质疑。她拥有10多年教学经验,“其实在讲台上一站,往下扫一圈,谁在走神儿、谁在睡觉都能看得一清二楚,还用费那个功夫看屏幕吗?”
 
这名老师说,她通常根据学生的反应,及时调整讲课内容或者节奏。比如发现有些同学眼神茫然,她就降低解题的难度。发现打盹儿的多了,她会停下来活跃下课堂气氛或点人回答问题。这是一种基于人工经验的“智能”调整。
 
北京大学一名心理学老师称,从他个人感受而言,在有监控和没监控两种场景下的发挥应该是不同的。有监控时可能比较拘谨,各方举止会受限,“比如我偏向营造活泼的课堂氛围,但知道有监控后,可能会担心这种方式是不是符合大多数人的评价取向。“
 
“人工智能的分析也让老师陷入一个两难的境地。“北师大博士、儿童心理学专家田宏杰说,如果用学生的抬头率、回答问题的次数来考核课堂效果,老师可能会想在课堂讲几个笑话,用加分奖励来鼓励学生多举手回答问题,但这些提问可能对于学生本身的思考并没有太大意义。
 
而看到这张图后,一位三年级小学生家长有点愤慨地对AI财经社说:“看手机3次,发呆2次,举手2次......这种数据能告诉我们什么呢?爱学习,不爱学习?一个学生在课堂上举手100次,他就能有所建树?依靠这些垃圾数据去判断一个学生,我觉得就是胡扯。”
 
北师大博士、儿童心理学专家田宏杰说,孩子的学习过程一定会经历从不想学到想学,从被老师管控到能够自我管控的过程。如果他们上课分神时能够自己找回注意力,并获得老师的正向评价,就会慢慢对自己的专注力有信心;但如果有了监控,孩子的精力可能都用来提防老师,自我管控力的成长没法得到提升。
 
高压监控下长大的孩子,要么反抗要么就逆来顺受,内在的学习自主性和积极性都不行,对权威也会失去敬畏,不会再惧怕老师和家长的眼光。
 
21世纪教育研究院副院长熊丙奇也担心学生养成“表演性人格”,或者压力增大。他今年5月撰文,质疑课堂人脸识别技术究竟是校园信息化还是校园监狱化,担心孩子小小年纪就要学会“演戏”,且情绪识别本身的效果也有待验证。
 
归根结底,用人脸识别辅助评估教学过程,无非是将“认真听讲”作为优先级的评价标准。但教育不等同于灌输,仅靠课堂上的“乖学生”也无法印证素质教育的成功。
 

“这是不可逆的”

 
网上疯传的人脸识别智能教学方案,来自最近在港交所提交IPO的人工智能企业旷视科技。
 
在舆论发酵一天之后,旷视科技发布声明,表示那张图片只是技术场景化概念演示,并强调公司产品是专注保护孩子在校安全的,对网民关注的“隐私、监控”等只字未提。
 
“旷视这样的回应可能是在规避一些风险。“智慧校园解决方案提供商王大成对AI财经社分析,比如像江西省教育厅就明文规定,不允许非官方的摄像头进入校园。9月5日,教育部科学技术司司长雷朝滋在接受采访时表示,对于人脸识别技术应用要加以限制和管理,“尤其涉及到学生个人生物信息的,能不采集就不采,能少采集就少采集。”此外,旷视也不想背上侵犯隐私的恶名。
 
王大成透露,实际上,人脸识别技术两年前就在高校课堂考勤等方面广泛运用,此后升级到动作识别,今年则刚推广注意力表情识别等技术。一位人工智能人士也透露,不仅是人脸识别,摄像头还可以录音,一些已具备特定词汇识别能力。
 
不过,向高校推广人脸识别技术,王大成遇过各种阻力。一所大学在没有和学生充分沟通的情况下,强制在校园里使用人脸识别,学生便写信向校长控诉:“我的脸是我的个人隐私,你为什么要强制征用?”最后该校把系统改为自愿绑定,学生要先阅读一个用户协议,如果不同意也不强制,可以继续刷卡。
3.webp.jpg

大学新生“刷脸”报到 图/视觉中国

但由于高校财政宽裕,一些学校比较愿意尝试用最前沿的AI去评估教学效果,有些老师还会把相关AI研发作为科研项目,所以目前落地越来越多。
“不只是旷视,商汤、好未来等都有落地业务。”比如,在今年商汤人工智能峰会上,也展示了识别高兴等7种情绪以及玩手机、说话、打哈欠等10余种动作的技术。
 
在IT行业工作20多年的彭杰回忆,大约三年前,技术公司与高校讨论人脸识别进课堂时,主要还是为了记录考勤和客观评估老师的讲课过程,但他后来也意识到,这件事开始变了味儿,有的学校用来紧盯学生课堂表现,慢慢背离初衷。
 
AI财经社曾同商汤科技教育事业部总经理尚海龙交流过这一趋势。对方表示,内部也进行过伦理论证,包括征求高校学者的意见。他认为,科技很多时候都是双刃剑,这一点要坦然接受,关键看人们如何利用,起什么心,动什么念。比如课堂是公共场所,为了安全或者监考,近年多部门发文要求校园安装监控系统。
 
“你说或者不说,它就在那里了,一直在录制视频,只不过以前视频就是视频,是data big,不是big data。今天如果能从中找到数据挖掘的价值,能够帮助到老师和同学,我们对此是持一个积极的态度。”
 
其判断依据是,教育正从一视同仁的“有教无类”发展到因材施教阶段,但老师没有足够的时间展开个性化教学,势必要依靠大数据。积累教学数据则需要在公共场合积累学生的动作行为、微表情等特质,在此基础上才有可能去挖掘行为的价值。这个过程是不可逆的。
 
在尚海龙接触过的学校中,有一半持积极态度,另一半则持有消极态度,担心被家长以各种理由投诉。
 
王大成坦承,人脸识别进课堂到底能不能成为一个趋势,一切得看国家相关政策风向。
 

被AI解析的学生遇到躁热的家长

 
人工智能摄像头进入教室正在成为既定事实。社会学人士林芳在赞同技术在校园安全和反霸凌的作用后却担心,“端口会不会开放给家长?”她还担忧,这一技术无疑会从校园走进家庭,也会就此打开潘多拉魔盒。
 
她的忧虑是有原因的,“焦虑、急躁”恐怕是最近几代中国式父母最典型的群体符号。暑假热播剧《小欢喜》中,三对中产阶级家长为了孩子冲刺高考各自癫狂。像陶虹饰演的单亲妈妈,对学霸女儿全天候、全方位监控,让观众隔着屏幕都能感到窒息。

2.webp.jpg

“很多家长遇到事习惯先对自己的孩子挑刺儿,而AI摄像头开启的全时监控,从社会心理学角度会造成压迫感、恐惧感。这些从深层来说是要考虑的。”林芳说。
 
一位80后对家庭在教育中的施压细节,至今仍记忆犹新:为了提高她的成绩,焦急的父母为她制定了一个硬性指标——每节课必须举手发言。他们会不定期地去问老师,如果表现不好,她会被惩罚。
 
“今天,如果这个端口开放给家长就悲剧了。一堂课45分钟,原先我只要20分钟集中注意力就行了。但如果全时监控,每节课都变得很恐怖。人都是有应激反应的,可能会假装认真,也可能在经常挨骂后,破罐子破摔。”她顺带设想了一下摄像头进家庭后,那些自己过去寒暑假没背新概念英语、没做题而偷看电视的日子,可能要换来暴打。“如果有摄像头,我应该会被打死吧。”
 
儿童心理学专家田宏杰曾接触过一对母子,妈妈在孩子房间课桌上安装了摄像头,孩子开始很抗拒,母子间爆发了一些矛盾。后来孩子逐渐变得麻木,心想反正我也学不进去,我就坐在这里装装样子。田宏杰觉得,这种麻木实则是一种无声的反抗,这不仅没有起到监督学习作用,还让母子关系站在了对立面。
 
如今,田宏杰反对把这类监控数据交到家长手里,这些视频容易使家长忽略孩子好的方面,天天盯着孩子的问题行为,盯得太紧,孩子反而没有调整的机会,容易产生挫败感。
 
“最好的监控器其实是家长自己的眼睛,家长要经常地、用心地观察孩子在家的学习状态。在孩子注意力不集中的时候以身作则陪伴他们,在孩子行为养成有困难时看懂孩子的困境,找到有效的方法帮助他们克服一些不良习惯,这才能对孩子成长有帮助。”
 
“人脸识别技术一定是未来教育的趋势,但背后一定要有大量的课程研发、和孩子行为相匹配的数据库,以及互动系统。”田宏杰说,如果后期形成一个大数据支持的自动化系统,提示某个孩子有听不懂、感兴趣的地方,老师可以有针对性地给他进行辅导,为孩子提供个性化的教育,人脸识别技术的使用才真正有意义。
 
上海本枝教育信息咨询有限公司创始人心理咨询师周子涵对AI财经社分析,遇到控制欲强的家长,这些AI数据对孩子来说将是灾难。没有任何人愿意生活在一个监控的环境中,从心理的角度,监控的环境会增加人的紧张和焦虑,为了自我保护,有的孩子可能会增加掩饰性和表演性。
 
她认为,如果在幼儿园用监控最重要的是保护孩子的安全,那么随着孩子进入青春期,拥有自己的社会生活,逐步有了隐私意识,这样的监控对他们的成长是否有利值得商榷。“摄像头到底是用来保护孩子的安全,还是用来满足家长的窥探欲?广泛性的监控并不符合人性伦理和道德,如果学校只是因为觉得AI很酷炫很高科技而去使用,这是很肤浅的行为。”
 

边界在哪?

 
一个有了人工智能、360度的摄像头,承载了学校、家长、技术厂商各方的利益诉求,却鲜见征求学生、教师等当事者的意见,平衡他们的权益——尽管新一代当中很多孩子已习惯“天眼”护佑之下的生活。
 
在中国医药大学将人脸识别应用于课堂而引发争端后,学校对外解释,之前向公安部门和法务部门咨询过,教室属于公开场所,并不存在“侵犯隐私”的说法。
 
事实上,自1890年美国学者沃伦和布兰戴斯在《论隐私权》中提出隐私是“免受外界干扰、独处”的权利后,法律界关于隐私权范畴的界定一直存在争议。中国也不例外。
 
京都律师事务所高级合伙人李波认为,无论监控被应用于公共管理还是课堂,公民隐私权都是成立的。只不过针对近年校园暴力案件多发的现实,法律界普遍认同,当隐私权的保护范围与公共安全发生冲突时,应当优先于后者,即为了保护学生人身安全,校门、教学楼可以加强安保、加装摄像头和人脸识别系统。
 
去年北京某小学曾就引入人脸识别系统的法律问题向李波咨询。但当时校方的关注点在于责任界定,比如要不要安装、如果人脸识别出现误差导致安全事件,系统集成商要承担多大责任?
 
至于将人脸识别系统应用于课堂教学,目前还很难界定该行为是否侵权。按照法无禁止即可为的原则,如果学校进行告知并征得学生的同意,应该不构成侵权。

这也折射出一个尴尬的现实,目前尚无法律条明确界定人脸识别一类新技术的应用范畴、使用规则。目前已纳入十三届全国人大常委会的立法规划的《个人信息保护法》,在保护隐私等人格权层面很受关注。另据公开信息,公安部起草的《公共安全视频图像信息系统管理条例》(意见征集稿),也已被列入国务院立法规划。征集稿中明确公共安全视频图像的处理不能侵犯隐私,对获取的信息不得买卖或非法使用,但没有明确哪些主体可以安装监控设备或查阅视频数据。
 
关注“法律界定”的问题并非杞人忧天。科技是把双刃剑,监控主导者必要意识到,数据使用时的潜在风险。
 
今年初,在一场20多家医院与16家安全厂商参加的闭门会上,一名医院信息中心主任分享了他的困惑:互联网医疗为民众提供了便捷,但网络安全问题对医院冲击较大。一次当地整个医疗系统都受到影响。“我们找了很多安全厂商,为什么就防不住?”他感到,目前医院缺乏相关专业人才,相关IT系统委托第三方建设运维的约占八成,管理不力,成为数据安全隐患的根源之一。
 
对学校而言这也是一个警示。虽然学生个人信息数据保存在本地,但IT系统由多个外部供应商搭建,任何一个环节出现纰漏,数据都有可能被泄漏。
2018年8月的一则判决文书中,就披露了一起非法出售学生信息的案例。当时科大讯飞员工张某,利用负责管理维护安徽全省学籍管理系统之便,以每条0.1元的价格,出售了4万名学生的隐私信息。
 
“目前看,各方都还没有准备好。“彭杰认为,学校首先应该让学生知情,并征得同意。校方还要制定严格的管理制度,包括对数据管理、使用权限约束、甚至数据尺度等问题。以尺度为例,“大家应该有一个自由的氛围”,比如要评价老师的讲课效果,可以去掉个性特征数据,只统计打瞌睡的总人数即可。对数据使用做进一步约束和敬畏,这样社会可能也不至于那么反感。
 
“我希望学校建立起信息保密工作,保证这些信息只被用于课堂情况分析。”虽然表达了对AI技术的包容,但中国药科大学的小柯也仍然有对个人信息保护的担忧。
 
目前,欧美不少国家对人脸识别极为审慎。比如不久前瑞典数据监管部门对一所高中开出GDPR(欧盟通用信息保护条例)生效以来的首张教育界罚单。那所高中为了统计学生出勤率,在校园内试行人脸识别系统,且宣称已经取得学生同意。但监管部门认为,摄像监控等行为已经侵犯了学生隐私。监管部门还强调,虽然学校中大部分区域是公共场所,但学生在走进教室时对隐私有一定的期待。
 
今年初,澳大利亚维多利亚州明令禁止公立学校使用人脸识别系统,除非学校已经获得家长、学生和教育行政部门的同意。该州认定,识别学生并对他们实时定位,是对隐私的极大伤害。
 
据《金融时报》报道,在意识到人工智能可能对公民基本权利构成重大风险后, 欧盟正在计划一项关于人脸识别数据使用的立法,目的在于限制公司和公共机构“不加区分地使用人脸识别技术”。在美国,旧金山、奥克兰、萨默维尔等地相继禁止政府使用面部识别技术。
 
相较于部分学校对人脸识别等技术的趋之若鹜,日前教育部官员的回应明显更为慎重:“我们要加以限制和管理。现在我们希望学校非常慎重地使用这些技术软件。”
 
说到底,人们或许更愿意支持科技向善的行为。《人类简史》作者赫拉利在新书《今日简史》描绘过科技对人的颠覆——仅AI 算法就可以帮失恋者渡过“悲伤的五个阶段”:

一、先用博比·麦克费林的歌《不要忧虑,要快乐》帮你否认发生的事实;

二、再用艾拉妮丝·莫莉赛特的《你应该知道》让你发泄愤怒;

三、接着用雅克·布雷尔的《不要离开我》和保罗·杨的《回来,留下来》鼓励你讨价还价;

四、再用阿黛尔的《如你》让你深刻体会沮丧;

五、最后再用葛罗莉亚·盖罗的《我会活下去》让你接受一切。
 
而对于今天被校园AI解析的这一代,也乐于经历这样的情感递进阶段吗?

(小柯、王大成为化名)

所属栏目: 人工智能
声明:该文章版权归原作者所有,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题,请在30日内与本网联系。
喜欢这篇 (1)
评论一下
评论
登录后发表评论
×

Tel:18514777506

关注微信公众号

下载APP