文 | 孙静 唐煜
庄莉小心翼翼地把一个银色索尼录音笔放进孩子书包的外口袋中。“他心大，不会发现。”儿子的学习一直处于小学班上中不溜的位置，庄莉有点焦虑，她想知道儿子上课是不是和同桌说了话，有没有积极回答老师的提问。儿子背着书包高高兴兴地跑进了校园。不过，一天下来，庄莉发现可能因为儿子太好动，录音太过嘈杂，她很难听得清。
庄莉一定很羡慕浙江那家小学。她在网上看到，家长只要交100元钱，就能获得一个账号密码，在手机上下载一个软件，登录就可以看到孩子班级内的即时画面。画面清晰到足以看清孩子的动作，虽然看不太清孩子的细微表情。但最近这个技术又要被升级了。从网上疯传的一张照片中可以看到，位于南京的中国药科大学在两间教室试点了人脸识别系统，能够自动识别和统计学生在课堂上玩手机、睡觉、趴桌子、举手等行为。“简直是电子监狱，我是来上学不是坐牢的！”“完全无视个人隐私，为什么不先给老师们用？”这几天，在中国药科大学上大二的小柯只要在网上搜索学校的名字，就能看到网友对学校的猛烈批判。
“我们习惯了？”
“在社交媒体讨论前，这件事就在学校里传开了。“小柯对AI财经社说，”刚开始我也有些害怕。”但去上过几次课后，小柯觉得这事没有网上说得那么邪乎。这是一间能容纳60人的智能教室，教室前后左右共有6块显示屏，老师可以根据需要展示不同的PPT和板书。他只隐约记得教室前方有两个摄像头，但老师未对他们提起过人脸识别和行为统计这件事，他也从未在显示屏上看到哪位同学开小差的实时影像，因此没什么被监视的感觉。“人脸识别如果有，应该也是在学校后台显示吧。”小柯后来也仔细想过，之前全国大学或高中每个教室几乎都有摄像头，老师可能会去看看学生的上课情况。“现在只不过是通过AI去分析学生的听课情况，虽然也有点隐私被侵犯的感觉，但个人还是可以接受的。”不仅是教室里，小柯发现，今年暑假过后校园里基本所有门禁都换成了人脸识别。他回想起来，上学期学校收集过证件照，原来是在为这件事做准备。而现在不少学生觉得，不用掏卡进教室、打考勤实际上很方便。
摄影/小柯
但这件事在一些高中生中产生了不同的反应。在河北某高中，一名老师请学生抽几分钟时间，匿名写下他们对于课堂人脸识别系统的看法。在这个随机小调查中，几十张小纸片密密匝匝地汇聚了学生对于“被扫描”的感受，绝大部分学生持排斥或谨慎态度。“我不希望学校普及这种东西，会使我的注意力分散，有被人监视的感觉。我不想当一个每天活在别人监视下的犯人。明明很想活动，还要做出一种我在学习的假象。” 一名学生较为克制地陈述了反对。他的一名同学则措辞激烈地表达了对安装摄像头的厌恶和抵触：“这相当于将自己的隐私生活公开，被别人批评、鉴赏。这会让学生活在一个僵硬的氛围中，只会教出一群奴化的行尸走肉、只会条件反射性地摆出顺从姿态的机器。”小纸片中很多学生关注“隐私”。摄像头的存在让他们有种被窥视感，让教室气氛压抑，“没有自由可言，正常的同学交流也会受限”。有学生认为摄像头会让“一下课，教室空无一人”；有学生心存质疑：学习是自己的事，自己想学就能学好。不愿意学习的人，为此就有内心动力了吗？”也有学生提出妥协方案，是否可以“课下休息时不开摄像头”。此前，在全国闻名的衡水中学，教室的高清摄像头甚至可以看到学生正在做的试卷内容。也有其他学校的高清摄像头，能看清学生在刷手机淘宝。所以小纸片上也有学生写道：如果实在要装，能不能不装那种能清楚看到我在写什么字的摄像头？这次小调查显示，还有少部分同学表示支持课堂人脸识别，因为可以提高自己的注意力。还有班上发生打架等冲突时，摄像头可以辨清事实。相比自我权利觉醒的高中生，小学和初中生对摄像头表现出某种“习惯”。“除了厕所以外，学校到处都有摄像头。”一位小学生对AI财经社说，“我从来没有注意过，但老师跟我们说过，摄像头是360度的，哪里都能拍到，所以你们不要有什么猫腻。”北京某重点中学初一学生小阳说，他赞成教室安装摄像头，理由是可以让老师同时受到约束。小阳读小学时，老师有一次让在场同学都别过脸，然后公开体罚一个顽皮的孩子，这让同学内心惶惶不安。 一颗摄像头，以校园安全、课堂秩序、教学评估等各种名义，理直气壮地闯入校园生活。作为被影响的另一方，老师们是否欢迎新“助手”？上述高中老师对人工智能的应用效果心存质疑。她拥有10多年教学经验，“其实在讲台上一站，往下扫一圈，谁在走神儿、谁在睡觉都能看得一清二楚，还用费那个功夫看屏幕吗？”这名老师说，她通常根据学生的反应，及时调整讲课内容或者节奏。比如发现有些同学眼神茫然，她就降低解题的难度。发现打盹儿的多了，她会停下来活跃下课堂气氛或点人回答问题。这是一种基于人工经验的“智能”调整。北京大学一名心理学老师称，从他个人感受而言，在有监控和没监控两种场景下的发挥应该是不同的。有监控时可能比较拘谨，各方举止会受限，“比如我偏向营造活泼的课堂氛围，但知道有监控后，可能会担心这种方式是不是符合大多数人的评价取向。““人工智能的分析也让老师陷入一个两难的境地。“北师大博士、儿童心理学专家田宏杰说，如果用学生的抬头率、回答问题的次数来考核课堂效果，老师可能会想在课堂讲几个笑话，用加分奖励来鼓励学生多举手回答问题，但这些提问可能对于学生本身的思考并没有太大意义。而看到这张图后，一位三年级小学生家长有点愤慨地对AI财经社说：“看手机3次，发呆2次，举手2次......这种数据能告诉我们什么呢？爱学习，不爱学习？一个学生在课堂上举手100次，他就能有所建树？依靠这些垃圾数据去判断一个学生，我觉得就是胡扯。”北师大博士、儿童心理学专家田宏杰说，孩子的学习过程一定会经历从不想学到想学，从被老师管控到能够自我管控的过程。如果他们上课分神时能够自己找回注意力，并获得老师的正向评价，就会慢慢对自己的专注力有信心；但如果有了监控，孩子的精力可能都用来提防老师，自我管控力的成长没法得到提升。高压监控下长大的孩子，要么反抗要么就逆来顺受，内在的学习自主性和积极性都不行，对权威也会失去敬畏，不会再惧怕老师和家长的眼光。21世纪教育研究院副院长熊丙奇也担心学生养成“表演性人格”，或者压力增大。他今年5月撰文，质疑课堂人脸识别技术究竟是校园信息化还是校园监狱化，担心孩子小小年纪就要学会“演戏”，且情绪识别本身的效果也有待验证。归根结底，用人脸识别辅助评估教学过程，无非是将“认真听讲”作为优先级的评价标准。但教育不等同于灌输，仅靠课堂上的“乖学生”也无法印证素质教育的成功。
“这是不可逆的”
网上疯传的人脸识别智能教学方案，来自最近在港交所提交IPO的人工智能企业旷视科技。在舆论发酵一天之后，旷视科技发布声明，表示那张图片只是技术场景化概念演示，并强调公司产品是专注保护孩子在校安全的，对网民关注的“隐私、监控”等只字未提。“旷视这样的回应可能是在规避一些风险。“智慧校园解决方案提供商王大成对AI财经社分析，比如像江西省教育厅就明文规定，不允许非官方的摄像头进入校园。9月5日，教育部科学技术司司长雷朝滋在接受采访时表示，对于人脸识别技术应用要加以限制和管理，“尤其涉及到学生个人生物信息的，能不采集就不采，能少采集就少采集。”此外，旷视也不想背上侵犯隐私的恶名。王大成透露，实际上，人脸识别技术两年前就在高校课堂考勤等方面广泛运用，此后升级到动作识别，今年则刚推广注意力表情识别等技术。一位人工智能人士也透露，不仅是人脸识别，摄像头还可以录音，一些已具备特定词汇识别能力。不过，向高校推广人脸识别技术，王大成遇过各种阻力。一所大学在没有和学生充分沟通的情况下，强制在校园里使用人脸识别，学生便写信向校长控诉：“我的脸是我的个人隐私，你为什么要强制征用？”最后该校把系统改为自愿绑定，学生要先阅读一个用户协议，如果不同意也不强制，可以继续刷卡。大学新生“刷脸”报到 图/视觉中国
但由于高校财政宽裕，一些学校比较愿意尝试用最前沿的AI去评估教学效果，有些老师还会把相关AI研发作为科研项目，所以目前落地越来越多。“不只是旷视，商汤、好未来等都有落地业务。”比如，在今年商汤人工智能峰会上，也展示了识别高兴等7种情绪以及玩手机、说话、打哈欠等10余种动作的技术。在IT行业工作20多年的彭杰回忆，大约三年前，技术公司与高校讨论人脸识别进课堂时，主要还是为了记录考勤和客观评估老师的讲课过程，但他后来也意识到，这件事开始变了味儿，有的学校用来紧盯学生课堂表现，慢慢背离初衷。AI财经社曾同商汤科技教育事业部总经理尚海龙交流过这一趋势。对方表示，内部也进行过伦理论证，包括征求高校学者的意见。他认为，科技很多时候都是双刃剑，这一点要坦然接受，关键看人们如何利用，起什么心，动什么念。比如课堂是公共场所，为了安全或者监考，近年多部门发文要求校园安装监控系统。“你说或者不说，它就在那里了，一直在录制视频，只不过以前视频就是视频，是data big，不是big data。今天如果能从中找到数据挖掘的价值，能够帮助到老师和同学，我们对此是持一个积极的态度。”其判断依据是，教育正从一视同仁的“有教无类”发展到因材施教阶段，但老师没有足够的时间展开个性化教学，势必要依靠大数据。积累教学数据则需要在公共场合积累学生的动作行为、微表情等特质，在此基础上才有可能去挖掘行为的价值。这个过程是不可逆的。在尚海龙接触过的学校中，有一半持积极态度，另一半则持有消极态度，担心被家长以各种理由投诉。王大成坦承，人脸识别进课堂到底能不能成为一个趋势，一切得看国家相关政策风向。
被AI解析的学生遇到躁热的家长
人工智能摄像头进入教室正在成为既定事实。社会学人士林芳在赞同技术在校园安全和反霸凌的作用后却担心，“端口会不会开放给家长？”她还担忧，这一技术无疑会从校园走进家庭，也会就此打开潘多拉魔盒。她的忧虑是有原因的，“焦虑、急躁”恐怕是最近几代中国式父母最典型的群体符号。暑假热播剧《小欢喜》中，三对中产阶级家长为了孩子冲刺高考各自癫狂。像陶虹饰演的单亲妈妈，对学霸女儿全天候、全方位监控，让观众隔着屏幕都能感到窒息。“很多家长遇到事习惯先对自己的孩子挑刺儿，而AI摄像头开启的全时监控，从社会心理学角度会造成压迫感、恐惧感。这些从深层来说是要考虑的。”林芳说。一位80后对家庭在教育中的施压细节，至今仍记忆犹新：为了提高她的成绩，焦急的父母为她制定了一个硬性指标——每节课必须举手发言。他们会不定期地去问老师，如果表现不好，她会被惩罚。“今天，如果这个端口开放给家长就悲剧了。一堂课45分钟，原先我只要20分钟集中注意力就行了。但如果全时监控，每节课都变得很恐怖。人都是有应激反应的，可能会假装认真，也可能在经常挨骂后，破罐子破摔。”她顺带设想了一下摄像头进家庭后，那些自己过去寒暑假没背新概念英语、没做题而偷看电视的日子，可能要换来暴打。“如果有摄像头，我应该会被打死吧。”儿童心理学专家田宏杰曾接触过一对母子，妈妈在孩子房间课桌上安装了摄像头，孩子开始很抗拒，母子间爆发了一些矛盾。后来孩子逐渐变得麻木，心想反正我也学不进去，我就坐在这里装装样子。田宏杰觉得，这种麻木实则是一种无声的反抗，这不仅没有起到监督学习作用，还让母子关系站在了对立面。如今，田宏杰反对把这类监控数据交到家长手里，这些视频容易使家长忽略孩子好的方面，天天盯着孩子的问题行为，盯得太紧，孩子反而没有调整的机会，容易产生挫败感。“最好的监控器其实是家长自己的眼睛，家长要经常地、用心地观察孩子在家的学习状态。在孩子注意力不集中的时候以身作则陪伴他们，在孩子行为养成有困难时看懂孩子的困境，找到有效的方法帮助他们克服一些不良习惯，这才能对孩子成长有帮助。”“人脸识别技术一定是未来教育的趋势，但背后一定要有大量的课程研发、和孩子行为相匹配的数据库，以及互动系统。”田宏杰说，如果后期形成一个大数据支持的自动化系统，提示某个孩子有听不懂、感兴趣的地方，老师可以有针对性地给他进行辅导，为孩子提供个性化的教育，人脸识别技术的使用才真正有意义。上海本枝教育信息咨询有限公司创始人心理咨询师周子涵对AI财经社分析，遇到控制欲强的家长，这些AI数据对孩子来说将是灾难。没有任何人愿意生活在一个监控的环境中，从心理的角度，监控的环境会增加人的紧张和焦虑，为了自我保护，有的孩子可能会增加掩饰性和表演性。她认为，如果在幼儿园用监控最重要的是保护孩子的安全，那么随着孩子进入青春期，拥有自己的社会生活，逐步有了隐私意识，这样的监控对他们的成长是否有利值得商榷。“摄像头到底是用来保护孩子的安全，还是用来满足家长的窥探欲？广泛性的监控并不符合人性伦理和道德，如果学校只是因为觉得AI很酷炫很高科技而去使用，这是很肤浅的行为。”边界在哪？
一个有了人工智能、360度的摄像头，承载了学校、家长、技术厂商各方的利益诉求，却鲜见征求学生、教师等当事者的意见，平衡他们的权益——尽管新一代当中很多孩子已习惯“天眼”护佑之下的生活。在中国医药大学将人脸识别应用于课堂而引发争端后，学校对外解释，之前向公安部门和法务部门咨询过，教室属于公开场所，并不存在“侵犯隐私”的说法。事实上，自1890年美国学者沃伦和布兰戴斯在《论隐私权》中提出隐私是“免受外界干扰、独处”的权利后，法律界关于隐私权范畴的界定一直存在争议。中国也不例外。京都律师事务所高级合伙人李波认为，无论监控被应用于公共管理还是课堂，公民隐私权都是成立的。只不过针对近年校园暴力案件多发的现实，法律界普遍认同，当隐私权的保护范围与公共安全发生冲突时，应当优先于后者，即为了保护学生人身安全，校门、教学楼可以加强安保、加装摄像头和人脸识别系统。去年北京某小学曾就引入人脸识别系统的法律问题向李波咨询。但当时校方的关注点在于责任界定，比如要不要安装、如果人脸识别出现误差导致安全事件，系统集成商要承担多大责任？至于将人脸识别系统应用于课堂教学，目前还很难界定该行为是否侵权。按照法无禁止即可为的原则，如果学校进行告知并征得学生的同意，应该不构成侵权。这也折射出一个尴尬的现实，目前尚无法律条明确界定人脸识别一类新技术的应用范畴、使用规则。目前已纳入十三届全国人大常委会的立法规划的《个人信息保护法》，在保护隐私等人格权层面很受关注。另据公开信息，公安部起草的《公共安全视频图像信息系统管理条例》（意见征集稿），也已被列入国务院立法规划。征集稿中明确公共安全视频图像的处理不能侵犯隐私，对获取的信息不得买卖或非法使用，但没有明确哪些主体可以安装监控设备或查阅视频数据。关注“法律界定”的问题并非杞人忧天。科技是把双刃剑，监控主导者必要意识到，数据使用时的潜在风险。今年初，在一场20多家医院与16家安全厂商参加的闭门会上，一名医院信息中心主任分享了他的困惑：互联网医疗为民众提供了便捷，但网络安全问题对医院冲击较大。一次当地整个医疗系统都受到影响。“我们找了很多安全厂商，为什么就防不住？”他感到，目前医院缺乏相关专业人才，相关IT系统委托第三方建设运维的约占八成，管理不力，成为数据安全隐患的根源之一。对学校而言这也是一个警示。虽然学生个人信息数据保存在本地，但IT系统由多个外部供应商搭建，任何一个环节出现纰漏，数据都有可能被泄漏。2018年8月的一则判决文书中，就披露了一起非法出售学生信息的案例。当时科大讯飞员工张某，利用负责管理维护安徽全省学籍管理系统之便，以每条0.1元的价格，出售了4万名学生的隐私信息。“目前看，各方都还没有准备好。“彭杰认为，学校首先应该让学生知情，并征得同意。校方还要制定严格的管理制度，包括对数据管理、使用权限约束、甚至数据尺度等问题。以尺度为例，“大家应该有一个自由的氛围”，比如要评价老师的讲课效果，可以去掉个性特征数据，只统计打瞌睡的总人数即可。对数据使用做进一步约束和敬畏，这样社会可能也不至于那么反感。“我希望学校建立起信息保密工作，保证这些信息只被用于课堂情况分析。”虽然表达了对AI技术的包容，但中国药科大学的小柯也仍然有对个人信息保护的担忧。目前，欧美不少国家对人脸识别极为审慎。比如不久前瑞典数据监管部门对一所高中开出GDPR（欧盟通用信息保护条例）生效以来的首张教育界罚单。那所高中为了统计学生出勤率，在校园内试行人脸识别系统，且宣称已经取得学生同意。但监管部门认为，摄像监控等行为已经侵犯了学生隐私。监管部门还强调，虽然学校中大部分区域是公共场所，但学生在走进教室时对隐私有一定的期待。今年初，澳大利亚维多利亚州明令禁止公立学校使用人脸识别系统，除非学校已经获得家长、学生和教育行政部门的同意。该州认定，识别学生并对他们实时定位，是对隐私的极大伤害。据《金融时报》报道，在意识到人工智能可能对公民基本权利构成重大风险后， 欧盟正在计划一项关于人脸识别数据使用的立法，目的在于限制公司和公共机构“不加区分地使用人脸识别技术”。在美国，旧金山、奥克兰、萨默维尔等地相继禁止政府使用面部识别技术。相较于部分学校对人脸识别等技术的趋之若鹜，日前教育部官员的回应明显更为慎重：“我们要加以限制和管理。现在我们希望学校非常慎重地使用这些技术软件。”说到底，人们或许更愿意支持科技向善的行为。《人类简史》作者赫拉利在新书《今日简史》描绘过科技对人的颠覆——仅AI 算法就可以帮失恋者渡过“悲伤的五个阶段”：一、先用博比·麦克费林的歌《不要忧虑，要快乐》帮你否认发生的事实；二、再用艾拉妮丝·莫莉赛特的《你应该知道》让你发泄愤怒；三、接着用雅克·布雷尔的《不要离开我》和保罗·杨的《回来，留下来》鼓励你讨价还价；五、最后再用葛罗莉亚·盖罗的《我会活下去》让你接受一切。而对于今天被校园AI解析的这一代，也乐于经历这样的情感递进阶段吗？
