从AI监控到脑机接口，技术是为了更好地监视吗？

文 |于斌

近日，一起“高科技”应用在教育领域上的事件再一次引发了热议。一款名为“脑机接口头环”的硬件产品被戴在了小学生的头上，而它的作用是可以通过检测脑电波来评判学生上课、写作业时是否集中了注意力，还能给学生的注意力集中程度“打分”、拉出像成绩单一样的排名。

这不禁让人想起九月份的时候，一张标有“旷视”图标的视频监控图像在网络上一度“疯传”，在这张图像里，我们可以看到一个女生身处教室当中，周围是各种AI识别出来的数据，她的睡觉、举手、趴桌子、阅读次数等信息“赫然在目”。

但这张图引起的并不是网上对于“未来”生活的向往，相反，却是大量网友针对AI手段应用到我们日常生活中的“边界”质疑。很多人认为，AI技术出现在课堂之类的应用场景中，它对人们更多的是一种“监视”，个人隐私与伦理价值问题仍然还存在着较大的灰色地带。

这小学生头戴“脑机接口头环”再一次引发了网友们对于“技术监控”的讨论：从AI监控到脑机接口，技术的存在难道是为了更好地监视我们吗？在这种“无死角”的监控之下，学生们还有自由吗？

▲图片来源：视觉中国

人工智能时代，AI摄像头已经进入课堂

这些年来，随着人工智能技术的发展与落地，人们对于各类人脸识别、语音识别、AI摄像头的存在早已见怪不怪了。特别是在以教育领域为代表的典型应用场景上，人工智能的相关落地案例逐年增多。

以旷视“AI监控”事件为例，在视频监控课堂引发争议之前，此类应用早就在中国药科大学展开实验，通过安装人脸识别系统，AI技术被用于日常考勤、课堂纪律管理等。通过人脸识别来自动识别个人信息，进而实现自动签到、签退、监控上课听讲情况、自控监控学生在上课时的动作......从本质上讲，这一类的应用主要目的是在于实现在教育领域上的技术“辅助”。

不过，针对人脸识别门禁等相对较浅层次的应用，大家倒是还能持比较“宽容”的态度。但随着AI技术可以自动地监控、分析学生更具体的行为、表情、专注度、上座率等，有不少人开始觉得这一类的管控更像是“高压”下的技术“噩梦”，学生们的隐私与学习自主权可能会受到特别大的“侵犯”。

当然，类似的应用被放在自由度颇高的大学生身上可能还可以“忍受”，毕竟大学生群体不会遭受太严格的细节管控，但应用在中小学里，AI监控对于中小学生的身心健康是否会产生更多的负面效应就特别值得关注了。

去年，杭州某中学就被媒体曝出将所谓的“智慧课堂行为管理系统”应用在了课堂教学当中，该系统与前面所说的AI监控类似，也是通过对学生各种上课动作的扫描与捕捉来监控、分析学生们的上课状态。尽管该校声称不会对此进行“考评”，但这种技术监控难免还是会让部分学生与家长们感到困惑。

▲BrainCo(强脑科技)官方声明

当小学生戴上了监控“注意力”的脑机接口头环

如果说AI监控还在某种程度上与受众保持着一些“神秘”的距离，那么近日被媒体曝出的“脑机接口头环”可能就更让人“感慨”科技的力量了。

在浙江金华的一所学校中，它在教学活动里使用了脑机接口头环这一产品，而根据介绍，这种脑机接口头环可以判断学生是否集中注意力，并将相应数据传到老师的电脑中，配套软件还能将学生的注意力状况进行统计排名、发送给家长。

与AI摄像头的全程“无感”不同，这种脑机接口头环被直接戴在了学生们的头上，它会根据识别的学生注意力情况显示出不同的颜色，颇有一些“冷冰冰”的未来感。

但与AI摄像头监控“一脉相承”的是，这种产品的应用同样惹来了大量的争议，有人觉得让学生戴这个头环产品会影响到学生的额头发育，有人觉得它可以有效帮助学生提高注意力与成绩，有人觉得这种产品从原理上来看说不过去，有“智商税”之嫌。

用头环产品识别脑电图，进而对人们的专注力情况进行判断，这看起来似乎要比AI“玄幻”的多。需要指出的是，以往此类应用多被应用在医疗领域，在教育领域的应用还很少。另外，即便在医疗领域，脑电图技术的“精准性”也还存在着较大的争议，其受到外界环境或条件的影响也很大，所以这种产品的实际功效还存在着很多的疑问。

有意思的是，这款脑机接口头环产品的工作原理只是通过三个电极来连接使用者的大脑，这样难道就能够精准识别出学生的注意力信号了？显然，这种产品的专业性还存在着很大的“未知性”。

▲英剧《黑镜》

技术的存在，应提前规避伦理与隐私的隐患

相比于老师、学校以及家长们的“见仁见智”，AI监控、脑机接口头环这类应用在学生群体心中的评价可谓是惊人的一致，那就是好像被戴上了“紧箍咒”。

不可否认的是，它们的确会在监管学生、督促学生学习上起到一定的正向作用，但同时也会让学生们失去“自由”。英国热门剧集《黑镜》中展示的“悲观”未来科技生活早已让很多人警醒黑科技可能会给我们的伦理与隐私带来的负面效用，而AI等技术的加速落地更让大家毫无准备地被暴露于科技的聚光灯之下。

在教育领域的应用中，我们需要明确的是，辅助教育手段的目的除了要提升学生的成绩之外，同时还必须不对学生们的心智发展、创新能力等产生影响，但在新技术的全方位无死角监控下，这一点显然也是“伪命题”。

学习成绩是很重要，但隐私重不重要？数字化带来的各种副作用与担忧重不重要？潜在的技术滥用风险重不重要？

在这些问题没有得到解决之前，AI、脑电图+教育+其他各领域的应用显然仍将面临巨大的考验。对于相关技术公司与从业者来讲，技术本身并不是问题，解决技术所衍生出来的一系列潜在风险才是“大问题”。

我们有理由相信未来新技术发展的前景是值得美好期待的，但我们更要相信在未来生活来到之前，人类需要提前做好解决诸多难点的准备工作才行。

来源：新京报