原标题：我想看看，谁敢把“鸟”写成“黑”

最近出现了一个神奇的工作灯。

它有两个摄像头，一个可以密切关注孩子的作业本，另一个可以关注孩子的面部表情。这样，在做作业的时候，如果孩子敢把“鸟”写成“黑”，即使在千里之外，父母依然可以大叫。孩子想变笨，没办法；想揉揉眼睛玩玩笔，肯定会抛出一句“注意”。

可以理解，这款产品可以给一些因为工作生活而远离孩子的父母，实现远程陪伴。但也给“直升机”的父母增加了一个利器，不仅盯着人，还盯着所有的小动作，包括指尖和眼睛。

以我们的天赋，这样的产品肯定会被超越：你可以再加一个摄像头盯着孩子的腿脚。写作业时，双脚必须并排放在地上，不许跷二郎腿；你可以把锤子挂在头上。如果你发现自己走神了，锤子会马上掉下来。

人工智能的应用越来越多。在信息安全的前提下，交通导航、医疗诊断、移动支付、药物筛选等等给我们带来了太多的好处。人工智能在疫情防控方面也发挥了重要作用。

从一个摄像头到两个摄像头，不管有没有创新，关键是要嫁接人工智能，一个叫人工智能的帮助教育的新产品，值得探讨。人工智能应该如何帮助教育？

去年，浙江一所小学的一名学生被戴上了脑机接口环。这个脑带可以检测脑电波，判断学生上课和作业是否注意力集中，系统可以对注意力进行评分。分数可以实时传到老师电脑里，据说会像考试分数排名一样发给家长。

还有一款产品可以监控学生上课听讲的全过程，比如举手3次，低头8次，打瞌睡一次，趴在桌子上一次……一举一动，面部表情都可以记录下来。

好在被媒体举报后，浙江当地教育部使用上述头带进行门禁；上述第二个产品的开发公司也表示，这只是技术场景概念的演示，并否认了申请。真的要感谢他们，不然孩子在学校戴头带，放学在家亮工作灯，全天候，没有死角，都在大人手里，大人干预。这不就是电影《楚门的世界》里的活生生的现实“小楚门”吗，24小时监控直播。

如何培养更多具有创造力、想象力和突破勇气的优秀人才，一直是我们的疑问和目标。一个人的成长需要适度的空间，心理成熟和精神丰富都需要自我探索和尝试。从试错和反思中获得的很多经验更有价值。一直被作业束缚，成绩，没有空间，也许会有好成绩，但很难说会有阳光的态度。

从小只会拉磨的小马永远成不了好马，这已经被形象地比喻过了。

两年前刚应用人脸识别技术的时候，公园里有厕所配有人脸识别设备，刷脸的时候给你一张卫生纸。如果你想要更多，对不起，你只能刷一次脸。如果有特殊需要，真的要找别人“借脸”了。人脸识别的应用场景有很多。在新冠肺炎爆发肺炎期间，一些相机甚至在戴口罩时也能识别。

现在卫生纸也升级了。有的人在地上打印二维码，扫码，注意公众号就能滑出一张卫生纸。这种推广营销，用在马桶上，总让人觉得不听话。

每年都有精彩的事情，人工智能来的时候特别丰富。

出现了一些批量生产“优雅骂人”语句的软件。这类软件可以快速从文学名著中检索并生成具体的骂人句子，充满恶意，没有脏字。这些软件为网络喷雾器提供了一个“装满狗屎的炸弹”，诽谤他人，污染网络环境。

有了迭代技术，双刃剑总是极其锋利。有学者形容科学技术是一匹飞奔的马，伦理道德就像限制马的笼头。没有伦理规范、约束和引导，科学技术的疯狂发展很可能给人类带来不归。"

何健魁滥用基因编辑技术被追究刑事责任，这就是缰绳的作用。前几年的瘦肉精、三聚氰胺、苏丹红也是如此。

伦理有一定的稳定性。面对不确定性日益增加的未来，科学技术应该为人类提供什么帮助？科技的极限和禁区在哪里？在过去，如果提前设定一些高于当前要求的伦理规范，就有机会消除某些技术带来的不确定性危害。

去年，多家研究机构联合推出《人工智能北京共识》，提出人工智能的研究、开发、使用和治理应遵循15条有利于人类命运共同体建设和社会发展的原则。比如“善用慎用”原则，要充分认识人工智能应用的潜在影响，避免误用和滥用，使人工智能带来的收益最大化，风险最小化。

之后科技部还公布了《新一代人工智能治理原则——发展负责任的人工智能》，提出了和谐友好、公平正义、包容共享、尊重隐私、安全可控、敏捷治理等八项原则。

几乎与此同时，欧盟委员会也发布了人工智能伦理准则，并宣布将同时开始试验阶段。据统计，目前，政府、各种组织、研究机构和行业已经发布了几十项关于人工智能伦理标准的建议。

但可以看到，这些准则大多只是原则性和主动性，缺乏可操作性和法律约束力。

因此，如何利用好人工智能，取决于研究者的自律。作业神灯的发明者，应该想想自己小时候是否愿意一直被父母老师盯着看。

当然，无论是阿拉丁神灯还是莲花灯，无论是金箍还是银箍，产品经理一定是考察过市场，看到了需求，推广团队才会去培育市场，获取利润。但是这种收入的支付者是谁，只是父母花钱而已？不，可能失去的是一群人的未来。

算法覆盖24小时的孩子可能很听话，作业遇到问题也不会露齿而笑。如果都像一批小机器人，未来这是谁的世界？

在电影《星球大战》中，被称为“终极武器”的死星，代表了技术两面的“恶”。这个巨大的有两个引力场的怪物会让克隆人慢慢降低人性，让一切都在机器控制之下。

且不说那么远的科幻世界，最近几年，商业公司最感兴趣的信息已经从个人生日、电话号码和地址变成了指纹、五官、虹膜等等。南京的一家售楼处收集看房者的面部信息，自保买家戴头盔看房。父母可以通过神灯安全的把孩子的脸交给一家公司？

这几年一直很热闹闹的人工智能，已经有60多年历史。现在公认的说法是1956年达特茅斯学院夏季研讨会（人工智能的起源事件）的召集者麦卡锡（John McCarthy）想出来的。有人考证，说这是误读，因为麦卡锡晚年承认这个词最早是从别人那里听来的，但记不清是谁了。如今当事人大都已仙逝，谁发明了这个词恐成世纪悬案。不过，人工智能花里胡哨的应用，还能远程管中国小孩写字多一笔少一笔，应该是这些先贤们没有想到的。

李新玲