竹野内丰老婆本章节为北京湛庐文化独家提供的限时试读章节，2021年4月24日9:00下架，阅读时机有限。

　　人脸识别是使用文字来标注图像或视频中的人脸的任务。例如，Facebook将人脸识别算法应用到上传至其网站的每张照片上，尝试检测照片中的人脸并将其与已知的用户（至少是那些未禁用此项功能的用户）进行匹配。如果你在Facebook的平台上，并且某人发布了一张包含你的脸的照片，系统可能会询问你，是否要在照片中标记自己。Facebook人脸识别算法的准确性令人惊叹，但同时也令人害怕。不出所料，这种准确性源自对深度卷积神经网络的使用。该软件不仅可以对图像中位于中心位置的正脸进行人脸识别，而且可以对人群中的某一个人的脸进行识别。

　　人脸识别技术有许多潜在的好处，比如，帮助人们从照片集中检索图像；使视力受损的用户能够识别他们所遇到的人；通过扫描照片和视频中的人脸定位失踪儿童或逃犯，以及检测身份盗用等。我们也很容易想得到会有许多人认为这种应用程序具有侵犯性或威胁性。例如，亚马逊向警方推销了它的人脸识别系统（使用了一个奇怪的听起来像是反乌托邦式的名称“Rekognition”），该系统可以将安保相机拍摄的视频与一个已知罪犯或嫌疑人的数据库进行比对，但许多人为该系统可能造成的隐私侵犯问题感到担忧。

　　隐私问题是人脸识别技术应用中一个显而易见的问题。即便我不使用Facebook或任何其他具有人脸识别功能的社交媒体平台，我的照片也可能会在未经我允许的情况下被标记并随后在网上被自动识别，想一想提供收费人脸识别服务的FaceFirst公司。据《新科学家》（New Scientist）杂志报道：“FaceFirst正在面向零售商推出一套系统，据称这套系统可以通过识别每次购物的高价值客户来进行促销，而当多次被投诉的顾客进入任何一家门店时，该系统就会发出警报。”还有许多其他公司提供类似的服务。

　　失去隐私并不是唯一的风险，人们对于人脸识别还有一个更大的担忧，那就是可靠性：人脸识别系统会犯错。如果你的脸被错误匹配，你可能会被禁止进入一家商店、搭乘一架航班，或被错误地指控为一名罪犯。更重要的是，目前的人脸识别系统已经被证明对有色人种进行识别时明显比对白人的识别错误率更高。强烈反对使用人脸识别技术来对公民权利进行执法的美国公民自由联盟（American Civil Liberties Union,ACLU），用535名国会议员的照片对亚马逊人脸识别产品Rekognition系统进行了测试（使用其默认设置），将这些议员的照片与因刑事指控而被捕的人员数据库进行了比较，他们发现，该系统错误地将535名国会议员中的28人与犯罪数据库中的人员匹配上了。在非洲裔美国人议员中，照片的识别错误率更是高达21%（非洲裔美国人只占美国国会议员的9％）。

　　美国公民自由联盟的测试和其他研究结果显示出了人脸识别系统的不可靠性和偏见的附加后果，因此，许多高科技公司宣布他们反对将人脸识别用于执法和监管。举例来说，人脸识别公司Kairos的首席执行官布莱恩·布拉肯（Brian Brackeen）就在一篇广为流传的文章中写道：

　　用于对嫌疑人身份进行识别的人脸识别技术，对有色人种造成了负面的影响。这是一个不容否认的事实……我和我的公司已经开始相信，将商业人脸识别系统应用在任何形式的执法或政府监管中都是错误的，它为道德败坏者的明知故犯打开了大门……我们应该追求一个未授权政府对公民进行分类、跟踪和控制的世界。

　　在微软公司网站上的一篇博客文章中，其总裁兼首席法律顾问布拉德·史密斯（BradSmith）呼吁国会规范人脸识别系统的使用：

　　人脸识别技术引发了一些与保障隐私和等基本人权有关的核心问题，这些问题增加了制造这些产品的科技公司的责任。我们认为，更加周密的政府监管，以及围绕其可接受的用途制定规范是必需的，而这将需要公共部门和私人机构共同采取行动。

　　谷歌紧随其后，宣布其不会通过人工智能云平台提供通用的人脸识别服务，直到他们能够确保这一技术的使用符合谷歌的原则和价值观，并能够避免滥用和有害的后果。

　　这些公司的反应令人欣慰，但这又带来了另一个令人困扰的问题：人工智能的研究与开发应在多大程度上受到监管？又应该由谁来监管？