IBM 全面停止 AI 人脸识别相关技术业务
近日，IBM 公司宣布停止提供人脸识别技术的相关服务，因为担心这项技术可能被用来促进种族和性别歧视。
IBM 首席执行官 Arvind Krishna 在一份递交到美国国会的公开信中写道：“IBM 坚决反对将任何技术用于大规模监视、种族定性、侵犯基本人权和自由，或任何与我们的价值观、信任和透明原则不符的目的。”
显然，IBM 此举旨在响应在美国愈演愈烈的反种族歧视运动“Black Lives Matter”。Arvind 在信中还呼吁国会出台相关国家政策，鼓励采用警员佩戴摄像头（类似行车记录仪）和数据分析等技术，引入适当的问责制度，让执法工作更透明。
目前，美国少数城市已经禁止使用面部识别技术。去年，旧金山、奥克兰和圣地亚哥等城市相继禁止使用面部识别技术，理由是这项技术存在局限性，在使用方面缺乏标准，还助长了对少数人种的潜在偏见。
人脸识别技术的发展
很难相信，这项十年前还常常出现在科幻电影中的技术，如今离我们的生活如此接近。事实上，人们在上世纪 60 年代就开始了对人脸识别技术的探索。彼时，人脸识别之父 Bledsoe 开发了一种系统，该系统可用计算机辅助人们手动记录各种面部特征（包括眼睛，鼻子，发际线和嘴巴）的坐标位置，然后将这些坐标数据插入数据库中。当为系统提供某人的新照片时，它能够从数据库中检索与之最相似的图像。这就是最早的人脸识别系统。可惜的是，受到当时的技术和计算机处理能力的限制，这项技术并没有得到大规模的应用。但该系统成功证明了面部识别是可行的生物特征识别技术，迈出了人脸识别技术重要的第一步。
随着计算机硬件性能的飞跃，研究者不断地突破人脸识别系统的上限，但成功率一直无法实现大规模商用。直到 2014 年前后，大数据和深度学习的发展掀起了新时代 AI 热潮，神经网络重受瞩目，并在图像分类、手写体识别、语音识别等应用中获得了远超经典方法的结果。来自香港中文大学的研究团队提出将卷积神经网络应用到人脸识别上，采用 20 万训练数据，在 LFW 上第一次得到超过人类水平的识别精度，这是人脸识别发展历史上的一座里程碑。自此之后，人脸识别技术与机器学习绑定，研究者们不断改进机器学习算法，同时扩大训练样本规模，将 LFW 上的识别精度推到99.5%以上。人脸识别发展过程中一些经典的方法及其在 LFW 上的精度，都有一个基本的趋势：训练数据规模越来越大，识别精度越来越高。
人脸识别中的偏见
在过去的十年中，得益于人工智能的发展，人脸识别软件有了很大的进步。同时，由于该技术通常是由私营公司提供的，缺少相关法律法规的限制和政府部门的监管。因此，有调查显示这项技术存在种族、性别偏见，这会使该工具在执法过程中的可靠性大打折扣，存在侵犯公民合法权利的风险。
2018 年，Joy Buolamwini 和 Timnit Gebru 的研究首次揭示了许多商业人脸识别系统（包括 IBM 的）有多大的偏见。该研究测试了三款来自不同地区公司的主流人脸识别软件，人物面部素材来自 3 个非洲国家和 3 个欧洲国家的志愿者，研究人员把素材按照肤色、性别来进行交叉分类。研究结果显示：
- 所有人脸识别软件对男性的识别成功率都比女性更高，错误率相差 8.1%~20.6%
- 所有人脸识别软件对浅肤色的人脸识别成功率比深肤色的更高，错误率相差 11.8%~19.2%
综合各分类的人脸识别成功率如下：
综合对比显示，各人脸识别软件对浅肤色男性的人脸识别成功率最高，对深肤色女性的人脸识别成功率最低，正确率差距最高达到 34.4% 。
也就是说，在这些已经大规模商用的人脸识别软件应用场景下，黑人女性有 20%~30%的概率被识别错误，产生一定的误会。如果是在警用安保等使用场景下，发生误会的后果可能会非常严重。
这项研究工作引起了外界对这些人脸识别算法的批评，各大科技公司也为纠正偏差进行了持续的调查研究。例如，美国国家标准技术研究院（National Institute of Standards and Technology）于 2019 年12 月进行的一项研究发现，“在大多数当前评估的人脸识别算法中，跨人种差异确实存在广泛的准确性偏差”。除了对人种、性别的识别偏差外，人脸识别技术还因其在侵犯隐私方面的问题而受到抨击。
从今年初开始，另一家美国的人脸识别技术公司 Clearview AI 受到了严密的审查，因为有关部门发现其面部识别工具由超过 30 亿张图像（大部分是通过抓取社交媒体网站收集的）构建而成，并且已被很多企业广泛使用。自那以来，Clearview 公司已被执法部门责令停业，并且面临多项侵犯公民隐私的诉讼。今年 1 月份，Facebook 也因其非法使用面部识别技术遭到检方起诉，面临 5.5 亿美元的罚款。