AR眼镜,机器学习领域的杀手级应用?

AR眼镜,机器学习领域的杀手级应用?

Facebook AI研究院的首席AI科学家Yann LeCun认为,AR(增强现实)眼镜有望成为机器学习从业者的理想挑战目标——一个杀手级应用,因为它涉及了多个未解决的问题。

完美的AR眼镜需要把对话式AI、计算机视觉和其他复杂系统结合起来,这些系统必须能够像眼镜那样小巧,便于操作。低功耗AI不可或缺,这将确保合理的电池寿命,从而使得用户拥有较长的可以佩戴和使用眼镜的时间。

与苹果,Niantic和高通这些公司一样,今年秋天,Facebook确认了到2025年制造增强现实眼镜的计划。

“对于硬件而言,这是一个巨大的挑战,因为你的眼镜可能带有可在可变延迟下实时跟踪视觉的摄像头,因此在移动时……这需要大量的计算。你希望能够通过语音与助手互动,以便助手一直在听你的声音,并且也会与你说话。您想要手势[识别],以便助手[可以执行]实时的手部追踪,”他说。

LeCun说,实时手部跟踪已经可以工作,不过“我们只是不知道如何以小巧的外形来做到这一点,同时功耗与AR眼镜适配。”

“就更大的型号来说,功耗、性能和外观,这些确实都超出了我们现在的能力范围,因此必须使用人们从未想到过的技巧,神经网络就是其中之一。”他说。

变得更有效率

LeCun这个月在全球最大的机器学习研究会议NeurIPS上的“EMC2节能机器学习”研讨会上发表了讲话。他谈到了硬件局限性如何限制研究人员的想象,并表示好的想法有时候会在硬件太慢、软件不易获得或实验难以重现时被抛弃。

他还谈到了特定的深度学习方法,例如差分联想记忆和卷积神经网络,它们构成了挑战,可能需要新的硬件。差分关联存储器(软RAM)是一种计算方法,目前已在自然语言处理(NLP)中广泛使用,在计算机视觉应用程序中也越来越常见。

“未来几年,深度学习和机器学习架构将发生很大变化。你已经可以看到很多这样的情况了。现在有了NLP,城里唯一的游戏基本上就是变换网络(Transformer networks)。”他说。

他补充说,更有效的批处理和自我监督学习技术,可以帮助AI像人类和动物一样学习更多,也可能有助于提高AI的能效。

在LeCun演讲之后,麻省理工学院的电气工程与计算机科学副教授Vivienne Sze谈到了需要一种系统的方法来评估深度神经网络的需求。SlidesLive报道称,在本周早些时候,Sze关于高效深度神经网络的演讲是这次NeurIPS视频中备受关注的一个,获得了相当多的点击率。

Sze说:“更大更远的存储器往往会消耗更多的电量”, 并指出“所有权重都不相等。” Sze还演示了Accelergy,这是MIT开发的一种能够估算硬件能耗的框架。

除讲座外,研讨会的海报发布会还展示了值得注意的低功耗AI解决方案。其中包括DistilBERT,这是谷歌BERT(Bidirectional Encoder Representations from Transformers)的轻便版本,后者是Hugging Face团队特别为在边缘设备上快速部署而制造的;以及SRI International和Latent AI对深度神经网络的量化比较。

许多知名人士呼吁机器学习社区应对气候变化,并表示这种关注可以推动创新。上周在NeurIPS上的一次小组讨论中,另一位深度学习先驱Yoshua Bengio呼吁研究人员更重视影响气候变化的机器学习上,并减少他们所获得的出版物数量。

在接受VentureBeat采访时,谷歌AI负责人Jeff Dean说,他支持创建“每瓦计算标准”的想法,以鼓励使用更高效的硬件。

节约能源,保护地球

除了在NeurIPS上进行解释深度学习算法的理论工作外,会议上的许多工作都强调了将AI对气候变化的贡献考虑在内的重要性,其中就有一篇名为“能源使用报告:算法责任中的环境意识”的论文。

该论文写道:“必须对算法的碳足迹进行测量并透明地报告,以便计算机科学家可以在环境可持续性方面发挥诚实和积极的作用。”

根据这一说法,会议的组织者早先建议,2020年向NeurIPS提交工作的AI研究人员可能需要分享他们提交供审议的工作的碳足迹。

美国研究机构AI Now Institute最近发布的2019年报告,就将测量算法的碳足迹纳入了十几项建议当中去,称这些建议可以带来一个更公正的社会。

在其他与节能有关的AI新闻中,Element AI和Mila Quebec AI研究所的机器学习从业人员上周推出了一种新工具,该工具可使用GPU训练AI模型来计算碳排放量,从而根据使用时间长短和云区域等因素预测能源使用情况。

相关推荐