依图发布AI芯片questcore:能否挑战英伟达、特斯拉?

依图发布AI芯片questcore:能否挑战英伟达、特斯拉?

人工智能芯片的应用场景细分市场越来越多,随着人脸识别等应用的普及与发展,专门为AI应用定制的芯片开始逐渐替代传统的通用芯片。这样的形势,给一些人工智能芯片的初创公司带来了机会。这也使得各大AI算法公司纷纷推出自己的专用定制芯片。

依图发布AI芯片questcore:能否挑战英伟达、特斯拉?

从技术架构来看,目前人工智能芯片主要可分为通用性芯片(比如常用的GPU)、半定制化芯片(FPGA)、全定制化芯片(ASIC)、类脑芯片四大类。

在全球范围内,AI芯片早已成为各行业巨头最为重视的战略高地。Google很早就推出了自研的TPU;Nvidia在AI领域也是深耕多年,并且在云端AI芯片、汽车自动驾驶领域占据了很大的市场;2017年,Intel以150多亿美金收购了ADAS/自动驾驶AI芯片及解决方案厂商Mobileye,此外还收购了AI芯片公司Movidius;Facebook也有在芯片方向布局;不久前,Tesla也推出了自己的自动驾驶AI芯片。

而在国内,如百度在2018年就发布了云端AI芯片“昆仑”;阿里去年也收购了中天微,并且还成立了平头哥半导体公司;同时,在去年,众多的语音AI算法厂商(如云知声、Rokid、思必驰等)及视觉AI算法厂商(如地平线、云天励飞等)也都纷纷推出了自己的AI芯片。

显然,AI算法厂商推出自有的AI芯片,加速自身AI技术能够更好更快的落地,已经成为了一大趋势。

摩尔定律终结,算法即芯片开启新时代

2019年5月9日,依图科技在上海举行“极智·求索——依图科技产品发布会”,并在会上发布了自研云端视觉推理AI芯片questcore™,以及基于该芯片构建的软硬件一体化系列产品和行业解决方案。

官方宣称,questcore™是目前全球最智能、性价比最高的视觉推理芯片。这款AI芯片是由依图科技和AI芯片初创团队ThinkForce联合开发的。

而需要指出的是,ThinkForce则是依图科技投资的一家AI芯片公司。2017年ThinkForce曾获得依图科技、云锋基金、红杉资本、高瓴资本的4.5亿元A轮融资。

依图发布AI芯片questcore:能否挑战英伟达、特斯拉?

依图科技联合创始人、CEO 朱珑博士现场分享了他对 AI 芯片的看法。在演讲中,朱珑博士表示,依图预见,摩尔定律的终结和人工智能技术的发展将开启一个新的时代——算法即芯片时代。“算法即芯片这句话非常本质,只有能找对问题,找对场景,用对算法,并为此定制芯片,才有可能做到极致性价比。”

早在2017年,ThinkForce就宣布要发布AI芯片,不过从研发设计到流片及最终量产需要花费大量的时间进行产品验证。

尽管早在2018年就有数据AI算法公司发布了芯片,但是吕昊认为,2018年发布的产品大部分以PPT为主,并没有实现量产商用,也没有经过市场验证。相对2018年,2019年才是AI芯片的交卷的一年。“我们5月的发布是直接商用,毕竟我们不是一个传统做芯片厂商,不是为了卖这颗芯片为目的来做这件事情。”吕昊表示,从时间点来看,此次发布的AI芯片并不晚于任何一家同行公司。

依图科技还在现场向业界展示了其技术前瞻性和垂直整合的能力,成为众多明星初创企业中,率先将基础算力和高端算法等核心实力同时握于手中的人工智能公司。

依图questcore:性能强大、高能效、高性价比

据介绍,依图questcore™采用16nm工艺,基于Arm内核+ThinkForce自主研发的微内核ManyCore架构,同时还针对依图领先的AI算法做了专门优化,能够充分发挥依图在机器视觉领域的专业积累和行业知识,适用于人脸识别、视频结构化分析、行人再识别等多种图像和视频实时智能分析任务。

在实际的云端应用场景,依图 questcore™ 最高能提供每秒15 TOPS的视觉推理性能,可以支持64路全高清实时解码。最大功耗仅20W,比一个普通的电灯泡还小。在同等功耗下,依图questcore™产品的视觉推理性能是市面现有主流同类产品的2~5倍。

不过,目前这款AI芯片并不对外,主要是依图自用,将主要用在依图的云端和边缘服务器上,结合产品和行业解决方案一起售卖。虽然是自用,但由于依图的应用场景很广泛,因此足以支撑起其产品升级。另据透露,依图下一代的AI芯片目前也已经在研发当中。

依图发布AI芯片questcore:能否挑战英伟达、特斯拉?

此外,依图还推出了基于questcore™ 打造的原子服务器。根据官方的数据显示,一台依图原子服务器提供的算力与 8 张英伟达P4卡服务器相当,而体积仅为后者的一半,但功耗却不到20%。

依图发布AI芯片questcore:能否挑战英伟达、特斯拉?

在进行视频解析时,1台依图原子服务器(搭载4核 questcore™芯片,除此之外无需其他配置),与8卡英伟达T4服务器(含双核英特尔 x86 CPU)对比,单路视频解析功耗仅为后者的 20%,与8卡英伟达P4 服务器(同样含双核英特尔 x86 CPU)相比,功耗约为后者的10%。

依图发布AI芯片questcore:能否挑战英伟达、特斯拉?

在发布会现场的插电演示中,依图科技首席创新官吕昊博士手持一台体积与15 英寸苹果 MacBook Pro笔记本相当的依图原子服务器,成功带动200路摄像头同时完成实时智能视频分析任务,引发在场嘉宾强烈反响。

依图发布AI芯片questcore:能否挑战英伟达、特斯拉?

在智慧城市、安防、无人零售等领域,需要解决大量的视频分析。吕昊表示,这颗AI芯片定位为一颗云端芯片,主要应用于视频解析等任务。现场演示表明,单条主干道或者一整个小型园区所需的智能终端设备,只需要这样小小一台单手可持的服务器便能驱动,为智慧城市、智慧交通、智能安防、智能零售等大规模AI行业应用的落地和普及奠定了坚实的基础。

依图发布AI芯片questcore:能否挑战英伟达、特斯拉?

当然,对于客户来说,数据中心的成本也是至关重要的需要考量的因素。依图表示,数据中心应该让客户“建得起、用得省、算得准”,使用依图 questcore™构建的视频解析系统,可将原本需要 16 台机柜的方案压缩到 1 台,使整体建设费用投入减少 50%,运维成本降低 80%。

不仅如此,依图原子服务器能够直接在云端升级系统,不需要大规模购买或者更新已有的摄像头、传感器等终端设备,大幅提高了现有基础设施的利用率。

替代英伟达P4,未来将挑战50万路应用

以“城市大脑”应用为例,如果采用传统的英伟达的P4方案,成本高昂(2000美金),不是所有企业都可以负担。采用AI芯片后,一万路的解决方案不再需要超大的数据中心来进行处理,同时可以挑战更大型的50万路方案。采用这款AI芯片,将为依图的服务器节省1/3的体积和能耗,同时让依图的产品解决方案发生巨大变化。

依图发布AI芯片questcore:能否挑战英伟达、特斯拉?

依图强调,由于这款AI芯片是自用,所以目前并没有对标的同类的产品。不过将取代之前自己采用的英伟达P4、T4方案。

吕昊表示,如果说硬要比较的话,前段时间特斯拉推出的AI芯片FSD在设计上有很多相似之处,虽然具体应用不同,但都专注于视频解析能力的提升。 因此依图的这颗AI芯片同样也适用于智能驾驶应用。

依图发布AI芯片questcore:能否挑战英伟达、特斯拉?

中国独角兽公司有何底气挑战Nvidia等AI芯片巨头?

作为一家AI芯片公司,其竞争对手往往是半导体行业的传统巨头,比如英特尔、英伟达这样的公司。在芯片的制造工艺、设计等各方面人才储备是有绝对优势的。不过这并不表示初创公司就没有机会了,因为初创公司针对的应用市场往往比较单一,不需要提供复杂的芯片设计来适应通用市场。

吕昊认为,AI时代来临的一个机会是摩尔定律难以继续下去了。单位面积晶体管数量的提升终将触及物理极限。与此同时,智能算法的性能仍在万倍增长,以依图自主研发的人脸识别算法为例,过去4年算法精度提升了100万倍。

人工智能的提升不能再依靠晶体管密度的提升,而需要对芯片设计、整个体系结构做调整。同时算法的调整、上层应用、软件的设计业至关重要。因此,在此次5月9日的发布会上,依图提出了“算法即芯片”的战略。

“我们非常相信垂直整合之后能够给我们带来突破,这个是我们和传统芯片厂商最大的区别。” 吕昊认为,AI时代算法和芯片需要强耦合才能够在这样一个比较复杂的设计空间里面找到一个更有竞争力的设计。

对于依图这样一直深耕算法的公司来说,“算法级芯片”代表算法公司有很大的优势。在同类算法公司中,依图的人脸识别算法的精度是其他厂商的100倍以上。除了视频算法以外也有做语音算法,语义理解算法也登上了最近的《Nature Medicine》杂志。此外,依图对行业具体应用场景的应用如安防、医疗也投入巨大,这也让依图选择自己研发芯片有了底气。

依图的另一个优势是对未来算法发展趋势的预判,吕昊表示依图与ThinkForce在一起研究迭代了非常长的时间、做了非常多的实验。对很多算法是有一个比较深的判断,尤其是视觉推理。通过实践,“我们很早在自己的模型上知道了低精度的INT8的设计是云端推理芯片一个必然的趋势。这不是所有厂商都能判断对的。”

由于对算法的精准预判,依图得以通过ASIC提前固化一些算法,以应对AI算法的不断提升以及变化。最后,通过AI芯片能够在更小的设备和更好的功耗上完成更高的智能密度,有机会与传统芯片厂商在同一起跑线竞争,甚至实现弯道超车。

依图发布AI芯片questcore:能否挑战英伟达、特斯拉?

随着云端AI芯片及一系列产品的发布,从技术维度,依图已具备视觉、语音、自然语言理解和智能决策等多个技术领域达到甚至领跑世界领先水平,全面解决机器看、听、理解的根本问题,同时致力于提升算法精度、拓宽算法广度。

从业务应用维度,芯片及系列硬件产品的发布将强化依图行业垂直整合的布局,通过世界级的算法、芯片、服务器和管理软件,构建更高性能、更低成本的芯片和硬件产品,让算法对芯片的全面赋能,更将驱动人工智能在更多场景下的应用和落地。

AI算法的未来,精度继续提升的意义在哪里?

依图科技首席创新官吕昊也在会后第一时间接受了芯智讯记者采访,并详细介绍了依图科技的“算法即芯片”战略。

依图发布AI芯片questcore:能否挑战英伟达、特斯拉?

提到未来趋势,吕昊表示AI算法精度一定会继续不断的提升。那么算法识别率从99%提升到99.9%的意义是什么呢?吕昊认为,以人脸解锁为例,人脸的算法精度不断提升就能不断解锁应用场景。

比如简单的1:1人证核验,对精度要求不高,因此很多厂商都免费了。往上一步,门禁、闸机、园区方案可能对算法要求更高。比如说去年整个华为园区都是用依图的门禁闸机系统。

再往上的应用包括地铁刷脸、刷脸支付,现在很多刷脸支付场景都需要你输入手机号码,这个体验上就比较差,站在你后面的人就能看到前面的人的手机号,就不那么的智能。要想突破这些场景下的应用就必须要有精度非常高的人脸识别。

这些应用再提升到城市级别的大规模应用,比如公安视频监控、反恐等,对于算法的精度要求就更高了。所以算法精度不断地提升是有非常大意义的。就是低于某个线的性能的算法几乎就不值钱,只有到你这个是市场上有你的稀缺性的时候才能体现出你的价值。“这个是为什么依图这么专注地不断提高自己算法精度的一个根本原因,并不是为了炫酷、秀肌肉。”吕昊表示。

依图大事记

上海依图网络科技有限公司成立于2012年9月,由朱珑、林晨曦共同创立。

依图科技人工智能技术的应用领域包括:智能安防、依图医疗、智慧金融、智慧城市、智能硬件等。

2017年7月,依图科技在由美国国家标准技术局(NIST)主办的全球人脸识别测试(FRVT)中夺得第一,成绩在千万分之一误报下达到识别准确率95.5%,是当时全球工业界在此项指标下的最好水平。根据2018年6月的官方报告,依图已将这一指标提升到了接近极限的水平,即在千万分之一误报下的识别准确率已经接近 99%。

2018年6月依图科技完成由高成资本、工银国际、浦银国际的2亿美元C+轮融资。

2018年7月16日,依图科技完成兴业国信资管1亿美元融资。

2019年5月9日,依图科技在上海举行“极智·求索——依图科技产品发布会”,并在会上发布了自研云端视觉推理AI芯片questcore™,以及基于该芯片构建的软硬件一体化系列产品和行业解决方案。

依图questcore™ 的推出,也表明中国在AI芯片领域完全有能力制造出世界顶级的产品。在没有先例可循的人工智能时代,中国AI创企与世界巨头站在同一条起跑线上,完全有机会成为新时代的巨头。

相关推荐