寒武纪联合创始人刘道福：智能芯片技术是行业智能化的重要推力

【猎云网北京】12月5日报道（文/李彤炜、小树）

12月2日，逆势生长-NFS2020年度CEO峰会暨猎云网创投颁奖盛典在京举行，国内AI芯片独角兽寒武纪联合创始人刘道福在峰会上发表了题为《AI“芯”技术，助力行业智能化》的主题演讲。在演讲中，刘道福概括介绍了智能芯片对于人工智能产业发展的核心作用，同时也分享了寒武纪的智能芯片布局及其行业应用。

刘道福提到，智能算法、海量数据、智能算力是人工智能产业的三大核心要素。其中，算力决定智能化水平的上限。“因为智能时代催生了海量及复杂的数据，假如算力成本居高不下，整个产业很难继续发展。只有普惠的或者足够便利的获取算力，才可能支撑人工智能在各行各业的落地。”刘道福解释道。

“可以说，人工智能芯片伴随着需求而生。人工智能在发展过程中，对算力的需求非常大，这些年整个神经网络的规模、参数以及计算量呈指数级发展，每一年可能会翻10倍。而摩尔定律是每18个月翻两倍，这中间有极大的鸿沟，只有更高算力和更高能效比的人工智能芯片架构，才能支撑人工智能运算。”刘道福进一步表示，“随着人工智能计算被广泛应用于不同场景下，各行各业对智能芯片算力的要求也千差万别，所以亟需一个针对智能计算优化的芯片处理器架构。”

因此，一批专门针对人工智能领域设计并销售的智能芯片公司应运而生。以寒武纪为例，已成功推出的产品体系覆盖了云端、边缘端的智能芯片及其加速卡、终端智能处理器IP，可满足云、边、端不同规模的人工智能计算需求，同时提供贯通云边端的端云一体的软件栈。具体来看，自成立以来，寒武纪先后推出了用于终端场景的寒武纪1A、寒武纪1H、寒武纪1M系列芯片、基于思元100和思元270芯片的云端智能加速卡系列产品以及基于思元220芯片的边缘智能加速卡，及自研基础系统软件平台Cambricon Neuware。

寒武纪人工智能处理器的设计目标是“面向人工智能领域的通用处理器”，所以需要智能处理器既需要支持智能计算中最重要的运算-矩阵或高维张量运算，也要支持一些机器学习算法中的零碎运算-向量和标量，并且大部分芯片面积高维张量为主，这样便于保持高效能。同时寒武纪在云端、终端以及边缘端都采用统一的软件架构及指令集，对编程也非常友好。刘道福介绍道。

然而任何硬件和产品都离不开行业落地，对人工智能芯片公司来说，能否切中行业需求，赋能行业智能化发展，是成功的关键。目前，人工智能芯片已经广泛应用于汽车、医疗、金融、工业质检等领域。

“汽车可能会是未来智能芯片重要的应用领域”刘道福谈到，“自动驾驶对于实时性要求很高，不能离线处理，必须在数毫秒内迅速判断，单纯靠车端的智能运算很难满足未来复杂场景的自动驾驶需求，所以需要路侧智能来辅助智能汽车做决策。未来，每一辆汽车都是移动的数据中心，充沛的算力就变得尤为重要了。”

而在医疗领域，智能芯片则侧重于视觉技术的应用，比如医学影像的智能识别等。刘道福介绍道：“以辅助诊疗为例，因为不同医生的经验与技能是千差万别的，通过AI的辅助，能将顶级医院及医生的经验和技术融入到AI决策系统里，继而共享给一些医疗能力弱的医院，比如县级和乡镇医院，实现医疗的公平化。”

另外，金融领域也是智能芯片重要的落地场景，在智能支付、智能风控、流程智能化方面，智能芯片都大有可为。“比如，金融机构可以根据大数据来刻画人群画像，实现智能风险控制；比如借助OCR技术，让票据机器可以自动录入、让流程可以自动触发，从而实现流程智能化，提升效率。”刘道福表示。

逆势生长-NFS2020年度CEO峰会暨猎云网创投颁奖盛典于12月2日-4日在北京柏悦酒店召开，由猎云网主办，锐视角、猎云资本、猎云财经、企业管家协办。本届峰会以“逆势生长”为主题，开设了主论坛和九大专场，覆盖母基金、电商、医疗等领域，近两百名行业专家、投资人和创业者们深入探讨各产业经营之道，以及行业变革中酝酿的创业与投资机遇。

以下为刘道福演讲实录，猎云网整理删改：

大家下午好！首先我非常感谢猎云网的邀请，有机会跟大家在这里分享。标题改了一下，叫AI“芯”技术，助力行业智能化。

人工智能时代，算力决定智能化水平的上限

智能芯片离不开需求方，整个人工智能的算法或者机器学习有三个浪潮，最早提出人工智能这个概念是在50年代的达特茅斯会议，会上提出了现在的深度学习或者神经网络的雏形，即多层感知机技术，但由于缺乏好的多层神经网络训练算法，并没有得到很好的发展。直到80年代，由去年图灵奖的获得者提出的反向传播算法，让多层的神经网络的训练成为了可能，但是受限于算力无法满足多层神经网络的需求，没有得到很好的发展。所以在90年代，反而是一些算力需求低的算法，比如决策树、随机森林、支持向量机等得到了比较长足的发展。直到2000年之后，随着摩尔定律、计算机、半导体、芯片技术的发展，以及异构计算的出现，让整个算力尤其是并行和异构算力得到了长足发展，加上互联网数据的积累，解决了深度学习的数据和算力问题，让深度学习算法重新焕发了青春。也正是在2008年，我们的团队开始了早期的机器学习与芯片交叉研究。

在传统工业时代，电力决定了整个工业发展的上限，成为了当时非常重要的生产要素或生产资源。而在人工智能时代，则是算力来决定智能化水平的上限。因为只有普惠的算力或者足够便利可获取的算力，才可能支撑人工智能在各行各业的落地。

人工智能的三大发展要素

人工智能有三大发展要素，即算法、数据、算力。首先，是算法本身的突破，因为没有算法，光有数据、算力，没办法把价值发挥出来；其次，是海量的数据，因为神经网络算法的层数为了达到良好效果，往往需要很多层，且参数量巨大，需要避免过拟合等问题，这些都需要海量的数据。最后是需要有算力，与日剧增的且复杂的数据需要高算力处理，假如算力成本居高不下的话，整个产业很难发展，因为任何一个行业的长足发展或者规模落地，最后的障碍往往都是成本。

这里举例说明下深度学习等人工智能技术对数据的需求。比如最近应用很广的自然语言处理模型bert，其训练大概需要33亿文本语料，而简单的语音识别也需要高达数百小时的训练，形成数百万亿级的算力需求。

人工智能芯片架构

再来看人工智能对智能算力的需求，这些年整个神经网络的规模或者参数呈指数发展，每一年可能会翻10倍。摩尔定律是每18个月翻两倍，这中间有极大的鸿沟，这个鸿沟怎么弥补？需要专门的人工智能芯片架构才能支撑人工智能运算，这也是为什么需要专门的人工智能芯片。从另外的一个角度看，芯片技术的发展往往是靠应用驱动的。在80年代，主要的应用是控制或者文本处理，这里面计算往往是标量计算，或者是传统的通用计算，所以诞生了面向通用计算的CPU。而在90年代，图形界面和游戏应用开始出现，而CPU很难高效的满足图形计算的计算模式，诞生了像英伟达这样专门做图形芯片的公司。到现在人工智能计算越来越广泛，应用在各行各业。所以，人工智能的计算模式与图形计算、通用计算都不同，势必需要不一样的、针对智能计算进行优化的处理器架构。

作为一家芯片公司，我们关注在不同场景不同行业对智能芯片算力的要求。对智能物联网应用，其典型算力需求是小于1TOPS，消费电子是1-20TOPS，而自动驾驶则取决于Level，Level2需要约是20T，Level4需要200T。而数据中心及云计算等业务，规模越大，用户访问越多，需要的算力就越大，所以最终可能在POPS到EOPS不等。

寒武纪的云、边端一体，软硬件协同布局

寒武纪是目前国际上少数几家全面系统掌握了智能芯片及其基础系统软件研发和产品化核心技术的企业之一，能提供云边端一体、软硬件协同、训练推理融合、具备统一生态的系列化智能芯片产品和平台化基础系统软件。其中，终端的典型应用领域包括各类消费类电子、物联网产品等；云端的典型应用领域包括云计算数据中心、企业私有云等；边缘端的典型应用领域包括智能制造、智能家居、智能零售、智慧金融、智慧医疗、智能驾驶等。

除了硬件，与之协同配套的还有软件平台。寒武纪基础系统软件平台Cambricon Neuware则彻底打破了云边端之间的开发壁垒，兼具高性能、灵活性和可扩展性的优势，仅需简单移植即可让同一人工智能应用程序便捷高效地运行在公司云边端系列化芯片/处理器产品之上，在Cambricon Neuware的支持下，程序员可实现跨云边端硬件平台的人工智能应用开发，以“一处开发、处处运行”的模式大幅提升人工智能应用在不同硬件平台的开发效率和部署速度，同时也使云边端异构硬件资源的统一管理、调度和协同计算成为可能。

智能芯片在各行各业的应用

下面讲一下智能芯片在各行各业的应用。人工智能技术分三层，第一是基础层，主要是以硬件为载体的AI芯片。第二是技术层，可能是计算机视觉、语音识别、自然语言处理、知识图谱、搜索推荐，最上层是智慧应用层，包括自动驾驶、智慧教育、智慧电力、机器人、质检等等。

首先简单介绍下智能芯片在医疗场景的应用，最常见的是基于视觉技术的应用。如医学影像智能识别。比如，在传统CT照片上，一般医生需要几个小时才能勾勒出病灶，而基于AI的技术只需要几秒钟，医生审核一下即可。另外就是语音病例，现在患者可以通过与医生的对话，生成一个病例，医生做一定调整即可。还有辅助诊疗，通过AI的技术赋能，能让普通医院共享到整个医疗大数据甚至是顶级医院及医生的经验，实现更公平的医疗。

金融行业也有诸多应用，比如支付。现在各种指纹技术，都是基于神经网络技术实现的。再比如风控，根据大数据去勾勒人群画像，实现风险控制。再比如流程智能化，现在借助OCR技术，很多票据机器可自动录入，很多流程都可自动触发。

再说说汽车行业的应用场景，比如无人驾驶。无人驾驶将成为智能芯片非常重要的应用场景。未来每一辆汽车都是移动的数据中心，它需要非常充沛的算力。其次，自动驾驶对于实时性要求很高，不能离线处理，必须数毫秒内做出判断。当下，行业可能认为纯靠车端的智能很难满足未来复杂场景的自动驾驶需求，所以大家认为需要路侧智能，来辅助智能汽车做一些决策。

再比如，在电力应用方面，寒武纪做了很多场景，包括输电电路监控，智能变电站。还有交通方面，流量监控、交通事件监测，周围入侵检测等等，都是智能芯片典型的应用场景。

另外，在工业质检领域，应用也很广泛。比如，以前需要靠人眼检测瑕疵，一天8小时盯着一个部件，有害于工人视力。现在基于计算机视觉技术，可能比人眼监测做得更准确高效。同时在工业机器人领域也正被大量应用。