Top
首页 > IT产品和服务 > 服务器存储 > 服务器、存储资讯与分析文章 > 正文

GPU跟着深度学习一起“火”了

发布时间:2017-01-04 15:11        来源:赛迪网        作者:赛迪网

IBM 表示世界上90%的数据产生于过去的两年,其中的大部分为非结构化数据。随着物联网的应用催生出更多不同来源的数据,未来几年这一趋势将会加速。因此,基于传统规则的数据分析方法的有效性已经有所下降;为了更好利用爆发式增长的数据,新的方法将采用(如机器学习)。各大芯片及人工智能公司纷纷加入这场竞赛,努力在竞争对手投入新市场前将各自的非结构化数据集变现。

深度学习的供应链

GPU 是实现深度学习的关键:深度学习的两个步骤:训练和推断。训练网络目的是有效的设臵网络权重(Training);使用训练前的网络用来推断输入内容(Inference)。训练部分的成本更高,进度缓慢且昂贵,而推断部分则缺乏适应新未知内容输入的灵活性。

深度学习的“训练”和“推断”

由于深度学习的计算性质,深度学习对并行处理的要求较高(尤其是在训练阶段),因此为CPU 添加加速器将能够极大地改善性能。目前使用的主要加速器是GPU 和FPGA,二者均在并行处理方面有良好的表现,因此较CPU 本身的处理能力而言具备显著的性能优势。

GPU跟着深度学习一起火

今年的英伟达绝对是芯片领域的明星,虽然体量及总体营收尚不及英特尔/高通等老炮,但是GPU时代开启之后,其潜力倍受认可。在PC时代,Intel占据了GPU市场的龙头地位,随着移动互联网时代的到来,全球GPU市场经历了翻天覆地的变化,ARM主要是随着移动端的快速发展逐渐崛起。而独立GPU企业NVIDIA则在人工智能、汽车电子、视音频大数据领域、VR等需求的驱动下,市值不断创新高。

主流芯片的市场分布

GPU称为图形处理器,或视觉处理器。顾名思义,GPU最主要的应用场景就是处理图像显示计算。计算机图像显示流程见下图,在这个过程中CPU决定了显示内容,而GPU则决定了显示的质量如何。像GPU这类辅助CPU完成特定功能芯片统称“协处理器”,“协”字表明了GPU在计算机体系中处于从属地位。

计算机现实图像的基本过程

GPU具有高并行结构(highly parallel structure),因此在处理图形数据和复杂算法方面拥有比CPU更高的效率。CPU大部分面积为控制器和寄存器,与之相比GPU拥有更多的ALU(Arithmetic Logic Unit,逻辑运算单元:用于数据处理),而非数据高速缓存和流控制。这样的结构适合对密集型数据进行并行处理,所以我们看到在高度并行化且数据规模巨大的情况下,GPU获得很高的浮点运算性能。

说明:GPU的工作特点计算量大,但没什么技术含量,而且要重复很多很多次。就像你有个工作需要算上亿次一百以内加减乘除一样,简单的办法就是雇上几十个小学生一起算,一人算一部分,反正这些计算也没什么技术含量,纯粹体力活而已。GPU就是这样,用很多简单的计算单元去完成大量的计算任务,纯粹的人海战术。这种策略基于一个前提,就是小学生A和小学生B的工作没有什么依赖性,是互相独立的。很多涉及到大量计算的问题基本都有这种特性,比如说破解密码,挖矿和很多图形学的计算。这些计算可以分解为多个相同的简单小任务,每个任务就可以分给一个小学生去做。而CPU就像老教授,积分微分都会算,就是工资高,一个老教授资顶几十个小学生,但是老教授还具有协调、沟通及管理等能力。

GPU配合CPU协同工作

人工智能技术发展早期,GPU作为一种现成的并行计算加速芯片被使用在多个项目之中,如汽车的自动驾驶,图像识别算法等,但GPU未必为人工智能加速硬件的终极答案。GPU限于最初设计目标,在两个方向上均不能完美匹配人工智能主流算法。未来随着人工智能技术大规模商用化,从产业链过去发展的历史类比,专用人工智能加速协处理器将对GPU这类过渡方案构成挑战。GPU,由于其最初设计匹配的计算模型与神经网络计算模型存在不同,其并行计算核心之间的通信架构-NOC(片上网络)应用在神经网络运算中均存在缺点。

GPU不是人工智能的终极芯片

看似GPU已经在人工智能的加速计算中占主导地位,那么,未来人工智能的硬件加速也一定由GPU承担吗?事实并非如此,业内已经存在各种具备竞争力的替代解决方案。谷歌在2016年5月末召开的I/O大会披露了TPU(Tensor Processing Unit)专用处理器项目。资料显示TPU实际已使用在谷歌诸多商业与科研项目之中超过了一年时间。击败李世石的围棋世纪人机大战所使用的服务器集群使用TPU加速围棋中DCNN(Deep Convolutional Neural Network)的计算。谷歌的RankBrain中使用TPU提升搜索结果和街景服务的相关度。

GPU与安防及视频智能

随着互联网技术的不断进步,GPU目前在人工智能(图像语音识别、无人驾驶等)、视频处理、VR/AR、生命化学、金融证券数据等领域显示出了优势,短期内具有广阔的应用前景。

GPU的发展空间

深度学习技术的发展使人工智能产业的冰山正在迅速融化成一股势不可挡的洪流,冲击着安防行业的产业变革。安防行业众多一线厂商携手世界顶级人工智能芯片厂商发力智能硬件产品升级,并将CV领域的最尖端的图形处理器应用于新型硬件产品的研发。目前包括海康、大华、宇视、网力、科达、旷视、格灵、文安等,均已经或即将基于Nvidia/Movidius的GPU产品,结合到安防前端产品及后端系统中,深度学习/人工智能正逐步落地安防应用。

合作站点
stat