原标题:你听得懂的干货,聊聊“AI和HPC”这对超甜CP
先聊聊HPC是什么?
高性能计算简称HPC(High Performance Computing),是指利用聚集起来的计算能力来处理标准工作站无法完成的数据密集型计算任务。HPC机群(或者叫超级计算机)的计算速度一般都可以达到每秒万亿次级。
白话版走心解读:1958年西摩·克雷设计建造了世界上第一个超级计算机。发展至今,这个看似与世无争的领域竞争也是,异常激烈。2018年全球超级计算机排名,美国Summit登顶,TOP10中国占两席,分别是神威太湖之光和天河-2A。
Summit拥有4608个计算服务器,每个计算服务器中又含有两个22核Power 9处理器和6个Tesla V100图形处理单元加速器。怎么理解呢?它的峰值速度要比普通笔记本电脑快一百万倍,嗯,不止是猎豹和“闪电”的差距。
HPC与AI呈现融合趋势,原因是什么呢?
首先,AI和HPC的结合是时代推进的必然趋势。
这个原因听起来很“官方”,其实很实际。计算机被创造出之后,它们一直在推动人类文明发展上发挥着绝对重要的角色。而为“计算”而生的HPC总和各时代的突出发展特征或领域联结在一起,也就不难理解了。
20世纪60年代,超级计算机刚刚被创造,它主要用于科学计算,比如宇宙探索、气象预报;到了大数据时代,HPC更多被应用在日常生活领域,比如电子商务、道路规划;而现在进入了人工智能时代,HPC又被应用在了人脸识别、语音识别、自动驾驶等AI领域。这里的“融合”可以理解为,AI会成为HPC的一个重要应用领域。
深入到技术层面,AI需要HPC,也因为它们之间存在着一种“巧合”。
目前人工智能领域最火的算法——深度学习,建立在深度神经网络之上,它所需要的计算量是惊人的。而大规模计算需要多个应用计算机来做并行计算,HPC正是为并行计算而生。
白话版走心解读:这里请“并行计算”和“深度学习”两位同学出列。“并行计算”的基本思路是用多个处理器来协同求解同一问题。并行计算系统可以是专门设计的、含多个处理器的超级计算机;也可以是以某种方式互连的若干台独立计算机构成的集群。
“深度学习”之前有给大家做过初步介绍,传送门→你听得懂的干货,聊聊超热词“深度学习”。今天加个硬核拓展(可能会需要多一点脑细胞,两分钟吧),关于为什么深度学习需要大量计算——深度神经网络。
深度神经网络的基本工作思维是什么?俩字,推算。
神经网络算法就是尝试通过建模来模拟人类神经元的运行规律。而深度神经网络(Deep Neural Network, DNN)中的“深度”指的是模型的层数,层数越多便越“深”。它属于一种判别模型,意思就是已知变量x,通过“判别模型”可以推算出y。
举个栗子,我们来手写一个“1”。
来对比一下大脑和计算机完成识别的流程,就能了解计算机仅仅为识别一个“1”就付出了多少。
大脑工作分两步:一,定义它是一个“数字”,而不是“动物”。二,判定它是“1”,而不是“7”。但计算机可就没这么简单了。
首先,它会把一个“手写的1”定义成“一张图片”。(´-_-)-_-)-_-)然后,“图片”它也是不认识的,它只“认识”组成图片的一个个“像素点”。接着,像素点通过判别模型,输出10个概率(分别对应着识别对象是0,1,2…..8,9的概率),概率最大的那个便成为赢家。
这里面的“判别模型”就是神经网络模型。它是如何被制作出来的呢?(要用人类的思维建造一个模仿人类思维的模型,这事儿,想想就不会太容易)
首先样子先得建得像,也就是层层相连的结构;其次是尽量模拟出网络中神经元(这个量级是极其庞大的)是如何工作的。
这里面的工作极其复杂,我们只说一个关键概念“权重”。这个“权重”是连接神经元和神经元的内在逻辑,也是让这个神经网络运转起来的关键。通过不停的训练,我们就能改进神经网络,其本质就是不断改变权重的大小,减小神经网络输出的误差值。最后就能够得到一个多层神经网络的模型,通过输入进行有效的预测。机器终于认识手写的“1”了。ヽ(´¬`)ノ
这种类似“1+1”的问题已经如此,那其他更复杂的问题,机器需要付出的可想而知。而这里面所有的运转燃料都是“计算”。
HPC与AI的融合,具体怎么理解?
二者的融合主要是分两个层面。
第一,基础架构的融合。发现瓶颈,对现有的基础架构做一个全面的优化,使得它既能支持HPC,也能支持AI的工作负载;第二,算法的融合。通过将HPC和AI的算法进行创新,来提升整体的创新。一句话总结就是,通过HPC和AI的融合,可以提供一种更快速、更方便、更有TCO优势的解决方案。
白话版走心解读:说到“融合”这个词,大家可能比较陌生。但可以换个词试一下:磨合。两个好朋友的磨合不仅仅意味着,要把日常生活里鸡毛蒜皮捋平,还得经历几次深夜长谈,在精神世界达到统一。前者就是实实在在的硬件融合,是基础;那后者就是算法的互补和创新,是深入,也是保证能合作更久的条件。
HPC与AI融合的优势在哪儿?
简单讲,这两者的融合会更好地保证研究的精确度和速度。
这要从HPC和AI分别的优劣势说起。HPC的优势在于精确度,因为它传统的研究模式遵循着物理定律,它的算法是可信的。同时它大部分研究对象集中在科学计算领域,也就意味着对精确度要求非常高;而AI的应用场景通常会优先对速度有要求,比如语音识别、人脸识别。但AI是一种经验研究模式,所以会导致精确度却有待提升。
当HPC与AI融合,也就意味着二者的研究模式相结合,这样AI也可以通过HPC方法去做验证,在保证速度的同时,提升精确度。
白话版走心解读:这里讲的更侧重刚刚提到的“精神世界的统一”。一个机智灵活、一个逻辑缜密,搭伙做事,总能事半功倍。人类世界如此,机器世界亦如此。
那在日常的过程中,有没有过相关案例让我们能够直观感受到AI与HPC的融合呢?(留下这个有点儿燃的内容,下期我们细聊)
高能物理、材料学、脑科学、气侯模拟上都可以看到两者的身影。骄傲。
今天也希望大家有所得,笔芯赵玉萍和冀竞两位老师。
彩蛋!!!关于AI关于HPC你还有哪些想了解的,欢迎评论区留言告诉我们,留言点赞Top3将分别获得50元红包奖励,8月6日14:00开奖。返回搜狐,查看更多
责任编辑:
原文链接:https://www.sohu.com/a/331148361_120053730