【原创】AIx5G引发”核“聚变,超异构给嵌入式玩家带来新机遇

》有介绍)。

7

未来很多设备都会智能化,联网化,会产生非常多的数据,例如一辆自动驾驶车辆会有摄像头、激光雷达、超声波雷达等,它一天可以产生4TB数据,智能工厂一天可以产生一个PB的数据(PB是TB一千倍)。如此海量的数据都传到云上做处理也现实也没有必要,有些数据有实时性本地性的要求,所以在合适的地方处理是最重要的而不是都扔到数据中心云端去。边缘计算是为了能够更好的解决数据处理的实时性和有效性问题。

宋博士认为人工智能现在解决了感知层的认知,未来还要有理解能和决策能力,以无人车和无人机为例,不仅要看到事物还要理解事物不难过要做决策,这才有更大的价值。

决策靠的更多是靠知识,因为小的局部场景信息量是有限的,所以它要代入更多的信息甚至广域的知识。

8

明仕彩票app宋博士认为在未来社会工作场景中,前面的智能设备是在做数据的采集,它获得小数据和片面数据,要依据这个数据做实时分析,做决策处理,而云端通大数据则是做常识积累,做决策支撑。这就涉及到人类知识的理解。

9

全部的人类知识可以分成两大块,一是稳定知识,一个人从小受教育逐渐地扩展知识面,很多扩展的是稳定知识这一块,还有上大学的学习,属于通用知识,也是稳定知识范围,这些知识不太会变,会变是动态知识,假设机器人在家里服务,要建立家里环境的知识,了解这几个不同用户,这都是个性化知识。另外,群体性知识也属于动态知识,例如今日头条、抖音基于对人群的画像给用户推荐产品。可以把人分成老年人、10后、00后等这是群体性知识,这两类知识,稳定知识需要从顶向下构建,群体知识和个性化知识需要从下到上构建,逐步地需要从0开始构建。把这两块知识利用起来,一定要靠终端构建动态知识,在云端把知识做更好的更新,还要发给终端,还要在边缘去平衡实效性、本地性、安全性等。

1

从知识层面来理解,就会得到一个概念性结构,也就是在终端这一侧是智能系统,边缘这一层要有实时处理能力和定向服务能力。边缘服务器的最大价值在于它是根据具体区域需求来定制。例如某个区域需要做很好的语音交互服务,这个区域说的是广东化,就要把广东话的话自然语音理解,语音ASR、TTS放进去,这是定制的。同样智能交通,智能交通也是区域化的,在上海放上海相关的东西,不会放北京的东西。这些都非常明确的要边缘服务器。

1

明仕彩票app当然,云端大脑上仍非常重要,但要提高整个系统能力,不能光靠边缘服务器,例如自动驾驶,边缘服务器一个月也搜集不了太多的异常情况,这时需要靠全国甚至全世界的异常情况搜集下来汇总分析,重新训练模型,把整个系统能力,每隔几天就能提高一层,这就是云端的持续决策能力带来的好处,这就是一个可扩展的云端超融合架构,云还是有大云,但是可以放很小朵的边缘服务器,像一些二级脑在各个位置支持各种服务。另外要考虑安全,把这些结合起来就是云、边、端融合的方案。

 AI×5G需要什么样的架构支持?

从前面的分析中可以看到,到2020年,5G商用成熟, 而AI也发展到规模商用阶段,AI与5G是非常重要的历史性交汇,因为这两个技术都是非常重要的变革因素,而它们恰恰在2019和2020年都达到了可用性,在部署的时候,我们可以充分利用这两个变革性技术乘法效应,促进整个产业的升级。

2

到2020年会有500亿智能设备接入互联网,有很多的数据会产生。这些数据不是人互相通信的数据,不是简单的社交媒体和人产生的数据。在做网络优化的时候,已经没法靠人做一些启发式规则,经验去做优化,很多时候要靠数据训练对网络做优化了。

这就催生了计算的多元化需求,因为很多种数据不再是我们人类产生的结构化数据,它有不同的计算加速的需求,由于部署在终端、边缘或者云上,它需要计算加速的性能、功耗、实时性、成本、芯片尺寸大小都有不同的要求,这完全是多样化的需求,我们如何满足呢?

3

只有通过异构计算!传统异构计算有两种实现方法,一种是一体化SoC。把多种计算能力的加速内核放到一个芯片里,这个芯片是在同一个工艺节点上制造出来,例如14nm、22nm等,它是单芯片形式,集成了不同的计算模块,如CPU、GPU、通信模块,视频处理的加速器等,

另外一种是直接把不同的芯片通过板级连接起来,如通过PCI-E,把CPU板和专门的AI加速板连在一起,这样也可以做成一个异构计算。现在英特尔的数据中心里用的是这种方式。

明仕彩票app这两种方式有什么有什么优势和劣势呢?请看下图

4

一体化SoC它在数据带宽延迟上非常好,因为集成在一个芯片,体积最小,能效比最大,但有一点,上市时间较长,一般需要18个月,显然不能适应越来越快的嵌入式开发节奏。另外就是整个系统的实时开发难度比较大,因为把不同的加速模块都要放在一个工艺节点重新设计验证,很多的事情重做以前的事情,而且不一定完全对。

第二种异构模式--分体式板卡,可以很快把事做起来,而且体积比较大,功耗比较大,所以传统异构计算并不能满足现在计算的要求。

5

所以英特尔提出了超异构计算的策略,就是扬长避短,一是跟板级设计一样,有多功能多架构芯片,每个芯片处理不同的运算负载,进行加速,二是利用先进工艺技术把它们封装在一个芯片里,这不是在板级实现的。

在封装层设计先进的技术,把带宽做大,把功耗降低,体积缩小,这是封装集成技术。

三是针对这样复杂的超异构模式,对于软件开发人员而言不能让他们的设计更困难,要更简单一些,所以对于超异构来讲,要统一的异构计算软件也是非常重要的。

6

对于不同工艺节点的处理器、GPU或者其他互联芯片,可以通过高级的2。5D或者3D封装技术来整合,英特尔是业内唯一可以将逻辑芯片逻辑芯片堆叠在一起的公司,如英特尔最新的低功耗处理器LAKEFIELD,它整合了小CPU、大CPU,等它是混合CPU的架构,有处理不同工作负载能力。

78

对于AI计算,由于场景很多,因此有多种不同的运算负载,很难用一个计算单元有效地把它支撑起来,这就需要分而置之,合而用之。宋博士表示对于这样的超异构计算,未来还可以整合第三方的单元进来,例如一些其他架构的计算模块,而且英特尔也愿意提供封装的服务!这意味着嵌入式领域的玩家可以享受英特尔的超异构计算的好处,可以跟半导体龙头一起掘金人工智能市场。

明仕彩票app他举例说如果一个客户想开发一个同时做路径规划,并能检测人跟随用户并拍照的无人机芯片,主要需要视觉检测和Slam建模,而Slam建模可能需要通用计算,视觉检测需要专门的视觉加速芯片。对于英特尔来讲,实际上就可以整合一个小处理器加上一个VPU封装在一起,可以很快实现。

超异构计算的开发

对于这样的超异构计算模块,很多人一定认为其软件开发会复杂,因为其中包含CPU 也会有其他GPU ,NPU以及一些FPGA等,但实际上,这个超异构开发非常简单!

9

”目前常见的几个架构,CPU有自己的开发堆栈,GPU也有自己的开发堆栈。AI专用芯片也有自己的开发堆栈,FPGA也有自己的开发堆栈。如果做异构计算,想象一下,让一个程序员对这四种开发堆栈都熟悉是不能的。”宋博士指出,“但我们又想把这些能力给到开发者,让他们能自由使用。办法就是提供一个API,从软件开发人员来看,只要在功能层级调用这些能力就好,不用具体指定用哪种芯片架构加速。”

1

明仕彩票app至于什么样的工作负载用什么样的架构加速,这属于领域知识,专家就可以在优化中间件这一层做事,把一个API映射到不同的加速器上,下面几层是专家的事,上面则是应用开发者的事。这是一个非常合理的去释放超异构威力的方式。

1

他表示英特尔的one API就是这样一个思路,它的中间件支持各种神经网络框架例如Tensorflow,Caffe,微软CNTK等等,也支持各种深度学习模式,如视觉类的,金融类的等等,开发者可以直接调用这些模型,它就类似一个大的编译器,上面是过程的接口,中间层翻译成“公共”的白色,底下可以映射到后端。后端就是底层的硬件,系统可以自动映射到最优计算支持上,用最专业的计算模块做这嘴专业的事情。

1

所以,要让AIx5G发挥威力,必须在处理器架构、封装、工艺、软件和生态方面协同发展,英特尔已经做好了储备,宋博士表示英特尔的超异构计算愿景是提供多样化的标量、矢量、矩阵和空间架构组合,以先进制程技术进行设计,由颠覆性内存层级结构提供支持,通过先进封装集成到系统中,使用光速互连进行超大规模部署,提供统一的软件开发接口以及安全功能!

AIx5G,激发融合聚变,也带来新的机遇!

注:本文为原创文章,转载请注明作者及来源

明仕彩票app相关的文章

Digi-Key