微软推出实时深度学习平台Project Brainwave

微软宣布推出一个全新的深度学习平台Project Brainwave,使得该公司能够进一步拓展其基于云端的人工智能服务。Project Brainwave允许微软的Azure云端用户以超高的性能水平执行复杂的深度学习模型。

微软推出实时深度学习平台Project Brainwave

 

图、采用FPGA的微软Azure云端之深度学习平台

 
微软宣布推出一个全新的深度学习平台Project Brainwave,使得该公司能够进一步拓展其基于云端的人工智能服务。Project Brainwave允许微软的Azure云端用户以超高的性能水平执行复杂的深度学习模型。这也是目前软件与网络事业为主的企业跨足硬件设计的趋势。因为透过软件强化人工智能算法的执行效率,将在人工智能时代初期几年能够获得更大发展弹性空间。
 
微软的实时人工智能之深度学习云端平台Project Brainwave,是以英特尔提供的Stratix 10现场可编程门阵列(Field Programmable Gate Array;FPGA)为基础。简单来说,Stratix 10就是微软的软件深度神经网络(Deep Neural Network;DNN)处理单位(即是DPU)。未来英特尔将可从微软全球数据中心扩建布署Project Brainwave而获得显著效益。基本上,英特尔并没有像英伟达(NVIDIA)拥有独立的绘图处理器,以让其在人工智能系统中获得优势,但是其以FPGA出发,使得其在未来的超大型深度神经网络中,将扮演更为重要的角色。
 
Project Brainwave 的系统可分为三个层面:首先是,高性能低延迟的分布式系统架构。其实,微软在数据中心内早已经采用FPGA多年,现在采用Stratix 10之后,即可透过深度神经网络的运算提供硬件微服务(Hardware Microservices),亦即将深度神经网络加载到远程且大量FPGA之上,透过呼叫服务器的方式来执行。这种系统的架构优势在于延迟性低且可以提高数据吞吐量。因为一旦外部接收到需求时,再也不需要透过微处理器进行处理,可以直接以FPGA进行快速响应,达到实时需求。
 
其次,Project Brainwave是采用整合到FPGA硬件上的软件DNN处理单元(DPU)。这与现今许多公司采取硬件方式来实作DPU是有很大的差异。虽然硬件DPU能实现较高的运算效能,但是却让深度神经网络的灵活性受到限制。可是软件DPU就没有这个问题。
 
Project Brainwave的第三个层面是,可支持众多主流深度学习框架的软件堆栈。目前除了可以支持微软自行研发的Cognitive Toolkit之外,其还可以支持谷歌的Tensorflow,当然未来还将支持更多深度学习框架。
 
其实,微软并不是唯一一家在云端数据中心内采用FPGA发展的公司,未来亚马逊、谷歌与脸书都将在使用定制化芯片处理人工智能任务。可见得,在人工智能发展不断推陈出新的今日,定制化或可编程的芯片模式来建立深度学习架构绝对是未来五至十年之内的主流。
 

微软推出实时深度学习平台Project Brainwave

图、Brainwave堆栈

 
 
参考数据:
Microsoft unveils real-time Project Brainwave AI platform. IT Pro Portal,2017/8/24
Microsoft’s Project Brainwave accelerates deep learning in Azure. InfoWorld, 2017/8/24








用户喜欢...

你的深度学习应用可能存在安全风险!

导语:深度学习框架和应用中存在许多漏洞,其中15个漏洞拥有CVE编号。漏洞的类型有堆溢出、数字溢出、Use-After-Free漏洞等。 360安全实验室(肖奇学 、Deyue Zhang)、佐治亚大学(李康)和弗...


深度学习中消失的梯度

了解深度学习的同学可能知道,目前深度学习面临的一个问题就是在网络训练的过程中存在梯度消失问题(vanishing gradient problem),或者更广义地来讲就是不稳定梯度问题。那么到底什么是梯...


专家教你利用深度学习检测恶意代码

当前,恶意软件的检测已经成为全社会关注的网络安全焦点,因为许多时候,单个恶意软件就足以导致数百万美元的损失。目前的反病毒和恶意软件检测产品,一般采用的是基于特征的方法,...


AI医疗2.0时代已到,用深度学习助推人工智能落地

最近市场又被人工智能医疗刷屏了。刷屏的原因就是人工智能继战胜了国际各位围棋棋手之后,又有了一个新的突破,这个突破就是在医疗领域。今年11月,国家医学考试中心发布了“2017年国...


初学者必看!深度学习入门指南

前言 机器学习技术为现代社会的许多领域提供了强大的技术支持:从网络搜索到社交网络的内容过滤,再到电子商务网站的产品推荐。机器学习技术正越来越多的出现在消费级产品上,比如...


为什么大家都不戳破深度学习的本质?!

人类正在慢慢接近世界的本质——物质只是承载信息模式的载体。人脑之外的器官都只是保障这一使命的给养舰队。 自从 AlphaGo 完虐李世乭,深度学习火了。但似乎没人说得清它的原理,只...


浅谈深度学习的技术原理及其在计算机视觉的应用

目前,深度学习几乎成了计算机视觉领域的标配,也是当下人工智能领域最热门的研究方向。计算机视觉的应用场景和深度学习背后的技术原理是什么呢?下面让我们来一探究竟。 计算机视...


深度学习框架的评估与比较

人工智能无疑是计算机世界的前沿领域,而深度学习无疑又是人工智能的研究热点,那么现在都有哪些开源的深度学习工具,他们各自的优缺点又是什么呢?zer0n和bamos在GitHub上发表了一篇文...


Movidius 为深度学习增添优势

Neural Compute Stick ( 神经计算棒),让人工智能在低功率嵌入式应用中成为现实。 人工智能 (AI),与核聚变清洁能源一样,数十年来被人们认为将对社会产生深远的影响,凭借近年来取得的科技进...


黑箱难题仍在阻碍深度学习的普及

当前,深度学习扛起了人工智能的大旗,让我们得以一窥智能机器在将来的能耐。但深度学习有个不小的问题:没人知道它是如何运作的。 我们并不是对深度学习一无所知。作为当今神经网...


AI实践者需要掌握的10大深度学习方法

过去10年,人们对机器学习的兴趣激增。几乎每天,你都可以在各种各样的计算机科学课程、行业会议、华尔街日报等等看到有关机器学习的讨论。在所有关于机器学习的讨论中,许多人把机...


FPGA深度学习应用再加速,深鉴科技发布基于Xilinx 的多场景人工智能服务方案

2017年10月24日,中国AI创业公司深鉴科技在北京举行盛大的2017新品发布会,面向如火如荼的AI应用集中推出五款基于赛灵思全可编程技术的自主研发的智能产品与深鉴深度学习开发软件DNNDK,强...


23种深度学习库排行榜:TensorFlow、Keras、caffe占据前三

作者:John.Lau,来源: 大数据与云计算核心技术 我们对23种用于数据科学的开源深度学习库作了排名。这番排名基于权重一样大小的三个指标:Github上的活动、Stack Overflow上的活动以及谷歌搜...


神经进化:一种不一样的深度学习

作者:Kenneth O. Stanley 转自: oreilly.com 神经进化正在复兴。主要的人工智能实验室和研究人员正在试验它,一丝新的成功点燃了更多的热情,能对于深度学习产生影响的新机遇正在出现。也许...


深度学习颠覆了对话人工智能

作者:Yishay Carmiel 转自: oreilly.com 语音识别的梦想是一个能在不同的环境下、能应对多种口音和语言的、真正理解人类语言的系统。几十年来,对这个问题的尝试都没有成功。寻找一个能有...


一文读懂深度学习与机器学习的差异

如果你经常想让自己弄清楚机器学习和深度学习的区别,阅读该文章,我将用通俗易懂的语言为你介绍他们之间的差别。 机器学习和深度学习变得越来越火。突然之间,不管是了解的还是不...