浪潮Caffe-MPI 性能数倍于TensorFlow
　作者: 厂商投稿　编辑:
　　【IT168 资讯】5月9日，浪潮在美国圣何塞举行的2017 GPU技术大会(GTC17)上发布了新一代并行深度学习计算框架Caffe-MPI。测试数据显示，在基于国际通行的Imagenet数据集进行深度学习模型训练时，Caffe-MPI表现出良好的并行扩展，其性能是Google最新深度学习框架TensorFlow的近两倍。Caffe-MPI是全球首个集群并行版的Caffe深度学习计算框架，由浪潮主导开发并已在Github上开源公布所有代码。▲浪潮GTC17发布新一代Caffe-MPI现场▲浪潮新一代Caffe-MPI与TensorFlow实测数据对比　　Caffe和TensorFlow是当今全球最流行的两个开源深度学习框架。Caffe由美国加州大学伯克利分校开发，是世界第一个工业级深度学习框架，但其架构不够灵活扩展性较差;TensorFlow是Google开发的深度学习框架，已经被广泛使用在Google的搜索、图像识别及邮箱等业务。　　浪潮开发的Caffe-MPI保留了伯克利版本Caffe架构的优良特性，同时又针对高性能计算系统设计使之具备良好的并行扩展性。新版本Caffe-MPI在4节点16块GPU卡集群系统上训练性能较单卡提升13倍，其每秒处理图片数量是同配置集群运行的TensorFlow 1.0的近2倍。　　Caffe-MPI在性能上的出色表现得益其在并行算法设计上的创新突破。Caffe-MPI设计了两层通信模式：节点内的GPU卡间通信及节点间的RDMA全局通信，这极大降低了的压力，并克服了传统通信模式中PCIE与网络之间带宽不均衡的影响，这样的设计方式非常适合现在的高密度GPU，同时Caffe-MPI还设计实现了计算和通信的重叠。此外，新版本Caffe-MPI提供了更好的cuDNN兼容性，用户可以无缝调用最新的cuDNN版本实现更大的性能提升。　　在本次GTC大会上，浪潮全面展示了面向人工智能用户完整的AI产品解决方案，包括全球首个2U空间内支持8块NVLink或PCI-E 接口P100 GPU的人工智能超级计算机AGX-2、浪潮联合百度研发的支持单机16块GPU卡扩展的SR-AI整机柜，以及人工智能深度学习集群管理软件AIStation和并行深度学习框架Caffe-MPI等创新产品技术。　　人工智能深度学习是浪潮智慧计算三大支柱业务之一。浪潮新财年宣布成立人工智能部门，并着力打造多样化的硬件平台、管理调度与分析平台和深度学习框架的“平台组合”，实现前端承接多源数据、后端支撑智能应用，为人工智能提供领先计算力。目前，浪潮已经是全球顶级互联网公司百度、阿里和腾讯的AI计算GPU服务器的最主要供应商，并与科大讯飞、奇虎360、搜狗、今日头条、Face++等人工智能领先公司保持在系统与应用方面的深入紧密合作，帮助客户在语音、图像、视频、搜索、网络等方面取得数量级的应用性能提升。
IT168企业级你的浏览器禁用了JavaScript, 请开启后刷新浏览器获得更好的体验!
发起了问题 o 2 人关注 o 0 个回复 o 23 次浏览 o
o 来自相关话题
回复了问题 o 1 人关注 o 1 个回复 o 52 次浏览 o
o 来自相关话题
回复了问题 o 1 人关注 o 1 个回复 o 33 次浏览 o
o 来自相关话题
回复了问题 o 2 人关注 o 1 个回复 o 39 次浏览 o
o 来自相关话题
回复了问题 o 1 人关注 o 1 个回复 o 41 次浏览 o
o 来自相关话题
回复了问题 o 2 人关注 o 1 个回复 o 29 次浏览 o
o 来自相关话题
回复了问题 o 2 人关注 o 1 个回复 o 36 次浏览 o
o 来自相关话题
回复了问题 o 2 人关注 o 1 个回复 o 52 次浏览 o
o 来自相关话题
回复了问题 o 2 人关注 o 1 个回复 o 30 次浏览 o
o 来自相关话题
发表了文章 o 0 个评论 o 120 次浏览 o
o 来自相关话题
原文： /2017/02/preprocessing-for-machine-learning-with.html
当我们将机器学习技术应用到真实世界的数据集时，我们需要进行大量的工作来将数据预处理成适合标准机器学习模型（比如神经网络）的格式。这种预处理可能包含多种形式，从转换格式到标记和组织文本和形成词汇表，都需要执行各种数值操作，比如归一化。
今天我们宣布tf.Transform，一个用于TensorFlow的库。它允许用户定义预处理流程，并使用大型数据处理框架运行这些流程，同时还可以以一种作为TensorFlow图的一部分运行的方式导出流程。用户通过组成模块化的Python函数来定义管道。然后tf.Transform用Apache Beam执行转换，这是一个大规模、高效、分布式数据处理框架。Apache Beam管道可以在谷歌云数据流上运行，并计划支持其他框架的运行。由tf.Transform导出的TensorFlow图使得预处理步骤可以复制，尤其是当训练的模型用于做预测时，例如作为Tensorflow Serving的服务模块。
在生产中运行机器学习模型时遇到的一个常见问题是“训练服务倾斜（training-serving skew）”，在服务时间上看到的数据在某种程度上与训练模型的数据不同，从而降低了预测质量。相比于在两个不同的环境（分别是Apache Beam和TensorFlow）中进行预处理，tf.Transform通过保证服务运行时与在训练运行时的转换完全相同，从而确保在预处理过程中不会出现任何倾斜。
除了便于预处理，tf.Transform允许用户计算其数据集的汇总统计数据。在每一个机器学习项目中，理解数据都是非常重要的，因为对于底层数据的错误假设可能会产生一些细微的错误。通过简单、高效的计算汇总统计数据。tf.Transform允许用户检查他们对原始数据和预处理数据的假设。
tf.Transform允许用户定义预处理流程。用户可以具体指定预处理流程，用于在TensorFlow训练过程中使用，也可以导出一个tf.Transform图并转换编码为一个TensorFlow图。然后将这个转换图合并到用于推理的模型图中。
我们很高兴能够发布最新的TensorFlow生态系统，我们希望它对使用者在进行数据预处理和理解他们的数据方面有帮助。
我们要感谢以下各部队成员。他们为这个项目做出了贡献:Clemens Mewald,Robert Bradshaw,Rajiv Bharadwaja,Elmer Garduno,Afshin Rostamizadeh,Neoklis Polyzotis,Abhi Rao,Joe Toth,Neda Mirian,Dinesh Kulkarni,Robbie Haertel,Cyril Bortolato和Slaven Bilac。我们也要感谢TensorFlow,TensorFlow服务和Cloud Dataflow团队的支持。
翻译：CaffeCN社区 （未经授权，不可转载）
当我们将机器学习技术应用到真实世界的数据集时，我们需要进行大量的工作来将数据预处理成适合标准机器学习模型（比如神经网络）的格式。这种预处理可能包含多种形式，从转换格式到标记和组织文本和形成词汇表，都需要执行各种数值操作，比如归一化。
今天我们宣布tf.Transform，一个用于TensorFlow的库。它允许用户定义预处理流程，并使用大型数据处理框架运行这些流程，同时还可以以一种作为TensorFlow图的一部分运行的方式导出流程。用户通过组成模块化的Python函数来定义管道。然后tf.Transform用Apache Beam执行转换，这是一个大规模、高效、分布式数据处理框架。Apache Beam管道可以在谷歌云数据流上运行，并计划支持其他框架的运行。由tf.Transform导出的TensorFlow图使得预处理步骤可以复制，尤其是当训练的模型用于做预测时，例如作为Tensorflow Serving的服务模块。
在生产中运行机器学习模型时遇到的一个常见问题是“训练服务倾斜（training-serving skew）”，在服务时间上看到的数据在某种程度上与训练模型的数据不同，从而降低了预测质量。相比于在两个不同的环境（分别是Apache Beam和TensorFlow）中进行预处理，tf.Transform通过保证服务运行时与在训练运行时的转换完全相同，从而确保在预处理过程中不会出现任何倾斜。
除了便于预处理，tf.Transform允许用户计算其数据集的汇总统计数据。在每一个机器学习项目中，理解数据都是非常重要的，因为对于底层数据的错误假设可能会产生一些细微的错误。通过简单、高效的计算汇总统计数据。tf.Transform允许用户检查他们对原始数据和预处理数据的假设。
tf.Transform允许用户定义预处理流程。用户可以具体指定预处理流程，用于在TensorFlow训练过程中使用，也可以导出一个tf.Transform图并转换编码为一个TensorFlow图。然后将这个转换图合并到用于推理的模型图中。
我们很高兴能够发布最新的TensorFlow生态系统，我们希望它对使用者在进行数据预处理和理解他们的数据方面有帮助。
我们要感谢以下各部队成员。他们为这个项目做出了贡献:Clemens Mewald,Robert Bradshaw,Rajiv Bharadwaja,Elmer Garduno,Afshin Rostamizadeh,Neoklis Polyzotis,Abhi Rao,Joe Toth,Neda Mirian,Dinesh Kulkarni,Robbie Haertel,Cyril Bortolato和Slaven Bilac。我们也要感谢TensorFlow,TensorFlow服务和Cloud Dataflow团队的支持。
翻译：CaffeCN社区 （未经授权，不可转载）
回复了问题 o 2 人关注 o 1 个回复 o 41 次浏览 o
o 来自相关话题
回复了问题 o 3 人关注 o 1 个回复 o 53 次浏览 o
o 来自相关话题
发表了文章 o 0 个评论 o 52 次浏览 o
o 来自相关话题
源: https://developers.googleblog. ... .html
自2016年2月我们的首次公开源码发布以来，我们已经走过了很长一段路。TensorFlow服务是一款面向机器学习的高性能服务系统，为生产环境设计。今天，我们很高兴地宣布TensorFlow服务1.0的发布。版本1.0是由TensorFlow的头构建的，我们的未来版本将是与TensorFlow版本相一致的版本。
当我们第一次宣布这个项目时，它是一组提供核心功能的库，用于管理模型的生命周期并提供推论请求。稍后，我们介绍了一个带有预测API的gRPC模型服务器二进制文件，以及如何在Kubernetes上部署它的示例。从那时起，我们努力扩展其功能以适应不同的用例，并稳定API以满足用户的需求。今天，在Google内部有超过800个项目使用TensorFlow在生产中使用。我们已经对服务器和API进行了测试，并将其聚合在一个稳定、健壮、高性能的实现上。
我们已经听取了开源社区的建议，并且很高兴能够通过apt-get安装提供预构建的二进制文件。现在，为了开始使用TensorFlow服务，您可以简单地安装和运行，而无需花费时间编译。与往常一样，Docker容器仍然可以用于在非linux系统上安装服务器二进制文件。
在这个版本中，TensorFlow服务也正式弃用，停止对遗留的SessionBundle模型格式的支持。SavedModel，TensorFlow的模型格式是TensorFlow 1.0的一部分，现在是官方支持的格式。
为了开始，请查看项目的文档和我们的教程。享受1.0 TensorFlow服务!
自2016年2月我们的首次公开源码发布以来，我们已经走过了很长一段路。TensorFlow服务是一款面向机器学习的高性能服务系统，为生产环境设计。今天，我们很高兴地宣布TensorFlow服务1.0的发布。版本1.0是由TensorFlow的头构建的，我们的未来版本将是与TensorFlow版本相一致的版本。
当我们第一次宣布这个项目时，它是一组提供核心功能的库，用于管理模型的生命周期并提供推论请求。稍后，我们介绍了一个带有预测API的gRPC模型服务器二进制文件，以及如何在Kubernetes上部署它的示例。从那时起，我们努力扩展其功能以适应不同的用例，并稳定API以满足用户的需求。今天，在Google内部有超过800个项目使用TensorFlow在生产中使用。我们已经对服务器和API进行了测试，并将其聚合在一个稳定、健壮、高性能的实现上。
我们已经听取了开源社区的建议，并且很高兴能够通过apt-get安装提供预构建的二进制文件。现在，为了开始使用TensorFlow服务，您可以简单地安装和运行，而无需花费时间编译。与往常一样，Docker容器仍然可以用于在非linux系统上安装服务器二进制文件。
在这个版本中，TensorFlow服务也正式弃用，停止对遗留的SessionBundle模型格式的支持。SavedModel，TensorFlow的模型格式是TensorFlow 1.0的一部分，现在是官方支持的格式。
为了开始，请查看项目的文档和我们的教程。享受1.0 TensorFlow服务!
发起了问题 o 1 人关注 o 0 个回复 o 40 次浏览 o
o 来自相关话题
回复了问题 o 1 人关注 o 1 个回复 o 44 次浏览 o
o 来自相关话题
回复了问题 o 2 人关注 o 1 个回复 o 74 次浏览 o
o 来自相关话题
发起了问题 o 1 人关注 o 0 个回复 o 78 次浏览 o
o 来自相关话题
适合初级用户（开放加入）
适合中级用户（受邀加入）
0 个问题, 0 次赞同
8 个问题, 3 次赞同
0 个问题, 0 次赞同
0 个问题, 0 次赞同
0 个问题, 0 次赞同登录以解锁更多InfoQ新功能
获取更新并接收通知
给您喜爱的内容点赞
关注您喜爱的编辑与同行
966,690 九月 独立访问用户
语言 & 开发
架构 & 设计
文化 & 方法
您目前处于：
深度学习框架的评估与比较
深度学习框架的评估与比较
0&他的粉丝
日. 估计阅读时间:
硅谷人工智能、机器学习、互联网金融、未来移动技术架构 ，
Author Contacted
语言 & 开发
23 他的粉丝
架构 & 设计
159 他的粉丝
0 他的粉丝
0 他的粉丝
38 他的粉丝
0 他的粉丝
0 他的粉丝
0 他的粉丝
相关厂商内容
相关赞助商
告诉我们您的想法
允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p
当有人回复此评论时请E-mail通知我
最好加入mxnet
Re: 最好加入mxnet
允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p
当有人回复此评论时请E-mail通知我
允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p
当有人回复此评论时请E-mail通知我
赞助商链接
架构 & 设计
文化 & 方法
<及所有内容，版权所有 &#169;
C4Media Inc.
服务器由 提供, 我们最信赖的ISP伙伴。
北京创新网媒广告有限公司
京ICP备号-7
找回密码....
InfoQ账号使用的E-mail
关注你最喜爱的话题和作者
快速浏览网站内你所感兴趣话题的精选内容。
内容自由定制
选择想要阅读的主题和喜爱的作者定制自己的新闻源。
设置通知机制以获取内容更新对您而言是否重要
注意：如果要修改您的邮箱，我们将会发送确认邮件到您原来的邮箱。
使用现有的公司名称
修改公司名称为：
公司性质：
使用现有的公司性质
修改公司性质为:
使用现有的公司规模
修改公司规模为：
使用现在的国家
使用现在的省份
Subscribe to our newsletter?
Subscribe to our industry email notices?
我们发现您在使用ad blocker。
我们理解您使用ad blocker的初衷，但为了保证InfoQ能够继续以免费方式为您服务，我们需要您的支持。InfoQ绝不会在未经您许可的情况下将您的数据提供给第三方。我们仅将其用于向读者发送相关广告内容。请您将InfoQ添加至白名单，感谢您的理解与支持。caffe训练好的模型怎么使用_中华文本库
要熟练使用 caffe,最重要的就是学会配置文件(prototxt)的编写。 层有很多种...假设我们要在验证集中验证已经训练好的模型,就可以这样写 # ./build/tools/...
—Blob(1) November 26, 2014 caffe, 源码阅读, blob 使用 caffe 也有一段时间了, 但更多是使用 Python 的接口, 使用现有的 ImageNet 训练好的模型进行图片...
经网络模型是采用前述名人数据 库(15 万幅)训练的改进 Caffe 模型(7 个卷积...使用一个浅层的神经网 络即可有效建模,进而将多个浅 层的神经网络叠联到一起...
介绍了卷积神经网络的原理,以及在caffe库中的实现方法,其中使用了LeNet-5和Alex...单层结构 通过训练把各权 重估计出来,即 可构造出一个模 糊人脸数学模型 重...
薛开宇本次学习笔记作用也是比较重要,知道如何在 caffe 上搭建自己的训练网络。 ...solver_mode: 1 1.4 训练和测试该模型 注意更改好路径,这里可以尝试用自己写的...
学习笔记2 用一个预训练模型提取特征-薛开宇_计算机软件及应用_IT/计算机_专业...提取特征 执行指令 build/tools/extract_features.bin examples/imagenet/caffe_...
? ? ? 在 windows 下使用 caffe 训练自己的数据, 对刚入门使用 CAFFE 熟悉深度学习的朋友 来说,仍会碰到很多问题。本文结合使用 windows 版本 CAFFE 的经验,...
caffe 上进行训练与学习 使用数据库:CIFAR-10 60000 张 32X32 彩色图像 10 ...训练和测试 训练这个模型非常简单, 当我们写好参数设置的文件 cifar10_quick_...
抽取自己数据特征 数据模型与准备 安装好 Caffe 后, 在 examples/images 文件夹下有两张示例图像, 本文即在这两张 图像上,用 Caffe 提供的预训练模型,进行特征...
caffe 的应用实例——识别一张图片 训练模型的最终目的是应用训练好的模型去识别图片,为用户提供识别结果,本实验 通过一个 C++程序,传入一张图片,使用 caffe 模型...