武乡门户网站官网
您所在的位置:武乡门户网站>科技>内容

PyTorch终于能用上谷歌云TPU,推理性能提升4倍,该如

时间:2019-11-03 14:34:15      

小闸来自奥菲寺

量子位报告

昨天,脸书在pytorch开发者大会上正式推出pytorch 1.3,并宣布全力支持谷歌的云tpu,也可以在可乐中调用。

以前,虽然机器学习开发人员也可以在colab中使用pytorch,但这是第一次支持云tpu,这也意味着您不需要购买昂贵的gpu,您可以在云中训练自己的模型。

如果你是谷歌云平台的新注册用户,你也可以获得300美元的免费配额。

现在pytorch官员在github上给出了一个示例代码,教你如何免费使用谷歌云tpu培训模型,然后用colab进行推理。

培训resnet-50

Pytorch首先介绍了一个在云tpu设备上培训resnet-50模型的案例。如果要用云tpu训练其他图像分类模型,操作模式类似。

在培训之前,我们将首先转到控制台创建一个新的虚拟机实例,并指定虚拟机的名称和区域。

如果你想在真实数据上训练resnet50,你需要选择cpu数量最多的机器类型。为了获得最佳效果,请选择N1-海森-96机器类型。

然后选择debiang nu/Linux 9 stretch store/xla启动盘。如果您计划使用imagenet真实数据进行培训,您需要至少300gb的磁盘大小。如果使用假数据训练,默认磁盘大小仅为20gb。

创造tpu

官员建议在初始运行时使用假数据进行培训,因为假数据会自动安装在虚拟机中,并且需要的时间和资源较少。您可以使用conda或docker进行培训。

假数据测试成功后,您可以开始尝试在imagenet的实际数据上进行培训。

conda培训:

码头工人培训:

选择完整的v3-8 tpu,在N1-海厄姆-96虚拟机上进行培训。第一个时期通常需要大约20分钟,而下一个时期通常需要大约11分钟。90年代以后,该模型达到了76%左右的前1位精度。

为了避免随后对谷歌云的计费,请记住在培训后删除虚拟机和tpu。

性能比gpu高4倍

培训完成后,我们可以将自己的模型导入colab。

打开笔记本文件,在菜单栏的运行时中选择更改运行时类型,并将硬件加速器的类型更改为tpu。

首先运行以下代码单元,以确保可以访问colab上的tpu:

然后在colab中安装兼容的pytorch/tpu组件:

然后,您可以导入您想要训练的模型和您需要推理的图片。

tpu在pytorch上的表现有多明显?该官员选择了v2-8内核,即1/8 tpu,并将其与特斯拉k80 gpu的使用进行比较,实际测量表明推理时间大大缩短,性能提高了约4倍。

-完毕-

真诚的招聘

量子比特正在北京中关村招聘编辑/记者。期待有才华和热情的学生加入我们!详情请回复qbitai对话界面中的“招聘”一词。

量子位qbitai

跟踪人工智能技术和产品的新发展

上一篇:泰安市应急局探索创新安全生产监管新路子,彻底整治隐患

下一篇:单亲家庭的新娘喊不出“妈”,婆婆扣下改口费,新娘扯婚纱不嫁了

武乡门户网站(http://www.cubanatv.com)版权所有 未经同意不得复制或镜像
Copyright 2011 - 2019 All Rights Reserved