首页 >> 科技>> PyTorch1.3发布:能在移动端部署,支持Colab云T
  • PyTorch1.3发布:能在移动端部署,支持Colab云T

  • 时间:2019-10-22 17:08:22 阅读:1005
  • 小闸溥仪来自奥菲寺

    量子位报告

    “我要去pytorch!”

    看到1.3版的新功能后,一些开发者在推特上大喊。

    今天是pytorch开发者大会的第一天,pytorch 1.3首次发布。

    新版本不仅支持安卓ios移动部署,还能让用户在竞争对手谷歌的可乐上调用云tpu。

    不方便使用谷歌羊毛的国内开发商Pytorch也已被整合到Aliyun中。阿里云家族的用户可以更方便地使用pytorch。

    此外,还有大量新工具,包括可解释性、加密以及许多与图像和语音相关的功能。

    与新工具兼容,难怪一些普通铁杆粉丝哀叹他们对facebook开源库的“忠诚度”越来越高。

    牛比。也许这是个人感觉,facebook在开源图书馆方面比谷歌好得多,各方的支持也是最好的。

    反应对角度,pytorch对张量流。这是两个例子。facebook的框架发布得很晚,但是它得到了强有力的支持,并在继续改进。谷歌的框架很早就出现了,但是它没有任何兼容的升级,最终被抛弃了。

    我对facebook开源图书馆的“忠诚”一直在增长。

    Pytorch 1.3新功能

    Pytorch 1.3带来了三个实验性的新功能。

    命名张量

    允许用户命名张量维数,从而使张量更容易使用,这样就可以直接调用它们的名字,而无需通过位置跟踪张量维数。

    升级之前,您需要在代码中编写注释来命名张量:

    升级后,它可以直接写在代码中,从而大大提高可读性:

    此外,该函数还可以自动检查api是否正确使用,提高安全性,并可以直接按名称重新排列大小。

    你可以这样命名它:

    它也可以命名如下:

    使用对齐方式重新排序:

    它方便多了吗?

    定量支持

    在开发ml应用程序时,有效利用服务器和设备上的计算资源非常重要。

    为了支持在服务器和边缘设备上更有效的部署,pytorch 1.3现在支持使用急切模式的8位模型量化。量化是指精确度降低的计算和存储技术。

    目前,实验量化功能包括支持训练后量化、动态量化和定量感知训练。它分别利用x86和arm cpu的fbgemm和qnnpack的最新量化内核后端。这些后端与pytorch集成,现在共享一个公共api。

    具体api文档可在以下网站找到:

    https://pytorch.org/docs/master/quantization.html

    脸谱网提供了一个量化的实际案例,供开发者参考:

    http://pytorch . org/tutorals/advanced/dynamic _ quantization _ tutorial . html

    移动终端

    此外,为了在边缘设备上高效运行机器学习,pytorch 1.3支持从python到ios和安卓部署的端到端工作流。

    当然,这个功能仍然是早期的实验版本,针对端到端进行了优化。新版本侧重于:

    1.根据用户需求进行尺寸优化、建筑级别优化和选择性编译。

    2.提高移动cpu和gpu的性能。

    3.高级应用编程接口:扩展移动本地应用编程接口,以涵盖常见的预处理,并将机器学习集成到移动应用程序所需的集成任务中,例如计算机视觉或nlp任务。

    移动部署详细信息:

    https://pytorch.org/mobile/home/

    新工具

    可解释工具验证码

    随着人工智能模型变得越来越复杂,为模型开发新的可解释方法变得越来越重要。为了满足这一需求,facebook推出了验证码。

    Captum可以帮助使用pytorch的开发人员理解为什么他们的模型会生成特定的输出。Captum提供了先进的工具来理解特定的神经元和层如何影响模型的预测。

    Captum的算法包括积分梯度、电导、平滑梯度、vargrad和深度提升。

    以下示例显示了如何将模型可解释算法应用于预先训练的resnet模型,然后通过在图像上叠加每个像素的属性来可视化它。

    了解更多信息:

    https://www.captum.ai/

    加密工具crypten

    通过基于云或机器学习即服务平台的移动学习的实际应用,提出了一系列安全和隐私挑战。

    这些平台的用户可能不想或不能共享未加密的数据,这妨碍了他们充分利用机器学习工具。为了迎接这些挑战,机器学习社区正在探索各种不同成熟度的技术方法。这些包括同态加密、安全多方计算、可信执行环境、设备上计算和差异隐私。

    为了更好地理解如何应用这些技术,facebook发布了crypten,这是一个新的基于社区的研究平台,旨在促进隐私ml的发展。

    crypten的更多详细信息:

    http://ai . Facebook . com/blog/crypten-a-new-research-tool-for secure-machine-learning-with-pytorch

    Crypten目前是github上的开源软件:

    https://github.com/facebookresearch/crypten

    多模式人工智能系统工具

    如今,互联网上的数字内容通常不是单一的形式,而是由许多形式组成,其中可能包括文本、图像、音频和视频。Pytorch提供了一个新的工具和软件库生态系统来处理机器学习ml系统。

    检测器2

    Detectron2是一个在pytorch中实现的目标检测库。它帮助计算机视觉研究增强了灵活性,提高了可维护性和可伸缩性,以支持生产中的用例。

    更多详情:

    http://ai . Facebook . com/blog/-detectron 2-a-pytorch-based-modular-object-detection-library-

    github:

    https://github.com/facebookresearch/detectron2

    fairseq的语音扩展

    语言翻译和音频处理是搜索、翻译、语音和助手等系统和应用的关键组成部分。由于变压器等新结构的发展和大规模预培训方法的发展,这些领域最近取得了很大进展。

    Facebook已经将fairseq (seq2seq应用框架,如语言翻译)扩展到支持语音和音频识别任务的端到端学习。fairseq的这些扩展可以加快新语音研究的探索和原型开发。

    github:

    http://git hub . com/pytorch/fair seq/tree/master/examples/speech _ recognition

    云支持

    在今天的开发者大会上,另一个激动人心的消息是pytorch宣布全力支持谷歌云tpu和阿里云与pytorch的整合。此外,pytorch还将增加对两个ai硬件的支持,扩展其自身的硬件生态。

    谷歌云tpu

    在脸书、谷歌和salesforce工程师的共同努力下,新pytorch增加了对云tpu的支持,包括对超级计算机云tpu吊舱的实验支持。Google colab还为云TPU提供pytorch支持。

    阿里云

    阿里云的集成包括pytorch 1.x的一键式解决方案、数据科学研讨会笔记本服务、使用gloo/nccl的分布式培训,以及与阿里巴巴iaas(如oss、odps和nas)的无缝集成。

    硬件生态扩展

    除了主要的gpu和cpu合作伙伴,pytorch生态系统还支持专用的机器学习加速器。例如,英特尔最近推出了nnp-i推理芯片和哈瓦那实验室人工智能处理器。

    这两家公司在其博客中展示了对pytorch glow优化编译器的硬件支持,使开发人员能够利用这些特定于市场的解决方案。

    回馈人工智能社区

    最后,facebook感谢ai社区对pytorch生态的贡献。在过去的一段时间里,pytorch框架受益于一些开发人员优秀的开源项目。例如:

    1.mila speechbrain:一体化语音工具包

    “卡尔迪拜拜!Pytorch语音工具包speechbrain将支持各种语音任务,以达到最强的标准。

    2.spacy:NLP高级软件库

    3.拥抱脸pytorch-transformers:NLP的最新预训练模型库。

    一个api调用27个nlp预训练模型:bert、gpt-2全包,就像导入numpy一样简单

    4.pytorch lightning:一个类似喀拉拉的ml库

    “pytorch上的keras”,开箱分发培训,告别无休止的调试”

    最近,脸书举办了第一次在线全球pytorch夏季黑客马拉松,有近1500名开发者参加。Facebook今天宣布了获胜者。它们是:

    1.torchmeta:提供pytorch的扩展,简化pytorch中元学习算法的开发。

    2.open-unmix:使用pytorch进行端到端音乐混合的系统。

    3.无尽的人工智能t恤:这是一家在全球销售人工智能设计t恤的商店。他们使用pytorch制造的stylegan接受现代艺术培训。

    -完毕-

    真诚的招聘

    量子比特正在北京中关村招聘编辑/记者。期待有才华和热情的学生加入我们!详情请回复qbitai对话界面中的“招聘”一词。

    量子位qbitai

    跟踪人工智能技术和产品的新发展

      最新资讯
    网站首页 | 关于我们 | 联系方式 | 招聘信息 | 版权声明 | 网站地图 |
    Copyright (c) 2010 ruffdoggie.com. All Rights Reserved. 青场新闻 版权所有