Facebook 的 AI 团队正在将其所有机器学习模型部署转移到 PyTorch 框架,并在开发框架上标准化,该公司周三在今年虚拟举行的 F8 年度开发者活动中表示。
AI 团队的 CTO Mike Schroepfer 在新闻发布会上说:“我们现在正处于标准化 PyTorch 上所有工作负载的阶段。”
根据 Schroepfer 的说法,在一种研究人员与开发人员的较量中,只有在 Schroepfer 和团队接受了 Facebook AI 研究负责人 Yann LeCun 的想法后,才会做出这个决定。
Schroepfer 解释说:“我与 Yann LeCun 进行了这场激烈的、拖延的辩论很长一段时间。”
“也许人工智能就像,我用 3D 打印机制作原型,然后一旦我们弄清楚我们想要什么,我们就把它浇铸成混凝土,所以我们有一个完全独立的生产工具链”出于性能原因。 另一方面,LeCun 坚持认为一种工具可以同时用于研究和生产。
分歧与 Facebook 在 2016 年推出的 PyTorch 的历史有关。
PyTorch 是一个机器学习函数库,部分使用 Python 编程语言编写,但包含大量 C++。 它改编自现有框架 Torch,作为 Theano、Caffe 和 Google 的 TensorFlow 等框架的替代方案。 该软件目前处于 1.8.1 的稳定版本中。
Schroepfer 指出,PyTorch 的主要价值传统上是用户体验,以便轻松构建和调试。 这赢得了 LeCun 等研究人员的忠诚度,他们希望快速修改神经网络、测试并再次修改。 然而,它比许多专门为最高性能而构建的编程工具慢。
因此,尽管 Facebook 具有研究价值,但它一直在混合使用研究和生产框架,Schroepfer 说,其中 Caffe 2 是公司内部使用第二广泛的框架。 他说,还使用了各种“特定领域的框架”。
Schroepfer 说,事实证明,尽管 PyTorch 并不总是最快的库,但“生产工程师希望使用所有最新的研究成果。” 他解释说,首先,研究人员正在解决越来越多的问题。
Schroepfer 指出,用于语音识别或自然语言处理的大型 AI 模型“通常建立在 PyTorch 之上”,不仅在 Facebook,在其他公司和学术界也是如此。 “他们通常在 PyTorch 中有 GitHub 存储库。”
目前,Facebook 93% 的 AI 模型都是使用 PyTorch 部署的。
根据 Schroepfer 的说法,标准化的目的是通过将公司的大部分工作整合到一个库中,从而加快 Facebook 在各种应用程序中的 AI 开发和部署。
Facebook 的工程师“现在触手可及的是这个最先进模型的工具箱,我可以更快地将它们投入生产,因为它们建立在我用来构建和发布网站的相同工具链上 十亿用户规模,”他说。
“当你将这种整合到一个单一的工具中时,你所看到的只是人们完成工作和锻炼的能力的巨大转变。”
Schroepfer 补充道,“随着行业对此类工具的进一步标准化,这将进一步加快我们的能力,不仅可以撰写有关这些东西的研究论文,而且可以将这些工具推向世界以帮助真实的人。”
在幕后,Schroepfer 和团队不得不做一些事情来帮助 PyTorch。
例如,他们运行一个名为 TorchScript 的程序,该程序允许进行运行时优化。 “让我在 Python 中随心所欲地编写代码,但如果我正确地标记它,我们就可以在后台运行这个非常酷的优化器,以提高它的效率。”
“我们慢慢缩小了这里的差距,”他谈到 PyTorch 被放大时说。
Schroepfer 说:“我对结果感到惊讶,这个以易用性、实验性和敏捷性开始的工具找到了进入生产的方式。”
“扬恩是对的,我错了,”他说。
当被问及 Facebook AI 是否会因标准化而失去多样性的好处时,Schroepfer 澄清说,研究仍然可以发挥它想要的所有新事物。
“我们的研究团队有很大的实验自由,他们总是在试验新技术,这就是 PyTorch 最初的诞生方式,”他说。
本文内容由互联网用户自发贡献,该文观点仅代表作者本人。商机网仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 tenspace2022@163.com 举报,一经查实,本站将立刻删除。 本文链接:https://www.315965.com/n/66437.html