谷歌开源更快更高效的 TensorFlow 运行时 TFRT

· · 4 次点击 · · 开始浏览    
这是一个创建于 的文章,其中的信息可能已经有所发展或是发生改变。

TensorFlow 官方博客宣布开源新的运行时 TFRT,该运行时提供了统一的、可扩展的基础结构层,并在各类硬件上均具有高性能。

TFRT 产品经理 Eric Johnson 表示,TFRT 将取代现有的 TensorFlow 运行时。原有的 TensorFlow 运行时最初是为图形执行和训练模型的工作负载而构建的。与之相比,新的运行时将急切的执行需求放在第一位,同时特别强调架构的可扩展性和模块化。

谷歌开源更快更高效的 TensorFlow 运行时 TFRT

它能够很好地满足开发复杂模型时寻求更快迭代时间的开发者需求、在训练和服务生产模型时改进性能的需求,以及希望以模块化方式将边缘和数据中心设备集成到 TensorFlow 中的硬件制造商需求。

简单来讲,TFRT 可以减少开发、验证和部署企业级模型所需的时间。

TFRT 利用了 eager 和图形执行的通用抽象,为了获得更好的性能,其图执行器支持并发执行操作和异步 API 调用。在性能测试中,与 TensorFlow 当前的运行时相比,TFRT 将经过训练的 ResNet-50 模型(一种流行的图像识别算法)在图形卡上的推理时间缩短了 28%。

TFRT 仍处在早期开发阶段,它已经与 TensorFlow 集成,最终将成为其默认运行时。关于 TFRT 的更多信息,可查看 TensorFlow 官方博客

关注本站微信公众号(和以上内容无关)Debiancn ,扫码关注:DebianCN

4 次点击  
加入收藏 微博
添加一条新回复 (您需要 登录 后才能回复 没有账号 ?)
  • 请尽量让自己的回复能够对别人有帮助
  • 支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`
  • 支持 @ 本站用户;支持表情(输入 : 提示),见 Emoji cheat sheet
  • 图片支持拖拽、截图粘贴等方式上传