hosteons中文网

本节介绍有关 TensorFlow 分布式的两个实际用例，分别是数据并行（将数据分布到多个 GPU 上）和多服务器分配。

玩转分布式TensorFlow：多个GPU和一个CPU

展示一个数据并行的例子，其中数据被切分到多个 GPU 上。

这个案例灵感来自 Neil Tenenholtz 的一篇很好的博客文章，网址为https://clindatsci.com/blog/2017/5/31/distributed-tensorflow。

具体做法

1. 考虑在单个 GPU 上运行矩阵乘法的这段代码：