TensorFlow Python程序限制GPU和CPU占用方法

限制GPU占用的必要性

默认情况下，运行TensorFlow程序会占用所有可用的GPU资源，这可能导致其他用户或程序无法使用GPU。此外，大多数程序并不需要全部GPU资源，强行占用不仅浪费资源，也不会提升运行速度。因此，限制程序对GPU的占用是必要的。

可以使用nvidia-smi命令查看本机GPU的使用情况。例如，本机的GPU型号为K80，共有两个K80，四块可用（一个K80包括两块K40）。

指定可见GPU的方法

如果只需要使用某一块或某几块GPU，可以在运行程序时通过以下命令指定：CUDA_VISIBLE_DEVICES=0,1 python test.py

上述命令表示只有GPU 0和1对程序可见，从而限制了程序只能使用这两块GPU。

同样，也可以在代码中指定可见的GPU。

import os
os.environ["CUDA_VISIBLE_DEVICES"] = "0,1"

仅使用CPU的配置

如果想仅使用CPU而不使用GPU，可以通过以下命令实现（所有GPU都不可见）：

CUDA_VISIBLE_DEVICES='' python test.py 

或者使用以下命令：

CUDA_VISIBLE_DEVICES="-1" python test.py

显存按需分配

另一种方法是让TensorFlow按需索取显存，代码如下所示：

#only minimum use gpu
gpu_config = tf.ConfigProto()
gpu_config.gpu_options.allow_growth = True
with tf.Session(config = gpu_config) as sess:

前面介绍了对GPU的限制，那么如果不使用GPU而仅使用CPU，如何限制对CPU的使用呢？

限制CPU资源使用

前面提到，通过命令CUDA_VISIBLE_DEVICES="" python test.py可以仅使用CPU。如果想仅使用部分CPU，可以通过以下代码限制：

cpu_config = tf.ConfigProto(intra_op_parallelism_threads = 8, inter_op_parallelism_threads = 8, device_count = {'CPU': 8})
with tf.Session(config = cpu_config) as sess:

以上关于运行TensorFlow Python程序时限制对GPU和CPU占用的操作就是全部内容，希望能为大家提供参考，也希望大家多多支持本站。