Python深度学习：tf.nn.dynamic_rnn函数参数详解与单层/多层RNN实战

小鹿同学

发布时间：2026-10-15| 2人浏览过

原创

本文深入解析Python中tf.nn.dynamic_rnn函数的核心参数及返回值，详细阐述time_major、sequence_length等关键配置对计算性能的影响。通过单层与多层BasicRNNCell的完整代码示例，直观展示outputs与states张量的形状变化及数据流向，帮助开发者掌握RNN模型构建与调试技巧。

学习前言

在完成RNN网络的基础构建后，针对tf.nn.dynamic_rnn函数的具体应用仍存在诸多疑问。通过查阅相关技术文档与资料，本文旨在梳理该函数的核心机制与应用逻辑，解决实际开发中的困惑。

tf.nn.dynamic_rnn的定义

tf.nn.dynamic_rnn(
    cell,
    inputs,
    sequence_length=None,
    initial_state=None,
    dtype=None,
    parallel_iterations=None,
    swap_memory=False,
    time_major=False,
    scope=None
)

cell：指代前文已定义好的LSTM Cell或RNN Cell实例。
inputs：表示RNN的输入数据。当time_major参数为False（默认值）时，输入Tensor的形状必须为[batch_size, max_time, ...]或其嵌套元组；若time_major为True，则形状需为[max_time, batch_size, ...]或其嵌套元组。
sequence_length：类型为Int32或Int64的向量。该参数用于指定序列的实际长度，以便在序列超出批次元素长度时，通过复制最终状态并输出零来优化性能。主要目的是提升运行效率而非保证逻辑正确性。
initial_state：指代前文定义的初始状态_init_state。
dtype：指定输入数据的数据类型。
parallel_iterations：控制并行运行的迭代次数。对于无时间依赖性且可并行执行的操作，该参数通过牺牲内存空间来换取计算时间。值越大（>>1）占用内存越多但耗时越短；值越小则内存占用低但计算时间延长。
time_major：决定输入和输出Tensor的形状格式。若设为True，张量形状必须为[max_time, batch_size, depth]；若为False，形状必须为[batch_size, max_time, depth]。虽然time_major=True能避免RNN计算开始和结束时的转置操作从而提升效率，但鉴于大多数TensorFlow数据采用批处理主格式（batch_major），该函数默认设为False。
scope：创建子图的可变作用域，默认值为“RNN”。

其返回值为outputs和states两个张量。

outputs：代表RNN最后一层的输出，是一个Tensor。当time_major为False时，其形状为[batch_size, max_time, cell.output_size]；当time_major为True时，形状为[max_time, batch_size, cell.output_size]。

states：代表每一层最后一个时间步的输出，是一个Tensor。state即最终状态，也就是序列中最后一个Cell输出的状态。通常情况下，states的形状为[batch_size, cell.output_size]；但当输入cell为BasicLSTMCell时，states的形状变为[2, batch_size, cell.output_size]，其中数字2对应LSTM中的cell state和hidden state。

tf.nn.dynamic_rnn的使用举例

单层实验

我们首先通过单层RNN进行实验验证。

使用的代码为：

import tensorflow as tf
import numpy as np
n_steps = 2         #两个step
n_inputs = 3        #每个input是三维
n_nerve = 4         #神经元个数
X = tf.placeholder(tf.float32, [None, n_steps, n_inputs])
basic_cell = tf.nn.rnn_cell.BasicRNNCell(num_units=n_nerve)
outputs, states = tf.nn.dynamic_rnn(basic_cell, X, dtype=tf.float32)
init = tf.global_variables_initializer()
X_batch = np.array([[[0, 1, 2], [1, 2, 3]],
                    [[3, 4, 5], [4, 5, 6]],
                    [[5, 6, 7], [6, 7, 8]],
                    [[7, 8, 9], [8, 9, 10]]])
with tf.Session() as sess:
    sess.run(init)
    outputs_val, states_val = sess.run([outputs, states], feed_dict={X: X_batch})
    print("outputs:", outputs_val) 
    print("states:", states_val)

输出的log为：

outputs: [[[0.92146313 0.6069534  0.24989243 0.9305415 ]
		   [0.9234855  0.8470011  0.7865616  0.99935764]]
 	  	   [[0.9772771  0.9713368  0.99483156 0.9999987 ]
  	 	   [0.9753329  0.99538314 0.9988139  1.        ]]
		   [[0.9901842  0.99558043 0.9998626  1.        ]
  		   [0.989398   0.9992842  0.9999691  1.        ]]
 		   [[0.99577546 0.9993256  0.99999636 1.        ]
  		   [0.9954579  0.9998903  0.99999917 1.        ]]]
states: [[0.9234855  0.8470011  0.7865616  0.99935764]
 		 [0.9753329  0.99538314 0.9988139  1.        ]
		 [0.989398   0.9992842  0.9999691  1.        ]
 		 [0.9954579  0.9998903  0.99999917 1.        ]]

Xin的shape是[batch_size = 4, max_time = 2, depth = 3]。
outputs的shape是[batch_size = 4, max_time = 2, cell.output_size = 4]。
states的shape是[batch_size = 4, cell.output_size = 4]

在time_major = False的时候：

Xin、outputs、states的第一维，都是batch_size，即用于训练的batch的大小。
Xin、outputs的第二维，都是max_time，在本文中对应着RNN的两个step。
outputs、states的最后一维指的是每一个RNN的Cell的输出，本文的RNN的Cell的n_nerve为4，所以cell.output_size = 4。Xin的最后一维指的是每一个输入样本的维度。
outputs对应的是RNN的最后一层的输出，states对应的是每一层的最后一个step的输出。在RNN的层数仅1层的时候，states的输出对应为outputs最后的step的输出。

多层实验

接下来我们使用两层的RNN进行实验。

使用的代码为：

import tensorflow as tf
import numpy as np
n_steps = 2         #两个step
n_inputs = 3        #每个input是三维
n_nerve = 4         #神经元个数
X = tf.placeholder(tf.float32, [None, n_steps, n_inputs])
#定义多层
layers = [tf.nn.rnn_cell.BasicRNNCell(num_units=n_nerve) for i in range(2)]
multi_layer_cell = tf.contrib.rnn.MultiRNNCell(layers)
outputs, states = tf.nn.dynamic_rnn(multi_layer_cell, X, dtype=tf.float32)
init = tf.global_variables_initializer()
X_batch = np.array([[[0, 1, 2], [1, 2, 3]],
                    [[3, 4, 5], [4, 5, 6]],
                    [[5, 6, 7], [6, 7, 8]],
                    [[7, 8, 9], [8, 9, 10]]])
with tf.Session() as sess:
    sess.run(init)
    outputs_val, states_val = sess.run([outputs, states], feed_dict={X: X_batch})
    print("outputs:", outputs_val) 
    print("states:", states_val)

输出的log为：

outputs: [[[-0.577939   -0.3657474  -0.21074213  0.8188577 ]
		   [-0.67090076 -0.47001836 -0.40080917  0.6026697 ]]
 		   [[-0.72777444 -0.36500326 -0.7526911   0.86113644]
  		   [-0.7928404  -0.6413429  -0.61007065  0.787065  ]]
 		   [[-0.7537433  -0.35850585 -0.83090436  0.8573037 ]
  		   [-0.82016116 -0.6559162  -0.7360482   0.7915131 ]]
 		   [[-0.7597004  -0.35760364 -0.8450942   0.8567379 ]
  		   [-0.8276395  -0.6573326  -0.7727142   0.7895221 ]]]
states: (array([[-0.71645427, -0.0585744 ,  0.95318353,  0.8424729 ],
       		   [-0.99845   , -0.5044571 ,  0.9955299 ,  0.9750488 ],
       		   [-0.99992913, -0.8408632 ,  0.99885863,  0.9932366 ],
       		   [-0.99999577, -0.9672    ,  0.9996866 ,  0.99814796]],
      		   dtype=float32), 
      	array([[-0.67090076, -0.47001836, -0.40080917,  0.6026697 ],
       		   [-0.7928404 , -0.6413429 , -0.61007065,  0.787065  ],
       		   [-0.82016116, -0.6559162 , -0.7360482 ,  0.7915131 ],
       		   [-0.8276395 , -0.6573326 , -0.7727142 ,  0.7895221 ]],
      		   dtype=float32))

可以看出来outputs对应的是RNN的最后一层的输出，states对应的是每一层的最后一个step的输出，在完成了两层的定义后，outputs的shape并没有变化，而states的内容多了一层，分别对应RNN的两层输出。

state中最后一层输出对应着outputs最后一步的输出。

以上就是python循环神经网络RNN函数tf.nn.dynamic_rnn使用的详细内容，更多关于RNN函数tf.nn.dynamic_rnn的资料请关注本站其它相关文章！