TensorFlow 1.0 池化层与全连接层参数详解

池化层的实现代码位于 tensorflow/python/layers/pooling.py 文件中。

该模块主要提供两种池化方式：最大值池化和均值池化。

1、tf.layers.max_pooling2d

max_pooling2d(
  inputs,
  pool_size,
  strides,
  padding='valid',
  data_format='channels_last',
  name=None
)

1. inputs：指定需要进行池化操作的数据输入。
2. pool_size：定义池化核的尺寸 (pool_height, pool_width)，例如设置为 [3, 3]。若高度和宽度相等，可直接赋值单个数值，如 pool_size=3。
3. strides：设定池化操作的滑动步长。可指定为包含两个整数的列表，如 [1, 1]，或直接指定单个数值，如 strides=2。
4. padding：控制边缘填充策略，可选 'same' 或 'valid'，默认值为 'valid'。
5. data_format：指定输入数据的格式，默认为 'channels_last'，即数据形状为 (batch, height, width, channels)；也可设置为 'channels_first'，对应形状为 (batch, channels, height, width)。
6. name：为该层指定名称标识。

示例如下：

pool1=tf.layers.max_pooling2d(inputs=x, pool_size=[2, 2], strides=2)

该层通常部署在卷积层之后，具体用法如：

conv=tf.layers.conv2d(
   inputs=x,
   filters=32,
   kernel_size=[5, 5],
   padding="same",
   activation=tf.nn.relu)
pool=tf.layers.max_pooling2d(inputs=conv, pool_size=[2, 2], strides=2)

2、tf.layers.average_pooling2d

average_pooling2d(
  inputs,
  pool_size,
  strides,
  padding='valid',
  data_format='channels_last',
  name=None
)

其参数配置与前述的最大值池化函数保持一致。

全连接层（dense layer）的定义代码位于 tensorflow/python/layers/core.py 文件中。

3、tf.layers.dense

dense(
  inputs,
  units,
  activation=None,
  use_bias=True,
  kernel_initializer=None,
  bias_initializer=tf.zeros_initializer(),
  kernel_regularizer=None,
  bias_regularizer=None,
  activity_regularizer=None,
  trainable=True,
  name=None,
  reuse=None
)

1. inputs：输入数据，需为二维张量（2D tensor）。
2. units：指定该层神经元的数量。
3. activation：指定使用的激活函数。
4. use_bias：布尔类型参数，决定是否使用偏置项。
5. kernel_initializer：卷积核权重的初始化器。
6. bias_initializer：偏置项的初始化器，默认初始化为 0。
7. kernel_regularizer：卷积核权重的正则化项，为可选参数。
8. bias_regularizer：偏置项的正则化项，为可选参数。
9. activity_regularizer：输出数据的正则化函数。
10. trainable：布尔类型参数，指示该层参数是否参与训练。若为真，变量将被加入图集合 GraphKeys.TRAINABLE_VARIABLES（参见 tf.Variable）。
11. name：层的名称标识。
12. reuse：布尔类型参数，指示是否重复使用已存在的参数。

全连接层执行的核心操作为 outputs = activation(inputs.kernel + bias)。

若希望执行结果不经过激活函数处理，可将 activation 参数设置为 None。

示例如下：

#全连接层
dense1 = tf.layers.dense(inputs=pool3, units=1024, activation=tf.nn.relu)
dense2= tf.layers.dense(inputs=dense1, units=512, activation=tf.nn.relu)
logits= tf.layers.dense(inputs=dense2, units=10, activation=None)

此外，还可以对全连接层的参数应用正则化约束：

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持本站。