使用TensorFlow构建BP神经网络:从Numpy到TF的进阶指南
本文对比了基于Numpy与TensorFlow构建神经网络的区别,重点讲解如何利用TensorFlow封装特性灵活添加中间层。通过完整代码示例,演示了数据预处理、层定义、损失计算及梯度下降优化的全过程,帮助读者掌握TensorFlow构建多层网络的实战方法。
此前曾有一篇博客详细阐述了在Python环境下基于Numpy搭建神经网络的过程。然而,那个基于Numpy实现的两层神经网络存在局限性,无法直接支持增加网络层数。近期通过观看介绍TensorFlow的视频,学习了利用TensorFlow构建神经网络的新方法,特此整理记录。
TensorFlow在构建封装上更为完善,允许用户任意添加中间层,只要确保维度匹配即可。虽然经过适当修改,基于Numpy的神经网络代码也能实现这一功能,但核心思想在于实现层模型的分离。
import tensorflow as tf
import numpy as np
def addLayer(inputData,inSize,outSize,activity_function = None):
Weights = tf.Variable(tf.random_normal([inSize,outSize]))
basis = tf.Variable(tf.zeros([1,outSize])+0.1)
weights_plus_b = tf.matmul(inputData,Weights)+basis
if activity_function is None:
ans = weights_plus_b
else:
ans = activity_function(weights_plus_b)
return ans
x_data = np.linspace(-1,1,300)[:,np.newaxis] # 转为列向量
noise = np.random.normal(0,0.05,x_data.shape)
y_data = np.square(x_data)+0.5+noise
xs = tf.placeholder(tf.float32,[None,1]) # 样本数未知,特征数为1,占位符最后要以字典形式在运行中填入
ys = tf.placeholder(tf.float32,[None,1])
l1 = addLayer(xs,1,10,activity_function=tf.nn.relu) # relu是激励函数的一种
l2 = addLayer(l1,10,1,activity_function=None)
loss = tf.reduce_mean(tf.reduce_sum(tf.square((ys-l2)),reduction_indices = [1]))#需要向相加索引号,redeuc执行跨纬度操作
train = tf.train.GradientDescentOptimizer(0.1).minimize(loss) # 选择梯度下降法
init = tf.initialize_all_variables()
sess = tf.Session()
sess.run(init)
for i in range(10000):
sess.run(train,feed_dict={xs:x_data,ys:y_data})
if i%50 == 0:
print sess.run(loss,feed_dict={xs:x_data,ys:y_data})
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持本站。
免责声明:本文内容仅供参考,不代表本站观点。转载或引用请注明出处。









