python – 自定义权重初始化tensorflow tf.layers.dense

发布时间：2020-12-20 12:14:04 所属栏目：Python 来源：网络整理

导读：我正在尝试为tf.layers.dense设置自定义初始化程序,我用我已经拥有的权重矩阵初始化kernel_initializer. u_1 = tf.placeholder(tf.float32,[784,784])first_layer_u = tf.layers.dense(X_,n_params,activation=None,kernel_initializer=u_1,bias_initializer

我正在尝试为tf.layers.dense设置自定义初始化程序,我用我已经拥有的权重矩阵初始化kernel_initializer.

u_1 = tf.placeholder(tf.float32,[784,784])
first_layer_u = tf.layers.dense(X_,n_params,activation=None,kernel_initializer=u_1,bias_initializer=tf.keras.initializers.he_normal())

这是抛出错误,说ValueError：如果初始化程序是常量,请不要指定形状.

将占位符分配给kernel_initializer或者我错过了什么是一个问题吗？

解决方法

至少有两种方法可以实现这一目标：

1创建自己的图层

W1 = tf.Variable(YOUR_WEIGHT_MATRIX,name='Weights')
  b1 = tf.Variable(tf.zeros([YOUR_LAYER_SIZE]),name='Biases') #or pass your own
  h1 = tf.add(tf.matmul(X,W1),b1)

2使用tf.constant_initializer

init = tf.constant_initializer(YOUR_WEIGHT_MATRIX)
l1 = tf.layers.dense(X,o,kernel_initializer=init)

（编辑：李大同）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!