从TensorFlow高效地获取梯度?

从TensorFlow高效地获取梯度?,第1张

从TensorFlow高效地获取梯度?

只是给你一个简单的例子。了解它并尝试您的特定任务。

初始化所需的符号。

x = tf.Variable(0.5)y = x*xopt = tf.train.AdagradOptimizer(0.1)grads = opt.compute_gradients(y)grad_placeholder = [(tf.placeholder("float", shape=grad[1].get_shape()), grad[1] for grad in grads]apply_placeholder_op = opt.apply_gradients(grad_placeholder)transform_grads = [(function1(grad[0]), grad[1]) for grad in grads]apply_transform_op = opt.apply_gradients(transform_grads)

初始化

sess = tf.Session()sess.run(tf.initialize_all_variables())

获取所有渐变

grad_vals = sess.run([grad[0] for grad in grads])

应用渐变

feed_dict = {}for i in xrange(len(grad_placeholder)):    feed_dict[grad_placeholder[i][0]] = function2(grad_vals[i])sess.run(apply_placeholder_op, feed_dict=feed_dict)sess.run(apply_transform_op)

注意:该代码尚未经过我自己的测试,但我确认该代码是合法的,但有轻微的代码错误。注意:function1和function2是一种计算,例如2 * x,x ^
e或e ^ x等。

请参阅:TensorFlow
apply_gradients远程



欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zaji/5662276.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-12-16
下一篇 2022-12-16

发表评论

登录后才能评论

评论列表(0条)

保存