神剑山庄资源网 Design By www.hcban.com
一. valid卷积的梯度
我们分两种不同的情况讨论valid卷积的梯度:第一种情况,在已知卷积核的情况下,对未知张量求导(即对张量中每一个变量求导);第二种情况,在已知张量的情况下,对未知卷积核求导(即对卷积核中每一个变量求导)
1.已知卷积核,对未知张量求导
我们用一个简单的例子理解valid卷积的梯度反向传播。假设有一个3x3的未知张量x,以及已知的2x2的卷积核K
Tensorflow提供函数tf.nn.conv2d_backprop_input实现了valid卷积中对未知变量的求导,以上示例对应的代码如下:
import tensorflow as tf # 卷积核 kernel=tf.constant( [ [[[3]],[[4]]], [[[5]],[[6]]] ] ,tf.float32 ) # 某一函数针对sigma的导数 out=tf.constant( [ [ [[-1],[1]], [[2],[-2]] ] ] ,tf.float32 ) # 针对未知变量的导数的方向计算 inputValue=tf.nn.conv2d_backprop_input((1,3,3,1),kernel,out,[1,1,1,1],'VALID') session=tf.Session() print(session.run(inputValue)) [[[[ -3.] [ -1.] [ 4.]] [[ 1.] [ 1.] [ -2.]] [[ 10.] [ 2.] [-12.]]]]
2.已知输入张量,对未知卷积核求导
假设已知3行3列的张量x和未知的2行2列的卷积核K
Tensorflow提供函数tf.nn.conv2d_backprop_filter实现valid卷积对未知卷积核的求导,以上示例的代码如下:
import tensorflow as tf # 输入张量 x=tf.constant( [ [ [[1],[2],[3]], [[4],[5],[6]], [[7],[8],[9]] ] ] ,tf.float32 ) # 某一个函数F对sigma的导数 partial_sigma=tf.constant( [ [ [[-1],[-2]], [[-3],[-4]] ] ] ,tf.float32 ) # 某一个函数F对卷积核k的导数 partial_sigma_k=tf.nn.conv2d_backprop_filter(x,(2,2,1,1),partial_sigma,[1,1,1,1],'VALID') session=tf.Session() print(session.run(partial_sigma_k)) [[[[-37.]] [[-47.]]] [[[-67.]] [[-77.]]]]
二. same卷积的梯度
1.已知卷积核,对输入张量求导
假设有3行3列的已知张量x,2行2列的未知卷积核K
import tensorflow as tf # 卷积核 kernel=tf.constant( [ [[[3]],[[4]]], [[[5]],[[6]]] ] ,tf.float32 ) # 某一函数针对sigma的导数 partial_sigma=tf.constant( [ [ [[-1],[1],[3]], [[2],[-2],[-4]], [[-3],[4],[1]] ] ] ,tf.float32 ) # 针对未知变量的导数的方向计算 partial_x=tf.nn.conv2d_backprop_input((1,3,3,1),kernel,partial_sigma,[1,1,1,1],'SAME') session=tf.Session() print(session.run(inputValue)) [[[[ -3.] [ -1.] [ 4.]] [[ 1.] [ 1.] [ -2.]] [[ 10.] [ 2.] [-12.]]]]
2.已知输入张量,对未知卷积核求导
假设已知3行3列的张量x和未知的2行2列的卷积核K
import tensorflow as tf # 卷积核 x=tf.constant( [ [ [[1],[2],[3]], [[4],[5],[6]], [[7],[8],[9]] ] ] ,tf.float32 ) # 某一函数针对sigma的导数 partial_sigma=tf.constant( [ [ [[-1],[-2],[1]], [[-3],[-4],[2]], [[-2],[1],[3]] ] ] ,tf.float32 ) # 针对未知变量的导数的方向计算 partial_sigma_k=tf.nn.conv2d_backprop_filter(x,(2,2,1,1),partial_sigma,[1,1,1,1],'SAME') session=tf.Session() print(session.run(partial_sigma_k)) [[[[ -1.]] [[-54.]]] [[[-43.]] [[-77.]]]]
以上这篇Tensorflow 卷积的梯度反向传播过程就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。
神剑山庄资源网 Design By www.hcban.com
神剑山庄资源网
免责声明:本站文章均来自网站采集或用户投稿,网站不提供任何软件下载或自行开发的软件!
如有用户或公司发现本站内容信息存在侵权行为,请邮件告知! 858582#qq.com
神剑山庄资源网 Design By www.hcban.com
暂无Tensorflow 卷积的梯度反向传播过程的评论...
更新日志
2024年09月30日
2024年09月30日
- 孙悦.1996-伙伴【正大国际】【WAV+CUE】
- 纪钧瀚《钢琴阅读时光 雨中书店聆听轻音乐》[FLAC/分轨][399.62MB]
- 证声音乐图书馆《走向自然 疗心爵士乐》[320K/MP3][87.4MB]
- 证声音乐图书馆《走向自然 疗心爵士乐》[FLAC/分轨][184.94MB]
- 陈慧娴.2018-Priscilla-Ism演唱会3CD(2024环球红馆40复刻系列)【环球】【WAV+CUE】
- 郑秀文.1999-我应该得到(国)【华纳】【WAV+CUE】
- 陈家慧.2011-钢琴酒吧2CD【龙吟唱片】【WAV+CUE】
- 证声音乐图书馆《雨季 蓝调吉他 Rainy Blues》[320K/MP3][45.01MB]
- 证声音乐图书馆《雨季 蓝调吉他 Rainy Blues》[FLAC/分轨][109.13MB]
- 赞多《序章》[320K/MP3][45.54MB]
- 许巍.2004-每一刻都是崭新的【步升大风】【WAV+CUE】
- 群星.2024-四方馆影视原声带【韶愔音乐】【FLAC分轨】
- 陈雷.1997-安锁咧【金圆唱片】【WAV+CUE】
- 关淑怡.2013-MY.FAVORITE.SK.3CD【环球】【WAV+CUE】
- Sweety.2006-花言乔语【丰华】【WAV+CUE】