使用的 CNN 模型权重之间有关联吗?

使用的 CNN 模型权重之间有关联吗?,第1张

使用的 CNN 模型权重之间有关联吗?

参考回答:

权重之间有关联。CNN是权重共享,减少了参数的数量。

简单来说就是用一个卷积核来和一个图像来进行卷积,记住是同一个卷积核,不改变卷积核的值。这样可以减少权值参数。共享就是一个图片对卷积核是共同享有的。对于一个100100像素的图像,如果我们用一个神经元来对图像进行 *** 作,这个神经元大小就是100100=10000,单如果我们使用1010的卷积核,我们虽然需要计算多次,但我们需要的参数只有1010=100个,加上一个偏向b,一共只需要101个参数。我们取得图像大小还是100100。如果我们取得图像比较大,它的参数将会更加多。我们通过1010的卷积核对图像进行特征提取,这样我们就得到一个Feature Map。

一个卷积核只能提取一个特征,所以我们需要多几个卷积核,假设我们有6个卷积核,我们就会得到6个Feature Map,将这6个Feature Map组成一起就是一个神经元。这6个Feature Map我们需要101*6=606个参数。这个值和10000比还是比较小的。如果像之前的神经网络, 两两相连, 需要 28x28 = 784 输入层, 加上第一个隐藏层30个神经元, 则需要784x30再加上30个b, 总共23,550个参数! 多了40倍的参数。

5、百度实习:1)模型压缩方法;2)CPM 模型压缩用了哪些方法;3)压缩效果(体积、指标、部署);4)Kaggle 比赛,比赛背景,怎么进行数据清洗,类别平衡,相近类别重分类,最终成绩是多少,觉得跟前几名差距在哪,有没有尝试过集成的方法;5)人脸项目,大概流程,GPU 加速的地方,两个网络的训练过程,级联网络的 inference 过程,能同时检测多个人脸吗?多尺度缩放怎么处理,resize 自己写?只是检测吗,有没有识别?或者其他

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zaji/4886702.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-11-12
下一篇 2022-11-11

发表评论

登录后才能评论

评论列表(0条)

保存