当前位置:网站首页>网络剪枝(1)
网络剪枝(1)
2022-08-02 14:02:00 【weixin_50862344】
论文名:Learning Efficient Convolutional Networks through Network Slimming
本文主题:Network Slimming
(1)剪枝的三种意义:
- reduce the model size;
- decrease the run-time memory footprint;
- lower the number of computing operations, without compromising accuracy.
1)减少模型大小;2)减少运行时内存足印;3)在不影响精度的情况下,减少计算操作次数。
(2)直接看结论:
It directly imposes sparsity-induced regularization on the scaling
factors in batch normalization layers, and unimportant channels can
thus be automatically identified during training and then pruned
作用对象:BN层(和不重要的通道)
作用方式: imposes sparsity-induced regularization on the scaling factors(比例因子)
(3)啥是Network Slimming和sparsity-induced regularization,scaling factors?????
第一次出现Network Slimming和sparsity-induced regularization,在文章这一段。
Network Slimming的定义翻译一下大概是这样:
我们的方法在批归一化层(BN)中对比例因子施加L1正则化,因此很容易实现无需引入任何更改为现有CNN架构。通过L1正则化将BN标度因子的值推向零,使我们能够识别不重要的通道(或neu-ron),因为每个标度因子对应于特定的进化通道(或完全连接层中的神经元)
1)来自上图段落(蓝线后面),2)来自结论。
换句话说:
1)Our approach imposes L1 regularlization on the scaling
factors in batch normalization (BN) layers
2) imposes sparsity-induced regularization on the scaling factors(比例因子)

然后这段话看完其实就是一张图
然后就是进入Related Work段落
这一段主要介绍网络结构压缩的方法,基本上没啥必要看哈哈哈哈
Network slimming 这一段
中国人发的论文最懂中国人!!!黑体字就把重点讲的一清二楚了
我不知道翻译对不对。大体上就是一个惩罚项
边栏推荐
- Gstreamer Plugin注册流程详解
- RKMPP API安装使用总结
- 关于密码加密的一点思路
- 关于Google词向量模型(googlenews-vectors-negative300.bin)的导入问题
- The bad policy has no long-term impact on the market, and the bull market will continue 2021-05-19
- 标量替换、栈上分配、同步消除
- 期货具体是如何开户的?
- Audio processing: floating point data stream to PCM file
- 专访|带着问题去学习,Apache DolphinScheduler 王福政
- 为什么四个字节的float表示的范围比八个字节的long要广
猜你喜欢

RKMPP库快速上手--(一)RKMPP功能及使用详解

IDEA打包jar包

shell脚本“画画”

How to solve mysql service cannot start 1069

如何解决1045无法登录mysql服务器

Flask框架的搭建及入门

网络安全第二次作业

The bad policy has no long-term impact on the market, and the bull market will continue 2021-05-19

Kunpeng devkit & boostkit

Interview | with questions to learn, Apache DolphinScheduler Wang Fuzheng
随机推荐
RKMPP 在FFmpeg上实现硬编解码
What are the file encryption software?Keep your files safe
Raft对比ZAB协议
Sentinel源码(六)ParamFlowSlot热点参数限流
Sentinel源码(一)SentinelResourceAspect
动态刷新日志级别
logback源码阅读(二)日志打印,自定义appender,encoder,pattern,converter
智能指针-使用、避坑和实现
web测试和app测试的区别?
Supervision strikes again, what about the market outlook?2021-05-22
你接受不了60%的暴跌,就没有资格获得6000%的涨幅 2021-05-27
存储过程详解
els long block deformation conditions, boundary collision judgment
世界上最大的开源基金会 Apache 是如何运作的?
瑞吉外卖笔记——第08讲读写分离
ftp常用命令详解_iftop命令详解
瑞吉外卖笔记——第05讲Redis入门
ping命令的使用及代码_通过命令查看ping路径
RKMPP库快速上手--(一)RKMPP功能及使用详解
C# 编译错误:Compiler Error CS1044