当前位置:网站首页>网络剪枝(1)
网络剪枝(1)
2022-08-02 14:02:00 【weixin_50862344】
论文名:Learning Efficient Convolutional Networks through Network Slimming
本文主题:Network Slimming
(1)剪枝的三种意义:
- reduce the model size;
- decrease the run-time memory footprint;
- lower the number of computing operations, without compromising accuracy.
1)减少模型大小;2)减少运行时内存足印;3)在不影响精度的情况下,减少计算操作次数。
(2)直接看结论:
It directly imposes sparsity-induced regularization on the scaling
factors in batch normalization layers, and unimportant channels can
thus be automatically identified during training and then pruned
作用对象:BN层(和不重要的通道)
作用方式: imposes sparsity-induced regularization on the scaling factors(比例因子)
(3)啥是Network Slimming和sparsity-induced regularization,scaling factors?????
第一次出现Network Slimming和sparsity-induced regularization,在文章这一段。
Network Slimming的定义翻译一下大概是这样:
我们的方法在批归一化层(BN)中对比例因子施加L1正则化,因此很容易实现无需引入任何更改为现有CNN架构。通过L1正则化将BN标度因子的值推向零,使我们能够识别不重要的通道(或neu-ron),因为每个标度因子对应于特定的进化通道(或完全连接层中的神经元)
1)来自上图段落(蓝线后面),2)来自结论。
换句话说:
1)Our approach imposes L1 regularlization on the scaling
factors in batch normalization (BN) layers
2) imposes sparsity-induced regularization on the scaling factors(比例因子)

然后这段话看完其实就是一张图
然后就是进入Related Work段落
这一段主要介绍网络结构压缩的方法,基本上没啥必要看哈哈哈哈
Network slimming 这一段
中国人发的论文最懂中国人!!!黑体字就把重点讲的一清二楚了
我不知道翻译对不对。大体上就是一个惩罚项
边栏推荐
- Awesome!Alibaba interview reference guide (Songshan version) open source sharing, programmer interview must brush
- The future of financial services will never stop, and the bull market will continue 2021-05-28
- ftp常用命令详解_iftop命令详解
- Some impressions of the 519 plummet 2021-05-21
- Supervision strikes again, what about the market outlook?2021-05-22
- 鲲鹏devkit & boostkit
- Flask框架
- 网络安全第六次作业
- Flask框架深入二
- drf路由组件Routers
猜你喜欢

配置zabbix自动发现和自动注册。

WeChat Mini Program-Recent Dynamic Scrolling Implementation

【Tensorflow】AttributeError: ‘_TfDeviceCaptureOp‘ object has no attribute ‘_set_device_from_string‘

玉溪卷烟厂通过正确选择时序数据库 轻松应对超万亿行数据

Some impressions of the 519 plummet 2021-05-21

Diodes and their applications

deal!It's July 30th!

Supervision strikes again, what about the market outlook?2021-05-22

网络安全第三次作业

海明校验码纠错设计原理
随机推荐
配置zabbix自动发现和自动注册。
Sentinel源码(一)SentinelResourceAspect
WiFi Association & Omnipeek Packet Capture Analysis
Flask-SQLAlchemy
大而全的pom文件示例
CVE-2020-27986 (Sonarqube sensitive information leak) vulnerability fix
The world's largest Apache open source foundation is how it works?
网页设计(新手入门)[通俗易懂]
网络安全第三次作业
未来的金融服务永远不会停歇,牛市仍将继续 2021-05-28
WiFi Association&Omnipeek抓包分析
C语言提高篇(三)
网络安全第五次作业
php开源的客服系统_在线客服源码php
Flask项目的完整创建 七牛云与容联云
Flask请求应用上下文源码分析
Minio文件上传
Some impressions of the 519 plummet 2021-05-21
mysql的case when如何用
VMM是什么?_兮是什么意思