当前位置:网站首页>网络剪枝(1)
网络剪枝(1)
2022-08-02 14:02:00 【weixin_50862344】
论文名:Learning Efficient Convolutional Networks through Network Slimming
本文主题:Network Slimming
(1)剪枝的三种意义:
- reduce the model size;
- decrease the run-time memory footprint;
- lower the number of computing operations, without compromising accuracy.
1)减少模型大小;2)减少运行时内存足印;3)在不影响精度的情况下,减少计算操作次数。
(2)直接看结论:
It directly imposes sparsity-induced regularization on the scaling
factors in batch normalization layers, and unimportant channels can
thus be automatically identified during training and then pruned
作用对象:BN层(和不重要的通道)
作用方式: imposes sparsity-induced regularization on the scaling factors(比例因子)
(3)啥是Network Slimming和sparsity-induced regularization,scaling factors?????
第一次出现Network Slimming和sparsity-induced regularization,在文章这一段。
Network Slimming的定义翻译一下大概是这样:
我们的方法在批归一化层(BN)中对比例因子施加L1正则化,因此很容易实现无需引入任何更改为现有CNN架构。通过L1正则化将BN标度因子的值推向零,使我们能够识别不重要的通道(或neu-ron),因为每个标度因子对应于特定的进化通道(或完全连接层中的神经元)
1)来自上图段落(蓝线后面),2)来自结论。
换句话说:
1)Our approach imposes L1 regularlization on the scaling
factors in batch normalization (BN) layers
2) imposes sparsity-induced regularization on the scaling factors(比例因子)

然后这段话看完其实就是一张图
然后就是进入Related Work段落
这一段主要介绍网络结构压缩的方法,基本上没啥必要看哈哈哈哈
Network slimming 这一段
中国人发的论文最懂中国人!!!黑体字就把重点讲的一清二楚了
我不知道翻译对不对。大体上就是一个惩罚项
边栏推荐
猜你喜欢

stack && queue

Flask框架的搭建及入门

Object detection scene SSD-Mobilenetv1-FPN

世界上最大的开源基金会 Apache 是如何运作的?

Data Organization---Chapter 6 Diagram---Graph Traversal---Multiple Choice Questions

【Tensorflow】AttributeError: '_TfDeviceCaptureOp' object has no attribute '_set_device_from_string'

The world's largest Apache open source foundation is how it works?

Diodes and their applications

网络安全第二次作业

Break the limit of file locks and use storage power to help enterprises grow new momentum
随机推荐
世界上最大的开源基金会 Apache 是如何运作的?
智能指针-使用、避坑和实现
Sentinel源码(三)slot解析
WiFi Association & Omnipeek Packet Capture Analysis
Data Organization---Chapter 6 Diagram---Graph Traversal---Multiple Choice Questions
监管再次重拳出击,后市如何?2021-05-22
WiFi Association&Omnipeek抓包分析
Interviewer: Can you talk about optimistic locking and pessimistic locking?
Detailed explanation of ORACLE expdp/impdp
stack && queue
drf序列化器-Serializer
【Tensorflow】AttributeError: ‘_TfDeviceCaptureOp‘ object has no attribute ‘_set_device_from_string‘
els long block deformation conditions, boundary collision judgment
Flask上下文,蓝图和Flask-RESTful
【Tensorflow】AttributeError: '_TfDeviceCaptureOp' object has no attribute '_set_device_from_string'
EasyExcel 的使用
如何自定义feign方法级别的超时时间
鲲鹏devkit & boostkit
ftp常用命令详解_iftop命令详解
政策利空对行情没有长期影响,牛市仍将继续 2021-05-19