6.6 Convolution de séparation

1 Convolution séparable

La Convolution séparable comprendConvolution spatialement séparableEtConvolution séparable en profondeur.

1.1 Convolution spatialement séparable（Spatially Separable Convolutions）

L'espace signifie[height, width] Deux dimensions;La Convolution spatialement détachable[n*n]La Convolution est divisée en[1*n]Et[n*1]Calcul en deux étapes.Exemples：

Un3*3Noyau de convolution,In5*5Defeature mapCalculer sur,C'est tout.3*3*9=81Sous - calcul.

Encore une fois,Dans la convolution spatialement séparable,Adoption3*1Et1*3Deux noyaux de convolution au lieu de3*3Noyau de convolution,Première étape3*1La quantité de calcul requise est:15*3*1=45, Deuxième étape 1*3La quantité de calcul requise est:9*1*3=27,C'est tout.45+27=72Sous - calcul,Moins de81Une fois.

Donc...,La Convolution spatialement séparable peut réduire le nombre d'opérations,Réduire les coûts de fonctionnement.

1.2 Convolution séparable en profondeur（Depth Separable Convolutions）

MobileNetV1C'est ça.VGGLa Convolution standard en est remplacée par une Convolution séparable en profondeur.

L'idée centrale de la convolution séparable en profondeur est de diviser une opération de convolution complète en deux étapes ,Respectivement: Convolution par profondeur （Depthwise Convolution）AvecConvolution point par point(Pointwise Convolution).

Convolution conventionnelle si vous travaillez avec une taille de 64*64,Image à trois canaux, Après inclusion 4 Couche de convolution des filtres ,Produit final4- Oui.feature map,Et de la même taille que la couche d'entrée. Le paramètre de la couche enroulée calculable est 4*3*3*3=108.

Opération de convolution séparable en profondeur , D'abord la convolution par profondeur , Appliquer un filtre unique à chaque canal d'entrée ,Je l'ai.3- Oui.feature map,La quantité du paramètre est3*3*3=27. Puis la convolution point par point ,Avec1*1 La combinaison de convolution de , Obtenir un nouvel ensemble de résultats . La Convolution ici va passer à l'étape suivante map Combinaison pondérée dans le sens de la profondeur ,Générer un nouveaufeature map. La quantité de calcul des paramètres est 1*1*3*4=12. La quantité totale de paramètres est27+12=39.

 

 2 Comparaison de la convolution groupée et de la convolution séparable en profondeur

2.1 Convolution des groupes 

Convolution des groupesGroup ConvolutionOn l'a vu pour la première foisAlexNetDans le réseau, C'est une façon de réduire les paramètres et les calculs .

La pensée principale： Grouper les caractéristiques d'entrée ,Convolution séparée, Puis Combinez les caractéristiques . La quantité totale de paramètres de la convolution de groupe est 1/G,Parmi euxG Nombre de groupes divisés par .

Avantages： La Convolution des paquets peut réduire la quantité de paramètres , Peut également être considéré comme une approche structurée et clairsemée , équivalent à une méthode de régularisation .

Lorsque le nombre de groupes est égal à la dimension entrée - sortie ,C'est - à - dire:G=Din=Dout,équivalent àMobileNetEtXception Convolution en profondeur ;

Lorsque le nombre de groupes est égal à la dimension entrée - sortie ,G=Din=Dout, Et lorsque l'échelle d'entrée du noyau de convolution est égale à la dimension caractéristique d'entrée, c'est - à - dire K=W=H, Le diagramme de caractéristiques entré est C*1*1,InMobileFaceNetDevenirGlobal Depthwise Convolutions(GDC), C'est - à - dire la mise en commun globale pondérée .AvecGAP C'est - à - dire que la mise en commun moyenne globale est différente ,GDC Chaque position a reçu un poids d'apprentissage .

3 MobileNet Série

3.1 MobileNet_V1

1 Point d'innovation

① PrésentationMobileNetArchitecture, Remplacer les opérations traditionnelles de convolution par des convolutions séparables en profondeur ,Réduction du calcul.

② Introduction de deux hyperparamètres de contraction （Shrinking Hyperparameters）:Multiplicateur de largeur(width multiplier) Et le multiplicateur de résolution （Resoution multiplier）,Parmi euxMultiplicateur de largeurLe rôle principal est .Rendre chaque couche du réseau plus mince ,Changer le nombre de canaux; Le multiplicateur de résolution agit pour réduire la quantité de calcul Hyperparamètre.

2 Problèmes existants

Une partie de l'information est perdue après l'entraînement à la présence de la convolution profonde , Le poids qui en résulte pour certains noyaux est 0.

3.2 MobileNet_V2

1 Point d'innovation

① Modifier la dernière coucheRELU6,IntroductionLinear BottleNeck

② Introduction d'une structure de multiplexage des caractéristiques ,PrendreResnetDes idées;

③ Utiliser un bloc résiduel inversé inverted residuals block, C'est exact.RELU Pour éviter les défauts .

RELU Problèmes de neurones morts ,Et à traversResnetRéutilisation des structures, Ce problème de dégradation des caractéristiques peut être largement atténué .

2 Défauts

① La phase finale du réseau est très importante

3.3 MobileNet_V3

1 Point d'innovation

① Combinaison de techniques de recherche complémentaires：NAS Effectuer une recherche au niveau du module ,NetAdaptEffectuer une recherche locale;

② Amélioration de la structure du réseau： Avancer la mise en commun moyenne de la dernière étape , Et supprimer la dernière couche de roulis ,Introductionh-swishActiver la fonction.

h-swish Avec précision ：① Facile à réaliser dans un cadre matériel et logiciel ‘② Éviter la perte de précision numérique ;③ Vite!、

ref.

(11Message (s)) 【Études de thèse】Réseau Léger——MobileNetV3Enfin.（ Avec code source ouvert ）_Lingyun_wuBlog de-CSDNBlogs_mobilenetv3