Byte Jump propose un nouveau type de réseau léger et efficace, mobovit, qui surpasse GhostNet et mobilenetv3 dans la classification, la détection et d'autres tâches CV!

Cet article est partagé『MoCoViT: Mobile Convolutional Vision Transformer』,.Mise au point d'un nouveau type de réseau léger et efficace par saut d'octetsMoCoViT,Dans la catégorie、Détection, etc.CVPerformance supérieure àGhostNet、MobileNetV3！

Liens vers les articles：

https://arxiv.org/abs/2205.12635

Résumé

Récemment,Transformer De bons résultats ont été obtenus dans diverses tâches visuelles.Et pourtant,La plupart d'entre eux sont très coûteux à calculer,Pas pour une application mobile réelle.Dans ce travail,L'auteur propose une vision de convolution mobileTransformer（MoCoViT）,Il a été réalisé enTransfomrerIntroduction d'un réseau mobile de convolution（mobile convolutional networks）Pour exploiter les avantages de ces deux architectures,Pour améliorer les performances et l'efficacité.

En relation avec la récentevision transformerLe travail est différent,MoCoViTDansmobile transformerLes modules sont spécialement conçus pour les appareils mobiles,Très léger,Complété par deux modifications majeures： Déplacer l'auto - attention （Mobile Self-Attention,MoSA） Modules et réseaux d'alimentation mobiles （Mobile Feed Forward Network,MoFFN）.MoSA Simplifie le partage des succursales attention mapCalcul de,EtMoFFNCommetransformerMoyenneMLPVersion mobile de, Réduction encore plus importante des calculs .

Preuve expérimentale complète ,Proposé par l'auteurMoCoViT Série supérieure à toutes les tâches visuelles SOTAPortableCNNEttransformer Architecture neuronale .InImageNetDans la catégorie,C'estIn147M Le point flottant secondaire est atteint 74.5%DeTop-1Précision,QueMobileNetV3 Avec moins de calculs Amélioration1.2%.InCOCOSur la tâche de détection des cibles,MoCoViTInRetinaNet Rapport de performance dans le cadre GhostNetPlus haut2.1 AP.