Dans la recherche de l'intelligence humaine ai, Meta a misé sur l'apprentissage auto - supervisé

Meta AI Masque auto - encodeur pour la vision par ordinateur est formé sur la plupart des images masquées [Gauche.]. Et pourtant,Sa reconstruction [Centre] Très proche de l'image originale [A droite].

Meta Chef AI Les scientifiques Yann LeCun Une telle vision a été exprimée, “Nous voulons construire des machines intelligentes qui apprennent comme des animaux et des humains”.Pour réaliser cette vision,MetaJ'ai parié le Trésor surApprentissage auto - supervisé（SSL）Allez..

Il y a quelque temps,Un article intituléMAEL'article montre comment les systèmes d'autosurveillance reconstruisent les images à partir de données très fragmentées et incomplètes.Et pourtant,MAECe n'est pas vraiment un nouveau concept,MetaCe travail a déjà été étendu à de nouveaux domaines.

Comme dans la vidéoMAEMoyenne,Le taux de masquage par image vidéo est aussi élevé que95%,.Parce que la similitude entre les images signifie que les signaux vidéo ont plus de redondance que les images fixes.EtMAEPar blindage jusqu'à 95% Chaque image de,Réduction des coûts de calcul jusqu'à 95%.

Comme dans l'audioMAEMoyenne,Meta AIL'équipe convertit les fichiers audio en spectres,Masquer partiellement pour l'entraînement.L'audio reconstruit est impressionnant,Bien que le modèle ne puisse actuellement traiter que quelques secondes de clips.L'équipe a dit qu'elle serait bientôtarxiv.orgPublier l'audio surMAETravaux liés à.

 

Lien vers le texte original：https://spectrum.ieee.org/unsupervised-learning-meta