Br\u00e8ves informations sur ViT (Vision Transformer)<\/p>\n
Vision Transformer (ViT) est une architecture de r\u00e9seau neuronal innovante qui utilise l'architecture Transformer, principalement con\u00e7ue pour le traitement du langage naturel, dans le domaine de la vision par ordinateur. Contrairement aux r\u00e9seaux neuronaux convolutifs (CNN) traditionnels, ViT utilise des m\u00e9canismes d'auto-attention pour traiter les images en parall\u00e8le, atteignant ainsi des performances de pointe dans diverses t\u00e2ches de vision par ordinateur.<\/p>\n
Le Vision Transformer a \u00e9t\u00e9 pr\u00e9sent\u00e9 pour la premi\u00e8re fois par des chercheurs de Google Brain dans un article intitul\u00e9 \u00ab An Image is Worth 16\u00d716 Words: Transformers for Image Recognition at Scale \u00bb, publi\u00e9 en 2020. La recherche est n\u00e9e de l'id\u00e9e d'adapter l'architecture du Transformer, \u00e0 l'origine cr\u00e9\u00e9 par Vaswani et al. en 2017 pour le traitement de texte, pour g\u00e9rer les donn\u00e9es d'image. Le r\u00e9sultat a \u00e9t\u00e9 un changement r\u00e9volutionnaire dans la reconnaissance d\u2019images, conduisant \u00e0 une efficacit\u00e9 et une pr\u00e9cision am\u00e9lior\u00e9es.<\/p>\n
ViT traite une image comme une s\u00e9quence de patchs, de la m\u00eame mani\u00e8re que le texte est trait\u00e9 comme une s\u00e9quence de mots en PNL. Il divise l'image en petits patchs de taille fixe et les int\u00e8gre lin\u00e9airement dans une s\u00e9quence de vecteurs. Le mod\u00e8le traite ensuite ces vecteurs \u00e0 l\u2019aide de m\u00e9canismes d\u2019auto-attention et de r\u00e9seaux de r\u00e9troaction, apprenant ainsi les relations spatiales et les mod\u00e8les complexes au sein de l\u2019image.<\/p>\n
La structure de ViT se compose d'une couche initiale de correctifs et d'int\u00e9gration suivie d'une s\u00e9rie de blocs Transformer. Chaque bloc contient une couche d'auto-attention multi-t\u00eates et des r\u00e9seaux neuronaux \u00e0 r\u00e9troaction.<\/p>\n