L'hamiltonien Monte Carlo (HMC) est une technique d'\u00e9chantillonnage sophistiqu\u00e9e utilis\u00e9e dans les statistiques bay\u00e9siennes et la physique computationnelle. Il est con\u00e7u pour explorer efficacement les distributions de probabilit\u00e9 de grande dimension en utilisant la dynamique hamiltonienne, qui est un cadre math\u00e9matique d\u00e9riv\u00e9 de la m\u00e9canique classique. En simulant le comportement d'un syst\u00e8me physique, HMC g\u00e9n\u00e8re des \u00e9chantillons plus efficaces pour explorer des espaces complexes que les m\u00e9thodes traditionnelles comme l'algorithme de Metropolis-Hastings. L'application de HMC s'\u00e9tend au-del\u00e0 de son domaine d'origine, avec des cas d'utilisation prometteurs dans divers domaines, notamment l'informatique et les op\u00e9rations de serveur proxy.<\/p>\n
Le Monte Carlo hamiltonien a \u00e9t\u00e9 introduit pour la premi\u00e8re fois par Simon Duane, Adrienne Kennedy, Brian Pendleton et Duncan Roweth dans leur article de 1987 intitul\u00e9 \u00ab Hybrid Monte Carlo \u00bb. La m\u00e9thode a \u00e9t\u00e9 initialement con\u00e7ue pour simuler des syst\u00e8mes quantiques dans la th\u00e9orie des champs sur r\u00e9seau, un domaine de la physique th\u00e9orique. L'aspect hybride de l'algorithme fait r\u00e9f\u00e9rence \u00e0 sa combinaison de variables continues et discr\u00e8tes.<\/p>\n
Au fil du temps, les chercheurs en statistiques bay\u00e9siennes ont reconnu le potentiel de cette technique pour l'\u00e9chantillonnage \u00e0 partir de distributions de probabilit\u00e9 complexes, et ainsi, le terme \u00ab Monte Carlo hamiltonien \u00bb a gagn\u00e9 en popularit\u00e9. Les contributions de Radford Neal au d\u00e9but des ann\u00e9es 1990 ont consid\u00e9rablement am\u00e9lior\u00e9 l\u2019efficacit\u00e9 de HMC, ce qui en a fait un outil pratique et puissant pour l\u2019inf\u00e9rence bay\u00e9sienne.<\/p>\n
L'hamiltonien Monte Carlo fonctionne en introduisant des variables de moment auxiliaires \u00e0 l'algorithme standard de Metropolis-Hastings. Ces variables d'impulsion sont des variables artificielles et continues, et leur interaction avec les variables de position de la distribution cible cr\u00e9e un syst\u00e8me hybride. Les variables de position repr\u00e9sentent les param\u00e8tres d'int\u00e9r\u00eat dans la distribution cible, tandis que les variables de moment aident \u00e0 guider l'exploration de l'espace.<\/p>\n
Le fonctionnement interne du Hamiltonien Monte Carlo peut \u00eatre d\u00e9crit comme suit\u00a0:<\/p>\n
Dynamique hamiltonienne\u00a0:<\/strong> HMC utilise la dynamique hamiltonienne, qui est r\u00e9gie par les \u00e9quations de mouvement de Hamilton. La fonction hamiltonienne combine l'\u00e9nergie potentielle (li\u00e9e \u00e0 la distribution cible) et l'\u00e9nergie cin\u00e9tique (li\u00e9e aux variables de quantit\u00e9 de mouvement).<\/p>\n<\/li>\n Int\u00e9gration Leapfrog\u00a0:<\/strong> Pour simuler la dynamique hamiltonienne, le sch\u00e9ma d'int\u00e9gration saute-mouton est utilis\u00e9. Il discr\u00e9tise les pas de temps, permettant des solutions num\u00e9riques efficaces et pr\u00e9cises.<\/p>\n<\/li>\n \u00c9tape d'acceptation de la m\u00e9tropole\u00a0:<\/strong> Apr\u00e8s avoir simul\u00e9 la dynamique hamiltonienne pendant un certain nombre d'\u00e9tapes, une \u00e9tape d'acceptation Metropolis-Hastings est r\u00e9alis\u00e9e. Il d\u00e9termine s'il convient d'accepter ou de rejeter l'\u00e9tat propos\u00e9, en fonction de la condition d'\u00e9quilibre d\u00e9taill\u00e9e.<\/p>\n<\/li>\n Algorithme hamiltonien de Monte Carlo\u00a0:<\/strong> L'algorithme HMC consiste \u00e0 \u00e9chantillonner de mani\u00e8re r\u00e9p\u00e9t\u00e9e les variables de moment \u00e0 partir d'une distribution gaussienne et \u00e0 simuler la dynamique hamiltonienne. L'\u00e9tape d'acceptation garantit que les \u00e9chantillons r\u00e9sultants sont tir\u00e9s de la distribution cible.<\/p>\n<\/li>\n<\/ol>\n L'hamiltonien Monte Carlo offre plusieurs avantages cl\u00e9s par rapport aux m\u00e9thodes d'\u00e9chantillonnage traditionnelles\u00a0:<\/p>\n Exploration efficace\u00a0:<\/strong> HMC est capable d'explorer des distributions de probabilit\u00e9 complexes et de grande dimension plus efficacement que de nombreuses autres techniques de Monte Carlo par cha\u00eene de Markov (MCMC).<\/p>\n<\/li>\n Taille de pas adaptative\u00a0:<\/strong> L'algorithme peut ajuster de mani\u00e8re adaptative la taille de son pas pendant la simulation, lui permettant d'explorer efficacement des r\u00e9gions \u00e0 courbure variable.<\/p>\n<\/li>\n Pas de r\u00e9glage manuel\u00a0:<\/strong> Contrairement \u00e0 certaines m\u00e9thodes MCMC qui n\u00e9cessitent un r\u00e9glage manuel des distributions de propositions, HMC n\u00e9cessite g\u00e9n\u00e9ralement moins de param\u00e8tres de r\u00e9glage.<\/p>\n<\/li>\n Autocorr\u00e9lation r\u00e9duite\u00a0:<\/strong> HMC a tendance \u00e0 produire des \u00e9chantillons avec une autocorr\u00e9lation plus faible, permettant une convergence plus rapide et une estimation plus pr\u00e9cise.<\/p>\n<\/li>\n \u00c9vitement du comportement de marche al\u00e9atoire\u00a0:<\/strong> Contrairement aux m\u00e9thodes MCMC traditionnelles, HMC utilise une dynamique d\u00e9terministe pour guider l'exploration, r\u00e9duisant ainsi le comportement de marche al\u00e9atoire et le m\u00e9lange lent potentiel.<\/p>\n<\/li>\n<\/ol>\n Il existe plusieurs variantes et extensions du Hamiltonien Monte Carlo qui ont \u00e9t\u00e9 propos\u00e9es pour relever des d\u00e9fis sp\u00e9cifiques ou adapter la m\u00e9thode \u00e0 des sc\u00e9narios particuliers. Certains types notables de HMC incluent\u00a0:<\/p>\nAnalyse des principales caract\u00e9ristiques du Hamiltonien Monte Carlo.<\/h2>\n
\n
Types de Monte Carlo hamiltonien<\/h2>\n