De la dimension des fractales aux marches aléatoires sur les groupes

Une classe importante de systèmes dynamiques au comportement chaotique provient des itérations d'une application dilatante \( f \colon \mathcal{J} \to \mathcal{J} \) d'un espace métrique compact, c'est-à-dire une application qui dilate localement les distances d'un facteur (au moins) \( \lambda > 1 \). Ces applications sont souvent des revêtements. Un exemple fondamental est l'application \( f(x) = 2x \) sur le cercle \( \mathbb{R}/\mathbb{Z} \). Un fameux théorème de Gromov (1981) classifie les variétés compactes admettant une application dilatante — ainsi que ces applications elles-mêmes : elles sont toutes, en essence, des généralisations de cet exemple. De telles applications vivent aussi sur des espaces \( \mathcal{J} \) plus singuliers, typiquement des fractales qui apparaissent comme sous-espaces invariants d'un espace plus régulier. Par exemple, une fonction rationnelle complexe, vue comme un revêtement ramifié \( f \colon \mathbb{P}^1(\mathbb{C}) \to \mathbb{P}^1(\mathbb{C}) \) de la sphère de Riemann, est souvent dilatante en restriction à son ensemble de Julia : on la qualifie alors d'hyperbolique.

La dynamique d'un auto-revêtement dilatant peut être encodée par un groupe dénombrable, son groupe de monodromie itérée. On fixe un point base \( t \in \mathcal{J} \) et on forme l'arbre des préimages : les sommets de son \( n \)-ième niveau sont les points \( z \) vérifiant \( f^n(z) = t \), chaque sommet \( z \) étant relié par une arête à \( f(z) \) un niveau au-dessus. Le groupe fondamental \( \pi_1(\mathcal{J}, t) \) agit sur cet arbre par relevé : un lacet \( \gamma \) basé en \( t \) envoie un point \( z \in f^{-n}(t) \) sur l'extrémité du relevé de \( \gamma \) par \( f^n \) partant de \( z \). L'ensemble de ces transformations de l'arbre forme le groupe de monodromie itérée. Ce groupe admet une description par un automate fini — explicite et calculable. Un résultat de V. Nekrashevych [5] montre qu'à partir de cet invariant, on peut reconstruire l'espace \( \mathcal{J} \) et la dynamique \( f \) à conjugaison près.

Outre leur rôle d'invariants des systèmes dynamiques, les groupes de monodromie itérée sont des objets intéressants en eux-mêmes — et souvent mystérieux — du point de vue de la géométrie des groupes. Ce domaine étudie les groupes de type fini comme des objets géométriques, en analysant notamment les propriétés à grande échelle de leur graphe de Cayley — dont les sommets sont les éléments du groupe, et dont les arêtes relient les éléments différant d'un générateur. Les groupes de monodromie itérée constituent précisément la classe des groupes auto-similaires contractants. Les groupes de Grigorchuk (1983) en sont des représentants classiques : il s'agit des premiers exemples connus de groupes à croissance intermédiaire, dont le nombre d'éléments dans une boule de rayon \( n \) croît plus vite que tout polynôme mais moins vite qu'une exponentielle.

La moyennabilité, introduite par von Neumann en 1929, est une propriété centrale en géométrie des groupes. Un groupe est moyennable s'il admet une mesure de probabilité finiment additive et invariante par translation. Une caractérisation due à Følner relie cette propriété à l'isopérimétrie dans le graphe de Cayley : un groupe de type fini est moyennable si et seulement si son graphe de Cayley contient des ensembles dont le bord est petit comparé au volume. Les exemples "évidents" de groupes moyennables sont les groupes finis et commutatifs, ainsi que les groupes construits à partir de ceux-ci par des opérations préservant la moyennabilité — dits élémentairement moyennables. Il a longtemps été une question ouverte de savoir si tout groupe moyennable était élémentairement moyennable. Les groupes de Grigorchuk furent les premiers contre-exemples, montrant que la réponse était négative. Les groupes auto-similaires contractants constituèrent ainsi historiquement la première source de groupes moyennables non élémentaires. Cependant, une question demeure ouverte :

est-ce que tout groupe auto-similaire contractant (ou, de manière équivalente, 
tout groupe de monodromie itérée de tout revêtement ramifié dilatant) est moyennable ?

Cette question a été étudiée systématiquement depuis le début des années 2000, avec des réponses dans des cas particuliers. Le résultat de [4] Matte Bon, Nekrashevych et Zheng apporte une réponse affirmative pour une vaste classe de groupes. En particulier, ce résultat implique :

Théorème Le groupe de monodromie itérée de toute fonction rationnelle hyperbolique \( f \in \mathbb{C}(z) \) est moyennable.

Pour étudier la moyennabilité, une approche puissante consiste à analyser les marches aléatoires sur le groupe : à chaque pas, on se déplace aléatoirement vers un sommet voisin du graphe de Cayley, et on cherche à comprendre le comportement à long terme. On s'intéresse en particulier à savoir si la marche "oublie" son point de départ : cette question est capturée par les fonctions harmoniques — les fonctions dont la valeur en chaque sommet est la moyenne de ses valeurs aux voisins. On dit que la marche aléatoire a la propriété de Liouville (nommée d'après le théorème classique de Liouville sur le plan) si toutes les fonctions harmoniques bornées sont constantes. Cette propriété implique la moyennabilité de \( G \), d'après une observation de Furstenberg. Cette implication a été largement utilisée comme outil pour étudier la moyennabilité des groupes auto-similaires, à commencer par le travail fondateur de L. Bartholdi et B. Virág [1], qui ont montré la moyennabilité du groupe de monodromie itérée du polynôme \( z^2-1 \) — aussi appelé basilique d'après la ressemblance de son ensemble de Julia avec la basilique de San Marco à Venise. Leur approche a été extensivement appliquée et généralisée ; en particulier, [2] établit la moyennabilité du groupe de monodromie itérée de tout polynôme complexe satisfaisant une forme d'hyperbolicité.

La clé de l'approche de [4] réside dans la combinaison de cette méthode avec un invariant géométrique : la dimension conforme, introduite par P. Pansu [6]. Elle est un nombre réel associé à tout espace métrique compact, invariante par transformations quasi-conformes (celles qui préservent approximativement la forme des boules), qui joue un rôle important en théorie géométrique des groupes et en dynamique. Elle est particulièrement adaptée aux espaces munis d'un revêtement dilatant, qui possèdent une structure quasi-conforme naturelle d'après les travaux de P. Haïssinsky et K. Pilgrim [3] — comme les ensembles de Julia des fonctions rationnelles hyperboliques, pour lesquels la dimension conforme est toujours comprise entre 1 et 2.

La dimension conforme apparaît donc naturellement comme invariant des groupes auto-similaires contractants. En effet, à tout tel groupe \( G \) est associé un espace limite \( \mathcal{J}_G \), muni d'une dynamique dilatante naturelle ; lorsque  \( G \) est un groupe de monodromie itérée, cet espace s'identifie à \( \mathcal{J} \) muni de la dynamique \( f \), identification qui préserve la dimension conforme. Le résultat principal de [4] établit que :

Ce critère s'applique en particulier aux groupes de monodromie itérée des fonctions rationnelles hyperboliques, dont l'ensemble de Julia a toujours une dimension conforme inférieure à 2, démontrant ainsi le théorème ci-dessus. Il retrouve et unifie de plus tous les résultats partiels précédemment connus sur la moyennabilité des groupes auto-similaires contractants.

Plusieurs questions restent ouvertes. Lorsque la dimension conforme vaut exactement 2 — ce qui se produit pour certaines fonctions rationnelles sub-hyperboliques (une classe légèrement plus large des fonctions hyperboliques) dont l'ensemble de Julia est la sphère entière — la propriété de Liouville et la moyennabilité restent indéterminées. Lorsqu'elle est strictement supérieure à 2, la propriété de Liouville n'est en général pas satisfaite, comme le montrent des contre-exemples ; la question de la moyennabilité reste alors largement ouverte.