Chaos sur le plan hyperbolique

Hugues RANDRIAMBOLOLONA

18 octobre 1995

Sommaire

1 Variétés à courbure négative constante 2 1.1 Géométrie hyperbolique . . . . . . . . . . . . . . . . . . . . . . . 2 1.2 Propriétés ergodiques des variétés compactes de courbure -1 … 4

2 Quantification 5 2.1 Opérateur de Laplace-Beltrami . . . . . . . . . . . . . . . . . . . 5 2.2 Cas du plan hyperbolique . . . . . . . . . . . . . . . . . . . . . . 6 2.3 Quelques lemmes préparatoires . . . . . . . . . . . . . . . . . . . 7 2.4 La formule des traces de Selberg . . . . . . . . . . . . . . . . . . 9

3 Billards sur le plan hyperbolique 12 3.1 Position du problème . . . . . . . . . . . . . . . . . . . . . . . . . 12 3.2 Expériences numériques . . . . . . . . . . . . . . . . . . . . . . . 14 3.3 Liens avec l’arithmétique . . . . . . . . . . . . . . . . . . . . . . . 15

Introduction

En mécanique classique on ramène l’étude d’un système à la donnée d’une variété, l’espace de configuration, sur laquelle on définit en tout point un hamiltonien, dont on tirera les équations du mouvement, et qui s’identifie souvent à l’énergie du système. Une propriété fondamentale du mouvement est alors l’existence éventuelle d’invariants numériques (les intégrales du mouvement), ce qui permet de restreindre l’étude à leurs surfaces de niveau. Si le système est indépendant du temps, le premier de ces invariants est justement le hamiltonien (c’est une conséquence immédiate des équations de Hamilton).

Dans certains cas favorables, le système est dit intégrable. Cela signifie, pour un système à n degrés de liberté, qu’on peut trouver n intégrales du mouvement I_{1}, …, I_{n} indépendantes et en involution (i.e. leurs crochets de Poisson sont nuls). Le mouvement dans l’espace des phases reste alors confiné sur un tore invariant correspondant aux conditions initiales, et peut être paramétré par n variables θ_{1}, …, θ_{n}, qu’on appelle les variables angulaires, et qui sont les conjuguées des I_{k}, ces dernières étant les variables d’action. La fréquence correspondant à chaque couple (I, θ) est donnée par ω = \frac{∂H}{∂I}. Dans le cas générique, le mouvement est quasipériodique. Il peut être dense dans le tore si les fréquences sont linéairement indépendantes. A l’inverse, si toutes les fréquences sont commensurables, le mouvement sera périodique.

Mais en général une telle situation ne se produit pas. La trajectoire est susceptible de remplir toute l’hypersurface d’énergie fixée. Si de plus le flot hamiltonien y est ergodique, et que les trajectoires sont instables (i.e. elles se repoussent exponentiellement), on dira que le système est chaotique. Cette situation se présente lorsqu’un point est assujetti à se déplacer sur une variété compacte à courbure négative, sans subir aucune force extérieure (auquel cas le flot hamiltonien s’identifie au flot géodésique). Cet exemple a été introduit par Hadamard en 1898.

Ce problème classique admet un analogue quantique. Il s’agit d’étudier la quantification d’un hamiltonien dont la dynamique est chaotique, de relier le spectre et les fonctions propres aux trajectoires classiques, en particulier dans la limite semi-classique h̄ → 0 et pour les grands temps t → ∞.

1 Variétés à courbure négative constante

1.1 Géométrie hyperbolique

Définition 1 On appelle plan de Lobatchewsky (ou plan hyperbolique) la variété riemannienne de dimension 2 formée des complexes de partie imaginaire strictement positive et munie de la métrique

ds^{2} = \frac{|dz|^{2}}{y^{2}} .

Plus précisément, le modèle du plan hyperbolique qu’on vient de définir est le demi-plan de Poincaré H. Le plan hyperbolique apparaît naturellement dans de nombreux domaines des mathématiques, et admet autant de modèles différents. Outre le demi-plan de Poincaré, on utilisera aussi le modèle du disque unité muni de la métrique

ds^{2} = \frac{4|dz|^{2}}{(1 − |z|^{2})^{2}} .

On passe du premier modèle au second par l’homographie

z ↦ \frac{z − i}{z + i}

dont on vérifie qu’elle respecte les métriques.

Le groupe des isométries directes de H s’identifie à P SL_{2}(ℝ), en associant à la matrice

± ( \begin{matrix}a & b \\ c & d \end{matrix} ) a, b, c, d ∈ ℝ, ad − bc = 1

l’homographie

z ↦ \frac{az + b}{cz + d}.

On vérifie qu’il s’agit bien d’une isométrie, et qu’ainsi on les obtient toutes. De même, dans le modèle du disque, il leur correspond les transformations de Moebius

z ↦ \frac{αz + β̄}{βz + ᾱ} α, β ∈ ℂ, |α|^{2} + |β|^{2} = 1.

On vérifie facilement qu’étant donnés deux paires de points équidistants, il existe une isométrie envoyant l’une sur l’autre.

Pour les isométries indirectes, on compose avec l’application z ↦ −z̄.

La métrique étant proportionnelle à la métrique euclidienne, les angles euclidiens sont conservés.

La demi-droite x = 0 est clairement une géodésique de H. En prenant ses images par les isométries, on obtient toutes les géodésiques de H. Ce sont les demi-droites verticales et les demi-cercles centrés sur l’axe réel. Dans le modèle du disque, les géodésiques sont les diamètres et les cercles orthogonaux au cercle unité.

Dans le modèle du demi-plan comme dans celui du disque, les cercles hyperboliques sont des cercles euclidiens (mais le centre n’est en général pas conservé). C’est en effet trivial pour un cercle hyperbolique centré en 0 dans le modèle du disque. La propriété résulte alors du fait que les homographies conservent la cocyclicité.

Pour le disque, le rayon euclidien d’un cercle de rayon hyperbolique r centré en 0 est R = tanh \frac{r}{2}. On en déduit que tout cercle de rayon hyperbolique r a un périmètre hyperbolique de 2π sinh r. En coordonnées polaires géodésiques (autour de n’importe quel point), la métrique peut donc aussi s’écrire:

ds^{2} = dr^{2} + sinh^{2} r.dθ^{2}.

Dans le cas du disque, ces coordonnées en 0 correspondent au changement de variable z = tanh \frac{r}{2}e^{iθ}.

Proposition 1 Le plan hyperbolique est une variété riemannienne à courbure constante égale à −1.

Preuve: le fait que la métrique est invariante sous l’action de P SL_{2}(ℝ) implique que la courbure K est constante. Pour un triangle géodésique d’angles α, β et γ et d’aire A, le théorème de Gauss-Bonnet s’écrit K.A = α + β + γ − π.

En considérant le triangle (|x| < 1, |z| > 1) dans H, on a α = β = γ = 0 et A = π, d’où K = −1.

Remarque: on peut aussi calculer directement l’aire de tout triangle géodésique de H, et ainsi retrouver la formule de Gauss-Bonnet. Pour cela, il est commode ramener un sommet en i et un côté adjacent sur l’axe des ordonnées, et d’intégrer par rapport à y et à θ, où θ est l’angle paramétrant l’autre côté adjacent à i. [D]

1.2 Propriétés ergodiques des variétés compactes de courbure -1

Dans ce qui suit, fixons M une variété riemannienne compacte à courbure négative constante égale à -1. Le théorème fondamental suivant, que nous ne démontrerons pas, est dû à Poincaré:

Théorème 1 Le revêtement universel de M est le plan hyperbolique.

Réciproquement, si Γ est un sous groupe discret de P SL_{2}(R) dont l’action sur H est totalement discontinue et sans point fixe, alors Γ\H est une telle variété.

Deux géodésiques étant susceptibles de se croiser, le flot géodésique sera défini sur le fibré tangent unitaire T_{1}M de M. Par relêvement il engendre le flot géodésique sur T_{1}H. De plus, d’après le théorème de Liouville, ces flots conservent la mesure canonique.

Définition 2 Un système dynamique, formé d’un espace mesuré et d’un groupe à un paramètre de difféomorphismes conservant la mesure, sera dit ergodique si toute fonction mesurable (presque partout) invariante par le groupe est (presque partout) constante.

Une conséquence immédiate de la définition est que pour un système ergodique, les moyennes spatiales et temporelles coincident.

Proposition 2 Le flot géodésique de M est ergodique.

Preuve: soit f sur T_{1}M invariante par le flot géodésique. Par densité f sera supposée continue, donc uniformément continue. Par relêvement, on peut considérer f Γ−périodique sur T_{1}H. Soit γ_{1} et γ_{2} deux géodésiques de H, a_{1} et a_{2} leurs points en +∞. Alors il existe une unique géodésique γ reliant a_{1} et a_{2}. Par absolue continuité, f est bien définie en a_{1} et a_{2}, et elle y prend la même valeur, qui est aussi sa valeur sur γ. Mais alors la valeur de f sur γ_{1} est f(a_{1}). Le même raisonnement appliqué à γ_{2} montre que f est égale sur γ_{1} et γ_{2}, donc constante.

En fait on a une propriété plus forte: M est un C−système. L’orthogonal de l’orbite d’un vecteur v dans T_{1}M est engendrée par les horisphères positives et négatives de v, formées de vecteurs dont l’orbite se rapproche ou s’écarte exponentiellement de celle de v.

2 Quantification

2.1 Opérateur de Laplace-Beltrami

Définition 3 Soit M une variété riemannienne de produit scalaire (., .). Pour toute fonction f sur M on définit son gradient gradf par la formule

(gradf, ξ) = ξ.f

pour tout ξ ∈ T M.

Pour tout champ de vecteurs X sur M on définit sa divergence divX en tout point p par

(divX)(p) = tr(ξ ↦ ∇_{ξ}X)

où ξ parcourt T_{p}M et où ∇ désigne la dérivée covariante.

Enfin, on définit le laplacien Δf d’une fonction f par la formule

Δf = −div(gradf).

Si dans un système de coordonnées la métrique de M s’écrit

ds^{2} = g_{ij}dx^{i}dx^{j}

et si on note g le déterminant des g_{ij}, l’expression locale de Δ est donnée par:

Δf = −\frac{1}{\sqrt{g}} ∂_{i}(g^{ij}\sqrt{g}∂_{j}f).

Les théorèmes de Green et de la divergence connus en géométrie euclidienne restent valables en géométrie riemannienne.

Théorème 2 Le spectre de Δ sur une variété riemannienne compacte M est une suite infinie discrète (0 ≤)λ_{1} ≤ λ_{2} ≤ … → +∞, chaque valeur propre étant comptée avec sa multiplicité, qui est finie. De plus les fonctions propres correspondantes peuvent être choisies pour former une base orthonormale de L^{2}(M).

Remarque: ce résultat est valable pour une variété sans bord, mais aussi pour les problèmes de Dirichlet, Neumann ou mixte.

Esquisse de preuve: elles reposent toutes sur les théorèmes d’injection compacte de Sobolev de H^{1} dans L^{2}.

Δ est un opérateur symétrique positif, admettant une unique extension autoadjointe. On considère l’opérateur T qui à f associe l’unique solution u de l’équation Δu + u = f. En multipliant par u, en intégrant et en utilisant l’inégalité de Poincaré on voit que T : L^{2} → H^{1} est borné, donc que T : L^{2} → L^{2} est compact (Sobolev). On déduit alors de la théorie des opérateurs compacts que Δ = (T − I)^{−1} vérifie bien le théorème.

Autre démonstration: on considère le quotient de Rayleigh défini par

R(u) = \frac{∫ |gradu|^{2}}{∥u∥_{L^{2}}^{2}} = \frac{∥u∥_{H^{1}}^{2}}{∥u∥_{L^{2}}^{2}} − 1.

On cherche l’infimum μ de R sur un espace de fonctions H^{1} correspondant aux conditions au bord. Soit (u_{k}) une suite de fonctions de H^{1}, de norme L^{2} égale à 1, avec μ ≤ R(u_{k}) ≤ μ + 1/k. Alors ∥u_{k}∥_{H^{1}} ≤ μ + 2, la suite est bornée dans le Hilbert H^{1}, donc on peut en extraire une sous-suite convergeant faiblement dans H^{1}, dont on extrait encore une sous-suite (v_{n}) convergeant fortement dans L^{2} grâce à l’injection compacte. Les deux limites sont clairement égales. Par Cauchy-Schwarz (v_{n}, v)_{H^{1}}^{2} ≤ ∥v_{n}∥_{H^{1}}^{2}∥v∥_{H^{1}}^{2} ≤ (μ + 1 + 1/n)∥v∥_{H^{1}}^{2}, d’où ‘a la limite R(v) ≤ μ, donc R(v) = μ. En dérivant en t = 0 l’inégalité R(v + tu) ≥ R(v) = μ on a la caractérisation: R(v) = μ ssi pour tout u ∈ H^{1}, (u, v)_{H^{1}} = (μ + 1)(u, v)_{L^{2}} (pour la réciproque prendre u = v). Les tels v forment donc un espace vectoriel sur lequel les normes H^{1} et L^{2} coincident. Par injection compacte, la boule unité pour L^{2} est compacte, donc cet espace est de dimension finie. μ est donc atteinte sur un espace vectoriel E_{1} de dimension finie, caractérisé comme étant l’espace des solutions faibles du problème dans H^{1}. Mais des théorèmes généraux sur les opérateurs elliptiques montrent que ces solutions sont en fait C^{∞}, et sont des solutions fortes pour μ = λ_{1}. En recommençant avec l’orthogonal de E_{1} on obtient λ_{1} ≤ λ_{2} ≤ . . .. Montrons que cette suite tend vers l’infini. Dans le cas contraire on pourrait trouver une suite infinie (u) de fonctions orthonormales de L^{2}, telle que R(u) reste borné, ce qui est impossible car l’injection H^{1} → L^{2} est compacte. Si maintenant la somme des E_{i} n’était pas dense dans L^{2}, on trouverait un u orthogonal à tous les E_{i} et alors on aurait R(u) ≥ λ_{k} pour tout k, ce qui est impossible car λ_{k} → ∞. Ceci achève la démonstration.

2.2 Cas du plan hyperbolique

Pour le demi-plan de Poincaré, l’opérateur de Laplace-Beltrami prend une forme particulièrement simple:

Δ = −y^{2}(\frac{∂^{2}}{∂x^{2}} + \frac{∂^{2}}{∂y^{2}} ).

Physiquement, h̄^{2}Δ correspond au mouvement d’une particule libre, le hamiltonien classique associé étant H = y^{2}(p_{x}^{2} + p_{y}^{2}).

On peut y construire un spectre généralisé continu, qui se révèle être la demi-droite réelle [1/4, +∞[. Pour voir cela, il faut se placer dans le modèle du disque, exprimer le laplacien en coordonnées polaires et voir qu’on obtient ainsi des équations, connues sous le nom d’équations de Legendre, et dont les solutions sont connues.

On va démontrer ici un résultat moins fort:

Proposition 3 La première valeur propre du laplacien sur un disque de rayon (hyperbolique) fini δ avec condition de Dirichlet est ≥ 1/4.

Remarque: on peut montrer que quand le δ tend vers l’infini, λ_{1}(δ) tend vers 1/4.

Preuve: on rappelle que dans des coordonnées polaires (r, θ) la métrique est donnée par: ds^{2} = dr^{2} + sinh^{2} r.dθ^{2}. Posons S : r ↦ sinh r et C : r ↦ cosh r. Soit h une fonction définie sur [0, δ] avec h(δ) = 0. Alors par Cauchy-Schwarz

(∫ hh′S)^{2} ≤ ∫ h^{2}S. ∫ h^{′2}S.

De plus

− ∫ hh′S = ∫ (h^{2}/2)C ≥ \frac{1}{2} ∫ h^{2}S

(on a intégré par parties). On en déduit que

\frac{1}{4} ∫ h^{2}S ≤ ∫ h^{′2}S.

Soit maintenant f vérifiant les conditions de Dirichlet sur B(δ). Alors

\frac{1}{4} ∫ ∫ f^{2} = \frac{1}{4} ∫ dθ ∫ f^{2}(r, θ)S(r)dr ≤ ∫ dθ ∫ (∂_{r}f(r, θ))^{2}S(r)dr ≤ ∫ ∫ |gradf|^{2},

donc R(f) ≥ 1/4.

2.3 Quelques lemmes préparatoires

Dans toute la suite on considérera sur H × H une fonction k = k(p, q) qui ne dépend que de la distance de p à q. On notera indifféremment k(p, q) = k(d(p, q)).

Lemme 1 Pour une telle k, Δ_{p}k(p, q) = Δ_{q}k(p, q).

En effet, en coordonnées polaires géodésiques la partie radiale du laplacien est ∂^{2}/∂r^{2} + coth r.∂/∂r. En prenant l’origine en q et en considérant k comme fonction de r = d(p, q) on obtient Δ_{p}k = k′′ +coth r.k′, et le même résultat vaut pour q, d’où le lemme.

On la considère maintenant k comme le noyau d’un opérateur intégral. Alors:

Lemme 2 Cet opérateur commute à Δ.

En effet

Δ_{p} ∫ k(p, q)f(q)dq = ∫ (Δ_{p}k(p, q))f(q)dq
= ∫ (Δ_{q}k(p, q))f(q)dq = ∫ k(p, q)(Δ_{q}f(q))dq.

Si f est une fonction sur H et p ∈ H, on note f_{p}^{#} la radialisation de f en p définie par f_{p}^{#}(q) = \frac{1}{2π} ∫_{0}^{2π} f(R_{p}^{θ}q)dθ, où R_{p}^{θ} est la rotation d’angle θ autour de p.

Le lemme qui suit est fondamental dans la démonstration de la formule des traces:

Lemme 3 Soit ϕ une fonction propre (généralisée) de Δ pour la valeur propre λ. Alors ϕ est fonction propre de k pour une valeur propre ne dépendant que de k et de λ, mais pas du choix de ϕ. Autrement dit, il existe h (dépendant de k) telle que ∫ k(p, q)ϕ(q)dq = h(λ)ϕ(q).

Preuve: fixons p. ϕ étant fonction propre de Δ pour λ, ϕ_{p}^{#} l’est aussi. Elle est donc solution de l’équation ψ′′(r)+coth r.ψ′(r)−λψ(r) = 0. C’est une équation différentielle ordinaire du second ordre, avec une singularité en 0. La théorie générale de ces équations indique que l’espace des solutions est de dimension 2, admettant une base (χ_{λ}, ω_{λ}), telle que χ_{λ} ait une singularité logarithmique en 0, et ω_{λ} soit une fonction entière avec ω_{λ}(0) = 1. En conséquence, pour tout λ (réel ou complexe) et pour tout p ∈ H, il existe une et une seule fonction ω_{λ}(p, q) radiale par rapport à p et vérifiant ω_{λ}(p, p) = 1, Δ_{q}ω_{λ}(p, q) = λω_{λ}(p, q). Alors

∫ k(p, q)ϕ(q)dq = ∫ k(p, q)ϕ_{p}^{#}(q)dq = ϕ(p) ∫ k(p, q)ω_{λ}(p, q)dq.

On conclut en remarquant que h(λ) = ∫ k(p, q)ω_{λ}(p, q)dy ne dépend pas de p.

On remplacera alors les fonctions propres du laplacien par des fonctions propres généralisées associées aux mêmes valeurs propres, mais sur lesquelles les calculs qui suivent seront plus simples.

Dans le demi-plan de Poincaré, on considère les fonctions y^{s} pour s donné. Alors Δy^{s} = s(s − 1)y^{s}. En posant s = 1/2 + ir (avec a priori r complexe), on trouve λ = 1/4 + r^{2}, et on considérera h comme fonction de r.

Pour z_{1} et z_{2} dans H on pose Q(z_{1}, z_{2}) = |z_{1} − z_{2}|^{2}/y_{1}y_{2}. On vérifie par le calcul que Q est fonction de la distance hyperbolique d. Plus précisément, Q = (2 sinh d/2)^{2}. Par la suite on remplacera k = k(d) par une fonction de la forme L = L(Q). Alors en prenant p = i et q = x + iy le Lemme 3 donne:

h(r) = ∫ L(i, q)y^{(1/2+ir)}dq = ∫_{−∞}^{∞} dx ∫_{0}^{∞} L((x^{2} + (1 − y)^{2})/y)y^{−1/2}y^{ir}dy/y

(car dq = y^{−2}dxdy). En remplaçant x par y^{−1/2}x on obtient

h(r) = ∫_{−∞}^{∞} dx ∫_{0}^{∞} L((x^{2}+(y^{1/2}−y^{−1/2})^{2})y^{ir}dy/y = ∫_{−∞}^{∞} dx ∫_{0}^{∞} L((x^{2}+(2 sinh u/2)^{2})e^{iru}du où u = ln y. L étant réelle et paire en u on trouve finalement

h(r) = 2 ∫_{0}^{∞} cos ru du ∫_{z(u)}^{∞} L(ρ)(ρ − z(u))^{−1/2}dρ

où l’on a posé z(u) = (2 sinh u/2)^{2} et ρ = x^{2} + z(u).

Exprimons maintenant h(r) en termes de k. En fait L = k ∘ z^{−1}. En remarquant que z′(t) = 2 sinh t on trouve

h(r) = 4 ∫_{0}^{∞} cos ru du ∫_{u}^{∞} k(t)(z(t) − z(u))^{−1/2} sinh t dt.

2.4 La formule des traces de Selberg

Soit M = Γ\H une variété hyperbolique compacte. Les éléments de Γ sont donc des isométries sans point fixe.

Etablissons quelques propriétés d’une telle isométrie γ. Par compacité, le minimum des distances d(p, γp) est atteint en un certain p_{0}. Soit g la géodésique reliant p_{0} et γp_{0}. Alors g est stable par γ. Pour le voir on considère p sur g, et on remarque qu’il doit y avoir égalité dans l’inégalité triangulaire d(p, γp) ≤ d(p, γp_{0}) + d(γp_{0}, γp).

En conjuguant γ on se ramène au cas où g est la demi-droite (x = 0). On obtient alors une isométrie sans point fixe stabilisant cette demi-droite, ce qui ne peut être qu’une homothétie.

Remarque 1: La matrice associée à γ dans P SL_{2}(ℝ) est donc conjuguée à une matrice diagonale (\sqrt{k}, 1/\sqrt{k}), donc de trace > 2. On peut en fait montrer que cette condition est suffisante. L’isométrie est dite hyperbolique.

Remarque 2: On peut aussi construire des espaces hyperboliques de dimension n > 2. Les isométries sans point fixe sont alors conjuguées à des transformations de la forme KS où K est une homothétie et S est dans le groupe orthogonal O(n − 1).

L’axe d’une isométrie est clairement unique. Si deux isométries commutent, chacune stabilise l’axe de l’autre, qui est alors leur axe commun. On en déduit alors facilement que les sous-groupes abéliens de Γ sont infinis cycliques (i.e. monogènes).

On assimilera les fonctions L^{2} sur M et les fonctions sur H Γ−périodiques et localement L^{2}.

On utilisera par la suite un domaine fondamental F de Γ. On peut le définir de plusieurs façons, par exemple comme l’ensemble des p ∈ H vérifiant d(p, p_{0}) ≤ d(γp, p0) pour tout γ ∈ Γ et pour un p_{0} fixé. L^{2}(M) est muni du produit scalaire (f, g) = ∫_{F} f̄g.

On supposera que k est réelle et C^{∞} à support compact. Alors si f ∈ L^{2}(M), l’action de k sur f est donnée par

∫_{H} k(p, q)f(q)dq = ∑_{γ∈Γ} ∫_{γF} k(p, q)f(q)dq = ∫_{F} K(p, q)f(q)dq

où K(p, q) = ∑_{γ∈Γ} k(p, γq).

K vérifie K(p, q) = K(γp, γ′q) pour tous γ, γ′ ∈ Γ. De plus K est réelle, C^{∞}, et symétrique en p et q. L’opérateur associé est donc un opérateur de Hilbert-Schmidt sur M. Si maintenant (ϕ_{j}) est une base orthonormée de L^{2}(M) formée de fonctions Δ−propres, on trouve pour chaque r_{j} tel que λ_{j} = 1/4 + r_{j}^{2}:

∫_{H} k(p, q)ϕ_{j}(q)dq = h(r_{j})ϕ_{j}(p),

et la théorie des opérateurs de Hilbert-Schmidt donne, chaque r_{j} étant compté deux fois:

K(p, q) = ∑_{γ∈Γ} k(p, γq) = \frac{1}{2} ∑_{j} h(r_{j})ϕ_{j}(p)ϕ̄_{j}(q).

De même en termes de L:

∑_{γ∈Γ} L(p, γq) = \frac{1}{2} ∑_{j} h(r_{j})ϕ_{j}(p)ϕ̄_{j}(q).

On peut montrer en fait que la convergence de cette somme est uniforme. Faisons q = p et intégrons sur F. Si A = VolM on trouve

∑_{j} h(r_{j}) = 2AL(0) + 2 ∑_{γ≠e} ∫_{F} L(p, γp)dp.

Coupons cette somme en sommes sur les classes de conjugaison de Γ. On a

∫_{F} L(p, γ_{1}^{−1}γ_{0}γ_{1}p)dp = ∫_{γ_{1}F} L(p, γ_{0}p)dp.

De plus γ_{1}^{−1}γ_{0}γ_{1} = γ_{2}^{−1}γ_{0}γ_{2} ssi γ_{1}^{−1}γ_{2} commute à γ_{0}. La somme peut donc se réécrire

2 ∑_{[γ_{0}]} ∫_{D_{γ_{0}}} L(p, γ_{0}p)dp,

la sommation se faisant sur un représentant γ_{0} de chaque classe de conjugaison non-triviale, et où D_{γ_{0}} = ⋃_{γ_{1}} γ_{1}F, γ_{1} parcourant un ensemble de représentants des classes à gauche du normalisateur Γ_{γ_{0}} de γ_{0} dans Γ. Il est clair que D_{γ_{0}} est un domaine fondamental de Γ_{γ_{0}}, et que la valeur de l’intégrale ne dépend pas du choix de ce domaine.

On rappelle que pour tout γ, Γ_{γ} est infini cyclique. Soit δ un générateur de Γ_{γ}, de telle sorte que γ s’écrive γ = δ^{m}. Par conjugaison dans Γ on se ramène au cas où δ est une homothétie de rapport N_{δ}, et alors γ est une homothétie de rapport N_{γ} = N_{δ}^{m}. Il est alors clair que l’ensemble (1 ≤ y ≤ N_{δ}) est un domaine fondamental de Γ_{γ}, et on prendra pour D_{γ} ce domaine. Alors

∫_{D_{γ}} L(p, γp)dp = ∫_{1}^{N_{δ}} y^{−2}dy ∫_{−∞}^{∞} L((((1 − N_{γ})x)^{2} + (1 − N_{γ})^{2}y^{2})/N_{γ}y^{2})dx

= N_{γ}^{1/2} ∫_{1}^{N_{δ}} y^{−1}dy ∫_{−∞}^{∞} L(((1 − N_{γ})v)^{2} + (N_{γ}^{1/2} − N_{γ}^{−1/2})^{2})dv

= N_{γ}^{1/2}l_{δ}|1 − N_{γ}|^{−1} ∫_{−∞}^{∞} L(w^{2} + z(l_{γ}))dw

où on a posé w = |1 − N_{γ}|v, v = (N_{γ}^{1/2}y)^{−1}x, l_{δ} = ln N_{δ} et l_{γ} = ln N_{γ}, et où on rappelle que z(u) = (2 sinh u/2)^{2}. Alors N_{γ}^{1/2}|1 − N_{γ}|^{−1} = 1/2.csch(l_{γ}/2). Si on pose l_{δ} = Λ(γ), et après le changement de variable ρ = w^{2} + z(l_{γ}) l’intégrale devient:

\frac{1}{2}Λ(γ)csch(l_{γ}/2) ∫_{z(l_{γ})}^{∞} L(ρ)(ρ − z(l_{γ}))^{−1/2}dρ.

Compte tenu de l’expression de h en fonction de L calculée précédemment, l’intégrande est la transformée de Fourier de h, donc si on définit g(u) = π^{−1} ∫_{0}^{∞} h(r) cos ru dr, on a prouvé:

∑_{n} h(r_{n}) = 2AL(0) + ∑_{[γ]} Λ(γ)csch(l_{γ}/2)g(l_{γ}).

Posons ζ = z^{−1} et G = 1/2.g ∘ ζ. Alors

G(u) = ∫_{u}^{∞} L(ρ)(ρ − u)^{−1/2}dρ = 2 ∫_{0}^{∞} L(τ^{2} + u)dτ

d’où

∫_{s}^{∞} G′(u)(u − s)^{−1/2}du = 2 ∫_{0}^{∞} G′(μ^{2} + s)dμ
= 4 ∫_{0}^{∞} ∫_{0}^{∞} L′(τ^{2} + μ^{2} + s)dτdμ = 2π ∫_{0}^{∞} L′(ρ^{2} + s)ρdρ
= π ∫_{0}^{∞} L′(σ + s)dσ = −πL(s).

En faisant s = 0 et en exprimant g comme transformée de Fourier de h on obtient L(0) = ∫_{0}^{∞} h(r)ϕ(r)dr avec

ϕ(r) = −π^{−2} ∫_{0}^{∞} ρ^{−1/2} \frac{∂}{∂ρ}(cos rζ(ρ))dρ = (2π^{2})^{−1} ∫_{0}^{∞} r sin(ru)csch(u/2)du.

Cette intégrale se calcule par exemple par la méthode des résidus et on trouve que ϕ(r) = (2π)^{−1}r tanh(πr). On en déduit la formule des traces de Selberg:

∑_{n} h(r_{n}) = \frac{A}{π} ∫_{0}^{∞} rh(r) tanh(πr)dr + ∑_{[γ]} Λ(γ)csch(l_{γ}/2)g(l_{γ}).

Interprétons cette formule. La connaissance des r_{n} équivaut à la connaissance du spectre de Δ sur M. De plus, pour chaque γ ∈ Γ, l’axe de γ est une géodésique, qui par définition est fermée. Il est de plus clair que cette géodésique ne dépend que de la classe de conjugaison de γ. Réciproquement, à chaque géodésique fermée il est facile d’associer une telle classe d’éléments de Γ. On peut alors calculer la longueur de cette géodésique, et il apparaît immédiatement que c’est l_{γ}. La formule de Selberg est donc une relation reliant les trajectoires stationnaires quantiques (le spectre du laplacien) aux trajectoires stationnaires classiques (les géodésiques fermées), la connaissance des unes fournissant de précieux renseignements sur la distribution des autres.

3 Billards sur le plan hyperbolique

3.1 Position du problème

Il s’agit d’étudier les propriétés du spectre et des fonctions propres du laplacien sur une partie M du plan hyperbolique, avec des conditions aux limites diverses (Dirichlet, périodique,…).

La première propriété du spectre est la loi de Weyl:

N(T) = #\{n|λ_{n} ≤ T \} = \frac{A}{4π} T + O(T^{1/2}).

Autrement dit

λ_{n} ∼ \frac{4π}{A} n.

On s’intéresse alors aux fluctuations de ces valeurs propres. On examinera en particulier leur variance, qui mesure l’écart par rapport au nombre attendu:

Σ^{2}(λ, L) = \frac{1}{λ} ∫_{λ}^{2λ}(N(x + L) − N(x) − L)^{2}dx.

Cette définition ne prend tout son sens que quand λ ≫ L ≫ 1. Le comportement de Σ^{2} est connu pour certains modèles standard:

(i) Poisson: les λ_{j} forment un processus poissonnien, autrement dit les μ_{j} = λ_{j+1} − λ_{j} sont deux à deux indépendantes et suivent une loi P (μ_{j}) = e^{−μ_{j}}. On peut alors montrer que les λ_{j} suivent la loi de Poisson: P (λ_{n} ≤ λ < λ_{n+1}) = \frac{λ^{n}}{n!} e^{−λ}. L’espérance de la variance est alors Σ_{P oisson}^{2}(L) = L.

(ii) Ensembles gaussiens de Wigner: on distingue les ensembles GOE, GUE et GSE, correspondant respectivement à des matrices N ×N réelles symétriques, complexes hermitiennes, et “réelles quaternioniques”, dont les groupes d’automorphismes associés sont les groupes orthogonaux, unitaires et symplectiques. Ces ensembles ont été introduits pour l’étude statistique du spectre de gros atomes, chacun correspondant à des symétries de temps ou d’espace du problème.

Etudions plus profondément l’ensemble GOE. On le munit de la mesure invariante (sous l’action de O(N))

ds^{2} = tr(δHδH^{t}) = ∑_{1≤i≤N} dH_{ii}^{2} + 2 ∑_{1≤i<j≤N} dH_{ij}^{2},

d’où l’élément de volume

dH = 2^{N(N−1)/4} ∏_{1≤i≤N} dH_{ii} ∏_{1≤i<j≤N} dH_{ij}.

On impose alors les conditions suivantes: (a) les H_{ij} sont des variables aléatoires indépendantes, et (b) la probabilité P (H)dH de tomber dans l’élément de volume dH est invariante par transformation orthogonale.

La condition (a) implique que P (H) doive s’écrire P (H) = e^{S(H)} où S(H) est une somme de fonctions de chaque H_{ij}:

S(H) = ∑_{1≤i≤N} f_{i}(H_{ii}) + ∑_{1≤i<j≤N} f_{ij}(H_{ij}).

La condition (b) équivaut à dire que S(H) doit être fonction symétrique des valeurs propres de H, donc fonction des traces des puissances itérées de H. On se convaincra facilement que la seule forme acceptable est S(H) = −tr(H^{2})/4v^{2}, où v est un facteur d’échelle et

tr(H^{2}) = ∑_{1≤i≤N} H_{ii}^{2} + 2 ∑_{1≤i<j≤N} H_{ij}^{2}.

Les distributions des H_{ij} sont donc des gaussiennes centrées de variance (1 + δ_{ij})v^{2}.

Cherchons la distribution du spectre: soit O diagonalisant H: H = OEO^{t}, avec E diagonale; soient (p_{i})_{1≤i≤N(N−1)/2} des coordonnées locales caractérisant O. Posons

J = \frac{D(H_{11}, …, H_{NN}, H_{12}, …, H_{N−1,N})}{D(E_{1}, …, E_{N}, p_{1}, …, p_{N(N−1)/2})}

le jacobien du changement de variable. De H_{ij} = ∑_{k} E_{k}O_{ik}O_{jk} on tire que les N premières colonnes ne dépendent pas des valeurs propres, et les autres sont linéaires. J est donc un polynôme de degré N(N − 1)/2 en les valeurs propres. De plus, il s’annule en cas de dégénérescence. P étant indépendante de O, on trouve alors:

P (E_{1}, …, E_{N}) = Ce^{− \frac{1}{4v^{2}} ∑_{i} E_{i}^{2}} ∏_{i<j} |E_{i} − E_{j}|.

Le dernier facteur, provenant du jacobien, illustre le phénomène de répulsion des niveaux: les petits écarts ont une faible probabilité.

En fait on peut calculer Σ_{GOE}^{2}(L). Son terme principal est en (2/π^{2}) ln 2πL. On obtient aussi des Σ^{2} logarithmiques pour les ensembles GUE et GSE. On remarque que la variance des ensemble de Wigner est plus petite que celle du processus poissonnien. On nomme cette propriété la rigidité du spectre.

Outre le spectre, on peut aussi s’intéresser aux fonctions propres. Il existe de nombreuses conjectures sur la croissance en norme L^{p} ou L^{∞} de la suite des fonctions propres.

A chaque fonction propre ϕ est associée une mesure de probabilité dμ = |ϕ|^{2}dτ, que la mécanique quantique interprète comme la probabilité de présence d’une particule dans dτ. Un résultat récent permet d’associer à chaque géodésique fermée stable γ d’un billard une suite de valeurs propres λ_{k}, dépendant de la longueur de γ. Mieux: dans le cas intégrable, on peut prouver que les mesures μ_{k} associées aux λ_{k} convergent vers une mesure ν, mesure singulière sur la géodésique γ. Ce phénomène de localisation est une illustration du principe de correspondance. Dans le cas où le flot géodésique est ergodique, la situation paraît être totalement différente. On montre en effet que pour une sous-suite dense de valeurs propres, les mesures associées convergent vers la mesure de Liouville. Cependant, même dans ce dernier cas, des expériences numériques permettent de mettre en évidence la présence de “cicatrices” de géodésiques fermées sur certaines fonctions propres du laplacien.

3.2 Expériences numériques

On se restreint ici à l’étude des fluctuations du spectre.

De nombreuses simulations ont permis de dégager le résultat suivant: en général, les valeurs propres d’un système intégrable suivent une loi poissonnienne, tandis que celles d’un système chaotique suivent la théorie GOE. Autrement dit, le spectre d’un système intégrable est aléatoire tandis que celui d’un système chaotique est rigide.

Le spectre d’un billard octogonal régulier dont la somme des angles vaut 2π a été calculé par Ch.Schmit [G-V-Z]. On commence par désymétriser le problème pour éviter les dégénérescences. En exprimant le laplacien en coordonnées polaires, et à l’aide d’un bon changement de variable, on montre qu’une fonction propre peut s’exprimer comme superposition de fonctions du type fonctions de Legendre. On considère alors l’expansion de la fonction propre en somme de N telles fonctions, à laquelle on impose de s’annuler en N points du bord, ce qui permet de déterminer les coefficients inconnus. Contrairement à ce qui était prévu, le spectre n’est pas GOE mais poissonnien. Cela vient des propriétés arithmétiques de l’octogone considéré.

L’exemple typique de groupe arithmétique est P SL_{2}(ℤ). On en obtient d’autres en prenant ses sous-groupes de congruences, ou en prenant les coefficients dans l’anneau des entiers d’un corps de nombres, avec quelques autres conditions techniques. Par exemple, le triangle hyperbolique d’angles (π/m, π/m, 0), dont le groupe de Hecke est engendré par z ↦ −1/z et z ↦ z+2 cos(π/m), n’est arithmétique que pour m = 3, 4 et 6. Le cas m = 3 correspond à G = SL_{2}(ℤ), que nous allons étudier maintenant.

Pour montrer qu’un domaine fondamental de G est bien le triangle D = (|z| ≥ 1, |x| ≤ 1/2), et que G est endendré par S : z ↦ 1/z et T : z ↦ z + 1, on consultera [SER].

Remarquons que la formules des traces de Selberg ne peut pas s’appliquer telle quelle puisque certains éléments de G ont des points fixes, et parce que le domaine n’est pas compact.

Le programme fourni ci-après permet de calculer le spectre du demi-triangle d’angles (π/2, π/3, 0) (et donc d’aire π/6), avec condition de Dirichlet, par une méthode de discrétisation du laplacien, puis de relaxation. Le programme calcule donc aussi les fonctions propres. Cette méthode présente l’inconvénient de converger lentement et se prête mal à un calcul numérique. On peut cependant déjà remarquer que le spectre est peu rigide, ce qui est en accord avec une loi poissonnienne. Les résultats ont été corrigés de telle sorte qu’ils correspondent bien à une aire de π/6. A titre de comparaison, on a inclus les valeurs propres du problème fermé pair, calculées par Steil.

Le spectre peut se calculer de plusieurs façons, du fait de la situation arithmétique. Certaines méthodes, comme celle des opérateurs de Hecke convergent très rapidement.

3.3 Liens avec l’arithmétique

Les propriétés spectrales du laplacien sur G\H ont d’importantes conséquences en théorie des nombres.

La fonction ζ de Riemann est donnée par

ζ(s) = ∑_{n=1}^{∞} n^{−s} = ∏_{p}(1 − p^{−s})^{−1}.

C’est le développement de ζ en produit eulérien. Cette formule vaut pour ℜs > 1, et ζ admet un prolongement analytique et une équation fonctionnelle. Si on pose ξ(s) = π^{−s/2}Γ(s/2)ζ(s), alors on a ξ(s) = ξ(1 − s). L’hypothèse de Riemann dit que les zéros non-triviaux de ζ (dans la bande critique 0 < ℜs < 1) vérifient ℜs = 1/2. L’hypothèse de Lindelof fournit une borne sur la croissance de t ↦ ζ(1/2 + it). On peut aussi considérer des produits eulériens de degré supérieur, les fonctions L, qui sous certaines hypothèses admettent un prolongement analytique, une équation fonctionnelle, et des hypothèses de Riemann et Lindelof. Revenons au spectre de G\H. On trouve un spectre continu généralisé, à l’aide des séries d’Eisenstein

E(z, s) = ∑_{γ∈G_{∞}\G}(y(γz))^{s}

où G_{∞} est le groupe des translations par un entier naturel. On a ΔE(z, s) = s(1 − s)E(z, s). Les E(z, s) ne sont pas dans L^{2}. Cependant elles sont presque dans L^{2} pour ℜs = 1/2, ce qui donne le spectre continu. On peut le voir en les développant en série de Fourier, les séries obtenues étant rapidement convergentes. Ces séries font intervenir diverses fonctions arithmétiques, dont la fonction ξ.

De plus les conjectures sur les fonctions propres classiques s’appliquent aussi aux E(z, s). Mais l’étude de ces fonctions relève de la théorie des nombres (à titre d’exemple on a la relation E(i, s) = 4ζ_{k}(s)/ζ(2s) où ζ_{k} est la fonction zêta de Dedekind associée au corps k = Q(i)). Tout cela permet aussitôt d’établir un “dictionnaire” entre les deux domaines. On peut ainsi montrer que la conjecture de Lindelof est équivalente a une conjecture naturelle sur les normes des fonctions propres de Δ. On obtient les mêmes résultats pour des fonctions L plus générales en considérant d’autres groupes arithmétiques.

Bibliographie

[A-A] Arnold, Avez, Problèmes ergodiques de la mécanique classique, Gauthier-Villars

[B-K-S] Bedford, Keane, Series, Ergodic theory, symbolic dynamics and hyperbolic spaces, Oxford

[BER] Bérard, Spectral geometry: direct and inverse problems, Springer [B-G-M] Berger, Gauduchon, Mazet, Le spectre d’une variété riemannienne,

Springer [BRE] Brézis, Analyse fonctionnelle, Masson

[CH] Chavel, Eigenvalues in riemannian geometry, Academic Press

[D] Dieudonné, Pour l’honneur de l’esprit humain, Hachette

[G-V-Z] Giannoni, Voros, Zinn-Justin, Chaos et physique quantique, Les Houches 1989, North-Holland

[G-T] Gilbarg, Trudinger, Elliptic partial differential equations of second order, Springer

[H1] Hejhal, The Selberg trace formula for P SL(2, ℝ), vol 1 et 2, Springer [H2] Hejhal, Eigenvalues of the laplacian for Hecke triangle groups, Memoirs

of the AMS [K] Koblitz, Introduction to elliptic curves and modular forms, Springer

[SAR] Sarnak, Arithmetic quantum chaos

[SER] Serre, Cours d’arithmétique, PUF