Propriétes de Symétrie pour les Solutions d’ Equations aux Dérivées Partielles

Alain Gaudino et Mihai Mariş

Mercredi 28 Mai 1997

Le but de cet exposé est d’étudier certaines propriétés de symétrie de solutions d’équations aux dérivées partielles elliptiques. Nous n’étudions pas l’existence de ces solutions. Les outils de base utilisés seront le principe du Maximum, le lemme de Hopf (parfois appelé Principe du Maximum fort), ainsi qu’une méthode de translation d’hyperplans qui sera détaillée dans la suite.

1 Quelques outils de base

Soit Ω un domaine (ensemble ouvert et connexe) de R^{n}. Nous considérons l’opérateur différentiel (la convention de sommation est utilisée)

Lu = a_{ij}(x)u_{x_{i}x_{j}} + b_{i}(x)u_{x_{i}}

Dans toute la suite on suppose que a_{ij} = a_{ji}. On dit que L est elliptique s’il existe une fonction strictement positive μ définie sur Ω et telle que pour tout vecteur ξ ∈ R^{n} on a

a_{ij}(x)ξ_{i}ξ_{j} ≥ μ(x)|ξ|^{2}

Théorème 1 (Principe du Maximum) Supposons que les coefficients de L sont tels que les quantités

\frac{∑_{i=1}^{n} a_{ii}(x)}{μ(x)} et \frac{∑_{i=1}^{n} |b_{i}(x)|}{μ(x)}

sont bornées sur chaque boule fermée contenue dans Ω (c’est évidemment le cas si L est uniformément elliptique c’est à dire μ est constante dans Ω, et si les coefficients de L sont des fonctions localement bornées). Soit c une fonction négative (au sens large) dans Ω. Si u ∈ C^{2}(Ω) ∩ C(\overline{Ω}) satisfait l’inegalité différentielle

Lu + cu ≥ 0

dans Ω alors u ne peut pas atteindre un maximum strictement positif à l’intérieur de Ω.

Nous prouvons d’abord le résultat suivant:

Lemme 1.1 Si Lu ≥ 0 dans Ω et il existe x_{0} ∈ Ω tel que u(x) ≤ u(x_{0}) pour tout x ∈ Ω, alors u(x) = u(x_{0}) dans \overline{Ω} (ici nous ne faisons aucune hypothèse sur le signe de u(x_{0})).

Démonstration. Soit u(x_{0}) = m et soit M = {x ∈ Ω : u(x) = m}. Supposons que M ≠ Ω et considérons x_{1} ∈ Ω \ M. Il existe un arc γ dans Ω joignant x_{0} et x_{1}. Puisque γ est compact, on a que δ = dist(γ, ∂Ω) > 0. Soit \overline{x} ∈ γ \ M tel que r = dist(\overline{x}, M) < \frac{δ}{2}. Soit S la boule de centre \overline{x} et de rayon r. \overline{S} est contenue dans Ω, S ∩ M = ∅, mais ∂S ∩ M ≠ ∅.

Soit y_{0} ∈ ∂S ∩M. On choisit une boule plus petite S_{1} ⊂ S de rayon r_{1} < r tangente à S au point y_{0}. Alors u(x) < m dans \overline{S}_{1} \ \{y_{0}\}. Soit S_{2} ⊂ Ω une troisième boule de centre y_{0} et de rayon r_{2} < \frac{r_{1}}{2} . On pose T_{1} = ∂S_{2} ∩ \overline{S}_{1} et T_{2} = ∂S_{2} \ T_{1}. Comme T_{1} est compact et u(x) < m sur T_{1}, il existe ε_{1} > 0 tel que u(x) < m − ε_{1} pour tout x ∈ T_{1}.

Quitte à faire une translation des coordonnées dans R^{n}, on peut supposer que l’origine est le centre de S_{1} (il est évident qu’une telle translation ne change pas la forme de Lu). On considère alors la fonction

h(x) = e^{−α|x|^{2}} − e^{−αr_{1}^{2}}

où α > 0 sera choisi par la suite. Par un calcul facile on trouve que

Lh = 2αe^{−α|x|^{2}}(2α ∑_{i,j=1}^{n} a_{ij}x_{i}x_{j} − ∑_{i=1}^{n}(a_{ii} + b_{i}x_{i}))

Pour x ∈ \overline{S}_{2} on a ∑_{i,j=1}^{n} a_{ij}x_{i}x_{j} ≥ μ(x)|x|^{2} > μ(x)\frac{r_{1}^{2}}{4} et en utilisant l’hypothèse que

(∑_{i=1}^{n} a_{ii}(x))/μ(x) et (∑_{i=1}^{n} |b_{i}(x)|)/μ(x) sont bornées sur \overline{S}_{2} on peut choisir α assez grand pour

que Lh > 0 dans \overline{S}_{2}.

Soit k = max{h(x) : x ∈ T_{1}} et soit ε < ε_{1}/k. On pose v(x) = u(x) + εh(x). Sur T_{1} on a v(x) ≤ m − ε_{1} + εh(x) < m. Sur T_{2} on a h(x) < 0 (puisque |x| > r_{1} ), donc v(x) = u(x) + εh(x) < u(x) ≤ m. Alors v(x) < m sur T_{1} ∪ T_{2} = ∂S_{2} et v(y_{0}) = u(y_{0}) = m, donc v admet un point de maximum local y ∈ S_{2}. On en déduit que ∇v(y) = 0 et pour tout ξ ∈ R^{n},

∑_{i,j=1}^{n} v_{x_{i}x_{j}}(y)ξ_{i}ξ_{j} ≤ 0

Mais par l’ellipticité de l’opérateur L on a ∑_{i,j=1}^{n} a_{ij}(y)ξ_{i}ξ_{j} ≥ 0. On sait que si A et B sont des

matrices symétriques n × n et A ≥ 0, B ≤ 0 alors T r(AB) ≤ 0. Ainsi nous obtenons

0 ≥ ∑_{i,j=1}^{n} a_{ij}(y)v_{x_{i}x_{j}}(y) = (Lv)(y) = (Lu)(y) + ε(Lh)(y) > (Lu)(y),

ce qui contredit l’hypothèse Lu ≥ 0 dans Ω. Le lemme est démontré.

Démonstration du Théorème. Supposons que u admet un maximum strictement positif en un point x_{0} ∈ Ω et soit M = {x ∈ Ω : u(x) = u(x_{0})}. Alors M est fermé dans Ω. Si x′_{0} ∈ M, il existe une boule S ⊂ Ω de centre x′_{0} telle que u(x) > 0 dans \overline{S}. Alors Lu = (Lu + cu) − cu ≥ 0 dans S et u(x′_{0}) ≥ u(x) pour tout x ∈ S. On peut appliquer le lemme et on déduit u(x) = u(x′_{0}) pour tout x ∈ S, donc S ⊂ M. Ceci prouve que M est ouvert. Comme Ω est connexe, on a bien que M = Ω et u(x) = u(x_{0}) est constante dans Ω, contradiction.

Remarque 1. On peut prouver de la même manière que si u est une solution dans Ω de l’inégalité Lu + cu ≤ 0 avec c ≤ 0 alors u ne peut pas atteindre un minimum strictement négatif dans Ω.

Théorème 2 (Lemme de Hopf ) Nous faisons les mêmes hypothèses que précédemment. Supposons que Lu ≥ 0 dans Ω, u atteint son maximum au point P ∈ ∂Ω, u est continue dans Ω ∪ {P } et il existe une boule B ⊂ Ω avec u ∈ ∂B. Alors toute dérivée extérieure de u au point P est strictement positive, sauf si u est constante dans Ω.

Démonstration. Soit r le rayon de B. On peut supposer que l’origine est le centre de B. Soit K la boule de centre P et de rayon r/2. Nous considérons la fonction auxiliaire h définie par

h(x) = e^{−α|x|^{2}} − e^{−αr^{2}}

où α > 0 est choisi assez grand pour que Lh > 0 dans K ∩ B (comme dans la preuve du Principe du Maximum). Si u n’est pas constante, u < u(P) dans Ω. On peut choisir ε > 0 assez petit tel que u(x) + εh(x) < u(P) sur ∂K ∩ \overline{B}. Si on pose v(x) = u(x) + εh(x) on a Lv = Lu + εLh > 0 et v(x) ≤ v(P) sur ∂(K ∩ B) et par le Principe du Maximum v(x) ≤ v(P) sur K ∩ B.

Soit ν un vecteur au point P qui pointe vers l’extérieur de Ω et soit η la normale extérieure

au point P à ∂Ω. On a \frac{∂v}{∂ν} = \frac{∂u}{∂ν} + ε\frac{∂h}{∂ν} ≥ 0 au point P. Mais η = (\frac{x_{1}}{|x|}, …, \frac{x_{n}}{|x|}) et on a

\frac{∂h}{∂x_{i}} = −2αx_{i}e^{−α|x|^{2}},

\frac{∂h}{∂ν}(P) = −2α|x|e^{−αr^{2}} ∑_{i=1}^{n} ν_{i}η_{i} < 0 .

Comme évidemment \frac{∂v}{∂ν} (P) ≥ 0 on voit bien que \frac{∂u}{∂ν}(P) > 0 ce qui achève la démonstration.

Théorème 3 (Lemme de Hopf généralisé) En gardant les hypothèses sur L, supposons que u ≤ 0 satisfait dans Ω l’inégalité

Lu + cu ≥ 0

et de plus c/μ est localement bornée (mais nous ne faisons aucune hypothèse sur le signe de la fonction c). Supposons qu’il existe une boule B dans Ω et un point P ∈ ∂B ∩ ∂Ω tel que u est continue dans Ω ∪ {P } et u(P) = 0. Alors pour tout vecteur ν qui pointe vers l’extérieur de Ω au point P on a

\frac{∂u}{∂ν}(P) > 0

sauf si u est constante (identiquement nulle) dans Ω.

Démonstration. Posons v = e^{−αx_{1}}u , α > 0. On obtient

0 ≤ Lu + cu = e^{αx_{1}}[a_{ij}(x)v_{x_{i}x_{j}} + (2αa_{1i} + b_{i})v_{x_{i}}] + e^{αx_{1}}v(α^{2}a_{11} + αb_{1} + c),

donc

(a_{ij}(x)v_{x_{i}x_{j}} + (2αa_{1i} + b_{i})v_{x_{i}}) + v(α^{2}a_{11} + αb_{1} + c) ≥ 0.

Si on choisit α suffisamment grand, α^{2}a_{11} + αb_{1} + c ≥ 0 dans B. Comme v ≤ 0, on a

a_{ij}(x)v_{x_{i}x_{j}} +(2αa_{1i}+b_{i})v_{x_{i}} ≥ 0 dans B et par le théorème précédent on conclût que \frac{∂v}{∂ν} (P) > 0.

Mais \frac{∂u}{∂ν}(P) = e^{αx_{1}} \frac{∂v}{∂ν} (P) + \frac{∂}{∂ν} (e^{αx_{1}})v(P) = e^{αx_{1}} \frac{∂v}{∂ν} (P) > 0, d’où le résultat.

Remarque. Exactement la même méthode nous permet de montrer que dans les conditions du Principe du Maximum, si on suppose que la fonction u ≤ 0 satisfait Lu + cu ≥ 0 dans Ω et u = 0 en un point x_{0} ∈ ∂Ω, alors u est identiquement nulle dans Ω, sans aucune hypothèse sur le signe de c. Cette assertion est fausse si on ne demande pas que u ≤ 0.

Nous utiliserons dans la suite la méthode des “moving planes” qui consiste à translater des hyperplans perpendiculairement à une direction fixée. Nous allons décrire cette méthode géométriquement.

Soit Ω un ouvert borné à bord régulier dans R^{n}. Soit γ un vecteur unitaire et soit T_{λ} l’hyperplan {γ · x⃗ = λ}. Pour λ = λ̃ assez grand, Tλ̃ et Ω sont disjoints. Si on décroit λ, l’hyperplan bouge continûment vers Ω en préservant la même normale jusqu’à ce qu’il commence à intersecter \overline{Ω} pour une certaine valeur λ_{0} du paramètre λ. A partir de ce moment, à chaque instant l’hyperplan T_{λ} découpe de Ω une partie ouverte située du même côté de T_{λ} que Tλ̃; nous appellerons cet ensemble Σ(λ). Soit Σ′(λ) le symétrique de Σ(λ) par rapport à T_{λ}. Au début Σ′(λ) sera contenu dans Ω et il restera dans Ω au moins jusqu’à ce qu’un des ces deux évènements se produise:

(i) Σ′(λ) devient tangente à ∂Ω en un certain point P qui n’appartient pas à T_{λ};

(ii) T_{λ} devient orthogonal à la frontière de Ω en un certain point Q.

Soit λ_{1} la valeur du paramètre λ lorsque l’un de ces évènements se produit pour la première fois. On appelle Σ(λ_{1}) = Σ_{γ} la coupure maximale associée au vecteur γ. Il est évident que le symétrique Σ′_{γ} de Σ_{γ} est contenu dans Ω. On note T_{λ_{1}} par T_{γ}; x^{λ} sera le symétrique d’un point x par rapport au T_{λ}.

Il est possible que Σ′(λ) reste encore dans Ω pour des valeurs de λ inférieures à λ_{1}. Dans ce cas, Σ′(λ) restera dans Ω pour λ dans un intervalle maximal [λ_{2}, λ_{0}], λ_{2} ≤ λ_{1}. On appellera Σ(λ_{2}) la coupure optimale associée γ. Evidemment soit Σ′(λ_{2}) est tangente à ∂Ω en un point qui n’appartient pas à T_{λ_{2}}, soit T_{λ_{2}} est orthogonal à ∂Ω.

2 Une première application

Pour illustrer les idées présentées, nous allons prouver le résultat suivant:

Théorème 4 [ Serrin ] Soit Ω un domaine borné de R^{N} dont la frontière est de classe C^{2}. Supposons qu’il existe une fonction u ∈ C^{2}(\overline{Ω}) qui satisfait

(1) △u = −1 dans Ω et

(2) u = 0 , \frac{∂u}{∂n} = c = constant sur ∂Ω.

Alors Ω est une boule et u est de la forme (b^{2} − r^{2})/2N, où b est le rayon de la boule et r est la distance d’un point au centre de la boule.

Démonstration. Nous démontrerons que pour toute direction γ dans R^{n}, Ω est symétrique par rapport au T_{γ}. Il en résultera que Ω est une boule. La fonction (b^{2} − r^{2})/2N est une solution du problème (1) et (2) dans cette boule, et le Principe du Maximum implique qu’elle est unique.

Soit γ une direction fixée. Dans Σ′_{γ} on définit la fonction v par v(x) = u(x^{λ_{1}}). Evidemment

v satisfait △v = −1 dans Σ′_{γ} , v = u sur ∂Σ′_{γ} ∩ T_{γ} et \frac{∂v}{∂n} = c sur ∂Σ′_{γ} \ T_{γ}. On considère la fonction u − v dans Σ′_{γ}. On a:

△(u − v) = 0 dans Σ′_{γ}

u − v = 0 sur ∂Σ′_{γ} ∩ T_{γ} et u − v ≥ 0 sur ∂Σ′_{γ} \ T_{γ}

Le principe du Maximum implique que soit u − v > 0 sur Σ′_{γ}, soit u ≡ v dans Σ′_{γ}. Dans ce dernier cas, ∂Σ′_{γ} \T_{γ} ⊂ ∂Ω (parce que u > 0 sur Ω ) et on voit facilement que Ω est symétrique par rapport à T_{γ}.

Il nous reste donc à prouver qu’il est impossible d’avoir u − v > 0 sur Σ′_{γ}.

Supposons qu’on a u − v > 0 sur Σ′_{γ}. Dans la cas (i), Σ′_{γ} est tangente à ∂Ω en un point P

qui n’appartient pas à T_{γ}. Alors (u − v)(P) = 0 et par le Lemme de Hopf, \frac{∂}{∂n}(u − v)(P) < 0,

ce qui contredit le fait que \frac{∂u}{∂n}(P) = \frac{∂v}{∂n}(P) = c.

Dans le cas (ii), ∂Ω est orthogonale à T_{γ} en un point Q. Considérons un système de cordonnées d’origine le point Q, l’axe des x_{N} à la direction de la normale intérieure à ∂Ω et l’axe x_{1} est normal à T_{γ}. Comme ∂Ω est de classe C^{2}, on peut la représenter localement au voisinage de Q par une équation de la forme

x_{N} = ϕ(x_{1}, …, x_{N−1}) , ϕ de classe C^{2}.

Les conditions u = 0 et \frac{∂u}{∂n} = c sur sur ∂Ω s’écrivent

(1)  u(x_{1}, …, x_{N−1}, ϕ) = 0 et

(2)  u_{x_{N}} − ∑_{k=1}^{N−1} u_{x_{k}}ϕ_{x_{k}} = c[1 + ∑_{k=1}^{N−1}(ϕ_{x_{k}})^{2}]^{1/2}.

Différentiant (1) on obtient

u_{x_{i}} + u_{x_{N}} ϕ_{x_{i}} = 0 , i = 1, …, N − 1.

Au point Q on trouve u_{x_{i}} = 0, u_{x_{N}} = −c. On dérive la dernière relation par rapport à x_{j}, et on évalue en Q; on a:

u_{x_{i}x_{j}} + cϕ_{x_{i}x_{j}} = 0 en Q.

On dérive (2) par rapport à x_{i} et on prend la valeur au point Q. On trouve u_{x_{N} x_{i}}(Q) = 0.

On a aussi u_{x_{N} x_{N}} = − ∑_{i=1}^{N−1} u_{x_{i}x_{i}} − 1 = c△ϕ − 1 (en Q). Puisque Σ′_{γ} ⊂ Ω, les dérivées

secondes de ϕ en Q satisfont ϕ_{x_{1}x_{l}}(Q) = 0, l = 2, …, N − 1. De tout ceci et du fait que v(x_{1}, …, x_{N}) = u(−x_{1}, …, x_{N}) on déduit que les dérivées premières et secondes de u et v en Q coincident. Mais le lemme suivant montre que ceci donne une contradiction, et donc le cas (ii) est impossible. Il suffit alors de prouver le

Lemme 4.1 Soit D^{⋆} un domaine avec la frontière de classe C^{2} et soit T un hyperplan contenant la normale à ∂D^{⋆} en un point Q. Soit D la partie de Ω située d’un côté de T. Supposons que w est de classe C^{2} dans \overline{D} et satisfait △w ≤ 0 dans D, w ≥ 0 dans D et w(Q) = 0. Soit s⃗

une direction qui entre au point Q dans D et qui n’est pas tangente ∂D. Alors soit \frac{∂w}{∂s} (Q) > 0,

soit \frac{∂^{2}w}{∂s^{2}} (Q) > 0 sauf si w est identiquement nulle.

Démonstration. Soit K_{1} ⊂ D^{⋆} une boule qui est tangente à ∂D^{⋆} en Q (une telle boule existe car ∂D^{⋆} est de classe C^{2}). On choisit les coordonnées telles que le centre de K_{1} soit l’origine et T soit le plan {x_{1} = 0}. On peut même supposer que x_{1} > 0 dans D. Soit r_{1} le rayon de K_{1} et soit K_{2} la boule de centre Q et de rayon \frac{1}{2}r_{1}. On note K′ = K_{1} ∩ K_{2} ∩ D. Considérons la fonction auxiliaire

z(x) = x_{1}(e^{−α|x|^{2}} − e^{−αr_{1}^{2}}) ,

où α est une constante positive. Il est évident que z > 0 dans K′, z = 0 sur ∂K_{1} et sur T. On calcule

△z = 2αx_{1}e^{−α|x|^{2}}(2α|x|^{2} − (n + 2))

On a |x| ≥ r_{1}/2 dans K′ et on peut choisir α suffisamment grand (par exemple α > 4(n+2)/r_{1}^{2}) pour avoir △z > 0 dans K′.

Supposons que w n’est pas identiquement nulle dans D. Par le Principe du Maximum on a w > 0 dans D. La partie de ∂K′ située sur ∂K_{2} intersecte la frontière de D seulement dans le plan T. De plus, il existe une constante d > 0 telle que la distance de ∂K′ ∩ ∂K_{2} ∩ T à ∂D^{⋆} ∩ T est supérieure à d. En utilisant le Lemme de Hopf, on peut déduire qu’il existe une constante ε > 0 telle que w ≥ εx_{1} sur ∂K′ ∩ ∂K_{2}. On a aussi w ≥ 0 sur ∂K′ ∩ ∂K_{1} et sur ∂K′ ∩ T. Evidemment, z ≤ x_{1} sur ∂K′ ∩ ∂K_{2}. On voit alors que la fonction w − εz est positive sur ∂K′, s’annule au point Q et △(w − εz) = △w − ε△z < 0 dans K′. Donc au point Q,

soit \frac{∂(w − εz)}{∂s} > 0, soit \frac{∂^{2}(w − εz)}{∂s^{2}} ≥ 0. Mais par un calcul direct on trouve \frac{∂z}{∂s}(Q) = 0 et

\frac{∂^{2}z}{∂s^{2}} (Q) > 0, et on obtient ainsi la conclusion du lemme.

3 Résultats Principaux

Le but de la méthode des “moving planes” est de démontrer un ensemble de théorèmes assez forts portant tant sur la forme nécessaire de Ω que sur les propriétés de solutions éventuelles ( Nous ne discutons pas l’existence de ces solutions ). Le théorème qui motive cette approche est:

Théorème 5 Soit Ω = B(0, R) ⊂ R^{n} où R > 0. Soit f ∈ C^{1}(R). On étudie une solution de

(3)  \{ \begin{matrix}△u + f(u) = 0 \\ u = 0 & sur ∂Ω \\ u ∈ C^{2}(\overline{Ω}) \\ u > 0 & sur Ω \end{matrix}

Alors nécessairement u admet la symétrie sphérique et \frac{∂u}{∂r} < 0 pour 0 < r < R.

On peut remarquer qu’aucune propriété sur f n’est demandée. Le théorème général qui permet de démontrer ce résultat est le suivant: il fait appel, dans son écriture même, au procédé des “moving planes” utilisé pour la démonstration.

Théorème 6 Soit Ω un ouvert connexe borné de R^{n}, de bord “suffisamment régulier” (au moins C^{2}); et γ le vecteur (1, 0, ⋯, 0). On considère f ∈ C^{1}(R); et b_{1} ∈ C(\overline{Ω}) tel que b_{1} ≥ 0 sur Σ_{γ} ∪ Σ′_{γ} et on étudie

(4)  \{ \begin{matrix}△u + b_{1}u_{x_{1}} + f(u) = 0 \\ u > 0 & sur Ω \\ u = 0 & sur ∂Ω ∩ \{ x_{1} > λ_{1} \} \\ u ∈ C^{2}(Ω) ∩ C^{2}(\overline{Ω} ∩ \{ x_{1} > λ_{1} \}) \end{matrix}

Alors ∀λ ∈]λ_{1}, λ_{0}[ on a

(5)  ∀x ∈ Σ(λ) \{ \begin{matrix}u_{x_{1}}(x) < 0 \\ u(x) < u(x^{λ}) \end{matrix}

et donc u_{x_{1}} < 0 sur Σ_{γ}. De plus, si ∃y ∈ T_{γ} vérifiant u_{x_{1}}(y) = 0 alors nécessairement

• Ω = Σ_{γ} ∪ Σ′_{γ} ∪ (T_{γ} ∩ Ω)

• b_{1} ≡ 0

• u est symétrique par rapport à T_{γ}

On en tire aisément le théorème 5: Démonstration du théorème 5: Soit γ une direction arbitraire. Par un changement de coordonnées, on peut considérer γ = (1, 0, ⋯, 0). Le théorème 6 impose u_{x_{1}} < 0 si x_{1} > 0, et donc u_{x_{1}} > 0 si x_{1} < 0. En conséquence, u_{x_{1}} = 0 sur T_{0}. Par la deuxième assertion du théorème 6, u est symétrique en x_{1}. Comme la direction γ est arbitraire, on a bien la conclusion.

La démonstration du théorème 6 requiert l’utilisation de deux lemmes techniques, essentiellement basés sur le lemme de Hopf. Nous allons admettre provisoirement ces lemmes afin de présenter directement l’utilisation des “moving planes”.

Lemme 6.1 Les hypothèses sur u et Ω sont reprises. Soit x_{0} ∈ ∂Ω, tel que n⃗(x_{0}).x⃗_{1} > 0 ( la normale externe comporte une composante pointant vers les x_{1} positifs ). On note Ω_{ε} = Ω ∩ B(x_{0}, ε) Si u ∈ C^{2}(\overline{Ω_{ε}}), u > 0 sur Ω, et u = 0 sur ∂Ω ∩ \{|x − x_{0}| < ε\}

Alors ∃δ > 0 tel que \frac{∂u}{∂x_{1}} < 0 sur Ω ∩ B(x_{0}, δ).

Lemme 6.2 Soit λ ∈ [λ_{1}, λ_{0}[.

Si \{ \begin{matrix}u_{x_{1}}(x) ≤ 0 \\ u(x) ≤ u(x^{λ}) sur Σ(λ) \\ u(x) ≢ u(x^{λ}) \end{matrix} Alors \{ \begin{matrix}u(x) < u(x^{λ}) & sur Σ(λ) \\ u_{x_{1}}(x) < 0 & sur Ω ∩ T_{λ} \end{matrix}

Démonstration du Théorème 6: Par les hypothèses sur ∂Ω, λ_{1} < λ_{0}. D’après le lemme 6.1, il existe une valeur de μ < λ_{0} telle que (5) soit vérifiée pour tout η ∈ [μ, λ_{0}]. Soit μ = Sup{η : (5) n’est pas vérifiée en η} Nécessairement, λ_{1} ≤ μ < λ_{0}

donc ∀x ∈ Σ(μ) on a \{ \begin{matrix}u_{x_{1}}(x) < 0 \\ u(x) ≤ u(x^{μ}) \end{matrix}

Si μ > λ_{1} alors ∀x_{0} ∈ ∂Σ(μ) \ T_{μ} on a x_{0}^{μ} ∈ Ω. Donc u(x_{0}^{μ}) > 0 (= u(x_{0})) d’où u(x) ≢ u(x^{μ}) sur Σ(μ). Le lemme 6.2 s’applique, et donc le résultat (5) est vrai pour μ. Comme u_{x_{1}} < 0 sur Ω ∩ T_{μ} il existe ε tel que u_{x_{1}} < 0 sur Ω ∩ {x_{1} > μ − ε}. [ Ceci car \overline{Ω} ∩ T_{μ} est compact et que

• ∀x ∈ Ω ∩ T_{μ} il existe ε_{x} tel que u_{x_{1}} < 0 sur B(x, ε_{x})

• ∀x ∈ ∂Ω ∩ T_{μ} il existe δ tel que u_{x_{1}} < 0 sur Ω ∩ B(x, δ) d’après le lemme 6.1 Par compacité, ∃ε tel que u_{x_{1}} < 0 sur Ω ∩ {x_{1} > μ − ε}. ] Par la définition de μ, il existe une suite croissante λ^{j}, dont les termes sont tous supérieurs à λ_{1}, qui tend vers μ, et qui ne vérifie pas (5) (ce qui est possible car μ > λ_{1}) ainsi qu’une suite (x_{j}) vérifiant x_{j} ∈ Σ(λ_{j}) et u(x_{j}) ≥ u(x_{j}^{λ_{j}}). On extrait une sous-suite convergente (que l’on nomme aussi (x_{j})), de limite x ∈ \overline{Σ(μ)}. Mais alors x_{j}^{λ_{j}} ⟶ x^{μ} et u(x) ≥ u(x^{μ}). Comme (5) est vérifié en μ, x ∉ Σ_{μ}. On ne peut avoir x ∈ ∂Σ_{μ} \ T_{μ}, car on aurait alors u(x) = 0 donc u(x^{μ}) ≤ 0 donc x^{μ} ∈ ∂Ω, ce qui est faux. Donc x ∈ T_{μ} et x = x^{μ}. Considérons [x_{j}, x_{j}^{λ_{j}}]. On a que [x_{j}, x_{j}^{λ_{j}}] ⊂ Ω (par la définition de λ_{j}) or u(x_{j}) ≥ u(x_{j}^{λ_{j}}) donc ∃y_{j} ∈ [x_{j}, x_{j}^{λ_{j}}] tel que u_{x_{1}}(y_{j}) ≥ 0. Mais y_{j} ⟶ x donc y_{j} ∈ Σ_{μ−ε} au delà d’un certain rang, ce qui contredit u_{x_{1}} < 0 sur Σ_{μ−ε} , donc λ_{1} = μ. La première conclusion est prouvée. Pour obtenir la deuxième conclusion: supposons qu’ il existe y ∈ T_{γ} annulant la dérivée u_{x_{1}}, la contraposée du lemme 6.2 implique u(x) ≡ u(x^{λ_{1}}) sur Σ_{γ}. Si x ∈ ∂Σ_{γ} \ T_{γ} alors u(x) = 0 or u > 0 sur Ω donc x ∈ ∂Ω d’où la forme de Ω et la symétrie de u. D’après l’équation vérifiée par u sur Ω et la symétrie par rapport à T_{γ},

b_{1}(x)u_{x_{1}}(x) = b_{1}(x^{λ_{1}})u_{x_{1}}(x^{λ_{1}})

Sur Σ_{γ} on a \{ \begin{matrix}b_{1}(x)u_{x_{1}}(x) < 0 \\ b_{1}(x^{λ_{1}})u_{x_{1}}(x^{λ_{1}}) ≥ 0 \end{matrix} si b_{1}(x) ≠ 0, ce qui est impossible, donc b_{1} ≡ 0 sur \overline{Σ_{γ}}.

De même pour Σ′_{γ}. Le théorème est prouvé.

On va maintenant prouver les deux lemmes.

Démonstration du lemme 6.1: Notons tout d’abord que les hypothèses du lemme 6.1 sont couvertes par les hypothèses du théorème 6.

Puisque u > 0 sur Ω; u_{x_{1}} ≤ 0 sur ∂Ω ∩ B(x_{0}, ε) (au besoin en réduisant ε pour avoir des normales externes pointant vers x_{1} > 0). Raisonnons par l’absurde: supposons qu’on a une suite x^{j} convergeant vers x_{0}; telle que u_{x_{1}}(x^{j}) ≥ 0. Par passage à la limite, on obtient u_{x_{1}}(x_{0}) ≥ 0 d’où u_{x_{1}}(x_{0}) = 0.

De plus pour j assez grand, la projection x_{0}^{j} de x^{j} sur ∂Ω selon x_{1} appartient à Ω_{ε} et donc u_{x_{1}}(x_{0}^{j}) ≤ 0; donc il existe y^{j} dans [x^{j}, x_{0}^{j}] tel que u_{x_{1}x_{1}}(y^{j}) ≤ 0. Pour j → ∞ , on obtient u_{x_{1}x_{1}}(x_{0}) ≤ 0.

Si f(0) ≥ 0 alors △u+b_{1}u_{x_{1}} +f(u) ≤ f(0). Soit une fonction c_{1}, telle que ∀x, f(u)−f(0) = c_{1}(x)u. Alors △u + b_{1}u_{x_{1}} + c_{1}u ≤ 0 et u > 0. Le lemme de Hopf s’applique à −u puisque le laplacien est elliptique, et que u s’annule en x_{0} et est continue en x_{0} , donc u_{x_{1}}(x_{0}) < 0: contradiction.

Si f(0) < 0, comme u_{x_{1}}(x_{0}) = 0, on a △u(x_{0}) = −f(0). On trouve que u_{x_{i}x_{j}} = −f(0)n_{i}n_{j} (où n⃗ est la normale externe). En particulier, u_{x_{1}x_{1}}(x_{0}) > 0, d’où la contradiction. Le lemme est prouvé.

Le lemme 6.2 utilise les mêmes idées. Démonstration du lemme 6.2: Définissons v, fonction de Σ′(λ) dans R, par v(x) = u(x^{λ}). Ainsi v vérifie:

\{ \begin{matrix}v_{1} ≥ 0 & car u_{1} ≤ 0 \\ △v − b_{1}(x^{λ})v_{x_{1}} + f(v) = 0 \end{matrix}

D’où par soustraction

△(v − u) + b_{1}(x)(v − u)_{x_{1}} + f(v) − f(u) = [b_{1}(x^{λ}) + b_{1}(x)]v_{x_{1}} ≥ 0 sur Σ′(λ).

Avec la notation w = v − u (w ≤ 0 et w ≢ 0 sur Σ′(λ)) et le même c_{1} que précédemment

△w + b_{1}w_{x_{1}} + c_{1}w ≥ 0

par le principe du maximum, on a w < 0 sur Σ′(λ) et donc la première assertion par le lemme de Hopf, on a w_{x_{1}} > 0 sur T_{λ} ∩ Ω;

or w_{x_{1}} = v_{x_{1}} − u_{x_{1}} = −2u_{x_{1}} d’où le résultat.

Ce théorème permet de démontrer les résultats qui suivent:

Théorème 7 Soit u définie sur une couronne: R′ < |x| ≤ R solution de:

△u + f(u) = 0
u = 0  sur le bord
u > 0
u ∈ C^{2}

Alors \frac{∂u}{∂r} < 0 sur la couronne \frac{R′ + R}{2} ≤ |x| < R

Démonstration: Pour toute direction γ, la valeur de λ_{1} est \frac{R′+R}{2}. La réunion des callotes Σ_{γ}

obtenues pour toutes les directions est cette couronne. A priori, on obtient \frac{∂u}{∂r} < 0 sur \frac{R′ + R}{2} <

|x| < R. Cependant, si ∃x tel que \{ \begin{matrix}|x| = \frac{R′+R}{2} \\ \frac{∂u}{∂r}(x) = 0 \end{matrix} alors la couronne sera symétrique par rap-

port au plan T_{γ} , ce qui est faux.

Nota: il faut prendre garde au fait que l’ouvert est “creux”: on n’a aucun résultat de symétrie sphérique.

Théorème 8 Soit u ∈ C^{2}(]0, 1[, R), solution de u′′ + bu′ + f(u) = 0 où f ∈ C^{1}(R); b ∈

C^{0}(]0, 1[), positive. Si u vérifie \{ \begin{matrix}u continue en 1 \\ u(x) > u(1) & sur ]0, 1[ \end{matrix} , alors u′ < 0 sur ]\frac{1}{2}, 1[.

De plus, si u′(1/2) = 0 alors

• u est symétrique par rapport à 1/2

• b ≡ 0

Démonstration: On remarque à nouveau que 1/2 est le milieu de l’intervalle. Cependant, on ne considère plus que la continuité de u en 1. Considérons m_{n} = inf\{u(x) : x ∈ [\frac{1}{n}, 1 − \frac{1}{n}]\}. Par l’hypothèse, on a u(1 − \frac{1}{n}) ≥ m_{n} > u(1). Par continuité de u, il existe des points x dans [1 − \frac{1}{n}, 1[ tels que u(x) = m_{n}. Soit δ_{n} = inf\{x ∈ [1 − \frac{1}{n}, 1[ : u(x) = m_{n}\}. Alors u(x) ≥ u(δ_{n}) pour tout x dans [1 − \frac{1}{n}, δ_{n}], donc la fonction v_{n}(x) = u(x) − u(δ_{n}) est positive sur [\frac{1}{n}, δ_{n}], v_{n}(δ_{n}) = 0 et v_{n} vérifie l’équation:

v′′_{n} + bv′_{n} + f(v_{n} + u(δ_{n})) = 0

Par le théorème 6, on a v′_{n} > 0 et v_{n}(δ_{n} + \frac{1}{n} − x) ≥ v_{n}(x) sur ]\frac{δ_{n} + \frac{1}{n}}{2} , δ_{n}[. En faisant tendre

n vers l’infini, on obtient u′ > 0 et u(1 − x) ≥ u(x) sur ]\frac{1}{2}, 1[.

Si u′(\frac{1}{2}) = 0, on applique le théorème 6 sur ]\frac{1}{n}, 1 − \frac{1}{n}[ (car u décroit sur ]\frac{1}{2}, 1 − \frac{1}{n}[ et u(x) ≥ u(1 − x) sur ]\frac{1}{n}, \frac{1}{2}[), et donc u est symétrique par rapport à 1/2 et b ≡ 0 sur l’intervalle ]\frac{1}{n}, 1 − \frac{1}{n}[. Ceci pour tout n, d’où la conclusion.

Généralisation: On peut affaiblir les conditions sur f: celle-ci peut être somme d’une fonction C^{1} et d’une fonction croissante (même non continue). En effet, toutes les preuves ont nécessité des inégalités que vérifie la partie C^{1} de f. On peut généraliser la forme des domaines Ω: on a jusqu’ici réclamé des ouverts à bord réguliers, mais on peut introduire des “angles” (considérer par exemple des cylindres que l’on retrouve souvent en mécanique des fluides [pour les écoulements dans un cylindre] ou en électricité.) On peut aussi considérer des équations plus complexes (non linéaires), au prix d’un surcroît de régularité demandé à la solution. Pour cela, on ne va plus se limiter à déplacer des plans jusqu’à la valeur maximale λ_{1} mais jusqu’à la valeur optimale λ_{2}. En considérant une équation F (x, u, u_{2}, ⋯, u_{n}, u_{11}, u_{βγ}) = 0 où F est elliptique, suffisammment régulière, et qu’on impose à u:

u = 0  sur ∂Ω
u > 0  sur Ω
u ∈ C^{2}(\overline{Ω})  et non plus C^{2}(\overline{Ω} ∩ \{ x_{1} > λ_{1} \})

alors les résultats du théorème 6 sont vérifiés.

Bibliographie:

1. Gidas B., Wei-Ming Ni,Nirenberg L.:Symmetry and Related Properties via the Maximum Principle; Commun. Math. Phys. 68, 209-243 (1979)

2. Serrin J.: A symmetry problem in potential theory; Arch. Ration. Mech. 43, 304-318 (1971)

3. Smoller Joel , Shock Waves and Reaction-Diffusion Equations ; second edition, Springer-Verlag (1994)

4. Protter M., Weinberger H., Maximum Principles in Differential Equations; Prentice - Hall (1967)