Séminaire Bourbaki. Volume 2010/2011. Exposés 1027–1042 2856293514, 9782856293515

Citation preview

348

ASTÉRISQUE

XXXXXXXXXXFIRSTPAGEXXXXXXXXXX

2012

SÉMINAIRE BOURBAKI VOLUME 2010/2011 EXPOSÉS 1027-1042 Avec table par noms d’auteurs de 1948/49 à 2010/11

SOCIÉTÉ MATHÉMATIQUE DE FRANCE Publié avec le concours du CENTRE NATIONAL DE LA RECHERCHE SCIENTIFIQUE

Astérisque est un périodique de la Société Mathématique de France. Numéro 348, octobre 2012

Comité de rédaction Damien Gaboriau Michael Harris Fabrice Planchon Pierre Schapira Bertrand Toen

Ahmed Abbes Viviane Baladi Laurent Berger Gérard Besson Philippe Biane Hélène Esnault Éric Vasserot (dir.) Diffusion Maison de la SMF Case 916 - Luminy 13288 Marseille Cedex 9 France [email protected]

Hindustan Book Agency O-131, The Shopping Mall Arjun Marg, DLF Phase 1 Gurgaon 122002, Haryana Inde

AMS P.O. Box 6248 Providence RI 02940 USA www.ams.org

Tarifs Abonnement

Vente au numéro : 94 e ($ 141) Europe : 472 e, hors Europe : 512 e ($ 768)

Des conditions spéciales sont accordées aux membres de la SMF. Secrétariat : Nathalie Christiaën Astérisque Société Mathématique de France Institut Henri Poincaré, 11, rue Pierre et Marie Curie 75231 Paris Cedex 05, France Tél : (33) 01 44 27 67 99 • Fax : (33) 01 40 46 90 96 [email protected]

•

http://smf.emath.fr/

© Société Mathématique de France 2012 Tous droits réservés (article L 122–4 du Code de la propriété intellectuelle). Toute représentation ou reproduction intégrale ou partielle faite sans le consentement de l’éditeur est illicite. Cette représentation ou reproduction par quelque procédé que ce soit constituerait une contrefaçon sanctionnée par les articles L 335–2 et suivants du CPI.

ISSN 0303-1179 ISBN 978-285629351-5 Directrice de la publication : Aline BONAMI

348

ASTÉRISQUE 2012

SÉMINAIRE BOURBAKI VOLUME 2010/2011 EXPOSÉS 1027-1042 Avec table par noms d’auteurs de 1948/49 à 2009/10

SOCIÉTÉ MATHÉMATIQUE DE FRANCE Publié avec le concours du CENTRE NATIONAL DE LA RECHERCHE SCIENTIFIQUE

Association des collaborateurs de Nicolas Bourbaki. École normale supérieure, 45, rue d’Ulm, F-75230 Paris Cedex 05. URL : http://www.bourbaki.ens.fr

Mots-clefs et classification mathématique par sujet (2000) Exposé no 1027. — Théorie du contrôle, équations aux dérivées partielles, mécanique des fluides — 93C20, 35Q30, 35Q31. Exposé no 1028. — Méthodes de crible, équirépartition, propriété (tau), graphes expanseurs — 11N05, 11N35, 11N36, 20F69, 05C25. Exposé no 1029. — Invariant de Kervaire, groupes d’homotopie stable, théorie de l’homotopie stable équivariante, théorie de l’homotopie chromatique, spectres en anneaux structurés — 55Q45. Exposé no 1030. — Physique statistique, analyse complexe discrète, invariance conforme, modèle d’Ising — 60K35, 82B20, 52C26, 60J67, 81T40. Exposé no 1031. — Programme de Langlands p-adique, GL2 (Qp ), cohomologie complétée, compatibilité local-global — 11S37, 11F70, 11F80, 22E55. Exposé no 1032. — Conjecture de Zilber-Pink, intersections exceptionnelles, variétés semi-abéliennes, hauteurs, problème de Lehmer, conjecture de Bogomolov — 11G10, 11G50, 14K12, 14K15. Exposé no 1033. — Spectral sparsification, approximate John decomposition, dimensionality reduction, restricted invertibility — 65F50, 15A63, 46B85, 52A23, 46B07. Exposé no 1034. — Fonctions BV, transport de Brenier, inégalité de Sobolev à trace, asymétrie, corps convexes — 26A45, 53A10, 49Q15, 28A75. Exposé no 1035. — Hitchin fibration, fundamental lemma, trace formula, Langlands program, stacks — 11F70. Exposé no 1036. — Géométrie algébrique réelle, géométrie symplectique réelle, problèmes énumératifs, invariants de Gromov-Witten, théorie symplectique des champs, courbes pseudo-holomorphes — 14N10, 14N35, 14P99, 53D35, 53D42, 53D45. Exposé no 1037. — André-Oort conjecture, o-minimal theories, modular function, complex multiplication, special points, Shimura varieties — 11G18, 03C64. Exposé no 1038. — Conjecture de Serre II, obstruction de Brauer, connexité rationnelle — 11E72, 14G05, 14M22. Exposé no 1039. — Nonamenable groups, percolation, measured equivalence relations, von Neumann algebras — 37A20, 20E05, 20P05, 46L10. Exposé no 1040. — Hyperkähler manifolds, Global Torelli theorem, K3 surfaces — 53C26, 14J28, 32J27. Exposé no 1041. — Déterminant jacobien, espaces de Sobolev — 46E35. Exposé no 1042. — Existence, asymptotique, diffusion, équation de Schrödinger nonlinéaire — 35Q55, 35B40, 35B44, 35P25.

SÉMINAIRE BOURBAKI VOLUME 2010/2011 EXPOSÉS 1027–1042

Résumé. — Comme les précédents volumes de ce séminaire, qui compte maintenant plus de mille exposés, celui-ci contient seize exposés de synthèse sur des sujets d’actualité : trois situés entre analyse et géométrie, trois de géométrie algébrique, deux de géométrie diophantienne, deux liés au programme de Langlands, deux en théorie des groupes, un de topologie algébrique, un sur le modèle d’Ising et deux en physique mathématique. Abstract (Séminaire Bourbaki, volume 2010/2011, exposés 1027–1042) As in the preceding volumes of this seminar, which now counts more than one thousand talks, one finds here sixteen survey lectures on topics of current interest : three lectures between analysis and geometry, three about algebraic geometry, three on diophantine geometry, two related to Langlands’ program, two about group theory, one on algebraic topology, one related to Ising’s model, and two about mathematical physics.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2010

TABLE DES MATIÈRES

Résumés des exposés . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

v

vii

NOVEMBRE 2010 1027

O. GLASS — La méthode du retour en contrôlabilité et ses applications en mécanique des fluides (d’après Coron et al.) . . . .

1

1028

E. KOWALSKI — Crible en expansion . . . . . . . . . . . . . . . . . . . . . . . . . . .

17

1029

H. MILLER — Kervaire Invariant One (after M. A. Hill, M. J. Hopkins, and D. C. Ravenel ) . . . . . . . . . . . . . . . . . . . . . . . . . . . .

65

W. WERNER — Analyticité discrète du modèle d’Ising (d’après Stanislav Smirnov) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

99

1030

JANVIER 2011 1031

1032

1033

1034

C. BREUIL — Correspondance de Langlands p-adique, compatibilité local-global et applications (d’après Colmez, Emerton, Kisin, ...)

119

A. CHAMBERT-LOIR — Relations de dépendance et intersections exceptionnelles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

149

A. NAOR — Sparse quadratic forms and their geometric applications (following Batson, Spielman and Srivastava) . . . . . . . . . . . . . . . . . . .

189

F. SANTAMBROGIO — Inégalités isopérimétriques quantitatives via le transport optimal (d’après A. Figalli, F. Maggi et A. Pratelli) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

219

AVRIL 2011 1035

T. C. HALES — The fundamental lemma and the Hitchin fibration (after Ngô Bao Châu) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

233

1036

A. OANCEA — Invariants de Welschinger . . . . . . . . . . . . . . . . . . . . . . .

265

1037

T. SCANLON — A proof of the André-Oort conjecture via mathematical logic (after Pila, Wilkie and Zannier) . . . . . . . . . . . .

299

C. VOISIN — Sections rationnelles de fibrations sur les surfaces et conjecture de Serre (d’après de Jong, He et Starr) . . . . . . . . . . . . . .

317

1038

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2010

vi

TABLE DES MATIÈRES

JUIN 2011 1039

C. HOUDAYER — Invariant percolation and measured theory of nonamenable groups (after Gaboriau-Lyons, Ioana, Epstein) . . .

339

D. HUYBRECHTS — A Global Torelli theorem for hyperkähler manifolds (after M. Verbitsky) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

375

P. MIRONESCU — Le déterminant jacobien (d’après Brezis et Nguyen) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

405

F. PLANCHON — Existence globale et scattering pour les solutions de masse finie de l’équation de Schrödinger cubique en dimension deux (d’après Benjamin Dodson, Rowan Killip, Terence Tao, Monica Vişan et Xiaoyi Zhang) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

425

Table par noms d’auteurs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

449

1040 1041 1042

ASTÉRISQUE 348

RÉSUMÉS DES EXPOSÉS

vii

O. GLASS — La méthode du retour en contrôlabilité et ses applications en mécanique des fluides (d’après Coron et al.) Un système de contrôle est une équation d’évolution dépendant d’un paramètre. La théorie du contrôle cherche à déterminer comment l’on peut choisir ce paramètre en fonction du temps afin de modifier la dynamique dans un sens prescrit. Le problème de contrôlabilité s’intéresse en particulier à la possibilité de faire passer l’état du système d’un point de départ à une cible prescrite, celui de stabilisation à la possibilité de rendre un point d’équilibre stable. Dans le cas d’équations non linéaires, l’approche usuelle pour obtenir ce type de propriété est de linéariser le système, puis d’obtenir un résultat sur le linéarisé par des méthodes classiques. Cependant dans de nombreux systèmes d’origine physique, le linéarisé n’est pas nécessairement contrôlable. La méthode du retour introduite par J.-M. Coron permet de contourner cet obstacle. Dans cet exposé, nous nous intéresserons d’abord au problème pour lequel cette méthode a été introduite, qui concerne la stabilisation de certains systèmes de dimension finie ; puis nous illustrerons la méthode par deux exemples issus de la mécanique des fluides incompressibles : l’un, dû à J.-M. Coron, concernant l’équation d’Euler, l’autre, dû à J.-M. Coron et S. Guerrero, concernant l’équation de Navier-Stokes. E. KOWALSKI — Crible en expansion Récemment, particulièrement sous l’impulsion de J. Bourgain, A. Gamburd et P. Sarnak, les méthodes de crible, bien connues en théorie analytique des nombres, ont été introduites dans l’étude de problèmes concernant des objets arithmétiques liés à l’action de groupes discrets à croissance exponentielle (par exemple, les points d’une orbite d’un tel groupe agissant sur un espace affine). Dans ce type de contexte, l’application du crible s’avère dépendre crucialement de propriétés d’expansion de familles de graphes associés à des quotients finis du groupe considéré. De nombreux travaux ont ainsi été consacrés à l’extension de ces propriétés à de nouvelles situations : on peut citer les travaux de Kontorovich-Oh concernant la théorie spectrale de certaines surfaces ou variétés hyperboliques de volume infini, et ceux de Helfgott, Bourgain-Gamburd-Sarnak, Breuillard-Green-Tao, Pyber-Szabó, Varju et d’autres, concernant les propriétés d’expansion des sous-groupes Zariski-denses de groupes linéaires. L’exposé présentera ces nouveaux aspects du crible, en essayant de mettre en valeur les principes généraux et certaines des applications les plus élégantes, ainsi que diverses questions encore ouvertes. H. MILLER — Kervaire Invariant One (after M. A. Hill, M. J. Hopkins, and D. C. Ravenel ) The question of when the Kervaire invariant is nontrivial was the only question left unresolved by Kervaire and Milnor in their 1963 study of the relationship between groups of homotopy spheres and stable homotopy groups. Last year, Hill, Hopkins and Ravenel resolved this question except in one dimension, by a highly innovative attack using large amounts of equivariant stable homotopy theory and small amounts of computation. W. WERNER — Analyticité discrète du modèle d’Ising (d’après Stanislav Smirnov) Nous essaierons de présenter des idées et des résultats récents de Stanislav Smirnov (dont certains en collaboration avec ses étudiants et post-doctorants, Dmitry Chelkak, Antti Kemppainen, Clément Hongler ou Hugo Duminil-Copin, et reliés à des travaux de Richard Kenyon) concernant l’analyticité discrète de certaines fonctions définies à partir de modèles sur réseau issus de la physique statistique, comme le modèle d’Ising, et leurs conséquences sur le comportement asymptotique de ces systèmes à grande échelle.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2010

viii

RÉSUMÉS DES EXPOSÉS

C. BREUIL — Correspondance de Langlands p-adique, compatibilité local-global et applications (d’après Colmez, Emerton, Kisin, ...) Emerton vient de montrer que la correspondance de Langlands locale p-adique pour GL2 (Qp ) se réalise dans la cohomologie étale p-adique « complétée » de la tour des courbes modulaires. Combiné avec des travaux de Colmez et de Kisin (et d’autres), ainsi qu’avec la preuve de la conjecture de modularité de Serre (Khare-Wintenberger), ce résultat a plusieurs conséquences : conjecture de Fontaine-Mazur décrivant les représentations galoisiennes provenant des formes modulaires, conjecture de Kisin sur l’analogue surconvergent, compatibilité entre correspondance de Langlands p-adique et correspondance classique pour GL2 (Qp ), conjecture sur les multiplicités modulaires de Breuil-Mézard... A. CHAMBERT-LOIR — Relations de dépendance et intersections exceptionnelles L’exposé sera consacré au résultat suivant, issu des travaux de Bombieri, Masser, Zannier et Maurin : Soit C une courbe algébrique (irréductible) complexe et considérons n fonctions rationnelles f1 , . . . , fn non identiquement nulles et multiplicativement indépendantes sur C. Les points x de C où leurs valeurs f1 (x), . . . , fn (x) vérifient au moins deux relations de dépendance multiplicative indépendantes forment un ensemble fini. Nous discuterons les généralisations conjecturales de ce théorème (Bombieri, Masser, Zannier ; Zilber ; Pink) concernant la finitude des points d’une sous-variété X de dimension d d’une variété semi-abélienne A qui appartiennent à un sous-groupe algébrique de codimension > d dans A, leurs relations avec les théorèmes de type Mordell–Lang ou Manin–Mumford et, dans le cas arithmétique, les résultats récents (Habegger ; Rémond) concernant la hauteur des points appartenant à un sous-groupe algébrique de codimension d. A. NAOR — Sparse quadratic forms and their geometric applications (following Batson, Spielman and Srivastava) Let (aij ) be a symmetric matrix with nonnegative entries. Batson, Spielman and Srivastava proved that for every  > 0 there exist c = c() > 0 and a symmetric matrix (bij ) whose entries are nonnegative and at most cn of them are nonzero, such that for all (x1 , ..., xn ) ∈ Rn we have n X

i,j=1

aij (xi − xj )2 ≤

n X

i,j=1

bij (xi − xj )2 ≤ (1 + )

n X

aij (xi − xj )2 .

i,j=1

We describe the beautiful proof of this theorem, as well as some of its geometric applications, including a new proof of the Bourgain-Tzafriri restricted invertibility phenomenon, improved approximate John decompositions for convex bodies, and dimensionality reduction in Lp spaces. F. SANTAMBROGIO — Inégalités isopérimétriques quantitatives via le transport optimal (d’après A. Figalli, F. Maggi et A. Pratelli) L’inégalité isopérimétrique classique établit le volume maximal d’un corps dans Rn à 1 1 périmètre fixé. L’optimum étant la boule B, elle donne P (E) ≥ n|E|1− n |B| n pour tout E ⊂ Rn . Sa version anisotrope concerne le K−périmètre PK , défini à partir d’un corps 1 1 convexe K ⊂ Rn , et s’écrit PK (E) ≥ n|E|1− n |K| n et l’optimum est réalisé par K. Une 1 1 version quantitative de ces inégalités revient à estimer l’écart P (E)−n|E|1− n |B| n en termes de « combien E est différent de B ». La version quantitative optimale de l’inégalité classique a été prouvée en 2008 par Fusco, Maggi et Pratelli par des méthodes de symétrisation, spécifiques au cas isotrope. Les travaux que je présenterai ont permis, grâce à l’application du transport de Brenier, de faire de même dans le cas anisotrope.

ASTÉRISQUE 348

RÉSUMÉS DES EXPOSÉS

ix

T. C. HALES — The fundamental lemma and the Hitchin fibration (after Ngô Bao Châu) About thirty years ago, R. P. Langlands conjectured a collection of identities to hold among integrals over conjugacy classes in reductive groups. Ngô Bao Châu has proved these identities (collectively called the fundamental lemma) by interpreting the integrals in terms of the cohomology of the fibers of the Hitchin fibration. The fundamental lemma has profound consequences for the theory of automorphic representations. Significant recent theorems in number theory use the fundamental lemma as an ingredient in their proofs. A. OANCEA — Invariants de Welschinger Le problème de l’énumération des courbes contenues dans une variété projective donnée et soumises à des conditions d’incidence génériques est classique. En complexe, l’outil adapté est la théorie des invariants de Gromov-Witten. En réel, la situation a été débloquée en 2003 lorsque Welschinger a inventé de nouveaux invariants adaptés aux courbes rationnelles et aux variétés de dimension 2 ou 3. Nous présenterons la construction de Welschinger et nous donnerons un panorama des résultats qu’elle a rendus possibles. T. SCANLON — A proof of the André-Oort conjecture via mathematical logic (after Pila, Wilkie and Zannier) Following a strategy proposed by Zannier, Pila has proven a version of the André-Oort conjecture by playing lower bounds on the size of Galois orbits of special points against upper bounds provided by a remarkable theorem of Pila and Wilkie on the number of rational points in transcendental sets definable in o-minimal structures. We explain the ideas behind the counting theorem and the proof of the André-Oort conjecture, and then discuss some other theorems in diophantine geometry which have been proven with this method. C. VOISIN — Sections rationnelles de fibrations sur les surfaces et conjecture de Serre (d’après de Jong, He et Starr) Cet exposé est consacré aux résultats de de Jong, He et Starr concernant l’existence d’une section rationnelle pour les familles de variétés projectives paramétrées par une surface, lorsque les fibres satisfont certaines conditions portant essentiellement sur la géométrie de leur variété des droites. Ces conditions sont satisfaites par les variétés homogènes G/P , ce qui leur permet de compléter la preuve d’une conjecture de Serre sur la trivialité des G-torseurs sur les corps de fonctions de surfaces définies sur un corps algébriquement clos, lorsque le groupe G est connexe, semi-simple et simplement connexe. C. HOUDAYER — Invariant percolation and measured theory of nonamenable groups (after Gaboriau-Lyons, Ioana, Epstein) Using percolation techniques, Gaboriau and Lyons recently proved that every countable, discrete, nonamenable group Γ contains measurably the free group F2 on two generators: there exists a probability measure-preserving, essentially free, ergodic action of F2 on ([0, 1]Γ , λΓ ) such that almost every Γ-orbit of the Bernoulli shift splits into F2 -orbits. A combination of this result and works of Ioana and Epstein shows that every countable, discrete, nonamenable group admits uncountably many non-orbit equivalent actions.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2010

x

RÉSUMÉS DES EXPOSÉS

D. HUYBRECHTS — A Global Torelli theorem for hyperkähler manifolds (after M. Verbitsky) The Global Torelli theorem asserts that two K3 surfaces are isomorphic if and only if their weight-two Hodge structures H 2 (S, Z) are isometric. In other words, the period map for K3 surfaces is injective. The higher-dimensional version of this theorem for compact hyperkähler manifolds is known to fail. The talk will discuss a result of Verbitsky which proves that the period map is injective when restricted to connected components of the moduli space. It is, therefore, the existence of various connected components of the moduli space that is behind this failure. P. MIRONESCU — Le déterminant jacobien (d’après Brezis et Nguyen) Le déterminant jacobien j(u) d’une application u : Rn → Rn est bien défini si, par exemple, u ∈ C 1 . La théorie de l’élasticité non-linéaire (Ball, 1977) et celle des cristaux liquides (Brezis, Coron, Lieb, 1986) font intervenir j(u) pour des u moins régulières. C’est une identité de Morrey (1966) qui permet d’aller au-delà de C 1 . Je présenterai une brève histoire de j(u), du théorème de compacité de Reshetnyak (1968) aux résultats récents de Brezis et Nguyen (2010) caractérisant les espaces fonctionnels dans lesquels j(u) est bien défini. F. PLANCHON — Existence globale et scattering pour les solutions de masse finie de l’équation de Schrödinger cubique en dimension deux L’équation de Schrödinger à non-linéarité cubique admet des solutions locales en temps pour des données de masse finie. Il était conjecturé depuis longtemps que sous cette seule hypothèse (dans le cas défocalisant), les solutions étaient en fait globales et proches de solutions linéaires à grand temps (scattering). Nous donnerons les éléments principaux de la preuve, qui suit une stratégie initiée par Kenig-Merle sur des problèmes du même type : existence de solutions minimales niant la conjecture (Tao-Vişan-Zhang), et leur exclusion par l’utilisation judicieuse de formules de monotonie liées à la dispersion, en particulier dans le cas non radial où la contribution récente de Dodson donne finalement la preuve complète de la conjecture.

ASTÉRISQUE 348

Séminaire BOURBAKI, 1948/49 à 2010/11 Exposés 1 à 1042 Les volumes 1948/49 à 1967/68, exposés 1 à 346, initialement publiés par W. A. Benjamin, Inc. New York, ont été réimprimés en 1996 par la Société Mathématique de France sous forme d’un ensemble de 10 volumes hors série de la collection Astérisque : vol. vol. vol. vol. vol.

1 2 3 4 5

: : : : :

années années années années années

1948/49–1949/50–1950/51 ; 1951/52–1952/53–1953/54 ; 1954/55–1955/56 ; 1956/57–1957/58 ; 1958/59–1959/60 ;

vol. vol. vol. vol. vol.

6 : année 1960/61 ; 7 : année 1961/62 ; 8 : années 1962/63–1963/64 ; 9 : années 1964/65–1965/66 ; 10 : années 1966/67–1967/68.

Les volumes 1968/69 à 1980/81, exposés 347 à 578, ont été publiés par Springer-Verlag, collection Lecture Notes in Mathematics : vol. vol. vol. vol. vol. vol. vol.

1968/69, 1969/70, 1970/71, 1971/72, 1972/73, 1973/74, 1974/75,

no no no no no no no

179, 180, 244, 317, 383, 431, 514,

1971 ; 1971 ; 1971 ; 1973 ; 1974 ; 1975 ; 1976 ;

vol. vol. vol. vol. vol. vol.

1975/76, 1976/77, 1977/78, 1978/79, 1979/80, 1980/81,

no no no no no no

567, 677, 710, 770, 842, 901,

1977 ; 1978 ; 1979 ; 1980 ; 1981 ; 1981.

Les volumes 1981/82 à 2010/11, exposés 579 à 1042, ont été publiés par Astérisque: vol. vol. vol. vol. vol. vol. vol. vol. vol. vol. vol. vol. vol. vol. vol.

1981/82, 1982/83, 1983/84, 1984/85, 1985/86, 1986/87, 1987/88, 1988/89, 1989/90, 1990/91, 1991/92, 1992/93, 1993/94, 1994/95, 1995/96,

nos 92-93, 1982 ; nos 105-106, 1983 ; nos 121-122, 1985 ; nos 133-134, 1986 ; nos 145-146, 1987 ; nos 152-153, 1987 ; nos 161-162, 1988 ; nos 177-178, 1989 ; nos 189-190, 1990 ; nos 201-202-203, 1991 ; no 206, 1992 ; no 216, 1993 ; no 227, 1995 ; no 237, 1996 ; no 241, 1997 ;

vol. vol. vol. vol. vol. vol. vol. vol. vol. vol. vol. vol. vol. vol. vol.

449

1996/97, no 245, 1997 ; 1997/98, no 252, 1998 ; 1998/99, no 266, 2000 ; 1999/2000, no 276, 2002 ; 2000/01, no 282, 2002 ; 2001/02, no 290, 2003 ; 2002/03, no 294, 2004 ; 2003/04, no 299, 2005 ; 2004/05, no 307, 2006 ; 2005/06, no 311, 2007 ; 2006/07, no 314, 2008 ; 2007/08, no 326, 2009 ; 2008/09, no 332, 2010 ; 2009/10, no 339, 2011 ; 2010/11, no 348, 2012.

TABLE PAR NOMS D’AUTEURS ABBES, Ahmed Hauteurs et discrétude (d’après L. Szpiro, E. Ullmo et S. Zhang) A’CAMPO, Norbert Sur la première partie du 16e problème de Hilbert ADAMS, John Frank La conjecture de Segal

..

1996/97, no 825, 26 p.

...................

1978/79, no 537, 20 p.

.................................................

ADEM, Alejandro Finite group actions on acyclic 2-complexes

..........................

1984/85, no 645, 6 p. 2001/02, no 894, 17 p.

ALINHAC, Serge Caractérisation d’espaces de fonctions analytiques et non quasi-analytiques sur une variété à bord (d’après M. Baouendi et C. Goulaouic) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Méthodes géométriques dans l’étude des équations d’Einstein (after Christodoulou, Klainerman, Nicolò et Rodnianski)) . . . . . . . . . . . . . . .

2003/04, no 934, 17 p.

ANANTHARAMAN-DELAROCHE, Claire Classification des C ∗ -algèbres purement infinies nucléaires (d’après E. Kirchberg) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1995/96, no 805, 21 p.

AMICE, Yvette Conjecture de Schanuel sur la transcendance d’exponentielles (d’après James Ax) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1970/71, no 382, 10 p.

ANDRÉ, Yves Motifs de dimension finie (d’après S.-I. Kimura, P. O’Sullivan,...)

.

2003/04, no 929, 31 p.

ARNOUX, Pierre Ergodicité générique des billards polygonaux (d’après Kerckhoff, Masur, Smillie) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1987/88, no 696, 19 p.

1973/74, no 442, 9 p.

ATIYAH, Michael F. The index of elliptic operators on compact manifolds (after Atiyah and Singer) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Hyperbolic differential equations and algebraic geometry (after Petrowsky) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . The Heat Equation in Riemannian Geometry (after Patodi, Gilkey, etc.) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . The Jones-Witten invariants of knots . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1973/74, no 436, 11 p. 1989/90, no 715, 10 p.

ATTOUCH, Hedy Homogénéisation

1987/88, no 686, 24 p.

.......................................................

AUDIN, Michèle Cohomologie quantique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Intégrabilité et non-intégrabilité de systèmes hamiltoniens (d’après S. Ziglin, J. Morales-Ruiz, J.-P. Ramis,...) . . . . . . . . . . . . . . . . . . . . . . . . AUROUX, Denis La conjecture de Weinstein en dimension 3 (d’après C. H. Taubes)

1962/63, no 253, 11 p. 1966/67, no 319, 13 p.

1995/96, no 806, 30 p. 2000/01, no 884, 23 p. 2008/09, no 1002, 25 p.

452

TABLE PAR NOMS D’AUTEURS

AZENCOTT, Robert Une approche probabiliste du théorème de l’indice (Atiyah-Singer) (d’après J.-M. Bismut) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Simulated annealing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1984/85, no 633, 12 p. 1987/88, no 697, 15 p.

AZRA, Jean-Pierre Relations diophantiennes et la solution négative du 10ième problème de Hilbert (d’après M. Davis, H. Putnam, J. Robinson et I. Matiasevitch) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1970/71, no 383, 18 p.

BAOUENDI, Mohamed S. Les opérateurs de convolution (d’après Ehrenpreis et Hörmander)

1962/63, no 254, 8 p.

..

BARDOS, Claude Apparition éventuelle de singularités dans des problèmes d’évolution non linéaires (d’après S. Glassey, S. Klainerman, J. Chadam, F. John (et d’autres)) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1979/80, no 555, 10 p.

BARLOW, Martin Harmonic analysis on fractal spaces

1991/92, no 755, 24 p.

..................................

BARTHE, Franck Un théorème de la limite centrale pour les ensembles convexes (d’après Klartag et Fleury-Guédon-Paouris . . . . . . . . . . . . . . . . . . . . . . . .

2008/09, no 1007, 18 p.

BASS, Hyman K2 des corps globaux (d’après J. Tate, H. Garland,...) . . . . . . . . . . . . . . Libération des modules projectifs sur certains anneaux de polynômes

1970/71, no 394, 23 p. 1973/74, no 448, 27 p.

BEAUVILLE, Arnaud Géométrie des tissus (d’après S.S. Chern et P.A. Griffiths) . . . . . . . . . Surfaces K3 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Le problème de Torelli . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Le problème de Schottky et la conjecture de Novikov . . . . . . . . . . . . . . . . . Monodromie des systèmes différentiels linéaires à pôles simples sur la sphère de Riemann (d’après A. Bolibruch) . . . . . . . . . . . . . . . . . . . . . . . . . La conjecture de Green générique (d’après C. Voisin) . . . . . . . . . . . . . . .

1992/93, no 765, 17 p. 2003/04, no 924, 14 p.

BEFFARA, Vincent Grands graphes planaires aléatoires et carte brownienne (d’après Jean-François Le Gall) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2007/08, no 992, 22 p.

BEAUZAMY, Bernard Sous-espaces invariants dans les espaces de Banach

.................

1979/80, no 549, 17 p.

BELABAS, Karim Paramétrisation de structures algébriques et densité de discriminants (d’après Bhargava) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2003/04, no 935, 33 p.

BELLISSARD, Jean Le papillon de Hofstadter (d’après B. Helffer et J. Sjöstrand)

.......

1991/92, no 745, 34 p.

............................

1990/91, no 730, 36 p.

BEN AROUS, Gérard Géométrie de la courbe brownienne plane

ASTÉRISQUE 348

1978/79, 1982/83, 1985/86, 1986/87,

no no no no

531, 609, 651, 675,

17 13 14 12

p. p. p. p.

453

TABLE PAR NOMS D’AUTEURS

BENNEQUIN, Daniel Caustique mystique (d’après Arnold et al.) . . . . . . . . . . . . . . . . . . . . . . . . . . . Problèmes elliptiques, surfaces de Riemann et structures symplectiques (d’après M. Gromov) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Topologie symplectique, convexité holomorphe et structures de contact (d’après Y. Eliashberg, D. Mc Duff et al.) . . . . . . . . . . . . . . . . . . . . . . . . . . L’instanton gordien (d’après P.B. Kronheimer et T.S. Mrowka) . . . . Monopôles de Seiberg-Witten et conjecture de Thom (d’après Kronheimer, Mrowka et Witten) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Dualités de champs et de cordes (d’après ’t Hooft, Polyakov, Witten et al.) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . BENZÉCRI, Jean-Paul Théorie des capacités (d’après G. Choquet)

..........................

BÉRARD, Pierre Variétés riemanniennes isospectrales non isométriques

1984/85, no 634, 37 p. 1985/86, no 657, 26 p. 1989/90, no 725, 39 p. 1992/93, no 770, 45 p. 1995/96, no 807, 38 p. 2001/02, no 899, 32 p.

1955/56, no 120, 11 p.

..............

1988/89, no 705, 28 p.

BÉRARD BERGERY, Lionel Laplacien et géodésiques fermées sur les formes d’espace hyperbolique compactes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . La courbure scalaire des variétés riemanniennes . . . . . . . . . . . . . . . . . . . . .

1971/72, no 406, 16 p. 1979/80, no 556, 21 p.

BÉRESTYCKI, Henri Solutions périodiques de systèmes hamiltoniens

1982/83, no 603, 24 p.

......................

BERGER, Laurent La correspondance de Langlands locale p-adique pour GL2 (Qp )

.....

2009/10, no 1017, 24 p.

BERGER, Marcel Groupes d’holonomie des variétés à connexion affine . . . . . . . . . . . . . . . . Le théorème de Gromoll-Meyer sur les géodésiques fermées . . . . . . . . . Systoles et applications selon Gromov . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1954/55, no 101, 6 p. 1969/70, no 364, 17 p. 1992/93, no 771, 32 p.

BERTHELOT, Pierre Altérations de variétés algébriques (d’après A.J. de Jong)

1995/96, no 815, 39 p.

...........

BERTOIN, Jean SLE et invariance conforme (d’après Lawler, Schramm et Werner)

2003/04, no 925, 14 p.

BERTRAND, Daniel Travaux récents sur les points singuliers des équations différentielles linéaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Lemmes de zéros et nombres transcendants . . . . . . . . . . . . . . . . . . . . . . . . . . Groupes algébriques et équations différentielles linéaires . . . . . . . . . . . . .

1978/79, no 538, 16 p. 1985/86, no 652, 24 p. 1991/92, no 750, 22 p.

BESSON, Gérard Preuve de la conjecture de Poincaré en déformant la métrique par la courbure de Ricci, d’après G. Perel’man . . . . . . . . . . . . . . . . . . . . . . . . . . . Le théorème de la sphère différentiable (d’après Brendle-Schoen) . . .

2004/05, no 947, 38 p. 2008/09, no 1003, 21 p.

BIANE, Philippe Entropie libre et algèbres d’opérateurs

2000/01, no 889, 22 p.

................................

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

454

TABLE PAR NOMS D’AUTEURS

BILU, Yuri F. Catalan’s conjecture (after Mihăilescu) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . The many faces of the Subspace Theorem (after Adamczewski, Bugeaud, Corvaja, Zannier. . . ) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2006/07, no 967, 35 p.

BIQUARD, Olivier Métriques kählériennes à courbure scalaire constante : unicité, stabilité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2004/05, no 938, 30 p.

Métriques kählériennes extrémales sur les surfaces toriques (d’après S. Donaldson) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2002/03, no 909, 26 p.

2009/10, no 1018, 21 p.

BLANCHARD, André Groupes algébriques et équations différentielles linéaires (d’après E. Kolchin) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Le plongement des variétés de Hodge dans des espaces projectifs complexes (d’après K. Kodaira) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1954/55, no 114, 7 p.

BÖHME, Reinhold New results on the classical problem of Plateau. On the existence of many solutions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1981/82, no 579, 20 p.

BOILEAU, Michel Uniformisation en dimension trois

1998/99, no 855, 38 p.

....................................

BOLTHAUSEN, Erwin On the proof of the Parisi formula by Guerra and Talagrand

.......

BOMBIERI, Enrico Régularité des hypersurfaces minimales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Simultaneous approximations of algebraic numbers (following W.M. Schmidt) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Counting points on curves over finite fields (after S.A. Stepanov) . . A lower bound for the zeros of Riemann’s Zeta Function on the critical line (following N. Levinson) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . BONATTI, Christian Dynamiques génériques : hyperbolicité et transitivité

1949/50, no 17, 7 p.

2004/05, no 948, 29 p.

1968/69, no 353, 11 p. 1971/72, no 400, 20 p. 1972/73, no 430, 8 p. 1974/75, no 465, 7 p.

................

2001/02, no 904, 18 p.

BONAVERO, Laurent Factorisation faible des applications birationnelles (d’après Abramovich, Karu, Matsuki, Włodarczyk et Morelli) . . . . . . . . . . . . . .

2000/01, no 880, 36 p.

BONY, Jean-Michel Polynômes de Bernstein et monodromie (d’après B. Malgrange) . . . . Hyperfonctions et équations aux dérivées partielles (d’après M. Sato, T. Kawaï et M. Kashiwara) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Résolution des conjectures de Calderón et espaces de Hardy généralisés (d’après R. Coifman, G. Davis, A. McIntosh et Y. Meyer) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

ASTÉRISQUE 348

1974/75, no 459, 14 p. 1976/77, no 495, 15 p.

1981/82, no 591, 8 p.

455

TABLE PAR NOMS D’AUTEURS

BOREL, Armand Groupes localement compacts (d’après Iwasawa et Gleason) . . . . . . . . . Sous-groupes compacts maximaux des groupes de Lie (d’après Cartan, Iwasawa et Mostow) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Cohomologie des espaces homogènes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Les espaces hermitiens symétriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Groupes algébriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Travaux de Mostow sur les espaces homogènes . . . . . . . . . . . . . . . . . . . . . . . Cohomologie et rigidité d’espaces compacts localement symétriques (d’après Weil et Matsushima) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Opérateurs de Hecke et fonctions zêta . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Sous-groupes discrets de groupes semi-simples (d’après D.A. Kajdan et G.A. Margoulis) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Cohomologie de certains groupes discrets et laplacien p-adique (d’après H. Garland) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Formes automorphes et séries de Dirichlet (d’après R.P. Langlands) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . BORHO, Walter Recent advances in enveloping algebras of semi-simple Lie-Algebras (a report on work of N. Conze, J. Dixmier, M. Duflo, J.C. Jantzen, A. Joseph, W. Borho) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . BOST, Jean-Benoît Tores invariants des systèmes dynamiques hamiltoniens (d’après Kolmogorov, Arnold, Moser, Rüssmann, Zehnder, Herman, Pöschel,...) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Fibrés déterminants, déterminants régularisés et mesures sur les espaces de modules des courbes complexes . . . . . . . . . . . . . . . . . . . . . . . . . . Théorie de l’intersection et théorèmes de Riemann-Roch arithmétiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Périodes et isogénies des variétés abéliennes sur les corps de nombres (d’après D. Masser et G. Wüstholz) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . BOTT, Raoul Report on the fixed point formula

.....................................

BOURGUIGNON, Jean-Pierre Premières formes de Chern des variétés kählériennes compactes (d’après E. Calabi, T. Aubin et S.T. Yau) . . . . . . . . . . . . . . . . . . . . . . . . . L’équation de la chaleur associée à la courbure de de Ricci . . . . . . . . . . Stabilité par déformation non-linéaire de la métrique de Minkowski (d’après D. Christodoulou et S. Klainerman) . . . . . . . . . . . . . . . . . . . . . . Métriques d’Einstein-Kähler sur les variétés de Fano : obstructions et existence (d’après Y. Matsushima, A. Futaki, S.T. Yau, A. Nadel et G. Tian) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . BOUSCAREN, Élisabeth Théorie des modèles et conjecture de Manin-Mumford (d’après Ehud Hrushovski) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1949/50, no 29, 17 p. 1950/51, 1950/51, 1951/52, 1955/56, 1956/57,

no no no no no

33, 9 p. 45, 8 p. 62, 12 p. 121, 10 p. 142, 12 p.

1963/64, no 265, 9 p. 1965/66, no 307, 23 p. 1968/69, no 358, 17 p. 1973/74, no 437, 24 p. 1974/75, no 466, 40 p.

1976/77, no 489, 18 p.

1984/85, no 639, 45 p. 1986/87, no 676, 37 p. 1990/91, no 731, 46 p. 1994/95, no 795, 47 p.

1965/66, no 295, 6 p.

1977/78, no 507, 21 p. 1985/86, no 653, 17 p. 1990/91, no 740, 38 p.

1996/97, no 830, 29 p.

1999/2000, no 870, 23 p.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

456

TABLE PAR NOMS D’AUTEURS

BOUTET de MONVEL, Louis Opérateurs pseudo-différentiels. Application au problème de Neumann à dérivée oblique (d’après Hörmander) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Nombre de valeurs propres d’un opérateur elliptique et poynôme de Hilbert-Samuel (d’après V. Guillemin) . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1965/66, no 308, 14 p. 1978/79, no 532, 12 p.

Algèbre de Hopf des diagrammes de Feynman, renormalisation et factorisation de Wiener-Hopf (d’après A. Connes et D. Kreimer)

2001/02, no 900, 17 p.

BOUTOT, Jean-François Frobenius et cohomologie locale (d’après R. Hartshorne et R. Speiser, M. Hochster et J.L. Roberts, C. Peskine et L. Szpiro) . . . . . . . . . . . . . Uniformisation p-adique des variétés de Shimura . . . . . . . . . . . . . . . . . . . .

1974/75, no 453, 19 p. 1996/97, no 831, 16 p.

BRACONNIER, Jean Sur les suites de composition d’un groupe et la tour des groupes d’automorphismes d’un groupe fini (d’après H. Wielandt) . . . . . . . . . Sous-algèbres sous-invariantes d’une algèbre de Lie et tour des dérivations (d’après E. Schenkman) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Sur les groupes de Lie compacts opérant dans une variété compacte (d’après G. Mostow) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . BREUIL, Christophe Intégration sur les variétés p-adiques (d’après Coleman, Colmez) . . . Correspondance de Langlands p-adique, compatibilité local-global et applications (d’après Colmez, Emerton, Kisin, ...) . . . . . . . . . . . . . . . .

1948/49, no 7, 5 p. 1951/52, no 56, 7 p. 1957/58, no 163, 12 p.

1998/99, no 860, 32 p. 2010/11, no 1031, 29 p.

BREUILLARD, Emmanuel Équidistribution des orbites toriques sur les espaces homogènes (d’après M. Einsiedler, E. Lindenstrauss, Ph. Michel, A. Venkatesh) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2008/09, no 1008, 35 p.

BREZIS, Haïm Points critiques dans les problèmes variationnels sans compacité

...

1987/88, no 698, 18 p.

.........

1973/74, no 438, 22 p.

.....................

1971/72, no 401, 24 p.

BREEN, Lawrence Un théorème de finitude en K-théorie (d’après D. Quillen) BRIESKORN, Egbert Sur les groupes de tresses (d’après V.I. Arnold)

BRION, Michel Points entiers dans les polytopes convexes . . . . . . . . . . . . . . . . . . . . . . . . . . . . Compactification de l’espace des modules des variétés abéliennes principalement polarisées (d’après V. Alexeev) . . . . . . . . . . . . . . . . . . . . .

2005/06, no 952, 31 p.

BROUÉ, Michel Les `-blocs des groupes GL(n, q) et U1 (n, q 2 ) et leurs structures locales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1984/85, no 640, 28 p.

BRUGUIÈRES, Alain Propriétés de convexité de l’application-moment (d’après Atiyah, Guillemin-Sternberg, Kirwan et al.) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1985/86, no 654, 25 p.

ASTÉRISQUE 348

1993/94, no 780, 25 p.

457

TABLE PAR NOMS D’AUTEURS

BRUHAT, François Représentations induites des groupes localement compacts . . . . . . . . . . . Structure des algèbres de Lie semi-simples . . . . . . . . . . . . . . . . . . . . . . . . . . . Prolongement des sous-variétés analytiques (d’après W. Rothstein) Travaux de Harish-Chandra . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Travaux de Sternberg . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Intégration p-adique (d’après Tomas) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Points entiers sur les courbes de genre ≥ 1 (d’après Lang) . . . . . . . . . . Sous-groupes compacts maximaux des groupes semi-simples p-adiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . BRUMER, Armand Travaux récents d’Iwasawa et de Leopoldt

1952/53, 1954/55, 1955/56, 1956/57, 1960/61,

no no no no no

68, 8 p. 107, 8 p. 122, 12 p. 143, 9 p. 217, 18 p.

1961/62, no 229, 16 p. 1962/63, no 247, 12 p. 1963/64, no 271, 11 p.

............................

1966/67, no 325, 14 p.

BRUNELLA, Marco Courbes entières dans les surfaces algébriques complexes (d’après McQuillan, Demailly-El Goul,...) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2000/01, no 881, 23 p.

BRYANT, Robert Recent advances in the theory of holonomy

1998/99, no 861, 24 p.

...........................

BRYLINSKI, Jean-Luc (Co)-homologie d’intersection et faisceaux pervers

...................

1981/82, no 585, 29 p.

BUFF, Xavier Ensembles de Julia de mesure positive (d’après van Strien et Nowicki) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . La mesure d’équilibre d’un endomorphisme de Pk (C) (d’après Briend et Duval) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1996/97, no 820, 33 p. 2004/05, no 939, 35 p.

BURGER, Marc Fundamental groups of Kähler manifolds and geometric group theory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2009/10, no 1022, 17 p.

BURQ, Nicolas Mesures semi-classiques et mesures de défaut . . . . . . . . . . . . . . . . . . . . . . . . Formules de trace, résonances et quasi-modes (d’après Sjöstrand-Zworski, Stefanov-Vodev et al.) . . . . . . . . . . . . . . . . . . . . . . . . . . Explosion pour l’équation de Schrödinger au régime du “log log”(d’après Merle-Raphael) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . CALABI, Eugenio Géométrie différentielle affine des hypersurfaces

.....................

CARAYOL, Henri Variétés de Drinfeld compactes (d’après Laumon, Rapoport et Stuhler) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Preuve de la conjecture de Langlands locale pour GLn : Travaux de Harris-Taylor et Henniart . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . La conjecture de Sato-Tate (d’après Clozel, Harris, Shepherd-Barron, Taylor) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1996/97, no 826, 29 p. 1998/99, no 856, 16 p. 2005/06, no 953, 21 p.

1980/81, no 573, 16 p.

1991/92, no 756, 41 p. 1998/99, no 857, 52 p. 2006/07, no 977, 44 p.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

458

TABLE PAR NOMS D’AUTEURS

CARTAN, Henri Les travaux de Koszul, I . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Les travaux de Koszul, II . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Les travaux de Koszul, III . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Espaces fibrés analytiques complexes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Mémoire de Gleason sur le 5e problème de Hilbert . . . . . . . . . . . . . . . . . . . Fonctions et variétés algébroïdes (d’après F. Hirzebruch) . . . . . . . . . . . Sur un mémoire inédit de H. Grauert : “Zur Theorie der analytisch vollständigen Räume” . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Théorie spectrale des C-algèbres commutatives (d’après L. Waelbroeck) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Espaces fibrés analytiques (d’après H. Grauert) . . . . . . . . . . . . . . . . . . . . . . Thèse de Douady . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Travaux de Karoubi sur la K-théorie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Sous-ensembles analytiques d’une variété banachique complexe (d’après J.-P. Ramis) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . CARTIER, Pierre Représentations des groupes de Lie (d’après Harish-Chandra) . . . . . . Développements de fonctions arbitraires suivant les fonctions propres d’un opérateur différentiel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Effacement dans la cohomologie des algèbres de Lie (d’après Hochschild et Koszul) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Dualité des variétés abéliennes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Vecteurs analytiques (d’après E. Nelson) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Structures simpliciales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Classes de formes bilinéaires sur les espaces de Banach (d’après Grothendieck) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Analyse spectrale et théorème de prédiction statistique de Wiener . . Fluctuations dans les suites de variables aléatoires indépendantes . . Représentations linéaires des groupes algébriques semi-simples en caractéristique non nulle (d’après Steinberg) . . . . . . . . . . . . . . . . . . . . . . . Processus aléatoires généralisés . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Équivalence linéaire des idéaux de polynômes (d’après R. Hartshorne) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Diviseurs amples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Théorie analytique des formes quadratiques. I. Suites quasi-périodiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Théorie des groupes, fonctions théta et modules des variétés abéliennes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Relèvements des groupes formels commutatifs . . . . . . . . . . . . . . . . . . . . . . . . Espaces de Poisson des groupes localement compacts (d’après R. Azencott) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Problèmes mathématiques de la théorie quantique des champs . . . . . . Géométrie et analyse sur les arbres . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Problèmes mathématiques de la théorie quantique des champs. II : Prolongement analytique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Inégalités de corrélation en Mécanique Statistique . . . . . . . . . . . . . . . . . . . Vecteurs différentiables dans les représentations unitaires des groupes de Lie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Les représentations des groupes réductifs p-adiques et leurs caractères . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

ASTÉRISQUE 348

1948/49, 1948/49, 1948/49, 1950/51, 1952/53, 1953/54,

no no no no no no

1, 6 p. 8, 8 p. 12, 4 p. 34, 10 p. 73, 9 p. 84, 8 p.

1954/55, no 115, 11 p. 1955/56, 1956/57, 1965/66, 1967/68,

no no no no

125, 137, 296, 337,

13 12 16 25

p. p. p. p.

1968/69, no 354, 16 p. 1953/54, no 96, 10 p. 1954/55, no 102, 10 p. 1954/55, 1957/58, 1958/59, 1959/60,

no no no no

116, 164, 181, 199,

7 p. 13 p. 12 p. 12 p.

1960/61, no 211, 14 p. 1960/61, no 218, 22 p. 1962/63, no 241, 18 p. 1962/63, no 255, 10 p. 1963/64, no 272, 10 p. 1964/65, no 283, 11 p. 1965/66, no 301, 16 p. 1965/66, no 309, 12 p. 1967/68, no 338, 16 p. 1968/69, no 359, 14 p. 1969/70, no 370, 21 p. 1970/71, no 388, 16 p. 1971/72, no 407, 18 p. 1972/73, no 418, 27 p. 1972/73, no 431, 19 p. 1974/75, no 454, 15 p. 1975/76, no 471, 22 p.

459

TABLE PAR NOMS D’AUTEURS

CARTIER, Pierre (suite) Spectre de l’équation de Schrödinger, application à la stabilité de la matière (d’après J. Lebowitz, E. Lieb, B. Simon et W. Thirring)

.

1976/77, no 496, 17 p.

Logique, catégories et faisceaux (d’après F. Lawvere et M. Tierney)

1977/78, no 513, 24 p.

Théorie de la diffusion pour l’équation de Schrödinger

...............

1978/79, no 533, 19 p.

La conjecture locale de Langlands pour GL(2) et la démonstration de Ph. Kutzko . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1979/80, no 550, 27 p.

Arrangements d’hyperplans : un chapitre de géométrie combinatoire

1980/81, no 561, 22 p.

Perturbations singulières des équations différentielles ordinaires et analyse non-standard . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1981/82, no 580, 24 p.

La théorie classique et moderne des fonctions symétriques

..........

1982/83, no 597, 23 p.

Homologie cyclique : Rapport sur des travaux récents de Connes, Karoubi, Loday, Quillen,... . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1983/84, no 621, 24 p.

Décomposition des polyèdres : le point sur le 3e problème de Hilbert

1984/85, no 646, 28 p.

Détermination des caractères des groupes finis simples : travaux de Lusztig . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1985/86, no 658, 25 p.

Jacobiennes généralisées, monodromie unipotente et intégrales itérées . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1987/89, no 687, 22 p.

Développements récents sur les groupes de tresses. Applications à la topologie et à l’algèbre . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1989/90, no 716, 51 p.

Démonstration “automatique” d’identités et fonctions hypergéométriques (d’après D. Zeilberger) . . . . . . . . . . . . . . . . . . . . . . . . . .

1991/92, no 746, 51 p.

La théorie des blocs et les groupes génériques

........................

1993/94, no 781, 38 p.

Fonctions polylogarithmes, nombres polyzêtas et groupes pro-unipotents . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2000/01, no 885, 37 p.

Groupoïdes de Lie et leurs algébroïdes

................................

2007/08, no 987, 32 p.

Homologie du groupe linéaire et polylogarithmes (d’après A.B. Goncharov et d’autres) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1992/93, no 772, 31 p.

CATHELINEAU, Jean-Louis

CERF, Jean .......................

1961/62, no 230, 16 p.

1-formes fermées non singulières sur les variétés compactes de dimension 3 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1980/81, no 574, 15 p.

Suppression des singularités de codimension plus grande que 1 dans les familles de fonctions différentiables réelles (d’après Kiyoshi Igusa) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1983/84, no 627, 15 p.

Travaux de Smale sur la structure des variétés

CERF, Raphaël Dimères et surfaces aléatoires (d’après les travaux de Kenyon et d’Okounkov) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2008/09, no 997, 9 p.

CHABAUTY, Claude Le théorème de Minkowski-Hlawka

....................................

1948/49, no 2, 3 p.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

460

TABLE PAR NOMS D’AUTEURS

CHAMBERT-LOIR, Antoine Théorèmes d’algébricité en géométrie diophantienne (d’après J.-B. Bost, Y. André, D. & G. Chudnovsky) . . . . . . . . . . . . . . . . . . . . . . . Points rationnels et groupes fondamentaux : applications de la cohomologie p-adique (d’après P. Berthelot, T. Ekedahl, H. Esnault, etc.) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Compter (rapidement) le nombre de solutions d’équations dans les corps finis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Relations de dépendance et intersections exceptionnelles . . . . . . . . . . . .

2006/07, no 968, 47 p. 2010/11, no 1032, 40 p.

CHAPERON, Marc Quelques questions de géométrie symplectique (d’après, entre autres, Poincaré, Arnold, Conley et Zehnder) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1982/83, no 610, 19 p.

CHAZARAIN, Jacques Le problème mixte hyperbolique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Spectre des opérateurs elliptiques et flots hamiltoniens . . . . . . . . . . . . . .

1972/73, no 432, 21 p. 1974/75, no 460, 13 p.

CHAZELLE, Bernard The PCP theorem (after Arora, Lund, Motwani, Safra, Sudan, Szegedy) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2001/02, no 895, 18 p.

CHEMIN, Jean-Yves Explosion géométrique pour certaines équations d’ondes non linéaires (d’après Serge Alinhac) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1998/99, no 850, 14 p.

CHENCINER, Alain Travaux de Thom et Mather sur la stabilité topologique . . . . . . . . . . . . . La dynamique au voisinage d’un point fixe elliptique conservatif : de Poincaré et Birkhoff à Aubry et Mather . . . . . . . . . . . . . . . . . . . . . . . . . . . . À l’infini en temps fini . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . CHERN, Shiing-Shen Les hypersurfaces dans l’espace euclidien

.............................

CHEVALLEY, Claude L’hypothèse de Riemann pour les corps de fonctions algébriques de caractéristique p, I (d’après Weil) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . L’hypothèse de Riemann pour les corps de fonctions algébriques de caractéristique p, II (d’après Weil) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Le théorème fondamental de la multiplication complexe (Démonstration de Eichler) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . La notion de correspondance propre en géométrie algébrique . . . . . . . . La théorie des fonctions holomorphes de Zariski. Application au théorème de connexité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Certains schémas de groupes semi-simples . . . . . . . . . . . . . . . . . . . . . . . . . . . Le groupe de Janko . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Théorie des blocs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . CHOQUET, Gustave Existence et unicité des représentations intégrales au moyen des points extrémaux dans les cônes convexes . . . . . . . . . . . . . . . . . . . . . . . . . . Les travaux de Nash et Kuiper sur le plongement isométrique des C 1 -variétés riemanniennes dans l’espace euclidien . . . . . . . . . . . . . . . . .

ASTÉRISQUE 348

2000/01, no 886, 34 p.

2002/03, no 914, 22 p.

1972/73, no 424, 25 p. 1982/83, no 622, 24 p. 1996/97, no 832, 31 p. 1959/60, no 193, 9 p.

1948/49, no 3, 3 p. 1948/49, no 9, 4 p. 1956/57, no 138, 13 p. 1957/58, no 152, 11 p. 1957/58, 1960/61, 1967/68, 1972/73,

no no no no

158, 219, 331, 419,

17 16 15 16

p. p. p. p.

1956/57, no 139, 15 p. 1956/57, no 147, 11 p.

461

TABLE PAR NOMS D’AUTEURS

CHRIST, Michael Modulation invariant and multilinear singular integral operators (after Lacey and Thiele) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . CLOZEL, Laurent Progrès récents vers la classification du dual unitaire des groupes réductifs réels . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Nombres de Tamagawa des groupes semi-simples (d’après Kottwitz) Nombre de points des variétés de Shimura sur un corps fini (d’après R. Kottwitz) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2005/06, no 962, 26 p.

1986/87, no 681, 24 p. 1988/89, no 702, 22 p. 1992/93, no 766, 29 p.

COATES, John The work of Mazur and Wiles on cyclotomic fields . . . . . . . . . . . . . . . . . . The work of Gross and Zagier on Heegner points and the derivative of L-series . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . On p-adic L-functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Iwasawa algebras and arithmetic . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1984/85, no 635, 16 p. 1988/89, no 701, 27 p. 2001/02, no 896, 16 p.

COLIN, Vincent Livres ouverts en géométrie de contact (d’après Emmanuel Giroux)

2006/07, no 969, 25 p.

COLIN de VERDIÈRE, Yves Propriétés asymptotiques de l’équation de la chaleur sur une variété compacte (d’après P. Gilkey) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . La matrice de scattering pour l’opérateur de Schrödinger sur la droite réelle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Distribution de points sur une sphère (d’après Lubotzky, Phillips et Sarnak) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Semi-classical measures and entropy (after Nalini Anantharaman and Stéphane Nonnenmacher) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . COLLIOT-THÉLÈNE, Jean-Louis Algèbres simples centrales sur les corps de fonctions de deux variables (d’après A.J. de Jong) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Groupe de Chow des zéros-cycles sur les variétés p-adiques (d’après S. Saito, K. Sato et al.) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1980/81, no 575, 23 p.

1973/74, no 439, 11 p. 1979/80, no 557, 11 p. 1988/89, no 703, 11 p. 2006/07, no 978, 20 p.

2004/05, no 949, 34 p. 2009/10, no 1012, 30 p.

COLMEZ, Pierre Fonctions L p-adiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Les conjectures de monodromie p-adiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . La conjecture de Birch et Swinnerton-Dyer p-adique . . . . . . . . . . . . . . . .

1998/99, no 851, 38 p. 2001/02, no 897, 49 p. 2002/03, no 919, 63 p.

COMBES, François Les facteurs de von Neumann de type III (d’après A. Connes)

.....

1974/75, no 461, 14 p.

..............................................

1990/91, no 735, 26 p.

COMETS, Francis Limites hydrodynamiques

CONNES, Alain Feuilletages et algèbres d’opérateurs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Indice des sous-facteurs, algèbres de Hecke et théorie des nœuds (d’après Vaughan Jones) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Brisure de symétrie spontanée et géométrie du point de vue spectral Nombres de Betti L2 et facteurs de type II1 (d’après D. Gaboriau et S. Popa) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1979/80, no 551, 17 p. 1984/85, no 647, 20 p. 1995/96, no 816, 37 p. 2002/03, no 920, 13 p.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

462

TABLE PAR NOMS D’AUTEURS

CONZE, Jean-Pierre Le théorème d’isomorphisme d’Ornstein et la classification des systèmes dynamiques en Théorie Ergodique . . . . . . . . . . . . . . . . . . . . . . . .

1972/73, no 420, 19 p.

CORNALBA, Maurizio Systèmes pluricanoniques sur l’espace des modules des courbes et diviseurs de courbes k-gonales (d’après Harris et Mumford) . . . . . .

1983/84, no 615, 18 p.

CORNUÉJOLS, Gérard Le théorème fort des graphes parfaits

.................................

2005/06, no 957, 13 p.

COUGNARD, Jean Les travaux de A. Fröhlich, Ph. Cassou-Noguès et M.J. Taylor sur les bases normales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1982/83, no 598, 14 p.

COURRÈGE, Philippe Problèmes aux limites elliptiques et principe du maximum

1965/66, no 302, 18 p.

..........

DACUNHA-CASTELLE, Didier Contre-exemple à la propriété d’approximation uniforme dans les espaces de Banach (d’après Enflo et Davie) . . . . . . . . . . . . . . . . . . . . . . . . Reconstruction des phases en cristollographie par maximum d’entropie (d’après G. Bricogne) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . DAT, Jean-François Lemme fondamental et endoscopie, une approche géométrique (d’après Gérard Laumon et Ngô Bao Châu) . . . . . . . . . . . . . . . . . . . . . . . .

1972/73, no 433, 8 p. 1982/83, no 628, 15 p.

2004/05, no 940, 40 p.

DEBARRE, Olivier Variétés de Fano . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Variétés rationnellement connexes (d’après T. Graber, J. Harris, J. Starr et A.J. de Jong) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Classes de cohomologie positives dans les variétés kählériennes compactes (d’après Boucksom, Demailly, Nakayama, Păun, Peternell...) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Systèmes pluricanoniques sur les variétés de type général (d’après Hacon-Mc Kernan, Takayama, Tsuji) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2006/07, no 970, 20 p.

DÉCHAMPS-GONDIM, Myriam Analyse harmonique, analyse complexe et géométrie des espaces de Banach (d’après J. Bourgain) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1983/84, no 623, 25 p.

DEHORNOY, Patrick La détermination projective (d’après Martin, Steel et Woodin) . . . . . . Progrès récents sur l’hypothèse du continu (d’après Woodin) . . . . . . . .

1988/89, no 710, 16 p. 2002/03, no 915, 25 p.

DEJEAN, Yves Transformation de Fourier des distributions homogènes (d’après Gårding) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1962/63, no 242, 14 p.

DELAROCHE, Claire et KIRILLOV, Alexandre Sur les relations entre l’espace dual d’un groupe et la structure de ses sous-groupes fermés (d’après D.A. Kajdan) . . . . . . . . . . . . . . . . . . . . . . . .

1967/68, no 343, 22 p.

ASTÉRISQUE 348

1996/97, no 827, 25 p. 2001/02, no 905, 24 p.

2004/05, no 943, 29 p.

463

TABLE PAR NOMS D’AUTEURS

DE LELLIS, Camillo Ordinary differential equations with rough coefficients and the Renormalization Theorem of Ambrosio (Ambrosio, DiPerna, Lions) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2006/07, no 972, 26 p.

DELIGNE, Pierre Formes modulaires et représentations `-adiques

......................

1968/69, no 355, 34 p.

Travaux de Griffiths . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Travaux de Shimura . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Variétés unirationnelles non rationnelles (d’après M. Artin et D. Mumford) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Les difféomorphismes du cercle (d’après M.R. Herman) . . . . . . . . . . . . . Sommes de Gauss cubiques et revêtements de SL(2) (d’après S.J. Patterson) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Le groupe fondamental du complément d’une courbe plane n’ayant que des points doubles ordinaires est abélien (d’après W. Fulton) . . . . . Preuve des conjectures de Tate et Shafarevitch (d’après G. Faltings)

1969/70, no 376, 25 p. 1970/71, no 389, 43 p.

1979/80, no 543, 10 p. 1983/84, no 616, 17 p.

DELORME, Patrick Inversion des intégrales orbitales sur certains espaces symétriques réductifs (d’après A. Bouaziz et P. Harinck) . . . . . . . . . . . . . . . . . . . . . . .

1995/96, no 810, 21 p.

DELSARTE, Jean Nombre de solutions des équations polynomiales sur un corps fini (d’après A. Weil) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1950/51, no 39, 9 p.

DEMAILLY, Jean-Pierre Méthodes L2 et résultats effectifs en géométrie algébrique

1998/99, no 852, 32 p.

...........

DEMAZURE, Michel Structure du groupe orthogonal (d’après T. Tamagawa) . . . . . . . . . . . . . Sous-groupes arithmétiques des groupes algébriques linéaires (d’après Borel et Harish-Chandra) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Structure des groupes réductifs (d’après Borel-Tits) . . . . . . . . . . . . . . . . . . Classification des algèbres de Lie filtrées . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Motifs des variétés algébriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Classification des germes à point critique isolé et à nombre de module 0 ou 1 (d’après V.I. Arnold) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Démonstration de la conjecture de Mumford (d’après W. Haboush) . Identités de Macdonald . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Caractérisations de l’espace projectif (conjectures de Hartshorne et de Frankel) (d’après Shigefumi Mori) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . DENEF, Jan Report on Igusa’s local zeta function

..................................

DENY, Jacques Les deux aspects de la théorie du potentiel . . . . . . . . . . . . . . . . . . . . . . . . . . . . Formes et espaces de Dirichlet . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Développements récents de la théorie du potentiel (Travaux de Jacques Faraut et de Francis Hirsch) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . DERRIDJ, Makhlouf La sous-ellipticité pour le problème ∂-Neumann dans un domaine pseudoconvexe de Cn (d’après D. Catlin) . . . . . . . . . . . . . . . . . . . . . . . . . .

1971/72, no 402, 13 p. 1975/76, no 477, 23 p. 1978/79, no 539, 34 p.

1958/59, no 169, 11 p. 1961/62, 1966/67, 1966/67, 1969/70,

no no no no

235, 313, 326, 365,

12 p. 7 p. 11 p. 20 p.

1973/74, no 443, 19 p. 1974/75, no 462, 7 p. 1975/76, no 483, 11 p. 1979/80, no 544, 9 p. 1990/91, no 741, 28 p. 1956/57, no 148, 18 p. 1959/60, no 187, 11 p. 1971/72, no 403, 14 p.

1994/95, no 790, 21 p.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

464

TABLE PAR NOMS D’AUTEURS

DESCHAMPS, Mireille Courbes de genre géométrique borné sur une surface de type général (d’après F.A. Bogolomov) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . DESHOUILLERS, Jean-Marc Progrès récents des petits cribles arithmétiques (d’après Chen, Iwaniec,· · · ) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Théorème de Fermat : la contribution de Fouvry . . . . . . . . . . . . . . . . . . . . . L’étude des formes cubiques rationnelles via la méthode du cercle (d’après D.R. Heath-Brown, C. Hooley et R.C. Vaughan) . . . . . . . . . DESOLNEUX-MOULIS, Nicole Variétés de dimension infinie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Orbites périodiques des systèmes hamiltoniens autonomes (d’après Clarke, Ekeland-Lasry, Moser, Rabinowitz, Weinstein) . . . . . . . . . . . . DIEUDONNÉ, Jean Géométrie des espaces algébrique homogènes (d’après W.L. Chow) . Groupes de Lie algébriques (Travaux de Chevalley) . . . . . . . . . . . . . . . . . . Extensions de représentations linéaires de groupes de Lie (d’après Hochschild et Mostow) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Les groupes simples déduits des algèbres de Lie simples complexes (d’après C. Chevalley) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Mémoire de Bertram Kostant sur les applications de la cohomologie des algèbres de Lie réductives . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . La théorie des invariants au xixe siècle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . DIXMIER, Jacques Facteurs : classification, dimension, trace . . . . . . . . . . . . . . . . . . . . . . . . . . . . Anneaux d’opérateurs et représentations des groupes . . . . . . . . . . . . . . . . Quelques résultats d’Harish-Chandra, I . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Quelques résultats d’Harish-Chandra, II . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Fonctions sphériques (d’après R. Godement) . . . . . . . . . . . . . . . . . . . . . . . . . Travaux de Malgrange sur les équations aux dérivées partielles elliptiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Travaux de Kadison sur les invariants unitaires . . . . . . . . . . . . . . . . . . . . . Solution négative du problème des invariants, d’après Nagata . . . . . . . Les algèbres hilbertiennes modulaires de Tomita (d’après Takesaki) . Certaines représentations infinies des algèbres de Lie semi-simples . Quelques résultats de finitude en théorie des invariants (d’après V.L. Popov) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . DOLBEAULT, Pierre Le théorème de Riemann-Roch sur les surfaces kählériennes compactes (d’après K. Kodaira) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . DOLD, Albrecht Les foncteurs dérivés d’un foncteur non-additif . . . . . . . . . . . . . . . . . . . . . . Structure de l’anneau de cobordisme Ω (d’après les travaux de V.A. Rokhlin et de C.T.C. Wall) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . DOLGACHEV, Igor Integral quadratic forms : applications to algebraic geometry (after V. Nikulin) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

ASTÉRISQUE 348

1977/78, no 519, 15 p.

1977/78, no 520, 15 p. 1984/85, no 648, 10 p. 1989/90, no 720, 23 p. 1969/70, no 378, 15 p. 1979/80, no 552, 18 p. 1949/50, no 18, 6 p. 1951/52, no 57, 8 p. 1957/58, no 159, 10 p. 1959/60, no 194, 10 p. 1962/63, no 243, 13 p. 1970/71, no 395, 18 p.

1949/50, 1950/51, 1951/52, 1951/52, 1952/53,

no no no no no

30, 40, 50, 58, 79,

1955/56, 1956/57, 1958/59, 1969/70, 1972/73,

no no no no no

123, 140, 175, 371, 425,

11 p. 6 p. 5 p. 7 p. 8 p. 9 p. 8 p. 11 p. 15 p. 16 p.

1985/86, no 659, 13 p.

1951/52, no 63, 11 p. 1958/59, no 170, 7 p. 1959/60, no 188, 14 p.

1982/83, no 611, 28 p.

TABLE PAR NOMS D’AUTEURS

DOUADY, Adrien Cohomologie des groupes compacts totalement discontinus (d’après Tate) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Plongements de sphères (d’après Mazur et Brown) . . . . . . . . . . . . . . . . . . Le théorème de Grauert sur la cohérence des faisceaux-images d’un faisceau analytique cohérent par un morphisme propre . . . . . . . . . . . . Cycles analytiques, d’après Atiyah et Hirzebruch . . . . . . . . . . . . . . . . . . . . Démonstration élémentaire d’un théorème de périodicité de Bott (d’après Atiyah et Bott) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Le problème des modules pour les variétés analytiques complexes (d’après M. Kuranishi) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Platitude et privilège . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Espaces analytiques sous-algébriques (d’après B.G. Moˇıšezon) . . . . . . Prolongement de faisceaux analytiques cohérents (travaux de Trautmann, Frisch-Guenot et Siu) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Le théorème des images directes de Grauert (d’après Kiehl-Verdier) Système dynamiques holomorphes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Noeuds et structures de contact en dimension 3 (d’après Daniel Bennequin) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Disques de Siegel et anneaux de Herman . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Prolongement de mouvements holomorphes (d’après Słodkowski et autres) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

465

1959/60, no 189, 12 p. 1960/61, no 205, 6 p. 1960/61, no 220, 14 p. 1961/62, no 223, 22 p. 1963/64, no 259, 9 p. 1964/65, no 277, 7 p. 1965/66, no 303, 6 p. 1967/68, no 344, 14 p. 1969/70, no 366, 16 p. 1971/72, no 404, 15 p. 1982/83, no 599, 25 p. 1982/83, no 604, 20 p. 1986/87, no 677, 22 p. 1993/94, no 775, 14 p.

DRUEL, Stéphane Existence de modèles minimaux pour les variétés de type général (d’après Birkar, Cascini, Hacon et Mc Kernan) . . . . . . . . . . . . . . . . . . . .

2007/08, no 982, 38 p.

DUCROS, Antoine Espaces analytiques p-adiques au sens de Berkovich

2005/06, no 958, 40 p.

.................

DUFLO, Michel Représentations de carré intégrable des groupes semi-simples réels . . Caractères des groupes de Lie résolubles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Analyse harmonique sur les groupes algébriques complexes : formule de Plancherel (d’après M. Andler) et conjecture de M. Vergne . . . . Opérateurs transversalement elliptiques et formes différentielles équivariantes (d’après N. Berline et M. Vergne) . . . . . . . . . . . . . . . . . . . DUISTERMAAT, J.J. The light in the neighborhood of a caustic

1977/78, no 508, 19 p. 1979/80, no 558, 16 p. 1982/83, no 612, 13 p. 1994/95, no 791, 17 p.

............................

1976/77, no 490, 11 p.

EDIXHOVEN, Bas Rational torsion points on elliptic curves over number fields (after Kamienny and Mazur) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Rational elliptic curves are modular (after Breuil, Conrad, Diamond and Taylor) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1993/94, no 782, 19 p. 1999/2000, no 871, 28 p.

EDWARDS, Robert D. Characterizing infinite dimensional manifolds topologically (after H. Torúnczyk) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1978/79, no 540, 25 p.

EHRESMANN, Charles Les connexions infinitésimales dans un espace fibré différentiable . . . Sur les variétés presque complexes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1949/50, no 24, 16 p. 1950/51, no 35, 10 p.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

466

TABLE PAR NOMS D’AUTEURS

EILENBERG, Samuel Exposition des théories de Morse et Lusternik-Schnirelmann

........

1950/51, no 36, 6 p.

Foncteurs de modules et leurs satellites (d’après Cartan et Eilenberg) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1950/51, no 46, 3 p.

ELIASSON, L. Hakan Résultats non-perturbatifs pour l’équation de Schrödinger et d’autres cocycles quasi-périodiques (d’après Avila, Bourgain, Jitomirskaya, Krikorian, Puig) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2007/08, no 988, 21 p.

ELWORTHY, K. David Stochastic methods and differential geometry

1980/81, no 567, 16 p.

.........................

EMERTON, Matthew p-adic families of modular forms (after Hida, Coleman, and Mazur)

2009/10, no 1013, 31 p.

ÉMERY, Michel Espaces probabilisés filtrés : de la théorie de Vershik au mouvement brownien, via des idées de Tsirelson . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2000/01, no 882, 21 p.

ESNAULT, Hélène Classification des variétés de dimension 3 et plus (d’après T. Fujita, S. Iitaka, Y. Kawamata, K. Ueno, E. Viehweg) . . . . . . . . . . . . . . . . . . .

1980/81, no 568, 21 p.

EYMARD, Pierre Homomorphismes des algèbres de groupe (d’après Paul J. Cohen) . . Algèbres Ap et convoluteurs de Lp . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1961/62, no 231, 14 p. 1969/70, no 367, 18 p.

FACK, Thierry K-théorie bivariante de Kasparov

.....................................

1982/83, no 605, 18 p.

FALTINGS, Gerd Curves and their fundamental groups (following Grothendieck, Tamagawa and Mochizuki) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1997/98, no 840, 20 p.

FAVRE, Charles Le groupe de Cremona et ses sous-groupes de type fini)

.............

2008/09, no 998, 33 p.

FERNIQUE, Xavier Fonctions aléatoires gaussiennes, les résultats récents de M. Talagrand . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1985/86, no 660, 10 p.

FERRAND, Daniel Les modules projectifs de type fini sur un anneau de polynômes sur un corps sont libres (d’après Quillen et Suslin) . . . . . . . . . . . . . . . . . . . . . . . .

1975/76, no 484, 20 p.

FIGALLI, Alessio Regularity of optimal transport maps (after Ma-Trudinger-Wang and Loeper) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2008/09, no 1009, 28 p.

FISCHLER, Stéphane Irrationalité de valeurs de zêta (d’après Apéry, Rivoal,...)

..........

2002/03, no 910, 35 p.

.........................

1991/92, no 751, 45 p.

FONTAINE, Jean-Marc Valeurs spéciales des fonctions L des motifs

ASTÉRISQUE 348

467

TABLE PAR NOMS D’AUTEURS

FOURNIER, Jean-Claude Le théorème du coloriage des cartes (ex-conjecture des quatre couleurs) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1977/78, no 509, 24 p.

FRENKEL, Edward V. Vertex algebras and algebraic curves

..................................

1999/2000, no 875, 41 p.

Gauge theory and Langlands duality

..................................

2008/09, no 1010, 35 p.

FRIEDLANDER, Eric M. Motivic complexes of Suslin and Voevodsky

..........................

1996/97, no 833, 24 p.

FRÖHLICH, Jürg and SPENCER, Thomas Some recent rigorous results in the theory of phase transitions and critical phenomena . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1981/82, no 586, 42 p.

FULTON, William Eigenvalues of sums of Hermitian matrices (after A. Klyachko)

....

1997/98, no 845, 15 p.

FURSTENBERG, Harry Rigidity and cocycles for ergodic actions of semi-simple Lie groups (after G.A. Margulis and R. Zimmer) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1979/80, no 559, 20 p.

GABRIEL, Pierre Représentations des algèbres de Lie résolubles (d’après J. Dixmier) Représentations indécomposables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Algèbres auto-injectives de représentation finie (d’après Christine Riedtmann) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . GALLAGHER, Isabelle Résultats récents sur la limite incompressible

.........................

GALLOT, Sylvestre Minorations sur le λ1 des variétés riemanniennes . . . . . . . . . . . . . . . . . . . Volumes, courbure de Ricci et convergence des variétés (d’après T.H. Colding et Cheeger-Colding) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1968/69, no 347, 22 p. 1973/74, no 444, 27 p. 1979/80, no 545, 20 p. 2003/04, no 926, 29 p. 1980/81, no 569, 17 p. 1997/98, no 835, 26 p.

GASBARRI, Carlo The strong abc conjecture over function fields (after McQuillan and Yamanoi) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2007/08, no 989, 38 p.

GAUDUCHON, Paul Variétés riemanniennes autoduales (d’après C.H. Taubes et al.)

1992/93, no 767, 36 p.

....

GAUTHIER, Luc Théorie des correspondances birationnelles selon Zariski . . . . . . . . . . . . Quelques variétés usuelles en géométrie algébrique . . . . . . . . . . . . . . . . . . .

1948/49, no 10, 8 p. 1950/51, no 37, 5 p.

GAWE ¸ DZKI, Krzysztof Conformal field theory

1988/89, no 704, 32 p.

.................................................

GECK, Meinolf Representations of Hecke algebras at roots of unity

..................

1997/98, no 836, 23 p.

GÉRARD, Christian Complétude asymptotique des systèmes à N corps à courte portée (d’après I.M. Sigal et A. Soffer) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1989/90, no 721, 23 p.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

468

TABLE PAR NOMS D’AUTEURS

GÉRARD, Patrick Solutions globales du problème de Cauchy pour l’équation de Boltzmann (d’après R.J. Di Perna et P.L. Lions) . . . . . . . . . . . . . . . . . Résultats récents sur les fluides parfaits incompressibles bidimensionnels (d’après J.-Y. Chemin et J.-M. Delort) . . . . . . . . . .

1991/92, no 757, 34 p.

Équations de champ moyen pour la dynamique quantique d’un grand nombre de particules (d’après Bardos, Erdös, Golse, Gottlieb, Mauser, Yau) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2003/04, no 930, 18 p.

1987/88, no 699, 25 p.

GÉRARDIN, Paul Représentations du groupe SL2 d’un corps local (d’après Gel’fand, Graev et Tanaka) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Changement du corps de base pour les représentations de GL(2) (d’après R.P. Langlands, H.Saito et T. Shintani) . . . . . . . . . . . . . . . . . . Formes automorphes associées aux cycles géodésiques des surfaces de Riemann hyperboliques (d’après S. Kudla et J. Millson) . . . . . . . . . .

1980/81, no 562, 13 p.

GERMAIN, Paul Les équations du type mixte et le problème de Tricomi

1955/56, no 124, 12 p.

..............

1967/68, no 332, 35 p. 1977/78, no 510, 24 p.

GHYS, Étienne L’invariant de Godbillon-Vey . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Les groupes hyperboliques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Dynamique des flots unipotents sur les espaces homogènes . . . . . . . . . . Construction de champs de vecteurs sans orbite périodique (d’après Krystyna Kuperberg) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Groupes aléatoires (d’après Misha Gromov,...) . . . . . . . . . . . . . . . . . . . . . . .

1993/94, no 785, 25 p. 2002/03, no 916, 30 p.

GILLE, Philippe Le problème de Kneser-Tits

...........................................

2007/08, no 983, 43 p.

GINIBRE, Jean Le problème de Cauchy pour des EDP semi-linéaires périodiques en variables d’espace (d’après Bourgain) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1994/95, no 796, 25 p.

GIRARD, Jean-Yves Le lambda-calcul du second ordre

.....................................

1986/87, no 678, 13 p.

GIRAUD, Jean Groupe de Picard, anneaux factoriels (d’après Grothendieck) . . . . . . . Analysis situs (d’après Artin et Grothendieck) . . . . . . . . . . . . . . . . . . . . . . . Résolution des singularités (d’après H. Hironaka) . . . . . . . . . . . . . . . . . . .

1962/63, no 248, 13 p. 1962/63, no 256, 11 p. 1966/67, no 320, 13 p.

1988/89, no 706, 27 p. 1989/90, no 722, 36 p. 1991/92, no 747, 44 p.

GIROUX, Emmanuel Topologie de contact en dimension 3 (autour des travaux de Yakov Eliashberg) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Sur la géométrie et la dynamique des transformations de contact (d’après Y. Eliashberg, L. Polterovich et al.) . . . . . . . . . . . . . . . . . . . . . . .

2008/09, no 1004, 38 p.

GLASS, Olivier La méthode du retour en contrôlabilité et ses applications en mécanique des fluides (d’après Coron et al.) . . . . . . . . . . . . . . . . . . . . . . .

2010/11, no 1027, 16 p.

ASTÉRISQUE 348

1992/93, no 760, 27 p.

469

TABLE PAR NOMS D’AUTEURS

GODBILLON, Claude Travaux de D. Anosov et S. Smale sur les difféomorphismes . . . . . . . . Problèmes d’existence et d’homotopie dans les feuilletages . . . . . . . . . . Cohomologie d’algèbres de Lie de champs de vecteurs formels . . . . . . GODEMENT, Roger Groupe complexe unimodulaire, I : les représentations unitaires irréductibles du groupe complexe unimodulaire (d’après Gelfand et Neumark) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Groupe complexe unimodulaire, II : la transformation de Fourier dans le groupe complexe unimodulaire à deux variables (d’après Gelfand et Neumark) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Sommes continues d’espaces de Hilbert, I . . . . . . . . . . . . . . . . . . . . . . . . . . . . Sommes continues d’espaces de Hilbert, II . . . . . . . . . . . . . . . . . . . . . . . . . . . Théorie des caractères dans les groupes unimodulaires . . . . . . . . . . . . . . . Travaux de Hecke, I . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Travaux de Hecke, II . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Travaux de Hecke, III . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Travaux de Hecke, IV . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Cohomologie des groupes discontinus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Représentations induites des groupes de Lie (d’après Bruhat) . . . . . . . Représentations induites des groupes semi-simples . . . . . . . . . . . . . . . . . . . Introduction aux travaux de A. Selberg . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Les fonctions zêta des algèbres simples, I . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Les fonctions zêta des algèbres simples, II . . . . . . . . . . . . . . . . . . . . . . . . . . . . Groupes linéaires algébriques sur un corps parfait . . . . . . . . . . . . . . . . . . . La formule des traces de Selberg . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Domaines fondamentaux des groupes arithmétiques . . . . . . . . . . . . . . . . . . Quelques résultats nouveaux de Kostant sur les groupes semi-simples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Analyse spectrale des fonctions modulaires . . . . . . . . . . . . . . . . . . . . . . . . . . . Introduction à la théorie de Langlands . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Formes automorphes et produits eulériens (d’après R.P. Langlands) De l’équation de Schrödinger aux fonctions automorphes . . . . . . . . . . . . GOERSS, Paul G. Topological modular forms (after Hopkins, Miller, and Lurie)

......

1968/69, no 348, 13 p. 1970/71, no 390, 15 p. 1972/73, no 421, 19 p.

1948/49, no 4, 7 p.

1948/49, 1949/50, 1949/50, 1950/51, 1951/52, 1951/52, 1952/53, 1952/53, 1953/54, 1955/56, 1955/56, 1956/57, 1958/59, 1958/59, 1960/61, 1962/63, 1962/63,

no no no no no no no no no no no no no no no no no

13, 7 p. 19, 6 p. 25, 8 p. 41, 11 p. 51, 7 p. 59, 8 p. 74, 10 p. 80, 7 p. 90, 11 p. 126, 8 p. 131, 7 p. 144, 16 p. 171, 23 p. 176, 20 p. 206, 22 p. 244, 10 p. 257, 17 p.

1963/64, 1964/65, 1966/67, 1968/69, 1974/75,

no no no no no

260, 278, 321, 349, 467

8 p. 26 p. 30 p. 17 p.

2008/09, no 1005, 35 p.

GONZALEZ SPRINBERG, Gerardo Désingularisation des surfaces par des modifications de Nash normalisées (d’après M. Spivakovsky) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1985/86, no 661, 21 p.

GOODE, John B. H. L. M. (Hrushovski-Lang-Mordell)

.................................

1995/96, no 811, 16 p.

GOULAOUIC, Charles Sur la théorie spectrale des opérateurs elliptiques (éventuellement dégénérés) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1968/69, no 360, 14 p.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

470

TABLE PAR NOMS D’AUTEURS

GRAMAIN, André L’invariance topologique des classes de Pontrjagin rationnelles . . . . . Éléments de π2n−1 (S n ) d’invariant de Hopf Un (d’après J. Adams et M. Atiyah) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Groupe des difféomorphismes et espaces de Teichmüller d’une surface . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Sphères d’homologie rationnelle (d’après H. Barge, J. Lannes, F. Latour et P. Vogel) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1974/75, no 455, 18 p.

Rapport sur la théorie classique des nœuds (première partie) . . . . . . . . Rapport sur la théorie classique des nœuds (deuxième partie) . . . . . . .

1974/75, no 485, 16 p. 1990/91, no 732, 25 p.

GRIGORIEFF, Serge Détermination des jeux boréliens et problèmes logiques associés (d’après D. Martin) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1975/76, no 478, 14 p.

GRISVARD, Pierre Méthodes opérationnelles dans l’étude des problèmes aux limites . . . . Résolution locale d’une équation différentielle (selon Nirenberg et Trèves) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . GROMOV, Mikhael On hyperbolic manifolds according to Thurston and and Jørgensen Entropy, homology and semialgebraic geometry (after Y. Yomdin) GROSS, Leonard Harmonic functions on loop groups

1966/67, no 322, 7 p. 1972/73, no 426, 14 p.

1964/65, no 289, 11 p. 1970/71, no 391, 14 p.

. .

1979/80, no 546, 14 p. 1985/86, no 663, 16 p.

...................................

1997/98, no 846, 16 p.

GROTHENDIECK, Alexander Produits tensoriels topologiques et espaces nucléaires . . . . . . . . . . . . . . . . La théorie de Fredholm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Réarrangements de fonctions et inégalités de convexité dans les algèbres de von Neumann munies d’une trace . . . . . . . . . . . . . . . . . . . . . . Sur le mémoire de A. Weil : “Généralisation des fonctions abéliennes” . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Théorèmes de dualité pour les faisceaux algébriques cohérents . . . . . . . Géométrie formelle et géométrie algébrique . . . . . . . . . . . . . . . . . . . . . . . . . . Technique de descente et théorèmes d’existence en géométrie algébrique. I : généralités. Descente par morphismes fidèlement plats . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Technique de descente et théorèmes d’existence en géométrie algébrique. II : le théorème d’existence en théorie formelle des modules . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Techniques de construction et théorèmes d’existence en géométrie algébrique. III : préschémas quotients . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Techniques de construction et théorèmes d’existence en géométrie algébrique. IV : les schémas de Hilbert . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Technique de descente et théorèmes d’existence en géométrie algébrique. V. Les schémas de Picard : théorèmes d’existence . . . . . Technique de descente et théorèmes d’existence en géométrie algébrique. VI. Les schémas de Picard : propriétés générales . . . . . . Complément : fondements de la géométrie algébrique. Commentaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Formule de Lefschetz et rationalité des fonctions L . . . . . . . . . . . . . . . . . .

ASTÉRISQUE 348

1965/66, no 304, 16 p.

1952/53, no 69, 8 p. 1953/54, no 91, 8 p. 1954/55, no 113, 13 p. 1956/57, no 141, 15 p. 1956/57, no 149, 25 p. 1958/59, no 182, 28 p.

1959/60, no 190, 29 p.

1959/60, no 195, 22 p. 1960/61, no 212, 20 p. 1960/61, no 221, 28 p. 1961/62, no 232, 19 p. 1961/62, no 236, 23 p. 1961/62, 11 p. 1964/65, no 279, 15 p.

471

TABLE PAR NOMS D’AUTEURS

GROTHENDIECK, Alexander (suite) Le groupe de Brauer. I. Algèbres d’Azumaya et interprétations diverses . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Le groupe de Brauer. II. Théorie cohomologique . . . . . . . . . . . . . . . . . . . . .

1964/65, no 290, 21 p. 1965/66, no 297, 21 p.

GRUSON, Caroline Sur les représentations de dimension finie de la super algèbre de Lie gl(m, n) (d’après Serganova) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2005/06, no 963, 20 p.

GUICHARDET, Alain Représentations des algèbres involutives . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Représentations des groupes de Lie nilpotents (d’après Kirillov) . . . . Facteurs de type III (d’après R.T. Powers) . . . . . . . . . . . . . . . . . . . . . . . . . . Représentations de GX selon Gelfand et Delorme . . . . . . . . . . . . . . . . . . . Représentations de GX (G compact) (selon Verchik, Gelfand, Graiev et Ismagilov) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1978/79, no 541, 9 p.

GUILLAUME, Marcel Les tableaux sémantiques du calcul des prédicats restreint

1957/58, no 153, 13 p.

...........

1960/61, 1962/63, 1967/68, 1975/76,

no no no no

207, 249, 333, 486,

8 p. 9 p. 10 p. 18 p.

GUIONNET, Alice Grandes matrices aléatoires et théorèmes d’universalité (d’après Erdős, Schlein, Tao, Vu et Yau) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2009/10, no 1019, 35 p.

HAEFLIGER, André Plongements de variétés dans le domaine stable . . . . . . . . . . . . . . . . . . . . . Sphères d’homotopie nouées . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Travaux de Novikov sur les feuilletages . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Sur les classes caractéristiques des feuilletages . . . . . . . . . . . . . . . . . . . . . . . Feuilletages riemanniens . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1962/63, 1964/65, 1967/68, 1971/72, 1988/89,

HAÏSSINSKY, Peter Géométrie quasiconforme, analyse au bord des espaces métriques hyperboliques et rigidités (d’après Mostow, Pansu, Bourdon, Pajot, Bonk, Kleiner..) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2007/08, no 993, 41 p.

HAKIM, Monique Valeurs au bord de fonctions holomorphes bornées en plusieurs variables complexes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1982/83, no 613, 13 p.

HALES, Thomas C. The fundamental lemma and the Hitchin fibration (after Ngô Bao Châu) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2010/11, no 1035, 31 p.

HARARI, David Points rationnels sur les sous-variétés des variétés abéliennes au-dessus d’un corps de fonctions (d’après Poonen et Voloch)

2006/07, no 979, 24 p.

....

no no no no no

245, 280, 339, 412, 707,

13 12 12 22 15

p. p. p. p. p.

HARISH-CHANDRA Some applications of invariant differential operators on a semisimple Lie algebra . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1957/58, no 160, 8 p.

HARTSHORNE, Robin Genre des courbes algébriques dans l’espace projectif (d’après L. Gruson et C. Peskine) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1981/82, no 592, 13 p.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

472

HARVEY, William James Kleinian groups (a survey)

TABLE PAR NOMS D’AUTEURS

............................................

1976/77, no 491, 16 p.

HECKMAN, Gerrit J. Dunkl operators . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1996/97, no 828, 24 p.

HELFFER, Bernard Propagation des singularités pour des problèmes aux limites (d’après R.B. Melrose, J. Sjöstrand) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1978/79, no 525, 20 p.

HELLEGOUARCH, Yves Fonctions zêta en caractéristique positive et modules de Carlitz-Hayes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1997/98, no 837, 23 p.

HENNIART, Guy Les inégalités de Morse (d’après E. Witten) . . . . . . . . . . . . . . . . . . . . . . . . . . Cyclotomie et valeurs de la fonction Γ (d’après G. Anderson) . . . . . . Formes de Maass et représentations galoisiennes (d’après Blasius, Clozel, Harris, Ramakrishnan et Taylor) . . . . . . . . . . . . . . . . . . . . . . . . . . . Erratum à l’exposé no 711 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Représentations des groupes réductifs p-adiques . . . . . . . . . . . . . . . . . . . . . . Progrès récents en fonctorialité de Langlands . . . . . . . . . . . . . . . . . . . . . . . .

1988/89, 1990/91, 1990/91, 2000/01,

HERVÉ, Michel Travaux de Köcher sur les formes modulaires

1955/56, no 132, 6 p.

........................

1983/84, no 617, 19 p. 1987/88, no 688, 20 p. no no no no

711, 711, 736, 890,

26 p. 2 p. 27 p. 22 p.

HERZ, Jean-Claude Caractérisation des caractères des groupes finis (d’après R. Brauer)

1953/54, no 92, 6 p.

HERZLICH, Marc L’inégalité de Penrose (d’après H. Bray, G. Huisken et T. Ilmanen,...) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2000/01, no 883, 26 p.

HIRSCH, Francis Opérateurs carrés du champ (d’après J.-P. Roth)

....................

1976/77, no 501, 16 p.

.............................

1971/72, no 413, 16 p.

HIRSCHOWITZ, André Le groupe de Cremona d’après Demazure

HIRZEBRUCH, Friedrich A Riemann-Roch theorem for differentiable manifolds (d’après Atiyah et Hirzebruch) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . The topology of normal singularities of an algebraic surface (d’après Mumford) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Singularities and exotic spheres . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . The Hilbert modular group, resolution of the singularities at the cusps and related problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1958/59, no 177, 21 p. 1962/63, no 250, 9 p. 1966/67, no 314, 20 p. 1970/71, no 396, 14 p.

HITCHIN, Nigel J. The Yang-Mills equations and the topology of 4-manifolds (after Simon K. Donaldson) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . The Hyperkähler manifolds . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1982/83, no 606, 12 p. 1991/92, no 748, 30 p.

HOST, Bernard Progressions arithmétiques dans les nombres premiers (d’après B. Green et T. Tao) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2004/05, no 944, 17 p.

ASTÉRISQUE 348

TABLE PAR NOMS D’AUTEURS

473

HOUDAYER, Cyril Invariant percolation and measured theory of nonamenable groups (after Gaboriau-Lyons, Ioana, Epstein) . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2010/11, no 1039, 36 p.

HOUZEL, Christian Espaces analytiques rigides (d’après R. Kiehl)

.......................

1966/67, no 327, 21 p.

HUSEMOLLER, Dale La décomposition des espaces des lacets et la torsion impaire des groupes d’homotopie (d’après F. Cohen, J.C. Moore, J. Neisendorfer et P. Selick) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1979/80, no 547, 19 p.

HUYBRECHTS, Daniel Projectivity of Kähler manifolds - Kodaira’s problem (after C. Voisin) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . A Global Torelli theorem for hyperkähler manifolds (after M. Verbitsky) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2005/06, no 954, 19 p.

ILLUSIE, Luc Contractibilité du groupe linéaire des espaces de Hilbert de dimension infinie (d’après N. Kuiper) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Travaux de Quillen sur la cohomologie des groupes . . . . . . . . . . . . . . . . . . Cohomologie cristalline (d’après P. Berthelot) . . . . . . . . . . . . . . . . . . . . . . . Cohomologie de de Rham et cohomologie étale p-adique (d’après G. Faltings, J.-M. Fontaine et al.) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1964/65, no 284, 9 p. 1971/72, no 405, 17 p. 1974/75, no 456, 8 p.

IOOSS, Gérard Modélisation de la transition vers la turbulence

2010/11, no 1040, 29 p.

1989/90, no 726, 50 p.

......................

1982/83, no 607, 19 p.

ITENBERG, Ilia Amibes de variétés algébriques et dénombrement de courbes (d’après G. Mikhalkin) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2002/03, no 921, 26 p.

JACOBSON, Nathan Le problème de Kuros

1951/52, no 64, 10 p.

..................................................

JACQUET, Hervé Mémoire de Langlands sur la dimension des espaces de formes automorphes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . La transformation de Radon sur un espace symétrique (d’après S. Helgason) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1963/64, no 261, 15 p. 1964/65, no 285, 13 p.

JAFFARD, Paul Les corps quasi-algébriquement clos (d’après S. Lang) . . . . . . . . . . . . . . . Anneaux d’adèles (d’après Iwasawa) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Travaux de Krull sur les anneaux de Jacobson . . . . . . . . . . . . . . . . . . . . . . .

1952/53, no 70, 12 p. 1954/55, no 103, 11 p. 1955/56, no 127, 9 p.

JANKO, Zvonimir On the finite simple groups (according to Aschbacher and Gorenstein) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1976/77, no 502, 15 p.

JONES, Vaughan Fusion en algèbres de von Neumann et groupes de lacets (d’après A. Wassermann) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1994/95, no 800, 23 p.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

474

TABLE PAR NOMS D’AUTEURS

JULG, Pierre Travaux de N. Higson et G. Kasparov sur la conjecture de Baum-Connes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1997/98, no 841, 33 p.

KAHANE, Jean-Pierre Séries de Fourier aléatoires

...........................................

1959/60, no 200, 10 p.

Travaux de Beurling et Malliavin . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Algèbres tensorielles et analyse harmonique (d’après N. Varopoulos) Sommes partielles des séries de Fourier (d’après L. Carleson) . . . . . . Quotients de fonctions définies-négatives (d’après Beurling et Deny) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1961/62, no 225, 13 p. 1964/65, no 291, 10 p. 1965/66, no 310, 17 p. 1966/67, no 315, 12 p.

KAHN, Bruno La conjecture de Milnor (d’après V. Voevodsky) . . . . . . . . . . . . . . . . . . . . . Formes quadratiques et cycles algébriques (d’après Rost, Voevodsky, Vishik, Karpenko. . . ) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2004/05, no 941, 50 p.

KALOUJNINE, Léo Sur la structure des p-groupes de Sylow des groupes symétriques finis et de quelques généralisations infinies de ces groupes . . . . . . . . . . . . . .

1948/49, no 5, 3 p.

KARCHER, Hermann Report on M. Gromov’s almost flat manifolds

........................

1978/79, no 526, 15 p.

KAROUBI, Max Cobordisme et groupes formels (d’après D. Quillen et T. Tom Dieck) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1971/72, no 408, 25 p.

KASSEL, Christian Le résidu non commutatif (d’après M. Wodzicki) . . . . . . . . . . . . . . . . . . . . L’ordre de Dehornoy sur les tresses . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1988/89, no 708, 31 p. 1999/2000, no 865, 22 p.

KATZ, André Introduction aux quasicristaux

........................................

1997/98, no 838, 23 p.

KATZ, Nicholas M. Travaux de Dwork . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Travaux de Laumon . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1971/72, no 409, 34 p. 1987/88, no 691, 28 p.

KAZDAN, Jerry L. Positive Energy in General Relativity

1981/82, no 593, 16 p.

.................................

KELLER, Bernhard Algèbres amassées et applications (d’après Fomin-Zelevinsky, ...)

...

KERVAIRE, Michel A. L’homotopie stable des groupes classiques (d’après R. Bott). Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Le problème de Poincaré en dimensions élevées (d’après J. Stallings) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Fractions rationnelles invariantes (d’après H.W. Lenstra) . . . . . . . . . . KHARLAMOV, Viatcheslav Variétés de Fano réelles (d’après C. Viterbo)

ASTÉRISQUE 348

........................

1996/97, no 834, 40 p.

2009/10, no 1014, 28 p.

1958/59, no 172, 10 p. 1960/61, no 208, 11 p. 1973/74, no 445, 20 p.

1999/2000, no 872, 18 p.

475

TABLE PAR NOMS D’AUTEURS

KIRILLOV, Alexandre et DELAROCHE, Claire Sur les relations entre l’espace dual d’un groupe et la structure de ses sous-groupes fermés (d’après D.A. Kajdan) . . . . . . . . . . . . . . . . . . . . . . . .

1967/68, no 343, 22 p.

KLAINERMAN, Sergiu Linear stability of black holes (following M. Dafermos and I. Rodnianski) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2009/10, no 1015, 45 p.

KOLLÁR, János Minimal models of algebraic threefolds : Mori’s program

1988/89, no 712, 24 p.

KOLMOGOROV, A. Dimension linéaire des espaces vectoriels topologiques KOMOROWSKI, Tomasz Brownian motion in a Poisson obstacle field

............

...............

1957/58, no 165, 1 p.

.........................

1998/99, no 853, 20 p.

KONTSEVICH, Maxim Mirror symmetry in dimension 3 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Product formulas for modular forms on O(2, n) (after R. Borcherds)

1994/95, no 801, 19 p. 1996/97, no 821, 16 p.

KOSZUL, Jean-Louis Algèbres de Jordan . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Cohomologie des espaces fibrés différentiables et connexions . . . . . . . . Relations d’équivalence sur les courbes algébriques ayant des points multiples (d’après M. Rosenlicht) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Les variétés jacobiennes généralisées (d’après M. Rosenlicht) . . . . . . . Formes hermitiennes canoniques des espaces homogènes complexes (d’après Atiyah) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Fibrés vectoriels sur les courbes elliptiques (d’après Atiyah) . . . . . . . . . Travaux de B. Kostant sur les groupes de Lie semi-simples . . . . . . . . . Théorèmes de points fixes pour les groupes élémentaires (d’après Borel) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Travaux de J. Stallings sur la décomposition des groupes en produits libres . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Travaux de S.S. Chern et J. Simons sur les classes caractéristiques Rigidité forte des espaces riemanniens localement symétriques (d’après G.D. Mostow) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1949/50, no 31, 12 p. 1950/51, no 38, 7 p. 1952/53, no 75, 8 p. 1953/54, no 93, 7 p. 1954/55, no 108, 7 p. 1957/58, no 154, 10 p. 1959/60, no 191, 9 p. 1962/63, no 251, 6 p. 1968/69, no 356, 13 p. 1973/74, no 440, 20 p. 1974/75, no 468, 15 p.

KOTSCHICK, Dieter The Seiberg-Witten invariants of symplectic four-manifolds (after C.H. Taubes) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1995/96, no 812, 26 p.

KOWALSKI, Emmanuel Écarts entre nombres premiers successifs (d’après Goldston, Pintz and Yıldırım, ...) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Crible en expansion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2005/06, no 959, 34 p. 2010/11, no 1028, 48 p.

KRAFT, Hanspeter Challenging problems on affine n-space

1994/95, no 802, 21 p.

...............................

KRASNER, Marc Les travaux récents de R. Brauer en théorie des groupes . . . . . . . . . . . . . Généralisations non-abéliennes de la théorie locale des corps de classes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1948/49, no 14, 6 p. 1950/51, no 47, 24 p.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

476

KRÉE, Paul Intégrales singulières

TABLE PAR NOMS D’AUTEURS

...................................................

1965/66, no 298, 13 p.

KRIKORIAN, Raphaël Déviations de moyennes ergodiques, flots de Teichmüller et cocycle de Kontsevich-Zorich (d’après Forni, Kontsevich, Zorich...) . . . . . . . . .

2003/04, no 927, 35 p.

KRIVINE, Jean-Louis Théorèmes de consistance en théorie de la mesure de R. Solovay

1968/69, no 357, 11 p.

...

KUDLA, Stephen S. Derivatives of Eisenstein series and generating functions for arithmetic cycles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1999/2000, no 876, 28 p.

KUIPER, Nicolaas H. Sur les variétés riemanniennes très pincées . . . . . . . . . . . . . . . . . . . . . . . . . . Sphères polyédriques flexibles dans E 3 (d’après Robert Connelly) . . .

1971/72, no 410, 18 p. 1977/78, no 514, 22 p.

KUPIAINEN, Antti Ergodicity of two dimensional turbulence (after Hairer and Mattingly) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2009/10, no 1016, 20 p.

KUPKA, Ivan Géométrie sous-riemannienne

1995/96, no 817, 30 p.

.........................................

LABESSE, Jean-Pierre La formule des traces d’Arthur-Selberg

...............................

1984/85, no 636, 16 p.

.....................................

1984/85, no 641, 19 p.

LACOMBE, Daniel Théorèmes de non-décidabilité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Logique du premier ordre avec quantificateur cardinalisé . . . . . . . . . . . .

1963/64, no 266, 41 p. 1966/67, no 328, 24 p.

LAFONTAINE, Jacques Mesures de courbure des variétés lisses et des polyèdres, (d’après Cheeger, Müller et Schräder) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1985/86, no 664, 16 p.

LANFORD, Oscar E. Smooth transformations of intervals

1980/81, no 563, 19 p.

LACHAUD, Gilles Les codes géométriques de Goppa

..................................

LANG, Serge Familles algébriques de jacobiennes (d’après Igusa) . . . . . . . . . . . . . . . . . . Le théorème d’irréductibilité de Hilbert . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . L’équivalence homotopique tangentielle (d’après Mazur) . . . . . . . . . . . . . Fonctions implicites et plongements riemanniens (d’après Nash et Moser) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Les formes bilinéaires de Néron et Tate . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Corps de fonctions méromorphes sur une surface de Riemann . . . . . . Nombres transcendants . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Sur la conjecture de Birch-Swinnerton-Dyer (d’après J. Coates et A. Wiles) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

ASTÉRISQUE 348

1957/58, no 155, 9 p. 1959/60, no 201, 13 p. 1960/61, no 222, 10 p. 1961/62, 1963/64, 1964/65, 1965/66,

no no no no

237, 274, 292, 305,

10 p. 11 p. 2 p. 8 p.

1976/77, no 503, 12 p.

477

TABLE PAR NOMS D’AUTEURS

LANNES, Jean Un faux espace projectif réel de dimension 4 (d’après Sylvain E. Cappell et Julius L. Shaneson) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . La conjecture des immersions (d’après R.L. Cohen, E.H. Brown, F.P. Peterson et al.) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Théorie homotopique des groupes de Lie (d’après W.G. Dwyer et C.W. Wilkerson) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . LASCAR, Daniel Théorie de la classification

............................................

1978/79, no 527, 21 p. 1981/82, no 594, 16 p. 1993/94, no 776, 25 p. 1986/87, no 682, 9 p.

LATOUR, François Chirurgie non simplement connexe (d’après C.T.C. Wall) . . . . . . . . . . Double suspension d’une sphère d’homologie (d’après R. Edwards) .

1970/71, no 397, 34 p. 1977/78, no 515, 18 p.

LATTÈS, Robert Application de la théorie des semi-groupes à l’intégration d’équations aux dérivées partielles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1952/53, no 81, 9 p.

LAUDENBACH, François Les 2-sphères de R3 vues par A. Hatcher et la conjecture de Smale : Diff(S 3 ) ∼ O(4) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Orbites périodiques et courbes pseudo-holomorphes, application à la conjecture de Weinstein en dimension 3 (d’après H. Hofer et al.)

1983/84, no 629, 15 p. 1993/94, no 786, 25 p.

LAUMON, Gérard Faisceaux caractères (d’après Lusztig) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . La correspondance de Langlands sur les corps de fonctions (d’après Laurent Lafforgue) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Travaux de Frenkel, Gaitsgory et Vilonen sur la correspondance de Drinfeld-Langlands . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2001/02, no 906, 18 p.

LAWSON Jr., H. Blaine Surfaces minimales et la construction de Calabi-Penrose

1983/84, no 624, 15 p.

............

1988/89, no 709, 30 p. 1999/2000, no 873, 59 p.

LAZARD, Daniel Primitives des fonctions élémentaires (d’après Risch et Davenport)

1983/84, no 630, 14 p.

LAZARD, Michel Groupes analytiques en caractéristique 0 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Lois de groupes et analyseurs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1952/53, no 76, 8 p. 1954/55, no 109, 15 p.

LÊ, D˜ ung Tráng Faisceaux constructibles quasi-unipotents

.............................

1981/82, no 581, 13 p.

LEBEAU, Gilles Interaction des singularités pour les équations aux dérivées partielles non linéaires (d’après J.-M. Bony et al.) . . . . . . . . . . . . . . . . . . . . . . . . . . .

1984/85, no 642, 14 p.

LEDOUX, Michel Inégalités isopérimétriques en analyse et probabilités . . . . . . . . . . . . . . . . Géométrie des espaces métriques mesurés : les travaux de Lott, Villani, Sturm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . LE GALL, Jean-François Exposants critiques pour le mouvement brownien et les marches aléatoires (d’après Kenyon, Lawler et Werner) . . . . . . . . . . . . . . . . . . . .

1992/93, no 773, 33 p. 2007/08, no 990, 23 p.

1999/2000, no 866, 23 p.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

478

TABLE PAR NOMS D’AUTEURS

LELONG, Pierre Valeurs algébriques d’une application méromorphe (d’après E. Bombieri) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1970/71, no 384, 17 p.

LEMAIRE, Jean-Michel Le transfert dans les espaces fibrés (d’après J. Becker et D. Gottlieb) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Anneaux locaux et espaces de lacets à séries de Poincaré irrationnelles (d’après Anick, Roos, etc.) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1980/81, no 570, 8 p.

LEMAIRE, Luc Existence des applications harmoniques et courbure des variétés

1979/80, no 553, 22 p.

....

LENSTRA Jr., Hendrik W. Primality testing algorithms (after Adleman, Rumely and Williams)

1975/76, no 472, 15 p.

1980/81, no 576, 15 p.

LE POTIER, Joseph Le problème des modules locaux pour les espaces C-analytiques compacts (d’après A. Douady et J. Hubbard) . . . . . . . . . . . . . . . . . . . . . . . Fibrés vectoriels et cycles d’ordre fini sur une variété algébrique non compacte (d’après M. Cornalba et P. Griffiths) . . . . . . . . . . . . . . . . . . . . Fibrés de Higgs et systèmes locaux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1975/76, no 473, 16 p. 1990/91, no 737, 48 p.

LERAY, Jean La résolution des problèmes de Cauchy et de Dirichlet au moyen du calcul symbolique et des projections orthogonales et obliques . . . . . . Résidus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Le problème de Cauchy dans le cas analytique linéaire . . . . . . . . . . . . . .

1950/51, no 48, 11 p. 1958/59, no 183, 2 p. 1959/60, no 202, 11 p.

LERNER, Nicolas Principe d’incertitude et microlocalisation (d’après C. Fefferman et D.H. Phong) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . The verification of the Nirenberg-Treves conjecture . . . . . . . . . . . . . . . . . .

1986/87, no 669, 11 p. 2005/06, no 960, 25 p.

LICHNEROWICZ, André Variétés localement kählériennes

1951/52, no 60, 17 p.

......................................

1973/74, no 449, 18 p.

LIONS, Jacques-Louis Les travaux de Deny en théorie du potentiel . . . . . . . . . . . . . . . . . . . . . . . . . . Problèmes aux limites relatifs à des équations de type elliptique . . . . . Espaces de Beppo Levi et quelques applications . . . . . . . . . . . . . . . . . . . . . . Équations de Navier-Stokes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Sur les problèmes d’interpolation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Sur les problèmes unilatéraux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1951/52, 1954/55, 1954/55, 1958/59, 1959/60, 1968/69,

LITTELMANN, Peter Bases canoniques et applications

......................................

1997/98, no 847, 20 p.

LODAY, Jean-Louis Homotopie des espaces de concordances (d’après F. Waldhausen) . . . Excision en K-théorie algébrique (d’après A. Suslin et M. Wodzicki) La renaissance des opérades . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1977/78, no 516, 19 p. 1991/92, no 752, 21 p. 1994/95, no 792, 28 p.

ASTÉRISQUE 348

no no no no no no

52, 9 p. 110, 13 p. 117, 13 p. 184, 16 p. 196, 13 p. 350, 23 p.

479

TABLE PAR NOMS D’AUTEURS

LOESER, François Déformations de courbes planes (d’après Severi et Harris) . . . . . . . . . . Polytopes secondaires et discriminants . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Exposants P -adiques et théorèmes d’indice pour les équations différentielles p-adiques (d’après G. Christol et Z. Mebkhout) . . . . . Cobordisme des variétés algébriques (d’après M. Levine et F. Morel)

1986/87, no 679, 19 p. 1990/91, no 742, 34 p. 1996/97, no 822, 25 p. 2001/02, no 901, 26 p.

LOOIJENGA, Eduard Intersection theory on Deligne-Mumford compactifications (after Witten and Kontsevich) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Motivic measures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1992/93, no 768, 26 p. 1999/2000, no 874, 31 p.

MACDONALD, Ian G. Affine Lie algebras and modular forms . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Affine Hecke algebras and orthogonal polynomials . . . . . . . . . . . . . . . . . . .

1980/81, no 577, 19 p. 1994/95, no 797, 19 p.

MACPHERSON, Robert The combinatorial formula of Gabrielov, Gelfand and Losik for the first Pontrjagin class . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1976/77, no 497, 20 p.

MAILLOT, Sylvain Variétés hyperboliques de petit volume (d’après D. Gabai, R. Meyerhoff, P. Milley, ...) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2008/09, no 1011, 13 p.

MALGRANGE, Bernard Équations de Sturm-Liouville . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Fonctions moyenne-périodiques (d’après J.-P. Kahane) . . . . . . . . . . . . . Variétés analytiques réelles (d’après F. Bruhat, H. Cartan et B. Malgrange) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Théorème de Frobenius complexe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Unicité du problème de Cauchy (d’après A.P. Calderón) . . . . . . . . . . . . Division des distributions (d’après Łojasiewicz) . . . . . . . . . . . . . . . . . . . . . . Équations différentielles sans solutions (d’après Hörmander) . . . . . . . Systèmes différentiels à coefficients constants . . . . . . . . . . . . . . . . . . . . . . . . Problèmes aux limites elliptiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Majorations a priori et d00 -cohomologie (d’après Hörmander) . . . . . . . Théorie analytique des équations différentielles . . . . . . . . . . . . . . . . . . . . . . Opérateurs de Fourier (d’après Hörmander et Maslov) . . . . . . . . . . . . . . L’involutivité des caractéristiques des systèmes différentiels et microdifférentiels . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Travaux d’Écalle et de Martinet-Ramis sur les systèmes dynamiques Transformation de Fourier géométrique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1951/52, no 65, 11 p. 1953/54, no 97, 7 p. 1956/57, 1957/58, 1958/59, 1959/60, 1960/61, 1962/63, 1963/64, 1963/64, 1966/67, 1971/72,

no no no no no no no no no no

150, 166, 178, 203, 213, 246, 262, 275, 329, 411,

12 p. 7 p. 11 p. 5 p. 7 p. 11 p. 9 p. 6 p. 13 p. 20 p.

1977/781, no 522, 13 p. 1981/82, no 582, 15 p. 1987/88, no 692, 18 p.

MALLIAVIN, Paul Calcul symbolique dans quelques algèbres de Banach . . . . . . . . . . . . . . . . . Travaux de H. Skoda sur la classe de Nevanlinna . . . . . . . . . . . . . . . . . . . .

1959/60, no 197, 9 p. 1976/77, no 504, 17 p.

MALTSINIOTIS, Georges Le théorème de Brill-Noether (d’après P. Griffiths, J. Harris, G. Kempf, S. Kleiman et D. Laksov) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1980/81, no 571, 19 p.

MANIN, Yuri I. Classical computing, quantum computing and Shor’s factoring algorithm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1998/99, no 862, 30 p.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

480

TABLE PAR NOMS D’AUTEURS

MARGERIN, Christophe Fibrés stables et métriques d’Hermite-Einstein (d’après S.K. Donaldson, K.K. Uhlenbeck, S.T. Yau) . . . . . . . . . . . . . . . . . . . . . . .

1986/87, no 683, 21 p.

Géométrie conforme en dimension 4 : ce que l’analyse nous apprend

2004/05, no 950, 50 p.

MARIN, Alexis Géométrie des polynômes, coût global moyen de la méthode de Newton (d’après M. Shub et S. Smale) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Un nouvel invariant pour les sphères d’homologie de dimension trois (d’après Casson) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1986/87, no 670, 18 p.

MARMI, Stefano Chaotic behaviour in the solar system (following J. Laskar) MARS, J.G.M. Les nombres de Tamagawa de groupes semi-simples

1987/88, no 693, 14 p.

.........

1998/99, no 854, 23 p.

.................

1968/69, no 351, 16 p.

MARTINEAU, André Les hyperfonctions de M. Sato . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Théorèmes sur le prolongement analytique du type “Edge of the wedge theorem” . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . MARTINET, Jacques Un contre-exemple à la conjecture d’E. Noether (d’après R. Swan) . Bases normales et constante de l’équation fonctionnelle des fonctions L d’Artin . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1960/61, no 214, 13 p. 1967/68, no 340, 17 p.

1969/70, no 372, 10 p. 1973/74, no 450, 22 p.

MARTINET, Jean Normalisation des champs de vecteurs holomorphes (d’après A.D. Brjuno) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1980/81, no 564, 16 p.

MATHIEU, Olivier Bases des représentations des groupes simples complexes (d’après Kashiwara, Lusztig, Ringel et al.) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Équations de Knizhnik-Zamolodchikov et théorie des représentations Le modèle des chemins (d’après P. Littelmann) . . . . . . . . . . . . . . . . . . . . . . Classification des algèbres de Lie simples . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1990/91, 1993/94, 1994/95, 1998/99,

MATSUSHIMA, Yôso Pseudo-groupes de Lie transitifs

1954/55, no 118, 14 p.

......................................

no no no no

743, 777, 798, 858,

22 21 16 42

p. p. p. p.

MAUREY, Bernard Sous-espaces `p des espaces de Banach . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Inégalité de Brunn-Minkowski-Lusternik, et autres inégalités géométriques et fonctionnelles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2003/04, no 928, 19 p.

MAUTNER, Friedrich I. Théorie des idéaux dans certaines algèbres d’un groupe

1958/59, no 179, 6 p.

MAZUR, Barry Courbes elliptiques et symboles modulaires

..............

...........................

MAZUR, Barry et SERRE, Jean-Pierre Points rationnels des courbes modulaires X0 (N ) (d’après (7) et (9))

ASTÉRISQUE 348

1982/83, no 608, 17 p.

1971/72, no 414, 18 p.

1974/75, no 469, 18 p.

481

TABLE PAR NOMS D’AUTEURS

MC ALOON, Kenneth Formes combinatoires du Théorème d’Incomplétude (d’après J. Paris et d’autres) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1977/78, no 521, 14 p.

McKEAN, Henry P. et van MOERBEKE, Pierre Sur le spectre de quelques opérateurs et les variétés de Jacobi

.......

1975/76, no 474, 15 p.

MÉLA, Jean-François Le calcul sur les caractères de l’algèbre M (G) et le problème “µ ∗ L1 fermé ?” (d’après les travaux de B. Host et F. Parreau) . . . . . . . . . .

1978/79, no 534, 19 p.

MERLE, Michel Variétés polaires, stratifications de Whitney et classes de Chern des espaces analytiques complexes (d’après Lê-Teissier) . . . . . . . . . . . . . . .

1982/83, no 600, 14 p.

MESSING, William Travaux de Zink . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2005/06, no 964, 24 p.

MÉTIVIER, Guy Équations aux dérivées partielles sur les groupes de Lie nilpotents . . Problèmes mixtes non linéaires et stabilité des chocs multidimensionnels . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Exemples d’instabilités pour des équations d’ondes non linéaires (d’après G. Lebeau) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . MEYER, Paul-André Le théorème ergodique de Chacón-Ornstein . . . . . . . . . . . . . . . . . . . . . . . . . . . Le théorème de continuité de P. Lévy sur les espaces nucléaires (d’après X. Fernique) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Lemme maximal et martingales (d’après D.L. Burkholder) . . . . . . . . . . Démonstration probabiliste d’une identité de convolution (d’après H. Kesten) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Le théorème de dérivation de Lebesgue pour une résolvante (d’après G. Mokobodzki (1969)) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Régularité des processus gaussiens (d’après X. Fernique) . . . . . . . . . . . . Calcul stochastique non commutatif . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Progrès récents en calcul stochastique quantique . . . . . . . . . . . . . . . . . . . . . . MEYER, Yves Problèmes de l’unicité, de la synthèse et des isomorphismes en analyse harmonique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Les nouvelles intégrales singulières de Calderón . . . . . . . . . . . . . . . . . . . . . . Régularité des solutions des équations aux dérivées partielles non linéaires (d’après J.-M. Bony) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Principe d’incertitude, bases hilbertiennes et algèbres d’opérateurs . . La conjecture de Kato (d’après Pascal Auscher, Steve Hofmann, Michael Lacey, John Lewis, Alan McIntosh et Philippe Tchamitchian) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . MICHEL, Philippe Progrès récents du crible et applications (d’après Duke, Fouvry, Friedlander, Iwaniec) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Répartition des zéros des fonctions L et matrices aléatoires . . . . . . . . .

1981/82, no 583, 25 p. 1986/87, no 671, 17 p. 2002/03, no 911, 13 p.

1964/65, no 293, 10 p. 1965/66, no 311, 14 p. 1967/68, no 334, 12 p. 1968/69, no 361, 15 p. 1972/73, 1974/75, 1986/87, 1992/93,

no no no no

422, 470, 672, 761,

10 11 12 13

p. p. p. p.

1967/68, no 341, 9 p. 1978/79, no 528, 9 p. 1979/80, no 560, 9 p. 1985/86, no 662, 15 p.

2001/02, no 902, 14 p.

1997/98, no 842, 25 p. 2000/01, no 887, 37 p.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

482

TABLE PAR NOMS D’AUTEURS

MILLER, Haynes Kervaire Invariant One (after M. A. Hill, M. J. Hopkins, and D. C. Ravenel) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2010/11, no 1029, 34 p.

MIRONESCU, Petru Le déterminant jacobien (d’après Brezis et Nguyen)

2010/11, no 1041, 20 p.

MOKOBODZKI, Gabriel Structure des cônes de potentiel

.................

.......................................

1969/70, no 377, 14 p.

MORAIN, François La primalité en temps polynomial (d’après Adleman, Huang ; Agrawal, Kayal, Saxena) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2002/03, no 917, 26 p.

MOREL, Jean-Michel La conjecture de Mumford-Shah en segmentation d’images

..........

1995/96, no 813, 22 p.

MORET-BAILLY, Laurent Variétés stablement rationnelles non-rationnelles (d’après Beauville, Colliot-Thélène, Sansuc et Swinnerton-Dyer) . . . . . . . . . . . . . . . . . . . . . .

1984/85, no 643, 14 p.

MORGAN, John W. The rational homotopy of smooth, complex projective varieties (following Deligne, Griffiths, Morgan and Sullivan) . . . . . . . . . . . . . . . Actions de groupes finis sur S 3 : la conjecture de P.A. Smith (d’après Thurston et Meeks-Yau) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1980/81, no 578, 13 p.

MORIN, Bernard Un contre-exemple de Milnor à la Hauptvermutung . . . . . . . . . . . . . . . . . . Champs de vecteurs sur les sphères (d’après J.F. Adams) . . . . . . . . . . .

1961/62, no 226, 23 p. 1961/62, no 233, 27 p.

MORLET, Claude Microfibrés et structures différentiables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Hauptvermutung et triangulation des variétés (d’après Kirby, Siebenmann et aussi Lees, Wall, etc.) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1975/76, no 475, 12 p.

1963/64, no 263, 11 p. 1968/69, no 362, 18 p.

MOULIS, Nicole Variétés de dimension infinie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Orbites périodiques des systèmes hamiltoniens autonomes (d’après Clarke, Ekeland-Lasry, Moser, Rabinowitz et Weinstein) . . . . . . . . . .

1979/80, no 552, 18 p.

MOUSSU, Robert Le problème de la finitude du nombre de cycles limites (d’après R. Bamon et Yu S. Il’Yasenko) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1985/86, no 655, 13 p.

MÜLLER, Werner The eta invariant (some recent developments)

1993/94, no 787, 29 p.

.......................

MURRE, J.P. Representation of unramified functors. Applications

1969/70, no 378, 15 p.

.................

1964/65, no 294, 19 p.

NACHBIN, Leopoldo Régularité des solutions des équations différentielles elliptiques (d’après Moser) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1962/63, no 258, 11 p.

NAOR, Assaf Sparse quadratic forms and their geometric applications (following Batson, Spielman and Srivastava) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2010/11, no 1033, 29 p.

ASTÉRISQUE 348

483

TABLE PAR NOMS D’AUTEURS

NÉRON, André L’arithmétique sur les variétés algébriques (d’après A. Weil) . . . . . . . . Le Lemme d’Enriques-Severi (d’après O. Zariski) . . . . . . . . . . . . . . . . . . . Variétés abéliennes (d’après A. Weil (en introduction à l’exposé no 106)) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Modèles p-minimaux des variétés abéliennes . . . . . . . . . . . . . . . . . . . . . . . . .

1951/52, no 66, 7 p. 1953/54, no 94, 9 p. 1954/55, no 104, 7 p. 1961/62, no 227, 16 p.

NOMIZU, Katsumi Quelques résultats en géométrie différentielle des espaces homogènes

1953/54, no 98, 8 p.

NOOT, Rutger Correspondances de Hecke, action de Galois et la conjecture d’André-Oort (d’après Edixhoven et Yafaev) . . . . . . . . . . . . . . . . . . . . . . .

2004/05, no 942, 32 p.

NORGUET, François Problème de Levi et plongement des variétés analytiques réelles (d’après H. Grauert) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Théorèmes de finitude pour la cohomologie des espaces complexes (d’après A. Andreotti et H. Grauert) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1961/62, no 234, 15 p.

OANCEA, Alexandru Invariants de Welschinger

2010/11, no 1036, 33 p.

.............................................

OESTERLÉ, Joseph Travaux de Ferrero et Washington sur le nombre de classes d’idéaux des corps cyclotomiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Courbes sur une variété abélienne (d’après M. Raynaud) . . . . . . . . . . . . Nombres de classes des corps quadratiques imaginaires . . . . . . . . . . . . . . Démonstration de la conjecture de Bieberbach (d’après L. de Branges) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Dégénérescence de la suite spectrale de Hodge vers de Rham (d’après Deligne et Illusie) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Nouvelles approches du “théorème” de Fermat . . . . . . . . . . . . . . . . . . . . . . . . Empilements de sphères . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Polylogarithmes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Travaux de Wiles (et Taylor,...), partie II . . . . . . . . . . . . . . . . . . . . . . . . . . . . Quantification formelle des variétés de Poisson (d’après Maxim Kontsevich) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Densité maximale des empilements de sphères en dimension 3 (d’après Thomas C. Hales et Samuel P. Ferguson) . . . . . . . . . . . . . . . . Dessins d’enfants . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1958/59, no 173, 21 p.

1978/79, no 535, 13 p. 1983/84, no 625, 12 p. 1983/84, no 631, 15 p. 1984/85, no 649, 14 p. 1986/87, 1987/88, 1989/90, 1992/93, 1994/95,

no no no no no

673, 694, 727, 762, 804,

17 22 23 19 23

p. p. p. p. p.

1997/98, no 843, 19 p. 1998/99, no 863, 9 p. 2001/02, no 907, 22 p.

OLIVER, Bob La classification des groupes p-compacts (d’après Andersen, Grodal, Møller, et Viruel) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2009/10, no 1020, 19 p.

PAJOT, Hervé Capacité analytique et le problème de Painlevé

2003/04, no 936, 28 p.

.......................

PALLU de la BARRIÈRE, Robert L’existence de sous-espaces stables (d’après J. Werner) PANDHARIPANDE, Rahul Rational curves on hypersurfaces (after A. Givental)

.............

................

1953/54, no 85, 8 p. 1997/98, no 848, 34 p.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

484

TABLE PAR NOMS D’AUTEURS

PANSU, Pierre Effondrement des variétés riemanniennes (d’après J. Cheeger et M. Gromov) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Le flot géodésique des variétés riemanniennes à courbure négative . . Sous-groupes discrets des groupes de Lie : rigidité, arithméticité . . . . Volume, courbure et entropie (d’après G. Besson, G. Courtois et S. Gallot) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . PASTUR, Leonid Eigenvalue distribution of random operators and matrices

...........

1983/84, no 618, 20 p. 1990/91, no 738, 30 p. 1993/94, no 778, 37 p. 1996/97, no 823, 21 p. 1991/92, no 758, 17 p.

PAULIN, Frédéric Actions de groupes sur les arbres . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Sur la théorie élémentaire des groupes libres (d’après Sela) . . . . . . . . . Sur les automorphismes de groupes libres et de groupes de surface . .

1995/96, no 808, 41 p. 2002/03, no 922, 38 p. 2009/10, no 1023, 34 p.

PAULY, Christian La dualité étrange (d’après P. Belkale, A. Marian et D. Oprea)

....

2007/08, no 994, 15 p.

PĂUN, Mihai Courants d’Ahlfors et localisation des courbes entières (d’après Julien Duval) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2007/08, no 991, 17 p.

PELLARIN, Federico Aspects de l’indépendance algébrique en caractéristique non nulle (d’après Anderson, Brownawell, Denis, Papanikolas, Thakur, Yu,. . . ) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2006/07, no 973, 34 p.

PEREIRA, Jorge Vitório Algebraization of codimension one Webs (after Trépreau, Hénaut, Pirio, Robert, . . . ) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2006/07, no 974, 25 p.

PÉREZ-MARCO, Ricardo Solution complète au problème de Siegel de linéarisation d’une application holomorphe au voisinage d’un point fixe (d’après J.-C. Yoccoz) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . KAM techniques in PDE . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1991/92, no 753, 38 p. 2001/02, no 908, 11 p.

PERRIN-RIOU, Bernadette Travaux de Kolyvagin et Rubin

1989/90, no 717, 38 p.

.......................................

PETERS, Chris Algebraic Fermi curves (after Gieseker, Trubowitz and Knörrer)

...

1989/90, no 723, 20 p.

PEYRE, Emmanuel Points de hauteur bornée et géométrie des variétés algébriques (d’après Y. Manin et al.) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Obstructions au principe de Hasse et à l’approximation faible . . . . . .

2000/01, no 891, 22 p. 2003/04, no 931, 29 p.

PHAM, Frédéric Introduction à la résurgence quantique (d’après Écalle et Voros)

1985/86, no 656, 8 p.

....

PIRASHVILI, Teimuraz Polynomial functors over finite fields (after Franjou, Friedlander, Henn, Lannes, Schwartz, Suslin) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

ASTÉRISQUE 348

1999/2000, no 877, 20 p.

485

TABLE PAR NOMS D’AUTEURS

PISIER, Gilles De nouveaux espaces de Banach sans la propriété d’approximation (d’après A. Szankowski) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Espaces d’opérateurs : une nouvelle dualité . . . . . . . . . . . . . . . . . . . . . . . . . . .

1978/79, no 542, 16 p. 1995/96, no 814, 30 p.

PISOT, Charles Démonstration élémentaire du théorème des nombres premiers (d’après Selberg et Erd vos) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1949/50, no 20, 5 p.

PLANCHON, Fabrice Existence globale et scattering pour les solutions de masse finie de l’équation de Schrödinger cubique en dimension deux (d’après Benjamin Dodson, Rowan Killip, Terence Tao, Monica Vişan et Xiaoyi Zhang) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2010/11, no 1042, 23 p.

POÉNARU, Valentin Extension des immersions en codimension 1 (d’après S. Blank) . . . . Travaux de J. Cerf (isotopie et pseudo-isotopie) . . . . . . . . . . . . . . . . . . . . . Le théorème de s-cobordisme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Travaux de Thurston sur les difféomorphismes des surfaces et l’espace de Teichmüller . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1967/68, no 342, 33 p. 1969/70, no 373, 22 p. 1970/71, no 392, 23 p. 1978/79, no 529, 14 p.

POITOU, Georges Solution du problème du dixième discriminant (d’après Stark) . . . . . . Minorations de discriminants (d’après A.M. Odlyzko) . . . . . . . . . . . . . . . auteurPOIZAT, Bruno Amalgames de Hrushovski . . . . . . . . . . . . . . . . . .

1967/68, no 335, 8 p. 1975/76, no 479, 18 p. 2007/08, no 995, 7 p.

POURCIN, Geneviève Fibres holomorphes dont la base et la fibre sont des espaces de Stein

1977/78, no 517, 15 p.

POWELL, Geoffrey The Mumford conjecture (after Madsen and Weiss)

.................

2004/05, no 945, 33 p.

...................................................

2001/02, no 898, 13 p.

PUIG, Lluis La classification des groupes finis simples : bref aperçu et quelques conséquences internes (Exposé écrit et préparé avec la collaboration de Michel Broué) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1981/82, no 584, 28 p.

QUINT, Jean-François Convexes divisibles (d’après Yves Benoist)

2008/09, no 999, 29 p.

PROCESI, Claudio On the n!-conjecture

...........................

RAÏS, Mustapha Opérateurs différentiels bi-invariants (d’après M. Duflo)

............

1976/77, no 498, 13 p.

RAMIS, Jean-Pierre Frobenius avec singularités (d’après B. Malgrange, J.F. Mattei et R. Moussu) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1977/78, no 523, 10 p.

RAPOPORT, Michael On the Newton stratification

2001/02, no 903, 18 p.

..........................................

RAUZY, Gérard Points transcendants sur les variétés de groupe (d’après Lang)

.....

1963/64, no 276, 8 p.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

486

TABLE PAR NOMS D’AUTEURS

RAVENEL, Douglas C. The nilpotence and periodicity theorems in stable homotopy theory

.

1989/90, no 728, 30 p.

RAYNAUD, Michel Caractéristique d’Euler-Poincaré d’un faisceau et cohomologie des variétés abéliennes (d’après Šafarevič, Ogg et Grothendieck) . . . . . .

1964/65, no 286, 19 p.

Familles de fibrés vectoriels sur une surface de Riemann (d’après C.S. Seshadri, M.S. Narasimhan et D. Mumford) . . . . . . . . . . . . . . . . . Travaux récents de M. Artin . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Compactification du module des courbes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Construction analytique de courbes en géométrie non archimédienne (d’après David Mumford) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Faisceaux amples et très amples (d’après T. Matsusaka) . . . . . . . . . . . .

1966/67, no 316, 16 p. 1968/69, no 363, 17 p. 1970/71, no 385, 15 p. 1972/73, no 427, 15 p. 1976/77, no 493, 13 p.

REEB, Georges Propriétés des trajectoires de certains systèmes dynamiques . . . . . . . . Sur les feuilletages analytiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1949/50, no 21, 12 p. 1959/60, no 192, 7 p.

REID, Miles La correspondance de McKay

.........................................

1999/2000, no 867, 20 p.

RÉMY, Bertrand Covolume des groupes S-arithmétiques et faux plans projectifs (d’après Mumford, Prasad, Klingler, Yeung, Prasad-Yeung) . . . . . . Groupes algébriques pseudo-réductifs et applications (d’après J. Tits et B. Conrad-O. Gabber-G. Prasad) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2007/2008, no 984, 47 p. 2009/10, no 1021, 46 p.

RIEDTMANN, Christine Algèbres de type de représentation fini (d’après Bongartz, Gabriel, Roiter et d’autres) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1984/85, no 650, 16 p.

RIGUET, Jacques Calcul différentiel libre (d’après Fox)

1954/55, no 105, 7 p.

.................................

RISLER, Jean-Jacques Complexité et géométrie réelle (d’après A. Khovansky) . . . . . . . . . . . . . . Construction d’hypersurfaces réelles (d’après Viro) . . . . . . . . . . . . . . . . . .

1984/85, no 637, 12 p. 1992/93, no 763, 18 p.

RIVIÈRE, Tristan Ginzburg-Landau vortices : the static model

1999/2000, no 868, 31 p.

..........................

ROBERT, Alain Formes automorphes sur GL2 (travaux de H. Jacquet et R.P. Langlands) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1971/72, no 415, 24 p.

ROBERT, Didier Analyse semi-classique de l’effet tunnel (d’après B. Helffer et J. Sjöstrand) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1985/86, no 665, 25 p.

RODIER, François Représentations de GL(n, k) où k est un corps p-adique

.............

1981/82, no 587, 18 p.

RODNIANSKI, Igor The Wave Map Problem. Small data critical regularity (after T. Tao) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2005/06, no 965, 20 p.

ASTÉRISQUE 348

487

TABLE PAR NOMS D’AUTEURS

ROQUEJOFFRE, Jean-Michel Propriétés qualitatives des solutions des équations de Hamilton-Jacobi (d’après A. Fathi, A. Siconolfi, P. Bernard) . . . . . . . . . . . . . . . . . . . . . . . ROSENBERG, Harold Feuilletages sur des sphères (d’après H.B. Lawson) . . . . . . . . . . . . . . . . . . Un contre-exemple à la conjecture de Seifert (d’après P. Schweitzer) Les difféomorphismes du cercle (d’après M.R. Herman) . . . . . . . . . . . . . Some recent developments in the theory of properly embedded minimal surfaces in R3 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ROSSO, Marc Représentations des groupes quantiques

2006/07, no 975, 24 p. 1970/71, no 393, 12 p. 1972/73, no 434, 13 p. 1975/76, no 476, 18 p. 1991/92, no 759, 73 p.

...............................

1990/91, no 744, 41 p.

ROUQUIER, Raphaël Catégories dérivées et géométrie birationnelle (d’après Bondal, Orlov, Bridgeland, Kawamata...) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2004/05, no 946, 24 p.

ROUSSARIE, Robert Constructions de feuilletages (d’après W. Thurston)

................

1976/77, no 499, 17 p.

ROUSSET, Frédéric Systèmes hyperboliques et viscosité évanescente (d’après S. Bianchini et A. Bressan) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2002/03, no 918, 19 p.

RUELLE, David Formalisme thermodynamique

.........................................

1975/76, no 480, 13 p.

RUYER, Dominique Extensions résolubles des corps de nombres algébriques (d’après Iwasawa) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1955/56, no 128, 10 p.

SABBAGH, Gabriel Caractérisation algébrique des groupes de type fini ayant un problème de mots résoluble (Théorème de Boone-Higman, travaux de B.H. Neumann et Macintyre) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1974/75, no 457, 20 p.

SABBAH, Claude Classes caractéristiques et théorèmes d’indice : point de vue microlocal . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1995/96, no 818, 29 p.

SADOURNY, Robert Quelques problèmes de dynamique des fluides géophysiques

1982/83, no 614, 13 p.

..........

SAMUEL, Pierre La théorie des correspondances birationnelles selon Zariski . . . . . . . . . Anneaux locaux ; introduction à la géométrie algébrique . . . . . . . . . . . . . Théorie du corps de classes local selon G.P. Hoschschild . . . . . . . . . . . . Sections hyperplanes des variétés normales (d’après A. Seidenberg) Variété de Picard et groupe de Severi (d’après A. Néron) . . . . . . . . . . . Les fonctions holomorphes abstraites de Zariski . . . . . . . . . . . . . . . . . . . . . . Travaux de Zariski sur le 14e problème de Hilbert . . . . . . . . . . . . . . . . . . . La jacobienne d’une courbe algébrique (d’après W.L. Chow) . . . . . . . . Travaux de Shimura et Taniyama sur la multiplication complexe . . . Travaux de Rosenlicht sur les groupes algébriques . . . . . . . . . . . . . . . . . . . . Invariants arithmétiques des courbes de genre 2 (d’après Igusa) . . . . Travaux d’Igusa sur les formes modulaires de genre 2 . . . . . . . . . . . . . . .

1948/49, 1949/50, 1950/51, 1950/51, 1951/52, 1953/54, 1953/54, 1954/55, 1955/56, 1956/57, 1961/62, 1963/64,

no no no no no no no no no no no no

6, 5 p. 22, 5 p. 42, 5 p. 49, 4 p. 53, 5 p. 86, 9 p. 99, 6 p. 106, 9 p. 129, 8 p. 145, 13 p. 228, 13 p. 267, 8 p.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

488

TABLE PAR NOMS D’AUTEURS

SAMUEL, Pierre (suite) La conjecture de Mordell pour les corps de fonctions (d’après Manin et Grauert) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Modèles Booléiens et hypothèse du continu (Résultats de Paul Cohen par la méthode de D. Scott et R. Solovay) . . . . . . . . . . . . . . . . . . . . . . . . . .

1966/67, no 317, 12 p.

SANTAMBROGIO, Filippo Inégalités isopérimétriques quantitatives via le transport optimal (d’après A. Figalli, F. Maggi et A. Pratelli) . . . . . . . . . . . . . . . . . . . . . . .

2010/11, no 1034, 13 p.

SCANLON, Thomas A proof of the André-Oort conjecture via mathematical logic (after Pila, Wilkie and Zannier) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2010/11, no 1037, 17 p.

1964/65, no 287, 19 p.

SCHIFFMANN, Gérard Frontières de Furstenberg et formules de Poisson sur un groupe de Lie semi-simple . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Introduction aux travaux d’Harish-Chandra . . . . . . . . . . . . . . . . . . . . . . . . . . Un analogue du théorème de Borel-Weil-Bott dans le cas non compact . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1970/71, no 398, 14 p.

SCHIFFMANN, Olivier Variétés carquois de Nakajima (d’après Nakajima, Lusztig, Varagnolo, Vasserot, Crawley-Boevey,...) . . . . . . . . . . . . . . . . . . . . . . . . . . .

2006/07, no 976, 46 p.

SCHLENKER, Jean-Marc La conjecture des soufflets (d’après I. Sabitov)

.......................

2002/03, no 912, 18 p.

....................................

1978/79, no 530, 23 p.

SCHNEIDER, Michael Holomorphic vector bundles on Pn

SCHREIBER, Jean-Pierre Nombres de Pisot et travaux d’Yves Meyer

...........................

SCHWARTZ, Laurent Sur un mémoire de Petrowsky : “Über das Cauchysche Problem für ein System linearer partieller Differentialgleichungen im Gebiete nichtanalytischen Funktionen” . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Sur un deuxième mémoire de Petrowsky : “Über das Cauchysche Problem für Systeme von partiellen Differentialgleichungen” . . . . . . Sur un mémoire de K. Kodaira : “Harmonic fields in riemannian manifolds (generalized potential theory)”, I . . . . . . . . . . . . . . . . . . . . . . . . . Sur un mémoire de K. Kodaira : “Harmonic fields in riemannian manifolds (generalized potential theory)”, II . . . . . . . . . . . . . . . . . . . . . . . . Les théorèmes de Whitney sur les fonctions différentiables . . . . . . . . . . Les travaux de L. Gårding sur les équations aux dérivées partielles elliptiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Solution élémentaire d’une équation aux dérivées partielles à coefficients constants (d’après B. Malgrange) . . . . . . . . . . . . . . . . . . . . . . La fonction aléatoire du mouvement brownien . . . . . . . . . . . . . . . . . . . . . . . Sous-espaces hilbertiens et antinoyaux associés . . . . . . . . . . . . . . . . . . . . . . . Les travaux de Seeley sur les opérateurs intégraux singuliers sur une variété . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Produits tensoriels gp et dp , applications p-sommantes, applications p-radonifiantes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

ASTÉRISQUE 348

1963/64, no 268, 11 p. 1966/67, no 323, 25 p.

1969/70, no 379, 11 p.

1948/49, no 11, 5 p. 1948/499, no 15, 1 p. 1949/50, no 26, 19 p. 1949/50, no 32, 12 p. 1950/51, no 43, 9 p. 1951/52, no 67, 8 p. 1953/54, no 87, 6 p. 1957/58, no 161, 23 p. 1961/62, no 238, 18 p. 1963/64, no 269, 15 p. 1970/71, no 386, 26 p.

489

TABLE PAR NOMS D’AUTEURS

SCHWARTZ, Lionel La conjecture de Sullivan (d’après H. Miller)

........................

1984/85, no 638, 12 p.

SCHWARTZ, Marie-Hélène Compte rendu de travaux de M. Heins sur diverses majorations de la croissance des fonctions analytiques ou sous-harmoniques . . . . . . . . .

1949/50, no 23, 5 p.

SEGAL, Graeme Elliptic cohomology (after Landweber-Stong, Ochanine, Witten and others) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1987/88, no 695, 15 p.

SEMENOV-TIAN-SHANSKY, Michael Quantum integrable systems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1993/94, no 788, 23 p.

SERGERAERT, Francis BΓ (d’après Mather et Thurston)

1977/78, no 524, 16 p.

.....................................

SERFATY, Sylvia Lois de conservation et régularité par compensation pour les systèmes antisymétriques et les surfaces de Willmore (d’après Tristan Rivière) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . SERRE, Jean-Pierre Extensions de groupes localement compacts (d’après Iwasawa et Gleason) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Groupes d’homotopie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Utilisation des nouvelles opérations de Steenrod dans la théorie des espaces fibrés (d’après Borel et Serre) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Cohomologie et fonctions de variables complexes . . . . . . . . . . . . . . . . . . . . . Cohomologie et arithmétique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Espaces fibrés algébriques (d’après A. Weil) . . . . . . . . . . . . . . . . . . . . . . . . . . Travaux d’Hirzebruch sur la topologie des variétés . . . . . . . . . . . . . . . . . . . Faisceaux analytiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Représentations linéaires et espaces homogènes kählériens des groupes de Lie compacts (d’après Borel et Weil) . . . . . . . . . . . . . . . . . . . . . . . . . . . . Le théorème de Brauer sur les caractères (d’après Brauer, Roquette et Tate) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Théorie du corps de classes pour les revêtements non ramifiés de variétés algébriques (d’après S. Lang) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Critère de rationalité pour les surfaces algébriques (d’après K. Kodaira) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Classes des corps cyclotomiques (d’après K. Iwasawa) . . . . . . . . . . . . . . Corps locaux et isogénies . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Rationalité des fonctions zêta des variétés algébriques (d’après Dwork) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Revêtements ramifiés du plan projectif (d’après Abhyankar) . . . . . . . . . Groupes finis à cohomologie périodique (d’après R. Swan) . . . . . . . . . . Structure de certains pro-p-groupes (d’après Demuškin) . . . . . . . . . . . . . Groupes analytiques p-adiques (d’après M. Lazard) . . . . . . . . . . . . . . . . . . Groupes p-divisibles (d’après J. Tate) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Groupes de congruence (d’après H. Bass, H. Matsumoto, J. Mennicke, J. Milnor, C. Moore) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Travaux de Baker . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p-torsion des courbes elliptiques (d’après Y. Manin) . . . . . . . . . . . . . . . . . Cohomologie des groupes discrets . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2009/10, no 1024, 14 p.

1949/50, no 27, 6 p. 1950/51, no 44, 6 p. 1951/52, 1952/53, 1952/53, 1952/53, 1953/54, 1953/54,

no no no no no no

54, 71, 77, 82, 88, 95,

10 p. 6 p. 7 p. 7 p. 6 p. 6 p.

1953/54, no 100, 8 p. 1954/55, no 111, 7 p. 1955/56, no 133, 9 p. 1956/57, no 146, 14 p. 1958/59, no 174, 11 p. 1958/59, no 185, 9 p. 1959/60, 1959/60, 1960/61, 1962/63, 1963/64, 1966/67,

no no no no no no

198, 204, 209, 252, 270, 318,

11 p. 7 p. 12 p. 11 p. 10 p. 14 p.

1966/67, 1969/70, 1969/70, 1970/71,

no no no no

330, 368, 380, 399,

17 14 14 14

p. p. p. p.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

490

TABLE PAR NOMS D’AUTEURS

SERRE, Jean-Pierre (suite) Congruences et formes modulaires (d’après H.P.F. Swinnerton-Dyer) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Valeurs propres des endomorphismes de Frobenius (d’après P. Deligne) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Représentations linéaires des groupes finis “algébriques” (d’après Deligne-Lusztig) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Points rationnels des courbes modulaires X0 (N ) (d’après Barry Mazur (3), (4), (5)) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Groupes de Galois sur Q . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Revêtements de courbes algébriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Cohomologie galoisienne : progrès et problèmes . . . . . . . . . . . . . . . . . . . . . . Travaux de Wiles (et Taylor,...), partie I . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Sous-groupes finis des groupes de Lie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Complète réductibilité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Le groupe de Cremona et ses sous-groupes finis . . . . . . . . . . . . . . . . . . . . . .

1971/72, no 416, 20 p. 1973/74, no 446, 15 p. 1975/76, no 487, 18 p. 1977/78, 1987/88, 1991/92, 1993/94, 1994/95, 1998/99, 2003/04, 2008/09,

no no no no no no no no

511, 12 p. 689, 13 p. 749, 16 p. 783, 29 p. 803, 14 p. 864, 16 p. 932, 23 p. 1000, 26 p.

SERRE, Jean-Pierre et MAZUR, Barry Points rationnels des courbes modulaires X0 (N ) (d’après (7) et (9))

1974/75, no 469, 18 p.

SHAPIRO, Arnold Algèbres de Clifford et périodicité des groupes πk (BO) (d’après R. Bott et A. Shapiro) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1960/61, no 215, 8 p.

SHI, Zhan Problèmes de recouvrement et points exceptionnels pour la marche aléatoire et le mouvement brownien (d’après Dembo, Peres, Rosen et Zeitouni) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2004/05, no 951, 12 p.

SHIMURA, Goro Fonctions automorphes et variétés abéliennes

1957/58, no 167, 9 p.

........................

SIBONY, Nessim Noyau de Bergman et applications biholomorphes dans des domaines strictement pseudo-convexes (d’après C. Fefferman) . . . . . . . . . . . . . . . SIEBENMANN, Laurent L’invariance topologique du type simples d’homotopie (d’après T. Chapman et R.D. Edwards) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Amorces de la chirurgie en dimension quatre : un S 3 × R exotique (d’après Andrew H. Casson et Michael H. Freedman) . . . . . . . . . . . . . La conjecture de Poincaré topologique en dimension 4 (d’après M.H. Freedman) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1974/75, no 463, 14 p.

1972/73, no 428, 24 p. 1978/79, no 536, 25 p. 1981/82, no 588, 30 p.

SIKORAV, Jean-Claude Homologie associée à une fonctionnelle (d’après A. Floer) . . . . . . . . . . Construction de sous-variétés symplectiques (d’après S.K. Donaldson et D. Auroux) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1997/98, no 844, 23 p.

SIU, Yum-Tong Asymptotic Morse inequalities for analytic sheaf cohomology (according to J.-P. Demailly) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1985/86, no 666, 15 p.

SJÖSTRAND, Johannes Asymptotique des résonances pour des obstacles

1989/90, no 724, 25 p.

ASTÉRISQUE 348

.....................

1990/91, no 733, 27 p.

491

TABLE PAR NOMS D’AUTEURS

SKANDALIS, Georges Approche de la conjecture de Novikov par la cohomologie cyclique (d’après A. Connes, M. Gromov et H. Moscovici) . . . . . . . . . . . . . . . . . Algèbres de von Neumann de groupes libres et probabilités non commutatives (d’après Voiculescu etc.) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Progrès récents sur la conjecture de Baum-Connes. Contribution de Vincent Lafforgue . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Géométrie non commutative, opérateur de signature transverse et algèbres de Hopf (d’après A. Connes et H. Moscovici) . . . . . . . . . . . . SMALE, Stephen Stability and generecity in dynamical systems

1990/91, no 739, 22 p. 1992/93, no 764, 16 p. 1999/2000, no 869, 31 p. 2000/01, no 892, 20 p.

........................

1969/70, no 374, 11 p.

SOERGEL, Wolfgang Conjectures de Lusztig

.................................................

1994/95, no 793, 11 p.

SORGER, Christoph La formule de Verlinde

................................................

1994/95, no 794, 28 p.

SOULÉ, Christophe K2 et le groupe de Brauer (d’après A.S. Merkurjev et A.A. Suslin) Régulateurs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Géométrie d’Arakelov des surfaces arithmétiques . . . . . . . . . . . . . . . . . . . . Classes caractéristiques secondaires des fibrés plats . . . . . . . . . . . . . . . . . . Genres de Todd et valeurs aux entiers des dérivées de fonctions L .

1982/83, 1984/85, 1988/89, 1995/96, 2005/06,

SPENCER, Thomas and FRÖHLICH, Jürg Some recent rigorous results in the theory of phase transitions and critical phenomena . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1981/82, no 586, 42 p.

SPRINGER, Tonny A. Caractères des groupes de Chevalley finis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Relèvements de Brauer et représentations paraboliques de GLn (Fq ) (d’après G. Lusztig) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Quelques applications de la cohomologie d’intersection . . . . . . . . . . . . . . STALLINGS, John Coherence of 3-manifold fundamental groups

.........................

no no no no no

601, 644, 713, 819, 955,

15 17 17 14 24

p. p. p. p. p.

1972/73, no 429, 24 p. 1973/74, no 441, 25 p. 1981/82, no 589, 25 p. 1975/76, no 481, 7 p.

STEINBERG, Robert Abstract homomorphisms of simple algebraic groups (after A. Borel and J. Tits) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1972/73, no 435, 20 p.

STERN, Jacques Le problème des cardinaux singuliers (d’après R. B. Jensen et T. Silver) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Le problème de la mesure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1976/77, no 494, 14 p. 1983/84, no 632, 22 p.

SULLIVAN, Dennis Travaux de Thurston sur les groupes quasi-fuchsiens et les variétés hyperboliques de dimension 3 fibrées sur S 1 . . . . . . . . . . . . . . . . . . . . . . . .

1979/80, no 554, 19 p.

SZAMUELY, Tamás Groupes de Galois de corps de type fini (d’après Pop) . . . . . . . . . . . . . . . Corps de classes des schémas arithmétiques . . . . . . . . . . . . . . . . . . . . . . . . . .

2002/03, no 923, 29 p. 2008/09, no 1006, 28 p.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

492

TABLE PAR NOMS D’AUTEURS

SZNITMAN, Alain-Sol Grandes déviations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1986/87, no 680, 21 p.

SZPIRO, Lucien Travaux de Kempf, Kleiman, Laksov, sur les diviseurs exceptionnels

1971/72, no 417, 15 p.

Cohomologie des ouverts de l’espace projectif sur un corps de caractéristique zéro (d’après A. Ogus) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . La conjecture de Mordell (d’après G. Faltings) . . . . . . . . . . . . . . . . . . . . . . . Sur les solutions d’un système d’équations polynomiales sur une variété abélienne (d’après G. Faltings et P. Vojta) . . . . . . . . . . . . . . . . . TALAGRAND, Michel Verres de spin et optimisation combinatoire

..........................

TAMARI, Dov Machines logiques et problèmes de mots. I : Les machines de Turing Machines logiques et problèmes de mots. II : Problèmes de mots indécidables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . TATE, John W C-groups over p-adic fields . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . On the conjectures of Birch and Swinnerton-Dyer and a geometric analog . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Classes d’isogénie des variétés abéliennes sur un corps fini (d’après T. Honda) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1974/75, no 458, 16 p. 1983/84, no 619, 21 p. 1989/90, no 729, 18 p. 1998/99, no 859, 31 p. 1951/52, no 55, 12 p. 1951/52, no 61, 11 p. 1957/58, no 156, 13 p. 1965/66, no 306, 26 p. 1968/69, no 352, 16 p.

TEISSIER, Bernard Théorèmes de finitude en géométrie analytique (d’après Heisuke Hironaka) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Variétés toriques et polytopes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Résultats récents d’algèbre commutative effective . . . . . . . . . . . . . . . . . . . . . Résultats récents sur l’approximation des morphismes en algèbre commutative (d’après André, Artin, Popescu et Spivakovsky) . . . . .

1993/94, no 784, 24 p.

TEMAM, Roger Approximation d’équations aux dérivées partielles par des méthodes de décomposition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1969/70, no 381, 9 p.

TERJANIAN, Guy Équations diophantiennes p-adiques (d’après J. Ax et S. Kochen)

1965/66, no 299, 13 p.

..

THOM, René Les géodésiques dans les variétés à courbure négative (d’après Hopf ) Sous-variétés et classes d’homologie des variétés différentiables . . . . . Sur les variétés-bords . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Les singularités des applications différentiables . . . . . . . . . . . . . . . . . . . . . . La classification des immersions (d’après Smale) . . . . . . . . . . . . . . . . . . . . Travaux de Milnor sur le cobordisme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Travaux de Moser sur la stabilité des mouvements périodiques . . . . . . Propriétés différentielles locales des ensembles analytiques (d’après H. Whitney) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . THOMPSON, John G. Sylow 2-subgroups of simple groups

ASTÉRISQUE 348

...................................

1973/74, no 451, 23 p. 1980/81, no 565, 14 p. 1989/90, no 718, 25 p.

1949/50, 1952/53, 1953/54, 1955/56, 1957/58, 1958/59, 1963/64,

no no no no no no no

28, 11 p. 78, 7 p. 89, 8 p. 134, 13 p. 157, 11 p. 180, 9 p. 264, 13 p.

1964/65, no 281, 12 p. 1967/68, no 345, 3 p.

493

TABLE PAR NOMS D’AUTEURS

THOUVENOT, Jean-Paul La démonstration de Furstenberg du Théorème de Szemerédi sur les progressions arithmétiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . La convergence presque sûre des moyennes ergodiques suivant certaines sous-suites d’entiers (d’après Jean Bourgain) . . . . . . . . . . . TITS, Jacques Groupes semi-simples complexes et géométrie projective . . . . . . . . . . . . . Sous-algèbres des algèbres de Lie semi-simples (d’après V. Morozov, A. Malčev, E. Dynkin et F. Karpelevitch) . . . . . . . . . . . . . . . . . . . . . . . . . . Les “formes réelles” des groupes de type E6 . . . . . . . . . . . . . . . . . . . . . . . . . . Les groupes simples de Suzuki et de Ree . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Structures et groupes de Weyl . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Groupes finis simples sporadiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Travaux de Margulis sur les sous-groupes discrets de groupes de Lie Groupes de Whitehead de groupes algébriques simples sur un corps (d’après V.P. Platonov et al.) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Groupes à croissance polynomiale (d’après M. Gromov et al.) . . . . . . Le monstre (d’après R. Griess, R. Fischer et al.) . . . . . . . . . . . . . . . . . . . . Le module du “moonshine” (d’après I. Frenkel, J. Lepowsky et A. Meurman) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Groupes associés aux algèbres de Ka˘ c-Moody . . . . . . . . . . . . . . . . . . . . . . . . . TOGNOLI, Alberto Algebraic approximation of manifolds and spaces

1977/78, no 518, 12 p. 1989/90, no 719, 21 p.

1954/55, no 112, 11 p. 1954/55, 1957/58, 1960/61, 1964/65, 1969/70, 1975/76,

no no no no no no

119, 162, 210, 288, 375, 482,

18 15 18 15 25 17

p. p. p. p. p. p.

1976/77, no 505, 19 p. 1980/81, no 572, 13 p. 1983/84, no 620, 18 p. 1986/87, no 684, 19 p. 1988/89, no 700, 25 p.

....................

1979/80, no 548, 22 p.

TOROSSIAN, Charles La conjecture de Kashiwara-Vergne (d’après Alekseev et Meinrenken) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2006/07, no 980, 24 p.

TOTARO, Burt The ACC conjecture for log canonical thresholds (after de Fernex, Ein, Mustaţă, Kollár) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2009/10, no 1025, 15 p.

TOUGERON, Jean-Claude Stabilité des applications différentiables (d’après J. Mather)

........

1967/68, no 336, 16 p.

TRÉPREAU, Jean-Marie Systèmes différentiels à caractéristiques simples et structures réelles-complexes (d’après M.S. Baouendi et F. Trèves ; M. Sato, T. Kawaï et M. Kashiwara) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1981/82, no 595, 18 p.

TRÈVES, François Thèse d’Hörmander, I . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Thèse d’Hörmander, II . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1955/56, no 130, 10 p. 1955/56, no 135, 9 p.

TURAEV, Vladimir G. Faithful linear representations of the braid groups

1999/2000, no 878, 21 p.

...................

TZVETKOV, Nikolay On the long time behavior of KdV type equations (after Martel-Merle) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2003/04, no 933, 30 p.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

494

TABLE PAR NOMS D’AUTEURS

VAES, Stefaan États quasi-libres libres et facteurs de type III (d’après D. Shlyakhtenko) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Rigidity results for Bernoulli actions and their von Neumann algebras (after Sorin Popa) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2003/04, no 937, 22 p. 2005/06, no 961, 58 p.

VALETTE, Alain Graphes de Ramanujan et applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Nouvelles approches de la propriété (T) de Kazhdan . . . . . . . . . . . . . . . . .

1996/97, no 829, 30 p. 2002/03, no 913, 29 p.

VAN DER PUT, Marius Recent work on differential Galois theory

.............................

1997/98, no 849, 27 p.

VAN DE VEN, A. Some recent results on surfaces of general type . . . . . . . . . . . . . . . . . . . . . . . On the Enriques classification of algebraic surfaces . . . . . . . . . . . . . . . . . . On the differentiable structure of certain algebraic surfaces . . . . . . . . .

1976/77, no 500, 12 p. 1976/77, no 506, 15 p. 1985/86, no 667, 14 p.

VAN DIJK, Gerrit Harmonic analysis on reductive p-adic groups (after Harish-Chandra) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1970/71, no 387, 18 p.

VAN MOERBEKE, Pierre Algèbres W et équations non-linéaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Random matrices and permutations, matrix integrals and integrable systems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1999/2000, no 879, 23 p.

VAN MOERBEKE, Pierre et McKEAN, Henry P. Sur le spectre de quelques opérateurs et les variétés de Jacobi

.......

1975/76, no 474, 15 p.

.................

1964/65, no 282, 10 p.

VAROPOULOS, Nicholas T. Measure algebras of a locally compact abelian group

1997/98, no 839, 25 p.

VERDIER, Jean-Louis Sur les intégrales attachées aux formes automorphes (d’après Shimura) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Dualité dans la cohomologie des espaces localement compacts . . . . . . . Indépendance par rapport à ` des polynômes caractéristiques des endomorphismes de Frobenius de la cohomologie `-adique (d’après P. Deligne) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Le théorème de Riemann-Roch pour les variétés algébriques éventuellement singulières (d’après P. Baum, W. Fulton et R. Macpherson) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Équations différentielles algébriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Algèbres de Lie, systèmes hamiltoniens, courbes algébriques (d’après M. Adler et P. van Moerbeke) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Les représentations des algèbres de Lie affines : applications à quelques problèmes de physique (d’après E. Date, M. Jimbo, M. Kashiwara, T. Miwa) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Groupes quantiques (d’après V.G. Drinfel’d) . . . . . . . . . . . . . . . . . . . . . . . . .

1981/82, no 596, 13 p. 1986/87, no 685, 15 p.

VERGNE, Michèle Sur les intégrales d’entrelacement de R.A. Kunze et E.M. Stein (d’après G. Schiffmann) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Quantification géométrique et réduction symplectique . . . . . . . . . . . . . . . .

1969/70, no 369, 20 p. 2000/01, no 888, 31 p.

ASTÉRISQUE 348

1960/61, no 216, 27 p. 1965/66, no 300, 13 p.

1972/73, no 423, 18 p.

1974/75, no 464, 17 p. 1977/78, no 512, 22 p. 1980/81, no 566, 10 p.

495

TABLE PAR NOMS D’AUTEURS

VIENNOT, Gérard Problèmes combinatoires posés par la physique statistique

...........

VILLANI, Cédric Limites hydrodynamiques de l’équation de Boltzmann (d’après C. Bardos, F. Golse, C.D. Levermore, P.-L. Lions, N. Masmoudi, L. Saint-Raymond) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Paradoxe de Scheffer-Shnirelman revu sous l’angle de l’intégration convexe (d’après C. De Lellis et L. Székelyhidi) . . . . . . . . . . . . . . . . . . . .

1983/84, no 626, 22 p.

2000/01, no 893, 39 p. 2008/09, no 1001, 34 p.

VITERBO, Claude Capacités symplectiques et applications (d’après Ekeland-Hofer, Gromov) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Orbites périodiques dans le problème des trois corps . . . . . . . . . . . . . . . . .

1988/89, no 714, 18 p. 1992/93, no 774, 17 p.

VOGEL, Pierre Invariants de Vassiliev des nœuds (d’après D. Bar-Natan, M. Kontsevich et V.A. Vassiliev) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Les invariants récents des variétés de dimension 3 . . . . . . . . . . . . . . . . . . .

1992/93, no 769, 20 p. 1994/95, no 799, 26 p.

VOISIN, Claire Géométrie des espaces de modules de courbes et de surfaces K3 (d’après Gritsenko-Hulek-Sankaran, Farkas-Popa, Mukai, Verra...) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Sections rationnelles de fibrations sur les surfaces et conjecture de Serre (d’après de Jong, He et Starr) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2006/07, no 981, 22 p. 2010/11, no 1038, 21 p.

VOROS, André Problème spectral de Sturm-Liouville : le cas de l’oscillateur quartique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1982/83, no 602, 10 p.

WALDSCHMIDT, Michel Les travaux de G.V. Cudnovskii sur les nombres transcendants Sur la nature arithmétique des valeurs de fonctions modulaires

1975/76, no 488, 19 p. 1996/97, no 824, 36 p.

..... .....

WALDSPURGER, Jean-Loup Représentation métaplectique et conjectures de Howe . . . . . . . . . . . . . . . . Cohomologie des espaces de formes automorphes (d’après J. Franke) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1995/96, no 809, 18 p.

WEIL, André Théorèmes fondamentaux de la théorie des fonctions thêta (d’après des mémoires de Poincaré et Frobenius) . . . . . . . . . . . . . . . . . . . . . . . . . . . . Variété de Picard et variétés jacobiennes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Sur la théorie du corps de classes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Multiplication complexe des fonctions abéliennes . . . . . . . . . . . . . . . . . . . . . Sur le théorème de Torelli . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Modules des surfaces de Riemann . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Adèles et groupes algébriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Un théorème fondamental de Chern en géométrie riemannienne . . . . Fonction zêta et distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Séries de Dirichlet et fonctions automorphes . . . . . . . . . . . . . . . . . . . . . . . . . La cyclotomie jadis et naguère . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1948/49, 1952/53, 1952/53, 1955/56, 1956/57, 1957/58, 1958/59, 1961/62, 1965/66, 1967/68, 1973/74,

WEINSTEIN, Alan Deformation quantization

1993/94, no 789, 21 p.

.............................................

1986/87, no 674, 15 p.

no no no no no no no no no no no

16, 10 p. 72, 8 p. 83, 3 p. 136, 7 p. 151, 5 p. 168, 7 p. 186, 9 p. 239, 13 p. 312, 9 p. 346, 6 p. 452, 21 p.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

496

TABLE PAR NOMS D’AUTEURS

WERNER, Wendelin Analyticité discrète du modèle d’Ising (d’après Stanislav Smirnov) WILKIE, Alex J. o-minimal structures

.

...................................................

WILSON, John S. Finite index subgroups and verbal subgroups in profinite groups

.....

WINTENBERGER, Jean-Pierre La conjecture de modularité de Serre : Le cas de conducteur 1 (d’après C. Khare) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . YOCCOZ, Jean-Christophe Bifurcations de points fixes elliptiques (d’après A. Chenciner) . . . . . . Non-accumulation de cycles limites . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Polynômes quadratiques et attracteur de Hénon . . . . . . . . . . . . . . . . . . . . . . Travaux de Herman sur les tores invariants . . . . . . . . . . . . . . . . . . . . . . . . . . Ensembles de Julia de mesure positive et disques de Siegel des polynômes quadratiques (d’après X. Buff et A. Chéritat) . . . . . . . . . . Échanges d’intervalles et surfaces de translation . . . . . . . . . . . . . . . . . . . . . YOR, Marc Introduction au calcul stochastique

2010/11, no 1030, 19 p. 2007/08, no 985, 12 p. 2009/10, no 1026, 22 p.

2005/06, no 956, 23 p. 1985/86, 1987/88, 1990/91, 1991/92,

no no no no

668, 690, 734, 754,

22 17 23 34

p. p. p. p.

2005/06, no 966, 17 p. 2007/08, no 996, 23 p.

....................................

1981/82, no 590, 18 p.

ZAGIER, Don Ramanujan’s mock theta functions and their applications (after Zwegers and Ono-Bringmann) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2007/08, no 986, 22 p.

ZELLER-MEIER, Georges Dérivations et automorphismes des algèbres d’opérateurs (d’après R.V. Kadison et J.R. Ringrose) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1966/67, no 324, 10 p.

ZISMAN, Michel Travaux de Borel-Haefliger-Moore

1961/62, no 240, 9 p.

....................................

ZUILY, Claude Solutions en grand temps d’équations d’ondes non linéaires ZUK, Andrzej Groupes engendrés par les automates

ASTÉRISQUE 348

.........

1993/94, no 779, 38 p.

.................................

2006/07, no 971, 31 p.

Astérisque 344

Boundary Value Problems for the Stoke System in Arbitrary Lipschitz domains M. Mitrea, M. Wright

The goal of this work is to treat the main boundary value problems for the Stokes system, i.e., (i) the Dirichlet problem with Lp-data and nontangential maximal function estimates, (ii) the Neumann problem with Lp-data and nontangential maximal function estimates, the Regularity problem with Lp1-data and nontangential maximal function estimates, (iv) the transmission problem with Lp-data and nontangential maximal function estimates, (v) the Poisson problem with Dirichlet condition in Besov-Triebel-Lizorkin spaces, (vi) the Poisson problem with Neumann condition in Besov-Triebel-Lizorkin spaces, in Lipschitz domains of arbitrary topology in Rn, for each n ≥ 2 . Our approach relies on boundary integral methods and yields constructive solutions to the aforementioned problems.

(Problèmes au bord pour le système de Stokes dans les domaines de Lipschitz quelconques) Le but de ce travail est d’étudier des problèmes au bord pour le système de Stokes, i.e., (i) le problème de Dirichlet avec des données Lp et des estimations de la fonction maximale non tangentielle, (ii) le problème de Neumann avec des données Lp et des estimations de la fonction maximale non tangentielle, (iii) le problème de régularité avec des données Lp1 et des estimations de la fonction maximale non tangentielle, (iv) le problème de transmission avec des données Lp et des estimations de la fonction maximale non tangentielle, (v) le problème de Poisson avec des conditions de Dirichlet au bord dans des espaces de Besov-TriebelLizorkin, (vi) le problème de Poisson avec des conditions de Neumann au bord dans des espaces de Besov-Triebel-Lizorkin, dans des domaines lipschitziens de Rn pour tout n ≥ 2 de topologie arbitraire. Notre approche repose sur des méthodes d’intégrales au bord et fournit des solutions constructives aux problèmes ci-dessus. ISBN : 978-2-85629-343-0

Prix public* : 50 € - prix membre* : 35 € * frais de port non compris

Institut Henri Poincaré 11 rue Pierre et Marie Curie F - 75231 PARIS CEDEX 05 http://smf.emath.fr

Astérisque Revue internationale de haut niveau, Astérisque publie en français et en anglais des monographies de qualité, des séminaires prestigieux, ou des comptes-rendus de grands colloques internationaux. Les textes sont choisis pour leur contenu original ou pour la nouveauté de la présentation qu’ils donnent d’un domaine de recherche. Chaque volume est consacré à un seul sujet, et tout le spectre des mathématiques est en principe couvert.

Astérisque is a high level international journal which publishes excellent research monographs in French or in English, and proceedings of prestigious seminars or of outstanding international meetings. The texts are selected for the originality of their contents or the new presentation they give of some area of research. Each volume is devoted to a single topic, chosen, in principle, from the whole spectrum of mathematics.

Instructions aux auteurs / Instructions to Authors Le manuscrit doit être envoyé en triple exemplaire au secrétariat des publications en précisant le nom de la revue. Le fichier source TEX (un seul fichier par article) peut aussi être envoyé par courrier électronique ou par transfert FTP, sous réserve que sa compilation par le secrétariat SMF soit possible. Contacter le Secrétariat à l’adresse électronique [email protected] pour obtenir des précisions. La SMF recommande vivement l’utilisation d’AMS-LATEX avec sa classe bourbaki.cls, disponibles ainsi que leur documentation sur le serveur http: //smf.emath.fr/ ou sur demande au Secrétariat des publications SMF. Les autres formats TEX et les autres types de traitement de texte ne sont pas utilisables par le secrétariat et sont fortement déconseillés. Avant de saisir leur texte, les auteurs sont invités à prendre connaissance du document Recommandations aux auteurs disponible au secrétariat des publications de la SMF ou sur le serveur de la SMF.

Three copies of the original manuscript should be sent to the editorial board of the SMF, indicating to which publication the paper is being submitted. The TEX source file (a single file for each article) may also be sent by electronic mail or by FTP transfer, in a format suitable for typsesetting by the Secretary. Please, send an email to [email protected] for precise information. The SMF has a strong preference for AMS-LATEX together with the documentclass bourbaki.cls, available with their User’s Guide at http: // smf. emath. fr/ (Internet) or on request from the editorial board of the SMF. Files prepared with other TEX dialects or other word processors cannot be used by the editorial board and are not encouraged. Before preparing their electronic manuscript, the authors should read the Advice to authors, available on request from the editorial board of the SMF or from the web site of the SMF.

Comme les précédents volumes de ce séminaire, qui compte maintenant plus de mille exposés, celui-ci contient seize exposés de synthèse sur des sujets d’actualité : trois situés entre analyse et géométrie, trois de géométrie algébrique, deux de géométrie diophantienne, deux liés au programme de Langlands, deux en théorie des groupes, un de topologie algébrique, un sur le modèle d’Ising et deux en physique mathématique.

348

ASTÉRISQUE 2012

SÉMINAIRE BOURBAKI VOLUME 2010/2011 EXPOSÉS 1027-1042 (1027) La méthode du retour en contrôlabilité et ses applications en mécanique des fluides Olivier GLASS

SOCIÉTÉ MATHÉMATIQUE DE FRANCE Publié avec le concours du CENTRE NATIONAL DE LA RECHERCHE SCIENTIFIQUE

Séminaire BOURBAKI 63e année, 2010-2011, no 1027, p. 1 à 16

Novembre 2010

LA MÉTHODE DU RETOUR EN CONTRÔLABILITÉ ET SES APPLICATIONS EN MÉCANIQUE DES FLUIDES [d’après Coron et al.] par Olivier GLASS

INTRODUCTION

Un système de contrôle est une équation d’évolution dépendant d’un paramètre. La théorie du contrôle cherche à déterminer comment l’on peut choisir ce paramètre en fonction du temps afin de modifier la dynamique dans un sens prescrit. Le problème de contrôlabilité s’intéresse en particulier à la possibilité de faire passer l’état du système d’un point de départ à une cible prescrite, celui de stabilisation à la possibilité de rendre un point d’équilibre stable. Dans le cas d’équations non linéaires, l’approche usuelle pour obtenir ce type de propriété est de linéariser le système, puis d’obtenir un résultat sur le linéarisé par des méthodes classiques. Cependant dans de nombreux systèmes d’origine physique, le linéarisé n’est pas nécessairement contrôlable. La méthode du retour introduite par J.-M. Coron permet de contourner cet obstacle. Dans cet exposé, nous nous intéresserons d’abord au problème pour lequel cette méthode a été introduite, qui concerne la stabilisation de certains systèmes de dimension finie ; puis nous illustrerons la méthode par deux exemples issus de la mécanique des fluides incompressibles : l’un, dû à J.-M. Coron, concernant l’équation d’Euler, l’autre, dû à J.-M. Coron et S. Guerrero, concernant l’équation de Navier-Stokes.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

2

O. GLASS

1. SYSTÈMES DE CONTRÔLE 1.1. Définition et exemples Définition 1.1. — Un système de contrôle est une équation d’évolution munie d’un paramètre u appelé contrôle. Un tel système s’écrit généralement de manière formelle : y˙ = f (t, y, u),

(1)

où t désigne la variable temporelle, et où – y désigne l’état du système, appartenant pour chaque t à l’espace des états Y , – u désigne le contrôle qui représente un moyen d’influencer celui-ci, à choisir pour chaque t dans l’espace des contrôles admissibles U . Deux cas principaux se distinguent dans la théorie. Dans le premier, Y et U sont des espaces vectoriels ou des variétés de dimension finie, réels ou complexes, et l’équation (1) est une équation différentielle ordinaire. Dans le second, Y et U sont des espaces fonctionnels ou des parties d’espaces fonctionnels, et l’équation (1) est une équation aux dérivées partielles, dans laquelle le contrôle peut apparaître de différentes manières (au second membre de l’équation, dans les conditions aux limites, etc.). La théorie du contrôle cherche à décrire dans quelle mesure on peut influencer l’état du système par une utilisation appropriée de la fonction de contrôle. Cela est motivé à la fois par les applications, par exemple le contrôle de systèmes en provenance de la mécanique des fluides, et par la théorie : on cherche à comprendre comment l’information se propage dans le système, pour permettre au contrôle de maîtriser la dynamique de celui-ci. Donnons quelques exemples remarquables de systèmes de contrôle, dont il sera question dans la suite. Le premier est un exemple de système de contrôle de dimension finie. Exemple 1.2. — Systèmes de contrôle affines sans dérive. On considère ici m champs de vecteurs de classe C ∞ sur Rn . Le système considéré est le suivant : (2)

y˙ =

m X

ui fi (y),

i=1

où le contrôle est u = (ui )i=1...m ∈ Rm et l’état y ∈ Rn . Cet exemple est naturellement relié à la géométrie sous-riemannienne. Les deux exemples suivants de systèmes de contrôle de dimension infinie proviennent de la mécanique des fluides. Les questions relatives au contrôle en mécanique des fluides ont été soulevées en particulier par J.-L. Lions [11].

ASTÉRISQUE 348

(1027)

LA MÉTHODE DU RETOUR (D’APRÈS CORON ET AL.)

3

Exemple 1.3. — Contrôle frontière de l’équation d’Euler. On considère l’équation d’Euler des fluides parfaits incompressibles, posée dans un domaine Ω borné et régulier du plan R2 . Pour un temps T > 0 donné, le champ de vitesse du fluide v : [0, T ]×Ω → R2 et son champ de pression p : [0, T ] × Ω → R satisfont : ( ∂ ∂t v(t, x) + (v(t, x).∇)v(t, x) + ∇p(t, x) = 0 pour (t, x) dans [0, T ] × Ω, (3) div v(t, x) = 0 pour (t, x) dans [0, T ] × Ω. P ∂ . La première équation rend compte On rappelle la notation classique (v.∇) = i vi ∂x i de la conservation de la quantité de mouvement, la seconde de l’incompressibilité. En général, le système d’Euler est clos par la condition d’imperméabilité de la frontière (4)

v(t, x).n(x) = 0 pour (t, x) sur [0, T ] × ∂Ω,

où n est la normale unitaire extérieure sur ∂Ω. Mais ici, on considère qu’une partie des données au bord peut être utilisée comme un contrôle. Plus précisément, on introduit Σ un ouvert non vide de ∂Ω, et on considère que l’on dispose comme contrôle des données au bord sur Σ, tandis que la contrainte (5)

v(t, x).n(x) = 0 pour (t, x) sur [0, T ] × (∂Ω \ Σ),

demeure sur le reste du bord. D’après V. Yudovich [13], on sait que les données que l’on peut imposer sur Σ pour déterminer le système, c’est-à-dire ici le contrôle, sont les suivantes : – la vitesse normale sur [0, T ] × Σ : v(t, x).n(x) = h(t, x) sur [0, T ] × Σ, avec la contrainte que h doit être de moyenne nulle pour chaque temps afin d’être compatible avec l’incompressibilité du modèle, – et le tourbillon sur la partie « entrante » de Σ : rot u = ω(t, x) sur Σ− T := {(t, x) ∈ [0, T ] × ∂Ω / v(t, x).n(x) < 0} . L’état du système est le champ de vitesse v. Comme il est classique en mécanique des fluides incompressibles, la pression n’est pas ici une réelle inconnue du système. Exemple 1.4. — Contrôle interne de l’équation de Navier-Stokes. On se place ici dans le tore de dimension 2, où l’on pose l’équation de Navier-Stokes incompressible : ( ∂t v(t, x) + (v(t, x).∇)v(t, x) − ∆v(t, x) + ∇p(t, x) = f (t, x) dans [0, T ] × T2 , (6) div v(t, x) = 0 pour (t, x) dans [0, T ] × T2 , où, comme dans l’exemple précédent, v : [0, T ] × T2 → R2 désigne le champ de vitesse du fluide et p : [0, T ]×T2 → R son champ de pression. Ici, f désigne un champ de force réparti dans le domaine. Le système de contrôle interne consiste à considérer comme

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

4

O. GLASS

un contrôle une telle force, localisée dans une partie du domaine. Soit donc ω un ouvert non vide de T2 ; le système de contrôle interne de l’équation de Navier-Stokes s’obtient en introduisant le contrôle u : [0, T ] × ω → R2 dans l’équation précédente sous la forme (7)

f (t, x) = χω (x)u(t, x),

c’est-à-dire avec un léger abus de notation que f = 0 dans [0, T ] × (T2 \ ω) et f = u dans [0, T ] × ω. Cette écriture est destinée à rappeler que u est supporté dans ω ; cela n’empêche pas de chercher un contrôle f régulier. Là encore, l’état du système est le champ v. Ces deux derniers exemples ne sont que des cas particuliers de systèmes de contrôle gouvernés par des EDP. Bien sûr, les systèmes de contrôle interne et frontière peuvent être étudiés pour beaucoup d’autres équations d’évolution ; par ailleurs il existe beaucoup de modèles où le contrôle apparaît de manière différente dans le système, comme par exemple dans les coefficients de l’opérateur différentiel lui-même. 1.2. Deux questions classiques en théorie du contrôle Beaucoup de questions mathématiques différentes peuvent être soulevées à propos d’un système de contrôle. Nous nous intéresserons à deux d’entre elles en particulier. La première question est celle de contrôlabilité. Définition 1.5. — Soit T0 < T1 . On dira que le système (1) est exactement contrôlable entre T0 et T1 lorsque, quel que soit le couple d’états possibles (y0 , y1 ) ∈ Y 2 , il existe un contrôle u : [T0 , T1 ] → U tel que la solution y : [T0 , T1 ] → Y de (1) associée à u et partant de y|t=T0 = y0 satisfasse : y|t=T1 = y1 . Exemple 1.6. — Un résultat classique, dû à W.-L. Chow et P. Rashevski, dit que pour le système (2), si en tout point x ∈ Rn (8)

{g(x), g ∈ Lie{f1 , . . . , fm }} = Rn ,

alors le système (2) est exactement contrôlable en temps arbitraire. Une autre notion de contrôlabilité est fréquente, en particulier quand on considère le contrôle d’équations aux dérivées partielles paraboliques. L’effet régularisant de ces dernières empêche en général la contrôlabilité exacte d’avoir lieu. Le problème de zéro-contrôlabilité soulève la question, non contredite par cet effet régularisant, de la possibilité de ramener le système à un état d’équilibre fixé. Dans le cas des exemples 1.3 et 1.4, la question est la possibilité de ramener le fluide au repos.

ASTÉRISQUE 348

(1027)

LA MÉTHODE DU RETOUR (D’APRÈS CORON ET AL.)

5

Définition 1.7. — On suppose que Y est un espace vectoriel. Soit T0 < T1 . On dira que le système (1) est zéro-contrôlable entre T0 et T1 lorsque, quel que soit y0 ∈ Y , il existe un contrôle u : [T0 , T1 ] → U tel que la solution y : [T0 , T1 ] → Y de (1) associée à u et partant de y|t=T0 = y0 satisfasse : y|t=T1 = 0. Remarque 1.8. — Bien sûr, pour des systèmes autonomes comme ceux donnés en exemple précédemment, ces notions ne dépendent que de T1 − T0 . Signalons que l’on peut distinguer pour ces questions la version globale, telle qu’indiquée ci-dessus, et la version locale, où l’on demande que la propriété soit valable au moins pour des états proches entre eux ou proches de l’état d’équilibre. Un autre problème classique est la question de stabilisation, motivée par la recherche de la robustesse du contrôle. Considérons pour simplifier un système autonome : (9)

y˙ = f (y, u).

Dans le problème de contrôlabilité, la fonction de contrôle est calculée en fonction des états y0 et y1 du système et du temps. Mais si l’état du système dévie de la trajectoire prévue (du fait de l’imprécision du modèle, des erreurs de calcul, de perturbations extérieures par exemple), il se peut que le contrôle qui avait été calculé ne soit plus adapté à la situation. Une façon de chercher de la robustesse au contrôle est de le chercher sous forme de retour d’état : (10)

u(t) = u(y(t)).

Dans (10), le contrôle est calculé uniquement en fonction de l’état du système au temps t ; en particulier un tel contrôle peut prendre en compte d’éventuelles déviations de la trajectoire. On peut également élargir la classe des contrôles en retour d’état décrite par (10) aux retours d’états dits instationnaires : (11)

u(t) = u(t, y(t)),

où l’on se permet une dépendance supplémentaire du contrôle en fonction du temps. Par opposition, on appelle alors stationnaire un retour d’état du type (10). Lorsqu’on est muni d’un retour d’état comme (10) ou (11), l’équation y˙ = f (y, u(t, y(t))) devient alors un système dynamique où le contrôle n’est plus à choisir, et est appelé système en boucle fermée. Soit (ye , ue ) tel que f (ye , ue ) = 0 un point d’équilibre de (9).

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

6

O. GLASS

Définition 1.9. — On dira que le système (1) est globalement (respectivement localement) asymptotiquement stabilisable au point (ye , ue ) lorsque l’on peut trouver un retour d’état u tel que u(t, ye ) = ue et qui rende le système en boucle fermée globalement (resp. localement) asymptotiquement stable au point (ye , ue ). 1.3. La méthode du retour L’approche la plus commune pour attaquer les problèmes de contrôlabilité des systèmes non linéaires, en particulier en ce qui concerne les systèmes gouvernés par des équations aux dérivées partielles, consiste à linéariser le système, puis prouver un résultat de contrôlabilité sur le système linéarisé, et enfin à en déduire un résultat sur le système non linéaire (au moyen par exemple d’un théorème de point fixe ou d’inversion locale). Et l’on dispose d’une méthode classique pour prouver la contrôlabilité d’un système linéaire (voir J.-L. Lions [10] et D. L. Russell [12]), qui consiste à ramener la preuve de la contrôlabilité à la preuve d’une inégalité, dite d’observabilité, sur le système dual. Cela est proche de l’idée qui ramène la preuve de la surjectivité d’un opérateur à celle d’une inégalité sur l’opérateur adjoint. Mais, outre qu’en général les inégalités d’observabilité sont difficiles à prouver, cette approche ne permet pas de résoudre complètement les questions soulevées par les systèmes non linéaires. En effet, deux difficultés peuvent se présenter. D’une part, il se peut que le système linéarisé ne soit pas toujours contrôlable. Par exemple, l’équation d’Euler linéarisée autour de la trajectoire nulle est : ( ∂t v(t, x) + ∇p(t, x) = 0 dans [0, T ] × Ω, div v(t, x) = 0 dans [0, T ] × Ω. Pour ce système, les états initial et final ne diffèrent que d’un champ de gradient (harmonique), quel que soit le contrôle. Ce système n’est donc pas contrôlable. D’autre part, l’autre difficulté qui se présente est que, même lorsque le linéarisé est contrôlable, le résultat qui s’en déduit sur le système non linéaire est en général seulement local. La méthode du retour, introduite par J.-M. Coron dans [2], est une approche des questions de contrôle non linéaire, qui cherche à contourner la difficulté de systèmes n’ayant pas un linéarisé contrôlable. Elle permet en outre parfois d’obtenir des résultats qui sont globaux. On peut la voir comme une approche qui repose vraiment sur la non linéarité du système et cherche à exploiter celle-ci. Comme fréquemment en théorie des équations aux dérivées partielles, on ne dispose pas d’un théorème très général qui s’adapterait à toutes les situations des systèmes de contrôle gouvernés par des EDP. Mais il se trouve que cette approche s’applique dans beaucoup de situations différentes, en particulier aux problèmes de contrôle de certains systèmes physiques. Cela ne se limite pas à la mécanique des fluides d’où l’on

ASTÉRISQUE 348

(1027)

LA MÉTHODE DU RETOUR (D’APRÈS CORON ET AL.)

7

tire ici des exemples. On se référera par exemple au livre [6] pour trouver des études différentes en provenance d’autres contextes. On peut résumer la méthode de la manière suivante. Pour obtenir de la contrôlabilité près de 0, au lieu de linéariser autour de la trajectoire nulle, il s’agit de linéariser autour d’une trajectoire non triviale du système non linéaire (avec contrôle), disons y, qui part de 0 et revient à 0 au temps final. On peut ensuite espérer obtenir une solution au problème de contrôle non linéaire, qui soit proche de y. Dans les sections qui suivent, nous donnons quelques exemples illustratifs d’emploi de cette méthode. Comme indiqué plus haut, elle a eu des conséquences nombreuses et variées ; nous renvoyons encore à [6].

2. ORIGINES DE LA MÉTHODE : STABILISATION DES SYSTÈMES AFFINES DE DIMENSION FINIE SANS DÉRIVE Le problème qui a amené J.-M. Coron à introduire cette méthode est celui de la stabilisation asymptotique par retour d’état du système (2) à l’origine (0, 0), en supposant, ce qui est naturel, que la condition (8) sur les champs de vecteurs f1 , . . . , fm soit satisfaite en tout point de Rn . Si l’on considère uniquement la classe des retours d’états stationnaires, il n’est pas possible en général de stabiliser ces systèmes. En effet, R. W. Brockett a démontré le résultat suivant, qui repose sur des arguments topologiques (voir [1]). Théorème 2.1. — Soit f ∈ C ∞ (Rn × Rm ; Rn ) tel que f (0, 0) = 0. Si le système y˙ = f (y, u) est localement asymptotiquement stabilisable à l’origine par un retour d’état stationnaire continu, alors l’image par f d’un voisinage de l’origine est un voisinage de l’origine. Le système classique donné par y˙ 1 = u1 , y˙ 2 = u2 , y˙ 3 = u2 y1 − u1 y2 , satisfait la condition (8) en tout point. Il est en revanche simple de voir que l’image de (y1 , y2 , y3 , u1 , u2 ) 7→ (u1 , u2 , u2 y1 − u1 y2 ) ne contient pas de point de la forme (0, 0, ε), ε 6= 0. Ce système n’est par conséquent pas stabilisable par retour d’état stationnaire continu. Restait alors le problème de la possibilité de stabilisation par un retour d’état instationnaire. Dans [2], J.-M. Coron montre le résultat suivant.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

8

O. GLASS

Théorème 2.2. — Supposons que f1 , . . ., fm vérifient la condition (8) en tout point x ∈ Rn \ {0}. Alors pour tout T > 0, il existe u ∈ C ∞ (R × Rn ; Rm ), T -périodique de la première variable, tel que : ∀t, u(t, 0) = 0, et tel que le point 0 soit globalement asymptotiquement stable pour le système en boucle fermée m X y˙ = ui (t, y)fi (y). i=1

Preuve (esquisse) — La preuve de ce résultat mériterait un exposé à elle seule. Donnons-en juste quelques notions. Le point de départ est de construire un contrôle de référence u(t, y) = (ui )i=1...m satisfaisant u(t, 0) = 0 pour tout temps et tel que la solution de m X y˙ = ui (t, y)fi (y) i=1

satisfasse y(T ) = y(0), quelle que soit la donnée initiale. Cette propriété s’obtient facilement, puisqu’il suffit que u(T − t, y) = −u(t, y). Mais la difficulté vient de ce qu’on cherche à obtenir de plus la propriété : pour y(0) 6= 0, le système linéarisé autour de la trajectoire y est contrôlable. Ensuite, sous cette condition (à vrai dire, sous une condition un peu plus forte), on peut corriger la loi de retour d’état u en u(t, y) = u(t, y) + εv(t, y), où v est un contrôle permettant d’ajouter de la « dissipation » au système et ε est un petit paramètre positif. Le but est d’obtenir des trajectoires du système en boucle fermée qui satisfont y(T ) ' (1 − εη[y(0)])y(0), où η est une fonction strictement positive en dehors de l’origine ; cela donne le résultat. L’idée pour construire v est d’utiliser l’équation linéarisée autour de y : (12)

L(z, w) :=

m m X ∂z X ∂fi − wi fi (y(t)) − ui (t) (y(t))z = 0. ∂t i=1 ∂y i=1

On introduit zˆ comme une application qui près du temps initial suit la solution nulle de (12), et qui près du temps final suit l’orbite de (12) sans contrôle w et atteignant −η(y(0)) y(0) au temps T . Donc (ˆ z , w) ˆ = (ˆ z , 0) ne satisfait pas (12), mais r := L(ˆ z , 0) est supporté à l’intérieur de (0, T ). Il s’agit alors de « corriger » zˆ en trouvant un antécédent de r par L, lui-même supporté à l’intérieur de (0, T ). Un tel antécédent

ASTÉRISQUE 348

(1027)

LA MÉTHODE DU RETOUR (D’APRÈS CORON ET AL.)

9

n’existe généralement pas pour u = 0, mais il existe si le système linéarisé autour de y est contrôlable. J.-M. Coron montre que cette construction est possible pour des u génériques, et la preuve repose sur des techniques d’inversion des opérateurs différentiels sous-déterminés dues à M. Gromov [9, Section 2.3.8]. Puis le contrôle résultant est mis sous forme de retour d’état par un argument d’inversion locale.

3. CONTRÔLABILITÉ FRONTIÈRE DE L’ÉQUATION D’EULER BIDIMENSIONNELLE La méthode du retour s’est ensuite appliquée en théorie du contrôle des systèmes gouvernés par des équations aux dérivées partielles, en particulier au cas de l’équation d’Euler des fluides parfaits incompressibles en dimension 2. Soient Ω un domaine borné et régulier du plan R2 , et Σ une partie ouverte de son bord. On s’intéresse à la contrôlabilité de l’équation d’Euler dans un cadre d’états C ∞ (la régularité n’ayant ici que peu d’importance, tant que l’espace des états est par exemple un espace de Hölder ou de Sobolev inclus dans l’espace des fonctions lipschitziennes). On considère donc l’espace des états suivants (qui prend en compte les conditions de compatibilité) :  Y := v ∈ C ∞ (Ω; R2 ) / div (v) = 0 dans Ω et v.n = 0 sur ∂Ω \ Σ . On dira que le système (3) est exactement contrôlable en temps T > 0 lorsque, quels que soient v0 et v1 de Y , il existe une solution v ∈ C ∞ ([0, T ] × Ω; R2 ), solution de (3), satisfaisant (5), et telle que v(0, ·) = v0 et v(T, ·) = v1 dans Ω. On remarquera que cette notion ne fait pas apparaître explicitement le contrôle. Celuici peut se retrouver en prenant les traces adéquates au bord. Cela permet d’avoir un énoncé ne faisant pas appel aux conditions au bord sur [0, T ] × Σ, qui ont ici une forme assez compliquée, reliée au résultat de V. Yudovich mentionné plus haut. Dans [3, 5], J.-M. Coron a obtenu le résultat suivant. Théorème 3.1. — L’équation d’Euler (3) est globalement exactement contrôlable en temps T > 0 si et seulement si la zone de contrôle Σ rencontre toutes les composantes connexes du bord. En particulier, si elle est contrôlable, elle l’est pour tout temps. Preuve (esquisse) — La nécessité de la condition sur Σ est une conséquence du théorème de Kelvin : dans un fluide incompressible, la circulation de vitesse le long d’une courbe fermée est constante dans le temps, lorsque la courbe suit le flot de vitesse. Comme une composante connexe du bord ne rencontrant pas la zone de contrôle Σ est laissée invariante par le flot, l’évolution a un invariant indépendant du contrôle si Σ ne satisfait pas la condition.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

10

O. GLASS

La partie principale du théorème précédent est la suffisance de la condition. Esquissons la preuve dans le cas plus simple où Ω est simplement connexe. Comme constaté plus haut, l’équation linéarisée autour de la solution nulle n’est pas contrôlable. Il s’agit donc de déterminer une solution de l’équation d’Euler (avec la contrainte (5)), qui parte de 0 et y retourne au temps T , et autour de laquelle l’équation linéarisée soit contrôlable. On est donc amené à trouver une solution particulière à l’équation non linéaire, problème en général épineux. Mais ici, il est connu depuis très longtemps que des solutions particulières de l’équation d’Euler sont données par les écoulements potentiels : (13)

v(t, x) = ∇θ(t, x) où ∆x θ = 0 dans (0, T ) × Ω.

La pression est alors p = −∂t θ − |∇θ|2 /2 et la condition (5) se traduit par la condition de Neumann au bord : ∂θ = 0 sur (0, T ) × (∂Ω \ Σ). ∂n Nous disposons ainsi d’une grande quantité de solutions particulières de (3). Il nous faut maintenant trouver, au sein de cette famille, une solution de référence y = ∇θ telle que le linéarisé autour de y soit contrôlable. Le point de départ pour cela est de réécrire, comme il est classique, l’équation d’Euler sous la forme d’un couplage d’une équation de transport portant sur la vorticité, et d’une équation elliptique permettant de retrouver la vitesse à partir de celle-ci : ∂ω + (v.∇)ω = 0, div v = 0 et rot v = ω. ∂t On considère alors l’équation linéarisée autour de y sous forme de vorticité : (14)

∂ω + (y.∇)ω = 0. ∂t

Une solution ω de (14) est constante le long du flot de y. Si l’on souhaite pouvoir passer d’un ω0 initial quelconque à ω1 = 0 (par exemple), il est donc nécessaire d’obtenir la propriété suivante : dans le flot de y, les points de Ω au temps T proviennent de Σ. Proposition 3.2. — Il existe θ ∈ C ∞ ([0, T ] × Ω; R), satisfaisant (13) et la propriété précédente. Il y a plusieurs méthodes pour prouver ce résultat, qui est relativement simple quand Ω est simplement connexe (voir [3]). On peut par exemple, par un argument d’analyse complexe, trouver θ ∈ C ∞ (Ω; R) harmonique et sans point critique dans Ω ; alors θ(t, x) = Kθ(x) convient pour K assez grand.

ASTÉRISQUE 348

(1027)

LA MÉTHODE DU RETOUR (D’APRÈS CORON ET AL.)

11

Une fois cette solution de référence y obtenue, on voit que l’équation (14) est zérocontrôlable : il suffit essentiellement de prescrire la vorticité entrante égale à 0 (ce qui pose en fait des problèmes de régularité), et l’état final ainsi obtenu satisfait : div v(T ) = 0 et rot v(T ) = 0. Le domaine étant simplement connexe, et comme on peut prescrire v(T ).n = 0 sur le bord (puisque cette donnée fait partie du contrôle), on obtient que l’état final est nul. Puis un argument perturbatif montre que l’équation (14) est encore zéro-contrôlable lorsque l’on remplace y par y qui est assez proche. On peut alors utiliser une stratégie de point fixe pour déduire que l’équation est localement zéro-contrôlable. Le résultat complet s’en déduit, en utilisant le fait que l’équation d’Euler a une invariance d’échelle particulière, ne faisant intervenir que la variable de temps : si (v(t, x), p(t, x)) est solution de (3) dans [0, T ] × Ω, alors (vλ , pλ ) est donné par : (15)

vλ (t, x) := λv(λt, x) et pλ (t, x) = λ2 p(λt, x) est solution dans [0, T /λ] × Ω.

On déduit de ce fait que, si l’on sait ramener des petits états à l’équilibre en temps T , on sait ramener des états plus grands en temps plus court ! Cela établit la zéro-contrôlabilité globale. Enfin, la contrôlabilité exacte globale suit par réversibilité de l’équation (λ = −1 dans l’expression précédente) : compte tenu de cette réversibilité, on sait passer de y0 à y1 en temps T , en recollant deux solutions, passant respectivement de y0 et de −y1 à 0 en temps T /2, où l’on inverse le sens du temps dans la seconde.

4. CONTRÔLABILITÉ LOCALE DE L’ÉQUATION DE NAVIERSTOKES AU MOYEN D’UN CONTRÔLE À UNE SEULE COMPOSANTE Dans ce paragraphe, nous donnons une autre illustration de l’utilisation de la méthode du retour en mécanique des fluides. Il s’agit du système de contrôle décrit dans l’exemple 1.4. L’équation de Navier-Stokes présentant un effet régularisant, le problème de zéro-contrôlabilité est une question naturelle. A. Furiskov et O. Imanuvilov ont prouvé la zéro-contrôlabilité locale de ce système (voir [8]). D’un autre côté, J.-M. Coron a prouvé dans [4] un résultat global de contrôlabilité approchée (qui permet de conduire le système à un état arbitrairement proche de 0), qui complète le précédent et permet d’obtenir la zéro-contrôlabilité globale du système vers 0. Ce résultat repose sur la contrôlabilité de l’équation d’Euler (donc sur la méthode du retour), et sur le fait que le changement d’échelle (15) permet de se ramener à un petit coefficient de viscosité. Notons ici que le fait que le système soit posé dans le tore est essentiel ; dans le cas d’un domaine où l’on impose au bord

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

12

O. GLASS

la condition usuelle pour l’équation de Navier-Stokes de non-glissement v = 0 sur ∂Ω, le problème de zéro-contrôlabilité globale est ouvert. Mais une question naturelle se pose lorsqu’un résultat de contrôlabilité a été obtenu. Elle consiste à réduire l’espace des contrôles possibles, et ce à des fins de modélisation mais aussi de meilleure compréhension de la transmission de l’information dans le système. Les questions de contrôlabilité de systèmes couplés d’EDP à l’aide d’un contrôle ne portant que sur une partie des équations est une question de recherche actuelle importante. Dans [7], J.-M. Coron et S. Guerrero se sont intéressés à la contrôlabilité de l’équation (6), au moyen d’un contrôle ne portant que sur la première composante, c’est-à-dire où le contrôle prend ici la forme : ! u1 (t, x) (16) f (t, x) = χω (x) , 0 où u1 est une application de [0, T ] × ω à valeurs dans R et où l’on utilise le même abus de notation que dans l’exemple 1.4. Ils obtiennent le résultat suivant. Soit l’espace Z ß ™ 2 2 2 H0 := v ∈ L (T ; R ) / div (v) = 0 et v2 dx = 0 . T2

On notera que lorsque le contrôle est sous la forme (16), l’espace H0 est un sous-espace invariant du système de contrôle (6). Théorème 4.1. — Pour tout temps T > 0 et tout ε > 0, il existe η > 0 tel que, pour tout v0 ∈ H0 tel que kv0 kL2 < η, il existe un contrôle u1 ∈ L2 ((0, T ) × ω) satisfaisant ku1 kL2 < ε et tel que l’unique solution de (6) et (16) de donnée initiale v0 satisfasse : v(T ) = 0 dans T2 . Preuve (esquisse) — Il est ici encore naturel de tenter d’établir la contrôlabilité du système linéarisé autour de zéro :  !  u (t, x)  1  ∂t v − ∆v + ∇p = χω (x) dans [0, T ] × T2 , (17) 0    div v = 0 dans [0, T ] × T2 . Lorsque l’on dispose des deux composantes du contrôle, la zéro-contrôlabilité de ce système a été établie par A. Fursikov et O. Imanuvilov [8]. Mais lorsque le contrôle prend la forme ci-dessus, la zéro-contrôlabilité de (17) est fausse. En effet, en identifiant T2 = (R/Z)2 et en considérant pour k ∈ Z et α, β ∈ R la fonction définie sur T2 : ζ(x1 , x2 ) = α sin(2kπx1 ) + β cos(2kπx1 ),

ASTÉRISQUE 348

(1027)

LA MÉTHODE DU RETOUR (D’APRÈS CORON ET AL.)

13

on vérifie simplement que la deuxième composante d’une solution de (17) satisfait Z Z d ζv2 dx = −4π 2 k 2 ζv2 dx. dt T2 T2 En particulier, il est impossible en général de ramener ces quantités à 0. Pour répondre à cette difficulté, l’idée est là encore de chercher à linéariser l’équation, non autour de la solution nulle, mais autour d’une solution de référence y qui part de 0 pour y retourner en temps T . La solution de référence prend ici une forme bien particulière, car elle est supportée dans [0, T ]×ω. S’il n’y avait pas de contrainte sur le contrôle, n’importe quelle fonction y ∈ C ∞ ([0, T ] × T2 ; R2 ), supportée dans [0, T ] × ω, serait une solution du système pour un certain contrôle ; ce n’est bien sûr plus vrai en général pour un contrôle de la forme (16). Cependant, on peut introduire une fonction y : [0, T ] × T2 → R2 par : Å ã µ y(t, x1 , x2 ) = δ exp − (∂x2 ϕ, −∂x1 ϕ), t(T − t) pour un ϕ ∈ C0∞ (ω) de la forme ϕ(x1 , x2 ) = a1 (x1 )b1 (x2 ) + a2 (x1 )b2 (x2 ), les termes étant supportés dans des rectangles disjoints disposés l’un au-dessus de l’autre dans ω ; on impose aussi la forme a1 = x1 et a2 = 1 dans une partie de ces rectangles ; dans un troisième rectangle superposé et inclus dans ω, ϕ = 0. Les paramètres δ et µ ci-dessus sont strictement positifs et à déterminer. Choisir les fonctions bi de moyenne nulle permet de construire y, avec la pression p et le contrôle u1 . Il s’agit alors d’établir la contrôlabilité vers 0 dans l’espace des états H0 pour le système linéarisé autour de y : ! u1 (t, x) . ∂t v + (y.∇)v + (v.∇)y − ∆v + ∇p = χω (x) 0 Cela s’opère en deux étapes. Dans un premier temps, J.-M. Coron et S. Guerrero partent du résultat de A. Fursikov et O. Imanuvilov [8] qui prouve que le système avec second membre  !    ∂t v − ∆v + ∇p = h + χω (x) u1 (t, x) dans [0, T ] × T2 , (18) u2 (t, x)    div v = 0 dans [0, T ] × T2 , est zéro-contrôlable lorsque h appartient à un certain espace à poids ã ™ ß Å C 2 2 2 2 h ∈ L ((0, T ) × T ) . h ∈ L ((0, T ) × T ) / exp T −t

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

14

O. GLASS

La preuve de ce résultat de zéro-contrôlabilité est constructive : la solution v et son contrôle apparaissent comme les solutions d’un certain problème variationnel. L’argument principal, de coercitivité de la fonctionnelle, repose sur la preuve très délicate d’une certaine inégalité dite de Carleman. À partir de ce résultat de zéro-contrôlabilité de (18) avec deux contrôles, les auteurs déduisent la zéro-contrôlabilité de l’équation ! u1 (t, x) (19) ∂t v + (y.∇)v + (v.∇)y − ∆v + ∇p = χω (x) , u2 (t, x) avec la contrainte supplémentaire sur u2 : Z (20) u2 (t, x) dx = 0. ω

Pour obtenir (20), ils ajoutent à la solution v de la solution du problème de zérocontrôlabilité associé à (18) un terme de type f (t) P (Z(x1 , x2 )), où Z : T2 → R2 est supporté dans ω et P est le projecteur de Leray, c’est-à-dire le projecteur orthogonal sur les champs de divergence nulle dans L2 . Une telle fonction est solution de (18) et permet de réaliser la contrainte (20). La prise en compte des termes additionnels (y.∇)v +(v.∇)y est assurée par un argument perturbatif, utilisant les paramètres δ et µ. La seconde étape consiste ensuite à éliminer complètement le second contrôle. C’est ici que la présence des termes invoquant y est décisive. Soit vˆ une solution du problème de zéro-contrôlabilité de (19) avec la contrainte (20) sur le contrôle. Les auteurs montrent que, partant de vˆ, on peut construire explicitement une fonction ψ, supportée dans [0, T ] × ω, s’annulant en t = T , et telle qu’en ajoutant v˜ = (∂x2 ψ, −∂x1 ψ) à la fonction vˆ, la somme résultante v = vˆ + v˜ = (v1 , v2 ) ne fasse plus apparaître la deuxième composante du contrôle, ou plutôt que ce qui reste de celle-ci puisse être incorporé dans le terme de pression. Pour cela, il est nécessaire et suffisant que v satisfasse la relation suivante, quels que soient t et x1 : Z 1 (21) [∂t v2 + (y.∇)v2 + (v.∇)y 2 − ∆v2 − χω u2 ] (t, x1 , x2 ) dx2 = 0. 0

La fonction ψ est alors recherchée sous la forme ψ(t, x) =

3 X i=1

ASTÉRISQUE 348

αi (t, x1 )βi (x2 ),

(1027)

LA MÉTHODE DU RETOUR (D’APRÈS CORON ET AL.)

15

où les supports des αi et βi sont adaptés à la forme de la fonction y (en particulier aux trois rectangles introduits plus haut). La contrainte (21) se traduit en une équation intégro-différentielle sur les fonctions αi et βi , faisant intervenir y. Le fait qu’il existe une solution à cette équation provient alors de la forme spécifique de y et de (20) ; la preuve s’inspire de nouveau des techniques de M. Gromov [9] sur l’inversion algébrique des systèmes différentiels sous-déterminés. Enfin, un théorème d’inversion locale permet d’obtenir la contrôlabilité locale du système non linéaire.

RÉFÉRENCES [1] R. W. Brockett – Asymptotic stability and feedback stabilization, in Differential geometric control theory (Houghton, Mich., 1982), Progr. Math., vol. 27, Birkhäuser, 1983, p. 181–191. [2] J.-M. Coron – Global asymptotic stabilization for controllable systems without drift, Math. Control Signals Systems 5 (1992), p. 295–312. [3]

, Contrôlabilité exacte frontière de l’équation d’Euler des fluides parfaits incompressibles bidimensionnels, C. R. Acad. Sci. Paris Sér. I Math. 317 (1993), p. 271–276.

[4]

, On the controllability of the 2-D incompressible Navier-Stokes equations with the Navier slip boundary conditions, ESAIM Contrôle Optim. Calc. Var. 1 (1995/96), p. 35–75.

[5]

, On the controllability of 2-D incompressible perfect fluids, J. Math. Pures Appl. 75 (1996), p. 155–188.

[6]

, Control and nonlinearity, Mathematical Surveys and Monographs, vol. 136, Amer. Math. Soc., 2007.

[7] J.-M. Coron & S. Guerrero – Local null controllability of the twodimensional Navier-Stokes system in the torus with a control force having a vanishing component, J. Math. Pures Appl. 92 (2009), p. 528–545. [8] A. V. Fursikov & O. Y. Imanuvilov – Controllability of evolution equations, Lecture Notes Series, vol. 34, Seoul National University Research Institute of Mathematics Global Analysis Research Center, 1996. [9] M. Gromov – Partial differential relations, Ergebnisse Math. Grenzg. (3), vol. 9, Springer, 1986.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

16

O. GLASS

[10] J.-L. Lions – Contrôlabilité exacte, stabilisation et perturbations de systèmes distribués, tomes 1 & 2, RMA 8 & 9, Masson, 1988. [11]

, Are there connections between turbulence and controllability ?, in Analysis and optimization of systems (A. Bensoussan & J.-L. Lions, éds.), Lecture Notes Control and Inform. Sci., vol. 144, 1990.

[12] D. L. Russell – Controllability and stabilizability theory for linear partial differential equations : recent progress and open questions, SIAM Rev. 20 (1978), p. 639–739. [13] V. I. Yudovich – The flow of a perfect, incompressible liquid through a given region, Soviet Physics Dokl. 7 (1962), p. 789–791.

Olivier GLASS Ceremade Université Paris-Dauphine Place du Maréchal de Lattre de Tassigny F–75775 Paris Cedex 16 E-mail : [email protected]

ASTÉRISQUE 348

348

ASTÉRISQUE 2012

SÉMINAIRE BOURBAKI VOLUME 2010/2011 EXPOSÉS 1027-1042 (1028) Crible en expansion Emmanuel KOWALSKI

SOCIÉTÉ MATHÉMATIQUE DE FRANCE Publié avec le concours du CENTRE NATIONAL DE LA RECHERCHE SCIENTIFIQUE

Séminaire BOURBAKI 63e année, 2010-2011, no 1028, p. 17 à 64

Novembre 2010

CRIBLE EN EXPANSION par Emmanuel KOWALSKI

1. INTRODUCTION L’objet de ce rapport est de présenter des travaux récents qui étendent les méthodes de crible depuis leur cadre classique, vers des situations nouvelles caractérisées par l’apparition d’ensembles discrets « à croissance exponentielle », provenant tout particulièrement de groupes discrets tels que SLm (Z) ou ses sous-groupes suffisamment « grands », en un certain sens. Un exposé récent de Sarnak [55] indique en partie les premières motivations de ces travaux (liées à l’équation de Markov et aux géodésiques de la surface modulaires). Les premiers résultats généraux concernant ces problèmes sont apparus vers 2005 sous forme de prépublications, et Bourgain, Gamburd et Sarnak ont publié un article présentant ses aspects particuliers [5]. D’autres applications, dont certaines ont une saveur géométrique très différente, sont aussi apparues indépendamment vers cette période, tout d’abord (un peu implicitement) dans certains travaux de Rivin [52]. L’aspect le plus crucial des applications des méthodes de crible dans ces nouvelles situations est qu’elles dépendent de propriétés d’expansion ou de « trou spectral », que ce soit d’un point de vue discret ou combinatoire (lié aux graphes expanseurs ou à la Propriété (τ ) de Lubotzky [40]) ou d’un point de vue plus géométrique (généralisant par exemple l’inégalité de Selberg λ1 > 3/16 pour la première valeur propre non-nulle de l’opérateur de Laplace sur les surfaces modulaires de congruence classiques). Les développements existant (ou en cours de rédaction) se traduisent, en définitive, par l’existence aujourd’hui d’estimations de crible très générales qui font intervenir des objets discrets à croissance exponentielle. Ces inégalités ont un potentiel d’application considérable – y compris pour des questions qui sont, a priori, sans rapport avec la théorie analytique des nombres –, dû en grande partie aux nombreux cas nouveaux où la propriété de trou spectral désirée a été démontrée. Les théorèmes d’expansion

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

18

E. KOWALSKI

pour les groupes linéaires finis sont particulièrement impressionnants (à commencer par l’article [26] de Helfgott dans le cas de SL2 qui a été le point de départ de ces progrès), ainsi que ceux concernant l’application de méthodes ergodiques aux réseaux dans des groupes semisimples ayant la Propriété (τ ) (en particulier les travaux de Gorodnik et Nevo [21]). Avant de se diriger vers le cœur de ce rapport, nous commençons par énoncer un résultat simple qui provient du crible en expansion. Rappelons pour cela tout d’abord que Ω(n) est la fonction arithmétique qui donne le nombre de facteurs premiers, comptés avec multiplicité, d’un entier n 6= 0, étendue à 0 en posant Ω(0) = +∞. Théorème 1.1. — Soit Λ ⊂ SLm (Z) un sous-groupe Zariski-dense, par exemple, le groupe L engendré par les éléments ! ! 1 ±3 1 0 (1) , ∈ SL2 (Z), 0 1 ±3 1 dans le cas m = 2 Soit f une fonction polynôme non-constante à coefficients entiers en m variables, par exemple f = X1 · · · Xm . Soit x0 ∈ Zm − {0} un vecteur fixé. Il existe un entier r = r(f, x0 , Λ) > 1 tel que l’ensemble

Of (x0 ; r) = {γ ∈ Λ | Ω(f (γ · x0 )) 6 r} est Zariski-dense dans SLm , et en particulier est infini. Plus précisément, il existe un tel r pour lequel Of (x0 ; r) est un ensemble non mince, au sens de [57, Def. 3.1.1]. Il est important de noter – comme cela sera rappelé plus bas – que Λ peut très bien avoir un indice infini dans SLm (Z). C’est le cas, par exemple, du groupe L engendré par les matrices (1) (ce qu’on peut voir, par exemple, en déterminant un domaine fondamental pour l’action de L par homographies sur le demi-plan de Poincaré et en vérifiant que son aire hyperbolique est +∞.) Notations Nous rappelons quelques notations essentielles. – La lettre p désignera toujours un nombre premier ; on désigne en particulier par Fp le corps fini Z/pZ, et on écrit plus généralement Fq pour un corps fini à q éléments. Pour un ensemble X, |X| désigne son cardinal, qui est un entier positif ou bien +∞ ; pour un graphe Γ, |Γ| est le nombre de sommets. – Les notations de Landau et Vinogradov f = O(g) et f  g sont synonymes ; f (x) = O(g(x)) pour tout x ∈ D signifie qu’il existe une constante « implicite » C > 0 (qui peut dépendre d’autres paramètres, qui seront indiqués explicitement) telle que |f (x)| 6 Cg(x) pour tout x ∈ D. Cette définition diffère de celle de N.

ASTÉRISQUE 348

(1028)

CRIBLE EN EXPANSION

19

Bourbaki [1, Chap. V], puisque cette dernière est de nature topologique. Par contre, les notations f (x) ∼ g(x) et f = o(g) ont dans ce texte le sens asymptotique de loc. cit. On écrira f  g pour f  g et g  f simultanément. Remerciements Je remercie chaleureusement J. Bourgain, N. Dunfield, E. Fuchs, A. Gamburd, F. Jouve, A. Kontorovich, H. Oh, L. Pyber, P. Sarnak, D. Zywina pour leur aide, remarques et corrections concernant ce texte. En particulier, les discussions avec O. Marfaing durant la préparation de son rapport de Master sur ce sujet [43] ont été très utiles.

2. MOTIVATION Les méthodes de crible concernent les propriétés multiplicatives des entiers, ou de sous-ensembles d’entiers. Il est donc naturel de chercher, pour étendre ces méthodes, à décrire des ensembles d’entiers inhabituels. Afin de présenter l’esprit du sujet, nous donnons dans cette section deux exemples de tels ensembles. L’un d’entre eux est un cas particulièrement plaisant du « crible en orbite » de Bourgain, Gamburd et Sarnak, considéré dans [5] : il s’agit de l’ensemble des courbures d’empilements de cercles apolloniens. Le second est peut-être encore plus surprenant : il concerne l’ordre du premier groupe d’homologie entière de certaines variétés de dimension 3 aléatoires. Nous le traiterons moins en détail dans la suite, mais il s’agit néanmoins d’un exemple révélateur de la diversité des applications possibles du crible. 2.1. Empilements de cercles apolloniens Soient ( 1 , 2 , 3 ) trois cercles dans le plan, deux à deux tangents et bordant des disques intérieurs disjoints, de rayons respectifs (r1 , r2 , r3 ) et courbures (c1 , c2 , c3 ) = (r1−1 , r2−1 , r3−1 ). Une propriété géométrique très classique est l’existence de deux autres cercles exactement (disons ( 4 , 04 ), de courbures (c4 , c04 )), tels que les quadruplets ( 1 , 2 , 3 , 4 ) et ( 1 , 2 , 3 , 04 ) comportent quatre cercles tangents deux à deux bordant des disques disjoints, si l’on permet (ce qui est possible tant pour les cercles originaux que pour 4 et 04 ) d’avoir des cercles de rayon négatifs, auquel cas le « disque » bordé par un cercle est, par convention, le complément dans le plan du disque borné auquel on pense naturellement (voir Figure 1). Un tel quadruplet est appelé une configuration de Descartes.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

20

E. KOWALSKI

En effet, Descartes a démontré que, dans une telle configuration, les courbures des quadruplets vérifient les équations quadratiques Q(c1 , c2 , c3 , c4 ) = Q(c1 , c2 , c3 , c04 ) = 0 où Q est la forme quadratique indéfinie donnée par Q(x, y, z, t) = 2(x2 + y 2 + z 2 + t2 ) − (x + y + z + t)2 . Ainsi, s’il se trouve que ( 1 , 2 , 3 , 4 ) ont des courbures entières (positives ou négatives), on obtient une équation de degré 2 pour déterminer c04 , dans laquelle une solution (à savoir c4 ) est supposée connue, et est entière : par conséquent, c04 sera également un entier. Et si l’on veut continuer l’aventure, le même raisonnement indique que, partant des cercles ( 1 , 2 , 3 , 4 ) à courbures entières, il existe d’autres cercles

01 , 02 , 03 , tels que, par exemple, le quadruplet ( 01 , 2 , 3 , 4 ) soit une configuration de Descartes, avec courbure c01 (et similairement c02 , c03 ) entière. Plus précisément, en résolvant l’équation ci-dessus avec la racine connue, on trouve que (c01 , c2 , c3 , c4 ) = (c1 , c2 , c3 , c4 ) · t s1 , (c1 , c02 , c3 , c4 ) = (c1 , c2 , c3 , c4 ) · t s2 , (c1 , c2 , c03 , c4 ) = (c1 , c2 , c3 , c4 ) · t s3 , (c1 , c2 , c3 , c04 ) = (c1 , c2 , c3 , c4 ) · t s4 , où les matrices s1 , . . . , s4 appartiennent au groupe orthogonal entier O(Q, Z) de la forme quadratique ci-dessus, et sont données par â ì â ì −1 2 2 2 1 s1 =

1

, 1 1

s2 =

2

−1

2

2

,

1 1

(et s3 , s4 obtenues mutatis mutandis). Notons que s2i = 1 pour tout i, et que l’on peut même montrer que ce sont les seules relations satisfaites par ces matrices. Chacun des quadruplets de courbures ainsi obtenus peut être utilisé pour itérer ce procédé. Autrement dit, si l’on note A le sous-groupe de O(Q, Z) qui est engendré par les si , les entiers apparaissant comme coefficients dans un vecteur de l’orbite A ·c d’un « quadruplet racine » c = (c1 , . . . , c4 ), représentent toutes les courbures des cercles qui sont ainsi construits récursivement. On obtient en définitive un empilement de

ASTÉRISQUE 348

(1028)

CRIBLE EN EXPANSION

21

cercles apollonien. La première itération en est représentée dans la Figure 1 dans un cas particulier (on y remarque l’application de la convention concernant les cercles de rayon négatif).

23

14 -6 11

86 35 15 26

Figure 1. Empilement de cercles apollonien pour c = (−6, 11, 14, 15), avec les courbures indiquées.

L’ensemble C (c) de ces courbures, considéré avec ou sans multiplicités, est notre premier exemple d’entiers susceptibles d’être soumis au crible. Il est d’emblée évident qu’une telle étude sera intimement reliée avec celle du groupe A . De plus, il est également clair que si l’on s’intéresse aux propriétés multiplicatives des éléments de C (c), les propriétés des applications de réduction

A → A p = A (mod p) ⊂ O(Q, Z/pZ), modulo les nombres premiers seront importantes. Les deux propriétés suivantes de A expliquent pourquoi ces questions sont abordables, mais très délicates : – Le groupe A est « gros » en un sens, à savoir qu’il est Zariski-dense dans le groupe O(Q) (vu comme groupe algébrique sur Q) – cela signifie que les identités polynomiales valides pour tout élément de A sont exactement les mêmes que celles (a priori moins nombreuses) valides pour tout élément du groupe continu O(Q, C). – Mais cependant, A est « petit », en un autre sens ; précisément, A est d’indice infini dans le groupe discret O(Q, Z). Comme pour le groupe L de Lubotzky, on peut aussi énoncer cela en disant que le quotient A \O(Q, R) (une variété hyperbolique de

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

22

E. KOWALSKI

dimension 3) a un volume infini, pour la mesure naturelle provenant d’une mesure de Haar sur O(Q, R). Remarque 2.1. — Les aspects arithmétiques des empilements de cercles apolloniens ont été discutés pour la première fois dans l’article [23], qui détaille quelques propriétés de C (c), mais l’application de méthodes de crible pour C (c) a commencé dans [5]. 2.2. Variétés aléatoires de Dunfield-Thurston Le second exemple est choisi pour illustrer l’intérêt des méthodes de crible pour étudier des objets a priori assez éloignés des entiers. Il est basé sur un article de Dunfield et Thurston [13] (qui ne mentionne pas explicitement le crible), qui a été développé par Maher [42] et l’auteur [35] (où le crible est appliqué explicitement). Soit g > 2 un entier donné, et soit Hg un « handlebody » de genre g ; il s’agit d’une variété connexe compacte orientée de dimension 3, dont le bord Σg = ∂Hg est une surface (compacte connexe orientée) de genre g. Une construction extrêmement classique de variétés compactes de dimension 3 (qui remonte à la thèse de P. Heegaard, et qui – pour un certain g dépendant de la variété – est toujours possible) est la suivante : on prend un homéomorphisme φ de Σg , et on construit la variété Mφ = Hg ∪φ Hg obtenue en collant deux copies de Hg à l’aide de l’application φ qui identifie les points de leur bord commun Σg qui se correspondent. La variété Mφ ne change pas, à homéomorphisme près, lorsque φ est changé continûment, ce qui signifie que Mφ ne dépend que de la classe de φ dans le groupe modulaire (« mapping class group ») Γg de Σg (qui est, grosso modo, le groupe des invariants « discrets » des homéomorphismes de surfaces ; ainsi qu’il a été décrit dans un exposé récent dans ce séminaire [50], ces groupes ont un certain nombre de propriétés communes avec les groupes arithmétiques comme SLm (Z), ou mieux comme Sp2g (Z), qui est un quotient de Γg , comme rappelé ci-dessous). L’article [13] (en partie inspiré par les heuristiques de Cohen-Lenstra concernant les groupes de classes d’idéaux de corps de nombres) étudie les propriétés statistiques du groupe fondamental π1 (Mφ ) lorsque φ est choisi « au hasard » dans Γg (en un sens décrit précisément ci-dessous), et spécialement de l’abélianisé H1 (Mφ , Z) de π1 (Mφ ). La motivation pour cela est la conjecture de Haken virtuelle, selon laquelle toute variété compacte de dimension 3 dont le groupe fondamental est infini devrait avoir un revêtement fini N → M tel que H1 (N, Z) soit infini(1). Ainsi, on va considérer pour le crible l’ensemble des entiers apparaissant comme ordre des sous-groupes de torsion de H1 (Mφ , Z), lorsque φ parcourt Γg . Ou plutôt, (1)

I. Agol a annoncé une preuve de cette conjecture.

ASTÉRISQUE 348

(1028)

CRIBLE EN EXPANSION

23

puisqu’il est très difficile de contrôler la multiplicité d’apparition de ces entiers, on peut penser à l’application Γg → |H1 (Mφ , Z)| ∈ {0, 1, 2, 3, . . .} ∪ {+∞}. Pourquoi vouloir appliquer le crible ici ? L’idée est de remarquer que l’on dispose d’informations « locales » pour chaque nombre premier p, à savoir l’homologie à coefficients dans Fp , qui est aussi la « réduction modulo p » de H1 (Mφ , Z) : H1 (Mφ , Z) ⊗ Z/pZ = H1 (Mφ , Z/pZ), et qu’on a également une description « locale-globale » des variétés Mφ dont le premier groupe d’homologie est infini : dim H1 (Mφ , Z) ⊗ Q > 1 ⇐⇒ (Pour tout p premier, dimZ/pZ H1 (Mφ , Z/pZ) > 1) (ceci étant valide parce que H1 (Mφ , Z) est un groupe abélien de type fini). Il y a en fait une certaine similarité avec le premier exemple : comme l’indiquent Dunfield et Thurston, il y a une description naturelle de l’homologie de Mφ , qui est donnée par (2)

H1 (Mφ , Z) ' V /hJ, φ∗ Ji

où V = H1 (Σg , Z) ' Z2g est le premier groupe d’homologie de la surface Σg , J est l’image dans V de H1 (Hg , Z) ' Zg , tandis que φ∗ est l’application linéaire induite par φ sur V . Notons que J est un sous-espace lagrangien (fixé !) de V , par rapport à la forme d’intersection sur V (c’est-à-dire que celle-ci est identiquement nulle sur J). En particulier, H1 (Mφ , Z) ne dépend que de l’application induite φ∗ , qui est un élément du groupe discret Sp(V ) ' Sp2g (Z) des automorphismes symplectiques de V (pour la forme d’intersection). Et bien évidemment, la réduction modulo p est donnée par (3)

H1 (Mφ , Z/pZ) ' Vp /hJp , φ∗ Jp i

g où Vp = V /pV ' F2g p , Jp = J/pJ ' Fp , qui ne dépend également que de la réduction modulo p de φ∗ , un élément du groupe fini Sp(V /pV ) ' Sp2g (Z/pZ).

3. UN SURVOL RAPIDE DU CRIBLE Dans cette section, nous allons présenter (assez rapidement) les méthodes de crible, et en énoncer le résultat fondamental, dont le principe remonte aux travaux de V. Brun au début du xxe siècle. L’objectif est de rendre accessible une partie au moins de la littérature concernant le crible, en présentant sa terminologie et ses notations usuelles. Pour cette raison, cette section est rédigée afin d’être lisible indépendamment du

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

24

E. KOWALSKI

reste du texte. C’est seulement dans la suivante que les exemples de la Section 2 – et beaucoup d’autres – seront insérés dans le cadre du crible. 3.1. Crible classique Les méthodes de crible classiques ont leur origine dans des questions très naturelles concernant les interactions possibles entre des contraintes de type multiplicatives et des propriétés additives des entiers positifs. L’exemple le plus emblématique, qui a motivé V. Brun et beaucoup d’autres arithméticiens depuis, est la conjecture des nombres premiers jumeaux : existe-t-il une infinité de nombres premiers p tels que p + 2 soit également premier ? Mais la versatilité remarquable du crible l’amène à servir d’outil dans beaucoup d’autres questions. Nous renvoyons, tant pour les détails de la théorie générale que pour de nombreux exemples d’applications, au livre récent de J. Friedlander et H. Iwaniec [16]. Dans leur présentation moderne, les méthodes de crible ont l’objectif suivant : étant donnée une suite(2) F = (an )n>1 de réels positifs (qui, en général, a un support fini, la taille de celui-ci étant un paramètre qui a vocation à tendre vers l’infini), et un ensemble (fixé, en général infini) P de nombres premiers (par exemple, tous les nombres premiers), on désire comprendre la somme Y X p, an , où P (z) = S( F , z) = n>1 (n,P (z))=1

p∈ P p1

des entiers qui ne sont divisibles par aucun nombre premier p dans P qui soit < z. Et, crucialement, on souhaite procéder en utilisant des propriétés de la suite donnée qui sont fournies par les axiomes du crible, qui portent sur le comportement des sommes de congruence X an , (4) Sd ( F ) = n>1 n≡0 (mod d)

pour d > 1 divisible seulement par des nombres premiers dans P . La relation fondamentale qui rend cela raisonnable est la formule d’inclusionexclusion (3) X S( F , z) = µ(d)Sd ( F ), d|P (z) (2)

« F » comme « Folge » en allemand. Où µ(d) est la fonction de Möbius, valant 0 si d a un facteur carré non-trivial, et égale sinon à (−1)Ω(n) . (3)

ASTÉRISQUE 348

(1028)

CRIBLE EN EXPANSION

25

et la philosophie sous-jacente est que, pour beaucoup de suites ayant un grand intérêt arithmétique, les sommes de congruence peuvent être analysées avec succès. La notion de « crible de dimension κ > 0 » apparaît alors, lorsque la suite F est telle (intuitivement) que la « densité » des entiers divisibles par un nombre premier p fixé (appartenant à P ) est approximativement κp−1 . Cela revient à demander que l’on sache écrire Sd ( F ) = g(d)S( F ) + rd ( F ),

(5)

où rd ( F ) est un terme de « reste » tandis que g est une fonction multiplicative de d > 1 pour laquelle g(p) vérifie κ (6) g(p) = + O(p−1−δ ) p pour un certain δ > 0 (on peut en fait se contenter de conditions plus faibles, ou valables seulement en moyenne, comme par exemple X (7) g(p) log p = κ log x + O(1) ; p6x

puisqu’on sait que X log p = log x + O(1), p

p6x

pour x > 2, d’après le Théorème des Nombres Premiers, une telle hypothèse reste consistante avec l’heuristique ci-dessus, interprétée en moyenne sur p). Cette condition de dimension signifie, le plus souvent, que la somme S( F , z) correspond aux entiers (dans une suite finie) dont la réduction modulo p ∈ P doit éviter κ classes de congruences. Exemple 3.1. — Un exemple caractéristique est la suite F f = F f,X , associée à un polynôme unitaire fixé f ∈ Z[T ] de degré r > 1 et à un paramètre X (grand), qui est définie comme étant le nombre de représentations (8)

an = |{m 6 X | f (m) = n}|

d’un entier n > 1 comme valeur f (m) de f avec m 6 X. Dans ce cas, si P est l’ensemble de tous les nombres premiers, on trouve (9)

S( F , z) = |{m 6 X | f (m) n’a pas de facteurs premiers < z}|,

et en particulier, si z ≈ X r/2 , il en découle que S( F , z) = |{nombres premiers  X r/2 de la forme f (m) avec m 6 X}|, ce qui est une fonction d’un intérêt arithmétique évident. Cet exemple montre déjà que, pour être effectif, le crible doit être capable de donner des résultats uniformes par rapport au support de la suite (X ici) et au paramètre z

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

26

E. KOWALSKI

qui détermine les nombres premiers intervenant effectivement dans le crible ; en effet, dans les applications les plus intéressantes, z sera nécessairement une fonction de X. Quoi qu’il en soit, on voit tout de suite dans cet exemple que les sommes de congruence sont plus faciles à comprendre. Par définition, on a X Sd ( F f,X ) = 1, m6X d|f (m)

et l’on peut reformuler cette somme en exploitant la périodicité de f (m) modulo d. En sommant d’abord sur les entiers m dans une classe donnée modulo d, et en notant ρf (d) = |{α ∈ Z/dZ | f (α) ≡ 0 (mod d)}| le nombre de racines de f modulo d, on trouve X X (10) Sd ( F f,X ) = m6X α∈Z/dZ f (α)=0 (mod d) m≡α (mod d)

1=

ρf (d) X + O(1) d

pour X > 2, où la constante implicite dépend de f seulement. D’après le Théorème des Restes Chinois, l’application d 7→ ρf (d) est effectivement multiplicative. D’après le théorème de densité de Chebotarev (qui est nécessaire dans le cas général, mais peut être évité lorsque f (T ) = (T − a1 ) · · · (T − ar ) est complètement scindé sur Z, un cas important puisqu’il correspond à la conjecture de Hardy-Littlewood(4)), on sait que X ρf (p) = κ log log x + O(1), p p6x

où κ = κ(f ) est le nombre de facteurs irréductibles distincts de f dans Q[T ]. Ainsi, on est ici dans le cas d’un crible de dimension κ. (Par exemple, pour f (T ) = T 2 + 1, on a κ = 1 : en moyenne sur p, il existe une racine carrée de −1 dans Z/pZ.) Un énoncé général de crible prend alors la forme suivante (voir [16, Th. 11.13], où se trouvent davantage de détails ; cette version est un théorème difficile) : Théorème 3.2. — Avec les notations ci-dessus, pour un problème de crible de dimension κ > 0, il existe un nombre réel β(κ) > 0 tel que l’on ait Y (f (s) + O(log D)−1/6 ))S( F ) (1 − g(p)) + R(D) 6 S( F , P ) p|P (z)

6 (F (s) + O((log D)−1/6 )S( F )

Y

(1 − g(p)) + R(D)

p|P (z)

(4)

Dont on peut rappeler qu’elle joue un rôle important dans les travaux récents de Goldston, Pintz et Yıldırım au sujet des écarts entre nombres premiers successifs.

ASTÉRISQUE 348

(1028)

CRIBLE EN EXPANSION

27

lorsque z = D1/s avec s > β(κ), où F (s) > 0 et f (s) > 0 sont des fonctions de s > 0, dépendant de κ, définies comme solutions d’équations différentielles aux différences explicites, telles que lim f (s) = lim F (s) = 1, s→+∞

s→+∞

et où R(D) =

X

|rd ( F )|.

d 0 fixé. La définition qui suit est donc une expression naturelle du fait que, pour que le théorème 3.2 donne un bon résultat, il est nécessaire que le terme de reste R soit d’un ordre de grandeur plus petit. Définition 3.3 (Niveau de distribution). — Soit ( F n ) des suites comme ci-dessus, et Dn > 0. Alors les F n ont niveau de distribution > Dn si X (11) Rn = |rd ( F n )|  S( F n )(log Dn )−B d 0 et n > 2, la constante implicite dépendant de B. Exemple 3.4. — Dans le contexte de l’exemple 3.1, pour f ∈ Z[T ] de degré r > 1, avec κ facteurs irréductibles, on a rd ( F f,X )  dε (5)

On suppose ici que P contient tous les nombres premiers, avec peu d’exceptions.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

28

E. KOWALSKI

pour tout d > 1 sans facteurs carrés et ε > 0, la constante implicite dépendant de ε. Puisque S( F f,X )  X, on voit que le niveau de distribution est > D pour tout D = X 1−δ avec δ > 0. Appliquant le théorème 3.2 avec z = D1/s , s assez grand, on déduit qu’il existe r(f ) > 1 tel qu’il existe une infinité de nombres entiers m tels que f (m) a au plus r(f ) facteurs premiers, comptés avec multiplicité (en fait, on déduit qu’il existe au moins  X/(log X)κ tels entiers m 6 X). 3.2. Crible et principe local-global Le point de vue de la section précédente est extrêmement efficace, et est utilisé dans toutes les présentations modernes du crible (par exemple [16]). Cependant, dans beaucoup d’applications, il est possible d’utiliser une description qui est essentiellement équivalente, mais d’aspect (peut-être) plus naturel. Dans cette seconde approche, on considère un ensemble Y d’objets de nature « globale » (souvent, mais pas forcément nécessairement, arithmétique). Pour les étudier, on suppose données des applications Y → Yp pour p premier, qui servent d’analogue aux applications de réduction modulo p pour les entiers (et qui sont souvent définies de cette manière). Pour renforcer cette intuition, on écrira y (mod p) pour l’image de y ∈ Y dans Yp . On pense à ces applications comme donnant des informations « locales » sur les objets de Y ; on suppose par ailleurs que Yp est un ensemble fini, et bien que Y → Yp soit souvent surjective, il est parfois plus pratique de ne pas l’imposer pour que Yp soit défini plus naturellement. On peut maintenant construire des ensembles « criblés » à partir de ces données, d’un ensemble P de nombres premiers, d’une borne z > 2, et d’ensembles de conditions de crible Ωp ⊂ Yp , à savoir : (12)

S z (Y ; Ω) = {y ∈ Y | y (mod p) ∈/ Ωp pour tout p ∈ P , p < z} ⊂ Y.

Pour compter les éléments de cet ensemble criblé, on considère assez généralement une mesure finie µ sur Y , et le problème auquel on va s’attaquer est celui d’estimer la mesure µ( S z (Y ; Ω)) de l’ensemble criblé.(6) Cette question est alors une variante des problèmes de crible. Pour le voir, on définit Y n(y) = p p∈ P y (mod p)∈Ωp

(6)

Il ne devrait pas y avoir de confusion avec la fonction de Möbius.

ASTÉRISQUE 348

(1028)

CRIBLE EN EXPANSION

29

pour y ∈ Y , avec n(y) = 0 par convention si le produit est infini. C’est un entier > 0, tel que la propriété « d’adjonction » (p | n(y)) ⇐⇒ (y (mod p) ∈ Ωp ) soit valide pour tout p ∈ P si n(y) > 1. Le cas où n(y) = 0 est, généralement, exceptionnel(7), mais il peut se produire. On pose Y 0 = {y ∈ Y | n(y) = 0}, Y + = Y − Y 0, pour en tenir compte. On définit alors la suite F = (an ) en posant(8) an = µ({y ∈ Y | n(y) = n}),

(13) et il en découle que

S( F ) =

X

an = µ(Y + ),

n>1

tandis que S( F , z) =

X

  an = µ {y ∈ Y | (n(y), P (z)) = 1} = µ( S z (Y + ; Ω)).

(n,P (z))=1

Exemple 3.5. — On peut facilement interpréter l’Exemple 3.1 de cette manière. Ici, on prend pour Y l’ensemble des entiers naturels, µ est la mesure de comptage restreinte aux entiers 1 6 m 6 X, les applications de réduction modulo p sont les applications évidentes dans Yp = Z/pZ. Si l’on choisit Ωp = {α ∈ Z/pZ | f (α) = 0}, l’ensemble des zéros de f modulo p, il est clair que µ( S z (Y ; Ω)) = S( F , z) est la quantité définie par (9)(9). Revenant au cas général, les sommes de congruences Sd ( F ) sont données par Sd ( F ) = µ({y ∈ Y + | y (mod p) ∈ Ωp pour tout p | d}) pour d sans facteurs carrés divisant P (z). C’est aussi la mesure de l’ensemble Y Y Ωd = Ωp ⊂ Yp , p|d

p|d

(7)

Dans les questions de comptage considérées dans ce survol, il représentera une contribution négligeable. (8) On suppose évidemment que les ensembles {y ∈ Y | y (mod p) = α} sont tous mesurables. (9) Ici, Y + est l’ensemble des entiers m 6 X tels que f (m) 6= 0 ; en particulier, Y 0 est un ensemble fini.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

30

E. KOWALSKI

calculée à l’aide de l’image de la mesure µ par l’application Y Y + −→ Yd = Yp p|d

de réduction simultanée modulo tous les p | d. Cette interprétation suggère de considérer la condition de crible (5) et le fait que le reste rd ( F ) soit sensé être « petit » comme l’expression d’une propriété d’equirépartition locale, et d’indépendance des réductions de Y modulo les nombres premiers : on s’attend d’abord à ce que, pour p fixé, on puisse écrire µ({y ∈ Y | y (mod p) = α}) ≈ µ(Y )νp (α) pour tout α ∈ Yp , pour une mesure de probabilité νp sur l’ensemble fini Yp ; puis, on s’attend à ce que les réductions modulo p | d soient approximativement indépendantes, ce qui implique Y νp (αp ). (14) µ({y ∈ Y | y (mod p) = αp pour tout p | d}) ≈ µ(Y ) p|d

En comparant avec (5), on en déduit que l’on doit prendre Y νp (Ωp ), g(p) = νp (Ωp ), g(d) = p|d

ce qui correspond bien à l’idée intuitive que g(d) donne la « densité » de la suite restreinte aux entiers divisibles par d, la multiplicativité de la fonction g étant alors pratiquement équivalente à la propriété d’indépendance asymptotique (14). Nous donnons maintenant une définition précise des conditions d’approximation (14) et du niveau de distribution dans ce cadre. Il est alors préférable de considérer explicitement une situation asymptotique, et on supposera donc que l’on a une suite (µn ) de mesures finies sur Y , non-triviales (µn (Y ) > 0) et l’intérêt principal sera la limite n → +∞ (cela correspond au paramètre n = X → +∞ dans l’exemple 3.1). Pour tout d sans facteurs carrés (divisible seulement par des nombres premiers p ∈ P ), on définit alors la mesure de probabilité µ ˜n,d sur Y Yd = Yd , p|d

comme étant l’image de la mesure de probabilité (15)

µ ˜n = µn /µn (Y )

sous l’application naturelle Y −→ Yd .

ASTÉRISQUE 348

(1028)

CRIBLE EN EXPANSION

31

Définition 3.6 (Hypothèses de crible). — Les hypothèses du crible avec niveau Dn > 1 sont satisfaites pour Y et la suite (µn ) de mesures sur Y si les conditions suivantes sont vérifiées : (1) [Équirépartition locale et indépendance] Pour tout d sans facteurs carrés comme ci-dessus, les mesures µ ˜n,d convergent vers une mesure de probabilité νd , telle que Y νd = νp . p|d

Autrement dit, il existe des mesures de probabilité νd sur Yd telles que µn ({y ∈ Y | y (mod d) = α}) = µn (Y )(νd (α) + rd,n (α)) pour tout d et α = (αp )p|d ∈ Yd , avec lim rd,n (α) = 0

n→+∞

pour tout d fixé et α ∈ Yd . (2) [Niveau de distribution] Étant donnés des ensembles Ωp ⊂ Yp , et Y Ωd = Ωp , p|d

pour d sans facteurs carrés, on a X (16) |Ωd | max |rd,n (α)|  (log Dn )−A , d 1 et A > 1, les constantes implicites dépendant de A et des Ωp . Ces hypothèses reflètent des propriétés d’équirépartition quantitative et uniforme pour les réductions des objets globaux de Y . La difficulté dans le crible en orbites (par exemple dans le cas de l’exemple de la section 2.1 ou plus généralement tel qu’il sera décrit dans la prochaine section) se situe au niveau de la vérification de ces conditions (avec un niveau de distribution suffisamment grand). Dans la suite de ce texte, on présentera certaines des idées et des techniques qui permettent de les obtenir. Quoi qu’il en soit, si l’on admet que les hypothèses de crible sont valides, on peut les combiner avec le théorème fondamental du crible, et en déduire le fait général suivant. Étant donnés les ensembles de conditions Ωp ⊂ Yp , tels que κ (18) νp (Ωp ) = + O(p−1−δ ) p (ce qui est une condition locale, indépendante de Y ) pour tout p ∈ P et un certain δ > 0 fixé, on obtient en sommant sur α ∈ Ωp que les sommes de congruence vérifient µn (y ∈ Y | y (mod p) ∈ Ωp pour p | d) = µn (Y )νd (Ωd ) + rd,n (Ω)

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

32

E. KOWALSKI

avec rd,n (Ω)  |Ωd | max |rd,n (α)|. α∈Yd

D’après la propriété d’indépendance, g(d) = |Ωd | est une fonction multiplicative de d. Affaiblissant la conclusion du théorème 3.2 pour obtenir un énoncé plus simple, on trouve que (19)

µn ({y ∈ Y | y (mod p) ∈ / Ωp pour tout p < Dn1/s }) 

µn (Y ) (log Dn )κ

pour n > 1, lorsque s est fixé et est assez grand (en terme de κ). Exemple 3.7. — Cela s’applique sans difficultés aux exemples 3.1 et 3.5, en prenant la suite (µX ) de mesures de comptage sur 1 6 m 6 X. La mesure νp est alors simplement la mesure de probabilité uniforme sur Z/pZ, reflétant la formule |{m 6 X | m ≡ α (mod p)}| =

X + O(1), p

et l’indépendance (qui passe presque inaperçue ici) est valide, et revient plus ou moins au Théorème des Restes Chinois : si l’on connaît la réduction modulo un nombre premier p1 d’un entier « générique » n, on ne peut en déduire aucune information particulière concernant la réduction de n modulo p2 6= p1 . Quantitativement, comme X |{m 6 X | m ≡ α (mod d)}| = + O(1), d on a (avec les notations de la définition 3.6) la borne uniforme rd,X (α)  X −1 , et donc on retrouve le niveau de distribution D 6 X 1−δ avec δ > 0 fixé de l’exemple 3.4. La condition (17) est ici triviale, puisque Y 0 est l’ensemble fini des racines de f qui sont des entiers positifs. La situation est ici la meilleure que l’on puisse espérer avoir, et dans les exemples de crible en expansion, on sera loin d’avoir un niveau de distribution aussi grand. Remarque 3.8. — La majoration (17) est, dans tous les cas présentés ici, obtenue comme conséquence de (16). Il sera en effet toujours vrai (comme dans l’exemple précédent) que n(y) = 0 correspond à y (mod p) ∈ Ωp pour tout p. On peut alors majorer µn (Y 0 ) 6 µn ({y ∈ Y | y (mod p) ∈ Ω}) pour tout p, et sous les hypothèses ci-dessus, on trouve pour tout p 6 Dn que n o µn (Y 0 ) 6 µn (Y ) νp (Ωp ) + O(|Ωp | max |rp,n (α)|) α∈Ωp

o n1 + O((log Dn )−A )  µn (Y ) p

ASTÉRISQUE 348

(1028)

CRIBLE EN EXPANSION

33

et on peut prendre p de taille comparable à (log Dn )A pour conclure.

4. CRIBLE EN ORBITES On peut maintenant décrire la version générale du problème de crible développé par Bourgain, Gamburd et Sarnak (qu’on appellera « crible en orbites »), dont la section 2.1 est un cas particulier. Comme le groupe A , les entiers ou objets globaux concernés sont directement liés à des groupes discrets à croissance exponentielle. L’exemple de la section 2.2 n’entre pas directement dans ce cadre ; il sera repris dans la section 6.1. 4.1. Le cadre général Soit Λ ⊂ GLm (Z) un sous-groupe de type fini, pour un certain m > 2 (comme A ⊂ GL4 (Z), le groupe de Lubotzky L défini par (1) dans SL2 (Z), ou bien SLm (Z), puisqu’il est bien connu que ce groupe est de type fini). Étant donné un vecteur non-nul x0 ∈ Zm , on forme l’orbite

O(x0 ) = Λ · x0 ⊂ Zm de x0 sous l’action linéaire de Λ, on fixe une fonction polynomiale f ∈ Q[X1 , . . . , Xm ] telle que f prenne seulement des valeurs entières sur O(x0 ) (par exemple, f ∈ Z[X1 , . . . , Xm ], qui pourrait être le produit des coordonnées). La question sous-jacente est alors « Les f (x) ∈ Z, où x ∈ O(x0 ), sont-ils des entiers typiques ? » Puisqu’il s’agit ici d’utiliser le crible, la question sera plus exactement : est-ce que les propriétés multiplicatives (nombre et distribution des facteurs premiers) des f (γx0 ) sont différentes de celles des entiers en général(10) ? Dans l’approche de la section 3.2, on considère donc l’ensemble Y = O(x0 ), et les applications de réduction Y → Yp = O(x0 (mod p)), modulo les nombres premiers, l’image étant l’orbite de l’image de x0 (mod p) sous l’action du sous-groupe Λp ⊂ GLm (Z/pZ) (10)

Un appendice à ce rapport donne un rappel rapide de ce que sont ces propriétés « typiques » pour les entiers eux-mêmes.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

34

E. KOWALSKI

qui est l’image de Λ par réduction modulo p. (Il peut être utile de rappeler d’emblée que si Λ = SLm (Z), on a Λp = SLm (Z/pZ) pour tout nombre premier p, ce que l’on voit par exemple en utilisant les matrices élémentaires comme générateurs.) Remarque 4.1. — Il est possible d’étudier d’autres actions de Λ ; par exemple, il est tout aussi naturel – et en fait souvent plus pratique – de se ramener à prendre Y = Λ, avec Yp = Λp comme précédemment, et la fonction sur Λ donnée par γ 7→ f (γ · x0 ). Mais si l’on considère l’image de Λ dans GLm2 (Z) donnée par l’action de 2 multiplication à gauche de Λ sur Mm (Z) ' Zm , on peut noter que Λ s’identifie naturellement avec l’orbite du vecteur x0 qui est la matrice identité dans Mm (Z), et de même pour les réductions modulo p. On décrira dans la section suivante comment « compter » les éléments de Y pour appliquer les méthodes de crible. Suivant [5], il existe auparavant une manière qualitative élégante de présenter l’énoncé (attendu dans beaucoup de cas) qu’il existe « beaucoup » de x ∈ O(x0 ) tels que f (x) ait peu de facteurs premiers. Pour r > 1, soit Of (x0 ; r) = {x ∈ O(x0 ) | Ω(f (x)) 6 r} et définissons (suivant [5]) le « nombre de saturation » de l’orbite par r(f, Λ) = min{r > 1 | Of (x0 ; r) et O(x0 ) ont la même adhérence de Zariski}, ou, en d’autres termes, le plus petit r > 1 (s’il existe) tel que les éléments de Of (x0 ; r) ne satisfont à aucune identité polynomiale autre que celles qui sont valides pour toute l’orbite O(x0 ). La question naturelle devient : Question 4.2. — Le nombre de saturation est-il fini ? Si oui, quelle est sa valeur ? Exemple 4.3. — Pour m = 1, un ensemble d’entiers dans Z est soit fermé au sens de la topologie de Zariski, s’il est fini, soit dense (en ce sens) dans la droite affine entière. La finitude du nombre de saturation pour une orbite infinie O ⊂ Z revient donc simplement à dire qu’il existe r > 1, tel que O contienne une infinité d’entiers ayant au plus r facteurs premiers, avec multiplicité. Par contre, dès que m > 2, la condition de saturation devient plus subtile et donc plus intéressante. L’exemple suivant est détaillé dans [5, §6,Ex. C] : soit O l’orbite de x0 = (3, 4, 5) sous l’action du groupe orthogonal Λ = SO(2, 1)(Z). Cette orbite est l’ensemble des triplets pythagoriciens entiers, et son adhérence de Zariski est le cône {x2 + y 2 − z 2 = 0}. Si l’on considère alors la fonction f (x, y, z) = xy/2 (l’aire du triangle rectangle associé à (x, y, z)), Bourgain, Gamburd et Sarnak montrent à l’aide des résultats quantitatifs de Green et Tao [25] concernant le nombre

ASTÉRISQUE 348

(1028)

CRIBLE EN EXPANSION

35

de progressions arithmétiques de longueur 4 parmi les nombres premiers, que le nombre de saturation est 6 dans ce cas. Cependant, il est extrêmement probable (ceci découlerait en particulier de certaines des conjectures de Hardy et Littlewood) qu’il existe une infinité de triangles rectangles à côtés entiers dont l’aire ait au plus 5 facteurs premiers. Mais les longueurs des côtés de ces triangles satisfont des relations polynomiales supplémentaires... Il semble intéressant de renforcer un peu la condition de saturation en remplaçant la condition de densité pour la topologie de Zariski par la condition, plus forte, que Of (x0 ; r) ne soit pas mince. Rappelons la définition (voir [57, §3.1]) : Définition 4.4 (Ensemble mince). — Soit V /k une variété algébrique irréductible définie sur un corps k de caractéristique 0. Un ensemble A ⊂ V (k) est mince s’il existe f

un morphisme k-rationnel W −→ V de variétés algébriques avec dim(W ) 6 dim(V ), tel que A ⊂ f (W (k)), et tel que f n’ait pas de section k-rationnelle. Exemple 4.5. — Il existe beaucoup d’ensembles infinis (donc denses pour la topologie de Zariski) dans Z qui sont cependant minces (dans la droite affine). On peut toutefois montrer qu’un tel ensemble (noté T ) vérifie nécessairement une estimation |{n ∈ T | |n| 6 X}|  X 1/2 (log X) pour X > 2 (un résultat de S.D. Cohen, voir, par exemple, [57, Th. 3.4.4]). Ainsi, les bornes élémentaires de Chebychev (ou même l’étude quand σ → 1 de la fonction zêta X 1 Y 1 (1 − p−σ )−1 = ∼ σ n σ − 1 p n>1

dans l’esprit d’Euler) suffisent à montrer que l’ensemble des nombres premiers n’est pas mince dans la droite affine. L’exemple de l’ensemble des carrés parfaits montre que l’exposant 1/2 est le meilleur possible dans une telle borne. Le théorème 1.1 signifie donc, pour certains groupes Λ et leurs orbites, que le nombre de saturation est fini, même avec la condition que Of (x0 ; r) ne soit pas mince (dans l’adhérence de Zariski de l’orbite entière). On présentera ci-dessous l’esquisse de la preuve de ce résultat, y compris pour des groupes plus généraux. Il est intéressant de noter que, bien que [5] ne considère que la condition de saturation initiale, les valeurs de r qu’ils obtiennent telles que Of (x0 ; r) soit Zariski-dense ont également la propriété que cet ensemble n’est pas mince.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

36

E. KOWALSKI

4.2. Comment compter ? Le crible en orbites donne de nombreux exemples d’ensembles Y avec des applications de réduction Y → Yp pour lesquelles il est souhaitable de pouvoir appliquer le crible (par exemple pour montrer qu’un certain nombre de saturation est fini). Ainsi que la section 3.2 l’a montré, il faut pour cela préciser comment compter les éléments de Y , plus précisément, pour quelles mesures finies µn sur Y on va s’efforcer de vérifier les hypothèses de crible (Définition 3.6). Contrairement au crible classique, où le comptage ne pose guère de problèmes, une caractéristique du crible en expansion est qu’il existe deux ou trois (ou plus) manières naturelles de compter les éléments de Y . Nous illustrons cela dans le cas où Y = Λ est un sous-groupe de type fini de GLm (Z). On peut en effet alors utiliser : – [Boules archimédiennes] On peut fixer une norme k · k sur GLm (R), et définir µX comme la mesure de comptage sur l’ensemble fini BΛ (X) = {g ∈ Λ ⊂ GLm (R) | kgk 6 X}, pour X > 1 (qui ensuite tendra vers l’infini). – [Boules combinatoires] On peut aussi fixer à la place un ensemble fini de générateurs S, souvent symétrique (c’est-à-dire que s ∈ S implique s−1 ∈ S), et l’utiliser pour définir une norme combinatoire par la longueur minimale des mots représentant un élément : kgkS = min{k > 0 | g = s1 · · · sk pour certains s1 , . . . , sk ∈ S}. Cela permet de considérer la mesure de comptage µk sur la boule combinatoire finie BS (k) = {g ∈ Λ | kgkS 6 k} où le paramètre asymptotique est maintenant un entier k > 1. Bien entendu, cet ensemble dépend de S, mais on peut s’attendre à ce que certaines propriétés robustes soient indépendantes du choix de S. – [Marches aléatoires] Au lieu de la mesure de probabilité uniforme sur la boule combinatoire ci-dessus, il peut être pratique d’utiliser un poids approprié sur ses éléments, qui prend en compte la multiplicité des représentations d’un élément comme mot de longueur k. Plus précisément, on suppose que 1 ∈ S (on peut remplacer S par S ∪ {1} si besoin est), et on considère la mesure de probabilité µk sur Λ définie par X 1 X µk (g) = ··· 1 k |S| k (s1 ,...,sk )∈S s1 ···sk =g

(la condition 1 ∈ S assure que le support de cette mesure est bien la boule combinatoire de rayon k, et non pas seulement la sphère combinatoire).

ASTÉRISQUE 348

(1028)

CRIBLE EN EXPANSION

37

L’intérêt de cette pondération est qu’elle permet de simplifier toute moyenne sur BS (k) en rendant indépendantes les variables de sommations s1 , . . . , sk ∈ S : on a X X 1 X ϕ(g)µk (g) = ··· ϕ(s1 · · · sk ), k |S| g∈Λ

s1 ,...,sk ∈S

pour toute fonction ϕ sur Λ, où les variables de sommation à droite sont « libres » : aucune relation n’intervient entre elles. Remarque 4.6. — Cette troisième mesure a une interprétation probabiliste naturelle : la mesure µk est la loi du k-ième pas de la marche au hasard (Xk )k>0 sur Λ définie par X0 = 1 ∈ Λ Xk+1 = Xk ξk+1 , où (ξk )k>1 est une suite de variables aléatoires indépendantes et uniformément distribuées (sur un espace probabilisé fixé (Ω, Σ, P) convenable) à valeurs dans S, telles que 1 P(ξk = s) = pour tout k > 1 et s ∈ S. |S| Revenant au cas général, une fois fixée la façon de compter, c’est-à-dire une suite de mesures notée (µX ), la forme plus précise de la question 4.2 est de borner (par excès ou par défaut) la fonction πf (X; r) = µX (γ ∈ Λ | Ω(f (γ · x0 )) 6 r) lorsque X → +∞. L’idée est de prouver une minoration asymptotique de πf (X; r) (pour r convenable et X → +∞) qui soit suffisante pour garantir la densité de l’ensemble Of (x0 ; r) (pour la topologie de Zariski), ou le fait qu’il ne soit pas mince, par comparaison avec une majoration pour la fonction µX (γ ∈ Λ | f (γ · x0 ) ∈ W ) associée à une sous-variété fermée propre W ⊂ V = O(x0 ) (ou à un ensemble mince W ⊂ V (Q)).

5. LES HYPOTHÈSES FONDAMENTALES Considérons un groupe Λ et une orbite O(x0 ) comme dans le crible en orbites de la section précédente, et supposons choisie une manière de compter (donc une suite (µX ) de mesures sur Y ). Nous essayons maintenant de vérifier les Hypothèses Fondamentales du crible (au sens de la définition 3.6). Pour cela, nous ferons d’abord l’hypothèse suivante, qui sera raffinée plus bas, au moment d’énoncer un résultat crucial (Théorème 5.4, qui expliquera sans doute mieux la nature de cette hypothèse) :

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

38

E. KOWALSKI

Hypothèse 5.1. — L’adhérence de Zariski G/Q du groupe Λ ⊂ GLm (Z) est un groupe semi-simple, par exemple, SLm , ou Sp2g , ou un groupe orthogonal, ou un produit de tels groupes. Par exemple, cela signifie que l’on exclut entièrement des considérations ci-dessous un groupe tel que celui engendré par l’élément unique 2 ∈ GL1 (Z[1/2]) et son orbite {2n } ⊂ Z[1/2] (ici l’anneau de base est Z[1/2], au lieu de Z). On peut comprendre pourquoi : trouver des entiers n tels que, par exemple, la fonction f (2n ) = 2n − 1 soit un nombre premier ou presque premier est un problème très mal compris, même du point de vue heuristique. Le crible est inapplicable, tout simplement parce que les résultats de base qui sont absolument nécessaires pour comprendre les informations locales provenant des applications de réduction Λ → Λp ne sont pas valides dans ce cas ! (Voir la remarque 5.6 ci-dessous, et voir aussi dans [5, §2] d’autres exemples qui montrent pourquoi on ne peut pas s’attendre à une bonne théorie de crible lorsque l’adhérence de Zariski de Λ est un groupe réductif non-semisimple, par exemple). Pour la même raison, les groupes résolubles (par exemple, Λ dense dans le groupe des matrices triangulaires supérieures) doivent être évités ; les groupes nilpotents, par contre, sont bien souvent accessibles à des méthodes plus classiques, et leur croissance polynomiale est plus facile à contrôler, et ne requiert pas les résultats d’expansion mentionnés ci-dessous. On peut donc voir le cas semisimple comme étant le cas critique. 5.1. Mesures limites locales Conformément à la recette de la section 3.2, on commence par se demander si, pour un entier d fixé (sans facteurs carrés), les mesures images µ ˜X,d (définies par (15)) sur Y Λd = Λp , p|d

convergent, et si oui, si la mesure limite νd est la mesure produit des mesures νp , p | d. Cette dernière condition est cruciale, et il est parfois nécessaire d’effectuer des arrangements préliminaires pour s’assurer qu’elle puisse être vérifiée. La difficulté est illustrée par la situation suivante : supposons que, pour un certain ensemble Z, il existe des applications (non constantes) N : Y → Z,

Np : Yp → Z,

telles que N (y) = Np (y (mod p)) pour tout nombre premier p. Alors, la réduction y (mod p) révèle la valeur de N (y), et par conséquent, la réduction modulo p ne peut être asymptotiquement indépendante

ASTÉRISQUE 348

(1028)

CRIBLE EN EXPANSION

39

de celle modulo un autre nombre premier : il n’est pas possible que y (mod p1 p2 ) soit équiréparti avec une mesure limite qui soit une mesure produit. Exemple 5.2. — La situation décrite peut se produire dans le crible en orbites, en particulier lorsque des groupes orthogonaux sont concernés. Ainsi, le groupe A n’est pas contenu dans SO(Q, Z), et on a det(γ) = det(γ (mod p)) ∈ {±1} pour tout p, de sorte que l’on peut prendre Z = {±1} et N (γ) = det(γ). Et même pour A ∩ SO(Q, Z), il existe une obstruction à l’indépendance, due à la « norme spinorielle ». La présence de tels obstacles ne doit pas être interprétée comme un problème sérieux dans une tentative de crible. Ils signifient plutôt que le problème doit être reformulé d’une manière ou d’une autre. Au lieu de Y , par exemple, il peut être préférable d’essayer de cribler les fibres de l’application N . Et comme il peut effectivement se passer que différentes fibres aient des propriétés différentes, et ne puissent pas être traitées uniformément, cela n’est pas étonnant(11). Dans le cas du crible en orbites pour un groupe Λ, Zariski-dense dans le groupe semisimple G/Q, l’indépendance désirée est obtenue en se ramenant d’abord à la composante connexe de l’élément neutre G0 de G (en remplaçant Λ par Λ ∩ G0 (Q) ou une classe à gauche de ce groupe dans Λ) et ensuite au revêtement simplement connexe Gsc de G0 à l’aide de l’application de projection π : Gsc → G0 , avec laquelle on remplace Λ par son image inverse Λsc dans Gsc (Q), et la fonction f par la composée f˜ = f ◦ π. En général, ces opérations peuvent rendre nécessaire de passer à un corps de base différent du corps Q, mais cela ne pose pas de difficultés de principe. Pour une analyse détaillée dans le cas du groupe apollonien A , où G = O(Q) n’est pas connexe, et où la composante connexe SO(Q) n’est pas simplement connexe, voir [5, §6] ou [17]. Exemple 5.3. — Dans l’énoncé du théorème 1.1, on a G = SLm , qui est connexe et simplement connexe, et ces préliminaires ne sont pas nécessaires. Il en est de même lorsque G est un groupe symplectique G = Sp2g , ou si G est un produit fini de groupes de ces deux types. (11)

On peut penser au nombre de saturation pour une fonction comme f (γ) = (2 + det(γ)) Tr(γ) dans le cas du groupe A .

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

40

E. KOWALSKI

C’est le résultat suivant qui montre qu’un sous-groupe Zariski-dense dans un groupe simplement connexe a une propriété forte d’indépendance des réductions modulo les nombres premiers, et qui fournit (dans un cas au moins) la propriété d’équirépartition locale nécessaire au crible. Théorème 5.4 (Approximation forte et indépendance). — Soit G/Q un groupe algébrique linéaire, connexe, simplement connexe et absolument presque simple, plongé dans GLm /Q pour un certain m > 1, et soit Λ ⊂ G(Q) ∩ GLm (Z) un sousgroupe de type fini Zariski-dense(12). Il existe un ensemble fini de nombres premiers Σ = Σ(Λ) tel que G a un modèle sur Z[1/Σ], encore noté G pour simplifier, et tel que : (1) Pour tout nombre premier p ∈ / Σ, l’application de réduction Λ → G(Fp ) est surjective, c’est-à-dire que l’image Λp de la réduction modulo p est « aussi grande que possible », et donc Λp = G(Fp ). (2) Pour tout entier d sans facteurs carrés premier à Σ, l’application de réduction Y G(Fp ) = G(Z/dZ) Λ→ p|d

est surjective, c’est-à-dire que l’on a Λd = G(Z/dZ) et Λ → Λd est également surjective. (3) Soit µk la mesure de comptage pondérée de la section 4.2 associée à un ensemble de générateur fini S, symétrique et tel que 1 ∈ S. Alors, pour tout entier d sans facteurs carrés et premier à Σ, les mesures de probabilité µ ˜k,d sur Y Λd = Λp = G(Z/dZ) p|d

convergent, quand k → +∞, vers la mesure de probabilité uniforme sur νd = c’est-à-dire vers la mesure telle que νd (γ) =

1 , |G(Z/dZ)|

Q

νp ,

pour tout γ ∈ G(Z/dZ).

Les énoncés (1) et (2) sont des résultats difficiles, qui ont été prouvés, sous diverses formes, par Hrushovski et Pillai [30], Nori [47], Matthews-Vaserstein-Weisfeiler [44], la version la plus générale étant celle due à Weisfeiler [60].

(12)

Par exemple, cela s’applique à G = SLm ou Sp2g .

ASTÉRISQUE 348

(1028)

CRIBLE EN EXPANSION

41

Exemple 5.5. — Bien que ces résultats soient difficiles, on peut remarquer que lorsque le groupe Λ est donné « concrètement », on peut espérer vérifier directement ses conclusions, et cela peut même être nécessaire si l’on souhaite avoir un énoncé complètement explicite (c’est-à-dire connaître précisément l’ensemble exceptionnel Σ). Par exemple, pour le groupe apollonien A , Fuchs [17] a déterminé explicitement l’image modulo d de l’image inverse dans le revêtement universel du groupe A . Pour le groupe L ⊂ SL2 (Z) (voir (1)) qui est d’indice infini dans SL2 (Z), on voit clairement que la réduction modulo p de L est surjective pour p 6= 3, et est triviale pour p = 3. Pour Λ = SLm (Z) ou Sp2g (Z) (entre autres), la surjectivité modulo tous les nombres premiers est élémentaire si l’on utilise les générateurs « standards » de ces groupes et de leurs analogues modulo p. L’énoncé (3), par contre, ne fait pas partie de ce que l’on appelle traditionnellement la propriété « d’approximation forte ». Il est connu, dans beaucoup de cas, pour les autres méthodes de comptage (boules archimédiennes et combinatoires non pondérées), mais il est alors vu en général comme un corollaire évident des énoncés d’équirépartition quantitative et uniforme qui sont nécessaires de toute manière pour les hypothèses fondamentales du crible. Nous en dirons plus à ce sujet dans la section suivante. Notons cependant que les mesures locales obtenues à la limite, étant les mesures uniformes sur les groupes finis G(Z/dZ), sont les plus naturelles que l’on puisse espérer trouver une fois qu’il est établi que Λd = G(Z/dZ). Voici la preuve de (3), qui est très simple. Plus généralement, elle montre – sans hypothèse sur G ou sur d – que les mesures µ ˜k,d , pour le comptage pondéré, convergent vers la mesure de probabilité uniforme sur l’image Λd de la réduction modulo d (indépendamment du fait que Λd soit G(Z/dZ) ou un autre groupe)(13). Soit ϕ : Λd → C une fonction quelconque. L’intégrale de ϕ par rapport à µ ˜k,d est X X X X X 1 1 ϕ(y) k ··· 1= ··· ϕ(s1 · · · sk ) = (M k ϕ)(1), |S| |S|k y∈Λd

s1 ,...,sk ∈S s1 ···sk =y

s1 ,...,sk ∈S

où M désigne l’opérateur de moyenne de Markov associé à (la réduction modulo d de) S, agissant sur les fonctions sur Λd , autrement dit, pour f : Λd → C et x ∈ Λd , on a 1 X (M f )(x) = f (xs). |S| s∈S

Les fonctions constantes sont fonctions propres de M pour la valeur propre 1. Parce que S engendre Λ (et donc Λd ), on voit facilement que cette valeur propre a (13)

Ce fait est aussi une propriété de la théorie élémentaire des chaînes de Markov finies.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

42

E. KOWALSKI

multiplicité 1. Ainsi, si l’on écrit ϕ=

1 X ϕ(y) + ϕ0 , |Λd | y∈Λd

avec ϕ0 de moyenne nulle sur Λd (pour la mesure uniforme), on trouve 1 X M kϕ = ϕ(y) + M k ϕ0 , |Λd | y∈Λd

d’où il découle que » 1 X k ϕ(y) 6 max |(M k ϕ0 )(y)| 6 |Λd |ρ0 (M )k kϕk2 (20) (M ϕ)(1) − y∈Λd |Λd | y∈Λd

par Cauchy-Schwarz, ρ0 étant le rayon spectral de l’opérateur M restreint à l’espace des fonctions de moyenne 0 sur Λd , équipé de la norme L2 correspondante, notée k·k2 . Comme on a supposé que 1 ∈ S, −1 n’est pas (14) une valeur propre de M . Comme M est symétrique et a un spectre dans [−1, 1], cela signifie que ρ0 (M ) < 1. Ainsi, on a Z 1 X ϕ(y) ϕ(y)d˜ µk,d → |Λd | Λd y∈Λd

quand k → ∞, qui correspond à la propriété d’équirépartition locale par rapport à la mesure de probabilité uniforme sur Λd . Remarque 5.6. — L’indépendance des réductions modulo p, au sens du théorème 5.4, n’est valide que lorsque G est simplement connexe. Cela signifie que les conclusions (1) et (2) peuvent être considérées comme une caractérisation alternative de cette propriété, dans le cadre du crible au moins. Considérons de nouveau l’exemple du groupe cyclique Λ engendré par 2 ∈ GL1 (Z[1/2]), déjà mentionné après l’hypothèse 5.1. L’image de Λ modulo un nombre premier p > 3 est cyclique d’ordre égal à l’ordre de 2 dans (Z/pZ)× . Il s’agit là d’une quantité mystérieuse ; en particulier, il n’est pas vrai que 2 engendre (Z/pZ)× pour tout p assez grand (bien que, d’après une conjecture classique d’Artin, cela devrait être le cas pour une proportion strictement positive des nombres premiers). De plus, les différentes réductions modulo p ne sont pas indépendantes. Ceci montre comment les principes les plus élémentaires du crible sont en défaut. (Le mieux qu’il semble possible de faire avec les techniques actuelles est d’utiliser le fait que tout nombre premier ` assez grand est l’ordre de 2 modulo un certain p = p(`), pour en déduire que 2n − 1 a, en moyenne pour n 6 N , à peu près autant de « petits » facteurs premiers que les entiers d’une taille comparable – voir [35, Exercise 4.2]). Soit S 0 = S − {1}, |S| = s > 1 ; l’opérateur M s’écrit (1 − 1/s)M 0 + 1/s, M 0 étant l’opérateur associé à S 0 , et puisque le spectre de M 0 est dans [−1, 1], celui de M est dans [−1 + 2/s, 1].

(14)

ASTÉRISQUE 348

(1028)

CRIBLE EN EXPANSION

43

5.2. Équirépartition quantitative : aspects combinatoires On considère ici un sous-groupe Λ ⊂ GLm (Z) de type fini dont l’adhérence de Zariski G est simple, connexe et simplement connexe, avec un ensemble de générateurs symétrique fixé S. (Plus concrètement, Λ est tel que les conclusions (1) et (2) du théorème 5.4 sont valides). Si l’on utilise la méthode de comptage combinatoire pondérée (avec la condition 1 ∈ S), le théorème en question montre que pour vérifier les hypothèses fondamentales du crible (Définition 3.6) avec un niveau de distribution Dk , il « suffit » de vérifier la condition correspondante (16), si l’on restreint l’attention au crible avec des nombres premiers p n’appartenant pas à l’éventuel ensemble exceptionnel Σ, et donc aux entiers d sans facteurs carrés et premiers à Σ. L’inégalité (20), appliquée à la fonction caractéristique ϕ d’un point α ∈ Λd , montre que l’on a un énoncé d’équirépartition quantitatif pour d fixé, premier à Σ, à savoir |rd,k (α)| 6 ρkd , pour tout α ∈ Λd , où ρd < 1 est comme ci-dessus le rayon spectral de l’opérateur de moyenne sur les fonctions de moyenne nulle sur Λd . Il est donc clair qu’obtenir un niveau de distribution pour cribler Λ revient alors à avoir un contrôle uniforme sur ρd pour d variable. Le mieux que l’on puisse espérer(15) est d’avoir une majoration ρd 6 ρ < 1 pour tout d > 1, avec ρ fixé et indépendant de d. L’équirépartition modulo d se produit alors à vitesse exponentielle et uniforme par rapport à d. Cette condition équivaut à demander que la famille de graphes de Cayley des Λd (par rapport aux générateurs S) soit un graphe expanseur. Nous renvoyons à [28] pour un traitement détaillé des propriétés et définitions équivalentes des expanseurs, et nous nous contentons ici de la définition qui est apparue naturellement : Définition 5.7 (Famille de graphes expanseurs, définition par les marches au hasard) Soit k > 1 un entier fixé. Une famille (Γi )i∈I de graphes connexes k-réguliers, éventuellement avec des arêtes multiples ou des boucles, est une famille de graphes expanseurs s’il existe ρ < 1, indépendant de i, tel que ρi 6 ρ < 1 (15)

Il est bien entendu permis d’envisager des cas où le niveau de distribution est obtenu par une estimation en moyenne, comme le permet le théorème de Bombieri-Vinogradov, ou les théorèmes de Fouvry-Iwaniec et Bombieri-Friedlander-Iwaniec, pour les nombres premiers en progressions arithmétiques.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

44

E. KOWALSKI

pour tout i, où ρi désigne le rayon spectral de l’opérateur de moyenne de Markov agissant sur l’espace des fonctions de moyenne nulle sur Γi munies du produit scalaire 1 X f1 (x)f2 (x). hf1 , f2 i = |Γi | x∈Γi

Si l’on suppose que les graphes de Cayley de Λd forment un expanseur, avec constante d’expansion ρ < 1, et que |Ωp | 6 p∆ ,

|Λp | 6 p∆1

on obtient immédiatement la majoration X |Ωd | max |rd,k (α)| 6 D∆+1 ρk d 1. Cela permet de garantir un niveau de distribution (comme dans la définition 3.6) du type (21)

Dk = β k ,

pour tout

1 < β < ρ−1/(1+∆) .

Ces arguments portent sur la méthode de comptage pondérée. On peut quand même espérer avoir un niveau de distribution comparable pour les boules combinatoires, sous l’hypothèse d’expansion des graphes de Cayley. Cela ne semble connu à l’heure actuelle que sous l’hypothèse supplémentaire que Λ soit un groupe libre (nécessairement de rang au moins 2). Quand c’est le cas, Bourgain, Gamburd et Sarnak [5, §3.3, (3.29), (3.32)] montrent, à l’aide de la théorie spectrale classique des groupes libres, que pour les boules combinatoires de rayon k, il existe τ < 1, qui dépend explicitement de la constante d’expansion ρ de la famille (Λd ), tels que les mesures µ ˜d,k correspondantes convergent vers la mesure uniforme νd sur Λd (pour d premier à un ensemble fini de nombres premiers), avec une erreur bornée par |rd,k (α)|  |BS (k)|τ −1 pour tout k > 1. La restriction aux groupes libres peut être gênante pour certaines applications. Cependant, on peut noter (par exemple) que l’image inverse de A dans le revêtement simplement connexe de SO(Q) est libre, ce qui permet d’utiliser cette méthode sans difficultés pour les empilements de cercles apolloniens. De plus, comme indiqué dans [5], il est possible pour beaucoup d’applications (par exemple pour borner le nombre de saturation) d’utiliser le fait (l’alternative de Tits) que, sous les hypothèses données sur G, tout sous-groupe Λ de G qui est Zariski-dense contient un sous-groupe libre ΛZ qui est encore Zariski-dense dans G. On peut alors appliquer le crible à ΛZ (ou à l’orbite de x0 sous ΛZ seulement). Quoi qu’il en soit, il devient essentiel de savoir si la propriété d’expansion est valide. Oubliant l’ensemble possible de nombres premiers exceptionnels, on peut poser la

ASTÉRISQUE 348

(1028)

CRIBLE EN EXPANSION

45

question pour tous les graphes de Cayley de G(Z/dZ), lorsque d > 1 est sans facteurs carrés, par rapport à des ensembles de générateurs convenables. Cette question a une assez longue histoire. Jusqu’aux derniers développements, cependant, les cas connus étaient tous des réseaux dans des groupes semisimples(16). En effet, la propriété d’expansion peut être énoncée comme le fait que le groupe Λ ait la propriété (τ ) de Lubotzky pour des représentations se factorisant par un quotient de congruence Λ → Λd = G(Z/dZ). Ainsi, elle est connue, d’après les travaux de Clozel [11], pour tout sous-groupe d’indice fini Λ de G(Z). En fait, dans beaucoup de cas très intéressants, comme les sous-groupes d’indice fini de SLm (Z) pour m > 3 ou de Sp2g (Z) pour g > 2, le résultat découle directement de la Propriété (T) de Kazhdan. Lorsque Λ est, éventuellement, d’indice infini dans G(Z), il y a eu très récemment des progrès rapides,(17) motivés en partie par les applications au crible. Le théorème suivant a été démontré par Salehi-Golsefidy et Varjú : Théorème 5.8 (Expansion dans les groupes linéaires finis) Soit G/Q un groupe algébrique absolument presque simple, connexe et simplement connexe, plongé dans GLm pour un certain m > 1, par exemple, G = SLm , m > 2, ou Sp2g , g > 1, m = 2g. Soit Λ ⊂ G(Q) ∩ GLm (Z) un sous-groupe de type fini, Zariski-dense dans G. Soit S un ensemble fini symétrique de générateurs de Λ. Alors la famille des graphes de Cayley des groupes Λd ⊂ GLm (Fp ) obtenus par réduction modulo d de Λ, par rapport aux générateurs S modulo d, est une famille de graphes expanseurs lorsque d parcourt l’ensemble des entiers sans facteurs carrés. Ceci s’applique, en particulier, au groupe L ⊂ SL2 (Z) de (1), ce qui répond à une question de Lubotzky. Beaucoup de mathématiciens ont contribué (et contribuent encore) à la preuve de ce résultat et de ses variantes, extensions, etc. Les remarques qui suivent ne prétendent pas donner une histoire détaillée, ni même l’esquisse d’une preuve, mais il semble utile de présenter rapidement la stratégie qui est employée : – [1re étape : Croissance] La première étape est la preuve d’un théorème de croissance dans les groupes finis G(Fp ) pour p premier : il existe δ > 0, dépendant seulement de G, tel que pour tout sous-ensemble A ⊂ G(Fp ) qui engendre G(Fp ), on a (22)

|A · A · A| = |{abc | a, b, c ∈ A}|  min(|G(Fp )|, |A|1+δ ),

(16)

À des exceptions isolées près, dues à Shalom [58, Th. 5.2] et implicitement à l’exception du travail de Gamburd [19] du côté spectral, décrit dans la section suivante. (Pour p premier seulement dans les deux cas.) (17) Ces progrès méritent amplement leur propre discussion ; l’excellent survol de B. Green [24], bien que lui-même très récent, ne couvre pas les nouveaux résultats les plus remarquables.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

46

E. KOWALSKI

où la constante implicite dépend seulement de G. Un tel résultat, quand il est connu, implique que le diamètre des graphes de Cayley est  (log p)C pour une certaine constante C > 1. Des résultats standards concernant les graphes permettent d’en déduire une majoration explicite de ρp , mais celle-ci est plus faible que la condition d’expansion : elle est de la forme 1 − ρp  (log p)−D pour une constante D > 0. Notons en passant que bien que cela ne suffise pas pour les applications au crible, il existe des applications de telles inégalités, y compris, de manière peut-être surprenante, en géométrie arithmétique [14]. Les premiers cas de résultats de croissance sont dus à Helfgott [26] pour G = SL2 et SL3 [27]. Après ce progrès décisif, de tels énoncés ont été prouvés par Gill et Helfgott [20] (pour SLm , avec une restriction sur A) et, indépendamment et simultanément, par Breuillard-Green-Tao [8] et par Pyber-Szabó [51, Th. 4], dans la généralité nécessaire pour notre propos (et même plus). Il semble important de mentionner aussi un article intermédiaire de Hrushovski [29], car celui-ci a mis en valeur un travail de Larsen et Pink [36], duquel a émergé une inégalité générale très utile (voir, par exemple, [8, Th. 4.1]) concernant la taille de l’intersection d’un sousensemble de G(Fp ) « qui ne croît pas » et d’une sous-variété algébrique propre de G. – [2e étape : Expansion modulo p] Comme il a été mentionné, le théorème de croissance ne suffit pas à démontrer immédiatement que les graphes de Cayley forment un graphe expanseur. Bourgain et Gamburd [3] ont donné la première preuve de ce fait pour le cas de SL2 (Fp ). Leur méthode est fondée sur une idée qui remonte au moins à Sarnak et Xue [56] et qui consiste à comparer une majoration et une minoration pour le nombre de boucles dans le graphe de Cayley, basées à l’identité et de longueur ` ≈ log p. Comme dans [56], la minoration (où apparaît ρp ) est facile à obtenir par une expansion spectrale et une application du fait – remontant, lui, à Frobenius ! – que la plus petite dimension d’une représentation linéaire non-triviale de SL2 (Fp ) est « grande » (à savoir égale à (p − 1)/2). La majoration, par contre, est obtenue à l’aide d’un nouvel ingrédient très ingénieux (maintenant appelé « flattening lemma », voir [3, Prop. 2]), qui est utilisé pour montrer que la propriété d’avoir un grand tour de taille (« girth »), qui est assez facile à vérifier, suffit pour démontrer qu’après  log p pas, la marche au hasard sur le graphe est très proche d’être uniformément répartie, et donc qu’il ne peut y avoir trop de boucles de telle longueur basée en 1. Ce lemme d’aplatissement, quant à lui, est obtenu in fine par une application – dans ce cas – du théorème de croissance (22) de Helfgott dans SL2 (Fp ). (Pourquoi ? Très approximativement, on peut dire que Bourgain et Gamburd montrent que si doubler le nombre de pas  log p de la marche au hasard n’aboutit pas à une amélioration considérable de son uniformité, c’est que celle-ci doit être largement concentrée sur un ensemble A ⊂ SL2 (Fp ) qui ne croît pas, c’est-à-dire tel que (22) ne soit pas valide ;

ASTÉRISQUE 348

(1028)

CRIBLE EN EXPANSION

47

d’après le théorème de Helfgott, il en découlerait donc que A serait contenu dans un sous-groupe propre, et il est relativement facile de vérifier que cette alternative n’est pas possible pour la marche au hasard qui est basée sur des générateurs de G(Fp )). Après la preuve des théorèmes de croissance généraux, cette seconde étape a été étendue aux autres groupes. – [3e étape : Expansion pour d sans facteurs carrés] Cette étape, qui d’après la discussion précédente est indispensable pour le crible, a d’abord été obtenue par Bourgain, Gamburd et Sarnak pour SL2 dans [5], par une démonstration inspirée de celle de Bourgain-Gamburd, mais significativement plus complexe. La difficulté essentielle est de contrôler le trou spectral lorsque le nombre de facteurs premiers de d augmente (si d a un nombre borné de facteurs premiers, il n’y a pas de difficulté majeure en plus du cas des nombres premiers). Varjú [59] a trouvé une preuve plus simple et conceptuelle, qui peut être adaptée à des groupes plus généraux, en particulier à SLm , dès qu’un théorème de croissance est connu pour G(Fp ) (18). Le résultat optimal est celui de Salehi Golsefidy et Varjú [53] ; il s’applique à n’importe quel groupe G dont la composante connexe de l’identité est parfaite. 5.3. Équirépartition quantitative : aspects spectraux et ergodiques Revenons au crible en orbite pour un sous-groupe Λ, dont l’adhérence de Zariski est G/Q, mais avec l’idée d’utiliser les mesures de comptage sur des boules archimédiennes. Dans ce cas, les résultats sont plus fragmentaires. Bien évidemment, le point essentiel est d’étendre l’énoncé d’équirépartition quantitatif à cette méthode de comptage (la partie (3) du théorème 5.4). Notons que les parties (1) et (2) restent valables (si les hypothèses sont vérifiées par G). Comme on a X µX (γ ∈ Λ | γ ≡ γ0 (mod d)) = 1 kγk6X γ≡γ0 (mod d)

pour d > 1 et γ0 ∈ Λd , et que cela peut aussi s’écrire X 1 kτ γ0 k6X τ ∈Λ(d)

où Λ(d) = ker(Λ → Λd ) est un sous-groupe de congruence de Λ, on peut voir que cela revient à des questions d’uniformité et d’effectivité dans des problèmes de comptage de points dans un réseau, précisément dans le quotient XΛ = Λ\G(R) et ses revêtements de congruence XΛ (d) = Λ(d)\G(R). (Si l’on désire compter directement sur l’orbite (18)

On peut noter que Bourgain et Varjú [7] ont aussi démontré la propriété d’expansion pour SLm (Z/dZ) pour tout d > 1, pas seulement les entiers sans facteurs carrés.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

48

E. KOWALSKI

O(x0 ), le problème est encore différent suivant la nature du stabilisateur de x0 , et des difficultés supplémentaires peuvent surgir.) Dans le cas le plus simple où G(R) = SL2 (R), Λ ⊂ SL2 (Z) et XΛ est de volume fini, un résultat célèbre de Selberg (voir, par exemple, [31, Th. 15.11]), dont la démonstration originale dépend de la décomposition spectrale de l’opérateur de Laplace sur XΛ , prouve l’énoncé d’équirépartition locale avec un terme de reste qui dépend directement de la première valeur propre non-nulle λ1 (d) du laplacien de la surface hyperbolique Λ(d)\H. Cela permet de constater encore une fois que l’existence d’un trou spectral est, d’une manière ou d’une autre, l’outil crucial pour l’équirépartition quantitative. La différence frappante avec l’argument complètement élémentaire qui mène à la formule (10) devient claire : au lieu de compter les entiers dans un (grand) intervalle, où la contribution du bord (qui sert essentiellement de terme de reste) est facile à contrôler et souvent négligeable, on a ici un problème de comptage hyperbolique, où le bord peut constituer une proportion positive de la masse. En général, on peut distinguer deux cas : Λ est, ou n’est pas, un réseau dans le groupe G(R) des points réels de son adhérence de Zariski G (que l’on suppose de nouveau être simple, connexe et simplement connexe), autrement dit, Λ est d’indice fini, ou pas, dans un tel réseau fixé. En terme de XΛ , la dichotomie a une signification géométrique évidente : XΛ a un volume fini ou infini par rapport à une mesure induite à partir d’une mesure de Haar sur G(R). (Noter que l’on requiert toujours que le théorème 5.4 soit valide, ce qui signifie que G(R) n’est pas compact.) (1) [Volume fini] Bien qu’il semble naturel d’appliquer ici les méthodes d’analyse harmonique similaires à celles de Selberg, il y a des difficultés techniques assez sérieuses. C’est particulièrement vrai lorsque XΛ n’est pas compact, puisque la décomposition spectrale complète de L2 (XΛ ) fait alors intervenir la théorie générale des séries d’Eisenstein (voir l’article de Duke, Rudnick et Sarnak [12] pour les premiers résultats de ce type). Mais, à partir des travaux de Eskin et McMullen [15], des méthodes issues de la théorie ergodique ont été découvertes, permettant d’obtenir des résultats très généraux concernant le problème de comptage dans les réseaux. Dans l’esprit du problème d’équirépartition local uniforme (comme dans le théorème 5.4), on peut mentionner d’abord un article de Maucourant [45] ; les résultats les plus généraux ont été développés par Gorodnik et Nevo [21], [22] (voir aussi [46]). Sans en dire davantage, par manque de compétences, on peut cependant signaler que le trou spectral apparaît dans cette méthode par l’intermédiaire de l’exposant pΛ > 2 tel que les coefficients matriciels de représentations unitaires de G(R) apparaissant dans L20 (Λ(d)\G(R)) sont dans Lp+ε pour tout ε > 0. L’existence d’un tel exposant > 2 est une conséquence connue de la Propriété (τ ) pour Λ par rapport aux quotients de

ASTÉRISQUE 348

(1028)

CRIBLE EN EXPANSION

49

congruence. Lorsque G(R) a la Propriété (T ), cette constante dépend seulement de G(R), et des valeurs explicites sont connues (dues à Li [38] pour les groupes classiques et Oh en général [48]). Pour certains groupes comme SLm , m > 3 ou Sp2g , g > 2, ces travaux donnent même l’exposant optimal (du point de vue des représentations générales du groupe G(R)). Pour les sous-groupes de congruence, l’exposant optimal est lié directement aux formes généralisées de la conjecture de Ramanujan ; on peut consulter le survol [54] de Sarnak pour ces aspects. (2) [Volume infini(19)] Ce cas, pour la méthode de comptage archimédienne, est le plus délicat. Ainsi, seuls des exemples de sous-groupes des groupes d’isométrie des espaces hyperboliques ont été considérés avec succès (c’est-à-dire des sous-groupes de O(n, 1)). En effet, dans ce cas, l’approche spectrale de Lax-Phillips est disponible pour le comptage de points [37], du moins quand la dimension de Hausdorff de l’ensemble limite du sous-groupe discret Λ ⊂ SO(n, 1)(R) est assez grande(20). C’est le cas, par exemple, du groupe apollonien A (qui est isomorphe à un sous-groupe de O(3, 1)(R), puisque la forme quadratique Q a signature (3, 1)), dont l’ensemble limite a dimension de Hausdorff > 1.30, alors que la borne inférieure pour la méthode de Lax-Phillips dans l’espace hyperbolique de dimension 3 est δ > 1. Encore une fois, il ne sera pas dit plus concernant les techniques utilisées, par manque d’expertise. Cependant, on peut répéter que c’est l’existence d’un trou spectral du laplacien pour les revêtements de congruence qui joue un rôle crucial. Le premier cas où cela a été établi est dans l’article [19] de Gamburd. On peut aussi aujourd’hui espérer obtenir un tel résultat en étendant au cas de volume infini les théorèmes de comparaison entre laplaciens combinatoire et hyperbolique (voir par exemple [9, Ch. 6]), et en appliquant alors les propriétés d’expansion des graphes de Cayley discutés dans la section précédente (Théorème 5.8) ; voir [4] pour cette approche. Dans la section 5.5, on trouvera l’énoncé de certains résultats de cribles obtenus par Kontorovich et Oh [33], et nous référons au survol de Oh [49] (ICM 2010) pour plus de détails. 5.4. Nombre de saturation Nous expliquons maintenant comment s’applique le crible pour démontrer le théorème 1.1, en utilisant la méthode de comptage pondérée (c’est-à-dire, implicitement, des marches au hasard). Il devrait être clair que la méthode est extrêmement générale. (19)

Bourgain, Gamburd et Sarnak parlent, dans ce cas, d’un sous-groupe Λ « mince » (« thin » en anglais) ; cette terminologie entre malheureusement en conflit avec la notion d’ensemble « mince » dans la définition 4.4 – un sous-groupe Zariski-dense Λ ⊂ GLm (Z) de G n’est jamais « mince », en ce sens, dans G(Q). (20) Très récemment, Bourgain, Gamburd et Sarnak [4] ont abordé le problème pour des sous-groupes Zariski-denses de SL2 (R) dont l’ensemble limite a n’importe quelle dimension > 0.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

50

E. KOWALSKI

Soit Λ, x0 et f comme dans l’énoncé, ou bien Λ dont l’adhérence de Zariski G est simple, connexe et simplement connexe (et pas seulement G = SLm , m > 2). Pour simplifier, on va cribler dans Y = Λ au lieu de le faire dans l’orbite O(x0 ) : il est élémentaire de déduire la finitude du nombre de saturation pour l’orbite à partir de ce cas. On va aussi supposer, pour simplifier, que les composantes irréductibles de l’hypersurface donnée par l’équation {f (γx0 ) = 0} dans G sont absolument irréductibles(21). Fixons un ensemble symétrique de générateurs de Λ avec 1 ∈ S. On va étudier l’ensemble criblé (12) pour l’ensemble de nombres premiers P formé par ces p qui ne sont pas dans l’ensemble exceptionnel fini Σ fourni par le théorème 5.4, avec le choix des conditions de crible Ωp = {γ ∈ Yp = G(Fp ) | f (γ · (x0 (mod p))) = 0 ∈ Z/pZ}. D’après les arguments décrits précédemment (les théorèmes 5.4 et 5.8), les hypothèses fondamentales du crible sont satisfaites. En effet, S z (Λ; Ω) est l’ensemble des γ ∈ Λ tels que f (γ · x0 ) n’a pas de facteurs premiers < z (en dehors de Σ). Au prix d’un agrandissement éventuel de l’ensemble Σ (qui reste cependant fini), les estimations de type Lang-Weil pour le nombre de solutions d’équations polynomiales sur un corps fini permettent d’obtenir l’asymptotique |Ωp | = κpdim(G)−1 + O(pdim(G)−3/2 ) pour p ∈ / Σ, où κ est le nombre de composantes (absolument) irréductibles de l’hypersurface de G déjà mentionnée, définie par {f (γx0 ) = 0}. Puisqu’on a |G(Fp )| = pdim(G) + O(pdim(G)−1/2 ), ce qui peut se vérifier à l’aide des formules pour l’ordre des groupes finis de type Lie, par exemple Y | SLm (Fp )| = q m(m−1)/2 (q i − 1), 26i6m

il en découle que la densité de Ωp vérifie νp (Ωp ) =

|Ωp | κ = + O(p−3/2 ) |G(Fp ) p

pour tout p ∈ / Σ. Cela donne la condition (18) et montre que le crible en orbite est alors de « dimension » κ dans la terminologie classique. D’après (21)(22), on voit aussi que (19) est valide avec Dk = β k (21)

Comme expliqué dans [5, p. 562], lorsque G est simplement connexe, l’anneau Q[G] des fonctions sur G est factoriel, et l’hypothèse est que les facteurs irréductibles de f dans Q[G] sont encore ¯ irréductibles dans Q[G]. (22) La remarque 3.8 s’applique ici pour vérifier (17).

ASTÉRISQUE 348

(1028)

CRIBLE EN EXPANSION

51

pour un certain β > 1 (en fait, β peut être n’importe quel nombre réel < ρ−1/(1+dim(G)) , où ρ < 1 est la constante d’expansion pour les graphes de Cayley concernés, voir la définition 5.7). On peut alors conclure qu’il existe « beaucoup » de γ ∈ Λ tels que f (γ · x0 ) ne soit pas divisible par des nombres premiers < z = β k/s (hormis ceux dans Σ) ; précisément la µk -mesure de cet ensemble, noté S k , vérifie µk ( S k ) 

1 1  κ, κ (log z) k

lorsque k est assez grand(23). Pour en déduire que le nombre de saturation est fini, il faut ajouter deux ingrédients assez simples : (1) Si γ ∈ S k , l’entier n = f (γ · x0 ) n’a qu’un nombre borné de facteurs premiers (sauf si n = 0, ce qui ne se produit qu’avec une probabilité très inférieure, comme dans la remarque 3.8). En effet, on sait que n = f (s1 · · · sn x0 ) avec si ∈ S. Puisque la fonction f est un polynôme, il existe évidemment une constante λ > 1 telle que (23)

f (γ · x0 )  λk

pour tout γ ∈ S k (la constante implicite dépendant de S). Un entier de cette taille, qui n’a pas de facteurs premiers < β k/s hors de Σ, doit nécessairement satisfaire Ω(f (γ · x0 )) 6 r =

s log λ + |Σ|. log β

Remarque 5.9. — Si les graphes de Cayley vérifient une propriété d’expansion plus faible, il reste possible de cribler, mais les conclusions sont plus faibles : on obtient alors des points dans l’orbite dont le nombre de facteurs premiers a un ordre de grandeur plus petit que celui d’un entier typique de sa taille (voir l’appendice pour ce nombre de facteurs premiers typique). (2) Il faut encore vérifier que la borne inférieure obtenue pour les points avec 6 r facteurs premiers est incompatible avec la possibilité que cet ensemble soit trop petit, c’est-à-dire qu’il ne soit pas Zariski-dense, ou qu’il soit mince au sens de la définition 4.4. Pour le premier cas, il est très facile de voir que tout sous-ensemble W de Λ contenu dans une hypersurface propre {g = 0} de G vérifie la majoration (24) (23)

µk (W )  δ −k

Et la majoration correspondante µk ( S k )  k−κ est également valide.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

52

E. KOWALSKI

pour un certain δ > 1, ce qui est clairement incompatible avec la minoration ci-dessus pour µk ( S k ). Pour voir cela, on choisit un nombre premier convenable p ∈ / Σ tel que {g = 0} soit une hypersurface modulo p, et on majore µk (W ) 6 µk (γ | g(γ) = 0 (mod p)) à l’aide de l’équirépartition locale modulo p et des bornes de Lang-Weil (par exemple). Une telle majoration (24) est aussi valide pour un ensemble mince, mais il faut appliquer une inégalité de grand crible pour le vérifier (voir la section 6.2). 5.5. Autres résultats concernant le crible en orbites Nous énonçons ici un certain nombre de résultats obtenus dans le cadre du crible en orbite. Exemple 5.10. — On commence avec le groupe apollonien et les empilements de cercles associés... – Fuchs [17] a étudié très précisément l’image du groupe A par réduction modulo un entier. – À l’aide des informations ainsi obtenues, une conjecture (qui semble difficile) prédit un principe local-global pour les entiers qui apparaissent dans l’ensemble de courbures C (c) ; Bourgain et Fuchs [2] ont d’ores et déjà démontré que le nombre d’entiers 6 T qui apparaissent (comptés sans multiplicité) est  T . – Kontorovich et Oh ont appliqué les méthodes spectrales et ergodiques de comptage de points dans le cas de volume infini pour déduire, tout d’abord, une formule asymptotique pour le nombre de courbures 6 T (avec multiplicité ; cette dernière, en moyenne, est grande, de taille T δ−1 , où δ > 1.3 est la dimension de l’ensemble limite) puis, à l’aide du crible, ils ont obtenu des majorations et minorations pour le nombre de courbures premières, ou le nombre de paires de courbures premières de deux cercles tangents dans l’empilement (comme 11 et 23 dans la Figure 1). Il est à noter que, le comptage ayant lieu sur l’orbite, au lieu du groupe, la théorie de Lax-Phillips ne s’applique pas, et de nouvelles idées sont nécessaires. Kontorovich et Oh [34] ont aussi appliqué des méthodes semblables pour l’orbite de sous-groupes d’indice infini Λ dans SO(2, 1)(Z) agissant sur le cône des triplets pythagoriciens (voir la remarque 4.3). Par exemple, à l’aide du trou spectral explicite de Gamburd [19], ils prouvent que si l’ensemble limite a dimension assez grande (mais pas seulement lorsqu’elle vaut 1), les triplets pythagoriciens dans une telle orbite dont l’hypoténuse a au plus 6 14 facteurs premiers forment un ensemble Zariski-dense. Exemple 5.11. — L’ensemble Vm,n des points entiers de l’espace homogène

V m,n = {γ ∈ GLm | det(γ) = n}

ASTÉRISQUE 348

(1028)

CRIBLE EN EXPANSION

53

sous SLm (Z) ont été étudiés par Nevo et Sarnak [46], dans le cadre des boules archimédiennes, à l’aide de méthodes basées sur la théorie ergodique (en particulier, propriétés de mélange). Ils démontrent, par exemple, que si f ∈ Q[ V m,n ] prend des valeurs entières sur Vm,n , est absolument irréductible, et qu’il n’existe pas d’obstruction de congruence pour que f (γ) soit premier (c’est-à-dire que, pour tout p premier, il existe γ ∈ Vm,n tel que p - f (γ)) ; alors le nombre de saturation de Vm,n vérifie r 6 1 + 18m3e deg(f ), où me est le plus petit entier pair > m − 1, sous la forme quantitative (25)

|{γ ∈ Vm,n | kγk 6 T et Ω(f (γ)) 6 r}| 

|{γ ∈ Vm,n | kγk 6 T }| , (log T )

pour r > 18m3e deg(f ). Exemple 5.12. — Ainsi qu’il est expliqué dans [46], des bornes comme (25) ne peuvent s’adapter immédiatement à des espaces homogènes non-principaux (c’està-dire des orbites d’un groupe arithmétique tel que le stabilisateur soit non-trivial), quoique la seule finitude du nombre de saturation ne pose pas de problème. Gorodnik et Nevo [21, 22] ont obtenu des résultats qui étendent de telles minorations dans de nombreuses situations. Par exemple, ils considèrent les orbites

O(g0 ) = {g ∈ Mm (Z) | g = t γg0 γ pour un γ ∈ SLm (Z)} pour g0 fixée, matrice symétrique non-dégénérée à coefficients entiers, si m > 3. Ainsi, pour f convenable, et pour κ et r explicites, ils obtiennent |{g ∈ O(g0 ) | kgk 6 T et Ω(f (g)) 6 r}| 

|{g ∈ O(g0 ) | kgk 6 T }| (log T )κ

(ici, le stabilisateur qui intervient est un groupe orthogonal).

6. AUTRES PROBLÈMES DE CRIBLE ET AUTRES RÉSULTATS Dans cette section, nous présentons quelques autres développements du crible en expansion, ainsi que certains problèmes analogues sur les corps finis. 6.1. Exemples géométriques Dans l’esprit de la section 2.2, il y a un certain nombre de situations géométriques qui suggèrent des questions de crible pour des groupes discrets qui ne sont pas donnés comme sous-groupes de GLm (Z). Il est parfois possible d’attaquer ces problèmes en utilisant le crible dans des quotients arithmétiques de ces groupes, comme on l’a déjà vu pour l’homologie des variétés de Dunfield-Thurston.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

54

E. KOWALSKI

Dans ce cas, le groupe discret concerné est le groupe modulaire (« mapping class group ») Γg d’une surface Σg (connexe compacte sans bord) de genre g. Ce groupe est de type fini, et il est naturel (comme dans [13]) d’utiliser une méthode de comptage pondérée pour étudier le crible sur Γg . Les formules (2) et (3) pour l’homologie des variétés Mφ ne dépendent que de l’image du difféomorphisme φ dans Sp2g (Z) ou Sp2g (Fp ), ce qui signifie qu’en pratique, il s’agit de faire une marche au hasard (avec des pas qui ne sont pas nécessairement équiprobables) sur le groupe discret Sp2g (Z). Pour g > 2 (une condition qui n’est pas très restrictive, car le cas g = 1 n’est pas très intéressant ici), ce groupe a la Propriété (T ), et donc les conditions fondamentales du crible sont vérifiées. Il n’est pas difficile de vérifier par ailleurs que Ωp = {γ ∈ Sp2g (Fp ) | hJp , γJp i = 6 F2g p } est de cardinal p−1 + O(p−2 ) pour p > 2 (avec g fixé ; intuitivement, un certain déterminant dans Z/pZ doit être nul pour que cette propriété soit vraie, et la probabilité de cet événement est environ 1/p). On peut donc voir l’homologie des variétés de Dunfield-Thurston comme contrôlée par un crible de dimension 1. Si φk est le k-ième pas d’une marche au hasard sur Γg , avec les notations de la section 3.2, l’ensemble Y 0 correspond précisément aux variétés telles que H 1 (Mφk , Z) soit infini. Comme dans la remarque 3.8, cet événement a une probabilité qui tend vers 0 (ce qui est prouvé dans [13]), exponentiellement vite quand k → +∞ ([35, Pr. 7.19 (1)]). On peut alors aussi conclure que 1 k pour un certain β = β(g) > 1. La formule (2) montre aussi que si H1 (Mφk , Z) est fini, son ordre est de taille contrôlée : précisément, il existe λ > 1 tel que le produit ∆k des p tels que P(H1 (Mφk , Z) n’a pas de partie p-primaire pour p < z = β k ) 

H1 (Mφk , Fp ) 6= 0 vérifie ∆k 6 λk (encore parce que ∆k divise un déterminant, non-nul dans Z, et borné par λk ). En comparant comme pour la finitude du nombre de saturation, on en déduit qu’il existe r (dépendant de g et du système de générateurs S) tel que P(H1 (Mφk , Z) est fini et est d’ordre divisible par au plus r nombres premiers) 

1 . k

Une application du grand crible (voir ci-dessous) montre que, toujours avec probabilité qui tend vers 1 quand k → +∞, l’ordre de |H1 (Mφk , Z)| est fini mais divisible par « beaucoup » de nombres premiers < z. Cela signifie que |H1 (Mφk , Z)| est en général fini, mais de grande taille (voir [35, Pr. 7.19 (2)]).

ASTÉRISQUE 348

(1028)

55

CRIBLE EN EXPANSION

Un autre exemple de groupe où le crible peut être appliqué est fourni par le groupe des automorphismes extérieurs d’un groupe libre non-abélien (l’action sur l’abélianisation donne un quotient SLm (Z)). Cela montre que le crible donne une nouvelle illustration des analogies qui existent entre ces groupes discrets (voir le rapport récent [50] de F. Paulin dans ce séminaire pour beaucoup d’autres exemples profonds, et voir aussi les travaux de Rivin [52] et Maher [42]). 6.2. Le grand crible Le « grand crible » a déjà été mentionné brièvement, et nous donnons quelques détails ici (voir [35] pour ce sujet). Dans le contexte de la section 3.2, beaucoup de conditions de crible (Ωp ) vérifiant (26)

νp (Ωp ) > δ > 0,

pour un certain δ > 0 et tout p ∈ P , apparaissent naturellement (pour la première fois dans des travaux de Linnik). On parle de grand crible parce que, dans le cas classique, cela revient à exclure beaucoup de classes modulo p (une proportion positive des classes modulo p). Les inégalités de grand crible mènent, sous les hypothèses d’équirépartition uniforme et quantitative et d’indépendance, comme dans la définition 3.6, à deux types d’énoncés(24) : (1) Une majoration pour la mesure µn ( S z (Y ; Ω)) de l’ensemble criblé qui est de la forme X Y νp (Ωp ) µn ( S z (Y ; Ω))  µn (Y )H −1 , H= µ(d)2 1 − νp (Ωp ) d 1 tel que µn (W )  δ −k lorsque W ⊂ G(Q) ∩ GLm (Z) est un ensemble mince, en utilisant le fait (voir [57, Th. 3.6.2]) que le complément Ωp de W (mod p) vérifie une condition de grand crible |Ωp |  1 pour p assez grand. Cela donne la finitude du nombre de saturation pour les ensembles non-minces. (2) Une majoration pour la moyenne de  2 X X 1− νp (Ωp ) p 2 sans facteur multiple, et la famille de courbes hyperelliptiques définies par Ct : y 2 = f (x)(x − t) où t est le paramètre, combien y a-t-il de t ∈ Fpν tels que |Ct (Fpν )| soit un nombre premier, ou presque premier ? On peut aussi considérer le cas d’une variété algébrique fixée, définie sur un corps de nombre, et la variation avec p de ses réductions modulo p. Les principes du « crible pour Frobenius » (dans une direction horizontale) sont applicables, mais souffrent de l’absence de l’Hypothèse de Riemann, et les résultats inconditionnels sont assez faibles (voir [10] et [61]).

7. REMARQUES, PROBLÈMES ET CONJECTURES Finalement, voici quelques questions et problèmes ouverts qui semblent d’un grand intérêt. (1) [Classes de conjugaison] Soit Λ ⊂ SLm (Z) un sous-groupe Zariski-dense, d’indice infini. Les méthodes décrites ci-dessus permettent d’obtenir des informations – des théorèmes ou des conjectures étayées par des indices convaincants – concernant la distribution et certaines propriétés des éléments de Λ, qui peuvent être comparées à celles de tous les éléments de SLm (Z). On peut alors demander : qu’en est-il de l’ensemble des classes de conjugaison de Λ ? Cela semble une question naturelle, mais même pour m = 2, il ne semble pas que l’on sache grand chose à ce sujet... (2) [Équirépartition forte pour la métrique des mots] Il serait très intéressant de pouvoir obtenir une version de la partie (3) du théorème 5.4 pour la métrique des mots (sans pondération), lorsque Λ est un groupe assez général à croissance exponentielle (en particulier, loin d’être libre).

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

58

E. KOWALSKI

(3) [Bornes explicites] Ce survol s’est concentré sur les aspects généraux du crible en expansion. On a pu voir que, du point de vue des énoncés de crible utilisés, les résultats obtenus sont relativement simples. On peut penser que des efforts importants seront maintenant consacrés à l’amélioration des énoncés généraux, en particulier pour obtenir des bornes explicites (25) pour les nombres de saturation dans diverses situations. Des exemples dus à Nevo-Sarnak et Gorodnik-Nevo ont été mentionnés, dans le cas des réseaux et du comptage archimédien. Clairement, atteindre cet objectif passe nécessairement d’abord par la preuve d’un énoncé d’expansion également explicite (comme le fameux λ1 > 3/16 de Selberg). Ainsi, il serait très intéressant d’avoir, par exemple, une version complètement effective du théorème 5.8 (pour commencer, par exemple, pour SL2 ) dans lequel la constante d’expansion pour les quotients de congruence est une fonction explicite, disons, des coefficients des matrices de l’ensemble de générateurs S. E. Breuillard a fait remarquer que les méthodes menant au théorème d’expansion sont, en principe, effectives : il n’y a pas ici, a priori, de difficulté similaire aux hypothétiques zéros de Landau-Siegel dans la théorie des nombres premiers en progression arithmétique. Mais dans un cadre aussi général que [53], il y a tout de même des questions délicates de géométrie algébrique effective. (4) [Raffinements] Lorsqu’un trou spectral explicite est connu, on peut envisager l’application de formes hautement raffinées de crible ; pour un exemple, voir l’article de Liu et Sarnak [39] concernant le crible appliqué aux points entiers sur des quadriques en trois variables. Dans cet ordre d’idée, il serait extrêmement intéressant d’avoir des exemples où la forme bilinéaire du terme de reste dans le crible de dimension un, découverte par Iwaniec, serait exploitée (voir [16, §12.7]). De même, il serait remarquable d’avoir des applications où le niveau de distribution serait obtenu, ou amélioré, par une exploitation non-triviale de la moyenne sur d des termes de reste rd (rappelons que c’est là le cœur du théorème de Bombieri-Vinogradov). (5) [Nombres premiers ?] Dans beaucoup de cas, lorsqu’aucune obstruction de congruence ne se présente, on peut s’attendre à ce que le nombre de saturation soit 1, c’est-à-dire, qu’une orbite contienne un ensemble Zariski-dense de points x tels que f (x) soit (au signe près) un nombre premier(26). Bourgain, Gamburd et Sarnak proposent [5, Conjecture 1.4] une conjecture assez générale dans ce sens, concernant même la valeur exacte du nombre de saturation. L’article de Fuchs et Sanden [18, Conj. 1.2, 1.3] donne deux versions quantitatives précises pour les (25) C’est-à-dire, de « vrais nombres », comme 10, 100 ou 1000, dans une situation concrète, comme le groupe L et le polynôme f (γ) = produit des coordonnées. (26) Il est expliqué dans [5, §2.3] pourquoi on ne peut pas espérer distinguer le signe en toute généralité.

ASTÉRISQUE 348

(1028)

CRIBLE EN EXPANSION

59

courbures premières dans un empilement de cercle apollonien. Leurs arguments illustrent que de telles conjectures sont plutôt subtiles. On connaît quelques résultats, mais ceux-ci sont obtenus par des méthodes qui sont plus directement comparables avec celles de Vinogradov et avec la méthode du cercle, qu’avec les méthodes de crible. Nevo et Sarnak [46, Th. 1.4] trouvent un ensemble Zariski-dense de Vm,n (voir (5.11)) où toutes les coordonnées de la matrice sont des nombres premiers (au signe près), sous la condition – nécessaire – que n ≡ 0 (mod 2m−1 ). Bourgain et Kontorovich [6] montrent (entre autres) que l’ensemble des entiers apparaissant comme (valeur absolue du) coefficient en bas à droite d’un élément d’un sous-groupe Zariski-dense de SL2 (Z) dont l’ensemble limite a une dimension assez proche de 1, contient tous les entiers positifs 6 N , avec  N 1−δ exceptions, lorsque N est assez grand ; en particulier, cet ensemble contient une infinité de nombres premiers. On peut aussi se demander quelle est la force de tels énoncés ? Que disent-ils au sujet des nombres premiers ? Le seul indice dont l’auteur ait connaissance dans cette direction est le fait suivant, qui est assez indirect : Friedlander et Iwaniec ont démontré (voir [16, §14.7]) que l’on peut obtenir la proportion attendue de matrices ! a b ∈ SL2 (Z) g= c d avec a2 + b2 + c2 + d2 = p premier, p 6 X, sous l’hypothèse d’une forme convenable de la conjecture d’Elliott-Halberstam (précisément, il faut un niveau de distribution Q = X 1/2+δ , avec un certain δ > 0, pour les nombres premiers p 6 X). Il s’agit là, évidemment, d’un type – particulier – de crible en orbite. L’hypothèse ainsi faite est considérée comme très probablement valide, mais elle est également entièrement hors de portée. On sait, par exemple, après les travaux de Goldston, Pintz et Yıldırım, qu’une telle hypothèse implique aussi l’existence d’une infinité d’écarts bornés entre nombres premiers successifs (voir, par exemple, [16, Th. 7.17]).

APPENDICE : À QUOI RESSEMBLE UN ENTIER « TYPIQUE » On rappelle ici très brièvement les estimations les plus fondamentales concernant la structure multiplicative des entiers. Ceux-ci servent de point de comparaison pour tout énoncé concernant la distribution des facteurs premiers des éléments d’un ensemble d’entier. Bien entendu, tous les résultats ci-dessous sont connus sous des formes beaucoup plus fines et plus fortes.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

60

E. KOWALSKI

– Le nombre de nombres premiers p 6 X est asymptotiquement équivalent à X/(log X) quand X → +∞ (le théorème des nombres premiers). – Plus généralement, pour k > 1 (fixé), le nombre d’entiers n 6 X qui sont produits de k (ou d’au plus k) facteurs premiers est asymptotiquement équivalent à 1 X(log log X)k−1 . (k − 1)! (log X) – Par contre, pour k > 1 (fixé), le nombre d’entiers n 6 X qui n’ont pas de facteur premier p 6 X 1/k est d’ordre de grandeur  X/(log X). Cet ensemble est évidemment un sous-ensemble du précédent (lorsque ce dernier est défini avec 6 k facteurs premiers), mais la restriction concernant la taille des facteurs est plus forte que celle concernant leur nombre, et en particulier l’ordre de grandeur(27) devient insensible à la valeur de k. – Le nombre « typique » de facteurs premiers d’un entier n 6 X est log log X ; plus précisément, on a la majoration de Hardy-Ramanujan 2 X Ω(n) − log log X  X log log X, n6X

qui implique, par exemple, qu’il y a seulement 

X log log X

entiers 6 X avec |Ω(n) − log log X| > (log log X)/2.

RÉFÉRENCES [1] N. Bourbaki – Éléments de mathématique, Fonctions d’une variable réelle, théorie élémentaire, Hermann, 1976 ; réédition Springer, 2007. [2] J. Bourgain & E. Fuchs – A proof of the positive density conjecture for integer Apollonian circle packings, J. Amer. Math. Soc. 24 (2011), p. 945–967. [3] J. Bourgain & A. Gamburd – Uniform expansion bounds for Cayley graphs of SL2 (Fp ), Ann. of Math. 167 (2008), p. 625–642. [4] J. Bourgain, A. Gamburd & P. Sarnak – The affine linear sieve, Invent. Math. 179 (2010), p. 559–644. [5]

(27)

, Generalization of Selberg’s 3/16 theorem and affine sieve, prépublication arXiv:0912.5021. Mais pas la formule asymptotique que l’on peut démontrer !

ASTÉRISQUE 348

(1028)

CRIBLE EN EXPANSION

61

[6] J. Bourgain & A. Kontorovich – On representations of integers in thin subgroups of SL(2, Z), prépublication arXiv:1001.4534. [7] J. Bourgain & P. Varjú – Expansion in SLd (Z/qZ), q arbitrary, prépublication arXiv:1006.3365. [8] E. Breuillard, B. Green & T. Tao – Linear approximate groups, G.A.F.A. 21 (2011), p. 774–819. [9] M. Burger – Petites valeurs propres du laplacien et topologie de Fell, Thèse, Université de Lausanne, 1986. [10] N. Chavdarov – The generic irreducibility of the numerator of the zeta function in a family of curves with large monodromy, Duke Math. J. 87 (1997), p. 151–180. [11] L. Clozel – Démonstration de la conjecture τ , Invent. Math. 151 (2003), p. 297– 328. [12] W. Duke, Z. Rudnick & P. Sarnak – Density of integer points on affine homogeneous varieties, Duke Math. J. 71 (1993), p. 143–179. [13] N. M. Dunfield & W. P. Thurston – Finite covers of random 3-manifolds, Invent. Math. 166 (2006), p. 457–521. [14] J. Ellenberg, C. Hall & E. Kowalski – Expander graphs, gonality and variation of Galois representations, à paraître dans Duke Math. J. [15] A. Eskin & C. McMullen – Mixing, counting, and equidistribution in Lie groups, Duke Math. J. 71 (1993), p. 181–209. [16] J. Friedlander & H. Iwaniec – Opera de cribro, American Mathematical Society Colloquium Publications, vol. 57, Amer. Math. Soc., 2010. [17] E. Fuchs – Strong approximation in the Apollonian group, prépublication, 2009. [18] E. Fuchs & K. Sanden – Some experiments with integral Apollonian circle packings, J. Experimental Math. 20 (2011), p. 380–399. [19] A. Gamburd – On the spectral gap for infinite index “congruence” subgroups of SL2 (Z), Israel J. Math. 127 (2002), p. 157–200. [20] N. Gill & H. A. Helfgott – Growth of small generating sets in SLn (Z/pZ), Int. Math. Res. Notices 2011 (2011), p. 4226–4251. [21] A. Gorodnik & A. Nevo – The ergodic theory of lattice subgroups, Annals of Math. Studies, vol. 172, Princeton Univ. Press, 2010. [22]

, Lifting, restricting and sifting integral points on affine homogeneous varieties, prépublication, 2010.

[23] R. L. Graham, J. C. Lagarias, C. L. Mallows, A. R. Wilks & C. H. Yan – Apollonian circle packings : number theory, J. Number Theory 100 (2003), p. 1–45.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

62

E. KOWALSKI

[24] B. Green – Approximate groups and their applications : work of Bourgain, Gamburd, Helfgott and Sarnak, Current Events Bulletin of the AMS (2010). [25] B. Green & T. Tao – Linear equations in primes, Ann. of Math. 171 (2010), p. 1753–1850. [26] H. A. Helfgott – Growth and generation in SL2 (Z/pZ), Ann. of Math. 167 (2008), p. 601–623. [27]

, Growth in SL3 (Z/pZ), J. European Math. Soc. 13 (2011), p. 761–851.

[28] S. Hoory, N. Linial & A. Wigderson – Expander graphs and their applications, Bull. Amer. Math. Soc. (N.S.) 43 (2006), p. 439–561. [29] E. Hrushovski – Stable group theory and approximate subgroups, J. Amer. Math. Soc. 25 (2012), p. 189–243. [30] E. Hrushovski & A. Pillay – Definable subgroups of algebraic groups over finite fields, J. reine angew. Math. 462 (1995), p. 69–91. [31] H. Iwaniec & E. Kowalski – Analytic number theory, American Mathematical Society Colloquium Publications, vol. 53, Amer. Math. Soc., 2004. [32] F. Jouve, E. Kowalski & D. J. Zywina – Splitting fields of characteristic polynomials of random elements in arithmetic groups, à paraître dans Israel J. of Math. [33] A. Kontorovich & H. Oh – Apollonian circle packings and closed horospheres on hyperbolic 3-manifolds, Journal of the A.M.S. 24 (2011), p. 603–648. [34]

, Almost prime Pythagorean triples in thin orbits, à paraître dans J. reine und angew. Math.

[35] E. Kowalski – The large sieve and its applications, Cambridge Tracts in Mathematics, vol. 175, Cambridge Univ. Press, 2008. [36] M. Larsen & R. Pink – Finite subgroups of algebraic groups, Journal of the A.M.S. 24 (2011), p. 1105–1158. [37] P. D. Lax & R. S. Phillips – The asymptotic distribution of lattice points in Euclidean and non-Euclidean spaces, J. Funct. Anal. 46 (1982), p. 280–350. [38] J.-S. Li – The minimal decay of matrix coefficients for classical groups, in Harmonic analysis in China, Math. Appl., vol. 327, Kluwer Acad. Publ., 1995, p. 146–169. [39] J. Liu & P. Sarnak – Integral points on quadrics in three variables whose coordinates have few prime factors, Israel J. Math. 178 (2010), p. 393–426. [40] A. Lubotzky – Discrete groups, expanding graphs and invariant measures, Progress in Math., vol. 125, Birkhäuser, 1994.

ASTÉRISQUE 348

(1028)

CRIBLE EN EXPANSION

63

[41] A. Lubotzky & C. Meiri – Sieve methods in group theory I : powers in linear groups, à paraître dans Journal of the A.M.S. [42] J. Maher – Random Heegaard splittings, J. Topology 3 (2010), p. 997–1025. [43] O. Marfaing – Sieve and expanders, 2010, rapport de stage de master, ETH Zürich et Université Paris Sud. [44] C. R. Matthews, L. N. Vaserstein & B. Weisfeiler – Congruence properties of Zariski-dense subgroups. I, Proc. London Math. Soc. 48 (1984), p. 514–532. [45] F. Maucourant – Homogeneous asymptotic limits of Haar measures of semisimple linear groups and their lattices, Duke Math. J. 136 (2007), p. 357– 399. [46] A. Nevo & P. Sarnak – Prime and almost prime integral points on principal homogeneous spaces, Acta Math. 205 (2010), p. 361–402. [47] M. V. Nori – On subgroups of GLn (Fp ), Invent. Math. 88 (1987), p. 257–275. [48] H. Oh – Uniform pointwise bounds for matrix coefficients of unitary representations and applications to Kazhdan constants, Duke Math. J. 113 (2002), p. 133–192. [49]

, Dynamics on geometrically finite hyperbolic manifolds with applications to Apollonian circle packings and beyond, in Proceedings of the International Congress of Mathematicians. Volume III, Hindustan Book Agency, 2010, p. 1308– 1331.

[50] F. Paulin – Sur les automorphismes de groupes libres et de groupes de surface, Sém. Bourbaki, vol. 2009/10, exp. no 1023, Astérisque 339 (2011), p. 323–356. [51] L. Pyber & E. Szabó – Growth in finite simple groups of Lie type of bounded rank, prépublication arXiv:1005.1858. [52] I. Rivin – Walks on groups, counting reducible matrices, polynomials, and surface and free group automorphisms, Duke Math. J. 142 (2008), p. 353–379. [53] A. Salehi Golsefidy & P. Varjú – Expansion in perfect groups, prépublication, 2010. [54] P. Sarnak – Notes on the generalized Ramanujan conjectures, in Harmonic analysis, the trace formula, and Shimura varieties, Clay Math. Proc., vol. 4, Amer. Math. Soc., 2005, p. 659–685. [55]

, Affine sieve, notes d’un exposé, http://www.math.princeton.edu/ sarnak/, 2010.

[56] P. Sarnak & X. X. Xue – Bounds for multiplicities of automorphic representations, Duke Math. J. 64 (1991), p. 207–227.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

64

E. KOWALSKI

[57] J-P. Serre – Topics in Galois theory, 2e éd., Research Notes in Math., vol. 1, A K Peters Ltd., 2008. [58] Y. Shalom – Expanding graphs and invariant means, Combinatorica 17 (1997), p. 555–575. [59] P. Varjú – Expansion arXiv:1001.3664.

in

SLd (OK /I),

I

squarefree,

prépublication

[60] B. Weisfeiler – Strong approximation for Zariski-dense subgroups of semisimple algebraic groups, Ann. of Math. 120 (1984), p. 271–315. [61] D. J. Zywina – The large sieve and Galois representations, Thèse, University of California, Berkeley, 2008, prépublication arXiv:0812.2222.

Emmanuel KOWALSKI ETH Zürich – DMATH Rämistrasse 101 8092 Zürich, Switzerland E-mail : [email protected]

ASTÉRISQUE 348

348

ASTÉRISQUE 2012

SÉMINAIRE BOURBAKI VOLUME 2010/2011 EXPOSÉS 1027-1042 (1029) Kervaire Invariant One Haynes MILLER

SOCIÉTÉ MATHÉMATIQUE DE FRANCE Publié avec le concours du CENTRE NATIONAL DE LA RECHERCHE SCIENTIFIQUE

Séminaire BOURBAKI 63e année, 2010-2011, no 1029, p. 65 à 98

Novembre 2010

KERVAIRE INVARIANT ONE [after M. A. Hill, M. J. Hopkins, and D. C. Ravenel ] by Haynes MILLER

INTRODUCTION Around the year 1960 the theory of surgery was developed as part of a program to classify manifolds of dimension greater than 4. Among the questions it addresses is this: Does every framed cobordism class contain a homotopy sphere? Recall that a framing of a closed smooth manifold is an embedding into Euclidean space together with a trivialization of the normal bundle. A good example is given by the circle embedded in R3 , with a framing t such that the framing normal vector fields have linking number ±1 with the circle itself. A framed manifold is null-bordant if it is the boundary of a framed manifold-with-boundary, and two framed manifolds are cobordant if their difference is null-bordant. Cobordism classes of framed n-manifolds 1 fr form an abelian group Ωfr n . The class of (S , t) in Ω1 is written η. Any closed manifold of the homotopy type of S n admits a framing [20], and the seemingly absurdly ambitious question arises of whether every class contains a manifold of the homotopy type (and hence, by Smale, of the homeomorphism type, for n > 4) of a sphere. (Classes represented by some framing of the standard n-sphere form a cyclic subgroup of order given by the resolution of the Adams conjecture in the late 1960’s.) A result of Pontryagin from 1950 implied that the answer had to be “No” in general: 2 2 η 6= 0 in Ωfr 2 , while S is null-bordant with any framing. Kervaire and Milnor [20] showed that the answer is “Yes” unless n = 4k + 2; but that there is an obstruction, the Kervaire invariant κ : Ωfr 4k+2 → Z/2Z , which vanishes on a cobordism class if and only if the class contains a homotopy sphere. Kervaire’s construction [19] of a PL 10-manifold with no smooth structure

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

66

H. MILLER

2 amounted to showing that κ = 0 on Ωfr 10 . Pontryagin had shown that κ(η ) 6= 0, and in fact the Kervaire invariant is nontrivial on the square of any element of Hopf invariant one. In [20] Kervaire and Milnor speculated that these may be the only examples with κ 6= 0.

The Pontryagin-Thom construction establishes an isomorphism between Ωfr n and the stable homotopy group πns (S 0 ), and in 1969 Browder [6] gave a homotopy theoretic interpretation of the Kervaire invariant (Theorem 1.1 below) which implied that κ = 0 unless 4k + 2 is of the form 2(2j − 1). Homotopy theoretic calculations [27, 5, 3] soon muddied the waters by providing examples in dimensions 30 and 62. Much effort in the 1970’s went into understanding the role of these classes and attempting inductive constructions of them in all dimensions. The focus of this report is the following result. Theorem 0.1 (Hill, Hopkins, Ravenel, 2009, [15]). — The Kervaire invariant fr κ : Ω4k+2 → Z/2 is trivial unless 4k + 2 = 2, 6, 14, 30, 62, or (possibly) 126. The case 4k + 2 = 126 remains open. In his proof that κ is trivial in dimension 10, Kervaire availed himself of the current state of the art in homotopy theory (mainly work of Serre). Kervaire and Milnor relied on contemporaneous work of Adams. Over the intervening fifty years, further developments in homotopy theory have been brought to bear on the Kervaire invariant problem. In 1964, for example, Brown and Peterson brought spin bordism into play to show that κ is trivial in dimensions 8k + 2, k > 0, and Browder’s work used the Adams spectral sequence. Over the past quarter century, however, essentially no further progress has been made on this problem till the present work. Hill, Hopkins, and Ravenel (hereafter HHR) marshall three major developments in stable homotopy theory in their attack on the Kervaire invariant problem: – The chromatic perspective based on work of Novikov and Quillen and pioneered by Landweber, Morava, Miller, Ravenel, Wilson, and many more recent workers; – The theory of structured ring spectra, implemented by May and many others; and – Equivariant stable homotopy theory, as developed by May and collaborators. The specific application of equivariant stable homotopy theory was inspired by analogy with a fourth development, the motivic theory initiated by Voevodsky and Morel, and uses as a starting point the theory of “Real bordism” investigated by Landweber, Araki, Hu and Kriz. In their application of these ideas, HHR require significant extensions of the existing state of knowledge of this subject, and their paper provides an excellent account of the relevant parts of equivariant stable homotopy theory.

ASTÉRISQUE 348

(1029)

KERVAIRE INVARIANT ONE

67

1. THE KERVAIRE INVARIANT 1.1. Geometry Any compact smooth n-manifold M embeds into a Euclidean space, and in high codimension any two embeddings are isotopic. The normal bundle ν is thus well defined up to addition of a trivial bundle. A framing of M is a bundle isomorphism t : ν → M × Rq . The Pontryagin-Thom construction is the induced contravariant map on one-point compactifications, S n+q = Rn+q → (M × Rq )+ = M+ ∧ S q , giving an + q element of πn+q (M+ ∧ S ). This group becomes independent of q for q > n, and is termed the nth stable homotopy group πns (M+ ) = limq→∞ πn+q (M+ ∧ S q ) of M . The Pontryagin-Thom construction provides a “stable homotopy theory fundamental class” [M, t] ∈ πns (M+ ). Composing with the map collapsing M to a point gives an element of πns (S 0 ). A bordism between framed manifolds determines a homotopy between their Pontryagin-Thom collapse maps, and this construction gives an isomorphism from the framed bordism group to πns (S 0 ). A framing of a manifold M of dimension 4k + 2 determines additional structure in the cohomology of M . A cohomology class x ∈ H 2k+1 (M ; F2 ) is represented by a well-defined homotopy class of maps M+ → K(F2 , 2k + 1). When we apply the stable homotopy functor we get a map π∗s (M+ ) → π∗s (K(F2 , 2k + 1)). A calculation s [7] shows that π4k+2 (K(F2 , 2k + 1)) = Z/2, so the class [M, t] determines an element qt (x) ∈ Z/2. This Kervaire form qt : H 2k+1 (M ; F2 ) → Z/2 turns out to be a quadratic refinement of the intersection pairing x · y = hx ∪ y, [M ]i—that is to say, qt (x + y) = qt (x) + qt (y) + x · y . In the group (under direct sum) of isomorphism classes of finite dimensional F2 -vector spaces with nondegenerate quadratic form, the Kervaire forms of cobordant framed manifolds are congruent modulo the subgroup generated by the hyperbolic quadratic space (H, q) with H = ha, bi, q(a) = q(b) = q(0) = 0, q(a + b) = 1. This quotient is the quadratic Witt group of F2 , and is of order 2. The element of Z/2 corresponding to a quadratic space is given by the Arf invariant, namely the more popular of {0, 1} as a value of q. The Kervaire invariant of (M, t) is then the Arf invariant of the quadratic space (H 2k+1 (M ; F2 ), qt ). This defines a homomorphism s κ : π4k+2 (S 0 ) = Ωfr 4k+2 → Z/2 .

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

68

H. MILLER

1.2. Homotopy theory s Regarding κ as defined on π4k+2 (S 0 ) invites the question: What is a homotopytheoretic interpretation of the Kervaire invariant? This was answered by Browder in a landmark paper [6], in terms of the Adams spectral sequence. Discussion of these matters is streamlined by use of the stable homotopy category h S , first described in Boardman’s thesis (1964). Its objects are called spectra and are designed to represent cohomology theories. There are many choices of underlying categories of spectra, but they all lead the same homotopy category h S , which is additive, indeed triangulated, and symmetric monoidal (with tensor product given by the “smash product” ∧). It is an analog of the derived category of a commutative ring. There is a “stabilization” functor Σ∞ from the homotopy category of pointed CW complexes to h S . It sends the two point space S 0 to the “sphere spectrum” Σ∞ S 0 = S which serves as the unit for the smash product. The suspension functor Σ is given by smashing with Σ∞ S 1 . The homotopy of a spectrum E is πn (E) = [Σn S, E], so that, for a space X, πns (X) = πn (Σ∞ X+ ). Ordinary mod 2 cohomology of a space X (which we abbreviate to H ∗ (X)) is represented by the Eilenberg-Mac Lane spectrum H— H n (X) = [Σ∞ X+ , Σn H]—and, as explained by G. Whitehead, homology is obtained as Hn (X) = [Σn S, Σ∞ X+ ∧ H]. The cup product is represented by a structure map H ∧ H → H, making H into a “ring-spectrum.” The unit map for this ring structure, S → H, represents a generator of π0 (H) = H 0 (S). The graded endomorphism algebra of the object H is the well-known Steenrod algebra A of stable operations on mod 2 cohomology. Evaluation of homology gives a natural transformation (generalizing the degree)

dX : πt (X) = [Σt S, X] → Hom A (H ∗ (X), H ∗ (Σt S)) which is an isomorphism if X = H. This leads to the Adams spectral sequence s ∗ ∗ ∗ t ∧ E2s,t (X; H) = Exts,t A (H (X), F2 ) = Ext A (H (X), H (Σ S)) =⇒ πt−s (X)2

for X a spectrum such that πn (X) = 0 for n  0 and Hn (X) is finite dimensional for all n. It converges to the 2-adic completion of the homotopy groups of X. In particular, ∧ E2s,t = Exts,t A (F2 , F2 ) =⇒ πt−s (S)2 . To this day these Ext groups remain quite mysterious overall, but in [1] Adams computed them for s ≤ 2. E20,t is of course just F2 in t = 0. The edge homomorphism e : πt−1 (S) → E21,t is the “mod 2 Hopf invariant.” One interpretation of this invariant is that e(α) 6= 0 if and only if the mapping cone S 0 ∪α et supports a nonzero Steenrod operation of positive degree. E21,∗ is the dual of the module of indecomposables in the Steenrod

ASTÉRISQUE 348

(1029)

KERVAIRE INVARIANT ONE

69

algebra, known since Adem to be given by the Steenrod squares Sq1 , Sq2 , Sq4 , Sq8 , . . . j j The element dual to Sq2 is denoted by hj ∈ E21,2 . There is an element of Hopf invariant one in πt−1 (S) if and only if there is a nonzero permanent cycle in E21,t . Adams [1] proved that elements of Hopf invariant one occur only in dimensions 0, 1, 3, and 7. This occurs because d2 hj = h0 h2j−1 for j > 3 in the Adams spectral sequence [36], a class which Adams had shown to be nontrivial. Next, there is an edge homomorphism f : πt−2 (S) → E22,t ,

t − 2 6= 2j − 1 .

Adams found that a basis for E22,∗ is given by {h2i : i ≥ 0}∪{hi hj : j > i+1 ≥ 1}. The multiplicative structure of the spectral sequence together with computations [27, 25] in E24,∗ imply that the only survivors to E32,∗ are h0 h2 , h0 h3 , h2 h4 , h2 h5 , h3 h6 , and the infinite families h2j and h1 hj . This is the context of the following key result. Theorem 1.1 (Browder, 1969, [6]). — The Kervaire invariant vanishes except in dimensions of the form 2(2j − 1), where it is detected by h2j . There have been subsequent simplifications of Browder’s argument. Notably, Lannes [21] uses manifolds with boundary to express the Kervaire functional as a certain Hopf invariant. Lannes has subsequently further simplified this approach, and in joint work with the author he has given a proof employing characteristic numbers of manifolds with corners. Later work [18] also revealed that it is not difficult to see, without invoking the Adams spectral sequence, that these are the only dimensions in which the Kervaire invariant can be nontrivial. 1.3. Implications in homotopy theory Thus the Kervaire invariant problem is equivalent to the question of whether h2j is a permanent cycle in the Adams spectral sequence. Since hj is permanent for j ≤ 3, the product structure implies that h2j is too—and the squares of the framed manifolds representing the Hopf invariant one classes are manifolds of Kervaire invariant one. Computations [27, 5, 3] showed that h24 and h25 are also permanent. Much effort was spent searching for an inductive construction: If h2j survives to an element of order 2 and square zero, then h2j+1 survives [3]. Parallels were developed: Cohen, Jones, and Mahowald [9] defined a Kervaire invariant for oriented (4k + 2)-manifolds immersed in R4k+4 , and showed that it does take on the value 1 in dimensions 4k +2 = 2(2j −1). The theorem of HHR amounts to the assertion that h2j supports a differential in the Adams spectral sequence for all j > 6. One reason homotopy theorists were hoping that the Kervaire classes did survive was that they had no idea what the targets of differentials on them might be. The work of HHR sheds no light on this question— though proving that these classes die without saying how is the genius of the paper.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

70

H. MILLER

Incidentally, it is known that h0 h2 , h0 h3 , and h2 h4 survive to homotopy classes and that h2 h5 does not. The fates of h3 h6 and of h26 are at present unknown. All members of the remaining infinite family in E22,∗ , the h1 hj , do survive, to elements denoted ηj : this is a famous theorem of Mahowald [24]. j+1

By the Hopf invariant one theorem, the operation Sq 2 must be trivial on the j+1 mapping cone of any map S 2 −1 → S 0 if j ≥ 3. What if we consider the mapping j+1 cone of a map S 2 −1 → S 0 ∪2 e1 instead? The form of the Adams differential j+1 is nonzero in the mapping cone of such a map if d2 hj+1 = h0 h2j implies that Sq2 2j+1 −1 and only if the composite S → S 0 ∪2 e1 → S 1 has Kervaire invariant one. The result of HHR raises the question of the minimal length [8] of a spectrum in which j+1 Sq2 is nonzero. The Kervaire invariant question is also important unstably. The Whitehead square wn ∈ π2n−1 (S n ) is the composite S 2n−1 → S n ∨ S n → S n of the pinch map with the attaching map of the top cell in the torus S n × S n . It is null when S n is an H-space, i.e. when n = 1, 3, or 7. For n odd and not 1, 3 or 7, it is of order 2 and generates the kernel of the suspension map π2n−1 (S n ) → π2n (S n+1 ). Mahowald [23] proved that if 2θ = wn in π2n−1 (S n ) then θ suspends to an element of π2n (S n+1 ) ∼ = πn−1 (S) of order two and Kervaire invariant one. So Browder’s theorem implies that, for n odd and not 1, 3, or 7, wn is divisible by 2 only if n + 1 is a power of 2; computations show that it is divisible if n = 15 or 31; and HHR prove that it is not divisible if n > 63. See [23, 4] for more about the roles elements of Kervaire invariant one were supposed to play in unstable homotopy theory.

2. OUTLINE In this section we state a theorem that provides the skeleton of the HHR proof. This begins with the Adams-Novikov spectral sequence, an analogue of the Adams spectral sequence in which ordinary mod 2 homology is replaced by complex bordism, E2∗,∗ (X; MU) ⇒ π∗ (X). The universal Thom class is represented by a map of spectra µ : MU → H which induces a map of spectral sequences µ∗ : Er∗,∗ (X; MU) → Er∗,∗ (X; H). The central innovation in the proof is the use of G-equivariant stable homotopy theory for a finite group G (e.g. the cyclic group Cn of order n), as described in §§6–10 below. A G-spectrum X has equivariant homotopy groups π∗G (X), but also defines a “homotopy fixed point spectrum” X hG with its own homotopy groups, and there is a natural map π∗G (X) → π∗ (X hG ).

ASTÉRISQUE 348

(1029)

KERVAIRE INVARIANT ONE

71

Theorem 2.1 (HHR). — There exists a C8 -spectrum L with the following properties. (a) (Detection property) πn (L) = 0 for n odd, and there are maps of spectral sequences E2∗,∗ (S; H) o  π∗ (S) o

µ∗

E2∗,∗ (S; MU)  π∗ (S)

=

i∗

/ H ∗ (C8 ; π∗ (L))  / π∗ (LhC8 )

j

such that ker (i∗ ) ⊆ ker (µ∗ ) in E22,2 for j > 6; C8 (L) = 0; (b) (Gap property) π−2 (c) (Fixed point property) π∗C8 (L) → π∗ (LhC8 ) is an isomorphism; and (d) (Periodicity property) π∗ (LhC8 ) ∼ = π∗+256 (LhC8 ). Proof of Theorem 0.1. The facts that π2j −2 (LhC8 ) = 0 (by (b), (c), and (d)) and j H 0 (C8 ; π2j −1 (L)) = 0 (by (a)) imply that any permanent cycle in E22,2 (S; MU) maps j to zero in H 2 (C8 ; π2j (L)), and hence (by (a)) reduces to zero in E22,2 (S; H). But since j j E21,2 −1 (S; MU) = 0 and E20,2 −2 (S; MU) = 0, any class in π2j −2 (S) represented by an j j element of E22,2 (S; H) must be the image of a permanent cycle in E22,2 (S; MU).  The line of attack taken by HHR is suggested by an approach used in 1978 by Ravenel [33] to prove an analogous result for primes p > 3. We take this up in §3, as it introduces the “chromatic” homotopy theory underlying the current work. In §4 the modifications required of Ravenel’s method are sketched. This leads to the hope that one can take for L the four-fold smash product MU(4) with a C8 action induced from the C2 action by complex conjugation on MU. Verifying that one can define this group action requires some technology from the modern theory of structured ring spectra and abstract homotopy theory, §5, and equivariant homotopy theory, §6. This candidate needs to be modified if the other properties are to hold, however. The modification is to localize MU(4) by inverting a suitable equivariant homotopy class D. Each property puts constraints on D; they are gathered in §11. The most severe constraint is imposed by the requirements of the Detection Property. Remark. The November 2010 draft of HHR [15] uses ΩO for L and Ω for LhC8 . The notation used in this report more closely reflects the parallel between L with its C8 -action and the complex K-theory spectrum K with its action of C2 by complex conjugation. The fixed point spectrum and homotopy fixed point spectrum of that action also coincide, and are given by the orthogonal K-theory spectrum KO. So one might write LhC8 = LO. In any case, the spectrum L, or ΩO , may in time be replaced by a more tailored construction.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

72

H. MILLER

3. CHROMATIC HOMOTOPY THEORY 3.1. Complex cobordism and formal groups Much work in Algebraic Topology in the 1960s and early 1970s centered on developing the machinery of generalized homology theories, satisfying the EilenbergSteenrod axioms with the exception of the axiom specifying the homology of a point. These were exemplified by K-theory (created by Atiyah and Hirzebruch as an interpretation of Bott periodicity) and cobordism theory (Atiyah’s interpretation of the Pontryagin-Thom theory of cobordism). Novikov [30] and Quillen [32] stressed the centrality and convenience of complex cobordism, whose coefficient ring had been shown by Milnor and Novikov to be a polynomial algebra: M U ∗ = M U ∗ (∗) = Z[x1 , x2 , . . .], |xi | = −2i. They called attention to the class of “complex oriented” multiplicative cohomology theories E ∗ (−): those such that the cohomology of CP ∞ is a power series ring over the coefficients on a single 2-dimensional generator—an Euler class for complex line bundles. Many of the standard calculations of ordinary cohomology carry over to this much wider setting. See [2] and [34] for this material. A signal complication is that the Euler class of a tensor product is no longer the sum of the Euler classes of the factors, but is rather given by a power series e(λ1 ⊗ λ2 ) = F (e(λ1 ), e(λ2 )) . Standard properties of the tensor product imply that this power series obeys identities making it a formal group: F (x, y) = x + y + · · ·

,

F (x, F (y, z)) = F (F (x, y), z) ,

F (x, y) = F (y, x) .

More precisely it is a graded formal group (always of degee 2) over the graded ring E ∗ = E ∗ (∗) = E−∗ (∗) = E−∗ = π−∗ (E). The formal group associated with complex K-theory, for example, is the multiplicative formal group Gm (x, y) = x + y − uxy where u ∈ K −2 (∗) is the Bott class, a unit by Bott periodicity. The spectrum MU representing complex cobordism is initial among complex oriented ring spectra, and Quillen observed that its formal group enjoys the corresponding universal property (Lazard): there is a bijection from graded ring-homomorphisms M U∗ → R∗ to the set of graded formal groups over R∗ given by applying the homomorphism to the coefficients in the formal group defined by MU. The integral homology H∗ (MU; Z) also admits a modular interpretation: graded ring homomorphisms from it are in bijection with formal groups F (x, y) equipped with a strict isomorphism log(t) (a “logarithm”) to the additive group Ga (x, y) = x + y: log(x) ≡ x mod deg 2 and log G(x, y) = log(x) + log(y). Thus P i H∗ (MU; Z) = Z[m1 , m2 , . . .] where log(t) = i mi−1 t , and the Hurewicz map −1 π∗ (MU) → H∗ (MU; Z) classifies the formal group log (log(x) + log(y)).

ASTÉRISQUE 348

(1029)

73

KERVAIRE INVARIANT ONE

Many things work just as well for MU as for H. For instance, we have the AdamsNovikov spectral sequence, E2s,t (X; MU) =⇒ πt−s (X) . The E2 term is computable by homological algebra over the Hopf algebra S∗ that corepresents the functor sending a commutative ring to the group (under composition) of formal powers series f (t) = t + b1 t2 + b2 t3 + · · · . As an algebra, S∗ = Z[b1 , b2 , . . .]. Landweber and Novikov observed that M U∗ (X) is naturally a comodule for this graded Hopf algebra (in which we declare |bn | = 2n). For example, the coaction ψ : M U∗ → S∗ ⊗ M U∗ (with X = ∗) is the map co-representing the action of power series on the set of formal groups by conjugation, f F (x, y) = f (F (f −1 (x), f −1 (y))). Then E2s,t (X; MU) = Exts,t S∗ (Z, M U∗ (X)) . The universal mod 2 Thom class for complex vector bundles is represented by a map µ : MU → H, and this map induces a map of spectral sequences µ∗ : Ers,t (X; MU) → Ers,t (X; H) . The mod 2 Hopf invariant factors as µ∗

πt−1 (S) → E21,t (S; MU) −→ E21,t (S, H) . Novikov [30] observed (see also [29]) that for j > 3 the class hj is not in the image of µ. This solves the Hopf invariant one problem, but does not tell us the differential in the Adams spectral sequence that is nonzero on hj (though Novikov [30] (see also [28]) went on to use complex bordism to recover the Adams differential as well). 3.2. Odd primary “Kervaire” classes One may hope to address the Kervaire invariant one problem by an analogous strategy. Unfortunately, h2j is always in the image of µ∗ . In 1978 Ravenel [33] turned this defect to an advantage to prove that a certain analogue of h2j in the classical mod p Adams spectral sequence (for p a prime larger than 3) does not survive. The HHR gambit is a variation on Ravenel’s, which we therefore describe. 2,2(p−1)pj+1

The elements in question are denoted bj and they lie in Ext A (Fp , Fp ). 2 When p = 2, bj = hj+1 . The first one, b0 , survives to an element β1 ∈ π2(p−1)p−2 (S). Toda proved in 1967 that for p odd, d2p−1 b1 = uh0 bp0 6= 0 in the Adams spectral 1,2p−2 sequence, where u ∈ F× (Fp , Fp ) represents α1 ∈ π2p−3 (S), the p and h0 ∈ Ext A first element of order p in π∗ (S). Theorem 3.1 (Ravenel, 1978, [33]). — For p ≥ 5 and j ≥ 1, the element bj dies in the Adams spectral sequence.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

74

H. MILLER

The elements h0 and bj are images of similarly defined elements in E22,∗ (S; MU), and Toda’s differential forces an analogous differential there (destroying Novikov’s conjecture [30] that for odd primes it collapsed at E2 ). Ravenel used Toda’s calculation to ground an induction proving that in the Adams-Novikov spectral sequence d2p−1 bj+1 ≡ uh0 bpj

a

mod Ann b0 j

,

aj = p

pj − 1 p−1

,

u ∈ Z× (p) .

Because of the spacing of nonzero groups at E2∗,∗ , this is the first possibly nontrivial differential, so bj+1 will die as long as h0 bpj 6= 0 in E22p+1,∗ . This is well beyond the computable range in general. However, Ravenel proved the following theorem, guaranteeing that the class bj+1 dies in the Adams-Novikov spectral sequence: Proposition 3.2 (Ravenel, 1978, [33]). — For any sequence i0 , i1 , . . . , ik ≥ 0, the element h0 bi00 bi11 · · · bikk ∈ E2∗,∗ (S; MU) is nonzero. Corresponding elements occur in E2∗,∗ (S; H), but no such theorem holds: this is one of the advantages of MU relative to H. These classes are detected by a map (f, ϕ) : (M U∗ , S∗ ) → (R∗ , B∗ ) of rings acted on by Hopf algebras. The Hopf algebra B∗ arises from a finite group G as the ring R∗G of functions from G to R∗ with Hopf algebra structure given ∼ = by ∆(f )(g1 , g2 ) = f (g1 g2 ), under the identification R∗G ⊗R∗ R∗G −→ R∗G×G sending f1 ⊗ f2 to (g1 , g2 ) 7→ f1 (g1 )f2 (g2 ). A graded ring homomorphism f : M U∗ → R∗ classifies a graded formal group F over R∗ . The map ϕ arises from an action of G on F as a group of strict automorphisms: formal power series g(t) ≡ t mod deg 2 that conjugate F to itself. The map ϕ : S∗ → R∗G is determined by its composites with the evaluation maps evg : R∗G → R∗ , and evg ◦ ϕ is required to classify the formal power series g(t). With these definitions, Exts,t (R∗ , R∗ ) ∼ = H s (G; Rt ) . RG ∗

3.3. Automorphisms of formal groups One must now find a graded formal group admitting a finite group of automorphisms with rich enough cohomology. It suffices to study graded formal groups F over graded rings of the form R∗ = A[u±1 ], |u| = −2. Such a formal group must be of the form F (x, y) = u−1 F0 (ux, uy) for a formal group F0 over A. Formal groups over fields are well understood. Over an algebraically closed field of characteristic p, the “height” of a formal group determines it up to isomorphism. The height is defined in terms of the self-map given by [p](x), where [k](x) is defined inductively by [0](x) = 0 and [k](x) = F ([k − 1](x), x). A key elementary fact is that either [p](t) = 0 (as is the case for the additive group Ga (x, y) = x + y), or n [p](t) = f (tp ) with f 0 (0) 6= 0. The height is the integer n (declared to be infinite if

ASTÉRISQUE 348

(1029)

75

KERVAIRE INVARIANT ONE

[p](t) = 0). There is a formal group of any height n defined over Fp with the property that all endomorphisms over Fp are already defined over Fpn . This endomorphism ring is well-studied (see e.g. [34]), and known to contain elements of multiplicative order p exactly when (p − 1)|n. Ravenel took the first possible case: F0 is a formal group of height n = p − 1 over A = Fq , q = pn , such that AutFq (F0 ) contains an element of order p. Let Cp be the subgroup generated by any such element. Then the map ∗ ϕ∗ : Ext∗,∗ S∗ (Z, M U∗ ) → H (Cp ; R∗ ) = E[h] ⊗ R∗ [b] ,

|h| = 1, |b| = 2

j+1

sends h0 7→ u−n h and bj 7→ u−np b for all j, proving Proposition 3.2. We have not yet proved Theorem 3.1, however, since, for large j, bj+1 ∈ E22,∗ (S; MU) is not the only class mapping to bj+1 ∈ E22,∗ (S; H). The claim is that d2p−1 takes on the same value on all of them, modulo ker ϕ∗ ; that is, d2p−1 (ker µ∗ ) ⊆ ker ϕ∗ . Consequently no class in E22,∗ (S; MU) mapping to bj+1 ∈ E22,∗ (S; H) survives, and so bj+1 does not survive either. To see that d2p−1 (ker µ∗ ) ⊆ ker ϕ∗ , Ravenel invoked L. Smith’s construction of a certain 8-cell complex V(2), with bottom cell i : S → V(2), such that the map ϕ : M U∗ → R∗ factors as M U∗ (S) → M U∗ (V(2)) → R∗ . Thus ker i∗ ⊆ ker ϕ∗ . He checked that ker µ∗ ⊆ ker i∗ . So if a ∈ ker µ∗ then i∗ d2p−1 a = d2p−1 i∗ a = 0, so d2p−1 a ∈ ker ϕ∗ . Smith’s complex V(2) exists only for p > 3, and this is where that assumption is required. In fact, at p = 3, b1 dies but b2 survives in the Adams spectral sequence, and the fate of the others is at present unknown. It is hoped that a modification of the HHR technique will resolve the case p = 3 as well. The chromatic approach to homotopy theory rests on the following insight, which we owe to Morava: The automorphism groups of formal groups over fields control the structure of the Adams-Novikov E2 -term. Ravenel’s result was the first one to depend upon this insight in an essential way.

4. THE DETECTION THEOREM In the rest of this section, we will sketch a line of thought that leads from the ideas of §3 to a candidate for the spectrum L of Theorem 2.1. 4.1. Hopf algebroids and actions on rings The starting point is finding a finite group G acting (this time nontrivially) on a graded ring R∗ and a map i∗ : E2∗.∗ (S, MU) → H ∗ (G; R∗ ) such that ker i∗ ⊆ ker µ∗ for (∗, ∗) = (2, 2j ) for large j. The construction of i∗ requires a slight extension of

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

76

H. MILLER

the notion of a Hopf algebra. A Hopf algebroid over a commutative ring K is a cogroupoid object in the category of commutative (perhaps graded) algebras over K. A Hopf algebroid co-represents a functor from commutative K-algebras to groupoids. For example, the functor sending a commutative graded ring R∗ to the groupoid of formal groups and strict isomorphisms over R∗ is corepresentable by the Hopf algebroid (M U∗ , M U∗ ⊗ S∗ ), with structure morphisms arising from the Hopf algebra structure of S∗ and its coaction on M U∗ . Comodules for Hopf algebroids and the corresponding Ext groups are defined in the evident way. A comodule for M U∗ ⊗ S∗ is ∗,∗ the same thing as an M U∗ -module over S∗ and Ext∗,∗ M U∗ ⊗S∗ (M U∗ , M ) = ExtS∗ (Z, M ). An action of a finite group on a graded ring determines a Hopf algebroid with object ring R∗ , morphism ring R∗G , and structure maps given as follows. The maps ηL , ηR : R∗ → R∗G are characterized by evg ◦ηL = id, evg ◦ηR = g,  = ev1 : R∗G → R∗ , and the diagonal map is defined by ∆(f )(g1 , g2 ) = f (g1 g2 ) under the identification α : R∗G ⊗R∗ R∗G → R∗G×G such that evg1 ,g2 α(f1 ⊗ f2 ) = f1 (g1 ) · g1 f (g2 ) . A subtlety here is that (as usual in the Hopf algebroid setup) R∗ must act via ηR on the left factor and via ηL on the right factor in the tensor product. Again, ExtR∗G (R∗ , R∗ ) = H ∗ (G; R∗ ). A map (M U∗ , M U∗ ⊗ S∗ ) → (R∗ , R∗G ) of Hopf algebroids classifies a graded formal group F over R∗ along with a strict isomorphism θg : F → gF , for every g ∈ G, such that (1)

θ1 = id and

θg1 g2 = g1 θg2 ◦ θg1 .

Construction of the relevant action begins with the involution on the ring spectrum MU arising from complex conjugation. In homology the action is given by mj = (−1)j mj ; so as graded commutative algebras with C2 action ! M (2) H∗ (MU; Z) = Sym σ ⊗j j>0

where σ is the sign representation on Z and Sym denotes the symmetric algebra functor. In homotopy this involution classifies the formal group F (x, y) = −F (−x, −y) . Note that −[−1]F (t) is a strict isomorphism F → F . If R∗ is a graded ring with involution x 7→ γx, then the map π∗ (MU) → R∗ classifying a formal group F over R∗ is equivariant if and only if F = γF .

ASTÉRISQUE 348

(1029)

KERVAIRE INVARIANT ONE

77

4.2. The norm The action of C2 on MU may be promoted to an action of a finite group containing C2 via the norm construction. This construction has its origins in group cohomology [10] and is applicable in any symmetric monoidal category. For any category M , write M G for the category of G-objects in M , and equivariant maps. Let H be a subgroup of G of finite index. If M has finite coproducts, the G restriction map ResG → M H has a left adjoint IndG H : M H . The object underlying G IndH X is the coproduct of [G : H] copies of the object underlying X. For example, let M be the category of commutative ⊗-monoids in a symmetric monoidal category C . The category M has finite coproducts, given by the tensor G product, so ResG → M H has a left adjoint. A key observation of HHR is H : M G that this “multiplicative induction” descends to a functor NH : C H → C G , the norm functor. The norm functor is transitive and multiplicative: G K G NK NH M ∼ M = NH

,

G G G NH (M ⊗ P ) ∼ M ⊗ NH P. = NH

It is also distributive over coproducts. When H is central in G this distributivity admits the following description. Let I be a set and suppose given Mi ∈ C for each i ∈ I. Pick a set F of orbit representatives for the right action of G on map(G/H, I). For f ∈ F let Stab(f ) = {g ∈ G : f g = f }. Then é Ñ ! a a O Stab(f ) ∼ (3) NG Mi = IndG N Mf (g) . H

Stab(f )

i∈I

H

f ∈F

g∈G/Stab(f )

G ResG Composing the norm with the adjunction morphism NH H R → R gives us a map

(4)

H G G G NG H : C (X, ResH R) → C (NH X, R) ,

the internal norm, natural in the commutative G-monoid R and H-object X. We can apply this construction to the stable homotopy category h S . If H acts on a ∧-monoid in h S such that H∗ (X; Z) is free then (5)

G G H∗ (NH X; Z) ∼ H∗ (X; Z) . = NH

So we can form the C2n -equivariant monoid in h S MU(n) = N22n MU , where 2n is shorthand for the cyclic group C2n of order 2n. This is a fundamental object for HHR, where it is denoted MU (C2n ) . Neglecting the group action, MU(n) = MU∧n .

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

78

H. MILLER

Its homology is easily described using (5), (2), and the fact that if V is a torsion-free G ZH-module then NH SymV ∼ = Sym(IndG H V ): As a C2n -algebra, ! M
2n (n) ⊗j Ind2 σ (6) H∗ (MU ; Z) = Sym . j>0

The homotopy of MU(n) is a graded ring with C2n action, and an equivariant map from it to a graded C2n -ring R∗ classifies a graded formal group F over R∗ together with a strict isomorphism θ : F → γF (where γ is a generator of C2n ) such that γnF = F

(7)

and γ n−1 θ ◦ · · · ◦ γθ ◦ θ = −[−1]F .

Given such data, the formula θγ k = γ k−1 θ ◦ · · · ◦ γθ ◦ θ satisfies (1) and so defines a map (M U∗ , M U∗ ⊗ S∗ ) → (R∗ , R∗C2n ). In the universal case, the ring is (n) M U∗ = π∗ (MU(n) ); we get maps of Hopf algebroids (n)

(n)

i : (M U∗ , M U∗ ⊗ S∗ ) → (M U∗ , (M U∗ )C2n ) → (R∗ , R∗C2n ) . In cohomology we get (8)

i∗ : E2∗,∗ (S; MU) → H ∗ (C2n ; M U∗ ) → H ∗ (C2n ; R∗ ) . (n)

4.3. Formal A-modules Triples (R∗ , F, θ) satisfying (7) arise from the theory of formal A-modules. Let A be a discrete valuation ring of characteristic zero, with quotient field K, uniformizer π, and residue field A/(π) = Fq . Over K, any formal group has the form F (x, y) = l−1 (l(x) + l(y)) for a unique l(t) ∈ tK[[t]] with l0 (0) = 1 (the “logarithm” of F ). The formal group is defined over A provided the Hazewinkel ([14], 8.3) functional equation l(t) = t + π −1 l(tq )

is satisfied. If this condition holds then for any a ∈ A the power series [a](t) = l−1 (al(t)) has coefficients in A, and is an endomorphism of F . This construction defines a ring homomorphism [−]F : A → EndA (F ) which splits the natural map EndA (F ) → A given by f (t) 7→ f 0 (0): F is a “formal A-module.” For computations, HHR use the example ([14], 25.3.16) ∞ qi X t l(t) = . πi i=0 Let 2n be a power of 2 and write A = Z2 [ζ], where ζ is a primitive (2n)th root of unity. The element π = ζ − 1 serves as a uniformizer. The discrete valuation ring A is totally ramified over Z2 , so A/(π) = F2 and q = 2. Let F0 be a formal A-module,

ASTÉRISQUE 348

(1029)

KERVAIRE INVARIANT ONE

79

R∗ = A[u±1 ] with |u| = −2, and F (x, y) = u−1 F0 (ux, uy). Define an action of C2n on R∗ by letting a generator γ act trivially on A and by γu = ζu. Define θ(t) = ζ −1 u−1 [ζ](ut) . Then γ n F = F , θ : F → γF is a strict isomorphism satisfying (7), and we get an (n) equivariant ring homomorphism M U∗ → R∗ . HHR take k = 3 here, and check that for j > 6 the map i∗ of (8) (with n = 4) satisfies the Detection Property ker i∗ ⊆ ker µ∗ for (∗, ∗) = (2, 2j ). Smaller values of k won’t do. We will see in §6 that the C2n action on the homotopy type MU(n) can be lifted to an action on the underlying ring-spectrum. As indicated in §9 one can then form the homotopy fixed point spectrum (MU(n) )hC2n , and the middle term in (8) is the E2 term of the homotopy fixed point spectral sequence converging to π∗ ((MU(n) )hC2n ). Unfortunately π2j −2 ((MU(n) )hC2n ) fails to vanish (no matter what n is). To repair this, with n = 4, HHR define L to be a certain localization of MU(4) whose homotopy is given by ω −1 π∗ (MU(4) ) for an element ω ∈ π2k (MU(4) ) which maps to a unit in R∗ . In §11 we will indicate what is required of the localization in order for such ω to exist. The factorization (8) of i∗ thus refines to a factorization i

∗ E2∗,∗ (S; MU) −→ H ∗ (C2n ; π∗ (L)) → H ∗ (C2n ; R∗ ) .

The fact that L is an MU-module-spectrum implies that i∗ extends to a map of spectral sequences, and the proof of the Detection Property is complete.

5. MODEL CATEGORIES AND RING SPECTRA Working in a homotopy category, such as the derived category of a ring or the stable homotopy category h S , offers a valuable simplification, and the axiomatic framework of triangulated categories is very attractive. But it imposes severe restrictions on the types of construction one can make, and at least since Quillen’s fundamental document [31] homotopy theory has been recognized as something more than the study of a homotopy category. Quillen wanted to say what a homotopy theory was, and did so by means of the theory of model categories. Just as a homotopy type may be represented by many non-homeomorphic spaces, so a homotopy theory may be modeled by many categorically non-equivalent (but “Quillen equivalent”) model categories. A fundamental example is given by the categories of spaces and simplicial sets. Quillen equivalent model categories have equivalent homotopy categories. There are by now many models of the homotopy theory of spectra—many Quillen equivalent model categories of “spectra,” all having h S as homotopy category. Some

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

80

H. MILLER

are even endowed with the structure of a symmetric monoidal category, in which the monoidal product descends to the smash product in h S . This convenience allows one to define a “(commutative) ring spectrum” as a (commutative) monoid with respect to that operation. These form model categories in their own right. Thom spectra, such as MU, provide basic examples in which the structure of a commutative ring spectrum arises explicitly as part of the construction. When this does not happen, one can resort to an obstruction theory. Using this approach, Goerss, Hopkins, and the author [35, 12] built a commutative ring spectrum E(F/k) associated to any formal group F of finite height over a perfect field k. The homotopy ring is Λ[u±1 ], where Λ denotes the Lubin-Tate ring supporting the universal deformation of F . The naturality of this construction implies that any finite group G of automorphisms of F acts on the spectrum E(F/k). Basic to homotopy theory is the construction of homotopy limits, in particular of the homotopy fixed point object of the action of a finite group G. In the category of spaces, the homotopy fixed point space of an action of G on X is provided by the space of equivariant maps X hG = mapG (EG, X) from a contractible CW complex EG upon which G acts freely. The map EG → ∗ induces a map from the actual fixed point set, X G → X hG . The homotopy fixed point spectrum is the “derived” fixed point object, in the sense that it is the functor best approximating X 7→ X G that respects suitable weak equivalences. Similar constructions work in greater generality, and allow one to form, for example, the homotopy fixed point ring spectrum X hG for an action of G on a ring spectrum X. This construction comes with a spectral sequence of the form E2s,t = H s (G; πt (X)) =⇒ πt−s (X hG ) . Hopkins, Mahowald, and the author explored these objects in the simplest nontrivial cases, when F has height p − 1 and G contains an element of order p. A motivating case occurs when p = 2 and F (x, y) is the multiplicative formal group Gm (x, y) = x + y − xy over F2 . One then finds that E(Gm /F2 )hC2 = KO2∧ , the 2-adic completion of orthogonal K-theory. Use was made in this work, as well, of the equivariant homotopy theory of representation spheres, to compute differentials in the homotopy fixed point spectral sequence. Given this history it was natural for HHR to hope to define L as E(F/k) with F of height 4 and G = C8 as dictated by the computations underlying the Detection Theorem. This hope foundered on the difficulty of the computations, and was replaced by the consideration of MU(4) and the far more elaborate appeal to equivariant topology required to prove properties (b), (c), and (d) of Theorem 2.1. The norm construction may be carried out in S to produce a commutative ring spectrum N22n MU = MU(n) with an action of C2n , so the homotopy fixed point set

ASTÉRISQUE 348

(1029)

KERVAIRE INVARIANT ONE

81

may be formed. Proving (b)–(d) for its localization L requires further development of equivariant stable homotopy theory.

6. EQUIVARIANT STABLE HOMOTOPY THEORY In order to construct the spectrum L and study its properties, HHR invoke a large collection of tools from equivariant stable homotopy theory. Diverse variants of this theory have been extensively developed, primarily by May and his collaborators, and HHR elect to work in the context of orthogonal spectra [26]. At many points they require details that are not fully articulated in existing references, and have provided in their paper an exhaustive account of the relevant fundamentals of this subject. 6.1. G-CW complexes The starting point is G-equivariant unstable homotopy theory, where G is a finite group. A G-CW complex is a G-space X together with a filtration by “skeleta” such that Sk0 X is a G-set and for each n ≥ 0 there is a G-set Pn and a pushout square Pn × S n−1

/ Pn × D n

 Skn−1 X

 / Skn X

(where Dn is the n-disk, S n−1 is its boundary sphere, and S −1 = ∅), and S X = Skn X in the weak topology. For example, the unit sphere S(V ) of an orthogonal representation V is a compact smooth G-manifold and hence (by a theorem of Verona) admits a finite G-CW structure. The one-point compactification S V of V is the suspension of S(V ) and hence also admits a G-CW structure (with cells increased by one in dimension from those of S(V )). When G = C2n and n is a power of 2 we can be more explicit. Decompose V into irreducibles— V = a ⊕ bσ ⊕ λ1 ⊕ · · · ⊕ λc —where  denotes the trivial one-dimensional representation, σ denotes the sign representation pulled back under the unique surjection C2n → C2 , and each λj is 2-dimensional. For each j, λj is a copy of C with a chosen generator γ ∈ C2n acting by a root of unity, ζj (which is well defined up to complex conjugation). Order the λj ’s so that if j ≤ k then hζj i ⊇ hζk i as subgroups of the unit circle. Pick a basis v1 , . . . , vb of bσ, and for each j pick a nonzero vector wj ∈ λj . Define cones in V as follows: Ha = a , Ha+i = Ha+i−1 ⊕ Rhvi i for 1 ≤ i ≤ b ,

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

82

H. MILLER

and for j such that 1 ≤ j ≤ c Ha+b+2j−1 = Ha+b+2j−2 ⊕ C2n · R+ hwj i ,

Ha+b+2j = Ha+b+2j−2 ⊕ λj .

Let Sk0 S V = ∅+ = ∗, and for i > 0 let Ski S V = (Hi )+ . This defines a C2n -CW filtration of S V with cells in dimensions 0 and i with a ≤ i ≤ dim V , each indexed by a transitive C2n -set (with isotropy C2n in dimensions 0 and a, Cn for a + 1 ≤ i ≤ a + b, and hζj i in dimensions a + b + 2j − 1 and a + b + 2j). 6.2. Orthogonal spectra While we will suppress discussion of technicalities regarding spectra, it may be useful to spell out the definition of the variant adopted by HHR. Let G be a finite group. Orthogonal G-spectra are defined in terms of a certain category I G enriched in the category T G of pointed G-spaces and equivariant maps. The objects of I G are the finite-dimensional orthogonal representations of G. For V, W ∈ I G , let O(V, W ) be the Stiefel manifold of linear isometric embeddings from V into W . Let N be the vector bundle over O(V, W ) whose fiber at i : V ,→ W is the orthogonal complement of the image of i in W . Then I G (V, W ) is defined to be the Thom space of this bundle. The group G acts on O(V, W ) by conjugation and N is an equivariant vector bundle, so I G (V, W ) receives a G-action. Let T G be the category of pointed G-spaces and all continuous pointed maps; this is enriched over T G . An (orthogonal) G-spectrum is an enriched functor X : I G → T G . It assigns to every V ∈ I G a G-space XV , and to every pair V, W ∈ I G a continuous equivariant map I G (V, W ) → map(XV , XW ). Thus for any i ∈ O(V, W ) we receive a map N (i)+ ∧XV → XW ; they vary continuously and form an equivariant family. They are bonding maps for a spectrum. Morphisms in the enriched category S G of G-spectra are simply the spaces of natural transformations with G acting by conjugation. Write S G for the category enriched over T with S G (X, Y ) = S G (X, Y )G , and S 1 = S . For example, the sphere G-spectrum SG sends W to its one-point compactification S W . The equivariant stabilization functor Σ∞ : T G → S G is given on K ∈ T G by W 7→ S W ∧ K. Any V ∈ I G co-represents a G-spectrum, denoted by S −V . Then S 0 = S −0 = SG . By Yoneda, S G (S −V , X) = XV . This leads to a canonical presentation of any G-spectrum as (9)

X = colim S −V ∧ XV . V

Smash products are also handled gracefully in this context. The smash product of two G-spectra X and Y is the left Kan extension of (V, W ) 7→ XV ∧ YW along the functor I G × I G → I G given by orthogonal direct sum. This makes S G a

ASTÉRISQUE 348

(1029)

KERVAIRE INVARIANT ONE

83

closed symmetric monoidal category, and equivariant associative and commutative ring spectra are defined using this monoidal structure. G Let H be a subgroup of G. There is a restriction functor ResG → S H , which H : S has a left adjoint H IndG → SG. H : S G The “Wirthmüller isomorphism” asserts that IndG H is also right adjoint to ResH . Given subgroups H and K there are “double coset formulas” _ G H ∼ (10) ResG IndK K IndH X = L(g) ResL(g) X g∈H\G/K

and (11)

G ∼ (IndG H X) ∧ (IndK Y ) =

_

ä Ä K H IndG L(g) (ResL(g) X) ∧ (ResL(g) Y )

g∈H\G/K

where L(g) = H ∩ gKg −1 . Taking H = G in (11) gives the “Frobenius isomorphism” (12)

G G ∼ X ∧ IndG K Y = IndK (ResK X ∧ Y ) .

6.3. The norm Let I be the full subcategory of I G consisting of the trivial representations of G. The restriction functor S G = Fun( I G , T G ) → Fun( I , T G ) = Fun(G, S ) participates in an adjoint equivalence of symmetric monoidal categories enriched over T G : the category of G-spectra is equivalent to the category of G-objects in spectra. Homotopy theoretic aspects are not preserved by this equivalence, but the observation does allow one to easily make constructions. For example, HHR use this device to construct a norm functor G NH : SH → S G

associated to an inclusion H ⊆ G of finite groups. This norm is compatible with the one described in §4 and with the adjoint of the restriction functor from commutative G-ring-spectra to commutative H-ring-spectra. Thus if R is a commutative G-ringspectrum, there is a natural map of G-ring-spectra, a “power operation” (13)

G P : NH ResG HR → R ,

and if R is a commutative H-ring-spectrum there is a natural “inclusion” (14)

G i : R → ResG H NH R

of G-ring-spectra. For any H-spectrum X and commutative G-ring-spectrum R we have the internal norm (4) in R-cohomology, studied by Greenlees and May [13]: (15)

G ∗ ∗ G NG H : (ResH R) (X) → R (NH X).

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

84

H. MILLER

The distributivity formula (3) for H central in G holds also for this norm, so for example é Ñ _ _ X Stab(f ) G |f |IndH V ' IndG (16) NH S iV , |f | = f (g) . Stab(f ) S f ∈F

i≥0

g∈G/Stab(f )

This norm entitles HHR to view MU(n) as a commutative C2n -ring-spectrum, rather than just a C2n -object in the stable homotopy category. The action of C2n on the spectrum itself yields the structure of a C2n -ring-spectrum on D−1 MU(n) for any equivariant map D : S V → MU(n) , and permits construction of the homotopy fixed point spectrum (D−1 MU(n) )hC2n . 6.4. Mackey functors and Bredon cohomology + Given finite G-sets P and Q, let MG (P, Q) be the set of isomorphism classes of finite G-sets X equipped with equivariant maps X → P , X → Q. These form the morphisms in a category, in which the composition is given by pull-back. Each + MG (P, Q) is a commutative monoid under disjoint union. Formally adjoin inverses to get an abelian group MG (P, Q). The composition is bi-additive, so it extends to the group completions and we receive a pre-additive category MG . op A Mackey functor is an additive functor from MG to the category of abelian e : P 7→ MG (P, ∗), groups. For example, the “Burnside Mackey functor” is given by A e so that A(G/K) is the Burnside group A(K) of isomorphism classes of virtual finite K-sets. A G-module N determines a Mackey functor N = N G with

N (P ) = mapG (P, N ) . p

q

The morphism P ←− X −→ Q induces N (Q) → N (P ) given by sending f : Q → N to X a 7→ f (qx) . px=a

The “constant” Mackey functor Z, for example, arises from Z as a trivial G-module. The Mackey category MG arises in equivariant stable homotopy theory as the full subcategory of h S G generated by the “discrete” spectra Σ∞ P+ . Therefore for ∗ any equivariant cohomology theory EG representable by a G-spectrum the functor n ∞ P 7→ EG (Σ P+ ) defines a Mackey functor. Similarly, a G-spectrum E represents a homology theory with En (X) = πnG (E ∧ X), which extends to a Mackey functor valued theory with E n (X)(P ) = En (Σ∞ P+ ∧X). We have for example Mackey functor valued homotopy groups π n . If we regard G-spectra of the form P+ ∧ S n (where P is a finite G-set) as equivariant spheres, then it is natural to extend the appellation “homotopy group” to π n (X)(P ) = [P+ ∧ S n , X]G .

ASTÉRISQUE 348

(1029)

KERVAIRE INVARIANT ONE

85

Bredon cohomology with coefficients in a Mackey functor M is characterized by 0 n ∞ isomorphisms HG (Σ∞ + A; M ) = M (A) and HG (Σ+ A; M ) = 0 for n 6= 0, natural in A ∈ MG , and is represented by a G-spectrum HM . It may be computed from a G-CW structure by means of a cellular cochain complex constructed in the usual way ∗ [22]. It follows for example that HG (X; Z) = H ∗ (X/G; Z). There is of course also Bredon homology H∗G (X; M ) = π∗G (X ∧ HM ). The construction of Eilenberg-Mac Lane spectra is compatible with restriction and induction, so the Wirthmüller and Frobenius isomorphisms imply for K ⊆ H that (17)

∼ K H∗G (IndG K X; Z) = H∗ (X; Z) .

7. SLICE CELLS AND THE SLICE SPECTRAL SEQUENCE The key to proving the Gap and Periodicity Properties is the identification of an appropriate equivariant analogue of the Postnikov system. We begin by recalling the Postnikov system in an appropriate form. See [11, 16] for details. Let T c be the category of path-connected pointed spaces. For n ≥ 0 let T c≤n be the class of spaces A such that map∗ (S q , A) is contractible for all q > n. (It is equivalent to require that πq (A) = 0 for all q > n.) Given any X ∈ T c , there is a map p : X → P n X such that (1) P n X ∈ T c≤n and (2) p is a “ T c≤n -equivalence”: ' p∗ : map∗ (P n X, A) −→ map∗ (X, A) for any A ∈ T c≤n . The map p : X → P n X is the nth Postnikov section of X, and is well defined up to a contractible choice. Since T c≤n−1 ⊆ T c≤n , there is a natural factorization X → P n X → P n−1 X, in which the second map may be assumed to be a fibration. The fiber Pnn X of P n X → P n−1 X is a K(πn (X), n). The inverse limit of this Postnikov tower is weakly equivalent to X. The equivariant analogue employed by HHR uses a carefully chosen set of G-spectra in place of spheres, rejecting the “spheres” G/H+ ∧ S n used in the construction of G-CW complexes in favor of objects induced from a restricted class of representation spheres. Let ρ = ρK denote the regular representation of K on RK. Definition 7.1. — A slice cell is a G-spectrum weakly equivalent to either mρK mρK IndG (the “regular” case) or S −1 ∧ IndG (the “irregular” case) for KS KS some subgroup K of G and some m ∈ Z. The slice cell is isotropic if K 6= 1. The underlying homotopy type of a slice cell is a wedge of spheres of dimension m|K| or m|K| − 1, and this number is declared to be its dimension. b to indicate a slice cell. The relationship between slice cells and HHR use “ S” equivariant spheres begins with the elementary observation that a slice cell of

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

86

H. MILLER

dimension n admits the structure of a finite G-CW complex with cells in dimensions k with bn/|G|c ≤ k ≤ n if n ≥ 0 (18) n ≤ k ≤ bn/|G|c if n < 0 . We get an important vanishing result if G is a cyclic 2-group. b where Proposition 7.2 (Cell Lemma). — For any regular isotropic C2n -slice cell S, C2n b 2n is a power of 2, we have Hj (S; Z) = 0 for −3 ≤ j ≤ −1. mρ2k Proof. Suppose Sb = Ind2n . If m ≥ 0 the result is clear. If m < 0 we use 2k S C2n b (17) to see that Hj (S; Z) = HjC2k (S mρ2k ; Z). An equivariant form of SpanierWhitehead duality then implies that HjC2k (S mρ2k ; Z) = HC−j2k (S −mρ2k ; Z). Now the C2k -CW structure on representation spheres discussed in §6.1 readily implies that these groups are zero for −3 ≤ j ≤ −1. 

Slice cells restrict well: Given subgroups H and K of G, we see from (10) that G mρH is a wedge of slice cells. They induce well: if K ⊆ H then ResG K IndH S H mρK ∼ mρK IndG = IndG KS H IndK S

,

mρK ∼ −1 mρK −1 ∧ IndH ) = S ∧ IndG . IndG KS KS H (S

Slice cells do not have good multiplicative properties unless G is abelian. In that case (11) shows that (19)

cρH∩K bρK ∼ aρH ∧ IndG IndG = [G : H + K]IndG H∩K S KS HS

where c = a[H : H ∩ K] + b[K : H ∩ K], so a smash product of regular slice cells splits as a wedge of regular slice cells. Even in the abelian case smash products of irregular slice cells are not wedges of slice cells. G We now imitate the construction of the Postnikov system. Let S ≤n be the class of b A) is equivariantly contractible for all slice cells Sb objects A of S G such that S G (S, b A]G = 0 for all slice cells Sb with with dim Sb > n. (It’s equivalent to require that [S, dim Sb > n.) Given any X ∈ S , there is an equivariant map p : X → P n X such that G

G G (1) P n X ∈ S ≤n and (2) p is an “ S ≤n -equivalence”: p∗ : S G (P n X, A) → S G (X, A) is G an equivariant weak equivalence for any A ∈ S ≤n . The map p : X → P n X is the nth slice section of X. These functors assemble into a natural tower of fibrations, the slice tower, whose inverse limit is weakly equivalent to X. The fiber of P n X → P n−1 X is written Pnn X and is called the n-slice of X. The slice cells available in a given dimension vary with the dimension, but (12) implies that smashing with S mρG induces a bijection between homotopy types of slice cells in dimension t and dimension t + m|G|. From this one deduces natural equivalences

(20)

ASTÉRISQUE 348

'

S mρG ∧ P t X −→ P t+m|G| (S mρG ∧ X)

(1029)

KERVAIRE INVARIANT ONE

87

compatible with the projection maps. Also, since slice cells restrict to wedges of slice cells, the restriction of the slice tower for X to a subgroup H ⊆ G is the slice tower of ResG H X. In particular the underlying tower of spectra is the Postnikov tower. Unfortunately, slices can be quite complicated and may not be “Eilenberg-Mac Lane objects” in any reasonable sense. This is because S n (with trivial action) is usually not a slice cell. But S 0 and S −1 are (take m = 0 and K = 1 in Definition 7.1), and −1 this implies that P−1 X = Hπ −1 (X). Zero-slices are also of the form HM . The n-slice of an n-dimensional slice cell Sb can be computed: Pnn Sb = HZ ∧ Sb if Sb is regular, and e ∧ Sb if Sb is irregular. In general, (18) leads to the conclusion that if X is Pnn Sb = H A an n-slice then π k (X) = 0 unless bn/|G|c ≤ k ≤ n if n ≥ 0 (21)

n ≤ k ≤ b(n + 1)/|G|c if n < 0 .

The slice spectral sequence is obtained by applying equivariant homotopy to the slice tower. HHR index it as G G E2s,t = πt−s (Ptt X) =⇒ πt−s (X) .

This indexing is in accord with that of the Atiyah-Hirzebruch spectral sequence, but HHR prefer to display it as one does the Adams spectral sequence, drawing t − s horizontally and s vertically. In this display, (21) implies that the spectral sequence is nonzero only in two wedges, in the northeast and southwest quadrants, bounded by lines of slope 0 and |G| − 1.

8. THE SLICE THEOREM 8.1. Purity Since slices are not generally Eilenberg-Mac Lane objects, the E2 term of the slice spectral sequence is not generally expressible in terms of homology. However, the key observation of HHR is that the slices of the crucial C2n -spectrum MU(n) are extremely well behaved. Here is the definition. ct of Definition 8.1. — A G-spectrum X is pure if for every t there is a wedge W t ct . t-dimensional regular slice cells and an equivariant weak equivalence Pt X ' HZ∧ W A pure G-spectrum is isotropic if all these slice cells are isotropic. ct , then in the slice spectral sequence If X is pure and Ptt X ' HZ ∧ W G G ct ; Z) . E2s,t = πt−s (Ptt X) = Ht−s (W

Pure G-spectra have a number of attractive features, among them:

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

88

H. MILLER

Lemma 8.2. — If X and Y are pure and f : X → Y is such that ResG 1 f is a weak equivalence then f is a weak equivalence.

The proof is an induction on the order of G. Lemma 8.3. — If X is an isotropic pure C2n -spectrum, where 2n is a power of 2, then πjC2n (X) = 0

for

− 3 ≤ j ≤ −1 .

For the proof, just feed the Cell Lemma 7.2 into the slice spectral sequence. The slice filtration in general does not have good multiplicative properties, but for pure spectra it does: Proposition 8.4. — If X and Y are pure G-spectra, there is a pairing of slice spectral sequences Er (X) ⊗ Er (Y ) → Er (X ∧ Y ) compatible with the pairing in homotopy. The mainspring of the HHR approach is contained in the following theorem. Theorem 8.5 (Slice Theorem). — If 2n is a power of 2, then the C2n -spectrum MU(n) is pure and isotropic. Notice that (20) implies that if X is pure and isotropic then so is any suspension S lρG ∧ X. This motivates the type of localization used to construct L from MU(n) . If R is a G-ring-spectrum we may use an equivariant map D : S lρG → R to form a telescope (22)

R → S −lρG ∧ R → S −2lρG ∧ R → · · · .

The direct limit is written D−1 R. When G is a cyclic 2-group and R is pure and isotropic, the Cell Lemma 7.2 implies that πjG (D−1 R) = 0 for −3 ≤ j ≤ −1. So the Slice Theorem has the following corollary. Corollary 8.6 (Gap Theorem). — Let the number 2n be a power of 2 and (2n) let D : S lρ2n → MU(n) be any equivariant map. Then πj (D−1 MU(n) ) = 0 for −3 ≤ j ≤ −1. The spectrum L will be of the form D−1 MU(n) with n = 4 and D a certain map chosen to make the other parts of Theorem 2.1 work out.

ASTÉRISQUE 348

(1029)

89

KERVAIRE INVARIANT ONE

8.2. Refinements—proving the Slice Theorem The proof of the Slice Therem is the heart of this work. HHR begin by approximating MU(n) by a wedge of slice cells, by means of a “refinement.” c of slice cells together A refinement of the homotopy of a G-spectrum X is a wedge W c → X for which there exists a map of graded abelian with an equivariant map α : W c c groups H∗ (W ; Z) → π∗ (W ) such that c ; Z) H∗ (W ∼ =

z π∗ (X) o

id

 c) π∗ (W

α∗

h

& c ; Z) / H∗ (W

commutes. Here h denotes the Hurewicz map. If X is a G-ring-spectrum, the c is equipped with a G-ring-spectrum structure for refinement is multiplicative if W which α is multiplicative. For example, algebra generator of π∗ (MU) in dimension 2j can be chosen to be restriction to the trivial group of a C2 -equivariant map S jρ2 → MU. It follows that ^ _ c (1) = S ijρ2 → MU α1 : W j>0 i≥0

(where the infinite smash product is the “weak smash,” the homotopy colimit over finite sub smash products) is a multiplicative refinement of homotopy. Note that c (1) is regular and isotropic. W HHR use the theory of formal groups to define certain equivariant homotopy classes (2n)

rj

(23)

(n) : S jρ2 → Res2n 2 MU

with a variety of properties making them central actors in this work. Using the internal norm (13) they lead to classes (24)

(2n)

gj = N 2n 2 rj

N rj

P

(n) : S jρ2n ' N22n S jρ2 −→ N22n Res2n −→ MU(n) 2 MU (2n)

which play an important role. When j = 2k − 1 this composite is written ∆k or ∆k . (n) Using the C2n -ring-spectrum structure of Res2n , the classes rj give a 2 MU C2n -ring-spectrum map ^ _ (n) S ijρ2 → Res2n . 2 MU j>0 i≥0

Apply the norm to this map, and compose with the adjunction (13) to get a map Ñ é ^ _ c (n) = N22n αn : W S ijρ2 → MU(n) . j>0 i≥0

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

90

H. MILLER

The distributivity formula (16) implies é Ñ _ _ |f |ρStab(f ) IndG N22n S iρ2 ∼ = Stab(f ) S i≥0

f ∈F

and this is a wedge of regular slice cells, isotropic since C2 is normal in C2n . Thus by c (n) is a wedge of regular isotropic slice cells. (19) and multiplicativity of the norm, W HHR prove, starting from (6), that αn is a multiplicative refinement of homotopy. They develop a “method of polynomial algebras” filling out the following argument. c (n) and I t for the wedge of all the slice cells in A of Write A for the ring spectrum W dimension at least t. We have a tower under A · · · → A/I 3 → A/I 2 → A/I 1 = S 0 . ct = I t /I t+1 in this tower is a wedge of slice cells of dimension t if t is The fiber W even, and is contractible if t is odd. The tower maps to the slice tower of R = MU(n) , and so extends to a map of towers of R-module-spectra ···

/ R ∧A A/I 3

/ R ∧A A/I 2

/ R ∧A A/I 1

···

 / P 2R

 / P 1R

 / P 0R .

A characterization of the slice tower implies that this is an equivalence of towers. On the fibers, the maps are ' ct = R ∧A I t /I t+1 −→ R ∧A W Ptt R .

The action of A on the quotient I t /I t+1 factors though the augmentation A → S 0 , so ' ct −→ (R ∧A S 0 ) ∧ W Ptt R .

We can now deduce the Slice Theorem 8.5 from the following key fact. Theorem 8.7 (Reduction Theorem). — Let A → R be the multiplicative refinement of homotopy of R = MU(n) constructed above, and suppose that n is a power of 2. Then R ∧A S 0 ' HZ. The proof of the Reduction Theorem is a fairly elaborate induction, which we will not attempt to summarize in this report. The case n = 1 is due to Hu and Kriz [17], and motivic analogues were known to Hopkins and Morel.

ASTÉRISQUE 348

(1029)

KERVAIRE INVARIANT ONE

91

9. THE FIXED POINT THEOREM The Detection Property pertains to a homotopy fixed point set while the Gap Property deals with certain equivariant homotopy groups and hence pertain to an actual fixed point set. The task of unraveling the relationship between these two constructions in various settings has been a common one in modern homotopy theory (Thomason, Carlsson, . . . ), and this task plays a role here too. Let F be a family of subgroups of G, i.e. a set of subgroups closed under conjugation and passage to subgroups. An elementary construction yields a G-CW complex E F characterized up to equivariant homotopy equivalence by (E F )H ' ∗ if H ∈ F

(E F )H = ∅ if H 6∈ F .

,

Denote the suspension G-spectra of these G-spaces with disjoint basepoint adjoined by E F + . We have the important cofibration sequences ‹F . E F + → S0 → E Two families are of special importance: the family {1}, and the family of proper 0 for the corresponding G-spaces. Thus EG is subgroups. Write E = EG and E 0 = EG the usual free contractible G-CW complex. For a G-spectrum X and a subgroup H ⊆ G one has the categorically defined fixed point sub-object X H = mapG (G/H, X) = mapH (∗, ResG H X). The homotopy fixed point spectrum is X hG , where X h = map(EG , X). The question arises of when the map i : X → X h induced by EG → ∗ is a weak G-equivalence. The tool for attacking this question is the map of cofiber sequences E+ ∧ X

/X

 E+ ∧ X h

 / Xh

i

‹∧ X /E  ‹ ∧ Xh . /E

The left vertical map is automatically an equivalence, since ResG 1 i is a weak equivalence and E is entirely built from free G-cells. It remains to analyze the map ‹ ∧ i. E This analysis is carried out using the “geometric fixed point construction” 0 H ΦH X = (EH ∧ ResG H X) .

In many ways ΦH behaves the way one expects a fixed point construction to behave. It preserves weak G-equivalences. If X is a G-spectrum and T a G-space G then ΦG (X ∧ T ) ' ΦG (X) ∧ T G . In particular ΦG S W ' S W , so, for H ⊆ G,

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

92

H. MILLER

ΦH S mρG ' S m[G:H] . It interacts well with the norm, as well (up to cofibrancy issues): G for a G-spectrum X and subgroup H ⊆ G, ΦG NH X ' ΦH X. An easy induction implies that if X is geometrically free—that is, ΦH X ' ∗ for all ‹ ∧ X ' ∗. nontrivial subgroups H ⊆ G—then E ‹ ∧ X h is contractible, To obtain a condition under which the “Tate spectrum” E ‹∧ R ' ∗ note that if R is a G-ring-spectrum and M an R-module-spectrum, then E ‹ implies E ∧ M ' ∗. Since the R-module structure on M induces one on M h , we can conclude: Lemma 9.1. — If the G-ring-spectrum R is geometrically free, then i : M → M h is a weak G-equivalence for any R-module-spectrum M . HHR wish apply this to the G-ring-spectrum L = D−1 MU(n) (with G = C2n , 2n a power of 2). This puts a constraint on D : S mρ2n → MU(n) . To express it succinctly it is convenient to regard π0 ( S G (S V , X)) as a homotopy group of the G-spectrum X in “dimension” V : πVG (X). With care one can allow V to be a virtual representation. If X is a G-ring-spectrum then we obtain a graded ring, graded by the real representation ring RO(G). One has Φ(2) MU ' MO, the unoriented Thom spectrum; so Φ(2n) MU(n) ' MO. Among the properties of the generators described in (23) is this: if we apply Φ(2n) to the composite (24) we get classes in πj (MO) which are zero for j = 2k − 1 and (2m) indecomposable otherwise. So Φ(2m) ∆k = 0. The adjunction morphism (14) provides us with a C2m -ring-spectrum map (n) (m) ∼ 2n MU(m) → Res2n . = Res2n 2m N2m MU 2m MU

(25)

(2m)

(n) 2n ) be divisible by (the Using it we may ask that Res2n 2m D ∈ π(ln/m)ρ2m (Res2m MU (2m)

image of) ∆k

(2m)

(2m)

∈ π(2k −1)ρ2m (MU(m) ). Note that the adjunction implies that ∆k (2m)

2n divides Res2n 2m N2m ∆k

(2n)

∈ π(2k −1)ρ2n (MU(n) ) in this sense.

Lemma 9.1 implies the following theorem (in which L = D−1 MU(n) ). Theorem 9.2 (Fixed Point Theorem). — Let 2n be a power of 2, and assume that (2n) D ∈ πlρ2n (MU(n) ) has the following property: For every divisor m of n, Res2n 2m D (2m)

is divisible by ∆k for some k. Then L → Lh is a weak C2n -equivalence, and π∗C2n (L) → π∗ (LhC2n ) is an isomorphism.

ASTÉRISQUE 348

(1029)

KERVAIRE INVARIANT ONE

93

10. THE PERIODICITY THEOREM Our candidate for L is L = D−1 MU(n) for a suitable choice of n (a power of 2) and D ∈ πlρ2n (MU(n) ). The Periodicity Property will follow from the construction (2n) of an element of ω ∈ π2nj (L) (for 2n = 8 and j = 32) that restricts to a (2n)

unit in π2nj (Res1 L). For: Such an element ω determines an equivariant map ω : S 2nj ∧ L → L which is a weak equivalence of underlying spectra and hence induces a weak equivalence S 2nj ∧ LhC2n → LhC2n ; this is the Periodicity Property. (By the Slice Theorem 8.5, L is pure, so by Lemma 8.2 the map ω is actually an equivariant weak equivalence.) Since we are inverting D, any divisor of D becomes a unit in RO(C2n )-graded equivariant homotopy. The problem is to find a unit with integral grading. HHR (2n) (2n) (2n) start with the class ∆1 = N 2n ∈ πρ2n (MU(n) ), and arrange D to be divisible 2 r1 by it. They then work hard (and impose further restrictions on D) to find a class (2n) v ∈ πj(2n−ρ2n ) (D−1 MU(n) ), for some j, that restricts to 1 ∈ π0 (Res1 D−1 MU(n) ). (2n)

Then ω = (∆1 )j v ∈ π2nj (L) will serve the purpose. The size of j determines how many Kervaire invariant one classes are allowed to survive. The construction of the class v begins with the “orientation class” G (HZ) uV ∈ HdG (S V ; Z) = πdG (S V ∧ HZ) = πd−V

of an oriented G-representation V of dimension d. This class satisfies the identities (26) uU ⊕V = uU · uV

,

G uResG V = ResH uV H

,

G uIndG dim W · N H uW W = uIndG H H

G in which N G H refers to the internal norm described in (4). In particular, uV ∈ πd−V (HZ) restricts to 1 ∈ π0 (HZ). Note that twice any representation admits an orientation.

First consider the “sign” representation σ = σ2n of C2n , the pullback of the usual sign representation under the unique surjection C2n → C2 . We have the orientation (2n) class u2σ ∈ π2 (S 2σ ∧ HZ), and we wonder first whether it, or some power of it, lifts (2n) to a class in π2 (S 2σ ∧ MU(n) ). The slice spectral sequence provides potential obstructions to lifting a class from HZ = P 0 MU(n) to MU(n) . Since the class of interest is not an integral grading we have to apply RO(G)-graded homotopy to the slice tower. There results family of spectral sequences indexed by V , d+t G G (Pd+t X) =⇒ πt−s+V (X) . E2s,t+V = πt−s+V

If the spectrum X is pure, the multiplicative structure ties them all together. Thus we can regard u2σ as an element of E20,2−2σ . HHR need some other classes to express differentials on this class. For any G-representation V , the inclusion of

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

94

H. MILLER

the trivial subspace defines a G-map S 0 → S V . If V G 6= 0 then this G-map is nullhomotopic, but in general it is not; it defines an “Euler class” G aV ∈ π0G (S V ) = π−V (S 0 ) . (2n)

(2n)

Write a for the Hurewicz image of aσ : a ∈ π0 (S σ ∧ HZ) = π−σ (HZ); so a ∈ (2n) E21,1−σ . It survives to the MU(n) Hurewicz image of aσ in π−σ (MU(n) ). Finally, let b = 1 ∧ aρ : S 1 → S ρ2n , where ρ denotes the reduced regular representation of C2n . Composing bj with the class gj defined in (24) gives (2n) (2n−1)j,2nj gj bj ∈ πj (MU(n) ), represented by a class fj ∈ E2 (because S jρ2n is a slice cell of dimension 2nj). No power of u2σ survives the slice spectral sequence, by virtue of the following computation (due in case n = 1 to Araki (unpublished) and Hu and Kriz [17]). Proposition 10.1. — Let 2n be a power of 2. In the RO(C2n )-graded slice spectral k−1 sequence for MU(n) , u22σ survives to Er with r = 1 + 2n(2k − 1), and k−1

dr u22σ

k

= a2 f2k −1 6= 0 .

These very differentials imply the survival of certain multiples of these classes, (2n) (2k −1)ρ2n however. The element ∆k = N 2n ∧ MU(n) → 2 r 2k −1 (cf (24)) defines a map S MU(n) , via the G-ring-spectrum structure of MU(n) , which is compatible with the slice tower and gives a map of slice spectral sequences. A simple identity shows that k the target of the differential on u22σ is killed by ∆k . This is the last differential that k can be nonzero on ∆k u22σ , so that class survives in the slice spectral sequence. This k implies that the image of u22σ survives in the localization of the slice spectral sequence k0 obtained by inverting ∆k , and so u22σ does too for k 0 ≥ k. (2n)

The class ∆1 involves the regular representation, not the sign representation. Fortunately, the internal norm (4) provides a relation between their orientation classes. Since ρ2 = 1 ⊕ σ2 , u2ρ2 = u2σ2 . Using the equations IndG H ρH = ρG and 1 = 1 ⊕ σ , one sees that Ind2n 2n n u2ρ4 = u42σ4 · N 42 u2ρ2

,

u2ρ8 = u82σ8 · N 84 u2ρ4

and so on. Thus k

k+3

k+2

k

u22ρ8 = u22σ8 · N 84 u22σ4 · N 42 u22σ2




will survive in the localized slice spectral sequence provided that (8)

divides Res88 D

for some

k3 ≤ k + 3

(4)

divides Res84 D

for some

k2 ≤ k + 2

(2)

divides Res82 D

for some

k1 ≤ k .

∆k 3 (27)

∆k 2 ∆k 1

ASTÉRISQUE 348

(1029)

95

KERVAIRE INVARIANT ONE

k

(8)

Any element v ∈ π2k+1 (8−ρ8 ) (D−1 MU(4) ) represented by u22ρ8 will restrict to 1 in the (8)

group π0 (Res1 D−1 MU(4) ). Taking (8)

k+1

ω = (∆1 )2

v ∈ π2k+4 (L)

will then give us the Periodicity Property.

11. WRAP-UP Proof of Theorem 2.1. The spectrum L is D−1 MU(n) . We have now accumulated several requirements on 2n (a power of 2) and D: (2n)

– The Gap Property requires that D ∈ πlρ2n (MU(n) ) for some l. – The Fixed Point Property requires that for each divisor m of n there exists k (2m) such that ∆k divides Res2n 2m D. (8) – The Periodicity Property requires, for n = 4, that D satisfies (27) and that ∆1 divides D. – The Detection Property requires that n ≥ 4 and for n = 4 that D satisfies (27) for certain values of k1 , k2 , k3 . A calculation verifies that this last requirement is met by k1 = 4, k2 = 2, k3 = 1 (2m) 2n (2m) , we can take and no smaller values. Recalling that ∆k divides Res2n 2m N2m ∆k k = 4 and (2)

(4)

(8)

D = N28 ∆4 · N48 ∆2 · ∆1 (8)

(8)

∈ π19ρ8 (MU(4) ) . (8)

Then v ∈ π2k+1 (8−ρ8 ) (D−1 MU(4) ) with 2k+1 = 32, so ω = (∆1 )32 v ∈ π256 (L).



Acknowledgments This material is based upon work supported by the National Science Foundation under Grant No. 0905950.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

96

H. MILLER

REFERENCES [1] J. F. Adams – “On the non-existence of elements of Hopf invariant one”, Ann. of Math. 72 (1960), p. 20–104. , Stable homotopy and generalised homology, University of Chicago Press,

[2] 1974.

[3] M. G. Barratt, J. D. S. Jones & M. E. Mahowald – “Relations amongst Toda brackets and the Kervaire invariant in dimension 62”, J. London Math. Soc. 30 (1984), p. 533–550. [4]

, “The Kervaire invariant and the Hopf invariant”, in Algebraic topology (Seattle, Wash., 1985), Lecture Notes in Math., vol. 1286, Springer, 1987, p. 135– 173.

[5] M. G. Barratt, M. E. Mahowald & M. Tangora – “Some differentials in the Adams spectral sequence. II”, Topology 9 (1970), p. 309–316. [6] W. Browder – “The Kervaire invariant of framed manifolds and its generalization”, Ann. of Math. 90 (1969), p. 157–186. [7] E. H. J. Brown – “Generalizations of the Kervaire invariant”, Ann. of Math. 95 (1972), p. 368–383. [8] J. D. Christensen – “Ideals in triangulated categories: phantoms, ghosts and skeleta”, Adv. Math. 136 (1998), p. 284–339. [9] R. L. Cohen, J. D. S. Jones & M. E. Mahowald – “The Kervaire invariant of immersions”, Invent. Math. 79 (1985), p. 95–123. [10] L. Evens – “A generalization of the transfer map in the cohomology of groups”, Trans. Amer. Math. Soc. 108 (1963), p. 54–65. [11] E. D. Farjoun – Cellular spaces, null spaces and homotopy localization, Lecture Notes in Math., vol. 1622, Springer, 1996. [12] P. G. Goerss & M. J. Hopkins – “Moduli spaces of commutative ring spectra”, in Structured ring spectra, London Math. Soc. Lecture Note Ser., vol. 315, Cambridge Univ. Press, 2004, p. 151–200. [13] J. P. C. Greenlees & J. P. May – “Localization and completion theorems for M U-module spectra”, Ann. of Math. 146 (1997), p. 509–544. [14] M. Hazewinkel – Formal groups and applications, Pure and Applied Mathematics, vol. 78, Academic Press Inc., 1978. [15] M. A. Hill, M. J. Hopkins & D. C. Ravenel – “On the non-existence of elements of Kervaire invariant one”, preprint arXiv:0908.3724. [16] P. S. Hirschhorn – Model categories and their localizations, Mathematical Surveys and Monographs, vol. 99, Amer. Math. Soc., 2003.

ASTÉRISQUE 348

(1029)

KERVAIRE INVARIANT ONE

97

[17] P. Hu & I. Kriz – “Real-oriented homotopy theory and an analogue of the Adams-Novikov spectral sequence”, Topology 40 (2001), p. 317–399. [18] J. D. S. Jones & E. Rees – “Kervaire’s invariant for framed manifolds”, in Algebraic and geometric topology (Proc. Sympos. Pure Math., Stanford Univ., Stanford, Calif., 1976), Part 1, Proc. Sympos. Pure Math., XXXII, Amer. Math. Soc., 1978, p. 141–147. [19] M. A. Kervaire – “A manifold which does not admit any differentiable structure”, Comment. Math. Helv. 34 (1960), p. 257–270. [20] M. A. Kervaire & J. W. Milnor – “Groups of homotopy spheres. I”, Ann. of Math. 77 (1963), p. 504–537. [21] J. E. Lannes – “Sur l’invariant de Kervaire des variétés fermées stablement parallélisées”, Ann. Sci. École Norm. Sup. 14 (1981), p. 183–197. [22] G. Lewis, J. P. May & J. McClure – “Ordinary RO(G)-graded cohomology”, Bull. Amer. Math. Soc. (N.S.) 4 (1981), p. 208–212. [23] M. E. Mahowald – “Some remarks on the Kervaire invariant problem from the homotopy point of view”, in Algebraic topology (Proc. Sympos. Pure Math., Vol XXII, Univ. Wisconsin, Madison, Wis., 1970), Amer. Math. Soc., 1971, p. 165– 169. [24] , “A new infinite family in 2 π∗s ”, Topology 16 (1977), p. 249–256. [25] M. E. Mahowald & M. Tangora – “On secondary operations which detect homotopy classes”, Bol. Soc. Mat. Mexicana 12 (1967), p. 71–75. [26] M. A. Mandell & J. P. May – “Equivariant orthogonal spectra and Smodules”, Mem. Amer. Math. Soc. 159 (2002). [27] J. P. May – “The cohomology of restricted Lie algebras and of Hopf algebras: application to the Steenrod algebra”, Ph.D. Thesis, Princeton University, 1964. [28] H. R. Miller – “On relations between Adams spectral sequences, with an application to the stable homotopy of a Moore space”, J. Pure Appl. Algebra 20 (1981), p. 287–312. [29] H. R. Miller, D. C. Ravenel & W. S. Wilson – “Periodic phenomena in the Adams-Novikov spectral sequence”, Ann. of Math. 106 (1977), p. 469–516. [30] S. P. Novikov – “Methods of algebraic topology from the point of view of cobordism theory”, Izv. Akad. Nauk SSSR Ser. Mat. 31 (1967), p. 855–951. [31] D. G. Quillen – Homotopical algebra, Lecture Notes in Math., No. 43, Springer, 1967. [32] , “Elementary proofs of some results of cobordism theory using Steenrod operations”, Advances in Math. 7 (1971), p. 29–56. [33] D. C. Ravenel – “The non-existence of odd primary Arf invariant elements in stable homotopy”, Math. Proc. Cambridge Philos. Soc. 83 (1978), p. 429–443.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

98

[34]

H. MILLER

, Complex cobordism and stable homotopy groups of spheres, vol. 347, AMS Chelsea Publishing, 2004.

[35] C. Rezk – “Notes on the Hopkins-Miller theorem”, in Homotopy theory via algebraic geometry and group representations (Evanston, IL, 1997), Contemp. Math., vol. 220, Amer. Math. Soc., 1998, p. 313–366. [36] J. S. P. Wang – “On the cohomology of the mod − 2 Steenrod algebra and the non-existence of elements of Hopf invariant one”, Illinois J. Math. 11 (1967), p. 480–490.

Haynes MILLER Mass. Institute of Technology Department of Mathematics 77 Massachusetts Avenue Cambridge, MA 02139–4307 – U.S.A. E-mail : [email protected]

ASTÉRISQUE 348

348

ASTÉRISQUE 2012

SÉMINAIRE BOURBAKI VOLUME 2010/2011 EXPOSÉS 1027-1042 (1030) Analyticité discrète du modèle d’Ising Wendelin WERNER

SOCIÉTÉ MATHÉMATIQUE DE FRANCE Publié avec le concours du CENTRE NATIONAL DE LA RECHERCHE SCIENTIFIQUE

Séminaire BOURBAKI 63e année, 2010-2011, no 1030, p. 100 à 117

Novembre 2010

ANALYTICITÉ DISCRÈTE DU MODÈLE D’ISING [d’après Stanislav Smirnov] par Wendelin WERNER

1. INTRODUCTION La notion de fonction harmonique sur un graphe a un sens simple et naturel (la valeur de la fonction en un point est égale à la moyenne de la fonction aux sites voisins), et pour des graphes plans simples comme les portions du graphe Z2 , il est en fait facile de définir sa fonction harmonique conjuguée, et de définir des fonctions « holomorphes discrètes ». Ce sont en quelque sorte les fonctions qui vérifient, en tous points, des versions discrétisées des équations de Cauchy-Riemann. Par exemple, lorsque la fonction complexe F est définie sur une portion du graphe carré Z2 que l’on plonge dans C, la relation discrète sera du type F (z + i) − F (z + 1) = i(F (z + i + 1) − F (z)). Rappelons qu’une interprétation des équations de Cauchy-Riemann ordinaires consiste à dire qu’une fonction est analytique en z si son gradient dans la direction i − 1 est égal à i fois son gradient dans la direction i + 1. On utilisera dans ce texte le terme « analyticité discrète » pour décrire de telles fonctions, ce qui est un tout petit peu impropre car, dans le continu, l’analyticité fait plus référence au fait que la fonction est localement une série entière (et cette approche ne se généralise pas aisément au cas discret). Une question qui a toujours occupé les mathématiciens purs ou appliqués est de chercher à comprendre comment les structures continues peuvent être approchées par des structures discrètes. Les propriétés des fonctions analytiques (dans le continu, ainsi que sur des graphes) concernant par exemple les intégrales de contour permettent relativement simplement de voir les fonctions analytiques comme limites de fonctions analytiques discrètes sur des réseaux de plus en plus fins, et inversement de vérifier que certaines suites de fonctions analytiques discrètes convergent nécessairement (en

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

100

W. WERNER

un sens ad hoc) vers une fonction analytique continue. Cette thématique remonte au moins jusqu’aux travaux de Jacqueline Ferrand dans les années 1940, voir [8]. Les travaux récents de Stanislav Smirnov (dont plusieurs sont en collaboration avec Dmitry Chelkak) ont montré que les problèmes issus de la physique statistique sur réseau constituent un champ d’application privilégié et spectaculaire de ce type d’idées classiques. En fait, il s’avère que l’étude de ces modèles donne précisément de « bonnes » voies pour définir ces approximations discrètes de manière élégante (il est par exemple possible de montrer simplement le théorème de Riemann à partir de considérations élémentaires sur les pavages de domaines plans par des dominos). Nous allons dans le présent texte principalement détailler une partie de la preuve de « l’invariance conforme du modèle d’Ising » en suivant les arguments de l’article [24] de Stanislav Smirnov. On peut décomposer cette preuve en plusieurs étapes : – La première consiste à reformuler la question initiale concernant le modèle d’Ising via certains modèles de familles de boucles aléatoires. – La seconde étape, qui sera celle sur laquelle nous insisterons le plus, est de montrer que certaines fonctions définies comme des espérances de certaines quantités (pour ces modèles de boucles) sont en fait exactement analytiques discrètes. – Ensuite, il faut exploiter cette analyticité discrète et montrer que, lorsque la maille du réseau tend vers 0, ces fonctions analytiques discrètes convergent vers une certaine fonction analytique continue. – Finalement, il faut utiliser ce résultat, un peu comme un ouvre-boîte, pour décrire le comportement complet du système (et pas uniquement ces fonctions particulières) lorsque la maille du réseau tend vers 0. Chacune des trois dernières étapes s’avère non-triviale. La dernière requiert en fait des techniques différentes, ainsi que l’introduction des processus de Loewner-Schramm (SLE) dont nous ne parlerons pas du tout ici. Afin d’éviter que le lecteur non-initié ne se perde dans les définitions de nombreux modèles probabilistes discrets, nous avons choisi de ne pas commencer par présenter la première étape, mais de définir directement le modèle de boucles aléatoires et les fonctionnelles particulières qu’il est possible de définir dans ce cas, et nous reviendrons très brièvement à la fin de ce texte sur la définition du modèle d’Ising et le lien entre celui-ci et ces modèles de boucles.

2. LE MODÈLE DE BOUCLES On se donne une portion simplement connexe d’un réseau carré de type δZ2 . Chaque petite face carrée est alors remplie avec l’un des deux dessins suivants :

ASTÉRISQUE 348

(1030)

ANALYTICITÉ DISCRÈTE DU MODÈLE D’ISING

101

Ainsi, le remplissage d’un domaine donne une configuration avec des chemins ouverts et des boucles comme dans la figure 1. On cherche alors à décrire la géométrie

Figure 1. Un domaine et une configuration.

des courbes obtenues et à obtenir des informations qui permettront de contrôler le passage à la limite lorsque le domaine devient très grand (et la maille du réseau est fixée) ou lorsque la maille du réseau tend vers 0 (et le domaine est fixé). On peut fixer des conditions au bord a priori, les deux plus simples étant celles de la figure 2.

Figure 2. Les conditions au bord.

Pour chacune de ces conditions au bord, la configuration précédente devient alors une configuration formée de boucles fermées (voir la figure 3).

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

102

W. WERNER

Figure 3. Les configurations associées.

Il s’avérera en fait judicieux de choisir la condition au bord de façon à faire apparaître un chemin particulier comme dans la figure 4, en effectuant un décalage dans les conditions au bord. On voit maintenant une famille de boucles fermées et

Figure 4. La condition au bord avec décalage et la configuration associée.

un chemin γ, qui relie le point d’entrée au point de sortie que l’on s’est ainsi choisi. On peut alors étudier la géométrie de ce chemin particulier et c’est ce que nous nous attacherons dorénavant à faire. Il nous reste cependant à préciser comment choisir au hasard notre remplissage. Si l’on tirait à pile ou face indépendamment pour chaque face, on aurait le modèle de la percolation, dont l’invariance conforme asymptotique est (pour ce réseau) encore une question ouverte (la question a cependant été résolue pour un autre réseau par Smirnov [22]). Il est en fait naturel de se donner un paramètre n ≥ 0, de fixer les

ASTÉRISQUE 348

(1030)

ANALYTICITÉ DISCRÈTE DU MODÈLE D’ISING

103

conditions aux bord du domaine, et de choisir la configuration au hasard en pondérant sa probabilité en utilisant le nombre total k(ω) de boucles fermées qui apparaissent. Plus précisément, la probabilité d’une configuration ω sera proportionnelle à nk(ω) : Pn (ω) = Zn−1 nk(ω) où Zn est la constante de normalisation choisie pour que ceci soit bien une loi de probabilité. Ainsi, une configuration particulière avec 5 boucles sera n fois plus probable qu’une configuration avec 4 boucles, etc. Notons que (lorsque n 6= 1) les conditions choisies au bord du domaine influencent la loi du remplissage puisqu’elles influencent le nombre de boucles obtenues (comme dans les exemples ci-dessus). Le modèle qui attirera particulièrement notre attention √ sera celui où n = 2 (c’est celui dont nous verrons plus loin qu’il est étroitement relié au modèle d’Ising).

3. UNE OBSERVATION COMBINATOIRE Dans ce paragraphe, on va fixer un graphe et des conditions au bord avec décalage comme précédemment. On notera avec des lettres minuscules les centres des faces carrées. On notera ainsi a et b les points de départ et d’arrivée de γ. Les lettres majuscules désigneront des milieux entre deux faces adjacentes (partageant un côté entier). On peut ainsi voir ces points comme des arêtes reliant deux centres de faces. Vu comme ceci, il y a ainsi des arêtes verticales (qui relient deux faces adjacentes l’une au-dessus de l’autre) et des arêtes horizontales. Lorsque l’on choisit une configuration, chaque arête A est sur une boucle fermée ou sur le chemin ouvert γ. Si A est sur γ, alors γ passe par A avec la direction donnée par A (horizontale si A est horizontal, etc.).

Figure 5. Quatre faces, les sites et arêtes correspondants, un exemple de parcours de γ.

Observons que pour des raisons de parité (car le chemin γ tourne à chaque pas), pour une arête donnée A, le sens dans lequel γ peut parcourir cette arête est prescrit une fois donnés le graphe et les conditions au bord. Par exemple, si pour

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

104

W. WERNER

une configuration donnée, γ passe par A en allant de la gauche vers la droite (si on oriente γ de a vers b) alors il en sera de même pour toutes les configurations pour lesquelles γ passe par A (une manière simple de s’en convaincre est de colorier les points de δZ2 , c’est-à-dire les coins des faces initiales, en deux couleurs comme un damier et de noter que γ laisse toujours une même couleur « à sa droite »). Dans l’exemple du domaine avec conditions au bord des figures ci-dessus, il est clair que γ doit tourner autant de fois vers la droite que vers la gauche lors de son parcours de a vers b (ceci est dû à l’orientation des arêtes issues de a et arrivant vers b, et au fait que le bord du domaine ne « tourne pas » autour de b lorsqu’on le parcourt de a vers b). Si Z est une arête du graphe par laquelle γ passe, nous venons de voir que l’orientation de γ lorsqu’elle passe en Z est toujours la même. On note W (Z → b, γ) l’angle dont tourne γ entre Z et b. On compte ainsi π/2 fois la différence entre le nombre de virages vers la gauche et le nombre de virages vers la droite. Ainsi pour une arête Z donnée qui doit être parcourue dans le même sens que celui par lequel on arrive en b (vers l’est dans notre dessin), W (Z → b, γ) est un multiple entier de 2π dès que γ passe par Z. Plus généralement, pour toute arête Z, il existe j = j(Z) dans {0, 1, 2, 3} (dépendant de l’orientation de Z et de sa « parité » par rapport à l’orientation par laquelle la courbe doit sortir en b) tel que W (Z → b, γ) ∈

jπ + 2πZ 2

pour toute configuration où γ passe par Z. Dans la suite, on va supposer que n ∈ [0, 2] et on choisit alors σ ∈ [0, 1] de sorte que 2 cos(σπ/2) = n. On définit alors la fonction
F (Z) = E 1{Z∈γ} exp(iσW (Z → b, γ)) . En d’autres termes, on pondère la probabilité pour que γ passe par Z par un nombre complexe qui dépend du nombre de tours W (Z → b, γ). Proposition 3.1. — On se donne un site z du réseau et on note N , E, S, O les quatre arêtes adjacentes à z ordonnées dans le sens des aiguilles d’une montre en partant de celle du haut. Alors on a F (N ) + F (S) = F (O) + F (E). Démonstration. — Fixons un site z et un chemin γ possible qui passe par l’une au moins des arêtes adjacentes à z. Quitte à changer le graphe par une rotation et/ou une symétrie (ou à changer les notations), on peut supposer que ce chemin γ visite O d’abord. Ainsi, γ arrive par O en se dirigeant vers z. Deux cas peuvent se produire. Soit γ ne passe que par deux des arêtes adjacentes à z, soit il les visite toutes les

ASTÉRISQUE 348

(1030)

ANALYTICITÉ DISCRÈTE DU MODÈLE D’ISING

105

quatre. Supposons par exemple que γ reparte finalement de z vers b via l’arête S. Les deux possibilités sont alors : – La courbe γ arrive via O, tourne à droite sur S et part vers b sans repasser par E ou N . – La courbe γ arrive via O, tourne à gauche sur N , revient un peu plus tard via E, tourne à gauche sur S et part vers b. Supposons que la configuration ω soit telle que le premier cas est vérifié. Alors, en ne changeant que l’état de l’arête qui passe par z, on définit une configuration ω 0 telle que le second cas est vérifié. La seule différence entre le système de boucles de ω 0 par rapport à celui de ω est que le branchement sur z est E → N et O → S au lieu de E → S et O → N . Ainsi, on ouvre la boucle de ω qui passe par N , et on la rattache à γ : clairement, pour chaque z, changer ω juste au voisinage de z définit une bijection

Figure 6. Deux configurations ω et ω 0 associées.

ω 7→ ω 0 entre les configurations ω pour lesquelles γ ne passe qu’une fois au voisinage de z et celles où γ passe deux fois au voisinage de z. Notons, pour toute arête Z, f (Z, ω) = 1Z∈γ eiσW (Z→b,γ) . Pour chaque couple (ω, ω 0 ) en correspondance, on va montrer que P (ω)(f (N, ω) + f (S, ω) − f (E, ω) − f (O, ω)) +P (ω 0 )(f (N, ω 0 ) + f (S, ω 0 ) − f (E, ω 0 ) − f (O, ω 0 )) = 0, ce qui implique immédiatement la proposition (en sommant ensuite cette identité sur tous les couples (ω, ω 0 ) pour z donné). Notons tout d’abord que P (ω)/P (ω 0 ) = n (car ω 0 a exactement une boucle de moins que ω). On note f (S, ω) = Y et on suppose que pour ω, γ arrive par O et

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

106

W. WERNER

repart par S (et ne passe pas par N et E), les autres cas étant traités de manière identique. La quantité Y dépend alors du nombre algébrique de virages effectués par γ entre S et b. Notons tout de suite que f (O, ω) vaut alors λY où λ = exp(−iσπ/2) puisque γ fait un quart de tour vers la droite en plus pour tourner de O en S. De plus f (N, ω) = f (E, ω) = 0 car γ ne passe ni par N ni par E pour ω. On va maintenant évaluer f sur ces quatre mêmes arêtes mais pour la configuration ω 0 obtenue en changeant le virage effectué au voisinage de z. Ainsi, pour ω 0 , la nouvelle courbe γ 0 arrive via O, tourne à gauche et part par N , revient via E et repart ensuite vers b via S exactement comme γ. Ainsi, f (S, ω) = f (S, ω 0 ) = Y . De plus, f (E, ω 0 ) vaut Y /λ car la courbe doit tourner une fois à gauche pour passer de E à S. De même, f (N, ω 0 ) = λ2 Y et f (O, ω 0 ) = λY . En conclusion, on a donc (en utilisant la définition de σ) n × (f (N, ω) + f (S, ω) − f (E, ω) − f (O, ω)) + (f (N, ω 0 ) + f (S, ω 0 ) − f (E, ω 0 ) − f (O, ω 0 )) = n(Y − λY ) + (λ2 Y + Y − Y /λ − λY ) = n(Y − λY ) + (Y λ(λ + 1/λ) − Y (λ + 1/λ)) = n(Y − λY ) + 2 cos(σπ/2)(λY − Y ) = 0.

4. DE L’OBSERVATION COMBINATOIRE À L’ANALYTICITÉ DISCRÈTE √ Dans le cas où n = 2 et σ = 1/2 sur lequel nous allons maintenant nous arrêter, la proposition précédente va pouvoir facilement s’interpréter comme une relation de Cauchy-Riemann discrète. Les arguments développés dans cette partie utilisent de manière importante le fait que l’on choisit cette valeur particulière de n. Notons que, pour une arête donnée Z, on a alors toujours σW (Z → b, γ) ∈ j(Z)π/4 + πZ de sorte que exp(iσW (Z → b, γ)) ∈ {eij(Z)π/4 , −eij(Z)π/4 }.

ASTÉRISQUE 348

(1030)

ANALYTICITÉ DISCRÈTE DU MODÈLE D’ISING

107

Ainsi, F (Z) est forcément colinéaire avec eij(Z)/4 et on peut interpréter |F (Z)| comme la différence de deux probabilités W (Z → b, γ) |F (Z)| = P (Z ∈ γ et b c ∈ 2Z) 2π W (Z → b, γ) −P (Z ∈ γ et b c ∈ 2Z + 1) . 2π Pour des raisons de parité, pour un site z donné, avec arêtes adjacentes notées N , E, S et O comme précédemment, les vecteurs eij(N )π/4 et eij(S)π/4 sont orthogonaux. Ainsi, si l’on pose F (z) = F (N ) + F (S) alors F (N ) est la projection de F (z) sur eij(N )π/4 , et F (S) celle sur eij(S)π/4 . Mais comme F (N ) + F (S) = F (O) + F (E) et que, de même, eij(E)π/4 et eij(O)π/4 sont orthogonaux, F (E) et F (O) sont les projections de F (z) sur ces deux vecteurs. Ceci implique en particulier la relation |F (z)|2 = |F (S)|2 + |F (N )|2 = |F (O)|2 + |F (E)|2 qui nous sera utile plus tard. Proposition 4.1. — Si z1 , z2 , z3 et z4 désignent quatre sites (de δ(Z2 + (1/2, 1/2)) autour d’une petite face carrée C, ordonnés dans le sens des aiguilles d’une montre, alors F (z3 ) − F (z1 ) = i(F (z4 ) − F (z2 )). Rappelons que cette relation est bien une relation de Cauchy-Riemann discrète pour la fonction F . Le gradient dans la direction z3 − z1 = i(z4 − z2 ) est égal à i fois celui dans la direction z4 − z2 . Preuve de la proposition. — On cherche à évaluer la somme Σ = F (z1 ) − iF (z2 ) − F (z3 ) + iF (z4 ). Pour cela, on exprime chaque F (zj ) comme combinaison linéaire des valeurs de F sur les deux arêtes du bord de C qui sont adjacentes à zj (notons que si l’on connaît la projection orthogonale d’un nombre complexe dans deux directions distinctes, on connaît ce nombre complexe ; ainsi, la donnée de F sur deux des quatre arêtes adjacentes à zj caractérise F (zj ) de manière unique et simple). Dans la somme Σ, le terme F (Z) apparaît donc deux fois pour chaque arête Z (une fois pour chaque extrémité de Z). Il est élémentaire de vérifier que, pour chaque Z, ces deux contributions de F (Z) se compensent exactement, ce qui montre que Σ = 0 et prouve la proposition.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

108

W. WERNER

5. PASSAGE À LA LIMITE Il faut ensuite exploiter cette analyticité discrète afin d’en déduire la convergence d’une fonction discrète définie à partir du modèle de boucles sur un réseau de maille δ, vers une fonction continue (analytique ou harmonique) lorsque δ → 0 et que les domaines discrets (simplement connexes) approximent un domaine continu simplement connexe donné. Voici un rapide aperçu des différentes étapes de la preuve de Smirnov [24]. 5.1. Des intégrales discrètes Comme souvent, il s’avère techniquement plus pratique de ne pas passer à la limite directement à partir des relations de Cauchy-Riemann discrètes elles-mêmes, mais d’utiliser une version “intégrée” de celles-ci (comme des intégrales de contour par exemple). Nous allons voir dans ce paragraphe que l’analyticité discrète que nous avons établie permet de définir de manière naturelle une fonction H qui est en fait un analogue discret de la partie imaginaire de la primitive de F 2 dont nous allons étudier le comportement asymptotique lorsque la maille du réseau tend vers 0. Cependant, le carré d’une fonction qui vérifie les relations de Cauchy-Riemann discrètes ne vérifie (en général) pas les relations de Cauchy-Riemann discrètes (contrairement au cas continu où le carré d’une fonction holomorphe est holomorphe). Notre fonction H ne sera pas harmonique discrète, mais nous verrons qu’il est malgré tout possible de contrôler son comportement asymptotique.

Figure 7. Des sites aux faces.

Il est possible de colorier les faces du graphe carré défini en utilisant les sites z et les arêtes sur lesquelles on a défini F comme un damier. Il y a alors deux sortes de faces : les noires et les blanches. On veut définir une fonction H discrète sur l’ensemble des faces de sorte que, pour toute paire de faces N (noire) et B (blanche), adjacentes et séparées par une arête Z, H( N ) − H( B) = |F (Z)|2 .

ASTÉRISQUE 348

(1030)

ANALYTICITÉ DISCRÈTE DU MODÈLE D’ISING

109

Pour qu’il soit possible de définir une fonction qui vérifie cette propriété pour toute paire de carrés adjacents, il faut et il suffit que la somme des incréments le long d’un chemin ne dépende que des faces de départ et d’arrivée. En fait, comme le domaine

Figure 8. Faire le tour de 4 carrés adjacents.

choisi est simplement connexe, il suffit de vérifier que, pour toute famille de quatre faces adjacentes comme sur la figure 8, la somme des quatre incréments en faisant le « tour » est nulle, c’est-à-dire que (avec des notations évidentes, où z est le site situé au centre de la figure) |F (N )|2 − |F (E)|2 + |F (S)|2 − |F (O)|2 = 0. Mais nous avions justement noté que |F (E)|2 +|F (O)|2 = |F (z)|2 = |F (N )|2 +|F (S)|2 ce qui montre donc précisément que l’on peut bien définir cette fonction H de manière univoque à partir de la donnée de H en une face. Notre premier but est de voir que H est (presque) harmonique dans le domaine considéré, en utilisant le fait que F est analytique. En fait, la fonction H ne peut pas être exactement harmonique puisque, par définition, la valeur de H sur une face noire est plus grande que sur les faces blanches adjacentes. Cependant, on va montrer grâce à l’analyticité discrète de F le résultat suivant : Lemme 5.1. — – Si f est une face noire intérieure à D, alors la moyenne de H sur les quatre faces noires ayant un coin en commun avec f est supérieure à H(f ). – Si f est une face blanche intérieure à D, alors la moyenne de H sur les quatre faces blanches ayant un coin en commun avec f est inférieure à H(f ). Notons que, par symétrie, le résultat concernant H sur les faces blanches implique celui sur les faces noires. Preuve du lemme. — On se donne donc une face blanche f intérieure à D, et on veut montrer que la moyenne des valeurs de H sur les quatre voisins blancs (i.e. les quatre faces blanches qui ont un coin en commun avec f ) est inférieure à H(f ) (on note ∆ cette différence dont nous cherchons donc à montrer qu’elle est négative). Il nous faut donc montrer que la somme des incréments de H le long des flèches

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

110

W. WERNER

Figure 9. Le laplacien discret sur les faces blanches.

orientées indiquées dans la figure 9 est négative. On note x1 , x2 eiπ/4 , ix3 et e3iπ/4 x4 les valeurs de F sur les quatre arêtes du bord de f . En utilisant la proposition 3.1 en chacun des quatre coins de f , on peut en déduire, en fonction de x1 , x2 , x3 et x4 , la valeur de F en chacune des huit arêtes dont une extrémité (et une seule) est sur le carré. Ainsi, on obtient par un calcul élémentaire que la différence ∆ recherchée vaut −4kx1 − eiπ/4 x2 + ix3 − e3iπ/4 x4 k2 , ce qui conclut la preuve du lemme. Ainsi, lorsque l’on restreint H à l’ensemble des faces blanches ou à l’ensemble des faces noires, on obtient des fonctions de laplacien négatif ou positif. En fait, les valeurs de H en deux faces adjacentes (une blanche et une noire) deviennent très proches lorsque la maille du réseau tend vers 0, ce qui expliquera pourquoi la limite de H sera en fait harmonique. Une fonction harmonique est déterminée par ses valeurs au bord de son domaine de définition (s’il est borné), et on s’intéresse par conséquent au comportement de H au bord de son domaine de définition. Rappelons qu’à ce stade la fonction H n’a en fait été définie qu’à une constante additive près. Notons d1 l’ensemble des faces blanches du bord du domaine de définition de H situées sur la partie du bord entre a et b qui va dans le sens trigonométrique direct de a vers b, et d2 l’ensemble des faces noires de l’autre partie du bord. Nous allons définir H de sorte que H = 0 sur l’une des faces blanches notée B0 de d1 . Il est facile de voir qu’alors H est nulle sur toutes les autres faces blanches de ce bord « gauche ». En effet, lorsque l’interface passe le long de l’une des arêtes qui sépare une face blanche du bord d’une face noire adjacente et dans D, alors elle passe forcément aussi le long des autres arêtes séparant cette face noire du bord blanc. Par ailleurs, γ passe forcément par a et b. Si Z désigne l’arête par laquelle γ doit arriver en b, de sorte que |F (Z)| = 1, on en déduit que H vaut 1 sur les faces noires de l’autre partie du bord (elle est constante sur les faces noires de l’autre partie du bord pour les mêmes raisons que précédemment).

ASTÉRISQUE 348

(1030)

ANALYTICITÉ DISCRÈTE DU MODÈLE D’ISING

111

5.2. Un premier théorème limite Nous allons maintenant étudier le comportement asymptotique de ces fonctions H lorsque la maille du réseau tend vers 0. Plus précisément, supposons que D soit un domaine simplement connexe borné dans C, dont le bord est constitué d’un lacet continu (ceci n’est en fait pas nécessaire mais simplifiera nos notations), et que l’on choisisse deux points distincts a et b de ∂D. Pour chaque valeur de δ, on définit une approximation Dδ simplement connexe de D dans le réseau δZ2 de maille δ. En outre, on choisit deux faces sur le bord de Dδ , que l’on appelle aδ et bδ de sorte que aδ et bδ soient proches de a et b lorsque δ est très petit.

a

b

Figure 10. L’approximation Dδ du domaine D.

Ainsi, pour chaque valeur de δ, on définit, comme dans les parties précédentes, des fonctions Fδ et Hδ . La question est de comprendre le comportement asymptotique de ces fonctions lorsque δ tend vers 0. Le résultat de Smirnov [24] est le suivant : Théorème 5.2. — Lorsque δ → 0, alors H = Hδ converge, uniformément sur tout compact strictement inclus dans D, vers la solution h de l’équation ∆h = 0 qui prend les valeurs 0 et 1 sur les deux parties du bord de D délimitées par a et b. Ceci n’est pas surprenant compte tenu de ce que nous avons déjà noté sur les fonctions Hδ : – – – –

Le laplacien de Le laplacien de La fonction Hδ La fonction Hδ

la restriction de Hδ aux faces noires est positif. la restriction de Hδ aux faces blanches est négatif. vaut 0 sur les faces blanches de d1 (δ). vaut 1 sur les faces noires de d2 (δ).

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

112

W. WERNER

Pour conclure, il suffit essentiellement de voir que les valeurs de Hδ en deux faces adjacentes (à distance macroscopique de a et de b) sont très proches lorsque δ est très petit. En effet, modulo quelques simples considérations techniques, cela permet de montrer que toute limite extraite de fonctions Hδ sera à la fois sur-harmonique et sous-harmonique dans D et avec conditions au bord 0 sur d1 et 1 sur d2 , ce qui permet de conclure. Considérons donc deux faces adjacentes de Dδ qui ne sont pas proches de a ou de b, et qui sont séparées par une arête Z. Clairement, la différence entre les valeurs de Hδ en ces deux faces est majorée par P (Z ∈ γδ )2 . Il faut donc juste montrer que la probabilité pour que γ passe par une arête donnée tend vers 0 lorsque δ → 0. Pour cela, on peut invoquer des résultats assez classiques concernant le modèle d’Ising (certains remontent à Lars Onsager) ou alors travailler directement à partir des propriétés des fonctions Fδ .

6. AUTRES CONSÉQUENCES Énonçons maintenant sans preuve quelques-uns des résultats que l’on peut obtenir en exploitant les énoncés précédents : – Il est possible de montrer la convergence de la fonction Fδ elle-même (renormalisée de manière appropriée). Supposons que Φ désigne une application conforme de D dans R × (0, 2) qui envoie a et b sur −∞ et +∞ respectivement. Alors : √ Théorème 6.1. — Pour tout point z ∈ D, Fδ (z)/ δ converge lorsque δ → 0 vers une détermination continue de la racine carrée de Φ0 (z). Donnons brièvement quelques éléments pour expliquer ce résultat : une fonction analytique dans un domaine D est déterminée par sa valeur au bord du domaine (les parties réelles et imaginaires étant harmoniques). Il nous faut donc étudier des « conditions au bord » vérifiées par F dans le cas discret. Une étude attentive du cas discret montre que, si l’on suppose que l’arête « finale » de γ est orientée vers la droite et que z est adjacent au bord du domaine, alors F (z) est parallèle à T (z)−1/2 , où T (z) désigne le vecteur « tangent » au domaine près de z. C’est cette relation qui sera préservée à la limite, et qui donne comme condition asymptotique pour la limite convenablement renormalisée f de F qu’elle est, d’une part, analytique et que, d’autre part, f 2 (z)t(z) est réelle sur ∂D où t(z) désigne le vecteur tangent à ∂D en z. Ceci permet alors d’identifier la limite.

ASTÉRISQUE 348

(1030)

ANALYTICITÉ DISCRÈTE DU MODÈLE D’ISING

113

Lorsque Φ est définie comme précédemment, alors Φ est clairement analytique. Par définition, t(z)Φ0 (z) est réel sur ∂D \ {a, b}. Une détermination continue de la racine de Φ0 (z) est bien une fonction analytique dans D qui vérifie la condition au bord voulue. Notons que Φ est déterminée à une translation réelle près, mais que cette constante n’affecte pas la valeur de Φ0 . – En exploitant le fait que les limites précédentes sont « invariantes conformes », il est en fait possible (voir [11]) de contrôler le comportement limite de la loi de toute la courbe aléatoire γδ lorsque δ → 0. Théorème 6.2. — Lorsque δ → 0, la loi de γδ converge vers celle d’un processus SLE (processus de Loewner-Schramm) de paramètre 16/3 de a vers b dans D, c’est-à-dire une certaine courbe aléatoire de dimension fractale 5/3. Ceci permet en fait en principe de décrire la loi limite de l’ensemble des boucles de notre modèle de départ.

7. AUTRES RÉSULTATS, ET REMARQUES BIBLIOGRAPHIQUES 7.1. Lien avec le modèle d’Ising Pour conclure, voici un très bref aperçu du classique lien entre le modèle de boucles précédent et le modèle d’Ising critique dans Z2 : Donnons-nous une portion de Z2 comme précédemment. Une configuration (pour le modèle d’Ising) sera une application σ qui associe à chaque site z de ce graphe une valeur σ(z) (communément appelée « spin » en z) dans {−1, +1}. Le modèle d’Ising de paramètre β > 0 est une loi de probabilité sur cet ensemble de fonctions σ qui favorise les configurations σ ayant le moins de sites voisins de spins opposés. Plus précisément, si on note E(σ) le nombre de couples de sites x, y qui sont voisins et tels que σ(x) = −σ(y), alors Pβ (σ) = cβ × exp(−βE(σ)), P où cβ est la constante de normalisation choisie de sorte que σ Pβ (σ) = 1. Il s’avère que, lorsque le domaine est très grand, le comportement de Pβ dépend grandement de la valeur de β. Une valeur critique βc sépare deux comportements possibles (lorsque β > βc , le système choisit une opinion clairement majoritaire, alors que cela n’est pas le cas lorsque la pénalisation β est plus faible que βc ). Il est alors intéressant d’étudier le comportement du système critique lorsque β est exactement égal à βc . Dans ce cas, il est possible de coupler une réalisation de σ avec une réalisation du √ système de boucles précédent lorsque n 2. En particulier, si l’on choisit les conditions au bord du domaine de manière convenable, on peut identifier la probabilité (pour

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

114

W. WERNER

le modèle d’Ising à βc ) pour que les spins en deux points x et y soient égaux, avec √ la probabilité (pour le modèle de boucles avec n = 2) qu’aucune boucle ne sépare x de y. Ainsi, les résultats sur l’invariance conforme asymptotique des modèles de boucles peuvent se traduire en termes du modèle d’Ising.

Figure 11. Une simulation du modèle d’Ising critique (par Vincent Beffara).

7.2. Très bref survol bibliographique L’étude des modèles de boucles et du modèle d’Ising a motivé de nombreux travaux importants dans la communauté physique, que nous ne pouvons pas citer tous ici : – Dans les années 1940, Onsager, Kaufmann, Kramers, Wannier, Yang et d’autres (voir [10, 15, 27]) ont exploité des identités combinatoires pour effectuer certains calculs explicites sur ces modèles (on parle communément de la « résolution » par Onsager du modèle d’Ising dans les livres de physique statistique). Cette approche a ensuite été développée au cours des décennies suivantes (voir par exemple [1, 17]). – Dans les années 1980 sont apparus d’une part l’étude des modèles O(n) via les méthodes dites de gaz de Coulomb (voir par exemple [19, 20]) et le développement de la théorie conforme des champs, suivant les travaux

ASTÉRISQUE 348

(1030)

ANALYTICITÉ DISCRÈTE DU MODÈLE D’ISING

115

de Belavin, Polyakov, Zamolodchikov [2], et Cardy (voir [4] pour une vue d’ensemble), où pour la première fois apparaissent des idées directement liées à l’analyse complexe, mais dans le cadre continu. Le fait que les modèles sur réseaux sont reliés à ces théories continues restait de nature conjecturale. Plus récemment, du côté mathématique, Richard Kenyon [13, 12] (voir aussi Mercat [18], ainsi que Boutillier-De Tilière [3]) a montré des résultats du même type que ceux que nous avons présentés ici (relations de Cauchy-Riemann discrètes et contrôle du passage à la limite) dans le cas des arbres couvrants (ou de manière équivalente, pour les pavages par dominos ou les marches aléatoires à boucles effacées). L’étude des structures continues invariantes conformes a connu un grand essor suite à la définition par Schramm [21] des processus SLE. Le lien avec les modèles discrets qui est le sujet du présent exposé restait cependant ouvert. Au jour d’aujourd’hui, les principaux modèles discrets dont le comportement asymptotique a pu être établi (toujours en partant d’une relation combinatoire discrète de type analyticité) comporte : – Le modèle d’Ising et le modèle de boucles relié que nous venons de présenter. Il existe aussi une autre approche (du même type) du modèle d’Ising développée par Smirnov avec Chelkak [5]. Il est à noter que (tout comme les travaux de Kenyon, voir [14]), ces arguments sont valables pour une classe assez large de réseaux plans (les graphes « isoradiaux »), voir [6]. D’autres identités de type analytique peuvent être aussi prouvées concernant des fonctions de corrélation du modèle d’Ising (et être contrôlées de manière analogue, voir [9]). – La percolation critique sur le réseau triangulaire, qui a été démontrée par Smirnov [22] en 2001. – Les arbres couvrants et les marches à boucles effacées [13, 12, 16]. Pour de nombreux modèles importants, le problème reste cependant ouvert. On peut mentionner le cas des marches aléatoires auto-évitantes. Cependant, les idées basées sur une identité combinatoire simple du même type que celle que nous avons présentée est à la base de la preuve suivante (par Smirnov et Duminil-Copin, [7]) de la conjecture de Nienhuis sur le nombre asymtotique de chemins auto-évitants sur le réseau hexagonal : si l’on fixe le point de départ, p le√nombre de chemins auto-évitants de longueur n croît comme λn+o(n) , où λ = 2 + 2. Les articles [23, 25] écrits par Stanislav Smirnov pour les congrès mondiaux de 2006 et 2010 constituent une excellente introduction et description des résultats que nous venons de mentionner. Les articles originaux sont également tous très clairs. Comme ouvrage introductif plus détaillé sur ce sujet, le lecteur peut aussi consulter [26].

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

116

W. WERNER

RÉFÉRENCES [1] R. J. Baxter – Exactly solved models in statistical mechanics, Academic Press Inc., 1982. [2] A. A. Belavin, A. M. Polyakov & A. B. Zamolodchikov – Infinite conformal symmetry in two-dimensional quantum field theory, Nuclear Phys. B 241 (1984), p. 333–380. [3] C. Boutillier & B. de Tilière – The critical Z-invariant Ising model via dimers : the periodic case, Probab. Theory Related Fields 147 (2010), p. 379– 413. [4] J. L. Cardy – Scaling and renormalization in statistical physics, Cambridge Lecture Notes in Physics, 1996. [5] D. Chelkak & S. Smirnov – Conformal invariance of the 2D Ising model at criticality, prépublication, 2010. [6]

, Universality in the 2D Ising model and conformal invariance of Fermionic observables, Inv. Math. (2012), doi://10.1007/s00222-011-0371-2.

[7] H. Duminil-Copin & S. Smirnov – The connective constant of the honeycomb p √ lattice equals 2 + 2, prépublication, 2010. [8] J. Ferrand – Fonctions préharmoniques et fonctions préholomorphes, Bull. Sci. Math. 68 (1944), p. 152–180. [9] C. Hongler & S. Smirnov – Energy density in the 2D Ising model, prépublication, 2010. [10] B. Kaufman & L. Onsager – Crystal statistics. III. Short-range order in a binary Ising lattice, Phys. Rev. 76 (1949), p. 1244–1252. [11] A. Kemppainen & S. Smirnov – Random curves, scaling limits and Loewner evolutions, prépublication, 2010. [12] R. Kenyon – The asymptotic determinant of the discrete Laplacian, Acta Math. 185 (2000), p. 239–286. , Conformal invariance of domino tiling, Ann. Probab. 28 (2000), p. 759–

[13] 795. [14]

, The Laplacian and Dirac operators on critical planar graphs, Invent. Math. 150 (2002), p. 409–439.

[15] H. A. Kramers & G. H. Wannier – Statistics of the two-dimensional ferromagnet. I, Phys. Rev. 60 (1941), p. 252–262. [16] G. F. Lawler, O. Schramm & W. Werner – Conformal invariance of planar loop-erased random walks and uniform spanning trees, Ann. Probab. 32 (2004), p. 939–995.

ASTÉRISQUE 348

(1030)

ANALYTICITÉ DISCRÈTE DU MODÈLE D’ISING

117

[17] B. M. McCoy & T. T. Wu – The two-dimensional Ising model, Harvard University Press, 1973. [18] C. Mercat – Discrete Riemann surfaces and the Ising model, Comm. Math. Phys. 218 (2001), p. 177–216. [19] B. Nienhuis – Exact critical point and critical exponents of O(n) models in two dimensions, Phys. Rev. Lett. 49 (1982), p. 1062–1065. [20]

, Critical behavior of two-dimensional spin models and charge asymmetry in the Coulomb gas, J. Statist. Phys. 34 (1984), p. 731–761.

[21] O. Schramm – Scaling limits of loop-erased random walks and uniform spanning trees, Israel J. Math. 118 (2000), p. 221–288. [22] S. Smirnov – Critical percolation in the plane : conformal invariance, Cardy’s formula, scaling limits, C. R. Acad. Sci. Paris Sér. I Math. 333 (2001), p. 239– 244. [23]

, Towards conformal invariance of 2D lattice models, in International Congress of Mathematicians. Vol. II, Eur. Math. Soc., Zürich, 2006, p. 1421– 1451.

[24]

, Conformal invariance in random cluster models. I. Holomorphic fermions in the Ising model, Ann. of Math. 172 (2010), p. 1435–1467.

[25]

, Discrete complex analysis and probability, in Proceedings of the International Congress of Mathematicians. Volume I, Hindustan Book Agency, 2010, p. 595–621.

[26] W. Werner – Percolation et modèle d’ising, S.M.F., Cours spécialisés 16 (2009). [27] C. N. Yang – The spontaneous magnetization of a two-dimensional Ising model, Physical Rev. 85 (1952), p. 808–816.

Wendelin WERNER Université Paris-Sud Laboratoire de Mathématiques Bât. 425 91405 Orsay cedex, France E-mail : [email protected]

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

348

ASTÉRISQUE 2012

SÉMINAIRE BOURBAKI VOLUME 2010/2011 EXPOSÉS 1027-1042 (1031) Correspondance de Langlands p-adique, compatibilité local-global et applications Christophe BREUIL

SOCIÉTÉ MATHÉMATIQUE DE FRANCE Publié avec le concours du CENTRE NATIONAL DE LA RECHERCHE SCIENTIFIQUE

Séminaire BOURBAKI 63e année, 2010-2011, no 1031, p. 119 à 147

Janvier 2011

CORRESPONDANCE DE LANGLANDS p-ADIQUE, COMPATIBILITÉ LOCAL-GLOBAL ET APPLICATIONS [d’après Colmez, Emerton, Kisin, ...] par Christophe BREUIL

1. INTRODUCTION ET NOTATIONS Soit p un nombre premier. Langlands, Deligne et Carayol ont montré dans [33], [16], [10] que l’on pouvait réaliser une partie de la correspondance de Langlands globale pour GL2 dans la cohomologie étale :
lim H´e1t Y (K) ×Q Q, Qp −→ K

où la limite est prise sur les sous-groupes ouverts compacts K de GL2 des adèles finis de Q et où Y (K) est la courbe modulaire (ouverte) de « niveau K ». Plus précisément, si OE est l’anneau des entiers d’une extension finie E de Qp contenant les valeurs propres de Hecke d’une forme modulaire parabolique
propre de poids 2, l’espace limK H´e1t Y (K) ×Q Q, OE ⊗ OE E contient ρf ⊗E −→ ⊗0` π` (ρf |Gal(Q` /Q` ) ) où ρf est la représentation p-adique de Gal(Q/Q) associée à f et π` (ρf |Gal(Q` /Q` ) ) la représentation lisse de GL2 (Q` ) correspondant à la représentation galoisienne locale ρf |Gal(Q` /Q` ) par la correspondance de Langlands locale. De plus, π` (ρf |Gal(Q` /Q` ) ) détermine (essentiellement) ρf |Gal(Q` /Q` ) si ` 6= p. Ainsi, la correspondance de Langlands locale pour chaque GL2 (Q` ) s’insère naturellement dans une correspondance globale qui se réalise sur un espace de cohomologie. On appelle cela « compatibilité local-global ». Lorsque ` = p, il n’est plus vrai en général que la représentation lisse πp (ρf |Gal(Qp /Qp ) ) détermine ρf |Gal(Qp /Qp ) . La dernière décennie a vu l’émergence et la preuve d’une correspondance locale p-adique nouvelle pour le groupe GL2 (Qp ) qui associe à (∗)

Je remercie chaleureusement M. Emerton pour ses réponses précises et détaillées à mes questions. Je remercie P. Colmez, J.-F. Dat, M. Emerton, G. Henniart, M. Kisin et V. Pašk¯ unas pour leurs commentaires.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

120

C. BREUIL

la représentation ρf |Gal(Qp /Qp ) un espace de Banach p-adique B(ρf |Gal(Qp /Qp ) ) avec action continue de GL2 (Qp ) qui la détermine complètement (voir [1] pour un rapport). L’examen de cas particuliers non triviaux ([5], [7]) faisait fortement soupçonner que cette correspondance locale p-adique s’insérait aussi dans une correspondance globale se réalisant sur l’espace de cohomologie étale « complétée » : 
 ∧ lim lim H´e1t Y (K p Kp ) ×Q Q, OE ⊗ OE E −→ −→ p K

Kp

où le chapeau ∧ désigne le complété p-adique et où les limites inductives sont prises respectivement sur les sous-groupes ouverts compacts K p (resp. Kp ) de GL2 des adèles finis hors p (resp. de GL2 (Qp )). C’est ce qu’Emerton vient de montrer dans un article récent ([19]) sur lequel est centré ce rapport. Combinée avec des résultats précédents de Colmez ([15]), cette nouvelle compatibilité local-global entraîne d’abord la compatibilité entre la correspondance de Langlands locale classique et la correspondance de Langlands locale p-adique pour GL2 (Qp ). Kisin a alors montré ([30]) que cette dernière compatibilité classique/p-adique avait pour conséquence la conjecture sur les multiplicités modulaires de [8] (sous des hypothèses techniques faibles). Combinée avec la preuve de la conjecture de modularité de Serre par Khare-Wintenberger-Kisin et avec les résultats de promodularité que l’on en déduit, la compatibilité local-global d’Emerton a ensuite deux conséquences globales : la preuve de la conjecture de Fontaine-Mazur caractérisant les représentations de Gal(Q/Q) provenant des formes modulaires classiques et la preuve de la conjecture de Kisin caractérisant les représentations de Gal(Q/Q) provenant des formes modulaires surconvergentes (les deux sous des hypothèses techniques faibles). Notons que Kisin dans [30] déduit de la conjecture sur les multiplicités modulaires combinée avec la conjecture de modularité de Serre une autre preuve de la conjecture de Fontaine-Mazur (sous des hypothèses techniques légèrement différentes). Nous donnons ici un aperçu des résultats d’Emerton ainsi que de l’essentiel de leurs preuves. Mentionnons simplement que le cœur de la démonstration du résultat de compatibilité local-global d’Emerton est un argument de densité pour la topologie de Zariski (Proposition 4.7 ci-dessous). Dans tout le texte, E désigne une extension finie de Qp , d’anneau d’entiers OE et de corps résiduel kE . On note $E une uniformisante de OE . Les représentations sont toutes à coefficients soit dans E, soit dans OE , soit dans OE / $nE pour n ≥ 1 (i.e. dans kE si n = 1). Si ρ est une représentation E-linéaire continue d’un groupe compact, on note ρ la semi-simplification de la réduction modulo $E d’un OE -réseau quelconque stable par ce groupe (lorsque ce groupe est Gal(Q/Q), ρ sera en fait supposée irréductible). On note Af (resp. Apf ) les adèles finis (resp. les adèles finis

ASTÉRISQUE 348

(1031)

LANGLANDS p-ADIQUE ET COMPATIBILITÉ LOCAL-GLOBAL

121

hors p) de Q. Si Σ est un ensemble fini de nombres premiers, on note AΣ f les adèles finis de Q hors Σ. Si ` est un nombre premier, on note Frob` un Frobenius arithmétique de Gal(Q` /Q` ), c’est-à-dire un élément qui s’envoie sur x 7→ x` ∈ Gal(F` /F` ). On normalise les applications de réciprocité de la théorie du corps de classes local de telle sorte que Frob−1 corresponde à une uniformisante de Q` . On note ε le caractère ` cyclotomique p-adique de Gal(Q/Q) de même que sa restriction aux sous-groupes de décomposition Gal(Q` /Q` ) (quel que soit le premier `), et ε sa réduction modulo p. On × voit sans commentaire ε et ε comme des caractères de Q× ` via l’injection de Q` dans l’abélianisé de Gal(Q` /Q` ) donnée par la théorie du corps de classes local. On note Qnr p l’extension non ramifiée maximale de Qp . On fixe enfin des plongements Q ,→ C, Q ,→ Qp et E ,→ Qp ce qui permet d’associer à une forme modulaire parabolique classique ou survonvergente f vecteur propre des opérateurs de Hecke (et dont les valeurs propres se retrouvent dans E) une représentation E-linéaire continue ρf de dimension 2 de Gal(Q/Q).

2. LE RÉSULTAT PRINCIPAL ET SES APPLICATIONS 2.1. Les théorèmes de compatibilité local-global Pour K ⊂ GL2 (Af ) sous-groupe ouvert compact, on note Y (K) la courbe modulaire affine définie sur Q dont les points complexes Y (K)(C) sont :  
GL2 (Q)\ GL2 (R)/SO2 (R)R+× × GL2 (Af )/K = GL2 (Q)\ (C−R) × GL2 (Af )/K . On pose : ef “1 (K p ) O d´ H = lim lim H´e1t Y (K p Kp ) ×Q Q, OE / $nE OE E ← − −→ n




Kp

où K p désigne un sous-groupe ouvert compact de GL2 (Apf ) et où la limite inductive est prise sur les sous-groupes ouverts compacts Kp de GL2 (Qp ). On “1 (K p ) O comme le complété p-adique du OE -module libre peut aussi voir H E
ef “1 1 p “1 (K p )E d´ = H (K p ) OE ⊗ OE E : c’est limK H´et Y (K Kp ) ×Q Q, OE . On note H −→ p “1 (K p ) O comme boule unité. Il est muni d’une un espace de Banach p-adique avec H E action continue de Gal(Q/Q) × GL2 (Qp ) qui préserve la boule unité. Enfin on note : ef ef “1 1 d´ “1 d´ “1 (K p ) O et H “E “1 (K p )E H H = H lim H OE = lim OE ⊗ OE E = − E −→ → p p K

K

“1 (K p ) O et que l’on munit de la topologie limite inductive des topologies des H E p “1 (K p )E . L’action naturelle de Gal(Q/Q) × GL2 (Af ) “1 (K p )E . On a (H “1 )K = H H E “1 et H “1 est continue (l’action de GL2 (Ap ) est lisse). sur H E f OE

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

122

C. BREUIL

On dit qu’une représentation linéaire continue absolument irréductible de Gal(Q/Q) sur un E-espace vectoriel de dimension 2 est promodulaire si elle provient d’une forme modulaire p-adique parabolique propre (voir Définition 4.2 pour une définition plus précise). Une représentation promodulaire est impaire (i.e. l’image de la conjugaison complexe sur Q a pour déterminant −1) et le théorème 2.4 ci-dessous dit que presque toute représentation impaire est en fait promodulaire. Nous énonçons le résultat principal de ce texte en deux versions, l’une « faible » et l’autre « forte ». Théorème 2.1 (Compatibilité local-global version faible [19]) Soit ρ une représentation E-linéaire continue impaire de dimension 2 de Gal(Q/Q) qui est non ramifiée en dehors d’un ensemble fini de nombres premiers. On suppose ρ absolument irréductible et ρ|Gal(Qp /Qp )  ( 10 ∗ε ) à torsion près par un caractère (avec ∗ nul ou non). (i) Si ρ est promodulaire, alors il existe un ensemble fini de nombres premiers Σ contenant p et les places où ρ est ramifiée tel que l’on ait un morphisme non nul continu GL2 (Qp ) × GL2 (AΣ f )-équivariant :

“1 B ρ|Gal(Qp /Qp ) ⊗E ⊗0`∈Σ (1) / π` ρ|Gal(Q` /Q` ) −→ HomGal(Q/Q) (ρ, HE )
où B ρ|Gal(Qp /Qp ) est la GL2 (Qp )-représentation continue sur un espace de Banach p-adique associée à ρ|Gal(Qp /Qp ) par la correspondance de Langlands locale p-adique
(voir §3 ou [1]) et où π` ρ|Gal(Q` /Q` ) est la GL2 (Q` )-représentation lisse associée à ρ|Gal(Q` /Q` ) par la correspondance de Langlands locale classique (voir la remarque 2.3 (i), (ii)). (ii) Si ρ|Gal(Qp /Qp ) n’est ni la somme directe de deux caractères, ni une extension d’un caractère par lui-même, alors tout morphisme comme en (1) est une injection fermée. Lorsque ` ∈ Σ, le groupe GL2 (Q` ) agit sur le E-espace vectoriel des morphismes “1 ). La version forte précise cette comme en (1) via son action sur HomGal(Q/Q) (ρ, H E action : Théorème 2.2 (Compatibilité local-global version forte [19]) Conservons les hypothèses du théorème 2.1 et supposons de plus ρ|Gal(Qp /Qp )  ( 10 ∗1 ) à torsion près par un caractère (avec ∗ nul ou non). Si ρ est promodulaire, alors on a un isomorphisme topologique GL2 (Qp ) × GL2 (Apf )-équivariant : (2)

∼ 1 “E B(ρ|Gal(Qp /Qp ) ) ⊗E ⊗0`6=p π` (ρ|Gal(Q` /Q` ) ) −→ HomGal(Q/Q) (ρ, H ).

ASTÉRISQUE 348

(1031)

LANGLANDS p-ADIQUE ET COMPATIBILITÉ LOCAL-GLOBAL

123

Remarque 2.3. — (i) La représentation π` (ρ|Gal(Q` /Q` ) ) est dans presque tous les cas (mais pas tous, cf. (ii) ci-dessous) la représentation lisse admissible irréductible de GL2 (Q` ) correspondant à la représentation de Weil-Deligne associée à ρ|Gal(Q` /Q` ) (et F -semi-simplifiée) par la correspondance de Langlands locale classique avec la normalisation de Tate. (ii) Lorsque la correspondance de Langlands locale classique associe à ρ|Gal(Q` /Q` ) une représentation de GL2 (Q` ) non générique, i.e. de dimension 1, la représentation π` (ρ|Gal(Q` /Q` ) ) ci-dessus est alors dans ce cas l’unique extension non scindée de cette représentation de dimension 1 par le tordu convenable de la représentation de Steinberg de GL2 (Q` ). En particulier elle est alors réductible (de longueur 2). (iii) Plusieurs cas particuliers du théorème 2.1 pour des ρ = ρf avec f forme modulaire parabolique propre de poids ≥ 2 étaient déjà connus ([5], [7]). “1 ) 6= 0 pour tout (iv) Le théorème 2.1(i) implique en particulier Hom (ρ, H Gal(Q/Q)

E

ρ promodulaire satisfaisant les conditions de l’énoncé (ce qui n’est nullement évident a priori). (v) L’isomorphisme (2) devrait être encore valable en supposant seulement ρ impaire absolument irréductible de dimension 2 presque partout non ramifiée et telle que ρ|Gal(Qp /Qp )  ( 10 ∗ε ) à torsion près par un caractère (cf. [19, Conj. 1.1.1]). Le cas où ρ|Gal(Qp /Qp ) ∼ = ( 10 ∗ε ) semble plus compliqué (cf. [19, Rem. 6.1.23]). (vi) En fait, l’isomorphisme (2) est conséquence d’un résultat plus fort encore
“1 K p Q GL2 (Z` ) décrivant la Gal(Q/Q) × GL2 (Af )-représentation limK p H `∈Σ / Σ E,ρ −→ Σ pour chaque ensemble fini Σ de nombres premiers contenant p et les places ramifiées de ρ, où la limite inductive est prise sur les sous-groupes ouverts compacts KΣp de Q `∈Σ\{p} GL2 (Q` ) et où l’indice ρ signifie la complétion par rapport à l’idéal maximal associé à ρ engendré par les opérateurs de Hecke hors Σ ([19, Th. 6.2.13]). La portée des théorèmes 2.1 et 2.2 est grandement élargie par le théorème de promodularité suivant, synthèse de plusieurs résultats dus à Boeckle, Diamond-FlachGuo, Kisin,... tous généralisant les méthodes inaugurées par Wiles et Taylor-Wiles ([43], [41]) et utilisant la preuve de la conjecture de Serre ([39]) par KhareWintenberger et Kisin ([26], [27], [31]) : Théorème 2.4. — Conservons les hypothèses du théorème 2.1 et supposons de plus 1 ∗ p p > 2, ρ|Gal(Q/Q( √ 1)) absolument irréductible et ρ|Gal(Qp /Qp )  ( 0 1 ) à torsion près par un caractère (avec ∗ nul ou non). Alors ρ est promodulaire. Tous les détails de la preuve du théorème 2.2 ne sont pas encore disponibles. Nous nous limitons dans la suite de ce rapport à celle du théorème 2.1 qui suffit pour toutes les applications et qui est entièrement dans [19].

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

124

C. BREUIL

2.2. Les applications Rappelons d’abord les trois conjectures suivantes, la première étant la conjecture de Fontaine-Mazur ([24, Conj. 3c]), la deuxième étant due essentiellement à Kisin ([28, Rem. 11.7(2)], [17, Conj. 7.9.1(4)]) et la troisième étant la conjecture sur les multiplicités modulaires (ou « conjecture de Breuil-Mézard », [8, Conj. 1.1], [30, Conj. 1.1.3]) : Conjecture 2.5. — Soit ρ une représentation E-linéaire continue impaire absolument irréductible de dimension 2 de Gal(Q/Q) presque partout non ramifiée et dont la restriction à Gal(Qp /Qp ) est potentiellement semi-stable à poids de HodgeTate distincts ([23]). Alors il existe une forme modulaire parabolique propre f de poids ≥ 2 telle que ρ est la tordue de ρf par un caractère. La condition « ρ|Gal(Qp /Qp ) potentiellement semi-stable » dit en gros que l’action d’un sous-groupe ouvert suffisamment petit de Gal(Qp /Qp ) se trivialise sur ρ ⊗Qp Bst où Bst est l’anneau de périodes de Fontaine ([23]). Rappelons que toutes les représentations p-adiques de Gal(Qp /Qp ) provenant de la cohomologie étale p-adique des variétés algébriques sont potentiellement semi-stables ([20], [36], [42]). La conjecture de Fontaine-Mazur contient la conjecture de Shimura-Taniyama-Weil en prenant pour ρ le module de Tate p-adique d’une courbe elliptique sur Q ([43], [41], [6]). Une de ses conséquences frappantes est le fait que les polynômes caractéristiques des Frob` sur ρ (pour ` 6= p non ramifié) sont à coefficients dans une extension finie de Q (et pas seulement de Qp ). Conjecture 2.6. — Soit ρ une représentation E-linéaire continue impaire absolument irréductible de dimension 2 de Gal(Q/Q) presque partout non ramifiée et dont la restriction à Gal(Qp /Qp ) est trianguline ([13], [1, §3.3]). Alors il existe une forme modulaire p-adique surconvergente parabolique propre f de pente finie telle que ρ est la tordue de ρf par un caractère. La condition « trianguline » (introduite par Colmez [13] à la suite de travaux de Kisin [28]) dit grosso modo en dimension 2 que, après torsion éventuelle par un caractère de Gal(Qp /Qp ), l’action de Gal(Qp /Qp ) se trivialise sur un sous-module non nul de ρ ⊗Qp Bcris . Conjecture 2.7. — Soit ρp une représentation kE -linéaire continue de dimension 2 de Gal(Qp /Qp ) telle que EndkE [Gal(Qp /Qp )] (ρp ) = kE , k un entier ≥ 2 et τ une représentation E-linéaire de dimension 2 de Gal(Qp /Qnr p ) de noyau ouvert qui s’étend au groupe de Weil de Qp . Soit R(k, τ, ρp ) la OE -algèbre locale noethérienne complète

ASTÉRISQUE 348

(1031)

LANGLANDS p-ADIQUE ET COMPATIBILITÉ LOCAL-GLOBAL

125

paramétrant les déformations potentiellement semi-stables de ρp de poids de HodgeTate (0, k − 1) et de type τ (voir [29]) et soit µGal (k, τ, ρp ) la multiplicité de HilbertSamuel de l’anneau local R(k, τ, ρp ) ⊗ OE kE . Alors on a : µGal (k, τ, ρp ) = µAut (k, τ, ρp ) où µAut (k, τ, ρp ) est (essentiellement) le nombre de poids de Serre associés à ρp |Gal(Qp /Qnr ) apparaissant dans le semi-simplifié modulo $E de la GL2 (Zp )-représentation p

Symk−2 E 2 ⊗E σ(τ ) (σ(τ ) est la représentation irréductible de GL2 (Zp ) associée à τ par la théorie des types, cf. [25]). Cette dernière conjecture dit essentiellement que l’on peut compter les composantes irréductibles de la fibre spéciale de SpecR(k, τ, ρp ) (qui forment donc la « géométrie » des déformations potentiellement semi-stables de poids de Hodge-Tate (0, k − 1) et de type τ ) par une formule entièrement du côté GL2 . Remarque 2.8. — (i) L’hypothèse ρ impaire dans la conjecture 2.5 devrait suivre des autres hypothèses sur ρ, en particulier du fait que les poids de Hodge-Tate sont distincts (cf. [24, Conj. 3c] et les résultats de Calegari [9]). (ii) L’hypothèse EndkE [Gal(Qp /Qp )] (ρp ) = kE dans la conjecture 2.7 est inutile à condition de définir R(k, τ, ρp ) correctement quand EndkE [Gal(Qp /Qp )] (ρp ) 6= kE (cf. [30, §1.1]). Par ailleurs, dans la définition de µAut (k, τ, ρp ), il faut parfois compter certains poids de Serre avec des multiplicités > 1 (cf. loc. cit.). Le théorème 2.1 seul a d’abord pour conséquence le théorème suivant : Théorème 2.9 ([19], [15]). — La correspondance de Langlands locale p-adique est compatible avec la correspondance de Langlands locale classique pour GL2 (Qp ) (cf. §5.1 pour un énoncé plus précis). Le théorème 2.9 a alors lui-même pour conséquence : Théorème 2.10 ([30]). — Supposons p > 2 et ρp  ( 0ε ∗1 ) à torsion près par un caractère, alors la conjecture 2.7 est vraie. Combiné avec le théorème 2.4, le théorème 2.1 a ensuite pour conséquence les deux théorèmes : p Théorème 2.11 ([19], [30], [40]). — Supposons p > 2, ρ|Gal(Q/Q( √ 1)) absolument irréductible et, ou bien p > 3 et ρ|Gal(Qp /Qp )  ( 10 0ε ) à torsion près par un caractère, ou bien p = 3 et ρ|Gal(Qp /Qp )  ( 10 ∗ε ) à torsion près par un caractère (avec ∗ nul ou non) ; alors ρ vérifie la conjecture 2.5.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

126

C. BREUIL

p Théorème 2.12 ([19]). — Supposons p > 2, ρ|Gal(Q/Q( √ 1)) absolument irréductible 1 ∗ 1 ∗ et ρ|Gal(Qp /Qp )  ( 0 1 ) ou ( 0 ε ) à torsion près par un caractère (avec ∗ nul ou non) ; alors ρ vérifie la conjecture 2.6.

Remarque 2.13. — (i) Le théorème 2.9 utilise dans sa preuve plusieurs résultats de Colmez (voir §5.1). (ii) Le théorème 2.10 a été démontré par Kisin en utilisant le théorème 2.9 et des arguments globaux de déformations (qui nécessitent les hypothèses techniques, cf. [30, Cor. 2.3.2]). Sa preuve s’étend aux cas où ρ|Gal(Qp /Qp ) est semi-simple non isomorphe à ( 0ε 01 ) à torsion près (cf. Remarque 2.8 (ii)). (iii) Le théorème 2.11 donne un énoncé à peu près optimal à ce jour (janvier 2011) sur la conjecture de Fontaine-Mazur (voir §5.2). Certains cas ne sont en fait pas traités dans [19] comme conséquence des théorèmes 2.1 et 2.4 : ce sont les cas où ρ|Gal(Qp /Qp ) est scindée (déjà démontrés par Skinner-Wiles [40]) et les cas où, à torsion près, ρ|Gal(Qp /Qp ) ∼ = ( 10 ∗1 ) (∗ nul ou non) ou bien p > 3 et ρ|Gal(Qp /Qp ) ∼ = ( 10 ∗ε ) (∗ non nul) (traités par Kisin [30, §2.2]). En fait, Kisin donne dans loc. cit. une autre preuve de la conjecture de Fontaine-Mazur basée uniquement sur une variante du théorème 2.10 dans un contexte global (et sur la conjecture de Serre). Nous rappelons maintenant ce dont nous avons besoin de la correspondance de Langlands locale p-adique pour GL2 (Qp ).

3. RAPPELS SUR LA CORRESPONDANCE LOCALE p-ADIQUE POUR GL2 (Qp ) 3.1. Le foncteur de Colmez Pour plus de détails sur cette partie, nous renvoyons le lecteur à l’exposé de Berger au séminaire Bourbaki et aux références qu’il contient ([1]) ainsi qu’à [19, §3]. La correspondance de Langlands locale p-adique associe à toute représentation E-linéaire continue ρp de dimension 2 de Gal(Qp /Qp ) un espace de Banach p-adique B(ρp ) sur E muni d’une action continue unitaire de GL2 (Qp ). Unitaire veut dire qu’il existe une norme définissant la topologie du Banach pour laquelle l’action de GL2 (Qp ) est invariante (i.e. kg(v)k = kvk). La correspondance de Langlands locale modulo p associe à toute représentation kE -linéaire continue de dimension 2 de Gal(Qp /Qp ) une représentation lisse de GL2 (Qp ) sur kE . Ces deux correspondances sont compatibles, c’est-à-dire que l’on peut retrouver la deuxième par réduction modulo p à partir de la première. Les représentations de GL2 (Qp ) qui interviennent dans ces correspondances sont toujours admissibles (sur kE , c’est la définition usuelle : l’espace des invariants sous un sous-groupe ouvert compact

ASTÉRISQUE 348

(1031)

LANGLANDS p-ADIQUE ET COMPATIBILITÉ LOCAL-GLOBAL

127

quelconque est de dimension finie, et sur E, cela revient à demander que la réduction modulo $E d’une boule unité stable par GL2 (Qp ) soit une représentation admissible de GL2 (Qp ) sur kE ). De plus, la représentation de GL2 (Qp ) est (topologiquement) irréductible (resp. indécomposable) si et seulement si la représentation de Gal(Qp /Qp ) l’est et, dans le cas réductible, elle est en général de longueur (topologique) 2, chaque facteur de Jordan-Hölder étant une série principale (continue sur E ou lisse sur kE ). En pratique, il se trouve qu’il est plus facile d’aller de GL2 (Qp ) vers Gal(Qp /Qp ) que l’inverse. Ainsi, un outil essentiel dans la construction des correspondances locales p-adique et modulo p est un foncteur dû à Colmez qui associe à une représentation de GL2 (Qp ) une représentation de Gal(Qp /Qp ), que nous décrivons brièvement √
∞ d´ ef maintenant (voir aussi [15, §IV] ou [1, §4.1]). Soit Γ = Gal Qp ( p 1)/Qp (qui 1 est isomorphe à Z× p par ε) et appelons (ϕ, Γ)-module un OE [[X]][ X ]-module D de type fini annulé par une puissance de $E , muni d’une action continue de Γ telle que γ(f (X)d) = f ((1 + X)ε(γ) − 1)γ(d) (γ ∈ Γ, d ∈ D) et d’un Frobenius ϕ tel que ϕ(f (X)d) = f ((1 + X)p − 1)ϕ(d), ϕ commute à Γ et l’image de ϕ engendre D sur OE [[X]][ X1 ]. Soit n ≥ 1 ; rappelons que, par un résultat de Fontaine ([21]), il y a une équivalence de catégories entre les représentations de Gal(Qp /Qp ) de longueur finie sur OE / $nE et les (ϕ, Γ)-modules annulés par $nE . Soit πp une représentation lisse admissible de longueur finie de GL2 (Qp ) sur un OE / $nE -module. On lui associe une représentation de Gal(Qp /Qp ) de longueur finie sur OE / $nE comme suit. Soit W ⊂ πp un sous- OE -module de rang fini stable par GL2 (Zp ) et qui engendre πp sous l’action de GL2Ä(Qp ) (il finie).Ä Le sousOE -module ä ä en existe car πp est lisse et de longueur
P 1 Zp pm Zp Z× 0 p . On considère W de πp est stable par l’action de 0 1 et de m≥0 0 1 0 1 le dual OE -linéaire : ! ! X pm Zp n M (W ) := Hom OE W, OE / $E 0 1 m≥0 Ä × ä
qui est naturellement un OE / $nE [[ 10 Z1p ]]-module muni d’une action de Γ ' Zp 0 0 1 Ä m ä
P 1 Zp p Zp ]] à O [[X]] via (via l’action duale sur W ). Identifiant O [[ E E m≥0 0 1 0 1 1 X = [( 10 11 )] − [( 10 01 )], Colmez montre alors que OE [[X]][ X ] ⊗ OE [[X]] M (W ) est stable
d´ ef par l’action duale de ϕ = p0 10 , est indépendant du choix de W et que l’on obtient ainsi un (ϕ, Γ)-module vérifiant toutes les propriétés précédentes. On note V (πp ) le dual de la représentation de Gal(Qp /Qp ) associée à ce (ϕ, Γ)-module. Remarque 3.1. — Le lecteur attentif remarquera que la représentation V (πp ) est la tordue par le caractère ε−1 de la représentation usuelle (celle de [1] par exemple). Nous suivons ici les conventions de [19] dictées par la réalisation cohomologique de la correspondance p-adique.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

128

C. BREUIL

Le foncteur πp 7→ V (πp ) est covariant, exact et réalise la correspondance de Langlands locale modulo p lorsque restreint à des représentations annulées par $E . En passant à la limite projective sur n dans les OE / $nE -modules et en inversant p, il réalise la correspondance de Langlands locale p-adique ([32], [38]). 3.2. Correspondance locale p-adique et déformations Nous allons avoir besoin d’une formulation de la correspondance locale p-adique qui soit compatible aux déformations des représentations (au sens de [35]) des deux côtés. Dans la suite de cette partie, on fixe une représentation kE -linéaire continue ρp de dimension 2 de Gal(Qp /Qp ) qui vérifie l’hypothèse : ! 1 ∗ ρp  (3) a torsion pr`es par un caract`ere (avec ∗ nul ou non) ` 0 ε et on note π p la représentation lisse admissible de longueur finie de GL2 (Qp ) qui lui correspond par la correspondance de Langlands modulo p. On suppose ici pour simplifier EndGal(Qp /Qp ) (ρp ) = kE qui est équivalent à EndGL2 (Qp ) (π p ) = kE . Comme déjà mentionné au §2, on peut se passer de cette hypothèse au prix de quelques complications sur la théorie des déformations (et l’on s’en passera tacitement dans les parties suivantes). Définition 3.2. — (i) Soit A une OE -algèbre locale artinienne de corps résiduel kE et m son idéal maximal. On appelle déformation de ρp (resp. de π p ) sur A une représentation A-linéaire lisse ρp (resp. πp ) de Gal(Qp /Qp ) (resp. de GL2 (Qp )) sur ∼ un A-module libre de rang 2 (resp. sur un A-module libre) telle que ρp ⊗A A/m → ρp ∼ (resp. telle que πp ⊗A A/m → π p ). (ii) Soit A une OE -algèbre locale noethérienne complète de corps résiduel kE et m son idéal maximal. On appelle déformation de ρp (resp. de π p ) sur A une représentation A-linéaire ρp (resp. πp ) de Gal(Qp /Qp ) (resp. de GL2 (Qp )) sur un A-module libre de rang 2 (resp. sur un A-module séparé complet pour la topologie m-adique) tel que ρp ⊗A A/mn (resp. πp ⊗A A/mn ) est une déformation de ρp (resp. de π p ) sur A/mn au sens de (i) pour tout n ≥ 1. L’exactitude du foncteur V et le fait que V (π p ) = ρp impliquent qu’il envoie une déformation de π p vers une déformation de ρp . Les critères usuels de Schlessinger montrent que le foncteur qui à A associe l’ensemble des classes d’isomorphismes des déformations de ρp (resp. π p ) sur A est représentable par une OE -algèbre locale noethérienne complète de corps résiduel kE que l’on note R(ρp ) (resp. R(π p )). Par ce qui précède, le foncteur V donne donc un morphisme local de OE -algèbres R(ρp ) → R(π p ). On note R(π p )det le quotient de R(π p ) paramétrant les déformations πp

ASTÉRISQUE 348

(1031)

LANGLANDS p-ADIQUE ET COMPATIBILITÉ LOCAL-GLOBAL

129

qui ont un caractère central correspondant à det(V (πp ))ε via le corps de classes local. On déduit d’un résultat de Colmez ([15, §VII.5.3]) que l’application composée R(ρp ) → R(π p )det est surjective. Posons : (4)

d´ ef

R(ρp )cris = R(ρp )/ ∩ p

l’intersection étant prise sur les idéaux premiers p de R(ρp ) de la forme :
p = Ker R(ρp ) → E 0 où E 0 est une extension finie de E et où R(ρp ) → E 0 est un morphisme de OE -algèbres tel que la représentation de Gal(Qp /Qp ) de dimension 2 sur E 0 obtenue par changement de base à partir de la représentation universelle sur R(ρp ) est cristalline avec des poids de Hodge-Tate distincts. Le schéma SpecR(ρp )cris est donc l’adhérence de Zariski des points cristallins à poids de Hodge-Tate distincts dans SpecR(ρp ). On pose : (5)

d´ ef

R(π p )cris = R(ρp )cris ⊗R(ρp ) R(π p )det .

Le résultat essentiel pour la suite, et qui historiquement a été inspiré par les résultats de [30], est le théorème suivant dû à Kisin ([32, Prop. 2.8]) : Théorème 3.3 ([32]). — La surjection canonique R(ρp )cris  R(π p )cris est un isomorphisme. Géométriquement, ce résultat signifie que le sous-schéma fermé de SpecR(ρp )cris dont les points sont les déformations galoisiennes provenant par le foncteur V de déformations côté GL2 (Qp ) satisfaisant la condition sur le caractère central est égal à tout SpecR(ρp )cris . L’argument clef de la preuve est d’une part que toutes les représentations cristallines de dimension 2 de Gal(Qp /Qp ) à poids de Hodge-Tate distincts sont dans l’image de V , d’autre part que, lorsqu’une déformation πp donne par le foncteur V une déformation galoisienne ρp cristalline à poids de Hodge-Tate distincts, alors la condition « caractère central de πp = det(V (πp ))ε » est automatique. Tout cela se déduit des propriétés de V et des constructions explicites de [2], [7], [14], [37]. Remarque 3.4. — (i) Dans [32], le théorème 3.3 est démontré sans la condition EndGal(Qp /Qp ) (ρp ) = kE (mais avec la condition (3)). (ii) Si p > 2 (et même si p = 2 par un résultat non publié de Chenevier [15, note (7)]), la surjection R(ρp )  R(ρp )cris est en fait un isomorphisme sous la condition (3) par densité des points cristallins à poids de Hodge-Tate distincts dans SpecR(ρp ) pour la ∼ topologie de Zariski ([32, Cor. 1.11], [3]). Avec (5), on en déduit R(π p )det → R(π p )cris

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

130

C. BREUIL

∼

et, avec le théorème 3.3, on a donc dans ce cas R(ρp ) → R(π p )det . Nous n’utilisons pas ces résultats dans la suite. Le théorème 3.3 sera utilisé à la fin du §4.3 sous la forme suivante : Corollaire 3.5. — Soit T une OE -algèbre locale noethérienne complète qui est un quotient de R(ρp )cris . Toute déformation ρp de ρp sur T provient par le foncteur V d’une déformation πp de π p sur T .

4. PREUVE DU THÉORÈME DE COMPATIBILITÉ LOCALGLOBAL 4.1. Stratégie de la preuve Pour montrer le théorème 2.1, supposant ρ promodulaire (ce qui implique en particulier ρ modulaire) il s’agit donc de produire un ensemble Σ contenant p et les places où ρ est ramifiée ainsi qu’un morphisme non nul continu Gal(Q/Q)×GL2 (Qp )× GL2 (AΣ f )-équivariant :
1 “E −→ H ρ ⊗E B(ρp ) ⊗E ⊗0 π` ρ| `∈Σ /

Gal(Q` /Q` )

d´ ef

où ρp = ρ|Gal(Qp /Qp ) et de montrer qu’un tel morphisme est toujours injectif (et fermé) sous les conditions de l’énoncé. Les étapes de la démonstration de l’existence d’un tel morphisme non nul sont les suivantes : (i) Soit Σ un ensemble fini de nombres premiers contenant p et les places où ρ est ramifiée ; on se ramène au §4.2 à montrer qu’il existe un morphisme non nul continu Gal(Q/Q) × GL2 (Qp )-équivariant : 1 “E,Σ ρ ⊗E B(ρp ) −→ H

Q ef GL2 (Z` ) “1 d´ “1 ) `∈Σ / où H = ( H (et qu’un tel morphisme est toujours une injection E,Σ E fermée sous les conditions de l’énoncé). “1 est naturellement un module sur une algèbre de (ii) Le E-espace vectoriel H E,Σ

Hecke TΣ . Notant TΣ,ρ le complété de TΣ « par rapport à ρ », on montre au §4.3 qu’il existe des déformations naturelles ρΣ de ρp et πΣ de π p sur TΣ,ρ telles que V (πΣ ) = ρΣ d´ ef

où ρp = ρ|Gal(Qp /Qp ) et où π p est la représentation lisse de GL2 (Qp ) sur kE qui lui correspond par la correspondance locale modulo p.

ASTÉRISQUE 348

(1031)

LANGLANDS p-ADIQUE ET COMPATIBILITÉ LOCAL-GLOBAL

131

d´ ef “1 “1 (iii) Notant H E,Σ,ρ = HE,Σ ⊗TΣ TΣ,ρ , on montre au §4.4 que le TΣ,ρ -module des homomorphismes équivariants continus :
d´ ef “1 XE = Hom ρΣ ⊗T πΣ , H TΣ,ρ [Gal(Q/Q)×GL2 (Qp )]

Σ,ρ

E,Σ,ρ

est tel que XE [p] 6= 0 pour tout idéal maximal p de TΣ,ρ [1/p]. On le déduit par un argument de densité du fait que XE [p] 6= 0 pour le sous-ensemble des idéaux maximaux « classiques cristallins » de TΣ,ρ [1/p]. Comme ρ est promodulaire, il existe Σ tel que l’idéal pρ de TΣ,ρ [1/p] associé à ρ par la recette habituelle est un idéal maximal, et XE [pρ ] 6= 0 montre l’existence d’un morphisme non nul continu équivariant comme en (i). Les étapes (ii) et (iii) ci-dessus, et les preuves des théorèmes 2.9 et 2.11 au §5, utilisent de manière essentielle un théorème démontré par Emerton il y a quelques “1 pour l’action de GL2 (Qp ) années qui décrit les vecteurs localement algébriques de H E et que l’on rappelle maintenant. Si V est un E-espace vectoriel muni d’une action linéaire de GL2 (Qp ), on note V alg ⊂ V le sous-E-espace vectoriel des vecteurs v pour lesquels il existe un sous-groupe ouvert compact Kp ⊂ GL2 (Qp ) tel que la Kp -représentation engendrée par v dans V |Kp soit la restriction à Kp d’une somme directe de représentations algébriques de GL2 (Qp ). Ce sous-espace est stable sous l’action de GL2 (Qp ). Si k est un entier ≥ 2 et K un sous-groupe ouvert compact de GL2 (Af ), on note F k−2 le faisceau sur le site étale de Y (K) ×Q Q correspondant au système local au-dessus de Y (K)(C) :
GL2 (Q)\ (C−R) × (GL2 (Af ) × Symk−2 E 2 )/K (voir [17, §2.4] pour plus de détails sur les actions respectives de GL2 (Q) et K). Théorème 4.1 ([18], [17]). — On a un isomorphisme Gal(Q/Q) × GL2 (Af )-équivariant : M
∼ 1 alg “E lim H´e1t Y (K) ×Q Q, F k−2 ⊗E (Symk−2 E 2 )∨ ⊗E εn −→ (H ) , −→ k≥2 n∈Z

K

où la limite inductive est prise sur les sous-groupes ouverts compacts de GL2 (Af ) et où εn est le caractère εn ⊗ (εn ◦ det) de Gal(Q/Q) × GL2 (Af ). Q En prenant les invariants sous l’action de `∈Σ / GL2 (Z` ) où Σ est un ensemble fini de nombres premiers contenant p, on en déduit un isomorphisme Q Gal(Q/Q) × `∈Σ GL2 (Q` ) × TΣ -équivariant : (6) M k≥2 n∈Z

  Y
∼ “1 )alg lim H´e1t Y KΣ GL2 (Z` ) ×Q Q, F k−2 ⊗E(Symk−2 E 2 )∨⊗E εn −→ (H E,Σ −→ KΣ

`∈Σ /

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

132

C. BREUIL

où la limite inductive est prise sur les sous-groupes ouverts compacts KΣ de Q `∈Σ GL2 (Q` ). 4.2. Première réduction Si K est un sous-groupe ouvert compact de GL2 (Af ), on note T(K) la sous-

OE -algèbre de : End OE [Gal(Q/Q)] H´e1t Y (K) ×Q Q, OE






d´ ef d´ ef engendrée par les opérateurs de Hecke T` = K ( 0` 01 ) K et S` = K 0` 0` K pour les premiers ` 6= p qui sont non ramifiés dans K. C’est une OE -algèbre commutative libre de type fini. Si Σ est un ensemble fini de nombres premiers contenant p, on pose :   Y d´ ef TΣ = lim T KΣ GL2 (Z` ) ←− KΣ

`∈Σ /

où la limite projective est prise sur les sous-groupes ouverts compacts KΣ de Q `∈Σ GL2 (Q` ) (les applications de transition sont surjectives). On munit TΣ de la Q topologie limite projective de la topologie p-adique sur chaque T(KΣ `∈Σ / GL2 (Z` )). La OE -algèbre topologique TΣ est compacte, réduite, commutative et agit fidèlement sur :   Q Y d´ ef GL2 (Z` ) “1 “1 K p “1 ) `∈Σ / H = lim H GL (Z ) = ( H 2 ` Σ OE ,Σ OE −→ OE p KΣ

`∈Σ /

Q en commutant avec l’action de Gal(Q/Q) × `∈Σ GL2 (Q` ) (la limite inductive est Q prise ici sur les sous-groupes ouverts compacts KΣp de `∈Σ\{p} GL2 (Q` )). On dit qu’un idéal maximal p de TΣ [1/p] est classique si le système de valeurs propres de Hecke associé à TΣ → TΣ [1/p]/p provient d’une forme modulaire parabolique propre de poids ≥ 2 (rappelons que TΣ [1/p]/p est une extension finie de E). Tous les idéaux maximaux de TΣ [1/p] ne sont pas classiques, ce qui motive la définition suivante de la promodularité pour une représentation de Gal(Q/Q) (voir [17, Def. 7.3.11]) : Définition 4.2. — Soit ρ une représentation E-linéaire continue impaire absolument irréductible de dimension 2 de Gal(Q/Q) qui est non ramifiée en dehors d’un ensemble fini de nombres premiers. On dit que ρ est promodulaire s’il existe un ensemble fini de nombres premiers Σ contenant p et les places où ρ est ramifiée tel que l’idéal de TΣ [1/p] engendré par T` − trace(ρ(Frob` )) et S` − `−1 det(ρ(Frob` )) pour ` ∈ / Σ est un idéal maximal (ce qui revient à demander qu’il soit distinct de TΣ [1/p]). (Lorsque l’idéal engendré est maximal et classique, rappelons que ρ est dite modulaire.)

ASTÉRISQUE 348

(1031)

LANGLANDS p-ADIQUE ET COMPATIBILITÉ LOCAL-GLOBAL

133

GL (Q )

Notons c − indGL22 (Z``) 1 l’induite lisse à support compact usuelle sur E et rappelons GL (Q )
que EndGL2 (Q` ) c − indGL22 (Z``) 1 = E[T` , S` ]. De plus, si π` est une représentation lisse de GL2 (Q` ) sur E et λ1 , λ2 ∈ E, on a : (7)

HomGL2 (Q` )

Å c − indGL2 (Q` ) 1 GL2 (Z` ) T` − λ1 , S` − λ2

ã
, π` = π`GL2 (Z` ) [T` − λ1 , S` − λ2 ] GL2 (Z` )

où le membre de droite est le sous-espace vectoriel de π` agissent par la multiplication par λ1 et λ2 .

sur lequel T` et S`

Soient maintenant ρ comme dans le théorème 2.1, Σ un ensemble fini de nombres premiers contenant p et les places où ρ est ramifiée et λ : TΣ → E le caractère qui “1 [λ] le envoie T` sur trace(ρ(Frob` )) et S` sur `−1 det(ρ(Frob` )) pour ` ∈ / Σ. Soit H E,Σ “1 = H “1 sous-E-espace vectoriel de H ⊗ O E sur lequel TΣ agit par λ. On a pour E,Σ

OE ,Σ

E

`∈ / Σ par la correspondance locale classique : GL (Q )


π` ρ|Gal(Q` /Q` ) '

c − indGL22 (Z``) 1 T` − λ(T` ), S` − λ(S` )


,

et on déduit de (7) : 
1 “E (8) HomGal(Q/Q)×GL2 (Qp )×GL2 (AΣ ) ρ ⊗E B(ρp ) ⊗E ⊗0`∈Σ π` ρ|Gal(Q` /Q` ) , H / f
∼ 1 “E,Σ −→ HomGal(Q/Q)×GL2 (Qp ) ρ ⊗E B(ρp ), H [λ] ∼ “1 −→ HomGal(Q/Q)×GL2 (Qp ) ρ ⊗E B(ρp ), H E,Σ




où le dernier isomorphisme résulte des relations d’Eichler-Shimura entre action de “1 . De plus, un morphisme dans l’espace tout à Gal(Q/Q) et action de TΣ sur H E,Σ gauche est une injection fermée si et seulement si le morphisme image dans l’espace tout à droite l’est. Ceci est non trivial seulement s’il y a des ` ∈ / Σ non génériques (car “1 alors π` (ρ|Gal(Q` /Q` ) ) est réductible, cf. remarque 2.3 (ii)) et découle du fait que H E,Σ ne contient pas de sous-espace de dimension finie stable par GL2 (Q` ) (rappelons que dans ce cas π` (ρ|Gal(Q` /Q` ) ) a un unique quotient strict qui est de dimension 1). Ce dernier énoncé se déduit du lemme d’Ihara. 4.3. Déformations sur l’algèbre de Hecke On fixe ici une représentation kE -linéaire continue impaire absolument irréductible ρ de dimension 2 de Gal(Q/Q) telle que ρp = ρ|Gal(Qp /Qp ) vérifie l’hypothèse (3). On fixe un ensemble fini Σ de nombres premiers contenant p et les places où ρ est ramifiée. On suppose de plus que ρ est modulaire (sans utiliser la preuve de la conjecture de Serre).

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

134

C. BREUIL

Q Pour KΣ sous-groupe ouvert compact de `∈Σ GL2 (Q` ), on note :   Y T KΣ GL2 (Z` ) ρ

`∈Σ /


Q le complété de T KΣ `∈Σ par rapport à l’idéal engendré par $E , / GL2 (Z` ) −1 T` − [trace(ρ(Frob` ))] et S` − ` [det(ρ(Frob` ))] pour ` ∈ / Σ où [·] désigne le représentant multiplicatif dans OE . On pose :   Y d´ ef GL2 (Q` ) . TΣ,ρ = lim T KΣ ←− ρ KΣ

`∈Σ /

C’est une OE -algèbre plate locale noethérienne complète réduite de corps résiduel kE qui est un facteur direct de TΣ . On déduit de la modularité de ρ que TΣ,ρ 6= 0. Comme ρ est absolument irréductible, pour chaque sous-groupe ouvert compact
Q Q KΣ de `∈Σ GL2 (Q` ) tel que T KΣ `∈Σ / GL2 (Z` ) ρ 6= 0 il existe par un résultat de Carayol ([11, Th. 3]) une unique représentation continue linéaire ρ(KΣ ) de Gal(Q/Q)
Q sur un T KΣ `∈Σ / GL2 (Z` ) ρ -module libre de rang 2 non ramifiée en dehors de Σ telle que : (
trace ρ(KΣ )(Frob` ) = T` pour ` ∈ / Σ.
det ρ(KΣ )(Frob` ) = `S` d´ ef

On pose ρΣ = limK ρ(KΣ ) : c’est une déformation de ρ sur la OE -algèbre locale ←− Σ noethérienne complète TΣ,ρ de corps résiduel kE . Remarque 4.3. — En utilisant que tout système de valeurs propres de TΣ,ρ sur Qp correspond (par spécialisation de ρΣ ) à une représentation de Gal(Q/Q) non ramifiée en dehors de Σ dont le conducteur aux places de Σ\{p} est majoré (par une borne ne dépendant que de ρ et Σ), on voit qu’il existe un sousQ groupe ouvert compact KΣp (suffisamment petit) de `∈Σ\{p} GL2 (Q` ) tel que
Q ∼ p TΣ,ρ −→ limK T KΣ Kp `∈Σ / GL2 (Z` ) ρ , la limite projective étant prise sur les ←− p sous-groupes ouverts compacts Kp de GL2 (Qp ). En restreignant ρΣ à Gal(Qp /Qp ), on déduit de la propriété universelle de R(ρp ) (cf. §3.2) un morphisme canonique de OE -algèbres R(ρp ) → TΣ,ρ . On va associer à ρΣ une déformation de π p sur TΣ,ρ en utilisant le corollaire 3.5. Mais pour cela, il faut savoir que le morphisme R(ρp ) → TΣ,ρ se factorise par le quotient R(ρp )cris de R(ρp ) (cf. (4)), ce qui fait l’objet du reste de cette partie. Soit p un idéal maximal classique de TΣ,ρ [1/p] (cf. §4.2), les théorèmes de comparaison ([20], [36], [42]) entraînent alors que la représentation :
(9) ρΣ |Gal(Qp /Qp ) ⊗TΣ,ρ TΣ,ρ [1/p]/p

ASTÉRISQUE 348

(1031)

LANGLANDS p-ADIQUE ET COMPATIBILITÉ LOCAL-GLOBAL

135

est potentiellement semi-stable à poids de Hodge-Tate distincts. On dit qu’un idéal maximal p est classique cristallin s’il est classique et si de plus la représentation en (9) est cristalline. De manière équivalente le système de valeurs propres TΣ,ρ → TΣ,ρ [1/p]/p provient d’une forme modulaire parabolique propre de poids ≥ 2 et de niveau premier à p. On note C l’ensemble des idéaux maximaux classiques cristallins de TΣ,ρ [1/p]. On note dans la suite p quand on devrait noter p ∩ TΣ,ρ . Si M est un TΣ -module, d´ ef

on note Mρ = M ⊗TΣ TΣ,ρ qui est un facteur direct de M . Si M est un TΣ,ρ -module, on note M [p] ⊆ M le noyau de tous les opérateurs dans p. Le théorème qui suit est essentiellement dû à Katz : Théorème 4.4 ([19]). — On a ∩p∈ C p = 0, autrement dit l’ensemble des idéaux maximaux classiques cristallins est dense dans TΣ,ρ pour la topologie de Zariski. Démonstration. — Donnons les grandes lignes de la preuve en suivant [19, §5.4]. Le “1 “1 OE -module H OE ,Σ,ρ est un facteur direct de H OE ,Σ sur lequel TΣ,ρ agit fidèlement (car “1 ). Il suffit donc de montrer que tout élément t ∈ ∩p∈ C p TΣ agit fidèlement sur H OE ,Σ

“1 “1 agit par 0 sur H E,Σ,ρ = H OE ,Σ,ρ ⊗ OE E.

(i) Montrons d’abord que, pour KΣp sous-groupe ouvert compact suffisamment petit
Q “1 K p Q de `∈Σ\{p} GL2 (Q` ), la GL2 (Zp )-représentation H `∈Σ / GL2 (Z` ) E,ρ |GL2 (Zp ) Σ est un facteur direct topologique de C (GL2 (Zp ), E)r (pour un certain entier r ≥ 0 dépendant de KΣp ) où C (GL2 (Zp ), E) est la GL2 (Zp )-représentation des fonctions continues de GL2 (Zp ) dans E. Pour alléger les notations, on n’écrit plus le facteur Q “1 p `∈Σ / GL2 (Z` ) dans la suite de cette preuve. Pour tout n ≥ 1, H (KΣ ) OE ,ρ ⊗ OE OE / $nE est une représentation lisse admissible de GL2 (Qp ) dont la restriction à GL2 (Zp ) est injective dans la catégorie abélienne des représentations lisses admissibles de GL2 (Zp ) sur des OE / $nE -modules (pour KΣp suffisamment petit). Cela vient du fait
“1 (K p ) O ,ρ ⊗ O OE / $n est exact car la localisation que le foncteur HomGL2 (Zp ) ·, H E Σ E E en ρ et l’irréductibilité de ρ concentrent la cohomologie sur sa partie « non Eisenstein » et tuent les éventuels défauts d’exactitude de ce foncteur (voir [19, Prop. 5.3.15]
“1 (K p ) O ,ρ ⊗ O OE / $n , OE / $n est donc un pour des détails). Le dual Hom OE H E E Σ E E objet projectif dans la catégorie des modules à gauche de type fini sur l’algèbre d’Iwasawa (non commutative) OE / $nE [[GL2 (Zp )]] (duale des fonctions continues de GL2 (Zp ) dans OE / $nE ). En passant à la limite projective sur n, on en déduit que
“1 (K p ) O ,ρ , OE est aussi (pour K p suffisamment petit) un objet projectif Hom OE H Σ E Σ dans la catégorie des modules à gauche de type fini sur OE [[GL2 (Zp )]]. C’est donc un facteur direct d’un module libre de type fini et on en déduit le résultat en redualisant et en inversant p.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

136

C. BREUIL

(ii) La théorie de Mahler nous dit que les fonctions polynomiales de GL2 (Zp ) dans E sont denses dans les fonctions continues C (GL2 (Zp ), E). On en déduit que les vecteurs de C (GL2 (Zp ), E)r sur lesquels GL2 (Zp ) agit par une représentation algébrique de GL2 “1 (K p )E,ρ est un GL2 (Zp )-facteur direct sont denses dans C (GL2 (Zp ), E)r . Comme H Σ topologique de C (GL2 (Zp ), E)r (pour KΣp suffisamment petit), on en déduit la même “1 (K p )E,ρ . En passant à la limite inductive sur K p , on obtient que assertion pour H Σ Σ “1 sur lesquels GL (Z ) agit par une représentation algébrique de les vecteurs de H 2 p E,Σ,ρ 1 “ . GL2 sont denses dans H E,Σ,ρ

alg “1 (iii) L’isomorphisme (6) entraîne que la sous-représentation (H des vecteurs E,Σ,ρ ) L 1 1 “ “ est contenue dans H [p] où la somme directe localement algébriques de H E,Σ,ρ

p

E,Σ,ρ

est prise sur les idéaux maximaux classiques de TΣ,ρ [1/p]. La sous-représentation de alg “1 “1 (ou de H (H E,Σ,ρ ) engendrée par les vecteurs sur lesquels GL2 (Zp ) tout entier E,Σ,ρ ) L “1 agit par une représentation algébrique est alors contenue dans p∈ C H E,Σ,ρ [p]. Cela résulte de (6) et du fait que, pour toute forme modulaire parabolique propre f de poids k ≥ 2, la représentation lisse πp (ρf |Gal(Qp /Qp ) ) contient un vecteur fixe sous GL2 (Zp ) si et seulement si ρf |Gal(Qp /Qp ) est cristalline (voir §5.1 pour πp (ρf |Gal(Qp /Qp ) )). Comme L “1 H t ∈ ∩p∈ C p, t annule [p] et donc aussi cette sous-représentation. Or par p∈ C

E,Σ,ρ

“1 (ii) elle contient un sous-espace dense dans H E,Σ,ρ . Par continuité, t agit donc par 0 1 “ sur HE,Σ,ρ , d’où le résultat. On en déduit immédiatement avec (4) : Corollaire 4.5. — Le morphisme R(ρp ) → TΣ,ρ se factorise en un morphisme R(ρp )cris → TΣ,ρ .

En particulier, par le corollaire 3.5 appliqué à T = Image(R(ρp )cris → TΣ,ρ ) puis extension des scalaires, il correspond à ρΣ |Gal(Qp /Qp ) une déformation πΣ de π p sur TΣ,ρ . 4.4. Un argument de densité On garde les notations du §4.3 et on définit le TΣ,ρ -module : d´ ef

X OE = HomT

Σ,ρ [Gal(Q/Q)×GL2 (Qp )]

“1 ρΣ ⊗TΣ,ρ πΣ , H OE ,Σ,ρ




des homomorphismes TΣ,ρ -linéaires, Gal(Q/Q) × GL2 (Qp )-équivariants et continus, où ρΣ ⊗TΣ,ρ πΣ est muni de la topologie m-adique (m est l’idéal maximal de TΣ,ρ ) et “1 “1 (avec les notations du est muni de la topologie induite par celle de H où H OE ,Σ,ρ

ASTÉRISQUE 348

OE

(1031)

LANGLANDS p-ADIQUE ET COMPATIBILITÉ LOCAL-GLOBAL

137

§4.1(iii), on a XE = X OE ⊗ OE E). La condition de continuité s’explicite comme suit : (10) ∀ f ∈ X OE , ∀ x ∈ ρΣ ⊗TΣ,ρ πΣ et ∀ n ∈ Z≥0 , ∃ m ∈ Z≥0 m “1 tq f (λx) ∈ $nE H OE ,Σ,ρ ∀ λ ∈ m .

Le lemme suivant rassemble quelques propriétés de X OE (voir [19, Th. 6.3.12]). Kp

Lemme 4.6. — (i) On a X OE = limK p X OEΣ où la limite inductive est prise sur les −→ Q Σ sous-groupes ouverts compacts KΣp de `∈Σ\{p} GL2 (Q` ). En particulier, l’action de Q `∈Σ\{p} GL2 (Q` ) sur X OE est lisse. Kp

(ii) Le TΣ,ρ -module X OEΣ est un OE -module sans torsion séparé complet pour la
Kp topologie $E -adique tel que Hom OE X OEΣ , OE est un TΣ,ρ -module de type fini. (iii) Il existe KΣp suffisamment petit tel que, si p est un idéal maximal de TΣ,ρ [1/p], Kp

on a X OE [p] 6= 0 si et seulement si X OEΣ [p] 6= 0. La preuve de (i) découle essentiellement de la condition de continuité (10), celle de (ii) du simple fait que l’on y a borné le niveau hors p et celle de (iii) découle essentiellement de la remarque 4.3. La proposition qui suit, basée sur un argument de densité, est au cœur de la preuve du théorème 2.1 : Proposition 4.7. — Supposons que l’on a X OE [p] 6= 0 pour un sous-ensemble d’idéaux maximaux p de TΣ,ρ [1/p] qui est dense pour la topologie de Zariski, alors on a X OE [p] 6= 0 pour tous les idéaux maximaux p de TΣ,ρ [1/p]. Démonstration. — En prenant KΣp comme dans le lemme 4.6(iii), il suffit de montrer Kp

Kp

que X OEΣ [p]⊗ OE E 6= 0 pour tous les idéaux maximaux p si et seulement si X OEΣ [p]⊗ OE E 6= 0 pour un sous-ensemble E d’idéaux maximaux dense pour la topologie de Zariski. Un peu d’algèbre commutative donne :


Kp Kp ∼ TΣ,ρ /p ⊗TΣ,ρ Hom OE X OEΣ , OE ⊗ OE E −→ Hom OE X OEΣ [p], OE ⊗ OE E (voir [19, Lem. C.14]), et il suffit de montrer que le membre de gauche est non nul pour tout p si et seulement s’il est non nul pour tout p dans E. Soit M un TΣ,ρ [1/p]-module de type fini tel que M/pM 6= 0 pour tout p ∈ E. Comme TΣ,ρ [1/p]/p est un corps, M/pM est en particulier un TΣ,ρ [1/p]/p-module fidèle. Si t ∈ TΣ,ρ [1/p] agit par 0 sur M , il agit aussi par 0 sur M/pM pour tout p, et comme M/pM 6= 0 si p ∈ E on a donc t ∈ p pour tout p ∈ E, i.e. t ∈ ∩p∈ E p = 0. Donc TΣ,ρ [1/p] agit fidèlement sur M . Soit maintenant p un idéal maximal quelconque de TΣ,ρ [1/p] et supposons M/pM = 0, i.e. M = pM . Comme M est de type fini sur l’anneau TΣ,ρ [1/p], le lemme de Nakayama ([34, Th. 2.2]) donne un t ∈ TΣ,ρ [1/p] non nul tel que tM = 0, ce qui est impossible par ce qui précède. On en déduit M/pM 6= 0 pour tout p. En

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

138

C. BREUIL


Kp appliquant ce résultat à M = Hom OE X OEΣ , OE ⊗ OE E qui est de type fini par le lemme 4.6(ii), on en déduit l’énoncé. Si p est un idéal maximal quelconque de TΣ,ρ [1/p], on note : ρ(p)


d´ ef

=

d´ ef


ρΣ ⊗TΣ,ρ TΣ,ρ [1/p]/p
πΣ ⊗TΣ,ρ TΣ,ρ [1/p]/p

B ρ(p)|Gal(Qp /Qp ) =
et B ρ(p)|Gal(Qp /Qp ) est le GL2 (Qp )-Banach unitaire correspondant à ρ(p)|Gal(Qp /Qp ) par la correspondance locale p-adique. Proposition 4.8. — On a X OE [p] 6= 0 pour tout idéal maximal classique cristallin p de TΣ,ρ [1/p]. Démonstration. — Nous donnons la preuve pour p > 2 (un argument supplémentaire de densité permet de se passer de cette hypothèse, voir [19, Lem. 5.4.9]). Soit p un tel idéal maximal et E 0 une extension finie de E telle que TΣ,ρ [1/p]/p ⊆ E 0 . “1 0 L’isomorphisme (6) (appliqué sur E 0 ) entraîne que H E ,Σ,ρ [p] contient le produit tensoriel de ρ(p) par une représentation localement algébrique irréductible de GL2 (Qp ). Comme ρ(p) est cristalline, un résultat purement local nous dit que cette représentation localement algébrique possède au plus une unique classe d’équivalence de normes invariantes (voir [1, §2.3]), qui est donc forcément celle de la norme “1 “1 0 induite par H OE ,Σ,ρ [p] dans HE 0 ,Σ,ρ [p] (i.e. la norme pour laquelle l’intersection avec “1 0 H le GL2 (Qp )-Banach unitaire obtenu par OE ,Σ,ρ [p] est la boule unité). De plus,
complétion est soit B ρ(p)|Gal(Qp /Qp ) si ρ(p)|Gal(Qp /Qp ) est absolument irréductible ([2], [37], on utilise ici p > 2), soit une sous-représentation fermée (stricte) de
B ρ(p)|Gal(Qp /Qp ) si ρ(p)|Gal(Qp /Qp ) est réductible sur E 0 ([7, §2.2]). Dans le cas irréductible, il est déjà clair que l’on a un morphisme non nul équivariant
“1 0 ρ(p) ⊗TΣ,ρ /p B ρ(p)|Gal(Qp /Qp ) → H E ,Σ,ρ [p], qui est même une injection fermée. Dans le cas réductible, c’est encore vrai mais c’est plus subtil ([7, Th. 1.1.2]). Il suit de la définition de X OE que : (11) X OE [p] ⊗ OE E 0 = HomT

Σ,ρ /p[Gal(Q/Q)×GL2 (Qp )]


1
“ 0 ρ(p) ⊗TΣ,ρ /p B ρ(p)|Gal(Qp /Qp ) , H E ,Σ,ρ [p] ,

et comme le membre de droite est non nul par ce qui précède, on a X OE [p] ⊗ OE E 6= 0 pour tout p classique cristallin. Remarque 4.9. — Rappelons que c’est précisément l’unicité de la classe d’équivalence des normes invariantes sur les représentations localement algébriques « cristallines » de GL2 (Qp ) qui a permis de construire les premiers exemples de B(ρp ) par complétion (cf. [4, Ex. 1.3.2]). Par ailleurs, cette unicité, qui est un ingrédient crucial dans la preuve

ASTÉRISQUE 348

(1031)

LANGLANDS p-ADIQUE ET COMPATIBILITÉ LOCAL-GLOBAL

139

de la proposition 4.8, n’est plus vraie lorsque GL2 (Qp ) est remplacé par GL2 d’une extension finie de Qp . Cela rend pour l’instant très délicate une éventuelle adaptation de la preuve actuelle du théorème 2.1 à un autre cadre que GL2 /Q, par exemple celui des formes modulaires de Hilbert (lorsque p n’est pas totalement décomposé dans le corps totalement réel). Corollaire 4.10. — Soient ρ promodulaire comme dans le théorème 2.1 et Σ comme dans la définition 4.2. Alors il existe un morphisme non nul continu “1 . Gal(Q/Q) × GL2 (Qp )-équivariant ρ ⊗E B(ρp ) −→ H E,Σ Démonstration. — Par hypothèse, l’idéal de TΣ,ρ [1/p] engendré par T` − trace(ρ(Frob` )) et S` − `−1 det(ρ(Frob` )) pour ` ∈ / Σ est un idéal maximal pρ . Comme les p classiques cristallins forment un sous-ensemble dense pour la topologie de Zariski par le théorème 4.4, la proposition 4.7 avec la proposition 4.8 montrent en particulier que l’on a X OE [pρ ] 6= 0 et le résultat découle de (11) (avec E 0 = E). Par (8), cela donne la première assertion du théorème 2.1. Il reste à vérifier que tout “1 morphisme non nul continu Gal(Q/Q) × GL2 (Qp )-équivariant ρ ⊗E B(ρp ) −→ H E,Σ est une injection fermée, au moins sous les conditions du théorème 2.1. Lorsque ρp est absolument irréductible, alors la GL2 (Qp )-représentation B(ρp ) est (topologiquement) irréductible et admissible, et le résultat est automatique. Lorsque ρp est réductible indécomposable, alors B(ρp ) est aussi réductible indécomposable, et il faut montrer qu’un morphisme non nul ne peut se factoriser par un quotient strict de B(ρp ). Le cas ρp cristallin à poids de Hodge-Tate distincts est déjà dans [7, Th. 5.7.2], voir [19, Prop. 6.2.2] pour le cas général.

5. PREUVE DES THÉORÈMES 2.9, 2.11 ET 2.12 5.1. Compatibilité Langlands p-adique/Langlands classique On commence par préciser ce que l’on entend par compatibilité p-adique/classique. Soit ρp une représentation E-linéaire continue de dimension 2 de Gal(Qp /Qp ). Lorsque ρp est potentiellement semi-stable, on peut lui associer une représentation de Weil-Deligne qui consiste essentiellement à combiner l’action du Frobenius et l’action restante de Gal(Qp /Qp ) sur le (ϕ, N )-module filtré de Fontaine associé à ρp en une action du groupe de Weil-Deligne (voir [22]). À cette représentation de Weil-Deligne (une fois F -semi-simplifiée), on peut à son tour lui associer par la correspondance de Langlands locale classique normalisée comme dans la remarque 2.3(i),(ii) une représentation lisse admissible πp (ρp ) de GL2 (Qp ) sur E qui est irréductible sauf

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

140

C. BREUIL

dans les cas non génériques où elle est, par définition, de longueur 2 avec un quotient de dimension 1. Se pose alors la question (lorsque ρp est potentiellement semi-stable) de relier la GL2 (Qp )-représentation lisse πp (ρp ) au GL2 (Qp )-Banach unitaire B(ρp ) du §3. Cette question est au cœur du programme de Langlands p-adique (et en est même à l’origine, voir [4, §1.3]). La réponse est donnée par l’énoncé ci-dessous, version « explicite » du théorème 2.9 : Théorème 5.1. — Supposons ρp potentiellement semi-stable à poids de Hodge-Tate distincts a < b. On a un isomorphisme de GL2 (Qp )-représentations : (12)

∼

deta+1 ⊗E Symb−a−1 E 2 ⊗E πp (ρp ) −→ B(ρp )alg

où B(ρp )alg est la sous-GL2 (Qp )-représentation de B(ρp ) formée des vecteurs localement algébriques (voir §4.1). Démonstration. — Donnons les grandes lignes de la preuve en suivant [19, §7.4]. Lorsque ρp devient semi-stable en restriction au groupe de Galois d’une extension abélienne de Qp , la preuve de ce résultat est purement locale (en particulier elle n’utilise pas le théorème 2.1) et est due à Colmez ([15, Th. VI.6.50], attention à la normalisation ici, cf. remarque 3.1). On peut donc supposer que ρp est potentiellement cristalline et que sa représentation de Weil-Deligne est irréductible, ou, ce qui revient au même, que πp (ρp ) est supercuspidale. Un autre résultat de Colmez ([15, Th. VI.6.42]) assure alors que la GL2 (Qp )-représentation B(ρp )alg ne dépend pas de la filtration de Hodge sur le (ϕ, N )-module filtré de Fontaine, i.e. dépend seulement de πp (ρp ) et des poids de Hodge-Tate (a, b). Il suffit donc de trouver une représentation potentiellement cristalline ρ0p à poids de Hodge-Tate (a, b) telle que πp (ρ0p ) ' πp (ρp ) pour laquelle on sache démontrer l’isomorphisme (12) (puisque B(ρ0p )alg = B(ρp )alg ). × En fait, on va avoir besoin d’autoriser πp (ρ0p ) ' πp (ρp )⊗η ◦det où η : Q× p → E est un caractère non ramifié, ce qui est inoffensif car cela revient juste à tensoriser (12) par le caractère η. On donne ci-dessous les étapes pour trouver une telle représentation ρ0p par voie globale. (i) Par un résultat de Henniart ([25]) il existe une unique représentation lisse irréductible (de dimension finie) σ de GL2 (Zp ) sur E qui apparaît dans les supercuspidales πp (ρp ) ⊗ η ◦ det pour tous les η non ramifiés (et qui y apparaît alors avec multiplicité 1) et n’apparaît dans aucune autre représentation lisse admissible d´ ef

irréductible de GL2 (Qp ). Soit σ alg = deta+1 ⊗E Symb−a−1 E 2 ⊗E σ : c’est une représentation localement algébrique irréductible de GL2 (Zp ). Il n’est pas difficile (en induisant un Grössencharacter convenable par exemple) de trouver une représentation kE -linéaire continue absolument irréductible modulaire ρ de dimension 2 de Gal(Q/Q)

ASTÉRISQUE 348

(1031)

LANGLANDS p-ADIQUE ET COMPATIBILITÉ LOCAL-GLOBAL

141

telle que ρp = ρ|Gal(Qp /Qp ) est absolument irréductible (donc vérifie en particulier l’hypothèse (3)) et telle qu’un (au moins) des facteurs de Jordan-Hölder de σ alg est un poids de Serre de ρp |Gal(Qp /Qnr ) , i.e. apparaît dans le GL2 (Zp )-socle de la p GL2 (Qp )-représentation irréductible π p correspondant à ρp . On note σ0 un tel facteur de Jordan-Hölder. (ii) Soit Σ un ensemble fini de nombres premiers contenant p et les places où ρ est ramifiée. En réduisant modulo $E une injection fermée comme dans le corollaire 4.10 pour une représentation ρ associée à un idéal maximal quelconque de TΣ,ρ [1/p] 6= 0, “1 on en déduit en particulier HomGL2 (Qp ) (π p , H OE ,Σ,ρ ⊗ OE kE ) 6= 0 et donc a fortiori :
“1 HomGL2 (Zp ) σ0 , H OE ,Σ,ρ ⊗ OE kE |GL2 (Zp ) 6= 0.
n “1 En utilisant l’exactitude du foncteur HomGL2 (Zp ) ·, H OE ,Σ,ρ ⊗ OE OE / $ E pour n ≥ 1 (voir (i) dans la preuve du théorème 4.4), on en déduit après passage à la limite projective sur n :
“1 HomGL2 (Zp ) σ alg , H E,Σ,ρ |GL2 (Zp ) 6= 0. Notons que, σ alg étant localement algébrique, on a donc :

alg “1 “1 HomGL2 (Zp ) σ alg , H (13) , (HE,Σ,ρ )alg 6= 0 E,Σ,ρ = HomGL2 (Zp ) σ alg “1 et que, σ alg étant irréductible, tout morphisme non nul de HomGL2 (Zp ) (σ alg , (H E,Σ,ρ ) ) est une injection. (iii) Soit p un idéal maximal classique de TΣ,ρ [1/p] tel que :
alg “1 HomGL2 (Zp ) σ alg , (H [p] 6= 0 E,Σ,ρ )

(il en existe par (13) et (6)). En se souvenant que σ alg = deta+1 ⊗E Symb−a−1 E 2 ⊗E σ, on a donc par (6) : alg “1 (14) (H [p] ' E,Σ,ρ )



ρ(p)⊗E deta+1 ⊗E Symb−a−1 E 2 ⊗E πp ρ(p)|Gal(Qp /Qp ) ⊗E ⊗0`∈Σ\{p} π` ρ(p)|Gal(Q` /Q` )
où ρ(p) (cf. §4.4) est à poids de Hodge-Tate (a, b) et où πp ρ(p)|Gal(Qp /Qp ) est irréductible et doit contenir σ. Par la propriété de σ rappelée en (i), on en déduit
πp ρ(p)|Gal(Qp /Qp ) ' πp (ρp ) ⊗ η ◦ det pour un caractère η non ramifié. (iv) Par le corollaire 4.10 appliqué à ρ = ρ(p), on a une injection Gal(Q/Q) × GL2 (Qp )-équivariante :
alg 1 alg “E,Σ “1 ρ(p) ⊗E B ρ(p)|Gal(Qp /Qp ) ,→ (H [p])alg = (H [p]. E,Σ,ρ ) Par [15, Th. VI.6.18] et [15, Th. VI.5.7], la GL2 (Qp )-représentation localement
alg algébrique B ρ(p)|Gal(Qp /Qp ) est non nulle et irréductible. En utilisant (14), on
voit qu’elle doit coïncider avec deta+1 ⊗E Symb−a−1 E 2 ⊗E πp ρ(p)|Gal(Qp /Qp ) . On

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

142

C. BREUIL

a bien obtenu (par voie globale) l’isomorphisme (12) pour ρ0p = ρ(p)|Gal(Qp /Qp ) satisfaisant les conditions demandées, ce qui achève la preuve. 5.2. Conjectures de Fontaine-Mazur et de Kisin Bien que différentes dans les détails, les preuves de ces deux conjectures sont basées sur le même principe. Soit ρ comme dans le théorème 2.4, alors on sait “1 contient que ρ est promodulaire et, par le théorème 2.1, on sait aussi que H E alors B(ρp ). Pour montrer que « ρp est potentiellement semi-stable » est équivalent à « ρ provient d’une forme modulaire propre classique », il suffit de trouver une même façon de caractériser ces deux propriétés de ρ. De même pour montrer que « ρp est trianguline » est équivalent à « ρ provient d’une forme modulaire propre surconvergente ». Cette caractérisation est dans chaque cas la présence dans B(ρp ) d’un certain sous-espace non nul : les vecteurs localement algébriques B(ρp )alg dans le cas classique, les vecteurs localement analytiques de pente finie B(ρp )an,pf dans le cas surconvergent. Un premier résultat purement local de théorie des représentations (indépendant de la cohomologie) assure d’abord que la non nullité de ce sous-espace B(ρp )alg (resp. B(ρp )an,pf ) est équivalente à ce que ρp soit potentiellement semistable (resp. trianguline) (en fait, une implication est suffisante, cf. ci-dessous). Un deuxième résultat, purement global lui, assure que l’existence de vecteurs localement “1 vient précisément algébriques (resp. localement analytiques de pente finie) dans H E de celle des formes modulaires propres classiques (resp. surconvergentes). Ces deux résultats mis bout à bout donnent dans chaque cas la conjecture. Rentrons un peu plus dans les détails en commençant par la conjecture de FontaineMazur (Conjecture 2.5). Supposons p > 2 et soit ρ une représentation E-linéaire continue impaire de dimension 2 de Gal(Q/Q) qui est non ramifiée en dehors d’un ensemble fini de places, potentiellement semi-stable à poids de Hodge-Tate distincts en p, et qui vérifie les hypothèses additionnelles : p (i) ρ|Gal(Q/Q( √ 1)) est absolument irréductible (ii) ρp n’est pas scindée (iii) ρp  ( 10 ∗1 ) à torsion près par un caractère (∗ nul ou non) (iv) ρp  ( 10 ∗ε ) à torsion près par un caractère (∗ nul ou non). Par le théorème 2.4 et le théorème 2.1, ρ est promodulaire et on a une “1 ). Comme injection fermée GL2 (Qp )-équivariante B(ρp ) ,→ HomGal(Q/Q) (ρ, H E ρp est potentiellement semi-stable à poids de Hodge-Tate distincts, on a B(ρp )alg 6= 0 (c’est le résultat local de théorie des représentations mentionné ci-dessus). Notons que l’on n’utilise pas ici le théorème 5.1 mais seulement [15, Th. VI.6.18]. On a “1 )alg ) 6= 0. Par le théorème 4.1 (le résultat global mentionné donc HomGal(Q/Q) (ρ, (H E

ASTÉRISQUE 348

(1031)

LANGLANDS p-ADIQUE ET COMPATIBILITÉ LOCAL-GLOBAL

143

ci-dessus), on voit finalement que ρ provient à torsion près par un caractère (que l’on peut prendre une puissance entière de ε) d’une représentation ρf attachée à une forme modulaire parabolique propre f de poids ≥ 2. Kisin, en utilisant les théorèmes 5.1 et 2.10, a donné dans [30] une autre preuve de la modularité de ρ lorsque l’on remplace les hypothèses (ii), (iii) et (iv) ci-dessus par seulement l’hypothèse : (ii)0 ρp  ( 0ε ∗1 ) à torsion près par un caractère (∗ nul ou non). La preuve de Kisin est indépendante du théorème 2.1, en particulier les cas connus du théorème 5.1 avant que le théorème 2.1 soit disponible (c’est-à-dire les cas où πp (ρp ) est une série principale ou spéciale, cf. le début de la preuve du théorème 5.1) lui avaient permis de démontrer les cas correspondants de la conjecture de FontaineMazur (cf. loc. cit.). En rassemblant les cas démontrés par Emerton et Kisin, on obtient le théorème 2.11 (en notant que, pour p = 3, les hypothèses (iv) et (ii)0 sont les mêmes puisque ε = ε−1 ). Indiquons maintenant les grandes lignes de la preuve de (nombreux cas de) la conjecture de Kisin (Conjecture 2.6). D’abord, une définition préliminaire. Soient T(Qp ) le tore diagonal de GL2 (Qp ) et d´ ef 1 Zp
; on pose : 0 1

N(Zp ) =

T(Qp )+

d´ ef

=

=

t ∈ T(Qp ) | tN(Zp )t−1 ⊆ N(Zp ) ! ) ( a 0 × −1 , a, d ∈ Qp , ad ∈ Zp . 0 d



Si V est un E-espace vectoriel muni d’une action linéaire de GL2 (Qp ), on définit un opérateur de Hecke πt : V N(Zp ) → V N(Zp ) pour chaque t ∈ T(Qp )+ comme suit : X d´ ef (15) πt v = |N(Zp )/tN(Zp )t−1 |−1 (nt)v n∈N(Zp )/tN(Zp )t−1

(en particulier si t ∈ T(Zp ), on a πt v = tv). Si t1 , t2 ∈ T(Qp )+ , on vérifie que πt1 t2 v = πt1 πt2 v. Si v ∈ V N(Zp ) est un vecteur non nul sur lequel l’action de T(Qp )+ en (15) est la multiplication par un caractère de T(Qp )+ à valeurs dans E × , ce caractère s’étend de manière unique et évidente à T(Qp ). On note V pf le sous-E-espace vectoriel de V N(Zp ) engendré E-linéairement par les vecteurs non nuls sur lesquels T(Qp )+ agit par un caractère à valeurs dans E × , c’est donc une représentation de T(Qp ). Lorsque V est une représentation lisse irréductible de GL2 (Qp ), Casselman a montré que la représentation V pf de T(Qp ) est isomorphe à celle donnée par le foncteur de Jacquet usuel de V relativement au sous-groupe de Borel des matrices triangulaires supérieures ([12, §4]).

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

144

C. BREUIL

Supposons p > 2 et soit ρ une représentation E-linéaire continue impaire de dimension 2 de Gal(Q/Q) qui est non ramifiée en dehors d’un ensemble fini de places, trianguline en p, et qui vérifie les hypothèses additionnelles :

p (i) ρ|Gal(Q/Q( √ 1)) est absolument irréductible

(ii) ρp  ( 10 ∗1 ) à torsion près par un caractère (∗ nul ou non)

(iii) ρp  ( 10 ∗ε ) à torsion près par un caractère (∗ nul ou non).

Par le théorème 2.4 et le théorème 2.1(i), ρ est promodulaire et on a un morphisme “1 ). Notons B(ρp )an ⊂ B(ρp ) non nul GL2 (Qp )-équivariant B(ρp ) → HomGal(Q/Q) (ρ, H E le sous-E-espace vectoriel des vecteurs localement analytiques, i.e. des vecteurs v tels que l’application « orbite » : GL2 (Qp ) → B(ρp ), g 7→ gv est localement analytique. Comme ρp est trianguline, la représentation B(ρp ) contient des séries principales localement analytiques qui possèdent toujours des vecteurs de pente finie ([17, §6]). On a donc B(ρp )an,pf 6= 0 (c’est le résultat local, cf. plus haut) et même un peu plus : lorsque B(ρp ) est réductible, chaque constituant de B(ρp ) possède des vecteurs localement analytiques de pente finie (ce qui n’est pas le cas avec les
“1 )an,pf 6= 0 (avec vecteurs localement algébriques). On en déduit HomGal(Q/Q) ρ, (H E
“1 des notations évidentes) ou encore Hom ρ, (H [pρ ])an,pf 6= 0 où Σ est Gal(Q/Q)

E,Σ,ρ

comme dans la définition 4.2 et où pρ est l’idéal maximal de TΣ,ρ [1/p] associé à ρ. an,pf “1 6= 0. Mais un autre résultat d’Emerton Cela implique en particulier (H E,Σ,ρ [pρ ]) (c’est le résultat global : voir [17, §7.5]) montre que chaque caractère de T(Qp ) an,pf “1 apparaissant dans un espace non nul (H où p est un idéal maximal E,Σ,ρ [p]) de TΣ,ρ [1/p] correspond à un point de la « surface de Hecke » de Coleman-Mazur, c’est-à-dire à une forme modulaire p-adique surconvergente parabolique propre de pente finie et de niveau hors p divisible uniquement par les premiers dans Σ\{p}, éventuellement « tordue » par un caractère continu de Z× p . On en déduit le théorème 2.12 en appliquant ce résultat à un caractère de T(Qp ) apparaissant dans l’espace an,pf “1 non nul (H . E,Σ,ρ [pρ ])

ASTÉRISQUE 348

(1031)

LANGLANDS p-ADIQUE ET COMPATIBILITÉ LOCAL-GLOBAL

145

RÉFÉRENCES [1] L. Berger – La correspondance de Langlands locale p-adique pour GL2 (Qp ), Séminaire Bourbaki, vol. 2009/10, exp. no 1017, Astérisque 339 (2011), p. 157– 180. [2] L. Berger & C. Breuil – Sur quelques représentations potentiellement cristallines de GL2 (Qp ), Astérisque 330 (2010), p. 155–211. [3] G. Boeckle – Deformation rings for some mod 3 Galois representations of the absolute Galois group of Q3 , Astérisque 330 (2010), p. 529–542. [4] C. Breuil – Invariant L et série spéciale p-adique, Ann. Sci. École Norm. Sup. 37 (2004), p. 559–610. [5] , Série spéciale p-adique et cohomologie étale complétée, Astérisque 331 (2010), p. 65–115. [6] C. Breuil, B. Conrad, F. Diamond & R. Taylor – On the modularity of elliptic curves over Q : wild 3-adic exercises, J. Amer. Math. Soc. 14 (2001), p. 843–939. [7] C. Breuil & M. Emerton – Représentations p-adiques ordinaires de GL2 (Qp ) et compatibilité local-global, Astérisque 331 (2010), p. 255–315. [8] C. Breuil & A. Mézard – Multiplicités modulaires et représentations de GL2 (Zp ) et de Gal(Qp /Qp ) en l = p, Duke Math. J. 115 (2002), p. 205–310. [9] F. Calegari – Even Galois representations and the Fontaine-Mazur conjecture, Invent. Math. 185 (2011), p. 1–16. [10] H. Carayol – Sur les représentations l-adiques associées aux formes modulaires de Hilbert, Ann. Sci. École Norm. Sup. 19 (1986), p. 409–468. [11] , Formes modulaires et représentations galoisiennes à valeurs dans un anneau local complet, in p-adic monodromy and the Birch and Swinnerton-Dyer conjecture (Boston, MA, 1991), Contemp. Math., vol. 165, Amer. Math. Soc., 1994, p. 213–237. [12] W. Casselman – Introduction to the theory of admissible representations of p-adic reductive groups, http://www.math.ubc.ca/~cass/research/pdf/ p-adic-book.pdf, 1995. [13] P. Colmez – Représentations triangulines de dimension 2, Astérisque 319 (2008), p. 213–258. [14] , La série principale unitaire de GL2 (Qp ), Astérisque 330 (2010), p. 213– 262. [15] , Représentations de GL2 (Qp ) et (φ, Γ)-modules, Astérisque 330 (2010), p. 281–509. [16] P. Deligne – Lettre à Piatetski-Shapiro, 1973.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

146

C. BREUIL

[17] M. Emerton – A local-global compatibility conjecture in the p-adic Langlands programme for GL2/Q , Pure Appl. Math. Q. 2 (2006), p. 279–393. [18]

, On the interpolation of systems of eigenvalues attached to automorphic Hecke eigenforms, Invent. Math. 164 (2006), p. 1–84.

[19]

, Local-global compatibility in the p-adic Langlands programme for GL2/Q , prépublication, 2010.

[20] G. Faltings – Almost étale extensions, Astérisque 279 (2002), p. 185–270. [21] J.-M. Fontaine – Représentations p-adiques des corps locaux. I, in The Grothendieck Festschrift, Vol. II, Progr. Math., vol. 87, Birkhäuser, 1990, p. 249– 309. [22]

, Représentations l-adiques potentiellement semi-stables, Astérisque 223 (1994), p. 321–347. , Représentations p-adiques semi-stables, Astérisque 223 (1994), p. 113–

[23] 184.

[24] J.-M. Fontaine & B. Mazur – Geometric Galois representations, in Elliptic curves, modular forms, & Fermat’s last theorem (Hong Kong, 1993), Ser. Number Theory, I, Int. Press, Cambridge, MA, 1995, p. 41–78. [25] G. Henniart – Sur l’unicité des types pour GL2 (appendice à [8]), Duke Math. J. 115 (2002), p. 298–305. [26] C. Khare & J.-P. Wintenberger – Serre’s modularity conjecture. I, Invent. Math. 178 (2009), p. 485–504. [27]

, Serre’s modularity conjecture. II, Invent. Math. 178 (2009), p. 505–586.

[28] M. Kisin – Overconvergent modular forms and the Fontaine-Mazur conjecture, Invent. Math. 153 (2003), p. 373–454. [29]

, Potentially semi-stable deformation rings, J. Amer. Math. Soc. 21 (2008), p. 513–546.

[30]

, The Fontaine-Mazur conjecture for GL2 , J. Amer. Math. Soc. 22 (2009), p. 641–690.

[31]

, Modularity of 2-adic Barsotti-Tate representations, Invent. Math. 178 (2009), p. 587–634.

[32]

, Deformations of GQp and GL2 (Qp ) representations, Astérisque 330 (2010), p. 511–528.

[33] R. P. Langlands – Modular forms and `-adic representations, in Modular functions of one variable, II (Proc. Internat. Summer School, Univ. Antwerp, Antwerp, 1972), Springer, 1973, p. 361–500. Lecture Notes in Math., Vol. 349. [34] H. Matsumura – Commutative ring theory, 2e éd., Cambridge Studies in Advanced Math., vol. 8, Cambridge Univ. Press, 1989.

ASTÉRISQUE 348

(1031)

LANGLANDS p-ADIQUE ET COMPATIBILITÉ LOCAL-GLOBAL

147

[35] B. Mazur – Deforming Galois representations, in Galois groups over Q (Berkeley, CA, 1987), Math. Sci. Res. Inst. Publ., vol. 16, Springer, 1989, p. 385– 437. [36] W. Nizioł – Semistable conjecture via K-theory, Duke Math. J. 141 (2008), p. 151–178. ¯ nas – On some crystalline representations of GL2 (Qp ), Algebra Number [37] V. Pašku Theory 3 (2009), p. 411–421. [38]

, The image of Colmez’s Montréal functor, prépublication, 2010.

[39] J-P. Serre – Sur les représentations modulaires de degré 2 de Gal(Q/Q), Duke Math. J. 54 (1987), p. 179–230. [40] C. M. Skinner & A. J. Wiles – Nearly ordinary deformations of irreducible residual representations, Ann. Fac. Sci. Toulouse Math. 10 (2001), p. 185–215. [41] R. Taylor & A. J. Wiles – Ring-theoretic properties of certain Hecke algebras, Ann. of Math. 141 (1995), p. 553–572. [42] T. Tsuji – p-adic étale cohomology and crystalline cohomology in the semi-stable reduction case, Invent. Math. 137 (1999), p. 233–411. [43] A. J. Wiles – Modular elliptic curves and Fermat’s last theorem, Ann. of Math. 141 (1995), p. 443–551.

Christophe BREUIL Université Paris-Sud et CNRS Laboratoire de Mathématiques UMR 8628 Bâtiment 425 F-91405 Orsay Cedex E-mail : [email protected] Web : www.math.u-psud.fr/˜breuil/

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

348

ASTÉRISQUE 2012

SÉMINAIRE BOURBAKI VOLUME 2010/2011 EXPOSÉS 1027-1042 (1032) Relations de dépendance et intersections exceptionnelles Antoine CHAMBERT-LOIR

SOCIÉTÉ MATHÉMATIQUE DE FRANCE Publié avec le concours du CENTRE NATIONAL DE LA RECHERCHE SCIENTIFIQUE

Séminaire BOURBAKI 63e année, 2010-2011, no 1032, p. 149 à 188

Janvier 2011

RELATIONS DE DÉPENDANCE ET INTERSECTIONS EXCEPTIONNELLES par Antoine CHAMBERT-LOIR

1. RELATIONS DE DÉPENDANCE Cet exposé est consacré à un ensemble de travaux apparus depuis une quinzaine d’années sous la plume de divers mathématiciens autour de ce qu’on appelle maintenant la conjecture de Zilber–Pink. Je voudrais débuter avec le cas le plus simple et le plus frappant. Théorème 1.1. — Soit C une courbe algébrique complexe (irréductible) et considérons n fonctions rationnelles f1 , . . . , fn non identiquement nulles et multiplicativement indépendantes sur C. Alors, les points x de C où leurs valeurs f1 (x), . . . , fn (x) vérifient au moins deux relations de dépendance multiplicative indépendantes forment un ensemble fini. Dire que f1 , . . . , fn sont multiplicativement indépendantes signifie que pour tout vecteur non nul (a1 , . . . , an ) ∈ Zn , la fonction rationnelle f1a1 . . . fnan sur C n’est pas constante de valeur 1. De même, si x est un point de C qui n’est ni un zéro ni un pôle des fi , les relations de dépendance multiplicative entre les valeurs fi (x) des fi sont les vecteurs (a1 , . . . , an ) Q de Zn tels que ni=1 fi (x)ai = 1. Ces relations forment un sous-groupe de Zn ; le théorème concerne les points x pour lesquels ce sous-groupe est de rang > 2. Sous l’hypothèse que les fonctions fi sont multiplicativement indépendantes Q ai modulo les constantes, c’est-à-dire qu’aucune combinaison non triviale fi n’est constante, ce théorème a été démontré par E. Bombieri, D. Masser et U. Zannier dans l’article [12] qui, le premier, a mis en avant ces questions. L’hypothèse supplémentaire a été levée par G. Maurin [42], puis, par une autre approche, par Bombieri, P. Habegger, Masser et Zannier [11]. Ces articles reposent sur des techniques de géométrie diophantienne et supposent en outre que toute la situation

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

150

A. CHAMBERT-LOIR

est définie sur le corps Q des nombres algébriques. Dans l’intervalle, l’article [16] démontre que ce cas entraîne le théorème sur le corps des nombres complexes. Remarquons pour finir que l’énoncé est optimal au sens où l’ensemble des points x de C où les valeurs f1 (x), . . . , fn (x) sont multiplicativement dépendantes est infini (à moins que les fi ne soient toutes constantes). Si, disons, f1 n’est pas constante, il suffit de considérer l’ensemble des points x de C tels que f1 (x) soit une racine de l’unité. Malgré la simplicité de l’énoncé ci-dessus, il convient de l’écrire dans le cadre plus général des groupes algébriques commutatifs, voire des variétés de Shimura mixtes. Il s’insère alors dans un faisceau de conjectures dues à B. Zilber [82], S.W. Zhang (non publié, voir [13]), R. Pink [50] (voir aussi [49]) et Bombieri, Masser, Zannier [13]. Par ailleurs, et ce n’est pas l’aspect le moins fascinant du sujet, ces conjectures complètent les conjectures de type Manin–Mumford, Mordell–Lang et André–Oort. Toutefois, je me limiterai au cas des groupes algébriques dans ce rapport et ne dirai rien de la conjecture d’André–Oort dont l’importance et la beauté des derniers développements, dus pour l’essentiel à J. Pila (voir [46]), exigent qu’un exposé autonome leur soit consacré. Signalons quand même qu’ils trouvent leur origine dans la nouvelle démonstration de la conjecture de Manin–Mumford qu’ont découverte Pila et Zannier [47] et que ces techniques jouent un rôle dans l’étude de questions voisines que nous évoquerons à la fin de ce rapport. Revenons au théorème 1.1. Puisque l’on discute de relations de dépendance multiplicative, introduisons donc le groupe multiplicatif (complexe) Gm = A1 \ {0} et considérons la famille des fonctions f1 , . . . , fn comme une application rationnelle f de C dans le tore algébrique G = Gnm . Notons X son image, ou plutôt l’adhérence, pour la topologie de Zariski dans G, de l’image d’un ouvert dense de C sur lequel f est définie. Laissons de côté le cas inintéressant où les fi sont toutes constantes ; l’application f est alors de degré fini et X est une courbe irréductible dans G. Comme les fi sont multiplicativement indépendantes, la courbe X n’est contenue dans aucun sous-groupe algébrique strict de G : de tels sous-groupes sont en effet définis par des équations monomiales g1a1 . . . gnan = 1 en les coordonnées (g1 , . . . , gn ) ∈ Gnm . Plus précisément, les sous-groupes algébriques (pas forcément connexes) de G sont en bijection avec les sous-modules de Zn , la codimension d’un sous-groupe étant égale au rang du module de ses relations. Pour tout entier r ∈ N, notons ainsi G[r] la réunion des sous-groupes algébriques de G qui sont de codimension > r ; c’est aussi l’ensemble des points (g1 , . . . , gn ) ∈ Gnm qui vérifient r relations de dépendance multiplicative indépendantes. Ainsi, le théorème 1.1 équivaut à l’énoncé suivant : Théorème 1.10 . — Soit X une sous-variété fermée de Gnm , irréductible et de dimension 1, qui n’est contenue dans aucun sous-groupe algébrique strict. L’ensemble

ASTÉRISQUE 348

(1032)

RELATIONS DE DÉPENDANCE ET INTERSECTIONS EXCEPTIONNELLES 151

X ∩ G[2] des points x de X qui sont contenus dans un sous-groupe de codimension > 2 est fini. Les conjectures auxquelles ce rapport est consacré visent à remplacer le groupe G par une variété semi-abélienne, la courbe X par une sous-variété fermée de G, irréductible et distincte de G, de dimension quelconque d, et l’ensemble G[2] par un ensemble G[c] , où c est un entier tel que c > d, voire un ensemble de la forme Γ · G[c] où Γ est un sous-groupe de rang fini de G, et même, lorsque tout est défini sur le corps des nombres algébriques, des « épaississements » d’un tel ensemble au sens de la théorie des hauteurs. Dans ce cas, une généralisation naturelle du théorème 1.10 est la conjecture suivante de R. Pink (voir [49], conjecture 5.1). Avant de l’énoncer, rappelons qu’une variété semi-abélienne est un groupe algébrique commutatif qui se décompose en une extension d’une variété abélienne par un tore ; un sous-groupe algébrique connexe d’une variété semi-abélienne est encore une variété semi-abélienne. Conjecture 1.2. — Soit G une variété semi-abélienne complexe. Soit X une sousvariété fermée et irréductible de G, de dimension d. Si X n’est pas contenue dans un sous-groupe algébrique strict de G, l’intersection X ∩ G[d+1] n’est pas dense dans X pour la topologie de Zariski. Cette conjecture est connue lorsque X est une courbe (d = 1) et G un tore ; on retrouve le théorème 1.10 . Pour l’essentiel, tous les autres résultats se restreignent au cas de variétés définies sur le corps Q des nombres algébriques et peuvent donc ne considérer que des points algébriques. Toujours lorsque d = 1, un théorème de G. Rémond établit cette variante pour les variétés abéliennes à multiplications complexes ([64], corollaire 1.6), tandis qu’un résultat plus récent d’E. Viada (cf. [27], théorème H) traite le cas des variétés abéliennes qui sont produit de variétés abéliennes à multiplications complexes, surfaces abéliennes et courbes elliptiques. En dimension plus grande, à l’exception de quelques cas comme les sous-variétés de codimension 2 d’un tore (théorème 1.7 de [14]), cette conjecture n’est démontrée que sous une hypothèse géométrique sur X. Introduisons une terminologie proposée par Z. Ran dans le cas des variétés abéliennes (voir [55]) : Définition 1.3. — Soit X une sous-variété (fermée, irréductible) d’une variété semi-abélienne G. On dit que X est géométriquement dégénérée s’il existe un sous-groupe algébrique G0 de G, tel que l’image de X dans G/G0 est de dimension strictement inférieure à min(dim(X), dim(G/G0 )). Pour qu’une courbe soit géométriquement dégénérée, il faut et il suffit qu’elle soit contenue dans un translaté d’un sous-groupe algébrique strict. En revanche, en

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

152

A. CHAMBERT-LOIR

dimension supérieure, il peut exister des sous-variétés géométriquement dégénérées qui ne sont contenues dans aucun translaté de sous-groupe algébrique. Théorème 1.4 (Habegger, [29, 31]). — Soit G une variété semi-abélienne définie sur Q. Soit X une sous-variété fermée, irréductible et de dimension d, définie sur Q, qui n’est pas géométriquement dégénérée. Supposons de plus que G soit un tore ou une variété abélienne à multiplications complexes. Alors X(Q) ∩ G[d+1] n’est pas dense dans X pour la topologie de Zariski. Expliquons maintenant le lien entre la conjecture 1.2 et celles de Manin–Mumford ou de Mordell–Lang. Un point g de G est de torsion si et seulement s’il appartient à un sous-groupe algébrique de dimension 0 (celui qu’il engendre !) ; par suite, la conjecture 1.2 étend la conjecture de Manin–Mumford qui concerne précisément les points de torsion de G situés sur la sous-variété X. Rappelons que cette conjecture a été démontrée par M. Laurent [38] pour les tores, M. Raynaud [57, 56] dans le cas des variétés abéliennes, et M. Hindry [32] en général. Profitons aussi de l’occasion pour mentionner diverses preuves plus récentes : [69], via la preuve d’une conjecture de Bogomolov ([80, 17, 22, 79] pour les tores, [74, 81, 21] pour les variétés abéliennes, [23] pour les variétés semi-abéliennes), via la théorie des modèles de corps aux différences ([34] et [51, 52, 68] qui s’en inspirent), enfin [47]. Soit maintenant Γ un sous-groupe de G de rang fini r ; soit (g1 , . . . , gr ) des éléments de Γ tels que Γ/hg1 , . . . , gr i soit de torsion. Reprenant un argument de Rémond qui consiste à remplacer G par une puissance G × Gr et X par la sous-variété X × {(g1 , . . . , gr )}, Pink observe que la conjecture 1.2 est équivalente à la conjecture suivante : Conjecture 1.5. — Soit G une variété semi-abélienne complexe. Soit X une sousvariété fermée de G, irréductible et distincte de G, de dimension d. Soit Γ un sousgroupe de rang fini de G. Si X n’est pas contenue dans un translaté de sous-groupe algébrique strict de G, l’intersection X ∩ (Γ · G[d+1] ) n’est pas dense dans X pour la topologie de Zariski. Bien sûr, si X 6= G, G[d+1] n’est pas vide et Γ · G[d+1] contient Γ, donc la conjecture 1.5 entraîne en particulier la conjecture de Mordell–Lang selon laquelle X∩Γ n’est pas dense dans X. Rappelons que celle-ci est maintenant un théorème, suite aux travaux de P. Liardet [39] pour les courbes dans les tores, M. Laurent [38] pour les tores, G. Faltings [26] pour les variétés abéliennes, M. Hindry [32], P. Vojta [78] et M. McQuillan [44] pour les variétés semi-abéliennes. Rémond et Maurin ont tiré parti de la méthode de Vojta pour établir le résultat suivant en direction de la conjecture 1.5, analogue avec un groupe Γ du théorème 1.4.

ASTÉRISQUE 348

(1032)

RELATIONS DE DÉPENDANCE ET INTERSECTIONS EXCEPTIONNELLES 153

Théorème 1.6 (Rémond [65], Maurin [43]). — Supposons que G soit un tore ou une variété abélienne à multiplications complexes. Soit X une sous-variété fermée et irréductible de dimension d de G, définie sur Q et qui n’est pas géométriquement dégénérée. Soit Γ un sous-groupe de rang fini de G(Q). Alors X(Q) ∩ (Γ · G[d+1] ) n’est pas dense dans X pour la topologie de Zariski. Leur approche permet aussi d’obtenir une autre démonstration du théorème 1.4. Par ailleurs, une approche récente d’E. Viada [77] fondée sur une forme effective de la conjecture de Bogomolov permet d’étendre le théorème précédent à une classe de variétés abéliennes comprenant les produits de variétés abéliennes à multiplications complexes, de courbes elliptiques et de surfaces abéliennes. Dans le §2 de ce rapport, je décris les « lieux exceptionnels » que l’étude de ces conjectures oblige à prendre en compte. Le §3 est un rappel des concepts de géométrie diophantienne utilisés dans les preuves : théorie des hauteurs, problème de Lehmer, conjecture de Bogomolov. Dans le §4, je résume les différentes approches des théorèmes précédents : après la preuve d’un important théorème de majoration de hauteurs, j’y décris successivement l’utilisation du problème de Lehmer, de la méthode de Vojta et des formes effectives de la conjecture de Bogomolov.

2. INTERSECTIONS EXCEPTIONNELLES Motivé par l’étude de la conjecture de Schanuel dans le cadre des corps différentiels, B. Zilber avait énoncé une conjecture voisine de la conjecture 1.2 ([82], conjecture 2). Soit G une variété semi-abélienne complexe. Soit X une sous-variété fermée de G, irréductible. Définition 2.1. — Soit H une sous-variété fermée, équidimensionnelle de G. On dit qu’une composante irréductible Y de l’intersection X ∩H est atypique si sa dimension vérifie dim(Y ) > dim(X) + dim(H) − dim(G). On peut aussi écrire cette inégalité sous la forme codimH (Y ) < codimG (X). Rappelons que si X ∩ H n’est pas vide, la théorie de l’intersection affirme que toute composante irréductible en est de dimension supérieure ou égale à dim(X) + dim(H) − dim(G) ; les composantes atypiques sont donc celles dont la dimension dépasse la dimension attendue. Dans la suite, cette notion n’interviendra que dans le cas particulier où H est un sous-groupe algébrique de G, ou un translaté d’un tel sous-groupe.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

154

A. CHAMBERT-LOIR

Conjecture 2.2. — Soit G une variété semi-abélienne complexe. Soit X une sous-variété fermée de G, irréductible. Il existe une famille finie Φ de sous-groupes algébriques stricts de G telle que pour tout sous-groupe algébrique H de G, toute composante atypique de X ∩ H soit contenue dans l’un des éléments de Φ. Avec ces notations, notons X ta le complémentaire dans X de la réunion des composantes atypiques de dimension strictement positive d’une intersection X ∩ H, où H est un sous-groupe algébrique de G.(1) Une variante de la conjecture 2.2 due à Bombieri, Masser et Zannier ([14], Torsion Openness Conjecture, p. 25) affirme que X ta est ouvert dans X. Zilber observe aussi dans son article ([82], propositions 2 et 3) comment la conjecture 2.2 entraîne celles de Manin–Mumford ou de Mordell–Lang. C’est d’ailleurs très simple dans le cas Manin–Mumford. Considérons en effet une sous-variété (fermée, irréductible) X de G, distincte de G et qui n’est pas contenue dans un sous-groupe algébrique strict de G. Soit alors x un point de X qui est de torsion dans G et soit Hx le sous-groupe algébrique qu’il engendre. Alors, Y = {x} est une composante irréductible de l’intersection X ∩ Hx ; puisque X ( G, la dimension de Y vérifie dim(Y ) = 0 > dim(X) − dim(G) = dim(X) + dim(Hx ) − dim(G), si bien que Y est une composante atypique de cette intersection. Supposant la conjecture 2.2 satisfaite, il existe H ∈ Φ tel que x ∈ H. Autrement dit, les points de X qui sont de torsion dans G sont contenus dans la réunion finie des sous-variétés X ∩ H, pour H ∈ Φ. À moins que X ∩ H = X pour l’un de ces sous-groupes, ce qui entraîne que X est contenue dans un sous-groupe algébrique strict, les points de X qui sont de torsion dans G ne sont donc pas denses dans X pour la topologie de Zariski. Le théorème suivant est dû à Zilber [82] lorsque G est un tore et à J. Kirby [35] en général. La différence avec la conjecture 2.2 vient du fait qu’on met en jeu tous les translatés de sous-variétés semi-abéliennes et pas seulement les sous-groupes algébriques (qui sont réunion finie de translatés de sous-variétés semi-abéliennes par des points de torsion). Théorème 2.3. — Soit G une variété semi-abélienne complexe et soit X une sousvariété (fermée, irréductible) de G. Il existe une famille finie Φ de sous-variétés semiabéliennes strictes de G telle que : pour tout translaté gK d’une sous-variété semiabélienne K de G et toute composante atypique Y de l’intersection X ∩ gK, il existe (1)

Les lettres ta signifient torsion anomalous.

ASTÉRISQUE 348

(1032)

RELATIONS DE DÉPENDANCE ET INTERSECTIONS EXCEPTIONNELLES 155

H ∈ Φ et h ∈ G tels que Y ⊂ hH et dim(H) + dim(Y ) = dim(K) + dim(X ∩ hH). Cette dernière condition de dimension entraîne que la codimension de H est au moins égale à l’excès t de dimension de la composante atypique Y , excès que l’on définit par t = dim(Y ) − (dim(X) + dim(K) − dim(G)). Au moins lorsque H contient K, elle signifie que Y est une composante typique de l’intersection de X ∩ hH avec gK dans le translaté gH. Le théorème 2.3 et son précurseur sur les tores ([82], corollaire 3 ; voir aussi [53]) reposent sur un théorème de J. Ax établissant une variante de la conjecture de Schanuel dans le cas différentiel ([6], théorème 3). Par des arguments de théorie des modèles des corps différentiels (le théorème de compacité en logique du premier ordre), Zilber et Kirby en déduisent une version uniforme à paramètres, puis l’énoncé ci-dessus avec la condition codim(H) > t. Lorsque Y est une composante atypique de l’intersection (X ∩ hH) ∩ gK, on applique de nouveau l’argument. Signalons que Bombieri, Masser et Zannier dans le cas des tores ([14], théorème 1.4), puis Rémond dans le cas des variétés abéliennes ([66], partie 3), démontrent des résultats de même nature, mais effectifs, au sens où ils contrôlent le degré d’une partie maximale qui est une composante atypique d’une intersection de X avec un translaté de sous-groupe algébrique. Corollaire 2.4. — Soit X oa le complémentaire dans X des composantes atypiques de dimension strictement positive d’une intersection X ∩gH, où H parcourt l’ensemble des sous-variétés semi-abéliennes non nulles de G de codimension 6 dim(X) et g parcourt G. Alors X oa est ouvert dans X pour la topologie de Zariski.(2) Démonstration. — On commence par remarquer que si H est une sous-variété semiabélienne fixée, la réunion ZH des composantes atypiques de dimension strictement positive d’une intersection X ∩ hH est une partie fermée de X. Considérons en effet le morphisme ϕ : G → G/H et sa restriction ϕX : X → ϕ(X) à X ; on a X ∩ xH = ϕ−1 X (ϕX (x)) pour tout x ∈ X. Les composantes en question sont celles des fibres de ϕX qui sont de dimension > max(0, dim(X) − dim(G/H)). D’après le théorème de semi-continuité de la dimension des fibres d’un morphisme, c’est une partie fermée de X. Nous allons démontrer que X \ X oa est la réunion des parties ZH , où H décrit l’ensemble fini Φ du théorème 2.3. (2)

Les lettres oa sont l’abréviation de open anomalous.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

156

A. CHAMBERT-LOIR

Considérons donc une sous-variété Y de X de dimension strictement positive, composante irréductible atypique d’une intersection X ∩ yK, où y ∈ Y et K est une sous-variété semi-abélienne de G. On peut supposer, quitte à remplacer K par cette sous-variété, que K est la plus petite sous-variété semi-abélienne de G telle que Y ⊂ yK. Sous l’hypothèse supplémentaire que Y est maximale parmi les composantes atypiques, nous allons démontrer que K ∈ Φ ; nous aurons donc Y ⊂ ZK , puis Y ⊂ S H∈Φ ZH et le corollaire en résultera d’après la première partie de la démonstration. Soit H ∈ Φ la sous-variété semi-abélienne de G fournie par le théorème 2.3 : on a Y ⊂ yH et dim(H) + dim(Y ) = dim(K) + dim(X ∩ yH). Par définition de K, on a K ⊂ H. Soit Y 0 une composante irréductible de l’intersection X ∩ yH qui contient Y . L’inégalité dim(Y ) > dim(Y 0 ) − codimH (K) donnée par la théorie de l’intersection entraîne que dim(Y 0 ) = dim(X ∩ yH). Comme Y est une sous-variété irréductible maximale dans l’ensemble des composantes atypiques d’intersections de X avec un translaté d’une sous-variété semi-abélienne, on a l’alternative suivante : – Si Y 0 = Y , l’égalité de dimensions ci-dessus entraîne H = K ; – Sinon, Y ( Y 0 , donc Y est une composante typique de l’intersection Y 0 ∩ yK, c’est-à-dire dim(Y 0 ) = dim(X) + dim(H) − dim(G) = dim(Y ) + dim(H) − dim(K); on en déduit que dim(Y ) = dim(X) + dim(K) − dim(G), ce qui contredit l’hypothèse que Y est une composante atypique de l’intersection X ∩ yK. Cela conclut la preuve du corollaire. Notons que X oa peut fort bien être vide ; c’est le cas si X est contenu dans un translaté de sous-variété semi-abélienne, plus généralement si X est géométriquement dégénérée (cf. [65], Prop. 4.2) : Proposition 2.5. — L’ouvert X oa est vide si et seulement si X est géométriquement dégénérée. Plus généralement, X \ X oa est la réunion des sous-variétés Y de X pour lesquelles il existe une sous-variété semi-abélienne H telle que dim(Y H/H) < min(dim(Y ), dim(G/H) − codimX (Y )).

ASTÉRISQUE 348

(1032)

RELATIONS DE DÉPENDANCE ET INTERSECTIONS EXCEPTIONNELLES 157

Démonstration. — Soit Y une sous-variété de X et H une sous-variété semi-abélienne de G telle que dim(Y H/H) < min(dim(Y ), dim(G/H) − codimX (Y )). Notons ϕ la projection de G sur G/H et ϕY : Y → ϕ(Y ) = Y H/H le morphisme qui s’en déduit par restriction à Y . Pour tout y ∈ Y , on a dimy (X ∩ yH) > dimy (Y ∩ yH) = dimy ϕ−1 Y (ϕY (y)) > dim(Y ) − dim(ϕY (Y )) > dim(Y ) − min(dim(Y ), dim(G/H) − dim(X) + dim(Y )) = max(0, dim(X) − codimG (H)). Cela prouve qu’au moins une composante irréductible de l’intersection X ∩yH passant par y est atypique. Par suite, y 6∈ X oa . Inversement, il suffit de démontrer que toute composante irréductible Y d’un ensemble ZH introduit dans la preuve du corollaire 2.4 vérifie cette inégalité. Or, par la définition même de ZH , toute fibre du morphisme ϕY : Y → Y H/H ⊂ G/H est de dimension > max(0, dim(X) + dim(H) − dim(G)). Par conséquent, dim(Y H/H) < dim(Y ) − max(0, dim(X) + dim(H) − dim(G)) = min(dim(Y ), dim(G/H) − codimX (Y )), comme annoncé. Plus généralement, si t est un entier naturel, on peut définir l’ensemble X oa,[t] comme le complémentaire, dans X, de l’ensemble des points x ∈ X tels qu’il existe une sous-variété semi-abélienne H de G telle que dimx (X ∩ xH) > max(1, t − codimG (H)). Lorsque t = 1 + dim(X), on a X oa,[t] = X oa . Inversement, lorsque t 6 dim(X) et dim(X) > 0, on a dimx (X ∩ xG) = dim(X) > max(0, t) pour tout x ∈ X, ce qui entraîne que X oa,[t] = ∅. La proposition suivante généralise le corollaire 2.4. Proposition 2.6. — Pour tout entier naturel t, X oa,[t] est ouvert dans X.

3. HAUTEURS Le reste de ce rapport est consacré à résumer comment procèdent les preuves des théorèmes 1.10 ou 1.4. Tout d’abord, il s’agit de démonstrations où l’arithmétique joue un rôle fondamental, par la considération des hauteurs, et surtout par l’utilisation de minorations extrêmement fines des hauteurs dans le contexte du problème de Lehmer

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

158

A. CHAMBERT-LOIR

et de ses variantes, ou du problème de Bogomolov. De sorte, même si j’avais donné jusqu’à présent des énoncés sur le corps des nombres complexes, tous les arguments qui suivent supposent que les variétés considérées sont définies sur le corps Q des nombres algébriques. Comme je l’ai dit à propos du théorème 1.1, Bombieri, Masser et Zannier ont expliqué dans leur article [16] comment l’on peut démontrer des résultats sur C lorsqu’on dispose de la conjecture 1.2 sur Q, voire des cas particuliers de la conjecture obtenus en bornant dim(X) et dim(G). Ils se sont limités au cas des tores et il serait intéressant de développer ces arguments dans le cas général des variétés semiabéliennes et même dans le contexte que considère Pink dans [49]. (Dans le cadre de la conjecture de Mordell–Lang sur les variétés semi-abéliennes, des arguments de spécialisation se trouvent dans [32].) En outre, la littérature se divise entre tores et variétés abéliennes, le cas général des variétés semi-abéliennes n’étant, à ma connaissance, pas encore traité. 3.1. La machine des hauteurs Rappelons rapidement la notion de hauteur sur l’ensemble des points algébriques d’une variété projective. Sur l’espace projectif, la hauteur standard est la fonction h : Pn (Q) → R+ définie par la formule X 1 h(x) = [Kv : Qv ] log max(|x0 |v , . . . , |xn |v ) [K : Q] v dans laquelle K est un corps de nombres, x est un point de Pn (K) de coordonnées homogènes [x0 : . . . : xn ] dans K, v parcourt l’ensemble des valeurs absolues sur K qui étendent la valeur absolue réelle ou une valeur absolue p-adique sur Q, Kv est le complété de K pour cette valeur absolue et Qv est le corps réel R ou le corps p-adique Qp suivant les cas. La formule du produit garantit que le second membre ne dépend pas du choix des coordonnées homogènes ; il ne dépend pas non plus du choix d’un corps de nombres K sur lequel le point x est défini. Par exemple, si le point x ∈ Pn (Q) a pour coordonnées homogènes [x0 : . . . : xn ] formée d’entiers relatifs premiers entre eux dans leur ensemble, on a h(x) = log max(|x0 | , . . . , |xn |). Remarquons aussi que la fonction h est invariante sous l’action du groupe de Galois Gal(Q/Q). Lorsque X est une variété algébrique projective définie sur Q et ϕ : X → Pn est un morphisme de X dans un espace projectif, on en déduit une fonction hϕ = h ◦ ϕ sur X(Q), invariante sous l’action de Gal(Q/K) si X et ϕ sont définis sur un souscorps K de Q. Pour l’essentiel, la fonction hϕ ne dépend de ϕ que par l’intermédiaire de la classe d’isomorphisme du fibré en droites ϕ∗ O(1) dans le groupe de Picard Pic(X).

ASTÉRISQUE 348

(1032)

RELATIONS DE DÉPENDANCE ET INTERSECTIONS EXCEPTIONNELLES 159

En effet, si ψ est un morphisme de X dans un espace projectif Pm tel que ϕ∗ O(1) et ψ ∗ O(1) soient isomorphes, la différence hϕ − hψ est une fonction bornée sur X(Q). Notons F (X(Q), R) l’espace des fonctions de X(Q) dans R et B son sous-espace des fonctions bornées. Via l’étude des plongements de Segre ou Veronese, on démontre qu’il existe un unique morphisme d’espaces vectoriels Pic(X) ⊗Z R → F (X(Q), R)/B(X(Q), R) qui applique la classe d’un fibré en droites L sur celle de la fonction hϕ lorsque ϕ est un morphisme de X dans un espace projectif tel que ϕ∗ O(1) ' L . Si L est un (R-)fibré en droites sur X, on notera abusivement hL une fonction de X(Q) dans R qui représente l’image de L par ce morphisme de groupes. Nous ferons usage des résultats suivants : Proposition 3.1. — Soit X une variété projective définie sur Q et soit L un fibré en droites sur X. 1. La fonction hL est minorée en dehors du support du diviseur de toute section globale de L ; 2. Si L est engendré par ses sections globales, hL est minorée ; 3. Supposons que L soit ample. Alors, pour tout entier B, l’ensemble des points x ∈ X(Q) tels que [Q(x) : Q] 6 B et hL (x) 6 B est fini (théorème de Northcott) ; 4. Soit f : Y → X un morphisme de variétés algébriques définies sur Q, alors hf ∗ L − hL ◦ f est une fonction bornée sur Y (Q). Pour plus de détails et des démonstrations, je renvoie aux ouvrages d’introduction à la géométrie diophantienne, notamment [36, 72, 33, 10]. Le point de vue de la théorie d’Arakelov (voir [18]) fournit un moyen efficace pour ne pas travailler à une fonction bornée près. Dans le cas des variétés semi-abéliennes, il existe un moyen simple pour normaliser les hauteurs que je dois rappeler brièvement ; les hauteurs normalisées interviennent en effet de manière cruciale dans l’étude des conjectures auxquelles ce rapport est consacré. 3.2. Hauteurs normalisées sur les variétés semi-abéliennes Soit G une variété semi-abélienne. Comme je l’ai rappelé plus haut, G est extension d’une variété abélienne A par un tore T : p

1→T →G− → A → 0, et (sur Q, ou quitte à effectuer une extension finie) T est isomorphe à une puissance Gtm du groupe multiplicatif. Comme G n’est que quasi-projectif (à moins que T = {1}), les hauteurs dépendent d’une compactification projective

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

160

A. CHAMBERT-LOIR

de G. Lorsque G = T = Gtm , on peut considérer G comme un ouvert de l’espace projectif Pt ; toute autre compactification équivariante P (disons projective, lisse) convient, par exemple (P1 )t . Soit G le produit contracté G = G ×T P ; c’est une compactification équivariante de G munie d’une fibration vers A, toujours notée p, dont les fibres sont isomorphes à P . Pour n > 2, les endomorphismes de multiplication par n sur G s’étendent en des endomorphismes de G. En outre, le groupe de Picard de G se décompose (non canoniquement) en une somme directe Pic(G) ' Pic(A) ⊕ Pic(P ), où Pic(A) est identifié à son image dans Pic(G) par l’homomorphisme injectif p∗ . Après tensorisation par Q, le groupe de Picard de A se décompose sous l’action de l’endomorphisme [−1] en une partie paire et une partie impaire, provenant respectivement du groupe de Néron–Severi de A et du groupe des classes d’isomorphisme de fibrés en droites algébriquement équivalent à 0, d’où finalement une décomposition Pic(G)Q ' NS(A)Q ⊕ Pic0 (A)Q ⊕ Pic(P )Q . Sous l’action des endomorphismes de multiplication par un entier n > 2, le premier facteur est de poids n2 , tandis que les deux autres sont de poids n. Supposons que la classe de L appartient à l’un de ces trois facteurs et posons respectivement w = 2, w = 1, w = 1. On déduit alors du point 4 de la proposition 3.1 que la fonction x 7→ hL ([n]x) − nw hL (x) est bornée sur G(Q). Par le procédé de Tate qui consiste à poser ˆ L (x) = lim n−wk hL ([n]k x), h k→∞

ˆ L sur G(Q) telle que h ˆ L ([n]x) = nw h ˆ L (x) pour tout on obtient une fonction h ˆ L − hL est x ∈ G(Q). Elle ne dépend pas du choix de n. En outre, la différence h ˆ L est appelée hauteur normalisée pour le fibré en bornée sur G(Q) : la fonction h droites L . Lorsque G = A est une variété abélienne et L est symétrique, on retrouve bien sûr la forme quadratique de Néron–Tate ; lorsque G est le tore Gnm , ouvert de ˆ L est la hauteur standard. P = Pn , et L = O(1), h Par additivité, on en déduit un morphisme d’espaces vectoriels Pic(G)R → F (G(Q), R),

ˆL . L 7→ h

La proposition 3.1 s’étend facilement, seule la propriété 4 de fonctorialité requiert un ajustement : Sous l’hypothèse que f : G0 → G soit un morphisme de variétés semi0 abéliennes qui s’étend en un morphisme f : G → G des compactifications fixées, on 0 ˆ L (f (x)) = h ˆ ∗ (x) pour tout x ∈ G (Q). ah f L Les points de torsion sont de hauteur normalisée nulle ; inversement, si L est ample, ˆ L (x) = 0 on déduit du théorème de Northcott que les points x de G(Q) tels que h sont des points de torsion.

ASTÉRISQUE 348

(1032)

RELATIONS DE DÉPENDANCE ET INTERSECTIONS EXCEPTIONNELLES 161

3.3. Le problème de Lehmer En 1933, D. H. Lehmer demandait s’il existe, pour ε > 0, un polynôme P , unitaire à coefficients entiers, dont la mesure de Mahler M(P ) vérifie 1 < M(P ) < 1 + ε ; il ajoutait ne pas savoir si ce problème a une solution pour ε < 0,176. En termes de hauteurs(3), la question est l’existence d’un nombre réel c > 0 tel que pour tout nombre ∗ algébrique ξ ∈ Q qui n’est pas une racine de l’unité, on ait h(ξ) > c/[Q(ξ) : Q]. Une telle minoration serait optimale puisque h(21/n ) = n1 log 2 et deg(21/n ) = n. En particulier, c’est le fait que la hauteur standard d’un nombre algébrique vérifie une équation fonctionnelle qui permet de formuler cette question de façon pertinente. Bien qu’elle soit encore ouverte, un théorème de Dobrowolski résout cette question à ε près (et même un peu plus...) : Théorème 3.2 (Dobrowolski [25]). — Pour tout ε > 0, il existe un nombre réel c(ε) > 0 tel que pour tout nombre algébrique ξ qui n’est ni nul ni une racine de l’unité, on ait c(ε) . h(ξ) > [Q(ξ) : Q]1+ε La démonstration est astucieuse mais élémentaire, l’idée principale consistant à exploiter les congruences issues du petit théorème de Fermat pour de nombreux nombres premiers p. La question se pose, plus généralement, de fournir une minoration fine de la hauteur ˆ d’un point d’une variété semi-abélienne, lorsque ce point n’est pas de normalisée h torsion. Dans le cas torique ou abélien, S. David a proposé la conjecture suivante. Comme D. Bertrand me l’a fait remarquer, le cas des variétés semi-abéliennes générales pose des problèmes spécifiques. Conjecture 3.3 (Problème de Lehmer). — Soit G un tore ou une variété abélienne ˆ une hauteur normalisée associée à un fibré en sur Q, soit g sa dimension. Soit h droites ample d’une compactification. Il existe un nombre réel c > 0 tel que pour tout point x ∈ G(Q) qui n’est contenu dans aucun sous-groupe algébrique strict de G, on ait la minoration : ˆ h(x) > c [Q(x) : Q]−1/g . (3)

La mesure de Mahler d’un polynôme P est définie par M(P ) = exp

ÄR 1 0





ä

log P (e2iπθ ) dθ .

Si P est le polynôme minimal d’un nombre algébrique ξ, on a M(P ) = exp(deg(P )h(ξ)) ; les polynômes irréductibles de Z[T ] de mesure de Mahler nulle sont, outre le polynôme T , les polynômes cyclotomiques. Dans son article, Lehmer donne l’exemple du polynôme minimal d’un nombre de Salem de degré 10 pour lequel M(P ) ≈ 1,1762.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

162

A. CHAMBERT-LOIR

Lorsque G est définie sur un corps de nombres K, une conjecture plus précise remplace le degré [Q(x) : Q]1/g par l’indice d’obstruction ωK (x), défini comme le minimum des quantités deg(V )1/ codim(V ) , où V est une sous-variété de G définie sur K contenant x. Elle affirme l’existence d’un nombre réel c > 0 tel que si x n’est ˆ pas de torsion et si h(x) est inférieur à c ωK (x)−1 , alors il existe un sous-groupe algébrique H de G, contenant x, tel que deg(H ◦ )1/ codim(H) 6 c ωK (x). De fait, M. Laurent avait démontré un tel résultat à ε près pour les courbes elliptiques à multiplications complexes dans [37]. Dans l’approche de Dobrowolski, pour transformer le petit théorème de Fermat en une congruence, il faut en effet disposer, pour beaucoup d’idéaux maximaux de l’anneau des entiers du corps de base, d’un endomorphisme de la courbe elliptique qui relève l’endomorphisme de Frobenius de sa réduction. C’est précisément ce que permet la théorie de la multiplication complexe. Dans des articles extrêmement délicats, F. Amoroso et David ont étendu cette approche au cas des tores, tandis que David et M. Hindry ont traité le cas des variétés abéliennes à multiplications complexes (voir [2], [20]). Ainsi, quitte à remplacer l’exposant −1/g par −1/g − ε, la conjecture 3.3 est donc vraie dans le cas des tores ou des variétés abéliennes à multiplications complexes. Les preuves reposent sur les méthodes d’approximation diophantienne, mais leur technicité m’empêche d’en dire quoi que ce soit dans ce rapport. Dès le théorème initial de Bombieri, Masser et Zannier, ces minorations de hauteurs ont joué un rôle crucial dans la démonstration des théorèmes de finitude auxquels ce rapport est consacré. Toutefois, des raffinements récents permettent de simplifier leur utilisation, voire d’en améliorer l’efficacité. Présentons-les brièvement. En 2000, Amoroso et R. Dvornicich ont démontré que la hauteur d’un élément ξ de l’extension cyclotomique maximale de Q est minorée par log(5)/12, à moins que ξ ne soit nul ou une racine de l’unité. Ce théorème a suscité toute une série d’articles visant à remplacer, dans les conjectures de type Lehmer, le degré sur Q, ou l’indice d’obstruction sur le corps de base K, par les quantités équivalentes sur le corps Ktors engendré sur K par les coordonnées des points de torsion de G. Conjecture 3.4 (Problème de Lehmer relatif). — Soit G un tore ou une variété abélienne sur un corps de nombres K, soit g sa dimension. Soit Ktors l’extension de K engendrée par les coordonnées des points de torsion de G. Il existe un nombre réel c > 0 tel que pour tout point x ∈ G(Q) qui n’est contenu dans aucun sous-groupe algébrique strict de G, on ait la minoration : ˆ h(x) > c [Ktors (x) : Ktors ]−1/g .

ASTÉRISQUE 348

(1032)

RELATIONS DE DÉPENDANCE ET INTERSECTIONS EXCEPTIONNELLES 163

Après divers travaux, les meilleurs résultats dans cette direction sont dus à E. Delsinne pour les tores et à M. Carrizosa pour les variétés abéliennes. Théorème 3.5 (Delsinne [24], Carrizosa [19]). — Soit G une variété semi-abélienne définie sur un corps de nombres K, soit g la dimension de G et soit Ktors l’extension de K engendrée par les points de torsion de G. Supposons que G soit un tore ou une variété abélienne à multiplications complexes. Alors, pour tout ε > 0, il existe un nombre réel c > 0 tel que pour tout point x ∈ G(Q) qui n’appartient à aucun sous-groupe algébrique strict de G, h(x) > c [Ktors (x) : Ktors ]−1/g−ε . 3.4. La conjecture de Bogomolov La conjecture énoncée par F. Bogomolov dans [8] suggère un autre énoncé de minoration de la hauteur d’un point d’une variété abélienne dans lequel la contrainte n’est pas le corps de définition de ce point, mais son appartenance à une sous-variété fixée. Soit G une variété semi-abélienne définie sur Q ; considérons un fibré en droites ample d’une compactification G et les fonctions degré et hauteur canonique, ˆ qui lui sont associées. naturellement notées deg et h, Soit X une sous-variété (fermée, irréductible) de G. En considérant un morphisme fini de l’adhérence de X dans G vers un espace projectif associé à ce fibré en droites, on démontre aisément qu’il existe un nombre réel θ tel que l’ensemble des points de X(Q) de hauteur 6 θ est dense dans X pour la topologie de Zariski. Le minimum essentiel de X est la borne inférieure de ces nombres réels ; on le note µ ˆ(X). Si X est une sous-variété semi-abélienne de G, l’ensemble de ses points de torsion est dense dans X et µ ˆ(X) = 0 ; c’est essentiellement la seule possibilité pour que µ ˆ(X) soit nul. Théorème 3.6. — Si X n’est pas le translaté d’une sous-variété semi-abélienne de G par un point de torsion, on a µ ˆ(X) > 0. Le cas des tores est dû à S.-W. Zhang [80] (une preuve ultérieure, plus élémentaire, se trouve dans [17, 79]). Dans le cas des variétés abéliennes, la démonstration de ce théorème par E. Ullmo (lorsque X est une courbe dans sa jacobienne) et S.-W. Zhang (en général) repose sur des techniques d’équidistribution en géométrie d’Arakelov ; elle a été exposée dans ce séminaire (voir [1]). Par une méthode plus proche de la géométrie diophantienne « traditionnelle », S. David et P. Philippon ont redémontré ces résultats et traité le cas général des variétés semi-abéliennes (voir [21, 22, 23]). Ces dernières démonstrations ont en outre l’intérêt de fournir une minoration effective de µ ˆ(X). Dans le cas où X n’est pas le translaté d’une sous-variété semiabélienne de G, ces auteurs établissent en effet une minoration de µ ˆ(X) inversement

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

164

A. CHAMBERT-LOIR

proportionnelle à une puissance du degré de X. (La minoration établie dans [17] pour les tores, de moins bonne qualité, montrait comment déduire une minoration géométrique du théorème ci-dessus.) Dans cette optique, un énoncé essentiellement optimal a été prouvé par Amoroso et David dans [3] dans le cas des tores (voir aussi [5]) ; les énoncés de ces références sont explicites, je simplifie ici les termes logarithmiques : Théorème 3.7. — Soit G un tore, G une compactification équivariante de G, L un ˆ les fonctions degré et hauteur normalisée fibré en droites ample sur G, deg et h associées. Pour tout ε > 0, il existe un nombre réel c (ne dépendant que de G, G, L et ε) tel que l’on ait, pour toute sous-variété fermée X ( G, l’inégalité µ ˆ(X) > c deg(X)−1/ codim(X)−ε , pourvu que X ne soit contenue dans aucun translaté de sous-groupe algébrique strict de G. À ε près, cet énoncé est optimal : en remplaçant X par son inverse par la multiplication par des entiers n > 2, on voit que le meilleur exposant possible du degré est l’opposé de l’inverse de la codimension de X dans le plus petit sous-groupe algébrique de G qui le contient. Noter aussi que lorsque X est un translaté d’un sous-groupe algébrique H de G par un point qui n’est pas de torsion modulo H, on a bien µ ˆ(X) > 0, mais l’obtention d’une meilleure borne relève du problème de Lehmer dans G/H. Il est naturel de poser une conjecture similaire dans le cas des variétés abéliennes (voire des variétés semi-abéliennes) : Conjecture 3.8 (Problème de Bogomolov effectif). — Soit G un tore ou une ˆ une hauteur normalisée associée à un fibré en droites ample variété abélienne. Soit h d’une compactification. Il existe un nombre réel c > 0 tel que pour toute sous-variété (fermée, irréductible) X de G, distincte de G, qui n’est pas contenue dans un translaté de sous-groupe algébrique strict de G, on ait la minoration µ ˆ(X) > c (deg(X))−1/ codim(X) . A. Galateau a fait de grands progrès dans cette direction ; l’intérêt pour les questions présentées dans ce rapport est qu’il dépasse le strict cadre des variétés abéliennes à multiplications complexes. Le théorème de Galateau est alors le suivant : Théorème 3.9 ([27]). — Soit G une variété abélienne définie sur Q, L un fibré en ˆ les fonctions degré et hauteur normalisée associées. On droites ample sur G, deg et h suppose vérifiée l’hypothèse suivante :

ASTÉRISQUE 348

(1032)

RELATIONS DE DÉPENDANCE ET INTERSECTIONS EXCEPTIONNELLES 165

Il existe un corps de nombres K sur lequel G est définie et tel que l’ensemble des idéaux premiers p de l’anneau des entiers de K en lequel G a bonne réduction ordinaire soit de densité strictement positive. Pour tout ε > 0, il existe un nombre réel c > 0 (ne dépendant que de G, L , ε) tel que µ ˆ(X) > c (deg(X))−1/ codim(X)−ε pour toute sous-variété fermée irréductible X de G, distincte de G qui n’est pas contenue dans un translaté de sous-variété abélienne stricte. Rappelons qu’on dit que G a bonne réduction en l’idéal premier p de K s’il existe un schéma abélien G sur l’anneau oK,p qui étend G ; sa réduction est alors la variété abélienne Gp = G ⊗ Fp sur le corps résiduel Fp = oK,p /p. Elle a de plus bonne réduction ordinaire si, dans une clôture algébrique de Fp , le groupe des points de p-torsion de Gp est de cardinal pdim(G) , où l’on a noté p la caractéristique du corps fini Fp . Enfin, la densité considérée est la densité naturelle. Pour évaluer le statut de l’hypothèse faite dans le théorème précédent, posons une définition. Définition 3.10. — Soit G une variété abélienne définie sur Q. On dit que G est banale s’il existe un corps de nombres K sur lequel G est définie et tel que l’ensemble des idéaux premiers de K en lesquels G ait bonne réduction ordinaire soit de densité égale à 1. Un produit de variétés abéliennes banales, un quotient d’une variété abélienne banale sont banals. En outre, pour une variété abélienne sur un corps de caractéristique p > 0, être ordinaire est une propriété générique dans l’espace des modules des variétés abéliennes. Il est ainsi conjecturé que toute variété abélienne G définie sur Q est banale (cf. Pink [48], §7). Dans cette direction, on a les résultats suivants : Proposition 3.11. — Soit G une variété abélienne définie sur Q. Si dim(G) 6 2 ou si G est une variété abélienne à multiplications complexes, alors G est banale. Le cas des courbes elliptiques est dû à J-P. Serre [71], celui des surfaces abéliennes à A. Ogus [45], et le cas des variétés abéliennes à multiplications complexes résulte de cette théorie. Lorsque G est définie sur un corps de nombres K, R. Noot et Pink ont aussi donné des conditions suffisantes sur l’action du groupe de Galois Gal(Q/K) sur les modules de Tate de G assurant la conclusion de la proposition.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

166

A. CHAMBERT-LOIR

4. THÉORÈMES DE FINITUDE 4.1. Majoration de la hauteur hors de l’ensemble exceptionnel Soit G une variété semi-abélienne et soit X une sous-variété (fermée, irréductible) de G. Pour prouver la finitude de l’ensemble Σ = X ta (Q) ∩ G[1+dim(X)] , l’approche inaugurée par Bombieri, Masser et Zannier dans leur article [12] fonctionne en deux étapes. La première étape, peut-être la plus délicate, consiste à prouver que l’ensemble Σ est de hauteur bornée. La seconde utilise des minorations de hauteurs dans l’esprit de la conjecture de Lehmer pour en déduire que le degré du corps de définition des points de Σ est uniformément borné. Le théorème de Northcott entraîne alors que Σ est fini. C’est à cette première étape qu’est consacré ce paragraphe. Le cas des courbes possède une solution assez simple mais l’étude de la dimension supérieure s’avère plus délicate. Après de nombreux résultats partiels dans cette direction, Habegger a finalement démontré le résultat suivant. (Dans le cas des tores, il s’agit de la Bounded Height Conjecture de [14].) Théorème 4.1 (Habegger, [30, 31]). — Soit G un tore ou une variété abélienne et soit X une sous-variété (fermée, irréductible) de G. L’ensemble X oa (Q) ∩ G[dim(X)] est de hauteur bornée. Commençons par deux remarques sur le caractère essentiellement optimal de cet énoncé (voir [28, 76]). Remarque 4.2. — L’ensemble X oa (Q) ∩ G[dim(X)] peut être dense dans X. On l’a par exemple vu dans le cas d’une courbe de Gnm , un peu après l’énoncé du théorème 1.1. Remarque 4.3. — Si Y est une composante irréductible de X \ X oa , il n’existe pas forcément d’ouvert dense U de Y tel que la hauteur soit bornée sur U (Q) ∩ G[dim(X)] . Contentons-nous de traiter le cas d’une courbe X dans G = Gnm telle que X = X oa . Dans ce cas, nous devons démontrer qu’exiger une relation de dépendance multiplicative non triviale entre les coordonnées d’un point de X ne suffit pas à majorer sa hauteur. Par un changement de coordonnées sur Gnm , on se ramène en effet au cas où les restrictions à X des m premières coordonnées sont multiplicativement indépendantes et celles des n − m > 0 dernières sont constantes de valeurs ξm+1 , . . . , ξn . Si ξn est une racine de l’unité, X est contenu dans un sous-groupe algébrique d’équation xen = 1, tout point de X satisfait une relation de dépendance multiplicative non triviale et la hauteur n’est bornée sur aucun ouvert non vide de X. Sinon, pour presque tout entier naturel a, l’intersection de X avec le

ASTÉRISQUE 348

(1032)

RELATIONS DE DÉPENDANCE ET INTERSECTIONS EXCEPTIONNELLES 167

sous-tore d’équation x1 = xan n’est pas vide et contient un point Pa dont la hauteur vérifie h(Pa ) > h(x1 (Pa )) = h(xn (Pa )a ) = ah(ξn ), donc tend vers l’infini avec a. Expliquons maintenant la preuve du théorème 4.1 dans le cas des tores, suivant [31] ; je renvoie à [30] pour celle, voisine, du cas abélien. Si m et n sont des entiers naturels, rappelons qu’un morphisme ϕ de Gnm dans Gm m est donné par m monômes en n variables ; on identifie alors ϕ à la matrice Mϕ de taille m × n formée par les exposants de ces monômes. On notera aussi kϕk la norme euclidienne de cette matrice. Posons m = dim(X). Si ϕ est un morphisme de Gnm dans Gm m , notons ∆X (ϕ) le m degré générique du morphisme ϕ|X : X → Gm . Il est homogène de degré m en la m matrice de ϕ : pour tout entier a ∈ Z, ∆X (ϕa ) = |a| ∆X (ϕ). Il se calcule aussi à l’aide de la théorie de l’intersection. Soit en effet Xϕ l’adhérence du graphe de ϕ dans Pn × Pm et notons p1 , p2 les deux projections de Xϕ sur Pn et Pm . Alors, (1)

∆X (ϕ) = deg(c1 (p∗2 O(1))m ∩ [Xϕ ]).

Lemme 4.4. — Pour tout ϕ : Gnm → Gm m , il existe un nombre réel c(ϕ) et un ouvert dense Uϕ de X tel que l’on ait, pour tout x ∈ Uϕ (Q), (2)

h(ϕ(x)) 

∆X (ϕ)

m−1 h(x)

kϕk

− c(ϕ),

où la constante implicite dans le symbole  est indépendante de ϕ.(4) Démonstration. — Soit t ∈ Q et soit Lt le Q-fibré en droites(5) p∗2 O(1) − t p∗1 O(1) sur Xϕ . Il suffit, pour démontrer ce lemme, d’établir que Lt est Q-effectif pour une m−1 valeur de t de l’ordre de ∆X (ϕ)/ kϕk . D’après un théorème de Siu [73], c’est le cas dès que l’inégalité deg(c1 (p∗2 O(1))m ∩ [Xϕ ]) > m t deg(c1 (p∗1 O(1))c1 (p∗2 O(1))m−1 ∩ [Xϕ ]) est satisfaite. Grâce à une inégalité de type Bézout due à P. Philippon, le degré m−1 d’intersection du membre de droite est majoré par un multiple de kϕk , ce qui permet de conclure. Lemme 4.5. — Soit Ω un voisinage de l’ensemble des matrices orthogonales(6) dans Mm,n (R). Il existe un nombre réel Q0 tel que pour tout nombre réel Q > Q0 , l’assertion suivante soit satisfaite : Si x ∈ Gnm (Q) appartient à un sous-groupe (4)

Si u et v sont deux fonctions, j’utilise la notation u  v pour dire qu’il existe un nombre réel c > 0 tel que u > cv ; si w est un paramètre, u w v signifie que pour tout w, il existe un nombre réel cw > 0 tel que u > cw v. (5) Je note additivement la loi de groupe sur le groupe de Picard déduite du produit tensoriel. (6) J’entends par là que leurs lignes forment une famille orthonormée.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

168

A. CHAMBERT-LOIR

de codimension > m, il existe un entier q ∈ {1, . . . , Q} et un homomorphisme ϕ : Gnm → Gm m tel que ϕ ∈ qΩ, kϕk  q (3)

h(ϕ(x))  qQ−1/mn h(x).

Démonstration. — Par hypothèse, il existe un morphisme surjectif ϕ0 : Gnm → Gm m tel que ϕ0 (x) = 1. Par le procédé d’orthogonalisation de Gram–Schmidt, on écrit ϕ0 = θ1 ϕ1 , où θ1 ∈ GLm (R) et où ϕ2 ∈ Mm,n (R) est orthogonale. Soit θ2 une matrice à coefficients rationnels assez proche de θ1 , de sorte que θ2−1 ϕ0 appartienne à Ω. D’après le lemme de Dirichlet, on peut alors approcher cette dernière matrice par une matrice à coefficients rationnels de la forme q −1 ϕ appartenant à Ω telle que

−1

q ϕ − θ−1 ϕ0  Q−1/mn , où 1 6 q 6 Q et ϕ ∈ Mm,n (Z). Ces inégalités entraînent 2 que h(ϕ(x)) − h(θ−1 ϕ0 (x)q )  qQ−1/mn h(x), 2

d’où le lemme puisque ϕ0 (x) = 1. oa 6= ∅, Soit ϕ : Gnm → Gm m un morphisme surjectif de groupes algébriques. Si X observons que l’application ϕ|X est génériquement quasi-finie. En effet, dans le cas contraire, il passerait par tout point de X une composante Y de dimension > 0 de X ∩ ker(ϕ) ; puisque dim ker(ϕ) = dim(X), Y est alors une composante atypique de X, ce qui entraîne X oa = ∅, d’où une contradiction. On a donc ∆X (ϕ) > 0.

La proposition suivante est une minoration uniforme. Si r est un entier naturel tel r que r < m, on appelle projection standard de Gm m sur Gm un morphisme de groupes algébriques défini par l’oubli de m − r coordonnées. Je renvoie à [31], §6–7, pour sa démonstration. Proposition 4.6. — Soit Y une sous-variété fermée, irréductible de X telle que Y ∩ X oa 6= ∅, soit r = dim(Y ). Il existe un nombre réel c > 0 et un voisinage Ω de l’ensemble des matrices orthogonales dans Mm,n (R) tels que pour tout ϕ ∈ Ω, il r existe une projection standard π : Gm m → Gm telle que ∆Y (πϕ) > c. On peut alors conclure la démonstration du théorème 4.1. Soit Q un entier naturel assez grand. Appliquons la proposition 4.6 à Y = X ; soit c > 0 tel que ∆X (ϕ) > c pour tout ϕ dans un voisinage Ω de l’ensemble des matrices orthogonales de taille m × n. Soit x un point de X(Q) ∩ G[m] . Soit q un entier et soit ϕ un morphisme de Gnm dans Gm m comme dans le lemme 4.5 ; on a h(ϕ(x))  qQ−1/mn h(x). L’entier Q étant fixé, l’ensemble des couples (q, ϕ) que peut fournir le lemme 4.5 est fini ; le lemme 4.4 implique donc l’existence d’un ouvert dense U de X et d’un nombre

ASTÉRISQUE 348

(1032)

RELATIONS DE DÉPENDANCE ET INTERSECTIONS EXCEPTIONNELLES 169

réel c(Q) tel que, si x ∈ U , h(ϕ(x)) 

∆X (ϕ) kϕk

m−1 h(x)

− c(Q).

Comme ϕ ∈ qΩ, ∆X (ϕ)

=

q m ∆X (q −1 ϕ)

> qc. m−1 kϕk kϕk Mises bout à bout, ces inégalités entraînent l’existence d’un nombre réel a > 0 et, pour tout entier Q assez grand, d’un nombre réel cQ et d’un ouvert dense UQ de X tel que tout point x ∈ UQ (Q) ∩ G[m] vérifie m−1

ch(x) − cQ 6 aQ−1/mn h(x), d’où h(x) 6 cQ /(c − aQ−1/mn ) si Q est assez grand. Cela fournit la majoration de hauteurs souhaitée sur un ouvert dense U de X oa . En considérant les composantes irréductibles de X \ U , un argument de récurrence descendante l’entraîne alors sur X oa tout entier. En fait, Habegger démontre un théorème plus général où interviennent des épaississements de l’ensemble G[dim(X)] au sens de la théorie des hauteurs. ˆ sur G, associée à un fibré ample Supposons donc fixée une hauteur canonique h d’une compactification équivariante. Pour toute partie Σ de G(Q), notons C (Σ, ε) l’ensemble(7) des points de G(Q) qui s’écrivent sous la forme xy, où x ∈ Σ et ˆ ˆ h(y) 6 ε max(1, h(x)). Avec ces notations, on a alors le théorème : Théorème 4.7. — Soit G un tore ou une variété abélienne et soit X une sousvariété (fermée, irréductible) de G. Il existe un nombre réel ε > 0 tel que l’ensemble X oa (Q) ∩ C (G[dim(X)] , ε) soit de hauteur bornée. La preuve de ce théorème s’établit de la même façon que celle du théorème 4.1, avec quelques modifications consistant essentiellement à majorer, lorsque x ∈ Σ et ˆ ˆ h(y) 6 ε(max(1, h(x))), la hauteur de x en fonction de celle de xy. 4.2. Finitude Nous commençons par traiter le cas des tores. Proposition 4.8 ([15], Lemme 8.1). — Soit X une sous-variété fermée, irréductible, stricte d’un tore G = Gnm . Alors, pour tout nombre réel B, l’ensemble des points x ∈ X ta (Q) ∩ G[1+dim(X)] tels que h(x) 6 B est fini. (7)

La lettre C est l’initiale de cône.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

170

A. CHAMBERT-LOIR

Remarque 4.9. — Pour obtenir un tel énoncé de finitude, il est nécessaire de considérer l’ensemble X ta . Considérons en effet une composante irréductible Y d’une intersection X ∩ H, où H est un sous-groupe algébrique strict de G ; supposons qu’elle soit atypique et de dimension positive. En considérant l’image réciproque des dim(Y ) points de torsion par une projection de H sur un tore Gm dont la restriction à Y est génériquement finie, on voit que Y (Q) ∩ H [dim(Y )] contient un ensemble de hauteur bornée qui est dense dans Y . Par suite, si B est assez grand, l’adhérence de l’ensemble des points de X(Q) ∩ G[1+dim(X)] dont la hauteur est 6 B contient Y . Démonstration. — Pour simplifier les notations, on note m = dim(X). Notons aussi K un corps de définition de X. On définit la norme k·k d’un vecteur comme le maximum de ses coordonnées. Soit x = (ξ1 , . . . , ξn ) ∈ X ta (Q) ∩ G[1+m] . Soit r la dimension du plus petit sousgroupe algébrique Tx qui contient x : c’est le rang du sous-groupe multiplicatif Γx ∗ de Q engendré par (ξ1 , . . . , ξn ). Par hypothèse, codim(Tx ) > m + 1, c’est-à-dire r + m + 1 6 n. Un théorème de Schlickewei [70] fournit des éléments η1 , . . . , ηr ∈ Q(x) vérifiant les conditions suivantes : – Il existe des entiers relatifs aij (pour 1 6 i 6 n et 1 6 j 6 r) et des racines de l’unité ζ1 , . . . , ζn dans Q(x) tels que ξi = ζi η1ai1 . . . ηrair pour tout i tel que 1 6 i 6 n; P – Pour toute famille (e1 , . . . , er ) ∈ Zr , h(η1e1 . . . ηrer ) > c(r) rj=1 |ej | h(ηj ). La preuve de cet énoncé consiste à introduire l’espace vectoriel Γx ⊗ R (isomorphe à Rr ) muni de la jauge ω donnée par la hauteur (on étend h à Γx ⊗Q par linéarité, puis à Γx ⊗ R par continuité). On remplace alors cette jauge par une autre, quadratique, correspondant à l’ellipsoïde de John de la boule {ω(ξ) 6 1}. La famille (η1 , . . . , ηr ) provient d’une base LLL réduite du réseau Γx modulo torsion. On retient en particulier les inégalités h(ξi ) 

r X

|aij | h(ηj ),

pour 1 6 i 6 n.

j=1

Puisqu’on ne considère que des points x de hauteur au plus B et que h est positive ou nulle, il vient en particulier (4)

kaj k h(ηj )  1,

pour 1 6 j 6 r,

où l’on a posé aj = (a1j , . . . , anj ). Soit L le ppcm des ordres des ζi et soit ζ ∈ Q(x) une racine de l’unité d’ordre L ; pour tout i, soit `i un entier tel que 0 6 `i < L et ζi = ζ `i . Considérons alors les r + 1

ASTÉRISQUE 348

(1032)

RELATIONS DE DÉPENDANCE ET INTERSECTIONS EXCEPTIONNELLES 171

formes linéaires indépendantes sur Zn+1 : ϕ0 (x) = −Lx0 +

n X

`i xi ,

et ϕj (x) =

i=1

n X

ai,j xi

(pour 1 6 j 6 r).

i=1

Un argument de géométrie des nombres (par exemple, le lemme de Siegel de Bombieri–Vaaler) garantit l’existence d’éléments b1 , . . . , bn−r ∈ Zn+1 , linéairement indépendants, satisfaisant les relations ϕj (bk ) = 0 pour tout j et tout k, et de tailles contrôlées : n−r r Y Y kbk k  L kaj k . k=1

j=1

Qr

Pour simplifier les notations, posons A = j=1 kaj k. On supposera aussi, ce qui est loisible, que kb1 k 6 · · · 6 kbn−r k. Pour 1 6 k 6 n − r, notons (bk0 , . . . , bkn ) les coordonnées de bk . Les caractères Q x 7→ ni=1 xbi ki sur Gnm , pour 1 6 k 6 m, sont indépendants et définissent un sousgroupe algébrique Tb de codimension m dans Gnm . D’après le théorème de Bézout, son degré (calculé dans l’espace projectif Pn ) est majoré par m Y

deg(Tb ) 

kbk k  (LA)m/(n−r)  (LA)m/(m+1) .

k=1

Qn

Par construction, on a i=1 ξibki = 1 pour tout k ∈ {1, . . . , n − r} ; autrement dit, x ∈ Tb . Considérons maintenant la composante Yx passant par x de l’intersection X ∩ Tb . Comme x ∈ X ta , cette composante est de dimension typique ou de dimension nulle. Puisque dim(X) + dim(Tb ) − dim(G) = 0, on a nécessairement Yx = {x}. Une nouvelle application du théorème de Bézout dans l’espace projectif Pn entraîne que le nombre de composantes ponctuelles de X ∩ Tb est au plus égal à deg(X) deg(Tb )  (LA)m/(m+1) . Comme tous les conjugués de x sur le corps de définition K de X appartiennent à X ∩ Tb , on en déduit l’inégalité (5)

[Q(x) : Q]  (LA)m/(m+1) .

C’est à ce stade qu’entrent en jeu les minorations effectives concernant le problème de Lehmer dans les tores : elles permettent de déduire de cette majoration du degré de x, donc du point η, une minoration de la hauteur des ηj . Les éléments (η1 , . . . , ηr ) de Q(x)∗ sont multiplicativement indépendants et ζ est une racine de l’unité contenue dans Q(x). Le théorème 3.5 entraîne donc, pour tout ε > 0, une inégalité h(η1 ) . . . h(ηr ) ε [Q(η) : Q(ζ)]−1−ε . Puisque ζ est d’ordre L, [Q(ζ) : Q] = ϕ(L) ε L1−ε . On en déduit alors la minoration (6)

A h(η1 ) . . . h(ηr ) ε (LA)(1−mε)/(m+1) .

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

172

A. CHAMBERT-LOIR

Si nous comparons cette inégalité à l’inégalité (4), on obtient LA ε 1, ce qui signifie que le produit LA est borné indépendamment de x. L’inégalité (5) entraîne alors que lorsque x parcourt l’ensemble qui nous intéresse, [Q(x) : Q] est borné. La proposition découle alors du théorème de Northcott. Signalons que dans cette approche, la pleine force du théorème 3.5 de Delsinne n’est pas vraiment nécessaire mais simplifie grandement les démonstrations en courtcircuitant, par exemple, les arguments galoisiens qui avaient permis à Bombieri, Masser et Zannier de prouver la proposition 4.8 (voir [12], §4, ainsi que [13], Lemme 1 p. 2249) lorsque X est une courbe. Dans [15], ils utilisent la borne un peu plus faible de [4]. Compte tenu du théorème 4.1 d’Habegger, on a donc le théorème suivant : Corollaire 4.10 ([30], Corollaire 1.4). — Soit X une sous-variété irréductible) du tore G = Gnm . L’ensemble X oa (Q) ∩ G[1+dim(X)] est fini.

(fermée,

Cela démontre en particulier le théorème 1.4 dans le cas des tores : si X n’est pas géométriquement dégénérée, X \ X oa est une partie fermée stricte de X et X(Q) ∩ G[1+dim(X)] n’est pas dense dans X pour la topologie de Zariski. L’analogue abélien de la proposition 4.8 a été démontré par Rémond dans [63] (théorème 2.1) en supposant la conjecture 3.4 vérifiée. Compte tenu du théorème 3.5 de Carrizosa, on a donc : Proposition 4.11. — Soit G une variété abélienne à multiplications complexes (définie sur Q), soit X une sous-variété fermée, irréductible, de A définie sur Q. Alors, pour tout nombre réel B, l’ensemble des points x ∈ X ta (Q) ∩ G[dim(X)] tels que h(x) 6 B est fini. En particulier, l’ensemble X oa (Q) ∩ G[1+dim(X)] est fini. La démonstration, bien que du même esprit que celle de la proposition 4.8, en diffère par plusieurs points. Des arguments de géométrie des nombres et le théorème de Carrizosa permettent de prouver l’existence d’une famille finie de sous-variétés abéliennes de codimension > dim(X) telles que tout point x comme dans la proposition appartienne, modulo un point de torsion, à l’une d’entre elles. Rémond conclut alors à l’aide du théorème de Raynaud sur la conjecture de Manin–Mumford. Signalons aussi que Rémond démontre dans la même proposition un théorème de finitude analogue pour une intersection X oa,[s] ∩ G[t] valable pour toute variété abélienne, où s 6 t sont des entiers convenables (mais on a toujours t > s lorsqu’on doit se contenter de résultats partiels en direction de la conjecture 3.4).

ASTÉRISQUE 348

(1032)

RELATIONS DE DÉPENDANCE ET INTERSECTIONS EXCEPTIONNELLES 173

Signalons encore que Carrizosa a raffiné le cas abélien du théorème 3.5 (voir le théorème 1.15 de [19]) ; cela lui permet de simplifier la preuve de la proposition 4.11. Enfin, et de manière analogue au cas des tores, la version abélienne du théorème 1.4 est une conséquence directe du théorème 4.1 et de cette proposition. 4.3. Quand l’exception est la règle Les théorèmes précédents ne donnent un théorème de finitude que dans l’ouvert X oa . En particulier, ils sont vides quand X oa l’est, c’est-à-dire quand X est géométriquement dégénérée. La démonstration du théorème 1.10 requiert donc des arguments supplémentaires. Nous décrirons au paragraphe suivant l’approche de Rémond vers la conjecture 1.5 et la façon dont elle permit à Maurin de prouver ce théorème. Expliquons pour l’instant comment Bombieri, Habegger, Masser et Zannier utilisent le théorème 4.1 pour y parvenir. Nous considérons donc une courbe (irréductible, fermée) X du tore G = Gnm , définie sur un corps de nombres K, qui n’est pas contenue dans un sous-groupe algébrique strict de Gnm . Il s’agit de démontrer que X(Q)∩G[2] est fini. On raisonne par récurrence sur n ; le cas n < 2 est trivial et le cas n = 2 résulte de la finitude de l’ensemble des points de torsion situés sur X. Lorsque X n’est pas dégénérée, c’est-à-dire n’est contenue dans aucun translaté de sous-groupe algébrique strict de Gnm , le résultat est couvert par le théorème 1.4, prouvé dans ce cas par [12]. Supposons donc que X soit contenue dans un translaté d’un sous-groupe algébrique strict. Au prix d’un changement de coordonnées sur Gnm , il existe un entier m ∈ {1, . . . , n − 1}, une courbe non dégénérée C ⊂ Gm m et un point n−m tels que X = C × {P0 }. On peut même supposer, et on le fait, que le P0 ∈ Gm stabilisateur de C dans Gm m est réduit à {1}. Puisque X n’est contenue dans aucun sous-groupe algébrique strict de Gnm , il en est de même du point P0 dans Gn−m . En outre, comme on s’intéresse à l’intersection m de X avec des sous-groupes de codimension 2 de Gnm , on peut supposer que m > 2, cette intersection étant vide sinon. Soit ϕ : X × X → Gnm le morphisme tel que ϕ(P, Q) = P · Q−1 ; soit ψ : C × C → Gm m le morphisme analogue. Ainsi, on a ϕ((P, P0 ), (Q, Q0 )) = (ψ(P, Q), 1, . . . , 1) pour tout couple (P, Q) ∈ C × C. Soit S l’adhérence de ϕ(C × C) pour la topologie de Zariski dans Gm m , c’est une surface m contenue dans Gm × {(1, . . . , 1)} et elle n’est pas dégénérée dans ce sous-groupe, car, sinon, C serait dégénérée dans Gm m. Soit X l’adhérence de X dans Pn , soit W celle de S. En résolvant les indéterminées de l’application rationnelle ϕ de X × X dans W , on obtient une surface projective V contenant X × X comme ouvert dense, munie d’un morphisme birationnel et propre π

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

174

A. CHAMBERT-LOIR

vers X × X et d’un morphisme génériquement fini vers W prolongeant ϕ ; notonsle encore ϕ. Par suite, le fibré en droites ϕ∗ O(1) sur W est big et nef (gros et numériquement effectif) ; décomposons-le sous la forme L (E), où L est un Q-diviseur ample et E est un Q-diviseur effectif. Cela entraîne, sur l’ouvert dense U = V \ |E|, une inégalité de hauteurs hO(1) (ϕ(P )) = hϕ∗ O(1) (P ) > hL (P ) + c1 pour tout point P ∈ V (Q) n’appartenant pas à |E|. En tirant par π le fibré ample O(1)  O(1) sur X × X on obtient un fibré en droites big et nef sur V et une inégalité de hauteurs hL (P )  h(P1 ) + h(P2 ) − 1, où (P1 , P2 ) = π(P ). Le fermé complémentaire V \ U est une réunion finie de courbes et de points. Si la restriction de ϕ à une telle courbe Y ⊂ V \ U est un morphisme fini, on a encore une inégalité similaire. Sinon, ϕ(Y ) est réduit à un point R de Gnm ; si de plus Y rencontre X × X, on constate que R appartient au stabilisateur de X dans Gm m , donc R = 1. On en déduit ainsi une inégalité (7)

h(ϕ(P, Q))  h(P ) + h(Q) − 1,

valable pour tout couple (P, Q) de X(Q) × X(Q) tel que P 6= Q. Cette analyse entraîne, pour un point (P, Q) de X × X, l’« alternative » suivante : 1. P = Q ; 2. P = 6 Q et ϕ(P, Q) ∈ S oa ; 3. P 6= Q et ϕ(P, Q) appartient à une courbe atypique maximale de S. Précisément, on va prouver la finitude de l’ensemble X ∩G[2] en considérant un point P de cet ensemble et en choisissant Q de la forme σ(P ), où σ ∈ Gal(Q/K). Il s’agit de conclure à la finitude dans chacun des trois cas, qu’on discute maintenant un par un. Quitte à remplacer K par une extension finie, on suppose que toutes les courbes atypiques maximales de S sont de la forme Y = S ∩ R · H, où H est un sous-tore m minimal de Gm m de codimension > 2 et R un point K-rationnel de Gm (K). On suppose aussi que le point P0 est K-rationnel. Rappelons enfin que l’on raisonne par récurrence et que l’on suppose le théorème 1.10 vrai pour une courbe d’un tore de dimension < n qui n’est pas contenue dans un sous-tore strict. Lemme 4.12. — L’ensemble X(K) ∩ G[2] est fini.

ASTÉRISQUE 348

(1032)

RELATIONS DE DÉPENDANCE ET INTERSECTIONS EXCEPTIONNELLES 175

Démonstration. — En analysant les équations des n(n − 1)/2 projections évidentes de X ⊂ Gnm sur G2m , on prouve qu’il existe une famille finie ∆ ⊂ Zn et une famille finie de places Σ de K telles que, pour tout point P = (ξ1 , . . . , ξn ) ∈ X(K) et toute valuation discrète v 6∈ Σ, le vecteur v(P ) = (v(ξ1 ), . . . , v(ξn )) soit proportionnel à l’un des éléments de δ. Les points P ∈ X(K) tels que v(P ) = 0 pour tout v 6∈ Σ sont des points Σ-entiers de X. Leur finitude est garantie par le théorème de Liardet [39] sur la conjecture de Mordell–Lang pour les courbes dans Gnm . Si P est un point de X(K), toute valuation v 6∈ Σ telle que v(P ) 6= 0 fournit une contrainte sur les sous-groupes possibles contenant P . Supposons en effet v(P ) parallèle à un élément δ de ∆. Quitte à changer les coordonnées sur Gnm , on peut supposer δ = (0, . . . , 0, 1), et tout sous-groupe de Gnm contenant P est contenu [2] n−1 dans Gn−1 m ×{1}. Si P ∈ G , il en est alors de même de la projection de P dans Gm et l’hypothèse de récurrence conclut à la finitude voulue. Lemme 4.13. — L’ensemble des points P ∈ X(Q) ∩ G[2] pour lesquels il existe σ ∈ Gal(Q/K) tel que ϕ(P, σ(P )) ∈ S oa est fini. Démonstration. — D’après le théorème 4.1, il existe un nombre réel B tel que h(ϕ(P, σ(P ))) 6 B. Comme h(σ(P )) = h(P ), l’inégalité de hauteurs (7) implique alors que h(P ) est majoré sur l’ensemble considéré par le lemme. On conclut alors par la proposition 4.8. Lemme 4.14. — Soit Y ⊂ S une courbe atypique maximale. L’ensemble des points P ∈ X(Q) ∩ G[2] pour lesquels il existe σ ∈ Gal(Q/K) tel que P 6= σ(P ) et ϕ(P, σ(P )) ∈ Y est fini. Démonstration. — Par hypothèse, il existe un sous-tore H de Gm m et un point (K) tel que Y soit une composante de S∩R·H. Appliquons σ, σ 2 , . . . rationnel R ∈ Gm m à la relation P · σ(P )−1 ∈ R · H et faisons-en le produit. Si e est l’ordre de σ dans Gal(Q/K), on obtient que Re ∈ H. Dans des coordonnées de Gm m où H = Gkm × {(1, . . . , 1)}, on voit que les coordonnées d’indices k + 1 à m de R sont des racines de l’unité contenues dans K ; il en résulte que R · H = R1 · H, où R1 ∈ Gm m (K) est d’ordre e. Soit A (resp. B) le sous-groupe de Zn formé des vecteurs (a1 , . . . , an ) tels que le caractère x 7→ xa1 1 . . . xann s’annule sur P (resp. sur ϕ(P, σ(P ))). Sauf si ϕ(P, σ(P )) appartient à un ensemble fini de points exceptionnels de Y , le sous-groupe B annule H. Supposons pour l’instant que ce soit le cas. Alors, B contient A + {(0, . . . , 0)} × Zn−m . En passant au quotient par H, on obtient une courbe XH de Gnm /H qui n’est contenue dans aucun sous-groupe algébrique strict ;

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

176

A. CHAMBERT-LOIR

de plus, les relations de dépendance satisfaites par P en fournissent pour l’image PH de P ; on en déduit la finitude requise par récurrence. Il reste à traiter le cas où ϕ(P, σ(P )) est un point exceptionnel de Y . Dans ce cas, quitte à étendre le corps K, on peut supposer que Q = ϕ(P, σ(P )) ∈ Gnm (K). Si e est l’ordre de σ dans Gal(Q/K), on a de nouveau Qe = 1 ; quitte à remplacer P et X par leur image par l’élévation à la puissance e, on se ramène au cas où e = 1, ce qui contredit le fait que σ(P ) 6= P . Cela conclut la preuve du théorème 1.10 . 4.4. Inégalité de Vojta et sous-groupes de rang fini Les conjectures 1.2 et 1.5 généralisent les questions de Manin–Mumford et Mordell–Lang. On peut en fait les considérer comme des variantes uniformes de ces questions modulo tous les quotients de la variété semi-abélienne G qui sont de dimension > dim(X). La stratégie de Rémond consiste à appliquer une version uniforme des méthodes développées par Vojta, Faltings et McQuillan, ainsi que de la version [9] qu’en a donnée Bombieri, pour établir la conjecture de Mordell– Lang dans les variétés semi-abéliennes. Il l’a développée dans plusieurs articles ([58, 59, 60, 62]), l’application à la question du présent rapport fait l’objet des articles [67, 64, 66] (le premier, en collaboration avec E. Viada) et est résumée dans l’article de survol [65] et les lignes qui suivent n’en sont qu’une rapide synthèse. Pour simplifier la discussion, nous supposons ici que G est une variété abélienne (Maurin a traité le cas des tores dans [43], le cas des variétés semi-abéliennes est encore ouvert). Soit donc X une sous-variété (fermée, irréductible) d’une variété abélienne G ; posons m = dim(X). Si X est une courbe de genre > 2, l’inégalité de Vojta compare de façon uniforme la hauteur (de Néron–Tate, i.e., normalisée et symétrique) d’un couple (x, y) de X × X à celle du point ax − y : elle affirme qu’il existe des nombres réels c1 , c2 , c3 tels que h(ax − y) > c1 (a2 h(x) + h(y)) pour tout couple (x, y) de points de X 2 (Q) et tout entier naturel a tels que a > c2 , h(x) > c3 , a2 h(y) > c3 . Si l’on choisit a2 proche de h(y)/h(x), on obtient une minoration de l’angle formé par les droites Rx et Ry dans l’espace vectoriel réel G(Q) ⊗ R. Lorsque X et G sont définies sur un corps de nombres K, et x, y appartiennent à X(K), le théorème de Mordell–Weil entraîne alors que l’ensemble des points de X(K) de hauteur > c3 est fini ; il en est par suite de même de X(K) lui-même et l’on a prouvé, suivant Vojta, la conjecture de Mordell. Revenons au cas général et soit Z0 la réunion des translatés de sous-variétés abéliennes de G qui sont contenues dans X ; c’est l’ensemble exceptionnel pour le

ASTÉRISQUE 348

(1032)

RELATIONS DE DÉPENDANCE ET INTERSECTIONS EXCEPTIONNELLES 177

problème de Mordell–Lang. Soit a = (a0 , . . . , am ) ∈ Zm+1 ; si Z0 6= X, le morphisme βa : X m+1 → Gm ,

(x0 , . . . , xm ) 7→ (a1 x1 − a0 x0 , . . . , am xm − am−1 xm−1 )

est génériquement fini et l’inégalité de Vojta affirme que m m X X h(ai xi − ai−1 xi−1 )  a2i h(xi ) i=1

i=0 m+1

m+1

tels que pour tout i, ai+1  ai et pour tout x ∈ (X \ Z0 ) (Q) et tout a ∈ Z 2 2 ai h(xi )  a0 . Soit maintenant Γ un sous-groupe de rang fini de G(Q) ; nous supposerons toujours que Γ est saturé, c’est-à-dire que tout endomorphisme surjectif de G induit un endomorphisme surjectif de Γ. Dans [66], Rémond introduit plusieurs candidats pour un lieu exceptionnel. La généralisation la plus évidente de l’ensemble X \ X ta est définie ainsi : il s’agit de l’ensemble ZX,Γ des points x ∈ X pour lesquels il existe une sous-variété abélienne H de G et un point γ de Γ tels que dimx (X ∩ (γ + H)) > max(0, dim(X) − codim(H)). En vue de généraliser la définition de l’ensemble X oa (son complémentaire dans X, plutôt), Rémond définit trois séries d’ensembles exceptionnels, indexées par un entier r ∈ {0, . . . , dim(G)} : (r)

– L’ensemble ZX,ano = X \ X oa,[r] formé des tels points x pour lesquels il existe une sous-variété abélienne H de G telle que(8) dimx (X ∩ (x + H)) > max(0, r − 1 − codim(H)). (r)

– L’ensemble ZX,Q réunion des sous-variétés fermées irréductibles Y de X telles qu’il existe des diviseurs effectifs L1 et L2 sur G et un entier a tels que deg(c1 (L1 )a c1 (L2 )dim(Y )−a ∩ [Y ]) = 0 rang(L1 ) − 1 6 a 6 dim(Y ) rang(L1 + L2 ) > r. (Le rang d’un fibré en droites L est le plus grand entier naturel r tel que c1 (L )r ne soit pas numériquement trivial.) (r) (r) – L’ensemble ZX défini de façon analogue à ZX,Q mais en considérant des diviseurs à coefficients réels. D’après le théorème 1.4 de [66], ce sont des parties fermées de X qui vérifient (r)

(r)

(r)

ZX,Q ⊂ ZX ⊂ ZX,ano . Observons aussi que lorsque Γ parcourt l’ensemble des sous-groupes de rang fini (1+dim(X)) de G(Q), la réunion des ZX,Γ est égale à ZX,ano . (8)

Les lettres ano signifient anomalous, Rémond utilise la notation an.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

178

A. CHAMBERT-LOIR

Grâce au théorème de complète réductibilité de Poincaré, toute sous-variété abélienne H de G est la composante neutre du noyau d’un endomorphisme ϕ de G. Plutôt que de travailler dans G/H, on peut appliquer ϕ. On peut en outre se restreindre à un ensemble Φ d’endomorphismes qui sont presque des projecteurs, au sens où il existe un entier naturel a tel que ϕ ◦ ϕ = aϕ et kϕk  a (on a fixé une norme sur l’espace vectoriel réel End(G)R ), et dont les images forment un ensemble fini de sous-variétés abéliennes de G. L’inégalité de Vojta uniforme que démontre Rémond est la suivante : Théorème 4.15 ([64], proposition 5.1). — Avec ces notations, il existe des nombres réels c1 , c2 , c3 > 0 tels que l’on ait m X

2

h(ϕ(ai xi − ai−1 xi−1 )) > c1 kϕk

i=1 (r) ZX )m+1 ,

m X

a2i h(xi )

i=0 m+1

tout a ∈ N et tout ϕ ∈ Φ dont l’image est de pour tout x ∈ (X \ dimension > r tels que ai+1 6 c2 ai et h(xi ) > c3 pour tout i. Ce théorème affirme ainsi l’existence d’une inégalité de hauteurs pour des points (r) (r) en dehors du lieu exceptionnel ZX . L’ensemble ZX,ano , de définition peut-être plus naturelle, est parfois plus gros. En outre, la proposition 1.3 de [64] (déjà mentionnée) (r) montre qu’il est nécessaire d’exclure les points de lieu ZX,Q ; il est possible que ce soit aussi suffisant. La preuve du théorème 4.15 consiste en la vérification, délicate, des hypothèses de l’« inégalité de Vojta généralisée » que Rémond avait établie dans [62]. Il faut notamment établir des minorations uniformes de degrés d’intersection, parmi lesquelles : deg(c1 (βa∗ (ϕ, . . . , ϕ)∗ L )m(m+1) ∩ [X m+1 ]) > c4 (a0 . . . am )2m kϕk

2m(m+1)

,

où c4 est un nombre réel strictement positif. L’existence de c4 , lorsque a et ϕ sont fixés, équivaut à ce que l’homomorphisme (ϕ, . . . , ϕ) ◦ βa soit génériquement fini. Rémond établit cette minoration uniforme en combinant des propriétés d’homogénéité du membre de gauche (qui permettent de supposer que a = (1, . . . , 1)) et la possibilité d’étendre de façon continue ce degré d’intersection au cas où ϕ appartient (r) à End(G)R : la définition de l’ensemble exceptionnel ZX assure que ce degré soit toujours strictement positif, de même que toutes les variantes requises par le théorème de [62]. Pour toute partie Σ de G(Q) et tout nombre réel ε > 0, notons B(Σ, ε) l’ensemble(9) ˆ des points de G(Q) de la forme x + y, où x ∈ Σ et h(y) 6 ε. (9)

La lettre B est l’initiale du mot boule.

ASTÉRISQUE 348

(1032)

RELATIONS DE DÉPENDANCE ET INTERSECTIONS EXCEPTIONNELLES 179

Corollaire 4.16 ([64], Théorème 1.2). — Il existe un nombre réel ε > 0 tel que (r) l’ensemble (X(Q) \ ZX ) ∩ B(Γ + G[r] , ε) soit de hauteur bornée. Remarque 4.17. — Il convient de noter que dans ce résultat, il n’y a pas le décalage d’exposants que l’on trouvait dans le théorème 4.1. C’est en quelque sorte le prix à payer pour permettre de traiter des sous-groupes de rang fini. En effet, d’après la proposition 1.3 de [64], si Z est un fermé de X tel que (X(Q)\Z)∩B(Γ+G[r] , ε) est de (r) hauteur bornée pour tout sous-groupe Γ de rang fini de G(Q), alors Z contient ZX,Q . Démonstration. — Pour simplifier, on ne traite que la variante du corollaire sans ε (r) et on démontre que l’ensemble (X(Q) \ ZX ) ∩ (Γ + G[r] ) est de hauteur bornée. Considérons, par l’absurde, une suite (xn ) dans cet ensemble dont la hauteur tend vers l’infini. On écrit xn = γn + Pn + Qn , où γn ∈ Γ et Pn appartient à une sousvariété abélienne de codimension > dim(X). On fixe un endomorphisme ϕn ∈ Φ tel que ϕn (Pn ) = 0 ; on peut en outre supposer que max(h(γn ), h(Pn ))  h(xn ). Enfin, comme End(G)R et Γ ⊗Z R sont des R-espaces vectoriels de dimension finie, et quitte à considérer des sous-suites convenables de la suite (xn ), on peut supposer que ϕn / kϕn k et γn /h(γn ) sont assez proches d’un même élément de End(G)R , resp. de ΓR . Au prix d’une éventuelle extraction supplémentaire, il est alors possible de construire des entiers a0 , . . . , am de sorte à contredire le théorème 4.15 (avec ϕ = ϕ0 ). (1+dim(X))

Lorsque X n’est pas géométriquement dégénérée, X oa ⊂ X \ ZX n’est pas vide et le corollaire entraîne donc que X oa (Q) ∩ (Γ + G[dim(X)] ) est de hauteur bornée. Si, de plus, G est à multiplications complexes, la proposition 4.11 entraîne que cet ensemble est fini, démontrant du même coup le théorème 1.6. L’analogue abélien du théorème 1.10 s’ensuit facilement : Corollaire 4.18 ([64], Corollaire 1.6). — Soit X une courbe irréductible d’une variété abélienne à multiplications complexes G. Si X n’est contenue dans aucun sous-groupe algébrique strict de G, alors X(Q) ∩ G[2] est fini. Démonstration. — Soit H la plus petite sous-variété abélienne de G contenant un translaté de X et soit g un point de X tel que X ⊂ g + H. Alors, la courbe Y = X − g est non dégénérée dans H, tandis que g engendre G/H. Soit Γ le plus petit sous-groupe saturé de H(Q) contenant l’image de g par tout homomorphisme de G dans H ; c’est un sous-groupe de rang fini de H(Q). On constate que pour tout point x de X(Q) ∩ G[2] , x − g appartient à Y (Q) ∩ (Γ + H [2] ). Appliqué à Y et au groupe Γ, le théorème 1.6 entraîne donc que X(Q) ∩ G[2] n’est pas dense dans X. Comme X est une courbe, il est donc fini.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

180

A. CHAMBERT-LOIR

Remarque 4.19. — Lorsqu’on oublie la partie G[r] , les énoncés précédents fournissent un cas particulier de l’énoncé suivant, combinaison des conjectures de Mordell–Lang et Bogomolov : Si X n’est pas un translaté d’un sous-groupe algébrique de G, l’intersection de X et de B(Γ, ε) n’est pas dense dans X pour la topologie de Zariski. Ce résultat a été établi par B. Poonen [54] (pour les produits de variétés abéliennes et de tores) et par Rémond [61] en général. 4.5. Conjecture de Bogomolov et finitude Habegger [30], Maurin [43] et Viada [75, 77] ont montré comment utiliser les versions effectives de la conjecture de Bogomolov pour déduire du théorème 4.1 (ou de ses variantes) des énoncés de finitude. Ces deux premiers auteurs traitaient le cas des tores, la dernière des variétés abéliennes, cas sur lequel nous allons nous concentrer maintenant. Pour un énoncé similaire au théorème 4.20 dans le cas des tores, voir le théorème 11.6 de [43]. Dans tout ce paragraphe, on considère donc une variété abélienne G définie sur Q, ˆ L associée. un fibré en droites ample L sur G et la hauteur canonique h Avec ces notations, Viada démontre le théorème suivant : Théorème 4.20 ([77], Theorem 1.6). — On suppose vérifiée la conjecture 3.8. Soit X une sous-variété (fermée, irréductible) de G, distincte de G. 1. Supposons que X ne soit contenue dans aucun sous-groupe algébrique strict de G. Pour tout nombre réel B, il existe un nombre réel ε > 0 tel que l’ensemble des points de X ∩ B(G[1+dim(X)] , ε) dont la hauteur est 6 B ne soit pas dense dans X pour la topologie de Zariski. 2. Supposons que X ne soit contenue dans aucun translaté de sous-variété abélienne de G. Soit Γ un sous-groupe de rang fini de G. Pour tout nombre réel B, il existe un nombre réel ε > 0 tel que l’ensemble des points de X ∩ B(Γ · G[1+dim(X)] , ε) dont la hauteur est 6 B ne soit pas dense dans X pour la topologie de Zariski. En fait, la preuve ne requiert la conjecture 3.8 que sous une forme affaiblie, et pour un ensemble fini de sous-quotients de puissances de G, ce qui permet, dans cet énoncé, de choisir la constante c indépendamment de G. Viada commence par établir l’équivalence des deux assertions du théorème ; la démonstration se concentre alors sur la seconde. De manière analogue à ce qui a été fait dans le paragraphe sur l’inégalité de Vojta, on écrit une sous-variété abélienne de codimension au moins 1 + dim(X) comme la composante neutre du noyau d’un homomorphisme surjectif. Pour simplifier les notations, supposons ici que G est une puissance Ag d’une variété abélienne simple A de dimension a. Notons E = EndQ (A) ; c’est un sous-anneau du corps E ⊗ Q. Il

ASTÉRISQUE 348

(1032)

RELATIONS DE DÉPENDANCE ET INTERSECTIONS EXCEPTIONNELLES 181

suffit de considérer des homomorphismes surjectifs de but Ar , où r ∈ {0, . . . , g} est un entier tel que ar > 1 + dim(X). Ces homomorphismes sont donnés par une matrice r × g à coefficients dans E. Un argument de réduction de Gauß couplé avec un énoncé d’approximation diophantienne (lemme de Dirichlet) ramène à considérer g+s un ensemble fini → Ar dont la matrice est de la forme Ä ä Φ d’homomorphismes ϕ : A mIr L L0 et est de norme  |m|. Il reste à prouver que pour tout ϕ ∈ Φ et tout point γ de As , l’ensemble des points de Ag+s de la forme (x, γ), où x ∈ X est de hauteur 6 B, où 2 (x, γ) ∈ B(ker(ϕ), ε/ kϕk ) n’est pas dense dans X × {γ} pour la topologie de Zariski. En revanche, le processus d’approximation modifie ε et on n’a pas de contrôle a priori de kϕk. Il suffit cependant de trouver un nombre réel ε qui entraîne la non-densité pour tout homomorphisme ϕ comme ci-dessus. C’est là qu’intervient la forme effective conjecturale de la conjecture de Bogomolov. Lorsque kϕk n’est pas trop grande, on obtient directement la non-densité voulue en considérant l’image par ϕ de X × {γ} dans As et en notant qu’elle est de codimension 2 dim(X) au moins 1 et de degré  kϕk . Les images par ϕ dans ϕ(X × {γ}) des points 2 p = (x, γ) considérés sont en effet de hauteur  ε kϕk ; leur densité entraîne que 2 dim(X)+2 ε kϕk  1. Ç å Dans l’autre cas, on considère l’isogénie ψ de Ag de matrice

mIr

L

0

Ig−r

et une

composante irréductible Y de [m]−1 ψ(X) dans Ag ; on démontre que son degré est 2a(g−r) majoré par un multiple de kϕk . Si p = (x, γ) vérifie les relations envisagées, on 2 ˆ constate que h(ψ(x))  max(B, ε kϕk ). Sous l’hypothèse qu’ils forment un ensemble dense dans X × {γ}, la version effective de la conjecture de Bogomolov entraîne que 2 2/(ag−dim(X) max(B, ε kϕk )  kϕk . On vérifie que si ε est assez petit (indépendamment de ϕ), ces deux inégalités sont toutes deux fausses, ce qui conclut la démonstration. Sous l’hypothèse que G a une densité positive de réductions ordinaires, le théorème 3.9 de Galateau fournit une version effective de la conjecture de Bogomolov à peine plus faible que celle conjecturée. En outre, cette hypothèse est vérifiée pour l’ensemble fini de quotients de G considérés dans la preuve. En reprenant les calculs ci-dessus, on constate que cela suffit pour assurer la conclusion du théorème 4.20. Compte tenu du théorème 4.7, il en résulte le théorème : Théorème 4.21. — Soit G une variété abélienne banale et soit X une sous-variété (fermée, irréductible) non dégénérée dans G. Soit Γ un sous-groupe de rang fini de G(Q). Il existe un nombre réel ε > 0 tel que X(Q) ∩ B(G[1+dim(X)] + Γ, ε) ne soit pas dense dans X pour la topologie de Zariski.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

182

A. CHAMBERT-LOIR

En raisonnant comme dans la preuve du corollaire 4.18, on en déduit un résultat pour les courbes : Corollaire 4.22. — Soit G une variété abélienne banale et soit X une courbe (fermée, irréductible) dans G qui n’est contenue dans aucun sous-groupe algébrique strict de G. Il existe un nombre réel ε > 0 tel que X(Q) ∩ B(G[1+dim(X)] , ε) soit fini. 4.6. Familles de variétés semi-abéliennes Comme je l’ai évoqué dans l’introduction, Pink a proposé une généralisation commune des conjectures d’André–Oort, Manin–Mumford, Mordell–Lang dans le cadre des variétés de Shimura mixtes. Une variante de cette dernière conjecture, d’énoncé plus élémentaire, concerne les familles de variétés semi-abéliennes. Soit S une variété algébrique complexe et soit p : G → S un schéma semi-abélien sur S, c’est-à-dire une famille de variétés semi-abéliennes paramétrée par S. Pour [r] tout entier r, on note G[r] la réunion, pour s ∈ S, des sous-ensembles Gs de Gs : un [r] point g de G, d’image p(g) ∈ S, appartient à G si et seulement s’il appartient à un sous-groupe algébrique de codimension > r de sa fibre Gp(g) . Dans ces conditions, Pink conjecturait l’énoncé suivant : Conjecture 4.23 ([49], Conjecture 6.2). — Soit p : G → S un schéma semi-abélien et soit X ⊂ G une sous-variété fermée irréductible. Si X n’est pas contenue dans un sous-schéma en groupes strict de G, alors X ∩ G[1+dim(X)] n’est pas dense dans X pour la topologie de Zariski. Donnons un exemple : prenons pour S le complémentaire de {0, 1, ∞} dans la droite projective et soit p : E → S la famille de Legendre des courbes elliptiques, définie par l’équation affine y 2 = x(x − 1)(x − s) dans A2S . Soit alors G = E ×S E, le produit fibré de deux copies de E. L’ensemble G[2] est l’ensemble des couples (s, e1 , e2 ) où s ∈ S et e1 , e2 sont des points de torsion de la courbe Es . Dans ce cas, Masser et Zannier démontrent le théorème suivant ([41], voir aussi [40]) : Théorème 4.24. — Soit E → S une famille non constante de courbes elliptiques et soit G le schéma abélien E ×S E. Soit X une courbe fermée irréductible dans G. Alors, X ∩ G[2] est contenu dans une réunion finie de sous-schémas abéliens stricts de G. La preuve de ce théorème, d’une nature assez différente de celles esquissées dans ce rapport, repose sur l’approche de la conjecture de Manin–Mumford découverte par Pila et Zannier [47] et sur un théorème de Pila et Wilkie concernant les points rationnels des ensembles définissables dans une structure o-minimale.

ASTÉRISQUE 348

(1032)

RELATIONS DE DÉPENDANCE ET INTERSECTIONS EXCEPTIONNELLES 183

Toutefois, en reprenant une construction (due à K. Ribet) de points spéciaux sur des extensions de schémas abéliens par un tore, D. Bertrand [7] a observé récemment que la conjecture 4.23 est fausse. Théorème 4.25 ([7], Theorem 1). — Soit E une courbe elliptique à multiplications complexes, soit S une courbe algébrique complexe et soit p : G → S un schéma semi-abélien qui est extension non constante de ES par Gm,S . Il existe une section β : S → G dont l’image n’est contenue dans aucun sous-schéma en groupes strict de G, mais tel que l’ensemble des points s ∈ S tels que β(s) soit un point de torsion de Gs soit infini. Démonstration. — Soit E 0 la courbe elliptique duale de E (on a E ' E 0 , mais il est plus pratique de les différencier) et notons P → E × E 0 la biextension de Poincaré. L’extension G est donnée par un morphisme non constant γ : S → E 0 ; l’universalité ∗ P est égal au de la biextension de Poincaré implique que si l’on note γE = γ × IdE , γE Gm -torseur sur ES donné par G. Il y a ainsi une bijection canonique entre l’ensemble des sections β : S → G et celui des couples formé d’un morphisme q de S dans E et d’une trivialisation du fibré en droites (γ × q)∗ P sur S. Soit f : E 0 → E une isogénie telle que f 0 6= f et notons g l’isogénie antisymétrique donnée par g = f − f 0 . La bidualité de P entraîne l’existence d’un isomorphisme canonique (γ, f ◦ γ)∗ P ' (γ, f 0 ◦ γ)∗ P. Comme P est une biextension, on a donc (γ, (f − f 0 ) ◦ γ))∗ P ' OS , d’où l’existence d’une section canonique β : S → G relevant g ◦ γ : S → E. Pour tout s ∈ S tel que γ(s) est un point de torsion de E, on démontre que le point β(s) est de torsion. Toutefois, comme l’extension G n’est pas constante, les seuls sous-schémas en groupes stricts de G sont ou bien finis sur S, ou bien de la forme T Gm , où T est fini sur S. Comme g ◦ γ n’est pas constante, elle n’est pas d’ordre fini et β(S) n’est contenue dans aucun sous-schéma en groupes strict de G. Comme l’explique Bertrand dans son article, ce contre-exemple s’interprète parfaitement dans le cadre de la conjecture générale de Pink ([49], conjecture 1.3). Avec les notations du théorème 4.25, l’image β(S) provient d’une sous-variété spéciale d’une sous-variété de Shimura mixte. Autrement dit, contrairement au cas absolu, toutes les sous-variétés spéciales d’un schéma semi-abélien ne sont pas des translatés de sous-schémas abéliens par des points de torsion.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

184

A. CHAMBERT-LOIR

Il est intéressant de remarquer que les points de Ribet analogues à ceux du théorème précédent, lorsque S est un point, fournissent des contre-exemples à une généralisation hâtive des conjectures 3.3 et 3.4 aux variétés semi-abéliennes générales. Restreinte au cas des schémas abéliens, la conjecture 4.23 est une conséquence de la conjecture générale de Pink et reste ouverte. Remerciements Je voudrais remercier D. Bertrand, S. David, A. Galateau, D. Masser, G. Rémond, E. Ullmo et U. Zannier pour leur aide dans la préparation de ce rapport. En outre, les dix années qui séparent l’article fondateur [12] et la preuve des résultats exposés dans ce rapport ont bien sûr vu de nombreux progrès intermédiaires ; je n’ai pas pu tous les mentionner et m’en excuse auprès de leurs auteurs.

RÉFÉRENCES [1] A. Abbes – Hauteurs et discrétude (d’après L. Szpiro, E. Ullmo et S. Zhang), Séminaire Bourbaki, vol. 1996/97, exposé no 825, Astérisque 245 (1997), p. 141– 166. [2] F. Amoroso & S. David – Le problème de Lehmer en dimension supérieure, J. reine angew. Math. 513 (1999), p. 145–179. [3] , Minoration de la hauteur normalisée dans un tore, J. Inst. Math. Jussieu 2 (2003), p. 335–381. [4] , Distribution des points de petite hauteur dans les groupes multiplicatifs, Ann. Sc. Norm. Super. Pisa Cl. Sci. 3 (2004), p. 325–348. [5] F. Amoroso & E. Viada – Small points on subvarieties of a torus, Duke Math. J. 150 (2009), p. 407–442. [6] J. Ax – Some topics in differential algebraic geometry. I. Analytic subgroups of algebraic groups, Amer. J. Math. 94 (1972), p. 1195–1204. [7] D. Bertrand – Special points and Poincaré biextensions, prépublication arXiv:1104.5178. [8] F. A. Bogomolov – Points of finite order on abelian varieties, Izv. Akad. Nauk SSSR Ser. Mat. 44 (1980), p. 782–804, 973. [9] E. Bombieri – The Mordell conjecture revisited, Ann. Scuola Norm. Sup. Pisa Cl. Sci. 17 (1990), p. 615–640. [10] E. Bombieri & W. Gubler – Heights in Diophantine geometry, New Mathematical Monographs, vol. 4, Cambridge Univ. Press, 2006. [11] E. Bombieri, P. Habegger, D. Masser & U. Zannier – A note on Maurin’s theorem, Atti Accad. Naz. Lincei Cl. Sci. Fis. Mat. Natur. Rend. Lincei (9) Mat. Appl. 21 (2010), p. 251–260.

ASTÉRISQUE 348

(1032)

RELATIONS DE DÉPENDANCE ET INTERSECTIONS EXCEPTIONNELLES 185

[12] E. Bombieri, D. Masser & U. Zannier – Intersecting a curve with algebraic subgroups of multiplicative groups, Int. Math. Res. Not. (1999), no 20, p. 1119– 1140. [13] , Intersecting curves and algebraic subgroups : conjectures and more results, Trans. Amer. Math. Soc. 358 (2006), p. 2247–2257. [14] , Anomalous subvarieties—structure theorems and applications, Int. Math. Res. Not. (2007), no 19, p. 1–33. [15] , Intersecting a plane with algebraic subgroups of multiplicative groups, Ann. Sc. Norm. Super. Pisa Cl. Sci. 7 (2008), p. 51–80. [16] , On unlikely intersections of complex varieties with tori, Acta Arith. 133 (2008), p. 309–323. [17] E. Bombieri & U. Zannier – Algebraic points on subvarieties of Gnm , Int. Math. Res. Not. (1995), no 7, p. 333–347. [18] J.-B. Bost, H. Gillet & C. Soulé – Heights of projective varieties and positive Green forms, J. Amer. Math. Soc. 7 (1994), p. 903–1027. [19] M. Carrizosa – Petits points et multiplication complexe, Int. Math. Res. Not. (2009), no 16, p. 3016–3097. [20] S. David & M. Hindry – Minoration de la hauteur de Néron-Tate sur les variétés abéliennes de type C. M, J. reine angew. Math. 529 (2000), p. 1–74. [21] S. David & P. Philippon – Minorations des hauteurs normalisées des sous-variétés de variétés abéliennes, in Number theory (Tiruchirapalli, 1996), Contemp. Math., vol. 210, Amer. Math. Soc., 1998, p. 333–364. [22] , Minorations des hauteurs normalisées des sous-variétés des tores, Ann. Scuola Norm. Sup. Pisa Cl. Sci. 28 (1999), p. 489–543. [23] , Sous-variétés de torsion des variétés semi-abéliennes, C. R. Acad. Sci. Paris Sér. I Math. 331 (2000), p. 587–592. [24] E. Delsinne – Le problème de Lehmer relatif en dimension supérieure, Ann. Sci. Éc. Norm. Supér. 42 (2009), p. 981–1028. [25] E. Dobrowolski – On a question of Lehmer and the number of irreducible factors of a polynomial, Acta Arith. 34 (1979), p. 391–401. [26] G. Faltings – Diophantine approximation on abelian varieties, Ann. of Math. 133 (1991), p. 549–576. [27] A. Galateau – Le problème de Bogomolov effectif sur les variétés abéliennes, Algebra Number Theory 4 (2010), p. 547–598. [28] P. Habegger – Intersecting subvarieties of Gnm with algebraic subgroups, Math. Ann. 342 (2008), p. 449–466. [29] , A Bogomolov property for curves modulo algebraic subgroups, Bull. Soc. Math. France 137 (2009), p. 93–125. [30] , Intersecting subvarieties of abelian varieties with algebraic subgroups of complementary dimension, Invent. Math. 176 (2009), p. 405–447.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

186

[31] [32] [33] [34] [35] [36] [37]

[38] [39]

[40] [41] [42] [43] [44] [45] [46] [47]

[48] [49]

A. CHAMBERT-LOIR

, On the bounded height conjecture, Int. Math. Res. Not. (2009), no 5, p. 860–886. M. Hindry – Autour d’une conjecture de Serge Lang, Invent. Math. 94 (1988), p. 575–603. M. Hindry & J. H. Silverman – Diophantine geometry, Graduate Texts in Math., vol. 201, Springer, 2000. E. Hrushovski – The Manin-Mumford conjecture and the model theory of difference fields, Ann. Pure Appl. Logic 112 (2001), p. 43–115. J. Kirby – The theory of the exponential differential equations of semiabelian varieties, Selecta Math. (N.S.) 15 (2009), p. 445–486. S. Lang – Fundamentals of Diophantine geometry, Springer, 1983. M. Laurent – Minoration de la hauteur de Néron-Tate, in Seminar on number theory, Paris 1981–82 (Paris, 1981/1982), Progr. Math., vol. 38, Birkhäuser, 1983, p. 137–151. , Équations diophantiennes exponentielles, Invent. Math. 78 (1984), p. 299–327. P. Liardet – Sur une conjecture de Serge Lang, in Journées Arithmétiques de Bordeaux (Conf., Univ. Bordeaux, Bordeaux, 1974), Soc. Math. France, 1975, p. 187–210. Astérisque, Nos. 24–25. D. Masser & U. Zannier – Torsion anomalous points and families of elliptic curves, Amer. J. Math. 132 (2010), p. 1677–1691. , Torsion points on families of squares of elliptic curves, Math. Ann. 352 (2012), p. 453–484. G. Maurin – Courbes algébriques et équations multiplicatives, Math. Ann. 341 (2008), p. 789–824. , Équations multiplicatives sur les sous-variétés des tores, Int. Math. Res. Not. (2011), no 23, p. 5259–5366. M. McQuillan – Division points on semi-abelian varieties, Invent. Math. 120 (1995), p. 143–159. A. Ogus – Hodge cycles and crystalline cohomology, Lecture Notes in Math. 900 (1981), p. 357–414. J. Pila – O-minimality and the André-Oort conjecture for Cn , Ann. of Math. 173 (2011), p. 1779–1840. J. Pila & U. Zannier – Rational points in periodic analytic sets and the Manin-Mumford conjecture, Atti Accad. Naz. Lincei Cl. Sci. Fis. Mat. Natur. Rend. Lincei (9) Mat. Appl. 19 (2008), p. 149–162. R. Pink – l-adic algebraic monodromy groups, cocharacters, and the MumfordTate conjecture, J. reine angew. Math. 495 (1998), p. 187–237. , A combination of the conjectures of Mordell-Lang and André-Oort, in Geometric methods in algebra and number theory, Progr. Math., vol. 235, Birkhäuser, 2005, p. 251–282.

ASTÉRISQUE 348

(1032)

[50]

[51]

[52] [53] [54] [55] [56]

[57] [58] [59] [60] [61] [62] [63] [64] [65] [66] [67] [68]

RELATIONS DE DÉPENDANCE ET INTERSECTIONS EXCEPTIONNELLES 187

, A common generalization of the conjectures of André-Oort, ManinMumford, and Mordell-Lang, 2005, Tech. report, ETH, Zürich, 2005, http: //www.math.ethz.ch/~pink/ftp/AOMMML.pdf. R. Pink & D. Roessler – On Hrushovski’s proof of the Manin-Mumford conjecture, in Proceedings of the International Congress of Mathematicians, Vol. I (Beijing, 2002), Higher Ed. Press, 2002, p. 539–546. , On ψ-invariant subvarieties of semiabelian varieties and the ManinMumford conjecture, J. Algebraic Geom. 13 (2004), p. 771–798. B. Poizat – L’égalité au cube, J. Symbolic Logic 66 (2001), p. 1647–1676. B. Poonen – Mordell-Lang plus Bogomolov, Invent. Math. 137 (1999), p. 413– 425. Z. Ran – On subvarieties of abelian varieties, Invent. Math. 62 (1981), p. 459– 479. M. Raynaud – Around the Mordell conjecture for function fields and a conjecture of Serge Lang, in Algebraic geometry (Tokyo/Kyoto, 1982), Lecture Notes in Math., vol. 1016, Springer, 1983, p. 1–19. , Courbes sur une variété abélienne et points de torsion, Invent. Math. 71 (1983), p. 207–233. G. Rémond – Inégalité de Vojta en dimension supérieure, Ann. Scuola Norm. Sup. Pisa Cl. Sci. 29 (2000), p. 101–151. , Sur le théorème du produit, J. Théor. Nombres Bordeaux 13 (2001), p. 287–302. , Sur les sous-variétés des tores, Compositio Math. 134 (2002), p. 337–366. , Approximation diophantienne sur les variétés semi-abéliennes, Ann. Sci. École Norm. Sup. 36 (2003), p. 191–212. , Inégalité de Vojta généralisée, Bull. Soc. Math. France 133 (2005), p. 459–495. , Intersection de sous-groupes et de sous-variétés. I, Math. Ann. 333 (2005), p. 525–548. , Intersection de sous-groupes et de sous-variétés. II, J. Inst. Math. Jussieu 6 (2007), p. 317–348. , Autour de la conjecture de Zilber-Pink, J. Théor. Nombres Bordeaux 21 (2009), p. 405–414. , Intersection de sous-groupes et de sous-variétés. III, Comment. Math. Helv. 84 (2009), p. 835–863. G. Rémond & E. Viada – Problème de Mordell-Lang modulo certaines sousvariétés abéliennes, Int. Math. Res. Not. (2003), no 35, p. 1915–1931. D. Roessler – A note on the Manin-Mumford conjecture, in Number fields and function fields—two parallel worlds, Progr. Math., vol. 239, Birkhäuser, 2005, p. 311–318.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

188

A. CHAMBERT-LOIR

[69] P. Sarnak & S. Adams – Betti numbers of congruence groups, Israel J. Math. 88 (1994), p. 31–72. [70] H. P. Schlickewei – Lower bounds for heights on finitely generated groups, Monatsh. Math. 123 (1997), p. 171–178. [71] J-P. Serre – Abelian l-adic representations and elliptic curves, McGill University lecture notes written with the collaboration of Willem Kuyk and John Labute, W. A. Benjamin, Inc., New York-Amsterdam, 1968. , Lectures on the Mordell-Weil theorem, third éd., Aspects of [72] Mathematics, Friedr. Vieweg & Sohn, 1997. [73] Y. T. Siu – An effective Matsusaka big theorem, Ann. Inst. Fourier (Grenoble) 43 (1993), p. 1387–1405. [74] E. Ullmo – Positivité et discrétion des points algébriques des courbes, Ann. of Math. 147 (1998), p. 167–179. [75] E. Viada – The intersection of a curve with a union of translated codimensiontwo subgroups in a power of an elliptic curve, Algebra Number Theory 2 (2008), p. 249–298. [76] , The optimality of the bounded height conjecture, J. Théor. Nombres Bordeaux 21 (2009), p. 769–784. , Lower bounds for the normalized height and non-dense subsets of [77] subvarieties of abelian varieties, Int. J. Number Theory 6 (2010), p. 471–499. [78] P. Vojta – Integral points on subvarieties of semiabelian varieties. I, Invent. Math. 126 (1996), p. 133–181. [79] U. Zannier – Lecture notes on Diophantine analysis, Appunti. Scuola Normale Superiore di Pisa (Nuova Serie), vol. 8, Edizioni della Normale, Pisa, 2009. [80] S.-W. Zhang – Positive line bundles on arithmetic varieties, J. Amer. Math. Soc. 8 (1995), p. 187–221. [81] , Equidistribution of small points on abelian varieties, Ann. of Math. 147 (1998), p. 159–165. [82] B. Zilber – Exponential sums equations and the Schanuel conjecture, J. London Math. Soc. 65 (2002), p. 27–44.

Antoine CHAMBERT-LOIR Université de Rennes 1 & Institut universitaire de France Irmar & UFR de mathématiques Campus de Beaulieu F–35042 Rennes Cedex E-mail : [email protected]

ASTÉRISQUE 348

348

ASTÉRISQUE 2012

SÉMINAIRE BOURBAKI VOLUME 2010/2011 EXPOSÉS 1027-1042 (1033) Sparse quadratic forms and their geometric applications Assaf NAOR

SOCIÉTÉ MATHÉMATIQUE DE FRANCE Publié avec le concours du CENTRE NATIONAL DE LA RECHERCHE SCIENTIFIQUE

Séminaire BOURBAKI 63e année, 2010-2011, no 1033, p. 189 à 217

Janvier 2011

SPARSE QUADRATIC FORMS AND THEIR GEOMETRIC APPLICATIONS [following Batson, Spielman and Srivastava] by Assaf NAOR

1. INTRODUCTION In what follows all matrices are assumed to have real entries, and square matrices are always assumed to be symmetric unless stated otherwise. The support of a k × n matrix A = (aij ) will be denoted below by  supp(A) = (i, j) ∈ {1, . . . , k} × {1, . . . , n} : aij 6= 0 . If A is an n × n matrix, we denote the decreasing rearrangement of its eigenvalues by λ1 (A) > λ2 (A) > · · · > λn (A). Rn will always be assumed to be equipped with the standard scalar product h·, ·i. Given a vector v ∈ Rn and i ∈ {1, . . . , n}, we denote by vi the ith coordinate of v. P Thus for u, v ∈ Rn we have hu, vi = ni=1 ui vi . Our goal here is to describe the following theorem of Batson, Spielman and Srivastava [5], and to explain some of its recently discovered geometric applications. We expect that there exist many more applications of this fundamental fact in matrix theory. Theorem 1.1. — For every ε ∈ (0, 1) there exists c(ε) = O(1/ε2 ) with the following properties. Let G = (gij ) be an n × n matrix with nonnegative entries. Then there exists an n × n matrix H = (hij ) with nonnegative entries that satisfies the following conditions: 1. supp(H) ⊆ supp(G). 2. The cardinality of the support of H satisfies |supp(H)| 6 c(ε)n. (∗)

Supported in part by NSF grant CCF-0635078, BSF grant 2006009, and the Packard Foundation.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

190

A. NAOR

3. For every x ∈ Rn we have (1)

n X n X

gij (xi − xj )2 6

i=1 j=1

n X n X

hij (xi − xj )2 6 (1 + ε)

i=1 j=1

n X n X

gij (xi − xj )2 .

i=1 j=1

The second assertion of Theorem 1.1 is that the matrix H is sparse, yet due to P P the third assertion of Theorem 1.1 the quadratic form ni=1 nj=1 hij (xi − xj )2 is Pn Pn nevertheless a good approximation of the quadratic form i=1 j=1 gij (xi − xj )2 . For this reason Theorem 1.1 is called in the literature a sparsification theorem. The bound on |supp(H)| obtained in [5] is • ¢ √ ( 1 + ε + 1)4 n . (2) |supp(H)| 6 2 ε2 Thus c(ε) 6 32/ε2 + O(1/ε). There is no reason to expect that (2) is best possible, but a simple argument [5, Section 4] shows that necessarily c(ε) > 8/ε2 . 1.1. Historical discussion The sparsification problem that is solved (up to constant factors) by Theorem 1.1 has been studied for some time in the theoretical computer science literature. The motivations for these investigations were algorithmic, and therefore there was emphasis on constructing the matrix H quickly. We will focus here on geometric applications of Theorem 1.1 for which the existential statement suffices, but we do wish to state that [5] shows that H can be constructed in time O(n3 |supp(G)|/ε2 ) = O(n5 /ε2 ). For certain algorithmic applications this running time is too slow, and the literature contains works that yield weaker asymptotic bounds on |supp(H)| but have a faster construction time. While such tradeoffs are important variants of Theorem 1.1, they are not directly relevant to our discussion and we will not explain them here. For the applications described below, even a weaker bound of, say, |supp(H)| 6 c(ε)n log n is insufficient. Benczúr and Karger [6] were the first to study the sparsification problem. They proved the existence of a matrix H with |supp(H)| 6 c(ε)n log n, that satisfies the conclusion (1) only for Boolean vectors x ∈ {0, 1}n . In their series of works on fast solvers for certain linear systems [43, 46, 45, 44], Spielman and Teng studied the sparsification problem as stated in Theorem 1.1, i.e., with the conclusion (1) holding for every x ∈ Rn . Specifically, in [44], Spielman and Teng proved Theorem 1.1 with
the weaker estimate |supp(H)| = O n(log n)7 /ε2 . Spielman and Srivastava [41] improved this estimate on the size of the support of H to |supp(H)| = O(n(log n)/ε2 ). As we stated above, Theorem 1.1, which answers positively a conjecture of SpielmanSrivastava [41], is due to Batson-Spielman-Srivastava [5], who proved this sharp result

ASTÉRISQUE 348

(1033)

SPARSE QUADRATIC FORMS

191

via a new deterministic iterative technique (unlike the previous probabilistic arguments) that we will describe below. This beautiful new approach does not only yield an asymptotically sharp bound on |supp(H)|: it gives for the first time a deterministic algorithm for constructing H (unlike the previous randomized algorithms), and it also gives additional results that will be described later. We refer to Srivastava’s dissertation [48] for a very nice and more complete exposition of these ideas. See also the work of Kolla-Makarychev-Saberi-Teng [23] for additional results along these lines.

1.2. Combinatorial interpretation Suppose that G is the adjacency matrix of the complete graph, i.e., the diagonal entries of G vanish and gij = 1 if i 6= j. Assume also that the matrix H of Theorem 1.1 happens to be a multiple of the adjacency matrix of a d-regular graph Γ = ({1, . . . , n}, E), i.e., for some γ > 0 and all i, j ∈ {1, . . . , n} we have hij = γ if {i, j} ∈ E and hij = 0 otherwise. Thus |supp(H)| = dn. By expanding the squares in (1) and some straightforward linear algebra, we see that (1) is equivalent to the bound (λ1 (H) − λn (H))/(λ1 (H) − λ2 (H)) 6 1 + ε. Thus if ε is small then the graph Γ is a good expander (see [18] for background on this topic). The Alon-Boppana bound [30] implies that H satis√ fies (λ1 (H) − λn (H))/(λ1 (H) − λ2 (H)) > 1 + 4(1 − o(1)) d as n, d → ∞. This lower bound can be asymptotically attained since if Γ is a Ramanujan graph √   √ of Lubotzky-Phillips-Sarnak [24] then λ1 (H)/γ, λn (H)/γ ∈ −2 d − 1, 2 d − 1 . √ √ √

Writing 1 + ε = d + 2 d − 1 / d − 2 d − 1 = 1 + 4(1 + o(1))/ d, we see that the existence of Ramanujan graphs means that (in this special case of the complete graph) there exists a matrix H satisfying (1) with |supp(H)| = dn = 16n(1 + o(1))/ε2 . The bound on |supp(H)| in (2) shows that Thereom 1.1 achieves the optimal Ramanujan bound up to a factor of 2. For this reason Batson-Spielman-Srivastava call the matrices produced by Theorem 1.1 “twice-Ramanujan sparsifiers”. Of course, this analogy is incomplete since while the matrix H is sparse, it need not be a multiple of the adjacency matrix of a graph, but rather an adjacency matrix of a weighted graph. Moreover, this graph has bounded average degree, rather than being a regular graph of bounded degree. Such weighted sparse (though non-regular) graphs still have useful pseudorandom properties (see [5, Lemma 4.1]). Theorem 1.1 can be therefore viewed as a new deterministic construction of “expander-like” weighted graphs, with very good spectral gap. Moreover, it extends the notion of expander graphs since one can start with an arbitrary matrix G before applying the sparsification procedure, with the quality of the resulting expander (measured in terms of absolute spectral gap) being essentially the same as the quality of G as an expander.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

192

A. NAOR

1.3. Structure of this paper In Section 2 we state a stronger theorem (Theorem 2.1) of Batson-SpielmanSrivastava [5], and prove that it implies Theorem 1.1. Section 3 contains the BatsonSpielman-Srivastava proof of this theorem, which is based on a highly original iterative argument. Section 4 contains an application of Theorem 2.1, due to Srivastava [47], to approximate John decompositions. In section 5 we describe two applications of Theorem 2.1, due to Newman-Rabinovich [29] and Schechtman [38], to dimensionality reduction problems. Section 6 describes the work of Spielman-Srivastava [42] that shows how their proof technique for Theorem 2.1 can be used to prove a sharper version of the Bourgain-Tzafriri restricted invertibility principle. Section 7 contains concluding comments and some open problems.

2. A STRONGER THEOREM Batson-Spielman-Srivastava actually proved a stronger theorem that implies Theorem 1.1. The statement below is not identical to the statement in [5], though it easily follows from it. This formulation is stated explicitly as Theorem 1.6 in Srivastava’s dissertation [48].

Theorem 2.1. — Fix ε ∈ (0, 1) and m, n ∈ N. For every x1 , . . . , xm ∈ Rn there exist s1 , . . . , sm ∈ [0, ∞) such that  l m i ∈ {1, . . . , m} : si 6= 0 6 n , ε2

(3)

and for all y ∈ Rn we have (4)

(1 − ε)2

m X i=1

hxi , yi2 6

m X

si hxi , yi2 6 (1 + ε)2

i=1

m X hxi , yi2 . i=1

2.1. Deduction of Theorem 1.1 from Theorem 2.1 Let G = (gij ) be an n × n matrix with nonnegative entries. Note that the diagonal entries of G play no role in the conclusion of Theorem 1.1, so we may assume in what follows that gii = 0 for all i ∈ {1, . . . , n}.

ASTÉRISQUE 348

(1033)

The degree matrix associated to G is defined as usual by Pn 0 ... ... j=1 g1j  Pn .. ..  . . 0  j=1 g2j  ..  .. Pn .. (5) DG =  . . . j=1 g3j   . .. .. ..  .. . . .  0

193

SPARSE QUADRATIC FORMS

...

...

0

0 .. . .. . 0 Pn

      ,    

j=1 gnj

and the Laplacian associated to G is defined by n

(6)

n

1 XX gij (ei − ej ) ⊗ (ei − ej ), ∆G = DG − G = 2 i=1 j=1

where e1 , . . . , en ∈ Rn is the standard basis of Rn . In the last equation in (6), and in what follows, we use standard tensor notation: for x, y ∈ Rn the linear operator x ⊗ y : Rn → Rn is given by (x ⊗ y)(z) = hx, ziy. √ Theorem 2.1, applied to the vectors { gij (ei − ej ) : i, j ∈ {1, . . . , n} ∧ i < j} ⊆ Rn ,   implies that there exist {sij : i, j ∈ {1, . . . , n} ∧ i < j} ⊆ [0, ∞), at most n/ε2 of which are nonzero, such that for every y ∈ Rn we have Å ã n−1 n X X 1+ε 2 2 (7) h∆G y, yi 6 sij gij hei − ej , yi 6 h∆G y, yi . 1−ε i=1 j=i+1 Extend (sij )i j, and   define H = (hij ) by hij = sij gij . Then supp(H) ⊆ supp(G) and |supp(H)| 6 2 n/ε2 . P P A straightforward computation shows that h∆G y, yi = 21 ni=1 nj=1 gij (yi − yj )2 P Pn 2 1 Pn Pn 2 and n−1 i=1 j=1 hij (yi − yj ) . Thus, due to (7) j=i+1 sij gij hei − ej , yi = 2 i=1 Theorem 1.1 follows, with the bound on |supp(H)| as in (2).

3. PROOF OF THEOREM 2.1 P Write A = m i=1 xi ⊗ xi . Note that it suffices to prove Theorem 2.1 when A is the n × n identity matrix I. Indeed, by applying an arbitrarily small perturbation we may P assume that A is invertible. If we then set yi = A−1/2 xi then m i=1 yi ⊗ yi = I, and the conclusion of Theorem 2.1 for the vectors {y1 , . . . , ym } implies the corresponding conclusion for the original vectors {x1 , . . . , xm }. The situation is therefore as follows. We are given x1 , . . . , xn ∈ Rn satisfying (8)

m X

xi ⊗ xi = I.

i=1

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

194

A. NAOR

2 Our goal is to find {si }m i=1 ⊆ [0, ∞) such that at most dn/ε e of them are nonzero, and P Å ã λ1 ( ni=1 si xi ⊗ xi ) 1+ε 2 P 6 (9) . λn ( ni=1 si xi ⊗ xi ) 1−ε

For the ensuing argument it will be convenient to introduce the following notation: θ=

(10)

1+ε . 1−ε

∞ The proof constructs by induction {tk }∞ k=1 ⊆ [0, ∞) and {yk }k=1 ⊆ {x1 , . . . , xm } Pi with the following properties. Setting A0 = 0 and Ai = j=1 tj yj ⊗ yj for i ∈ N, the following inequalities hold true: n  n (11) − + i < λn (Ai ) 6 λ1 (Ai ) < θ +i , ε ε

and for every i ∈ N we have (12)

n X j=1

n

θ

n ε

X 1
= + i − λj (Ai ) j=1 θ

n ε

1
, + i − 1 − λj (Ai−1 )

and (13)

n X j=1

n

X 1 1

. 6 λj (Ai ) − − nε + i λ (A ) − − nε + i − 1 i−1 j=1 j

(The sums in (12) and (13) represent the traces of certain matrices constructed from the Ai , and we will soon see that this is the source of their relevance.) If we continue this construction for k = dn/ε2 e steps, then by virtue of (11) we would have
Å ã θ nε + εn2 1+ε 2 λ1 (Ak ) 6 n = . n λn (Ak ) 1−ε ε2 − ε P By construction Ak = m i=1 si xi ⊗ xi with s1 , . . . , sm ∈ [0, ∞) and at most k of them nonzero. Thus, this process would prove the desired inequality (9). Note that while for our purposes we just need the spectral bounds in (11), we will need the additional conditions on the resolvent appearing in (12) and (13) in order for us to be able to perform the induction step. Note also that due to (11) all the summands in (12) and (13) are positive. Suppose that i > 1 and we have already constructed the scalars t1 , . . . , ti−1 ∈ [0, ∞) and vectors y1 , . . . , yi−1 ∈ {x1 , . . . , xm }, and let Ai−1 be the corresponding positive semidefinite matrix. The proof of Theorem 2.1 will be complete once we show that we can find ti > 0 and yi ∈ {x1 , . . . , xm } so that the matrix Ai = Ai−1 + ti yi ⊗ yi satisfies the conditions (11), (12), (13).

ASTÉRISQUE 348

(1033)

SPARSE QUADRATIC FORMS

195

It follows from the inductive hypotheses (11) and (13) that n

X 1 1
6
(14) 0 < n λn (Ai−1 ) − − ε + i − 1 λ (A ) − − nε + i − 1 i−1 j=1 j 6

n X j=1

1
= ε < 1. λj (A0 ) − − nε

Hence, since Ai −Ai−1 is positive semidefinite, λn (Ai ) > λn (Ai−1 ) > − nε +i, implying the leftmost inequality in (11). It will be convenient to introduce the following notation: (15)

a=

n X j=1

n

θ

n ε

X 1
− + i − 1 − λj (Ai−1 ) j=1 θ

n ε

1
> 0, + i − λj (Ai−1 )

and (16)

b=

n X j=1

n

X 1 1
−
> 0. n λj (Ai−1 ) − − ε + i λ (Ai−1 ) − − nε + i − 1 j=1 j

Note that (16) makes sense since, as we have just seen, (14) implies that we have λn (Ai−1 ) > − nε + i. This, combined with (11), shows that the matrices

θ nε + i I − Ai−1 and Ai−1 − − nε + i I are positive definite, and hence also invertible. Therefore, for every j ∈ {1, . . . , m} we can consider the following quantities: ∑ ≠ ∑ ≠   −1  −2 n 1  n + i I − Ai−1 xj , xj + θ + i I − Ai−1 xj , xj , (17) αj = θ ε a ε and

≠ ∑ ≠ ∑  n  −2  n  −1 1  (18) βj = Ai−1 − − + i I xj , xj − Ai−1 − − + i I xj , xj . b ε ε The following lemma contains a crucial inequality between these quantities. P Pm Lemma 3.1. — We have m j=1 βj > j=1 αj . Assuming Lemma 3.1 for the moment, we will show now how to complete the inductive construction. By Lemma 3.1 there exists j ∈ {1, . . . , m} for which βj > αj . We will fix this j from now on. Denote 1 (19) ti = and yi = xj . αj The following formula is straightforward to verify—it is known as the ShermanMorrison formula (see [17, Section 2.1.3]): for every invertible n × n matrix A and every z ∈ Rn we have 1 −1 (20) (A + z ⊗ z) = A−1 − A−1 (z ⊗ z)A−1 . 1 + hA−1 z, zi

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

196

A. NAOR




 Note that tr A−1 (z ⊗ z)A−1 = A−2 z, z . Hence, by taking the trace of the identity (20) we have

−2  ä Ä
A z, z −1 −1 = tr A − (21) tr (A + z ⊗ z) . 1 + hA−1 z, zi Now, for every t ∈ (0, 1/αj ] we have Å   −1 ã 1 n
= tr θ + i I − A − tx ⊗ x i−1 j j ε θ nε + i − λj (Ai−1 + txj ⊗ xj ) j=1 ∂ ¨

−2 n xj , xj θ nε + i I − Ai−1 1 (21) X
¨ ∂ = +

−1 1 θ nε + i − λj (Ai−1 ) θ nε + i I − Ai−1 xj , xj j=1 t − ¨ ∂

−2 n X θ nε + i I − Ai−1 xj , xj 1
¨ ∂ + (22) 6

θ nε + i − λj (Ai−1 ) αj − θ n + i I − Ai−1 −1 xj , xj j=1 n X

ε

(17)

=

n X j=1

(15)

(23) =

θ

n ε

1
+a + i − λj (Ai−1 )

θ

n ε

1
. + i − 1 − λj (Ai−1 )

n X j=1

∂ ¨

−1 xj , xj . In (22) we used the fact that t 6 1/αj and αj > θ nε + i I − Ai−1 In particular, there is equality in (22) if t = 1/αj . As Ai = Ai−1 + α1j xj ⊗ xj , this proves (12). Inequality (23) alsoÄ implies the rightmost inequality in (11). Indeed, ä
assume for contradiction that λ1 Ai−1 + α1j xj ⊗ xj > θ nε + i . Since by the induc

tive hypothesis λ1 (Ai−1 ) < θ nε + i − 1 < θ nε + i , it follows by continuity that
there exists t ∈ (0, 1/αj ] for which λ1 (Ai−1 + txj ⊗ xj ) = θ nε + i . This value of t

P would make nj=1 1/ θ nε + i − λj (Ai−1 + txj ⊗ xj ) be infinite, contradicting (23) since by the inductive hypothesis all the summands in the right-hand side of (23) are positive and finite. It remains to prove (13)—this is the only place where the condition βj > αj will be used. We proceed as follows. ÇÅ ã−1 å n  n  X 1 1 (19)
= tr A − − + i I + x ⊗ x i−1 j j ε αj λ (Ai ) − − nε + i j=1 j ∂ ¨

−2 n Ai−1 − − nε + i I xj , xj 1 (21) X
− ∂ ¨ =

−1 λ (Ai−1 ) − − nε + i αj + Ai−1 − − nε + i I xj , xj j=1 j ∂ ¨

−2 n (βj >αj ) X Ai−1 − − nε + i I xj , xj 1
− ∂ ¨ 6

−1 λ (Ai−1 ) − − nε + i βj + Ai−1 − − n + i I xj , xj j=1 j ε

ASTÉRISQUE 348

(1033)

(18)

=

n X j=1

n (16) X = j=1

197

SPARSE QUADRATIC FORMS

1
−b λj (Ai−1 ) − − nε + i 1
. λj (Ai−1 ) − − nε + i − 1

This concludes the inductive construction, and hence also the proof of Theorem 2.1, provided of course that we prove the crucial inequality contained in Lemma 3.1. Proof of Lemma 3.1. — It is straightforward to check that the identity (8) implies that for every n × n matrix A we have m X

(24)

hAxj , xj i = tr(A).

j=1

Hence, m X

(25)

αj

(17)∧(24)

=

j=1

Å   −1 ã tr n + i I − Ai−1 + tr θ ε

and, (26)

m X

βj

(18)∧(24)

=

tr

Ä



−2 ä Ai−1 − − nε + i I b

j=1

− tr

Ä

Å

θ

n ε



−2 ä + i I − Ai−1 a

,

 n  −1 ã Ai−1 − − + i I . ε

Now, (27) tr

Å  n  −1 ã X n θ + i I − Ai−1 = ε θ j=1 6

n X j=1

n ε

1
+ i − λj (Ai−1 ) n

θ

n ε

1 (12) X
= + i − 1 − λj (Ai−1 ) j=1

θn ε

1 ε = , θ − λj (A0 )

and (28)

Å   −2 ã n 1 · tr θ + i I − Ai−1 a ε

−2 Pn n 1 (15) j=1 θ ε + i − λj (Ai−1 ) = Pn


−1
−1 6 . n n θ θ j=1 θ ε + i − λj (Ai−1 ) θ ε + i − 1 − λj (Ai−1 )

Hence, (29)

n X j=1

(25)∧(27)∧(28)

αj

6

1 + ε (10) = 1 − ε. θ

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

198

A. NAOR

In order to use (26), we first bound b as follows. n X

1



n n λ (A ) − − + i λ (A ) − − + i − 1 j−1 i−1 j−1 i−1 ε ε j=1 !1/2 n X 1
6 λ (Ai−1 ) − − nε + i − 1 j=1 j

(16)

b =

·

n X

!1/2

1



2

λj−1 (Ai−1 ) − − nε + i λj−1 (Ai−1 ) − − nε + i − 1 !1/2 n X (14) √ 1 6 ε

2 − b n j=1 λj−1 (Ai−1 ) − − ε + i !1/2 n X 1 , 6

2 − b n j=1 λj−1 (Ai−1 ) − − ε + i j=1

which simplifies to give the bound (30)

n tr 1X 1

2 = n b j=1 λj−1 (Ai−1 ) − − + i ε

Ä



−2 ä Ai−1 − − nε + i I b

> b + 1.

Hence, (31)

m X

(26)∧(30)

βj

j=1

>

b+1−

n X j=1

1
λj (Ai−1 ) − − nε + i (16)

= 1−

n X j=1

(14) 1
> 1 − ε. n λj (Ai−1 ) − − ε + i − 1

Lemma 3.1 now follows from (29) and (31). Remark 3.2. — In the inductive construction, instead of ensuring equality in (12), we could have ensured equality in (13) and replaced the equality sign in (12) with the inequality sign 6. This would be achieved by choosing ti = 1/βj in (19). Alternatively we could have chosen ti to be any value in the interval [1/βj , 1/αj ], in which case both inductive conditions (12) and (13) would be with the inequality sign 6.

4. APPROXIMATE JOHN DECOMPOSITIONS Let B2n ⊆ Rn be the unit ball with respect to the standard Euclidean metric. Recall that an ellipsoid E = T B2n ⊆ Rn is an image of B2n under an invertible linear transformation T : Rn → Rn . Let K ⊆ Rn be a centrally symmetric (i.e., K = −K)

ASTÉRISQUE 348

(1033)

SPARSE QUADRATIC FORMS

199

convex body. John’s theorem [19] states that among the ellipsoids that contain K, there exists a unique ellipsoid of minimal volume. This ellipsoid is called the John ellipsoid of K. If the John ellipsoid of K happens to be B2n , the body K is said to be in John position. For any K there is a linear invertible transformation T : Rn → Rn such that T K is in John position. The Banach-Mazur distance between two centrally symmetric convex bodies K, L ⊆ Rn , denoted by dBM (K, L), is the infimum over those s > 0 for which there exists a linear operator T : Rn → Rn satisfying K ⊆ T L ⊆ sK. John [19] proved that if K is in John position then there exist contact points x1 , . . . , xm ∈ (∂K) ∩ (∂B2n ) and positive weights c1 , . . . , cm > 0 such that (32)

m X

ci xi = 0,

i=1

and (33)

m X

ci xi ⊗ xi = I.

i=1

When conditions (32) and (33) are satisfied we say that {xi , ci }m i=1 form a John decomposition of the identity. It is hard to overstate the importance of John decompositions in analysis and geometry, and we will not attempt to discuss their applications here. Interested readers are referred to [4] for a taste of this rich field. John proved that one can always take m 6 n(n + 1)/2. This bound cannot be improved in general (see [31] for an even stronger result of this type). However, if one allows an arbitrarily small perturbation of the body K, it is possible to reduce the number of contact points with the John ellipsoid to grow linearly in n. This sharp result is a consequence of the Batson-Spielman-Srivastava sparsification theorem 2.1, and it was proved by Srivastava in [47]. The precise formulation of Srivastava’s theorem is as follows. Theorem 4.1. — If K ⊆ Rn is a centrally symmetric convex body and ε ∈ (0, 1) then there exists a convex body L ⊆ Rn with dBM (K, L) 6 1 + ε such that L has at most m = O(n/ε2 ) contact points with its John ellipsoid. The problem of perturbing a convex body so as to reduce the size of its John decomposition was studied by Rudelson in [32], where the bound m 6 C(ε)n(log n)3 was obtained via a randomized construction. In [33] Rudelson announced an improved bound of m 6 C(ε)n log n(log log n)2 using a different probabilistic argument based on majorizing measures, and in [34] Rudelson obtained the bound m = O(ε−2 n log n), which was the best known bound prior to Srivastava’s work. The key step in all of these proofs is to extract from (33) an approximate John decomposition. This amounts to finding weights s1 , . . . , sm ∈ [0, ∞), such that not many of them are nonzero, and such that we have the operator norm

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

200

A. NAOR

P bound kI − m i=1 si xi ⊗ xi k 6 ε. This is exactly what Theorem 2.1 achieves, with |{i ∈ {1, . . . , m} : si 6= 0}| 6 c(ε)n. Prior to the deterministic construction of BatsonSpielman-Strivastava [5], such approximate John decompositions were constructed by Rudelson via a random selection argument, and a corresponding operator-valued concentration inequality. In particular, Rudelson’s bound [34] m = O(ε−2 n log n) uses an influential argument of Pisier. Such methods are important to a variety of applications (see [35, 52]), and in particular this is how Spielman-Srivastava [41] proved their earlier O(ε−2 n log n) sparsification theorem. While yielding suboptimal results, this method is important since it has almost linear (randomized) running time. We refer to the recent work of Adamczak, Litvak, Pajor and Tomczak-Jaegermann for deeper investigations of randomized approximations of certain decompositions of the identity (under additional assumptions). Proof of Theorem 4.1. — Suppose that K is in John position, and let {xi , ci }ni=1 be P √ √ the corresponding John-decomposition. Since m i=1 ( ci xi ) ⊗ ( ci xi ) = I, we may use Theorem 2.1 to find s1 , . . . , sm > 0, with at most O(n/ε2 ) of them nonzero, such P that if we set A = m i=1 si ci xi ⊗ xi , then the matrices A − I and (1 + ε/4)I − A are positive semidefinite. Thus kA − Ik 6 ε/4. The rest of the proof follows the argument in [32, 33]. Write E = A1/2 B2n . Then since kA − I|| 6 ε/4 we have   ε ε E ⊆ B2n ⊆ 1 + E. 1− 4 4 Denote yi = xi /kA−1/2 xi k2 ∈ ∂ E and define Å ãã [Å 1 H = conv {±yi }i∈J K , 1+ε where J = {i ∈ {1, . . . , m} : si 6= 0}. Then H is a centrally symmetric convex body, and by a straightforward argument one checks (see [32, 33]) that 1 1+ε K ⊆ H ⊆ (1 + 2ε)K. Set L = A−1/2 H. Since K ⊆ B2n we have (∂H) ∩ (∂ E) = {±yi }i∈J , and therefore (∂L) ∩ (∂B2n ) = {±zi }i∈J , where zi = A−1/2 yi . Writing ai = ci2si kA1/2 xi k2 , we have X

ai zi ⊗ zi +

i∈J

X

ai (−zi ) ⊗ (−zi ) =

m X

si ci (A−1/2 xi ) ⊗ (A−1/2 xi )

i=1

i∈J

=A

−1/2

m X

! si ci xi ⊗ xi

A−1/2 = A−1/2 AA−1/2 = I.

i=1

Hence {±zi , ai }i∈J form a John decomposition of the identity consisting of contact points of L and B2n ⊇ L. By John’s uniqueness theorem [19] it follows that B2n is the John ellipsoid of L.

ASTÉRISQUE 348

(1033)

SPARSE QUADRATIC FORMS

201

Remark 4.2. — Rudelson [33, 34] also studied approximate John decompositions for non-centrally symmetric convex bodies. He proved that Theorem 4.1 holds if K is not necessarily centrally symmetric, with m = O(ε−2 n log n). Note that in the nonsymmetric setting one needs to define the Banach-Mazur appropriately: dBM (K, L) is the infimum over those s > 0 for which there exist v ∈ Rn and a linear operator T : Rn → Rn satisfying K +v ⊆ T L ⊆ s(K +v). Srivastava [47], based on a refinement of the proof technique of Theorem 2.1, proved that if K ⊆ Rn is a convex body and √ ε ∈ (0, 1), then there exists a convex body L ⊆ Rn with dBM (K, L) 6 5 + ε such that L has at most m = O(n/ε3 ) contact points with its John ellipsoid. Thus, it is possible to get bounded perturbations with linearly many contact points with the John ellipsoid, but it remains open whether this is possible with 1 + ε perturbations. The problem is how to ensure condition (32) for an approximate John decomposition using the Batson-Spielman-Srivastava technique—for symmetric bodies this is not a problem since we can take the reflections of the points in the approximate John decomposition.

5. DIMENSIONALITY REDUCTION IN Lp SPACES Fix p > 1. In what follows Lp denotes the space of p-integrable functions on [0, 1] (equipped with Lebesgue measure), and `np denotes the space Rn , equipped with the `p P 1/p norm kxkp = ( ni=1 |xi |p ) . Since any n-dimensional subspace of L2 is isometric to `n2 , for any x1 , . . . , xn ∈ L2 there exist y1 , . . . , yn ∈ `n2 satisfying kxi −xj k2 = kyi −yj k2 for all i, j ∈ {1, . . . , n}. But, more is true if we allow errors: the Johnson-Lindenstrauss lemma [20] says that for every x1 , . . . , xn ∈ L2 , ε ∈ (0, 1) there exist k = O(ε−2 log n) and y1 , . . . , yn ∈ `k2 such that kxi − xj k2 6 kyi − yj k2 6 (1 + ε)kxi − xj k2 for all i, j ∈ {1, . . . , n}. This bound on k is known to be sharp up to a O(log(1/ε)) factor [1]. In Lp for p 6= 2 the situation is much more mysterious. Any n-points in Lp embed isometrically into `kp for k = n(n − 1)/2, and this bound on k is almost optimal [3]. If one is interested, as in the Johnson-Lindenstrauss lemma, in embeddings of n-point subsets of Lp into `kp with a 1 + ε multiplicative error in the pairwise distances, then the best known bound on k, due to Schechtman [37], was ( C(ε)n log n p ∈ [1, 2), (34) k6 p/2 C(p, ε)n log n p ∈ (2, ∞). We will see now how Theorem 2.1 implies improvements to the bounds in (34) when p = 1 and when p is an even integer. The bounds in (34) for p ∈ / {1} ∪ 2N remain the best currently known. We will start with the improvement when p = 1, which is due to Newman and Rabinovich [29]. In the case p ∈ 2N, which is due to

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

202

A. NAOR

Schechtman [38], more is true: the claimed bound on k holds for embeddings of any n-dimensional linear subspace of Lp into `kp , and when stated this way (rather than for n-point subsets of Lp ) it is sharp [7]. 5.1. Finite subsets of L1 It is known that a Johnson-Lindenstrauss type result cannot hold in L1 : Brinkman and Charikar [14] proved that for any D > 1 there exist arbitrarily large n-point subsets {x1 , . . . , xn } ⊆ L1 with the property that if they embed with distortion D 2 into `k1 then necessarily k > nc/D , where c > 0 is a universal constant. Here, and in what follows, a metric space (X, d) is said to embed with distortion D into a normed space Y if there exists f : X → Y satisfying d(x, y) 6 kf (x) − f (y)k 6 Dd(x, y) for all x, y ∈ X. No nontrivial restrictions on bi-Lipschitz dimensionality reduction are known for finite subsets of Lp , p ∈ (1, ∞)r{2}. On the positive side, as stated in (34), Schechtman proved [37] that any n-point subset of L1 embeds with distortion 1+ε into `k1 , for some k 6 C(ε)n log n. The following theorem of Newman and Rabinovich [29] gets the first asymptotic improvement over Schechtman’s 1987 bound, and is based on the Batson-Spielman-Srivastava theorem. Theorem 5.1. — For any ε ∈ (0, 1), any n-point subset of L1 embeds with distortion 1 + ε into `k1 for some k = O(n/ε2 ). Proof. — Let f1 , . . . , fn ∈ L1 be distinct. By the cut-cone representation of L1 metrics, there exist nonnegative weights {wE }E⊆{1,...,n} such that for all i, j ∈ {1, . . . , n} we have X (35) kfi − fj k1 = wE |1E (i) − 1E (j)|. E⊆{1,...,n}

See [16] for a proof of (35) (see also [27, Section 3] for a quick proof). P √ For every E ⊆ {1, . . . , n} define xE = wE i∈E ei ∈ Rn (e1 , . . . , en is the standard basis of Rn ). By Theorem 2.1 there exist a subset σ ⊆ 2{1,...,n} with |σ| = O(n/ε2 ), and nonnegative weights {sE }E∈σ , such that for every y ∈ Rn we have (36) !2 !2 !2 X X X X X X wE yi 6 sE wE yi 6 (1 + ε) wE yi . E⊆{1,...,n}

i∈E

E∈σ

i∈E

E⊆{1,...,n}

i∈E

Define z1 , . . . , zn ∈ Rσ by zi = (sE wE 1E (i))E∈σ . For i, j ∈ {1, . . . , n} apply (36) to the vector y = ei − ej , noting that for all E ⊆ {1, . . . , n}, for this vector y we have

ASTÉRISQUE 348

(1033)

203

SPARSE QUADRATIC FORMS

P 2 ( i∈E yi ) = |1E (i) − 1E (j)|. (35)

kfi − fj k1 =

(36)

X

wE |1E (i) − 1E (j)| 6 (36)

sE wE |1E (i) − 1E (j)|

E∈σ

E⊆{1,...,n}

= kzi − zj k1 6 (1 + ε)

X

X

(35)

wE |1E (i) − 1E (j)| = kfi − fj k1 .

E⊆{1,...,n}

Remark 5.2. — Talagrand [49] proved that any n-dimensional linear subspace of L1 embeds with distortion 1 + ε into `k1 , with k 6 C(ε)n log n. This strengthens Schechtman’s bound in (34) for n-point subsets of L1 , since it achieves a low dimensional embedding of their span. It would be very interesting to remove the log n term in Talagrand’s theorem, as this would clearly be best possible. Note that n-point subsets of L1 can conceivably be embedded into `k1 , with k  n. Embedding into at least n dimensions (with any finite distortion) is a barrier whenever the embedding proceeds by actually embedding the span of the given n points. The Newman-Rabinovich argument based on sparsification proceeds differently, and one might hope that it could be used to break the n dimensions barrier for n-point subsets of L1 . This turns out to be possible: the forthcoming paper [2] shows that for any D > 1, any n-point subset of L1 embeds with distortion D into `k1 , with k = O(n/D). 5.2. Finite dimensional subspaces of Lp for even p Given an n ∈ N and ε ∈ (0, 1), what is the smallest k ∈ N such that any n-dimensional subspace of Lp linearly embeds with distortion 1 + ε into `kp ? This problem has been studied extensively [36, 37, 10, 49, 50, 21, 39, 56, 22], the best known bound on k being as follows:   C(p, ε)n log n(log log n)2 p ∈ (0, 1) [56],      C(ε)n log n p=1 [49], k6 2  C(ε)n log n(log log n) p ∈ (1, 2) [50],      C(p, ε)np/2 log n p ∈ (2, ∞) [10]. In particular, Bourgain, Lindenstrauss and Milman [10] proved that if p ∈ (2, ∞) then one can take k 6 C(p, ε)np/2 log n. It was long known [7], by considering subspaces of Lp that are almost isometric to `n2 , that necessarily k > c(p, ε)np/2 . We will now show an elegant argument of Schechtman, based on Theorem 2.1, that removes the log n factor when p is an even integer, thus obtaining the first known sharp results for some values of p 6= 2.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

204

A. NAOR

Theorem 5.3. — Assume that p > 2 is an even integer, n ∈ N and ε ∈ (0, 1). Then any n-dimensional subspace X of Lp embeds with distortion 1 + ε into `kp for some k 6 (cn/p)p/2 /ε2 , where c is a universal constant. Proof. — By a standard argument (approximating a net in the sphere of X by simple functions), we may assume that X ⊆ `m p for some finite (huge) m ∈ N. In what follows, when we use multiplicative notation for vectors in Rm , we mean coordinatewise products, i.e., for x, y ∈ Rm , write xy = (x1 y1 , . . . , xm ym ) and for r ∈ N write xr = (xr1 , . . . , xrm ). Let u1 , . . . , un be a basis of X. Consider the following subspace of Rm : n p o Y = span upj11 upj22 · · · upj`` : ` ∈ N, j1 , . . . , j` ∈ {1, . . . , n}, p1 + · · · + p` = . 2 Then Ç å Å ã 10n p/2 n + p/2 − 1 6 d = dim(Y ) 6 . p/2 p Thinking of Y as a d-dimensional subspace of `m , let v1 , . . . , vd be an orthonormal P 2 basis of Y . Define x1 , . . . , xm ∈ Y by xi = dj=1 hvj , ei ivj , where as usual e1 , . . . , em is the standard coordinate basis of Rm . Note that by definition (since v1 , . . . , vd is an orthonormal basis of Y ), for every y ∈ Y and for every i ∈ {1, . . . , m} we have hxi , yi = hy, ei i = yi . By Theorem 2.1, there exists a subset σ ⊆ {1, . . . , m} with |σ| = O(d/(pε)2 ) 6 (cn/p)p/2 /ε2 , and {si }i∈σ ⊆ (0, ∞), such that for all y ∈ Y we have m m  X X εp  X 2 y . (37) yi2 6 si yi2 6 1 + 4 i=1 i i=1 i∈σ In particular, since by the definition of Y for every x ∈ X we have xp/2 ∈ Y , !1/p !1/p !1/p m m X X (37) (37)  εp 1/p X p p p xi 6 (1 + ε)kxkp . kxkp = xi 6 si xi 6 1+ 4 i=1 i=1 i∈σ 1/p

(cn/p)p/2 /ε2

Thus x 7→ (si xi )i∈σ maps X into `σp ⊆ `p

and has distortion 1 + ε.

Remark 5.4. — The bound on k in Theorem 5.3 is sharp also in terms of the dependence on p. See [38] for more information on this topic.

6. THE RESTRICTED INVERTIBILITY PRINCIPLE In this section square matrices are no longer assumed to be symmetric. The ensuing discussion does not deal with a direct application of the statement of Theorem 2.1, but

ASTÉRISQUE 348

(1033)

SPARSE QUADRATIC FORMS

205

rather with an application of the method that was introduced by Batson-SpielmanSrivastava to prove Theorem 2.1. Bourgain and Tzafriri studied in [11, 12, 13] conditions on matrices which ensure that they have large “well invertible” sub-matrices, where well invertibility refers to control of the operator norm of the inverse. Other than addressing a fundamental question, such phenomena are very important to a variety of interesting applications that we will not survey here. To state the main results of Bourgain-Tzafriri, we need the following notation. For σ ⊆ {1, . . . , n} let Rσ : Rn → Rσ be given by restricting the coordinates to σ, i.e., P P Rσ ( ni=1 ai ei ) = i∈σ ai ei (as usual, {ei }ni=1 is the standard coordinate basis of Rn ). In matrix notation, given an operator T : Rn → Rn , the operator Rσ T Rσ∗ : Rσ → Rσ corresponds to the σ × σ sub-matrix (hT ei , ej i)i,j∈σ . The operator norm of T (as an denoted below by kT k, and the Hilbert-Schmidt norm operator from `n2 to `n2 ) will be » Pn Pn 2 of T will be denoted kT kHS = i=1 j=1 hT ei , ej i . The following theorem from [11, 13] is known as the Bourgain-Tzafriri restricted invertibility principle. Theorem 6.1. — There exist universal constants c, K > 0 such that for every n ∈ N and every linear operator T : Rn → Rn the following assertions hold true: 1. If kT ei k2 = 1 for all i ∈ {1, . . . , n} then there exists a subset σ ⊆ {1, . . . , n} satisfying cn , (38) |σ| > kT k2 such that Rσ T ∗ T Rσ∗ is invertible and

−1 (39)

(Rσ T ∗ T Rσ∗ ) 6 K. 2. If hT ei , ei i = 1 for all i ∈ {1, . . . , n} then for all ε ∈ (0, 1) there exists a subset σ ⊆ {1, . . . , n} satisfying |σ| >

(40)

cε2 n , kT k2

such that Rσ T ∗ T Rσ∗ is invertible and

−1 (41)

(Rσ T ∗ T Rσ∗ ) 6 1 + ε. The quadratic dependence on ε in (40) cannot be improved [8]. Observe that (39) is equivalent to the following assertion:

2

X

1 X 2

(42) ai T ei > a ∀{ai }i∈σ ⊆ R.

K i∈σ i i∈σ 2

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

206

A. NAOR

We note that if T satisfies the assumption of the first assertion of Theorem 6.1 then T ∗ T satisfies the assumption of the second assertion of Theorem 6.1. Hence, the second assertion of Theorem 6.1

implies the first assertion of Theorem 6.1 with (39)

∗ ∗ −1 replaced by (Rσ T T Rσ ) 6 (1 + ε)kT k2 and (38) replaced by the condition |σ| > cε2 n/kT k4 . In [42] Spielman and Srivastava proved the following theorem: Theorem 6.2. — Suppose that x1 , . . . , xm ∈ Rn r {0} satisfy m X

(43)

xi ⊗ xi = I.

i=1

Then for every linear T : Rn → Rn and ε ∈ (0, 1) there exists σ ⊆ {1, . . . , m} with õ 2 û ε kT k2HS (44) |σ| > , kT k2 and such that for all {ai }i∈σ ⊆ R we have

2

X

(1 − ε)2 kT k2HS X 2

ai T xi > (45) ai .

m i∈σ

2

i∈σ

Theorem 6.2 implies the Bourgain-Tzafriri restricted invertibility principle. Indeed, take xi = ei and note that if either kT ei k2 = 1 for all i ∈ {1, . . . , n} or hT ei , ei i = 1 for all i ∈ {1, . . . , n} then kT k2HS > n. The idea to improve the Bourgain-Tzafriri theorem in terms of Hilbert-Schmidt estimates is due to Vershynin, who proved in [53] a statement similar to Theorem 6.2 (with asymptotically worse dependence on ε). Among the tools used in Vershynin’s argument is the Bourgain-Tzafriri restricted invertibility theorem itself, but we will see how the iterative approach of Section 3 yields a self-contained and quite simple proof of Theorem 6.2. This new approach of Spielman-Srivastava has other advantages. Over the years, there was interest [11, 13, 51, 15] in improving the quantitative estimates in Theorem 6.1 (i.e., the bounds on c, K, and the dependence |σ| on ε and kT k), and Theorem 6.2 yields the best known bounds. Moreover, it is not obvious that the subset σ of Theorem 6.1 can be found in polynomial time. A randomized algorithm achieving this was recently found by Tropp [51], and the work of Spielman-Srivastava yields a deterministic algorithm which finds in polynomial time a subset σ satisfying the assertions of Theorem 6.2. Before proceeding to an exposition of the proof of Theorem 6.2 in [42], we wish to note that another important result of Bourgain-Tzafriri [11, 12] is the following theorem, which is easily seen to imply the second assertion of Theorem 6.1 with

−1 the conclusion (41) replaced by (Rσ T Rσ∗ ) 6 1 + ε. This theorem is important for certain applications, and it would be interesting if it could be proved using the Spielman-Srivastava method as well.

ASTÉRISQUE 348

(1033)

SPARSE QUADRATIC FORMS

207

Theorem 6.3. — There is a universal constant c > 0 such that for every ε > 0 and n ∈ N if an operator T : Rn → Rn satisfies hT ei , ei i = 0 for all i ∈ {1, . . . , n} then there exists a subset σ ⊆ {1, . . . , n} satisfying |σ| > cε2 n and kRσ T Rσ∗ k 6 εkT k. 6.1. Proof of Theorem 6.2 The conclusion (45) of Theorem 6.2 is equivalent to the requirement that the matrix X (46) A= (T xi ) ⊗ (T xi ) i∈σ 2

has |σ| eigenvalues at least (1 − ε) kT k2HS /m. Indeed, if B is the |σ| × n matrix whose rows are {T xi }i∈σ , then A = B ∗ B. The eigenvalues of A are therefore the same as the eigenvalues of the |σ| × |σ| Gram matrix BB ∗ = (hT xi , T xj i)i,j∈σ . The assertion that all the eigenvalues of BB ∗ are at least (1 − ε)2 kT k2HS /m is identical to (45). Define õ 2 û ε kT k2HS (47) k= . kT k2 We will construct inductively y0 , y1 , . . . , yk ∈ Rn with the following properties. We set y0 = 0 and require that y1 , . . . , yk ∈ {x1 , . . . , xm }. Moreover, if for i ∈ {0, . . . , k} we write Å ã i (1 − ε) kT k2HS − kT k2 , (48) bi = m ε then the matrix Ai =

(49)

i X (T yj ) ⊗ (T yj ) j=0

has k eigenvalues bigger than bi and all its other eigenvalues equal 0 (this holds vacuously for i = 0). Note that this requirement implies in particular that y1 , . . . , yk are distinct. Finally, we require that for every i ∈ {1, . . . , k} we have (50)

m ¨ X

−1

(Ai − bi I)

j=1

m ¨ ∂ X ∂ −1 T xj , T xj < (Ai−1 − bi−1 I) T xj , T xj . j=1

The matrix Ak will then have the form (46) with |σ| = k, and have k eigenvalues greater than (1 − ε)2 kT k2HS /m, as required. It remains therefore to show that for i ∈ {1, . . . , k} there exists a vector yi satisfying the desired properties, assuming that y0 , y1 , . . . , yi−1 have already been selected. Lemma 6.4. — Set m ¨ m ¨ ∂ X ∂ X −1 −1 (51) µ= (Ai−1 − bi−1 I) T xj , T xj − (Ai−1 − bi I) T xj , T xj . j=1

j=1

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

208

A. NAOR

(Since bi ∈ (0, bi−1 ), the matrix (Ai−1 − bi I)−1 makes sense in (51).) Then (52)

m ¨ ∂ X −1 −1 (Ai−1 − bi I) T T ∗ (Ai−1 − bi I) T xj , T xj j=1

< −µ

m Ä ¨ ∂ä X −1 1 + (Ai−1 − bi I) T xj , T xj . j=1

Assuming the validity of Lemma 6.4 for the moment, we will show how to complete the inductive construction. By (52) there exists j ∈ {1, . . . , m} satisfying ¨ ∂ −1 −1 (53) (Ai−1 − bi I) T T ∗ (Ai−1 − bi I) T xj , T xj Ä ¨ ∂ä −1 < −µ 1 + (Ai−1 − bi I) T xj , T xj . Our inductive choice will be yi = xj . −1 −1 The matrix (Ai−1 − bi−1 I) − (Ai−1 − bi I) is positive definite, since by the −1 −1 inductive hypothesis its eigenvalues are all of the form (λ − bi−1 ) − (λ − bi ) for some λ ∈ R that satisfies λ > bi−1 > bi or λ = 0 (and since for i 6 k we have bi > 0). Hence µ > 0. Since the left-hand side of (53) is nonnegative, it follows that ¨ ∂ −1 (54) 1 + (Ai−1 − bi I) T xj , T xj < 0. Since Ai = Ai−1 + (T xj ) ⊗ (T xj ), it follows from (21) that (55) ¨ ∂ −2 Ä ä Ä ä (Ai−1 − bi I) T xj , T xj (54) −1 −1 ¨ ∂ > 0, tr (Ai − bi I) − tr (Ai−1 − bi I) =− −1 1 + (Ai−1 − bi I) T xj , T xj −2

where in the last inequality of (55) we used the fact that (Ai−1 − bi I) is positive definite. At the same time, by the inductive hypothesis λ1 (Ai−1 ), . . . , λi−1 (Ai−1 ) > bi−1 , and λi (Ai−1 ) = · · · = λn (Ai−1 ) = 0. Since Ai − Ai−1 is a rank one positive semidefinite matrix, the eigenvalues of Ai and Ai−1 interlace (see [9, Section III.2]; this result goes back to [55]), and therefore (56)

λ1 (Ai ) > λ1 (Ai−1 ) > λ2 (Ai ) > λ2 (Ai−1 ) > · · · > λi−1 (Ai−1 ) > λi (Ai ),

and (57)

λi (Ai−1 ) = · · · = λn (Ai−1 ) = λi+1 (Ai ) = · · · = λn (Ai ) = 0.

Hence, Ä ä Ä ä (55) −1 −1 0 < tr (Ai − bi I) − tr (Ai−1 − bi I) ã (56) i−1 Å 1 1 X 1 1 λi (Ai ) (57) = + + − 6 , λi (Ai ) − bi bi j=1 λj (Ai ) − bi λj (Ai−1 ) − bi bi (λi (Ai ) − bi )

ASTÉRISQUE 348

(1033)

SPARSE QUADRATIC FORMS

209

implying that λi (Ai ) > bi . Therefore, in order to establish the inductive step, it remains to prove (50). To this end, note that due to (43) and (24) for every n × n matrix A we have (58)

m X

hAT xj , T xj i = tr (T ∗ AT ) .

j=1

Hence (50) is equivalent to the inequality Ä ä Ä ä −1 −1 (59) tr T ∗ (Ai−1 − bi−1 I) T > tr T ∗ (Ai − bi I) T . Now, Ä ä Ä ä −1 −1 tr T ∗ (Ai − bi I) T − tr T ∗ (Ai−1 − bi I) T Ä ä −1 −1 tr T ∗ (Ai−1 − bi I) ((T xj ) ⊗ (T xj )) (Ai−1 − bi I) T (20) ¨ ∂ = − −1 1 + (Ai−1 − bi I) T xj , T xj ¨ ∂ −1 −1 (Ai−1 − bi I) T T ∗ (Ai−1 − bi I) T xj , T xj ¨ ∂ = − −1 1 + (Ai−1 − bi I) T xj , T xj Ä ä Ä ä (54)∧(53) (51)∧(58) −1 −1 < µ = tr T ∗ (Ai−1 − bi−1 I) T − tr T ∗ (Ai−1 − bi I) T . This proves (59), so all that remains in order to prove Theorem 6.2 is to prove Lemma 6.4. Proof of Lemma 6.4. — Using (58) we see that our goal (52) is equivalent to the following inequality Ä ä −1 −1 (60) tr T ∗ (Ai−1 − bi I) T T ∗ (Ai−1 − bi I) T Ä Ä ää −1 < −µ m + tr T ∗ (Ai−1 − bi I) T . Note that ä Ä −1 −1 (61) tr T ∗ (Ai−1 − bi I) T T ∗ (Ai−1 − bi I) T Ä ä Ä ä −1 −1 −2 6 kT k2 tr (Ai−1 − bi I) T T ∗ (Ai−1 − bi I) = kT k2 tr T ∗ (Ai−1 − bi I) T . The inductive hypothesis (50), or its equivalent form (59), implies that Ä ä Ä ä −1 −1 (62) tr T ∗ (Ai−1 − bi−1 I) T < tr T ∗ (A0 − b0 I) T =−

1 m kT k2HS (48) tr(T ∗ T ) = = − . b0 b0 1−ε

Hence, (63)

Ä ä (51)∧(58)∧(62) m −1 tr T ∗ (Ai−1 − bi I) T < − − µ. 1−ε

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

210

A. NAOR

From (61) and (63) we see that in order to prove (60) it suffices to establish the following inequality: (64)

Ä ä εm −2 kT k2 tr T ∗ (Ai−1 − bi I) T 6 µ + µ2 . 1−ε

To prove (64) we first make some preparatory remarks. For r ∈ {0, . . . , i − 1} let Pr be the orthogonal projection on the image of Ar and let Qr = I −Pr be the orthogonal projection on the kernel of Ar . Since A0 = 0 we have Q0 = I. Moreover, because Ar = Ar−1 + (T yr ) ⊗ (T yr ) and Ar−1 , (T yr ) ⊗ (T yr ) are both positive semidefinite, it follows that Ker(Ar ) = Ker(Ar−1 ) ∩ (T xr )⊥ . Therefore (65)

tr(Qr−1 − Qr ) = dim(Ker(Ar−1 )) − dim(Ker(Ar )) 6 1.

Hence, (66) kQr T k2HS = tr (T ∗ Qr T ) = kQr−1 T k2HS − tr (T ∗ (Qr−1 − Qr )T ) (65)

> kQr−1 T k2HS − kT k2 tr(Qr−1 − Qr ) > kQr−1 T k2HS − kT k2 . Since Q0 = I, (66) yields by induction the following useful bound: (67)

kQi−1 T k2HS > kT k2HS − (i − 1)kT k2 .

Next,Ä since the nonzero eigenvaluesä of Ai−1 are greater than bi−1 , the matrix −2 T ∗ Pi−1 (Ai−1 − bi−1 I) (Ai−1 − bi I) Pi−1 T is positive semidefinite. In particular, its trace is nonnegative, yielding the following estimate: Ä Ä ä ä −2 0 6 tr T ∗ Pi−1 (Ai−1 − bi−1 I) (Ai−1 − bi I) Pi−1 T Å Å ã ã (Ai−1 − bi I)−2 (Ai−1 − bi−1 I)−1 − (Ai − bi I)−1 ∗ − Pi−1 T , = tr T Pi−1 (bi−1 − bi )2 bi−1 − bi which rearranges to the following inequality: Ä ä −2 (68) (bi−1 − bi )tr T ∗ Pi−1 (Ai−1 − bi I) Pi−1 T Ä ä Ä ä −1 −1 6 tr T ∗ Pi−1 (Ai−1 − bi−1 I) Pi−1 T − tr T ∗ Pi−1 (Ai−1 − bi I) Pi−1 T .

ASTÉRISQUE 348

(1033)

SPARSE QUADRATIC FORMS

211

1 Qi−1 and Qi−1 (Ai−1 − bi I)−1 Qi−1 = Since Qi−1 (Ai−1 − bi−1 I)−1 Qi−1 = − bi−1 − b1i Qi−1 ,

µ

=

=

(68)

(69) >

Ä ä −1 tr T ∗ (Pi−1 + Qi−1 ) (Ai−1 − bi−1 I) (Pi−1 + Qi−1 )T Ä ä −1 −tr T ∗ (Pi−1 + Qi−1 ) (Ai−1 − bi I) (Pi−1 + Qi−1 )T Ä ä Ä ä −1 −1 tr T ∗ Pi−1 (Ai−1 − bi−1 I) Pi−1 T − tr T ∗ Pi−1 (Ai−1 − bi I) Pi−1 T Å ã 1 1 + tr (T ∗ Qi−1 T ) − bi bi−1 Ä ä bi−1 − bi −2 (bi−1 − bi )tr T ∗ Pi−1 (Ai−1 − bi I) Pi−1 T + kQi−1 T k2HS . bi−1 bi

Also Qi−1 (Ai−1 − bi I)−2 Qi−1 = Ä ä −2 tr T ∗ (Ai−1 − bi I) T

= = (69)

6 (48)

=

1 Q , b2i i−1

and therefore

Ä ä tr(T ∗ Qi−1 T ) −2 tr T ∗ Pi−1 (Ai−1 − bi I) Pi−1 T + b2i Ä ä 1 −2 tr T ∗ Pi−1 (Ai−1 − bi I) Pi−1 T + 2 kQi−1 T k2HS bi Å ã kQi−1 T k2HS 1 1 µ + − bi−1 − bi bi bi bi−1 ã 2 Å εmµ kQi−1 T kHS 1 1 + − . (1 − ε)kT k2 bi bi bi−1

It follows that in order to prove the desired inequality (64), it suffices to show that the following inequality holds true: kT k2

(70)

kQi−1 T k2HS bi

Å

1 1 − bi bi−1

ã 6 µ2 .

−2

Since bi−1 > bi and T ∗ Pi−1 (Ai−1 − bi I) Pi−1 Tä is positive semidefinite, a conseÄ 1 quence of (69) is that µ > kQi−1 T k2HS b1i − bi−1 . Hence, in order to prove (70) it suffices to show that Å ã Å ã kQi−1 T k2HS 1 1 1 1 2 kT k2 − 6 kQi−1 T k4HS − , bi bi bi−1 bi bi−1 or equivalently, kQi−1 T k2HS > kT k2

bi−1 (48) = εkT k2HS − (i − 1)kT k2 , bi−1 − bi

which is a consequence of inequality (67), that we proved earlier.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

212

A. NAOR

7. NONLINEAR NOTIONS OF SPARSIFICATION P P Quadratic forms such as ni=1 nj=1 gij (xi − xj )2 are expressed in terms of the mutual distances between the points {x1 , . . . , xn } ⊆ R. This feature makes them very useful for a variety of applications in metric geometry, where the Euclidean distance is replaced by other geometries. We refer to [26, 28] for a (partial) discussion of such issues. It would be useful to study the sparsification problem of Theorem 1.1 in the non-Euclidean setting as well, although the spectral arguments used by BatsonSpielman-Srivastava seem inadequate for addressing such nonlinear questions. In greatest generality one might consider an abstract set X, and a symmetric function (kernel) K : X × X → [0, ∞). Given an n × n matrix G = (gij ), the goal would be to find a sparse n × n matrix H = (hij ) satisfying (71)

n X n X

gij K(xi , xj ) 6

i=1 j=1

n X n X

hij K(xi , xj ) 6 C

i=1 j=1

n X n X

gij K(xi , xj ),

i=1 j=1

for some constant C > 0 and all x1 , . . . , xn ∈ X. Cases of geometric interest in (71) are when K(x, y) = d(x, y)p , where d(·, ·) is a metric on X and p > 0. When p 6= 2 even the case of the real line with the standard metric is unclear. Say that an n × n matrix H = (hij ) is a p-sparsifier with quality C of an n × n matrix G = (gij ) if supp(H) ⊆ supp(G) and there exists a scaling factor λ > 0 such that for every x1 , . . . , xn ∈ R we have (72)

λ

n X n X

p

gij |xi − xj | 6

i=1 j=1

n X n X

p

hij |xi − xj | 6 Cλ

i=1 j=1

n X n X

gij |xi − xj |p .

i=1 j=1

By integrating (72) we see that it is equivalent to the requirement that for every f1 , . . . , fn ∈ Lp we have (73)

λ

n X n X i=1 j=1

gij kfi − fj kpp 6

n X n X i=1 j=1

hij kfi − fj kpp 6 Cλ

n X n X

gij kfi − fj kpp .

i=1 j=1

By a classical theorem of Schoenberg [40] (see also [54]), if q 6 p then the metric space (R, |x−y|q/p ) admits an isometric embedding into L2 , which in turn is isometric to a subspace of Lp . It therefore follows from (73) that if H is a p-sparsifier of G with quality C then it is also a q-sparsifier of G with quality C for every q 6 p. In particular, when p ∈ (0, 2), Theorem 1.1 implies that for every G a p-sparsifier H of quality 1 + ε always exists with |supp(H)| = O(n/ε2 ). When p > 2 it is open whether every matrix G has a good p-sparsifier H. By “good” we mean that the quality of the sparsifier H is small, and that |supp(H)| is small. In particular, we ask whether every matrix G admits a p-sparisfier H with quality Op (1) (maybe even 1 + ε) and |supp(H)| growing linearly with n.

ASTÉRISQUE 348

(1033)

213

SPARSE QUADRATIC FORMS

It was shown to us by Bo’az Klartag that if G = (gi gj ) is a product matrix with nonnegative entries then Matoušek’s extrapolation argument for Poincaré inequalities [25] (see also [28, Lemma 4.4]) can be used to show that if q > p and H is a p-sparsifier of G with quality C, then H is also a q-sparsifier of G with quality C 0 (C, p, q). However, we shall now present a simple example showing that a p-sparsifier of G need not be a q-sparsifier of G with quality independent of n for any q > p, for some matrix G (which is, of course, not a product matrix). This raises the question whether or not the method of Batson-Spielman-Srivastava, i.e., Theorem 1.1, produces a matrix H which is a O(1)-quality p-sparsifier of G for some p > 2. Fix q > p, ε > 0 and n ∈ N. Let G = (gij ) be the n × n adjacency matrix of the weighted n-cycle, where one edge has weight 1, and all remaining edges have weight (n − 1)p−1 /ε, i.e., g1n = gn1 = 1, g12 = g21 = g23 = g32 = · · · = gn−1,n = gn,n−1 =

(n − 1)p−1 , ε

and all the other entries of G vanish. Let H = (hij ) be the adjacency matrix of the same weighted graph, with the edge {1, n} deleted, i.e., h1n = hn1 = 0 and all the other entries of H coincide with the entries of G. It is immediate from the definition P P P P that ni=1 nj=1 gij |xi − xj |p > ni=1 nj=1 hij |xi − xj |p for all x1 , . . . , xn ∈ R. The reverse inequality is proved as follows: n X n X

n−1

gij |xi − xj |p

=

i=1 j=1

6

2(n − 1)p−1 X |xi − xi+1 |p ε i=1 !p n−1 n−1 X 2(n − 1)p−1 X |xi − xi+1 |p 2 |xi − xi+1 | + ε i=1 i=1

2|x1 − xn |p +

6

(1 + ε)

=

(1 + ε)

n−1 2(n − 1)p−1 X |xi − xi+1 |p ε i=1 n X n X

hij |xi − xj |p .

i=1 j=1

Hence H is a p-sparsifier of G with quality 1 + ε. P P For the points xi = i we have ni=1 nj=1 gij |xi −xj |q = 2(n−1)q +2(n−1)p /ε, and Pn Pn q p i=1 j=1 hij |xi − xj | = 2(n − 1) /ε. At the same time, if y2 = 1 and yi = 0 for all Pn Pn P P i ∈ {1, . . . , n} r {2}, we have i=1 j=1 gij |yi − yj |q = ni=1 nj=1 hij |yi − yj |q > 0. Thus, the quality of H as a q-sparsifier of G is at least ε(n − 1)q−p , which tends to ∞ with n, since q > p.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

214

A. NAOR

Acknowledgments This paper is a survey of recent results of various authors, most notably BatsonSpielman-Srivastava [5], Spielman-Srivastava [41, 42], Srivastava [47, 48], NewmanRabinovich [29] and Schechtman [38]. Any differences between the presentation here and the results being surveyed are only cosmetic. I am very grateful to Alexandr Andoni, Tim Austin, Keith Ball, Bo’az Klartag, Ofer Neiman and especially Vincent Lafforgue, Gilles Pisier, Gideon Schechtman and Nikhil Srivastava, for helpful discussions and suggestions.

REFERENCES [1] N. Alon – “Problems and results in extremal combinatorics. I”, Discrete Math. 273 (2003), p. 31–53. [2] A. Andoni, A. Naor & O. Neiman – “On isomorphic dimension reduction in `1 ”, preprint, 2011. [3] K. Ball – “Isometric embedding in lp -spaces”, European J. Combin. 11 (1990), p. 305–311. [4] , “An elementary introduction to modern convex geometry”, in Flavors of geometry, Math. Sci. Res. Inst. Publ., vol. 31, Cambridge Univ. Press, 1997, p. 1–58. [5] J. D. Batson, D. A. Spielman & N. Srivastava – “Twice-Ramanujan sparsifiers”, in STOC’09—Proceedings of the 2009 ACM International Symposium on Theory of Computing, ACM, 2009, p. 255–262. [6] A. A. Benczúr & D. R. Karger – “Approximating s-t minimum cuts in ˜ 2 ) time”, in Proceedings of the Twenty-eighth Annual ACM Symposium on O(n the Theory of Computing (Philadelphia, PA, 1996), ACM, 1996, p. 47–55. [7] G. Bennett, L. E. Dor, V. Goodman, W. B. Johnson & C. M. Newman – “On uncomplemented subspaces of Lp , 1 < p < 2”, Israel J. Math. 26 (1977), p. 178–187. [8] K. Berman, H. Halpern, V. Kaftal & G. Weiss – “Matrix norm inequalities and the relative Dixmier property”, Integral Equations Operator Theory 11 (1988), p. 28–48. [9] R. Bhatia – Matrix analysis, Graduate Texts in Math., vol. 169, Springer, 1997. [10] J. Bourgain, J. Lindenstrauss & V. Milman – “Approximation of zonoids by zonotopes”, Acta Math. 162 (1989), p. 73–141. [11] J. Bourgain & L. Tzafriri – “Invertibility of “large” submatrices with applications to the geometry of Banach spaces and harmonic analysis”, Israel J. Math. 57 (1987), p. 137–224.

ASTÉRISQUE 348

(1033)

[12]

[13] [14] [15] [16] [17]

[18] [19]

[20]

[21]

[22] [23]

[24] [25] [26]

[27]

SPARSE QUADRATIC FORMS

215

, “Restricted invertibility of matrices and applications”, in Analysis at Urbana, Vol. II (Urbana, IL, 1986–1987), London Math. Soc. Lecture Note Ser., vol. 138, Cambridge Univ. Press, 1989, p. 61–107. , “On a problem of Kadison and Singer”, J. reine angew. Math. 420 (1991), p. 1–43. B. Brinkman & M. Charikar – “On the impossibility of dimension reduction in l1 ”, J. ACM 52 (2005), p. 766–788. P. G. Casazza & J. C. Tremain – “Revisiting the Bourgain-Tzafriri restricted invertibility theorem”, Oper. Matrices 3 (2009), p. 97–110. M. M. Deza & M. Laurent – Geometry of cuts and metrics, Algorithms and Combinatorics, vol. 15, Springer, 1997. G. H. Golub & C. F. Van Loan – Matrix computations, third ed., Johns Hopkins Studies in the Mathematical Sciences, Johns Hopkins University Press, 1996. S. Hoory, N. Linial & A. Wigderson – “Expander graphs and their applications”, Bull. Amer. Math. Soc. (N.S.) 43 (2006), p. 439–561. F. John – “Extremum problems with inequalities as subsidiary conditions”, in Studies and Essays Presented to R. Courant on his 60th Birthday, January 8, 1948, Interscience Publishers, Inc., New York, N. Y., 1948, p. 187–204. W. B. Johnson & J. Lindenstrauss – “Extensions of Lipschitz mappings into a Hilbert space”, in Conference in modern analysis and probability (New Haven, Conn., 1982), Contemp. Math., vol. 26, Amer. Math. Soc., 1984, p. 189–206. W. B. Johnson & G. Schechtman – “Remarks on Talagrand’s deviation inequality for Rademacher functions”, in Functional analysis (Austin, TX, 1987/1989), Lecture Notes in Math., vol. 1470, Springer, 1991, p. 72–77. , “Finite dimensional subspaces of Lp ”, in Handbook of the geometry of Banach spaces, Vol. I, North-Holland, 2001, p. 837–870. A. Kolla, Y. Makarychev, A. Saberi & S.-H. Teng – “Subgraph sparsification and nearly optimal ultrasparsifiers”, in STOC’10—Proceedings of the 2010 ACM International Symposium on Theory of Computing, ACM, 2010, p. 57–65. A. Lubotzky, R. Phillips & P. Sarnak – “Ramanujan graphs”, Combinatorica 8 (1988), p. 261–277. J. Matoušek – “On embedding expanders into lp spaces”, Israel J. Math. 102 (1997), p. 189–197. M. Mendel & A. Naor – “Towards a calculus for non-linear spectral gaps”, in Proceedings of the Twenty-First Annual ACM-SIAM Symposium on Discrete Algorithms, 2010, p. 236–255, arXiv:0910.2041. A. Naor – “L1 embeddings of the Heisenberg group and fast estimation of graph isoperimetry”, in Proceedings of the International Congress of Mathematicians, Hyderabad India, 2010, http://www.cims.nyu.edu/~naor/ homepagefiles/ICM.pdf.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

216

A. NAOR

[28] A. Naor & L. Silberman – “Poincaré inequalities, embeddings, and wild groups”, Compos. Math. 147 (2011), p. 1546–1572. [29] I. Newman & Y. Rabinovich – “Finite volume spaces and sparsification”, preprint arXiv:1002.3541. [30] A. Nilli – “On the second eigenvalue of a graph”, Discrete Math. 91 (1991), p. 207–210. [31] A. Pełczyński & N. Tomczak-Jaegermann – “On the length of faithful nuclear representations of finite rank operators”, Mathematika 35 (1988), p. 126– 143. [32] M. Rudelson – “Approximate John’s decompositions”, in Geometric aspects of functional analysis (Israel, 1992–1994), Oper. Theory Adv. Appl., vol. 77, Birkhäuser, 1995, p. 245–249. [33] , “Contact points of convex bodies”, Israel J. Math. 101 (1997), p. 93–124. [34] , “Random vectors in the isotropic position”, J. Funct. Anal. 164 (1999), p. 60–72. [35] M. Rudelson & R. Vershynin – “Sampling from large matrices: an approach through geometric functional analysis”, J. ACM 54 (2007), Art. 21. [36] G. Schechtman – “Fine embeddings of finite-dimensional subspaces of Lp , 1 6 p < 2, into l1m ”, Proc. Amer. Math. Soc. 94 (1985), p. 617–623. , “More on embedding subspaces of Lp in lrn ”, Compositio Math. 61 (1987), [37] p. 159–169. , “Tight embedding of subspaces of Lp in `np for even p”, Proc. of the [38] A.M.S. 139 (2011), p. 4419–4421. [39] G. Schechtman & A. Zvavitch – “Embedding subspaces of Lp into lpN , 0 < p < 1”, Math. Nachr. 227 (2001), p. 133–142. [40] I. J. Schoenberg – “On certain metric spaces arising from Euclidean spaces by a change of metric and their imbedding in Hilbert space”, Ann. of Math. 38 (1937), p. 787–793. [41] D. A. Spielman & N. Srivastava – “Graph sparsification by effective resistances”, in STOC’08, ACM, 2008, p. 563–568. [42] , “An elementary proof of the restricted invertibility theorem”, Israel J. Math. (2012), doi://10.1007/s11856-011-0194-2. [43] D. A. Spielman & S.-H. Teng – “Nearly-linear time algorithms for graph partitioning, graph sparsification, and solving linear systems”, in Proceedings of the 36th Annual ACM Symposium on Theory of Computing, ACM, 2004, p. 81– 90. [44] , “Spectral sparsification of graphs”, SIAM J. Comput. 40 (2011), p. 981– 1025. , “A local clustering algorithm for massive graphs and its application to [45] nearly-linear time graph partitioning”, preprint arXiv:0809.3232.

ASTÉRISQUE 348

(1033)

[46] [47] [48]

[49] [50]

[51]

[52] [53] [54] [55]

[56]

SPARSE QUADRATIC FORMS

217

, “Nearly-linear time algorithms for graph partitioning, graph sparsification, and solving linear systems”, preprint arXiv:cs/0607105. N. Srivastava – “On contact points of convex bodies”, preprint http://www. cs.yale.edu/homes/srivastava/papers/contact.pdf, 2009. , “Spectral sparsification and restricted invertibility”, Ph.D. Thesis, Yale University, 2010, http://www.cs.yale.edu/homes/srivastava/ dissertation.pdf. M. Talagrand – “Embedding subspaces of L1 into l1N ”, Proc. Amer. Math. Soc. 108 (1990), p. 363–369. , “Embedding subspaces of Lp in lpN ”, in Geometric aspects of functional analysis (Israel, 1992–1994), Oper. Theory Adv. Appl., vol. 77, Birkhäuser, 1995, p. 311–325. J. A. Tropp – “Column subset selection, matrix factorization, and eigenvalue optimization”, in Proceedings of the Nineteenth Annual ACM-SIAM Symposium on Discrete Algorithms, 2009, p. 978–986, arXiv:0806.4404. , “User-friendly tail bounds for sums of random matrices”, preprint arXiv:1004.4389. R. Vershynin – “John’s decompositions: selecting a large part”, Israel J. Math. 122 (2001), p. 253–277. J. H. Wells & L. R. Williams – Embeddings and extensions in analysis, Ergebn. Math. Grenzg., vol. 84, Springer, 1975. H. Weyl – “Das asymptotische Verteilungsgesetz der Eigenwerte linearer partieller Differentialgleichungen (mit einer Anwendung auf die Theorie der Hohlraumstrahlung)”, Math. Ann. 71 (1912), p. 441–479. A. Zvavitch – “More on embedding subspaces of Lp into lpN , 0 < p < 1”, in Geometric aspects of functional analysis, Lecture Notes in Math., vol. 1745, Springer, 2000, p. 269–280.

Assaf NAOR New York University Courant Institute 251 Mercer street New York, NY 10012 – USA E-mail : [email protected]

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

348

ASTÉRISQUE 2012

SÉMINAIRE BOURBAKI VOLUME 2010/2011 EXPOSÉS 1027-1042 (1034) Inégalités isopérimétriques quantitatives via le transport optimal Filippo SANTAMBROGIO

SOCIÉTÉ MATHÉMATIQUE DE FRANCE Publié avec le concours du CENTRE NATIONAL DE LA RECHERCHE SCIENTIFIQUE

Séminaire BOURBAKI 63e année, 2010-2011, no 1034, p. 219 à 231

Janvier 2011

INÉGALITÉS ISOPÉRIMÉTRIQUES QUANTITATIVES VIA LE TRANSPORT OPTIMAL [d’après A. Figalli, F. Maggi et A. Pratelli] par Filippo SANTAMBROGIO

INTRODUCTION L’inégalité isopérimétrique est une inégalité géométrique qui établit une relation entre le volume et le périmètre d’une forme dans Rn . Connue dans sa forme plus simple depuis l’antiquité, comme son nom l’indique elle concerne la recherche du corps qui, à périmètre égal, maximise le volume. De manière analogue, elle indique aussi l’objet qui minimise le périmètre à volume fixé et, comme on sait que la forme optimale est celle de la boule, en connaissant son volume et son périmètre et en choisissant une formulation invariante par dilatations, on peut l’écrire comme une inégalité vraie pour tout ensemble E ⊂ Rn (1)

1

1

P (E) ≥ n|E|1− n |B| n ,

où P indique le périmètre, | · | la mesure de Lebesgue n-dimensionnelle, et B la boule unité de Rn . Cette inégalité peut être énoncée pour des ensembles E réguliers, pour lesquels la définition de P (E) et |E| ne présente pas d’ambiguïté, mais elle peut également être étendue à des ensembles E beaucoup plus généraux, grâce à la théorie des ensembles de périmètre fini, qui est d’ailleurs le cadre variationnel le plus adapté pour ce genre de problèmes. En effet, les problèmes de minimisation du périmètre risquent toujours d’être mal posés quand on les considère sur la classe des ensembles réguliers, bien que celui-ci précisément (minimiser le périmètre à volume contraint) ne le soit pas, tout simplement parce qu’on sait que la solution est la boule. Il convient donc de définir plus proprement l’objet périmètre par voie de la théorie des fonctions BV. Par définition, on dit qu’une fonction f ∈ L1 (Rn ) est à variation bornée (BV, Bounded Variation en anglais) si ses dérivées au sens des distributions sont des mesures finies. Autrement dit, son gradient distributionnel est une mesure vectorielle. Cette

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

220

F. SANTAMBROGIO

mesure aura typiquement, entre autres, une partie absolument continue ainsi qu’une partie « de saut », concentrée sur un ensemble de dimension n−1. Pour un ensemble E, on dit qu’il est de périmètre fini si sa fonction indicatrice IE est BV. On définira P (E) comme la masse totale de la mesure vectorielle DIE (il est utile de rappeler que toute mesure vectorielle µ admet une mesure « variation totale », scalaire et positive, ||µ||, telle que µ = f ·||µ||, satisfaisant ||µ||−p.p. l’égalité ||f || = 1, et que la masse totale de µ, égale à ||µ||(Rn ), est la norme de µ dans l’espace de Banach des mesures vectorielles finies). Évidemment, pour tout ensemble régulier E, son gradient sera donné par une mesure portée par sa frontière, ayant comme densité par rapport à la mesure de Hausdorff H n−1 le vecteur normal sortant νE . La masse totale de cette mesure serait R donc ∂E ||νE ||d H n−1 = H n−1 (∂E). Pour un ensemble moins régulier, le rôle de la frontière topologique ∂E sera joué par un ensemble plus petit, appelé frontière réduite, et défini comme l’ensemble ∂ ∗ E des points x tels que lim

r→0

DIE (Br (x)) ||DIE ||(Br (x))

existe et appartient à S n−1 .

Cette limite sera indiquée −νE et son opposé jouera exactement le rôle de la normale sortante. La même formule intégrale pour P (E) sera alors vraie en remplaçant ∂E par ∂ ∗ E. D’autres notions remarquables de frontière « essentielle » peuvent être définies et elles coïncident toutes, à des ensembles H n−1 -négligeables près. Il est intéressant de remarquer que la frontière réduite coïncide également, modulo H n−1 , avec l’ensemble des points de densité 12 de E. Ces notions générales ont permis d’établir une définition de périmètre anisotrope et d’en regarder l’inégalité isopérimétrique correspondante, ceci autant pour son intérêt géométrique ou ses applications à la tension superficielle des cristaux que pour un désir de généralisation mathématique abstraite. Étant donné un convexe borné K ⊂ Rn , contenant 0 dans son intérieur, on peut lui associer une norme || · ||K sur Rn définie par ||x||K := sup{x · y, y ∈ K} (norme qui peut ne pas être symétrique si K ne l’est pas). Dans la suite, on considérera également sa norme duale ||x||∗K , qui est caractérisée par {x : ||x||∗K ≤ 1} = K. Comme 0 appartient à l’intérieur de K, qui est borné, il existe une boule centrée à l’origine contenue dans K et une autre qui le contient, ce qui fait qu’on peut trouver deux constantes mK ≤ MK telles que mK ||x|| ≤ ||x||K ≤ MK ||x|| pour tout x ∈ Rn . On peut ensuite définir un périmètre anisotrope PK , ou K-périmètre, en prenant Z PK (E) := ||νE ||K d H n−1 . ∂∗E

Il est important de remarquer que cette quantité correspond en effet à la norme de la mesure « gradient distributionnel de IE » dans l’espace des mesures vectorielles, quand les normes des vecteurs sont évaluées avec la norme || · ||K (c’est-à-dire que

ASTÉRISQUE 348

(1034)

INÉGALITÉS ISOPÉRIMÉTRIQUES QUANTITATIVES

221

l’on peut redéfinir le concept de variation totale d’une mesure en remplaçant la norme euclidienne par cette norme). Il sera également utile, pour toute fonction h ∈ BV (Rn ), de considérer la mesure positive donnée par sa K-variation totale, notée ||Dh||K (ce qui coïncide avec la mesure de densité égale à ||Dh||K pour h ∈ W 1,1 (Rn )). De cette manière on a PK (E) = || − DIE ||K (Rn ) (le signe négatif étant important ici, puisque la norme n’est pas symétrique). La question de l’inégalité isopérimetrique anisotrope surgit alors tout de suite, et la réponse avait été suggérée par Wulf [13] au début du xxe siècle et prouvée ensuite par Gromov [12] : l’ensemble optimal est l’ensemble K lui-même, ce qui donnerait (2)

1

1

PK (E) ≥ n|E|1− n |K| n .

Une fois les deux inégalités (1) et (2) établies, et une fois qu’on sait (ce qui est vrai) que les ensembles optimaux sont uniques (seulement la boule et seulement K, aux translations et aux dilatations près), la question suivante porte alors sur la stabilité des ensembles optimaux, et notamment : si un corps E est presque optimal dans l’inégalité isopérimetrique (c’est-à-dire s’il réalise presque l’égalité dans (1)), peut-on dire qu’il est presque une boule, et dans quel sens, et de même les ensembles presque optimaux dans (2) sont-ils proches de K ? Dans l’interprétation relative à l’énergie des cristaux, ceci signifie : « si on donne une petite quantité d’énergie à un cristal de forme K, peut-on quantifier la modification de sa forme ? ». Ces questions sont précisées de la manière suivante : le déficit isopérimetrique δ(E) de E est introduit comme étant PK (E) δ(E) := 1 1 − 1 n|E|1− n |K| n (dorénavant, puisque le cas de l’inégalité isopérimétrique standard correspond au cas où K = B, dans la plupart des énoncés nous allons nous limiter au cas anisotrope) et l’index d’asymétrie A(E) est défini par ß ™ |E∆(x0 + rK)| A(E) := inf : x0 ∈ Rn , rn |K| = |E| |E| (la proportion de volume de la différence symétrique entre E et une copie de K du même volume, à des translations près). La question revient alors à estimer δ(E) en termes de A(E). Le résultat principal du papier de Figalli, Maggi et Pratelli ([6]) est justement d’établir une inégalité de ce genre, et ce avec un exposant optimal : » (3) A(E) ≤ C(n) δ(E). La constante C(n) qu’ils ont n’est pas forcément optimale, mais l’exposant 1/2 pour l’asymétrie l’est. De plus, ils trouvent une constante C(n) avec une croissance polynomiale en n et qui ne dépend pas de K.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

222

F. SANTAMBROGIO

Auparavant, de nombreuses recherches s’étaient concentrées sur le cas « euclidien » (quand K = B), en obtenant d’abord une preuve en dimension 2 ([1, 2]), ensuite parmi les E convexes ([7]) en dimension quelconque, puis sans la contrainte de convexité mais avec un exposant 41 non-optimal ([9]). Ce ne sont que les travaux récents de Fusco, Maggi et Pratelli ([8]) qui ont clos la question. Or, dans tous ces travaux, la technique principale se base sur un procédé de symétrisation (la symétrisation de Steiner), qui permet d’établir que le périmètre d’un ensemble décroît si on le remplace par des versions plus symétriques qui préservent son volume. Ceci admet aussi des versions quantitatives, mais ces outils ne sont pas disponibles pour le cas d’un convexe K quelconque et ne sont donc applicables que pour le cas euclidien. Des résultats sur la stabilité pour l’inégalité anisotrope existaient néanmoins, le plus complet étant celui de [5], mais qui n’arrive pas à l’exposant optimal. Pour suivre la stratégie de [6], on présentera d’abord les démonstrations, basées sur des outils de transport de mesure, de l’inégalité et de l’unicité de l’ensemble optimal, en remarquant ce qui pourrait se transformer en inégalité quantitative. Ensuite, on examinera les différents passages qui permettent d’arriver à prouver l’estimation (3).

1. PREUVES PAR TRANSPORT 1.1. Transport monotones : Knothe et Brenier Nous introduisons ici le concept de transport de mesures, même si on le présentera seulement dans le cas de mesures absolument continues : étant données deux densités R R f, g ∈ L1 (Rn ) de même masse totale f (x)dx = g(x)dx (à support compact, par simplicité), on dit qu’une application T : Rn → Rn transporte (ou envoie) f sur g R R si pour tout ensemble A ⊂ Rn on a T −1 (A) f (x)dx = A g(x)dx. Si T est injectif et suffisamment régulier, cette condition équivaut à une condition sur le jacobien : |det(DT )| = f /g(T ). Des applications de transport existent toujours, et on va en voir des exemples importants. Nous commençons d’abord avec le cas n = 1. Dans ce cas, nous sommes intéressés surtout par le transport monotone croissant. Il y en a toujours un, défini Rx R T (x) de manière unique presque partout par −∞ f (t)dt = −∞ g(t)dt. En dimension supérieure, il y a au moins deux extensions intéressantes de ce transport unidimensionnel. La première est celle connue comme transport de Knothe ([11]), obtenue de la manière suivante : considérons les densités f (x1 , x2 ) et g(x1 , x2 ) sur R2 et tout d’abord leurs marges sur la variable x1 , définies par R R f1 (x1 ) = f (x1 , x2 )dx2 et g1 (x1 ) = g(x1 , x2 )dx2 ; il s’agit de deux densités sur R et on peut considérer le transport monotone T1 envoyant f1 sur g1 ; ensuite on

ASTÉRISQUE 348

(1034)

INÉGALITÉS ISOPÉRIMÉTRIQUES QUANTITATIVES

223

peut considérer pour tout x1 le transport monotone Tx1 relatif aux densités (de variable x2 ) données par f (x1 , ·)/f1 (x1 ) et g(T (x1 ), ·)/g1 (T (x1 )). On a construit de cette manière une application qui réarrange de manière croissante la coordonnée x1 et, x1 étant fixé, fait de même pour x2 . Pour n > 2 la construction est analogue et itérative : les densités f (x1 , ·)/f1 (x1 ) et g(T (x1 ), ·)/g1 (T (x1 )) sont des densités sur Rn−1 , on en prend les marges sur leur première variable, x2 , on les réarrange de manière monotone. . . L’application de transport obtenue de cette manière est de la forme TK (x1 , x2 , . . . , xn ) = (T1 (x1 ), T2 (x1 , x2 ), . . . , Tn (x1 , x2 , . . . , xn )), et toutes les fonctions Tj (x1 , . . . , xj−1 , ·) sont croissantes, ce qui signifie que la matrice jacobienne de TK (si elle existe, ou alors la jacobienne au sens des distributions) est triangulaire, et tous les termes sur la diagonale sont positifs. Si l’application TK est une manière naturelle de définir une application « monotone croissante » en dimension supérieure, celle qui est obtenue grâce au théorème suivant l’est aussi. Proposition 1.1 (Brenier ([3])). — Étant données les deux densités f et g, il existe une fonction convexe φ : Rn → R telle que l’application T = ∇φ (définie presque partout) envoie f sur g. Ce transport T est également le transport optimal dans la théorie de Monge-Kantorovitch avec coût quadratique. Quant à la matrice jacobienne du transport de Brenier, elle est symétrique (puisque T est un gradient) et ses valeurs propres sont positives (puisque φ est convexe). 1.2. L’inégalité et l’unicité L’idée principale, due à Gromov (voir à ce propos [12]), est de considérer l’un de ces 1 1 transports monotones, envoyant la densité |E| IE sur |K| IK . Un transport de ce type, avec toutes les valeurs propres positives, satisfait la condition det(DT ) = |K|/|E|, sans la valeur absolue au déterminant. On peut donc écrire (4) Z Z Z Z 1

1

1

n|K| n |E|1− n = n

(det(DT )) n ≤ E

∇·T = E

||T ||∗K ||νE ||K ≤ PK (E),

T · νE ≤ ∂E

∂E

où les inégalités sont obtenues grâce à l’inégalité arithmético-géométrique 1 1 P n appliquée aux valeurs propres de DT , ce qui donne une i λi ≥ (λ1 . . . λn ) n inégalité entre le déterminant et la trace (donc, la divergence de T ), et grâce au fait que T : E → K, d’où ||T ||∗K ≤ 1. Ces inégalités, qui sont vraies à la fois pour le transport de Knothe et pour celui de Brenier, et qui sont présentées ici de manière formelle pour E et T réguliers, peuvent

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

224

F. SANTAMBROGIO

être rendues rigoureuses dans des cas moins réguliers à l’aide de la frontière réduite, en démontrant ainsi l’inégalité cherchée. Il est intéressant de voir comment elles peuvent être utilisées pour prouver l’unicité des ensembles optimaux. Supposons que l’on a l’égalité dans l’inégalité. Cela implique, 1 entre autres, n(det(DT )) n = ∇ · T p.p.. En connaissant les cas d’égalité pour les moyennes arithmétiques et géométriques, cela impose que les valeurs propres de DT soient toutes égales. La condition sur le déterminant impose qu’elles soient toutes 1 égales à r = (|K|/|E|) n . Dans le cas du transport de Brenier, ceci conclut : la matrice DT étant symétrique, si elle a n valeurs propres égales à r, alors DT = rI et T (x) = rx + x0 . Le transport étant une dilatation composée avec une translation, on en déduit que E est obtenu à partir de K par translation et dilatation, ce qui correspond à ce que l’on attendait. Plus dur est le raisonnement avec le transport de Knothe, puisque DT ne serait pas symétrique dans ce cas. Ceci dit, on peut arriver quand même à prouver que K = x0 + rE, et ceci en opérant comme suit. Pour le raconter plus facilement, on supposera que E et K ont le même volume (ce qui est possible à une dilatation près) et le même barycentre (à une translation près). On considère d’abord ce qui se passe pour la coordonnée x1 ; la condition T10 (x1 ) = 1, avec celle sur les barycentres, est suffisante pour dire que les marginales des deux densités sont égales. En particulier, les projections sur la coordonnée x1 de E et K coïncident et E doit être contenu dans la même bande a < x1 < b que K. Le même raisonnement peut être répété en choisissant une autre base pour la construction du transport de Knothe, et en particulier une autre coordonnée x1 . Ceci force finalement E à être contenu dans une intersection de bandes, les mêmes que K. Par convexité de K, qui est donc égal à l’intersection de ces bandes, ceci entraîne E ⊂ K, et la condition du volume implique E = K. Malheureusement, dans cette procédure, on a eu besoin d’appliquer une infinité de fois le même raisonnement, ce qui suggère que des éventuelles estimations de stabilité pourraient facilement dégénérer, avec des constantes qui risquent de devenir infinies au fur et à mesure des itérations. Les inégalités quantitatives seront donc établies en partant de l’approche avec le transport de Brenier. Par simplicité, on les examinera sous l’hypothèse |E| = |K| = 1, qui n’est de toute manière pas restrictive du tout. 1.3. Des idées pour quantifier 1

1

Les ingrédients principaux pour quantifier l’inégalité entre n|E|1− n |K| n et PK (E) sont les estimations qu’on a faites pour établir (4). Dans (4) il y a deux inégalités 1 principales : ||T ||∗K ≤ 1 et n(det(DT )) n ≤ ∇ · T . Si on indique λG et λA les moyennes

ASTÉRISQUE 348

(1034)

INÉGALITÉS ISOPÉRIMÉTRIQUES QUANTITATIVES

225

géométriques et arithmétiques, respectivement, des valeurs propres de DT , on a évidemment (5) Z Z 1 1 δ(E) ≈ PK (E) − n|E|1− n |K| n ≥ 1 − ||T (x)||∗K d H n−1 , (λA (x) − λG (x)) dx. ∂∗E

E

La deuxième inégalité pourrait, dans le cas du transport de Brenier, être utile pour R établir une inégalité entre δ(E) et |DT (x) − I|dx. Il est par contre évident qu’elle ne pourrait pas donner le même résultat pour le transport TK , puisque la borne sur λA − λG ne concerne que les valeurs propres de DT : or, comme précédemment, imposer que ces valeurs propres soient égales à 1 ou proches de 1 est suffisant pour déduire que cette matrice est égale ou proche de l’identité dans le cas d’une matrice symétrique, mais pas pour DTK . Comme on le verra dans la prochaine section, la bonne inégalité qu’on peut obtenir est en effet, pour T = ∇φ, Z » (6) C δ(E) ≥ |DT (x) − I|dx. Comme suite de cette inégalité, les auteurs proposent d’utiliser une inégalité de R Sobolev qui permette d’estimer une norme de T − I avec l’intégrale |DT (x) − I|dx. Par exemple, on pourrait avoir Z ÅZ ã p1 p ≤ C |DT (x) − I|dx, ||T (x) − x − x0 || dx où l’exposant p serait l’exposant maximal de l’injection de BV dans Lp (p = n/(n−1)) et la présence de la constante x0 serait due au fait que la norme de la dérivée ne pourrait estimer T − I qu’à une constante près, mais ceci ne serait pas un problème puisqu’il ne ferait que réintroduire la translation. Malheureusement, il est possible de compléter cette inégalité en estimant par le bas ||T − I − x0 ||p par une puissance de A(E) (ce qui est raisonnable, vu que cette norme représente combien T , dont l’image est K, s’éloigne de la translation I + x0 , dont l’image est une translation de E), mais avec le mauvais exposant, ce qui permettrait 1 d’obtenir seulement A(E) ≤ Cδ(E) 4 . La bonne inégalité de Sobolev à utiliser est plutôt une inégalité à trace, du type Z Z n−1 ∗ (7) ||T (x) − x − x0 ||K ||νE ||K d H ≤ C |DT (x) − I|dx. ∂∗E

Ces inégalités à trace existent dans l’espace BV, et font intervenir la frontière réduite ∂ ∗ E, aussi bien que la valeur que les fonctions concernées ont sur cette frontière « en arrivant du côté de E » (les fonctions BV sont loin d’être continues, elles admettent des sauts, et elles pourraient très bien avoir un saut sur le bord de E).

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

226

F. SANTAMBROGIO

En effet, il est possible d’exploiter cette inégalité (en ignorant par simplicité la translation x0 ) et de la coupler avec (5), pour obtenir Z 1 − ||x||∗K ||νE ||K d H n−1 (8) ∗ Z Z ∂ E » (1−||T (x)||∗K )||νE ||K d H n−1 ≤ C δ(E). ||T (x)−x||∗K ||νE ||K d H n−1 + ≤ ∂∗E

∂∗E

R Nous allons voir comment le terme ∂ ∗ E 1 − ||x||∗K ||νE ||K d H n−1 est la dernière brique pour arriver à l’inégalité souhaitée, mais avant tout il reste encore un problème : toutes les constantes dans ces inégalités de type Poincaré-Sobolev (qu’il s’agisse de traces sur le bord ou d’intégrales à l’intérieur) sont censées dépendre du domaine, c’est-à-dire dans ce cas de E !

2. L’INÉGALITÉ QUANTITATIVE : LES INGRÉDIENTS La démonstration rigoureuse de la version quantitative de l’inégalité isopérimétrique anisotrope, c’est-à-dire de (3), passe par les étapes suivantes : – une démonstration dans un cadre BV de l’inégalité (6) appliquée au transport T ; – une démonstration du fait que l’asymétrie A(E) est dominée par l’intégrale de R bord ∂ ∗ E 1 − ||x||∗K ||νE ||K d H n−1 ; – l’identification de la manière dont la constante de l’inégalité de Sobolev de (7) dépend de l’ensemble E ; – la preuve que tout ensemble E admet un sous-ensemble G ⊂ E bien choisi, tel que la constante de Sobolev associée à G est bornée de manière uniforme et que démontrer (3) pour G suffit à le démontrer pour E ; – un argument final pour montrer qu’en fait la constante C de l’inégalité (3) ne dépend pas de K mais seulement de la dimension n. Il est important de remarquer que l’introduction d’un nouvel ensemble G ⊂ E, choisi à cause des propriétés de son inégalité de Sobolev, empêche d’appliquer tout raisonnement se basant sur la régularité éventuelle de E. En effet, il serait possible de se restreindre, dans la démonstration de l’inégalité (3), aux ouverts réguliers, et de déduire la même inégalité par densité pour tout ensemble de périmètre fini. Ceci permettrait d’appliquer la théorie de la régularité du transport optimal établie par Caffarelli (voir [4]), ce qui rendrait inutile de chercher la version BV des inégalités fonctionnelles dont on a besoin, puisque T serait alors C ∞ . Mais, malheureusement, l’ensemble à utiliser ne sera finalement pas E mais cet ensemble G dont la régularité est inconnue, et les auteurs sont alors forcés de considérer toute inégalité fonctionnelle dans un cadre vraiment peu régulier. . .

ASTÉRISQUE 348

(1034)

INÉGALITÉS ISOPÉRIMÉTRIQUES QUANTITATIVES

227

2.1. La constante dans l’inégalité de Sobolev à trace Il est donc très important, dans la discussion faite par les auteurs, d’identifier précisément comment la constante de l’inégalité (7) dépend du domaine (en considérant, d’ailleurs, que ce domaine pourrait être très irrégulier), et sa relation avec la quantité suivante est cruciale : pour tout ensemble E de périmètre fini, définissons la constante τ (E) par ® ´ PK (F ) |E| τ (E) := inf R : F ⊂ E, 0 < |F | < . 2 ||νE ||K d H n−1 ∗ ∂∗E∩∂ F

On a évidemment τ (E) ≥ 1, et τ (E) = 1 à chaque fois que E admet, par exemple, deux composantes connexes disjointes. Il n’est pas étonnant que l’existence d’une inégalité de Sobolev non-triviale soit liée au fait que τ (E) > 1, et en effet on a exactement, comme il est prouvé dans le papier ([6], Lemme 3.1) : Proposition 2.1. — Pour toute fonction f ∈ BV ∩ L∞ (Rn ) et pour tout ensemble de périmètre fini E, on a Z mK ||Df ||K (E) ≥ (τ (E) − 1) |f − m(f, E)|||νE ||K d H n−1 , MK ∂∗E où m(f, E) est la valeur médiane de f sur E, mK et MK sont les constantes définies dans l’introduction, qui font que || · ||K est équivalent à la norme euclidienne, ||Df ||K est la mesure K-variation totale de Df et l’ensemble E sur lequel elle est calculée est en effet l’ensemble des points de densité 1 de E (précision nécessaire puisque ||Df ||K pourrait avoir une partie singulière et il est nécessaire de fixer l’ensemble sur lequel on intègre sans oublier des ensembles Lebesgue-négligeables). Ce qui est très utile est que, bien que l’ensemble E puisse avoir une valeur de τ (E) très faible, il est toujours possible de remplacer tout E qui a un déficit δ(E) suffisamment petit par un nouvel ensemble G satisfaisant des bornes inférieures sur τ (G). En effet on a ([6], Lemme 3.2) : Lemme 1. — Soient E ⊂ Rn de périmètre fini et λ > 1. Il existe alors un sousensemble F ⊂ E maximal parmi ceux qui satisfont 0 < |F | < |E| 2 et PK (F ) ≤ R λ ∂∗E∩∂ ∗ F ||νE ||K d H n−1 . Avec ce lemme, il est enfin possible d’établir ce qui suit ([6], voir le théorème 3.4 et une partie de la démonstration du théorème 1.1, dans la section 3.5) : Proposition 2.2. — Il existe une constante k(n) suffisamment petite (calculée explicitement dans le théorème 3.4 de [6]) telle que, pour tout ensemble de périmètre mK et de mesure finis E avec δ(E) ≤ k(n), en prenant λ = 1 + M k(n) et en considérant K

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

228

F. SANTAMBROGIO

l’ensemble F ⊂ E maximal provenant du lemme précédent, son complément G = E \F satisfait : δ(E) δ(E) τ (G) ≥ λ, δ(G) ≤ , A(E) ≤ + A(G). k(n) k(n) p Ceci montre évidemment que l’inégalité A(G) ≤ C δ(G) est suffisante pour démontrer (3). En effet, A(E) étant bornée (on a A(E) ≤ 2), (3) est évident si δ(E) ≥ k(n) (il suffit de choisir une constante C(n) ≥ √ 2 ) et, pour δ(E) ≤ k(n), k(n)

on aurait A(E) ≤

» δ(E) C0 » 1 » δ(E) + C δ(G) = p δ(E). + A(G) ≤ p k(n) k(n) k(n)

2.2. Les autres ingrédients Tout d’abord il faut revenir sur le transport T = ∇φ, qui est le gradient d’une fonction convexe. Or, le théorème d’Alexandrov dit que toute fonction convexe admet un développement à l’ordre deux presque partout, donc une matrice hessienne dite au sens d’Alexandrov. Le terme det(DT ) = det(D2 φ) dans le changement de variable fait intervenir exactement cette matrice hessienne. On sait aussi que la matrice hessienne au sens des distributions d’une fonction convexe est positive, et elle est donc une mesure positive (localement finie). Ceci implique en particulier que T est une fonction (vectorielle) BV. De plus, il se trouve que la hessienne au sens d’Alexandrov, qu’on 2 notera DA φ, coïncide avec la partie absolument continue de la hessienne au sens 2 des distributions. Ceci permet également de dire que DA φ ≤ D2 φ (et, en prenant les traces, ∆A φ ≤ ∆φ), et cette inégalité est extrêmement utile puisque dans l’intégration R R par partie qui fait passer de ∇ · T à ∂ ∗ E T · νE la divergence qui doit apparaître est bien celle au sens des distributions... ; on a donc Z Z 1 1 1 1− n 2 n n n|K| |E| = n (det(DA φ)) ≤ ∆A φ E Z E Z Z ≤ ∆φ = T · νE ≤ ||T ||∗K ||νE ||K ≤ PK (E), E ∂E ∂E Z Z n−1 ∗ δ(E) ≥ 1−||T (x)||K d H + ||(∆ − ∆A )φ||(E) + (λA (x)−λG (x)) dx. ∂∗E

E

Cette inégalité montre les trois termes estimés par δ(E). Le premier sert dans l’inégalité (8). Le deuxième et le troisième servent à préciser l’inégalité (6) dans un cadre BV, pour l’utiliser ensuite dans la proposition 2.1. En effet, dans cette proposition, c’est toute la mesure correspondant à la dérivée distributionnelle de T qui apparaît, et le deuxième terme gère sa partie singulière (et la nécessité de faire apparaître une norme || · ||K donne lieu à d’autres coefficients mK /MK ). Le troisième gère sa partie absolument continue, et ce grâce à ce lemme ([6], Lemme 2.5).

ASTÉRISQUE 348

(1034)

INÉGALITÉS ISOPÉRIMÉTRIQUES QUANTITATIVES

229

Lemme 2. — Étant donnés n nombres réels 0 ≤ λ1 ≤ · · · ≤ λn , on a 7n2 (λA − λG ) ≥

n 1 X (λk − λG )2 , λn k=1

où λG et λA indiquent les moyennes géométriques et aritmétiques des λi , respectivement. 2 En prenant comme λi les valeurs propres de DT = DA φ, avec λG = 1, et en p t considérant la norme matricielle |M | = T r(M M ), qui peut être exprimée, quand M t = M (ce qui est le cas pour DT , et ceci est une autre raison de préférer le transport de Brenier au transport de Knothe) comme la norme euclidienne du vecteur des valeurs propres, ceci permet d’établir   Z Z Z |DT − I| ≤ 7n2 λn (x)dx (λA (x) − λG (x))dx, E

E

E

et la conclusion suit, à des calculs près, si on remarque que λn (x) − 1 ≤ |DT (x) − I|. 2.3. Comment conclure et comment obtenir C(n) plutôt que C(n, K) Si on reprend l’ensemble G construit dans la section 2.1, et si on applique les résultats de la section 2.2 à G plutôt qu’à E, on obtient Z δ(G) ≥ (1 − ||T ||∗K )||νG ||K d H n−1 , ∗ ∂ G Z » |DT (x) − I|dx. C(n) δ(G) ≥ ||DTsing ||(E) + E

Si dans cette dernière inégalité on remplace, composante par composante, les normes euclidiennes par des normes || · ||K (ce qui « coûte » un facteur mK /MK ) et que l’on applique la proposition 2.1, on obtient Z ã Å mK » C n, δ(G) ≥ ||T (x) − x − x0 ||∗K ||νG ||K d H n−1 . MK ∂∗G On applique ensuite l’inégalité (8) et la proposition suivante ([6], Lemme 3.5) : Proposition 2.3. — Pour tout ensemble de perimètre et de mesure finis G, on a Z mK A(G) ≤ |1 − ||x||∗K | ||νG ||K d H n−1 . MK ∂∗G Ceci donne l’inégalité cherchée pour G. Comme on l’a fait remarquer à la fin de la section 2.1, ceci implique la même inégalité pour E, c’est-à-dire (3), dans la forme Å ã mK » (9) A(E) ≤ C n, δ(E), MK où en effet la constante ne dépend pas seulement de la dimension n, mais aussi du convexe K, par voie du ratio mK /MK (son élongation).

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

230

F. SANTAMBROGIO

Il est cependant possible de se débarrasser de cette dépendance en K en utilisant le célèbre lemme de Fritz John : Proposition 2.4 (John ([10])). — Pour tout convexe K, borné et d’intérieur non vide, il existe une application affine L : Rn → Rn et un nombre r > 0 tels que B(0, r) ⊂ L(K) ⊂ B(0, nr). En appliquant l’inégalité (9) à L(E) à la place de E et L(K) à la place de K, en remarquant que mL(K) /ML(K) ≥ 1/n et que PK (E) = PL(K) (L(E)), l’inégalité (3) est enfin démontrée.

RÉFÉRENCES [1] F. Bernstein – Über die isoperimetrische Eigenschaft des Kreises auf der Kugeloberfläche und in der Ebene, Math. Ann. 60 (1905), p. 117–136. [2] T. Bonnesen – Über das isoperimetrische Defizit ebener Figuren, Math. Ann. 91 (1924), p. 252–268. [3] Y. Brenier – Polar factorization and monotone rearrangement of vector-valued functions, Comm. Pure Appl. Math. 44 (1991), p. 375–417. [4] L. A. Caffarelli – The regularity of mappings with a convex potential, J. Amer. Math. Soc. 5 (1992), p. 99–104. [5] L. Esposito, N. Fusco & C. Trombetti – A quantitative version of the isoperimetric inequality : the anisotropic case, Ann. Sc. Norm. Super. Pisa Cl. Sci. 4 (2005), p. 619–651. [6] A. Figalli, F. Maggi & A. Pratelli – A mass transportation approach to quantitative isoperimetric inequalities, Invent. Math. 182 (2010), p. 167–211. [7] B. Fuglede – Stability in the isoperimetric problem for convex or nearly spherical domains in Rn , Trans. Amer. Math. Soc. 314 (1989), p. 619–638. [8] N. Fusco, F. Maggi & A. Pratelli – The sharp quantitative isoperimetric inequality, Ann. of Math. 168 (2008), p. 941–980. [9] R. R. Hall, W. K. Hayman & A. W. Weitsman – On asymmetry and capacity, J. Analyse Math. 56 (1991), p. 87–123. [10] F. John – Extremum problems with inequalities as subsidiary conditions, in Studies and Essays Presented to R. Courant on his 60th Birthday, January 8, 1948, Interscience Publishers, Inc., New York, N. Y., 1948, p. 187–204. [11] H. Knothe – Contributions to the theory of convex bodies, Michigan Math. J. 4 (1957), p. 39–52.

ASTÉRISQUE 348

(1034)

INÉGALITÉS ISOPÉRIMÉTRIQUES QUANTITATIVES

231

[12] V. D. Milman & G. Schechtman – Asymptotic theory of finite-dimensional normed spaces, Lecture Notes in Math., vol. 1200, Springer, 1986. [13] G. Wulff – Zur Frage der Geschwindigkeit des Wachstums und der Auflösung der Kristallflächen, Z. Kristallogr. 34 (1901), p. 449–530.

Filippo SANTAMBROGIO Laboratoire de Mathématiques Université Paris-Sud Bâtiment 425 F–91405 Orsay Cedex E-mail : [email protected]

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

348

ASTÉRISQUE 2012

SÉMINAIRE BOURBAKI VOLUME 2010/2011 EXPOSÉS 1027-1042 (1035) The fundamental lemma and the Hitchin fibration Thomas C. HALES

SOCIÉTÉ MATHÉMATIQUE DE FRANCE Publié avec le concours du CENTRE NATIONAL DE LA RECHERCHE SCIENTIFIQUE

Séminaire BOURBAKI 63e année, 2010-2011, no 1035, p. 233 à 263

Avril 2011

THE FUNDAMENTAL LEMMA AND THE HITCHIN FIBRATION [after Ngô Bao Châu] by Thomas C. HALES

The study of orbital integrals on p-adic groups has turned out to be singularly difficult. (R. P. Langlands, 1992)

This report describes some remarkable identities of integrals that have been established by Ngô Bao Châu. My task will be to describe why these identities— collectively called the fundamental lemma (FL)—took nearly thirty years to prove, and why they have particular importance in the theory of automorphic representations.

1. BASIC CONCEPTS 1.1. Origins of the fundamental lemma (FL) To orient ourselves, we give special examples of behavior that the theory is designed to explain. Example 1. — We recall the definition of the holomorphic discrete series representations of SL2 (R). For each natural number n ≥ 2, let Vn,+ be the vector space of all holomorphic functions f on the upper half plane h such that Z |f |2 y n−2 dx dy < ∞. h

SL2 (R) acts on Vn,+ : !

a

b

c

d

· f (z) = (−bz + d)−n f

 az − c  . −bz + d

Similarly, for each n ≥ 2, there is an anti-holomorphic discrete series representation Vn,− . These infinite dimensional representations have characters that exist as locally

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

234

T. C. HALES

integrable functions Θn,± . The characters are equal: Θn,+ (g) = Θn,− (g), except when g is conjugate to a rotation

γ=

cos θ

sin θ

− sin θ

cos θ

! .

When g is conjugate to γ, a remarkable character identity holds: (2)

Θn,− (γ) − Θn,+ (γ) =

ei(n−1)θ + e−i(n−1)θ . eiθ − e−iθ

It is striking that numerator of the difference of two characters of infinite dimensional representations collapses to the character of a two dimensional representation γ 7→ γ n−1 of the group H of rotations. Shelstad gives general characters identities of this sort [49].

We find another early glimpse of the theory in a letter to Singer from Langlands in 1974 [33]. Singer had expressed interest in a particular alternating sum of dimensions of spaces of cusp forms of G = SL2 over a totally real number field F . Langlands’s reply to Singer describes then unpublished joint work with Labesse [32]. Without going into details, we remark that in the calculation of this alternating sum, there is again a collapse in complexity from the three dimensional group SL2 to a sum indexed by one-dimensional groups H (of norm 1 elements of totally imaginary quadratic extensions of F ). These two examples fit into a general framework that have now led to major results in the theory of automorphic representations and number theory, as described in Section 7. Langlands holds that methods should be developed that are adequate for the theory of automorphic representations in its full natural generality. This means going from SL2 (or even a torus) to all reductive groups, from one local field to all local fields, from local fields to global fields and back again, from the geometric side of the trace formula to the spectral side and back again. Moreover, interconnections between different reductive groups and Galois groups should be included, as predicted by his general principle of functoriality. Thus, from these early calculations of Labesse and Langlands, the general idea developed that one should account for alternating sums (or κ-sums as we shall call them because they occasionally involve roots of unity other than ±1) that appear in the harmonic analysis on a reductive group G in terms of the harmonic analysis on groups H of smaller dimension. The FL is a concrete expression of this idea.

ASTÉRISQUE 348

(1035)

THE FUNDAMENTAL LEMMA AND THE HITCHIN FIBRATION

235

1.2. Orbital integrals This section provides brief motivation about why researchers care about integrals over conjugacy classes in a reductive group. Further motivation is provided in Section 7. It is a basic fact about the representation theory of a finite group that the set of irreducible characters is a basis of the vector space of class functions on the group. A second basis of that vector space is given by the set of characteristic functions of the conjugacy classes in the group. We will loosely speak of any linear relation among the set of characteristic functions of conjugacy classes and the set of irreducible characters as a trace formula. More generally, we consider a reductive group G over a local field. Each admissible representation π of G defines a distribution character: Z f (g)π(g) dg, f ∈ Cc∞ (G), f 7→ trace G

with dg a Haar measure on G. A trace formula in this context should be a linear relation among characteristic functions of conjugacy classes and distribution characters. To put all terms of a trace formula on equal footing, the characteristic function of a conjugacy class must also be treated as a distribution, called an orbital integral: Z f 7→ O(γ, f ) = f (g −1 γg) dg, f ∈ Cc∞ (G), Iγ \G

where Iγ is the centralizer of γ ∈ G. The FL is a collection of identities among orbital integrals that may be used in a trace formula to obtain identities among representations π. 1.3. Stable conjugacy At the root of these κ-sum formulas is the distinction between ordinary conjugacy and stable conjugacy. Example 3. — A clockwise rotation and counterclockwise rotation ! ! cos θ − sin θ cos θ sin θ and − sin θ cos θ sin θ cos θ
0 in SL2 (R) are conjugate by the complex matrix 0i −i , but they are not conjugate in the group SL2 (R) when θ 6∈ Zπ. Indeed, a matrix calculation shows that every element of GL2 (R) that conjugates the rotation to counter-rotation has odd determinant, thereby falling outside SL2 (R). Alternatively, they are not conjugate in SL2 (R) because the character identity (2) separates them. Let G be a reductive group defined over a field F with algebraic closure F¯ .

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

236

T. C. HALES

Definition 4. — An element γ 0 ∈ G(F ) is said to be stably conjugate to a given regular semisimple element γ ∈ G(F ) if γ 0 is conjugate to γ in the group G(F¯ ). There is a Galois cohomology group that can be used to study the conjugacy classes within a given stable conjugacy class. Let Iγ be the centralizer of an element γ ∈ G(F ). The centralizer is a Cartan subgroup when γ is a (strongly) regular semisimple element. Write γ 0 = g −1 γg, for g ∈ G(F¯ ). For every element σ of the Galois group Gal(F¯ /F ), we have g σ(g)−1 ∈ Iγ (F¯ ). These elements define in the Galois cohomology group H 1 (F, Iγ ) a class, which does not depend on the choice of g. It is the trivial class when γ 0 is conjugate to γ. Example 5. — The centralizer Iγ of a regular rotation γ is the subgroup of all rotations in SL2 (R). The group Iγ (C) is isomorphic to C× . Each cocycle is determined by the value r ∈ Iγ (C) = C× of the cocycle on the generator of Gal(C/R). A given r ∈ C× satisfies the cocycle condition when r ∈ R× and represents the trivial class in cohomology when r is positive. This identifies the cohomology group: H 1 (R, Iγ ) = R× /R× + = Z/2Z. This cyclic group of order two classifies the two conjugacy classes within the stable conjugacy class of a rotation. When F is a local field, A = H 1 (F, Iγ ) is a finite abelian group. Every function A → C has a Fourier expansion as a linear combination of characters κ of A. The theory of endoscopy is the subject that studies stable conjugacy through the separate characters κ of A. Allowing ourselves to be deliberately vague for a moment, the idea of endoscopy is that the Fourier mode of κ (for given Iγ and G) produces oscillations that cause some of the roots of G to cancel away. The remaining roots are reinforced by the oscillations and become more pronounced. The root system consisting of the pronounced roots defines a group H of smaller dimension than G. With respect to the harmonic analysis on the two groups, the mode of κ on the group G should be related to the dominant mode on H. 1.4. Endoscopy The smaller group H, formed from the “pronounced” subset of the roots of G, is called an endoscopic group. Hints about how to define H precisely come from various sources. – It should be constructed from the data (G, Iγ , κ), with γ regular semisimple. – Its roots should be a subset of the roots of G (although H need not be a subgroup of G).

ASTÉRISQUE 348

(1035)

THE FUNDAMENTAL LEMMA AND THE HITCHIN FIBRATION

237

– H should have a Cartan subgroup IH ⊂ H isomorphic over F to the Cartan subgroup Iγ of G, compatible with the Weyl groups of the two groups H and G. – Over a nonarchimedean local field, the spherical Hecke algebra on G should be related to the spherical algebra on H. – It should generalize the example of Labesse and Langlands. ˆ that is defined over C. The character Every reductive group G has a dual group G group of a Cartan subgroup in the dual group is the cocharacter group of a Cartan ˆ are the coroots of G. The dual of a semisimple subgroup in G, and the roots of the G simply connected semisimple group is an adjoint group, and vice versa. For example, ˆ ˆ we have dualities GL(n) = P GL(n) and Sp(2n) = SO(2n + 1). The duality between the root systems of Sp(2n) and SO(2n + 1) interchanges short and long roots. The ˆ have isomorphic Weyl groups. We write Tˆ ⊂ G ˆ for a Cartan subgroup groups G and G L ˆ of G. There is a somewhat larger dual group G that is defined as a semidirect product ˆ with the Galois group of the splitting field of G. of G ˆ (or There are indications that the groups H should be defined through the dual G more precisely, L G) of G: – Langlands’s principle of functoriality is a collection of conjectures, relating the representation theory of groups when their dual groups are related. Since the examples about SL2 in Section 1.1 are representation theoretic, we should look to the dual. – The Satake transform identifies the spherical Hecke algebra with a dual object. – The Kottwitz-Tate-Nakayama isomorphism identifies the group of characters on H 1 (F, Iγ ) with a subquotient π0 (TˆΓ ) of the dual torus Tˆ. (This subquotient is the group of components of the set of fixed points of Tˆ under an action of the Galois group of the splitting field of Iγ .) Definition 6 (Endoscopic group). — Let F be a local field. The endoscopic group H associated with (G, Iγ , κ) is defined as follows. By the Kottwitz-Tate-Nakayama isomorphism just mentioned, κ is represented by an element of the dual torus, Tˆ. By an abuse of notation, we will also write κ ∈ Tˆ for this element. The identity component ˆ of a quasi-split reductive group H over F . The of the centralizer of κ is the dual H choice of a particular quasi-split form H among its outer forms is determined by the condition that there should be an isomorphism over F of a Cartan subgroup IH of H with Iγ in G, compatible with their respective Weyl group actions and outer automorphisms. We write ρ for the choice of quasi-split form H among its outer forms and refer to the pair (κ, ρ) as endoscopic data for H. More generally, if G is defined over any field,

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

238

T. C. HALES

we can use a pair (κ, ρ), with κ ∈ Tˆ, to define an endoscopic group H over that same field. One of the challenging aspects of the FL is that it is an assertion of direct relation between groups that are defined by a dual relation. Very limited information (such as Cartan subgroups, root systems, and Weyl groups) can be transmitted from the endoscopic group H to G through the dual group.

2. A BIT OF LIE THEORY 2.1. Characteristic polynomials Let G be a split reductive group over a field k and let g be its Lie algebra, with split Cartan subalgebra t and Weyl group W . We assume throughout this report that the characteristic of k is sufficiently large (more than twice the Coxeter number of G, to be precise). The group G acts on g by the adjoint action. By Chevalley, the restriction of regular functions from g to t induces an isomorphism k[g]G = k[t]W . We let c = Spec (k[t]W ), and let χ : g → c be the morphism deduced from Chevalley’s isomorphism. The following example shows that χ : g → c is a generalization of the characteristic polynomial of a matrix. Example 7. — If G = GL(n), then k[g]G is a polynomial ring, generated by the coefficients ci of the characteristic polynomial (8)

p(t) = tn + cn−1 tn−1 + · · · + c0

of a matrix γ ∈ g = gl(n). The morphism χ : g → c can be identified with the “characteristic map” that sends γ to (cn−1 , . . . , c0 ). 2.2. Kostant section Kostant constructs a section  : c → g of χ : g → c whose image lies in the set greg of regular elements of g. In simplified terms, this constructs a matrix with a given characteristic polynomial. Example 9. — When g = sl(2), the Lie algebra consists of matrices of trace zero, and the characteristic polynomial has the form t2 + c. The determinant c generates k[g]G . The Kostant section maps c to ! 0 −c (10) . 1 0

ASTÉRISQUE 348

(1035)

THE FUNDAMENTAL LEMMA AND THE HITCHIN FIBRATION

239

Example 11. — If g = gl(n), we can construct the companion matrix of a given characteristic polynomial p ∈ k[t], by taking the endomorphism t of R = k[t]/(p), expressed as a matrix with respect to the standard basis 1, t, t2 , . . . , tn−1 of R. The companion matrix is a section c → g that is somewhat different from the Kostant section. Nevertheless, the Kostant section can be viewed as a generalization of this that works uniformly for all Lie algebras g. 2.3. Centralizers Each element γ ∈ g has a centralizer Iγ in G. If two elements of greg have the same image a in c, then their centralizers are canonically isomorphic. By descent, there is a regular centralizer Ja , for all a in c, that is canonically isomorphic to Iγ for every regular element γ such that χ(γ) = a. Example 12. — Suppose G = SL(2). We may identify Ja with the centralizer of (10) to obtain the group of matrices with determinant 1 of the form ! x −y c . y x Example 13. — If g = gl(n), then the centralizer of the companion matrix with characteristic polynomial p can be identified with the centralizer of t in GL(R), where R = k[t]/(p). An element of gl(R) centralizes the regular element t if and only if it is a polynomial in t. Thus, the centralizer in gl(R) is R and the centralizer in GL(R) is Ja = R× . 2.4. Discriminant and resultant Let Φ be the root system of a split group G. The differentials dα of roots define a polynomial called the discriminant: Y (14) dα α∈Φ

on t. The polynomial is invariant under the action of the Weyl group W and equals a function on c. The divisor DG of this polynomial c is called the discriminant divisor. Example 15. — Let G = GL(n). The Lie algebra t can be identified with the diagonal matrix algebra with coordinates t1 , . . . , tn along the diagonal. The discriminant is Y (ti − tj ). i6=j

This is invariant under the action of the symmetric group on n letters and can be expressed as a polynomial in the coefficients ci of the characteristic polynomial. In

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

240

T. C. HALES

particular, the discriminant of the characteristic polynomial t2 + bt + c is the usual discriminant b2 − 4c. If H is a split endoscopic group of G, there is a morphism ν : cH → c

(16)

that comes from an isomorphism of Cartan subalgebras tH → t and an inclusion of Weyl groups WH ⊂ W : cH = t/WH → t/W = c. There exists a resultant divisor R such that (17)

ν ∗ DG = DH + 2 R.

Example 18. — Let H = GL(2) × GL(2), embedded as a block diagonal subgroup of GL(4). Identify roots of H with roots of G under this embedding. The morphism ν : cH → c, viewed in terms of characteristic polynomials, maps the pair (p1 , p2 ) of quadratic polynomials to the quartic p1 p2 . Let t1i , t2i be the roots of pi , for i = 1, 2. The resultant is Y j (t1 − tk2 ). j6=k

The resultant is symmetric in the roots of p1 and in the roots of p2 and thus can be expressed as a polynomial in the coefficients of p1 and p2 . It vanishes exactly when p1 and p2 have a common root.

3. THE STATEMENT OF THE FL Let G be a reductive group scheme over the ring of integers Ov of a nonarchimedean local field Fv in positive characteristic. Let q be the cardinality of the residue field k. The map χ : g → c is compatible with stable conjugacy in the sense that two regular semisimple elements in g(Fv ) are stably conjugate exactly when they have the same image in c(Fv ). The results of Section 1.3 (transported to the Lie algebra) show that each element γ stably conjugate to (a) carries a cohomological invariant in H 1 (Fv , Ja ), which is trivial for elements conjugate to (a). For each regular semisimple element a ∈ c(Fv ) and character κ : H 1 (Fv , Ja ) → C× , we write hκ, γi for the pairing of κ with the cohomological invariant of γ. A κ-orbital integral is defined to be Z X (19) Oκ (a) = hκ, γi1g(Ov ) (Ad g −1 (γ))dg, {γ:χγ=a}/∼

ASTÉRISQUE 348

Iγ \G(Fv )

(1035)

THE FUNDAMENTAL LEMMA AND THE HITCHIN FIBRATION

241

where Iγ centralizes γ, and the sum runs over representatives of the conjugacy classes in g(Fv ) with image a. Here 1g(Ov ) is the characteristic function of g(Ov ). A Haar measure on G has been fixed that gives G(Ov ) volume 1. The character κ determines a reductive group scheme H over Ov , according to the construction of (1.4). In general, we add a subscript H to indicate quantities constructed for H, analogous to those already constructed for G. In particular, let cH be the Chevalley quotient of the Lie algebra of H. There is a morphism ν : cH → c. When κ is trivial, we write SO for Oκ . Here is the main theorem of Ngô [46]. Theorem 20 (Fundamental lemma (FL)). — Assume that the characteristic of Fv is greater than twice the Coxeter number of G. For all regular semisimple elements a ∈ cH (Ov ) whose image ν(a) in c is also regular semisimple, the κ orbital integral of ν(a) in G is equal to the stable orbital integral of a in H, up to a power of q: (21)

Oκ (ν(a)) = q rv (a) SOH (a),

where rv (a) = degv (a∗ R).

A sketch of Ngô’s proof of the FL appears in Section 6.5. The FL has been obtained from the character identity (2) for SL2 : ei(n−1)θ + e−i(n−1)θ , eiθ − e−iθ by multiple levels of generalization. A general reductive group G replaces SL2 and a nonarchimedean local field replaces R. Orbital integrals are used rather than characters, roots of unity hκ, γi rather than signs ±1, an endoscopic group H rather than the rotation group, and a transfer factor q rv (a) rather than a denominator eiθ − e−iθ . Over the years from the time that Langlands first conjectured the FL until the time that Ngô gave its proof, the FL has been transformed into simpler form [36]. The statement of the FL appears here in its simple form. Section 8 makes a series of comments about the original form of the FL and its reduction to this simple form. Except for that section, our discussion is based on this simple form of the FL. In particular, we assume that the field Fv has positive characteristic and that the conjugacy classes live in the Lie algebra rather than the group. Analogous identities (transfer of Schwartz functions) on real reductive groups have been established by Shelstad [49]. Her work gives a precise form to the idea that the oscillations of a character κ cause certain roots to cancel away and others to become more pronounced: normalized κ-orbital integrals extend smoothly across the singular hyperplanes of some purely imaginary roots α, but jump across others. At a philosophical distance, Ngô’s use of perverse sheaves can be viewed as p-adic substitute for differential operators, introduced by Harish-Chandra to study invariant distributions near a singular element in the group and adopted by Shelstad as a primary tool. Θn,− (γ) − Θn,+ (γ) =

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

242

T. C. HALES

4. AFFINE SPRINGER FIBERS 4.1. Spectral curves Calculations in special cases show why the FL is essentially geometric in nature, rather than purely analytic or combinatorial. We recall a favorite old calculation of mine of the orbital integrals for so(5) and sp(4), the rank two odd orthogonal and symplectic Lie algebras [21]. Let Fv be a nonarchimedean local field of residual characteristic greater than 2. Let k be the residue field with q elements. Choose a ∈ c(Fv ) and let 0, ±t1 , ±t2 be the eigenvalues of the Kostant section γ = (a) in so(5) ⊂ gl(5). Assume that there is an odd natural number r such |α(γ)| = q −r/2 , for every root α of so(5). We use the eigenvalues to construct an elliptic curve Ea over k, given by y 2 = (1−x2 τ1 )(1−x2 τ2 ), where τi is the image of t2i /$r in the residue field, for a uniformizer $. By direct calculation we find that the stable orbital integral SO(a, f ) of a test function f equals the number of points on the elliptic curve: (22)

A(q) + B(q) card(Ea (k)),

up to some rational functions A and B, depending on f . Similarly, in the group sp(4) ⊂ gl(4), there is an element a0 with related eigenvalues ±t1 , ±t2 . According to the general framework of (twisted) endoscopy, there should be a corresponding function f 0 on sp(4) such that the stable orbital integral SO(a0 , f 0 ) in sp(4) is equal to (22). A calculation of the orbital integral of f 0 gives a similar formula, with a different elliptic curve Ea0 0 , but otherwise identical to (22). The elliptic curves Ea and Ea0 0 have different j-invariants (which vary with a and a0 ). The proof of the desired identities of orbital integrals in this case is obtained by producing an isogeny between Ea and Ea0 0 . (The identities of orbital integrals are quite nontrivial, even though the Lie algebras so(5) and sp(4) are abstractly isomorphic.) In a similar way, hyperelliptic curves appear in calculations of certain orbital integrals in groups of higher rank. When orbital integrals are computed by brute force, these curves appear as freaks of nature. As it turns out, they are not freaks at all, merely perverse. One of the major challenges of the proof of the FL and one of the major triumphs of Ngô has been to find the natural geometrical setting that combines orbital integrals and spectral curves. 4.2. Orbital integrals as affine Springer fibers An orbital integral can be computed by solving a coset counting problem. The value of the integrand (19) is unchanged if g is replaced with any element of the coset g G(Ov ). The integral is thus expressed as a discrete sum over cosets of G(Ov )

ASTÉRISQUE 348

(1035)

THE FUNDAMENTAL LEMMA AND THE HITCHIN FIBRATION

243

in G modulo the group action by Iγ . Each coset g G(Ov ) contributes a root of unity hκ, γi or 0 to the value of the integral depending on whether Ad g −1 γ ∈ g(Ov ) (again modulo symmetries Iγ ). This interpretation as a coset counting problem makes the FL appear to be a matter of simple combinatorics. However, purely combinatorial attempts to prove the FL have failed (for good reason). ¯ be the set of cosets that fulfill the support condition (19) of the Let Mv (a, k) ¯ integral over k: ¯ = {g ∈ G(F¯v )/G(O ¯v ) | Ad g −1 γ0 ∈ g(O ¯v )}, Mv (a, k)

γ0 = (a).

¯v ) is the set of Kazhdan and Lusztig showed that the coset space G(F¯v )/G(O ¯ k-points of an inductive limit of schemes called the affine Grassmannian. Moreover, ¯ Mv (a, k) itself is the set of points of an ind-scheme Mv (a), called the affine Springer fiber [28]. Each irreducible component of Mv (a) has the same dimension. This dimension, δv (a), is given by a formula of Bezrukavnikov [8]. From that formula, it follows that the dimension of the affine Springer fiber of ν(a) in G exceeds the dimension of the affine Springer fiber of a in H by precisely rv (a). The factor q rv (a) that appears in the FL is forced to be what it is because of this simple dimensional analysis. Goresky, Kottwitz, and MacPherson made an extensive investigation of affine Springer fibers and conjectured that their cohomology groups are pure. Assuming this conjecture, they prove the FL for elements whose centralizer is an unramified Cartan subgroup [19]. They prove the purity result in particular cases by constructing pavings of the affine Springer fibers [20]. Laumon has made a systematic investigation of the affine Springer fibers for unitary groups. Ngô joined the effort, and together they succeeded in giving a complete proof of the FL for unitary groups [41]. Ngô encountered two major obstacles in trying to generalize this earlier work to an arbitrary reductive group. These approaches calculate the equivariant cohomology by passing to a fixed point set in Mv (a) under a torus action. (In the case of unitary groups, over a quadratic extension each endoscopic group becomes isomorphic to a Levi subgroup of GL(n). The torus action comes from the center of this Levi.) However, in general, a nontrivial torus action on the affine Springer fiber simply does not exist. The second serious obstacle comes from the purity conjecture itself. In accordance with Deligne’s work, Ngô believed that the task of proving purity results should become easier when the affine Springer fibers are combined into families rather than treated in isolation. With this in mind, he started to investigate families varying over a base curve X. This moves us from local geometry of a p-adic field Fv to the global geometry of the function field of X. He found that the Hitchin fibration is the global

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

244

T. C. HALES

analogue of affine Springer fibers. The Hitchin fibers will be described in the next section. Deligne’s purity theorem applies in this setting [18].

5. HITCHIN FIBRATION The Hitchin fibration was introduced in 1987 in the context of completely integrable systems [27]. Roughly, the Hitchin fibration is the stack obtained when the characteristic map g → c varies over a curve X. Ngô carries out all geometry in the language of stacks without compromise, as developed in [40]. For this reason, groupoids (a category in which every morphism is invertible) appear with increasing frequency throughout this report. Fix a smooth projective curve X of genus g over a finite field k. We now shift perspective and notation, allowing the constructions in Lie theory from previous sections to vary over the base curve X. In particular, we now let G be a quasi-split reductive group over X that is locally trivial in the etale topology on X. Let g be its Lie algebra G and c the space of characteristic polynomials, both now schemes over X. Let D be a line bundle on X. For technical reasons (stemming from the 2 in the structure constants of sl2 ), we assume that D is the square of another line bundle. At one point in Ngô’s proof of the FL, it is necessary to allow the degree of D to become arbitrarily large (6.5). We place a subscript D to indicate the tensor product with D: gD = g ⊗OXD, etc. We let A be the space of global sections on X with values in cD = c ⊗OX D. The group G acts on g by the adjoint action. Twisting g by any G-torsor E gives a vector bundle Ad(E) over X. Definition 23. — The Hitchin fibration M is the stack given as follows. For any k-scheme S, M(S) = [gD /G](X × S) is the groupoid whose objects are pairs (E, φ), where E is a G-torsor over X × S and φ is a section of Ad(E)D . There exists a morphism f : M → A, obtained as a “stacky” enhancement of the characteristic map χ : g → c over X. In greater detail, χ : g → c gives successively [gD /G] → cD ,

[gD /G](X ×S) → cD (X ×S),

M(S) → A(S),

f : M → A.

In words, the characteristic polynomial of φ is a section of X × S with values in cD ; that is, an element of A(S). We write Ma for the fiber of M over a ∈ A. This is the Hitchin fiber. The centralizers Ja , as we vary a ∈ c, define a smooth group scheme J over c. Now select on A an S-point: a : S → A. There is a groupoid Pa (S) whose objects are Ja -torsors on X × S. Moreover, Pa (S) acts on Ma (S) by twisting a pair (E, φ) by a

ASTÉRISQUE 348

(1035)

THE FUNDAMENTAL LEMMA AND THE HITCHIN FIBRATION

245

Ja -torsor. As the S-point a varies, we obtain a Picard stack P acting fiberwise on the Hitchin fibration M. Example 24. — We give an extended example with G = GL(V ), the general linear group of a vector space V . In its simplest form, a pair (E, φ) is what we obtain when we allow an element γ of the Lie algebra end(V ) to vary continuously along the curve X. As we vary along the curve, the vector space V sweeps out a vector bundle E on X, and the element γ ∈ end(V ) sweeps out a section φ of the bundle end(E)D . For each pair (E, φ), we evaluate the characteristic map v 7→ χ(φv ) of the endomorphism φ at each point v ∈ X. This function belongs to the set A of a global section of the bundle cD over X. This is the morphism f : M → A. Abelian varieties occur naturally in the Hitchin fibration. For each section a = (cn−1 , . . . , c0 ) ∈ A, the characteristic polynomial (25)

tn + cn−1 (v)tn−1 + · · · + c0 (v) = 0,

v ∈ X,

defines an n-fold cover Ya of X (called the spectral curve). By construction, each point of the spectral curve is a root of the characteristic polynomial at some v ∈ X. We consider the simple setting when Ya is smooth and the discriminant of the characteristic polynomial is sufficiently generic. A pair (E, φ) over the section a ∈ A determines a line (a one-dimensional eigenspace of φ with eigenvalue that root) at each point of the spectral curve, and hence a line bundle on Ya . This establishes a map from points of the Hitchin fiber over a to Pic(Ya ), the group of line bundles on the spectral curve Ya . Conversely, just as linear maps can be constructed from eigenvalues and eigenspaces, Hitchin pairs can be constructed from line bundles on the spectral curve Ya . The identity component Pic0 (Ya ) is an abelian variety. 5.1. Proof strategies At this point in the development, it would be most appropriate to insert a booklength discussion of the geometry of the Hitchin fibration, with a full development and many examples. As Langlands speculates in his review of Ngô’s proof, “an exposition genuinely accessible not alone to someone of my generation, but to mathematicians of all ages eager to contribute to the arithmetic theory of automorphic representations, would be, perhaps, . . . close to 700 pages” [37]. To cut 700 pages short, what are the essential ideas? First, as mentioned above, the Hitchin fibration is the correct global analogue of the (local) affine Springer fiber. This analogy can be made precise; an orbital integral over a local field is computed by counting points on an affine Springer fiber, but an orbital integral over the ring of adeles is computed by counting points on a fiber of the Hitchin fibration. Moreover, the description of the affine Springer fiber as a functor ˆ plus a bit more, where Xv is a formal disk) (an S-point is a G-torsor on Xv ×S

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

246

T. C. HALES

imitates the description of the Hitchin fibration as a stack (an S-point is G-torsor on X × S plus a similar bit more). The relationship between the Hitchin fiber Ma and the affine Springer fiber Mv (a) can be expressed as a factorization of categories (43): Ma modulo symmetries as a product of Mv (a) modulo their symmetries as v runs over closed points of X. Through this relationship, the Hitchin fibration can be used to study orbital integrals and the FL. Second, the Hitchin fibration should be understood insofar as possible through its Picard symmetries P. The obvious reason for this is that it is generally a good idea to study symmetry groups. The deeper reason for this has to do with endoscopy. The objects of the Picard stack are torsors of the centralizer Ja . Although the relationship between G and H is mediated through dual groups, the relationship between centralizers is direct: over cH , there is a canonical homomorphism from the regular centralizer J of G to the regular centralizer JH of H: ν ∗ J → JH .

(26)

Thus, their respective Picard stacks are also directly related and information passes fluently between them. We should try to prove the FL largely at the level of Picard stacks. Third, by working directly with the Hitchin fibration, the difficult purity conjecture of Kottwitz, Goresky, and MacPherson can be bypassed. Finally, continuity arguments may be used, as explained in (5.4). 5.2. Perverse cohomology sheaves We give a brief summary without proofs of some of the main results proved by Ngô about the perverse cohomology sheaves of the Hitchin fibration. There is an etale open subset A˜ of A⊗k k¯ that has the technical advantage of killing ˜ unwanted monodromy. The tilde will be used consistently to mark quantities over A. For example, if we write f ani : Mani → Aani for the Hitchin fibration, restricted to the ˜ ani → A˜ani is the corresponding open set of anisotropic elements of A, then f˜ani : M ˜ Hitchin fibration over the anisotropic part of A. ¯ ` is The conditions of Deligne’s purity theorem are satisfied [18], so that f˜ani Q ∗

isomorphic to a direct sum of perverse cohomology sheaves: ¯ ` )[−n]. H n (f˜∗ani Q

p

˜ ani gives an action on the perverse cohomology sheaves, The action of P˜ ani on M which factors through the sheaf of components π0 = π0 (P˜ ani ). The sheaf π0 is an explicit quotient of the constant sheaf X∗ of cocharacters, and hence X∗ acts on the

ASTÉRISQUE 348

(1035)

THE FUNDAMENTAL LEMMA AND THE HITCHIN FIBRATION

247

perverse cohomology sheaves through π0 . As a result, the perverse cohomology sheaves break into a direct sum of κ-isotypic pieces ¯ ` )κ , Lκ = pH n (f˜∗ani Q

(27)

as κ runs over elements in the dual torus Tˆ. (By duality, the cocharacter group X∗ is the group of characters of the dual torus, which gives the pairing between Tˆ and X∗ .) We use the same curve X and same line bundle D both for G and for its endoscopic groups H. The morphism ν : cH → c from (16) extends to give ν : cH,D → cD and then by taking sections of these bundles, we obtain a morphism between their spaces of global sections: ν : AH → A.

(28)

We hope that no confusion arises by using the same symbol ν for all of these morphisms. For each κ ∈ Tˆ, there is a closed subspace A˜κ of A˜ consisting of elements a whose “geometric monodromy” lies in the centralizer of κ in the dual group L G. Each subspace A˜κ is in fact the disjoint union of the images of closed immersions ν : A˜H → A˜

(29)

coming from endoscopic groups H with endoscopic data (κ, . . .). The support of Lκ ∗ lies in A˜ani κ . The geometric content of the FL is to be found in the comparison of ν Lκ with (30)

ani ¯ LH,st = pH n+2r (f˜H,∗ Q` )st (−r), where r = dim(A) − dim(AH ).

The subscript st indicates the isotypic piece with trivial character κ = 1. The anisotropic locus A˜ani admits a stratification by a numerical invariant δ : A˜ → N: a A˜ani = A˜ani δ . δ∈N

There is an open set A˜good of A˜ani , given as a union of some strata A˜ani that satisfy: δ (31)

codim(A˜ani δ ) ≥ δ.

5.3. Support theorem The proof of the following theorem about the support of the perverse cohomology sheaves of the Hitchin fibration constitutes the deepest part of the proof of the FL. Theorem 32 (Support theorem). — Let Z be the support of a geometrically simple factor of Lκ . If Z meets ν(A˜good H ) for some endoscopic group H with data (κ, . . .), then Z = ν(A˜ani ). In fact, there is a unique such H. H

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

248

T. C. HALES

A major chapter of the book-length proof of the FL is devoted to the proof of the support theorem. The strategy of the proof is to show that every support Z also appears as the support of some factor in the ordinary cohomology of highest degree of the Hitchin fibration. To move cohomology classes from one degree to another, Ngô uses Poincaré duality and Pontryagin product operations on cohomology coming from ˜ ani . This action the action of the connected component of the identity P˜ 0,ani on M factors through the action of an abelian variety, a quotient of the Picard stack P˜ 0,ani . To show that the support Z can be pushed all the way to the top degree cohomology, it is enough to show that the dimension of this abelian variety is sufficiently large and that the cohomology of the abelian variety acts freely on the cohomology of the Hitchin fiber. The required estimate on the dimension of the abelian variety comes from the inequality (31). Freeness relies on a polarization of the abelian variety. Once the support Z is known to appear as a support in the top degree, he shows that the action of P˜ ani on the Hitchin fibration leads to an explicit description of the top degree ordinary cohomology as the sheaf associated with the presheaf ¯ π0 (P˜ U 7→ Q `

ani

)(U )

.

The supports of π0 can be described explicitly in terms of data in the dual group, in the style of the duality theorems of Kottwitz, Tate, and Nakayama. By checking that the conclusion of the support theorem holds for the particular sheaf π0 , the general support theorem follows. We apply the support theorem with H as the primary reductive group and κ as the trivial character. In this context, the only endoscopic group of H with stable data is H itself. Moreover, ν is the identity map on A˜H . The support theorem takes the following form in this case. Corollary 33. — Let Z be the support of a geometrically simple factor of LH,st . If ˜ani Z meets A˜good H , then Z = AH . 5.4. Continuity and the decomposition theorem The strategy that lies at the heart of the proof of the FL is a continuity argument: arbitrarily complicated identities of orbital integrals can be obtained as limits of relatively simple identities. The complexity of an orbital integral is measured by the dimension of its affine Springer fiber. Growing linearly with degv (a∗ D), this dimension is unbounded as a function of a. Fortunately, globally, we can view an element a for which this degree ∗ at v is large as a limit of elements a0 with small degrees: degw (a0 D) ≤ 1 for all w ∈ X. This follows the principle that a polynomial with repeated roots is a limit of polynomials with simple roots. When the degrees are at most 1, the affine Springer fibers have manageable complexity.

ASTÉRISQUE 348

(1035)

THE FUNDAMENTAL LEMMA AND THE HITCHIN FIBRATION

249

The Beilinson-Bernstein-Deligne-Gabber decomposition theorem for perverse sheaves provides the infrastructure for the continuity arguments [7]. Let S be a ¯ The support Z of a simple perverse sheaf on S is a scheme of finite type over k. closed irreducible subscheme of S. There is a smooth open subscheme U of Z and a local system L on U such that the simple perverse sheaf can be reconstructed as the middle extension of the local system on U : i∗ j!∗ L[dim Z],

i : Z → S,

j : U → Z.

We express this as a continuity principle: if two simple perverse sheaves with the same support Z are equal to the same local system on a dense open U , then they are in fact equal on all of S. More generally, for any irreducible scheme Z of finite type over k, in order to show that two pure complexes on Z are equal in the Grothendieck group, it is enough to check two conditions: 1. Every geometrically simple perverse sheaf in either complex has support all of Z. 2. Equality holds in the Grothendieck group on some dense open subset U of Z. The purpose of the support theorem (32) and its corollary is to give the first condition for the two pure complexes ν ∗ Lκ and LH,st . The idea is that second condition should be a consequence of identities of orbital integrals of manageable complexity, which can be proved by direct calculation. The resulting identity of pure complexes on all of Z should then imply identities of orbital integrals of arbitrarily complexity. This is Ngô’s strategy to prove the FL.

6. MASS FORMULAS 6.1. Groupoid cardinality (or mass) Let C be a groupoid that has finitely many objects up to isomorphism and in which every object has a finite automorphism group. Define the mass (or groupoid cardinality) of C to be the rational number X 1 µ(C) = . card(Aut(x)) x∈obj(C)/iso

Example 34. — Let C be the category whose objects are the elements of a given finite group G and arrows are given by x 7→ g −1 xg, for g ∈ G. Then the set of objects up to isomorphism is in bijection with the set of conjugacy classes, the automorphism group of x is the centralizer of x, and the mass is X X card(orbit(x)) 1 µ(C) = = = 1. card(Aut(x)) card G x/iso

x/iso

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

250

T. C. HALES

Example 35. — Let P be a group that acts simply transitively on a set M . Let C be the category whose set of objects is M , and let the set of morphisms be given by the group action of P on M . There is one object up to isomorphism and its automorphism group is trivial. The mass of C is 1. Example 36. — The following less trivial example appears in Ngô. Let P be the group Gm ×Z defined over a finite field k of cardinality q. Let M = (P1 ×Z)/ ∼, where the equivalence relation (∼) identifies the point (∞, j) with (0, j +1) for all j. Thus, M is an infinite string of projective lines, with the point at infinity of each line joined to the zero point of the next line. The group P acts on M by (p0 , i)·(m0 , j) = (p0 m0 , i+j), where p0 m0 is given by the standard action of Gm on P1 , fixing 0 and ∞. Let σ be ¯ ¯ and the Frobenius automorphism of k/k, and define a twisted automorphism of P (k) −1 ¯ M (k) by σ(x0 , i) = (σx0 , −i). Define a category C with objects given by pairs (37)

¯ × P (k) ¯ such that σ(m) = pm. (m, p) ∈ M (k)

¯ where Define arrows by h ∈ P (k), (38)

h(m, p) = (m0 , p0 ), provided hm = m0 and hp = p0 σ(h).

Then it can be checked by a direct calculation that there are two isomorphism classes of objects in this category, represented by the objects ¯ × P (k) ¯ = (P1 (k) ¯ × Z) × (Gm (k) ¯ × Z). ((0, 1), (1, 1)) and ((1, 0), (1, 0)) ∈ M (k) ¯ σ of order q + 1 acts as automorphisms of the first object, and the The group P (k) group of automorphisms of the second object is trivial. The mass of this category is therefore 1 µ(C) = + 1. q+1 More generally, suppose there exists a function Obj(C) → A from the objects of a groupoid into a finite abelian group A and that the image in A of each object depends only on its isomorphism class. Then for every character κ of A, we can define a κ-mass: µκ (C) =

X x∈obj(C)/iso

hκ, xi . card(Aut(x))

Example 39. — In Example 36, if (m, p) is an object and p = (p0 , j) ∈ Gm × Z, then the image of j in A = Z/2Z depends only on the isomorphism class of the object (m, p). If κ is the nontrivial character of A, then the κ-mass of this groupoid is µκ (C) = −

ASTÉRISQUE 348

1 + 1. q+1

(1035)

THE FUNDAMENTAL LEMMA AND THE HITCHIN FIBRATION

251

6.2. Mass formula for orbital integrals Let Mv (a) be the affine Springer fiber for the element a and let Ja be its centralizer. We write Pv (Ja ) for the group of symmetries of the affine Springer fiber. Let C be the groupoid of k-points of the quotient stack [Mv (a)/Pv (Ja )] with objects (m, p) and morphisms and h defined by the earlier formulas (37) and (38) (substituting Mv (a) for the space M and Pv (Ja ) for the symmetries P ). For each character of H 1 (k, Pv (Ja )) we can naturally define a character κ of H 1 (Fv , Ja ) as well as a character (also called κ) on a finite abelian group A as above. The description of orbital integrals in terms of affine Springer fibers takes the following form. It is a variant of the coset arguments of (4.2). Theorem 40. — For each regular semisimple element a ∈ c(Ov ), the κ-mass of the category C is equal to the κ-orbital integral of a: µκ (C) = c Oκ (a), up to a constant c = vol(Ja0 (Ov ), dtv ) used to normalize measures. 6.3. Product formula for masses Recall from (28) that there is a morphism ν : AH → A. We choose a commutative group scheme Ja0 for which there are homomorphisms (41)

Ja0 → Jν(a) → JH,a

extending the homomorphism (26) and that become isomorphisms over a nonempty open set U of X. The group scheme Ja0 can be chosen to satisfy other simplifying assumptions that we will not list here. The homomorphisms (41) functorially determine an action of P(Ja0 ) on both Hitchin fibrations Mν(a) and MH,a . Changing notation slightly, we will assume that henceforth all masses for both G and H are computed with respect to the same Picard stack P(Ja0 ) in global calculations and with respect to Pv (Ja0 ) in local calculations. This simplifies the comparisons of masses that follow. For each element a ∈ Aani H (k), we have a mass µH (a) of the groupoid of k-points of the Hitchin fiber MH,a modulo symmetry on H. Its image ν(a) ∈ Aani has a κ-mass of the groupoid of k-points of the Hitchin fiber Ma modulo symmetry. For each regular semisimple element a ∈ cH (Ov ), we have a mass of the affine Springer fiber modulo symmetry on H. We write µH,v (a) for this mass. Moreover, if the image ν(a) under the map ν : cH → c is also regular semisimple, there is a κ-mass µκ,v (ν(a)) of the affine Springer fiber modulo symmetry of ν(a) in G. AH is the set of global sections of cH,D over X. For each v ∈ X, we can fix a local trivialization of cH,D at v and evaluate a section a ∈ AH at v to get an element av ∈ cH . We write MH,v (a) = MH,v (av ) for its affine Springer fiber, and µH,v (a) for

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

252

T. C. HALES

the local mass µH,v (av ). Similarly, we write µκ,v (ν(a)) for µκ,v (ν(av )). With all of these conventions in place, we can state the product formula: Theorem 42. — Let a ∈ Aani H (k). The mass of a Hitchin fiber modulo symmetry satisfies a product formula over all closed points of X in terms of the masses of the individual affine Springer fibers modulo symmetries: Y Y µκ (ν(a)) = µκ,v (ν(a)), µH (a) = µH,v (a). v∈X

v∈X

The local factors are 1 for almost all v so that the products are in fact finite. This theorem is a geometric version of the factorization of κ-orbital integrals over the adele group into a product of local κ-orbital integrals in [36]. It confirms the claim that the Hitchin fibration is the correct global analogue of the affine Springer fiber. Proof sketch. — The proof choses an open set of X over which Ja0 is isomorphic to Ja . For a given a, on a possibly smaller open set U of X, the action of P(Ja ) on Ma induces an isomorphism of P(Ja ) with Ma . It follows that the local masses equal 1 for all v ∈ U . The product in the lemma can be taken as extending over the finite set of points X \ U . The lemma is a consequence of a wonderful product formula for stacks, relating the Hitchin fibration to affine Springer fibers: Y (43) [Ma /P(Ja0 )] = [Mv (ν(a))/Pv (Ja0 )]. v∈X\U

A similar formula holds on H. 6.4. Global mass formula The following is the key global ingredient of the proof of the FL. In fact, it can be viewed as a precise global analogue of the FL. Theorem 44 (Global mass formula). — Assume deg(D) > 2g, where g is the genus ani of X. Then for all a ˜ ∈ A˜good H (k) with images a ∈ AH (k) and ν(a) in A(k), the following mass formula holds: µκ (ν(a)) = q r µH (a), where r = dim A − dim AH . Proof sketch. — The proof first defines a particularly nice open set U˜ of A˜good ⊂ A˜ani H . H The idea is to place conditions on U˜ to make it as nice as possible, without imposing so many conditions that it fails to be open. There exists an open set U˜ of A˜good on H which both of the following conditions hold: ¯ cuts the divisor DH,D + RD transversally. ˜ k) – Each a ˜ ∈ U( – For each n, the restriction to U˜ of the perverse cohomology sheaves ν ∗ Lκ and LH,st from (27) and (30) are pure local systems of weight n.

ASTÉRISQUE 348

(1035)

THE FUNDAMENTAL LEMMA AND THE HITCHIN FIBRATION

253

The support theorem (32) and decomposition and continuity strategies (5.4) are used to find the pure local systems. ˜ the proof of the lemma establishes the global mass formula on After choosing U, ˜ U, then extends it to all of A˜good . H ˜ Ngô is able to prove the mass formula By imposing such nice conditions on U, on this subset by explicit local calculations. By the transversality condition on a ˜, at any given point v, the local degree (dH,v (ν(a)), rv (a)) must be (0, 0), (1, 0), or (0, 1). From Bezrukavnikov’s dimension formula (4.2), the dimension of the endoscopic affine Springer fiber MH,v (a) is 0. In fact, Pv (Ja0 ) acts simply transitively on the affine Springer fiber, and the mass is 1. It is therefore enough to compute the κ-mass of ν(a) and compare. The transversality condition determines the possibilities for the dimension δv (ν(a)) in G. The affine Springer fiber in this case is at most one and the κ-masses of the groupoids can be computed directly. In fact, (36) is a typical example of the computations involved. ˜ with images The result of these local calculations is that for every point a ˜ in U, a ∈ AH and ν(a) ∈ A, a local mass formula holds for all closed points v of X: (45)

µκ,v (ν(a)) = q deg(v)rv (a) µH,v (a).

The exponents satisfy (46)

r=

X

deg(v)rv (a).

v

These two identities, together with the product formula for the global mass, give the ˜ lemma for elements a of U. The extension from U˜ to all of A˜good is a global argument. Through the H Grothendieck-Lefschetz trace formula (adapted to stacks), this identity of global masses over U˜ can be expressed as an identity of alternating sums of trace of Frobenius on local systems. These calculations can be repeated for all finite extensions k 0 /k. By Chebotarev density as we vary k 0 , the semisimplifications of the local systems are isomorphic on G and H. Following the decomposition and continuity strategy (5.4), this isomorphism of local systems on U˜ extends to an isomorphism between (the semisimplifications of) ν ∗ Lκ and LH,st . This isomorphism, again by Grothendieck-Lefschetz, translates back into a mass formula for the Hitchin fibration modulo symmetries, and hence the result. 6.5. Local mass formula and the FL We recall some notation from Section 3. Let Gv be a reductive group scheme over the ring of integers Ov of a nonarchimedean local field Fv in positive characteristic. Let q be the cardinality of the residue field k. Let (κ, ρ) be endoscopic data defining

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

254

T. C. HALES

an endoscopic group Hv . Let a ∈ cH (Ov ) and ν(a) be its image in c(F ). Assume that ν(a) is regular semisimple. Let rv (a) ∈ N be the local invariant. Assume that the characteristic of k is large. By standard descent arguments (8.1), we also assume without loss of generality that the center of Hv does not contain a split torus. Theorem 47 (Local mass formula). — The following local mass formula holds for general anisotropic affine Springer fibers (both masses being computed with respect to the same symmetry group Pv (Ja0 ) acting on the fibers): µκ,v (ν(a)) = q rv (a) µH,v (a). Corollary 48 (Fundamental lemma (FL)). — Oκ (ν(a)) = q rv (a) SOH (a). The corollary follows from the theorem by the mass formula (40) for orbital integrals. . Proof sketch. — The proof of the FL is based on the global mass formula on A˜good H We can use standard strategies to embed the local setting into a global context. We pick a smooth projective curve X over k, such that a completion of the function field at some place v is isomorphic to Fv and deg(v) = 1. We choose a global endoscopic group H of a reductive group G, a divisor D on X, a global element(1) a0 in the Hitchin base AH of H. These global choices are to specialize to the given data Gv and Hv at v. If the degree of D is sufficiently large, then we can assume that a0 is the image of a ˜0 ∈ Agood (k). The element a0 and its image ν(a0 ) in A are chosen to H approximate the given local elements a and ν(a) so closely that their affine Springer fibers together with their respective symmetries are unaffected at v. The global mass formula (44) for a ˜0 asserts: µκ (ν(a0 )) = q r µH (a0 ). By the product formula (42) and (46), each global mass is a product of local masses: Y Y 0 (49) µκ,w (ν(a0 )) = µκ (ν(a0 )) = q r µH (a0 ) = q deg(w)rw (a ) µH,w (a0 ). w

w

The global data is chosen in such a way that at every closed point w 6= v, the transversality conditions hold, so that the calculation (45) of the previous section gives the local mass formula at w: 0

µκ,w (ν(a0 )) = q deg(w)rw (a ) µH,w (a0 ),

w 6= v.

More accurately, Ngô shows that a suitable element a0 exists over every sufficiently large finite field extension k0 /k. He makes the global arguments over the extensions k0 and uses a Frobenius eigenvalue argument at the end to go back to k.

(1)

ASTÉRISQUE 348

(1035)

THE FUNDAMENTAL LEMMA AND THE HITCHIN FIBRATION

255

These masses are nonzero and can be canceled from the products in (49). What remains is a single uncanceled term on each side: 0

µκ,v (ν(a0 )) = q deg(v)rv (a ) µv (a0 ), with deg(v) = 1. Since a0 was chosen as a close approximation of a at v, we also have µκ,v (ν(a)) = q rv (a) µv (a). This is the desired local mass formula at v.

7. USES OF THE FL “Lemma” is a misleading name for the Fundamental Lemma because it went decades without a proof, and its depth goes far beyond what would ordinarily be called a lemma. Yet the name FL is apt both because it is fundamental and because it is expected to be used widely as an intermediate result in many proofs. This section mentions some major theorems that have been proved recently that contain the FL as an intermediate result. In each case, the FL appears to be an unavoidable ingredient. The FL appears as a specific collection of identities that are needed to stabilize the Arthur-Selberg trace formula. If G is a reductive group defined over a number field F , the trace formula for G is an identity of the general form X X cγ O(γ, f ) + · · · = m(π) trace π(f ) + · · · γ∈G(F )/∼

π

for compactly supported smooth functions f on the adele group G(AF ). On the lefthand side appears a sum of orbital integrals and on the right-hand side the sum runs over discrete automorphic representations π of G. The trace formula contains more complicated terms that have been suppressed. By stabilization of the trace formula, we mean that the terms on the left-hand side of the trace formula that are associated with a given stable conjugacy class have been gathered together, rearranged into κ-orbital integrals, and then replaced with stable orbital integrals on the endoscopic groups. These manipulations are justified by the FL and by a product formula that relates the adelic orbital integrals O(γ, f ) to orbital integrals on local fields. Another Bourbaki seminar gives further details about the role of the FL in the stable trace formula [16]. All applications of the FL come through the stable trace formula. Before going into recent uses of the FL, we might also mention various special cases of the FL that have been known for years. These classical cases of the FL already give abundant evidence of the usefulness of the lemma. For example, Langlands proves the FL for cyclic base change for GL(2) in his book [35, Lemma 5.10]. From there, it

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

256

T. C. HALES

enters into the proof of the tetrahedral and octahedral cases of the Artin conjecture (the Langlands-Tunnell theorem), which in turn is used by Wiles in the proof of Fermat’s Last Theorem. Waldspurger’s proof of the FL for SL(n) is taken up by Henniart and Herb in their proof of local automorphic induction for GL(n), which becomes part of the proof of the local Langlands correspondence for GL(n) in Harris and Taylor [53],[26],[25]. Shimura varieties provided much of the early motivation for endoscopy and the FL [34]. When expressing the Hasse-Weil zeta function of Shimura varieties as a product of automorphic L-functions, the formula involves the L-functions associated with endoscopic groups H as well as those of G. This can be most clearly seen through a comparison of the stable trace formula with the Grothendieck-Lefschetz trace formula of the Hasse-Weil zeta function. An early application of the FL carries this out for Picard modular varieties [1]. From there, the FL becomes relevant to the theory of Galois representations through the representations associated with Shimura varieties. We turn to more recent uses of the FL. For most applications to date, the FL for unitary groups is used as well as the twisted FL between GL(n) and unitary groups. Applications of the trace formula to Shimura varieties often rely on a base change FL, which arises because of the description of that Kottwitz gives of points on certain Shimura varieties in terms of twisted orbital integrals [30]. The original proof by Clozel, Harris, Shepherd-Barron and Taylor of the Sato-Tate conjecture for elliptic curves over Q was restricted to elliptic curves with non-integral j-invariants [10]. With the advent of the general FL, it has become possible to remove the non-integrality assumption and to greatly extend the theorem, in particular to elliptic curves over a totally real number field [6]. Shin and Morel use the FL in recent work on the cohomology of Shimura varieties and associated Galois representations [50][43]. Other advances rely on their work. In particular, Skinner and Urban have proved the Iwasawa-Greenberg main conjecture for many modular forms and in particular for the newforms associated with many elliptic curves over Q [52],[51]. Their work ultimately relies on the work of Shin and Morel and on the FL to prove the existence of certain Galois representations. Last year, Bhargava and Shankar proved that when elliptic curves E over Q are ordered by height, a positive fraction of them satisfy the Birch and Swinnerton-Dyer conjecture [9]. Specifically, a positive fraction of them have rank 0 and analytic rank 0. First they construct a set (of positive density) of elliptic curves with rank 0. Second, they construct a subset (again of positive density) of the rank 0 set, consisting of elliptic curves with analytic rank 0. This second step relies on conditions in Skinner and Urban for the analytic rank to be zero, and hence indirectly on the FL. Moeglin classifies the discrete series representations of unitary groups over a nonarchimedean local field [42]. Again, this relies on the FL for unitary groups and related

ASTÉRISQUE 348

(1035)

THE FUNDAMENTAL LEMMA AND THE HITCHIN FIBRATION

257

variants. Finally, we mention that Arthur’s forthcoming book uses the twisted FL between GL(n) and the classical groups [5]. His work uses the trace formula to give a classification of the discrete automorphic representations of classical groups in terms of cuspidal automorphic representations of GL(n). It also gives a classification locally, for p-adic fields. I will leave a further discussion of the uses of the FL to those whose research in this area is fresher than my own.

8. REDUCTIONS Langlands first expressed the FL in these words: “Mais même après avoir vérifié que les facteurs de transfert existent, il reste à vérifier ce que j’appelle le lemme fondamental, qui affirme que pour des G, H et φH non-ramifiés, on a f 7→ c φ∗H (f )... pour toute fonction f ∈ HG ”. [36, p. 49]. In this notation, φ∗H is the homomorphism given by the Satake transform, from the spherical Hecke algebra HG with respect to a hyperspecial maximal compact subgroup of an unramified reductive group G to the spherical Hecke algebra on H. The arrow f 7→ c φ∗H (f ) is his assertion that for every strongly G-regular element γ in H, the transfer (specified by transfer factors) of each κ-orbital integral of a spherical function f on G (over a stable conjugacy class in G matching γ) is equal to the stable orbital integral of φ∗H (f ) on the stable conjugacy class of γ in H. This final section describes some theorems related to the FL that simplify it from the form in which it was initially conjectured, to the final form in which it was proved by Ngô. Waldspurger’s work has been particularly significant in transforming the conjecture into a friendlier form. In the initial conjecture, the existence of transfer factors was part of the conjecture. Langlands and Shelstad later defined the transfer factors explicitly [38]. We also mention some extensions of the FL. 8.1. Descent to the Lie algebra A lemma of Harish-Chandra’s asserts the transfer of an orbital integral on G near a singular semisimple element zγ0 , with z central, to an orbital integral on the centralizer Iγ0 . This is called the descent of orbital integrals. Langlands and Shelstad made hard calculations in Galois cohomology to prove that their transfer factors are compatible with Harish-Chandra’s descent of orbital integrals [39]. The point of their calculations was to reduce identities of orbital integrals involving transfer factors to a neighborhood of γ0 = 1, arguing by induction on the dimension of the centralizer. In a neighborhood of γ0 = 1, identities can be pushed to the Lie algebra, using the exponential map.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

258

T. C. HALES

The original FL has been supplemented by a twisted FL, conjectured by Kottwitz and Shelstad, where the data is twisted by a nontrivial outer automorphism θ of the group G [31]. In the untwisted case, the centralizer of an element fails to give a group of smaller dimension precisely when the element is central. By contrast, a twisted centralizer (with respect to a nontrivial outer automorphism) always has dimension less than G. As a consequence, descent always untwists the twisted FL into identities of ordinary orbital integrals. If the (standard) FL is then applied, each κ-orbital integral can be replaced with a stable orbital integral. By combining both descent and stabilization, the twisted FL of Kottwitz and Shelstad takes the form of identities of stable orbital integrals on the Lie algebra (from which the automorphism and the character κ have entirely vanished). The corresponding long calculations in Galois cohomology that establish descent properties of the transfer factors for the twisted FL have been carried out by Waldspurger [56]. Ngô proves the general twisted FL in its untwisted stable form on the Lie algebra. 8.2. Hecke algebras A global argument based on the trace formula shows that the FL holds for the full Hecke algebra for an arbitrary nonarchimedean local field of characteristic zero, provided it holds for the unit element of the Hecke algebra for local fields of sufficiently large residual characteristic (and for groups of smaller dimension) [22]. The idea of the proof is to choose suitable global functions for which the comparison of stable trace formulas yields an obstruction to the FL. This obstruction, which comes from the spectral side of the trace formula, takes the form of a set of linear functionals X L : HG → C, L(f ) = a(π)trace π(f ) π

on the local spherical Hecke algebra HG of the reductive group G, each given by a finite sum over irreducible admissible representations with an Iwahori fixed vector. By purely local arguments, it can be shown that no nonzero linear map L exists of the form prescribed by the global theory. Because these obstructions L are zero, the FL can be shown to hold on the full spherical Hecke algebra. 8.3. Smooth transfer Langlands’s book on the stabilization of the trace formula contains two separate conjectures: the transfer of smooth functions and the FL [36]. An important result of Waldspurger links the two conjectures, by proving that the FL implies the transfer of smooth functions. His key local lemma shows how to obtain simultaneous control over the orbital integrals of test functions f on the Lie algebra g and the orbital integrals of their Fourier transform fˆ [54, Prop. 8.2]. In view of the uncertainty principle, it is a remarkable feat to control both f and fˆ as he does. His proof is a global argument,

ASTÉRISQUE 348

(1035)

THE FUNDAMENTAL LEMMA AND THE HITCHIN FIBRATION

259

based on a stable Poisson summation trace formula on the Lie algebra over the ring of adeles. The key local lemma allows Waldspurger to pick global test functions for which the comparison of trace formulas asserts a local identity: the Fourier transform of a semisimple κ-orbit on G equals the Fourier transform of the corresponding stable orbit on H. By a purely local argument, this stabilization identity of Fourier transforms implies smooth transfer.

8.4. Weighted orbital integrals Langlands’s book is a début: he stabilizes the terms in the trace formula that come from regular elliptic conjugacy classes, but this is insufficient for general applications of the trace formula. Kottwitz extended the analysis to singular elliptic conjugacy classes [29]. Arthur has completed the full stabilization without restrictions on the conjugacy classes. The non-elliptic conjugacy classes lead to significant complications. Arthur truncates the trace formula to obtain the convergence of the non-elliptic terms. Because of truncation, the non-elliptic terms bear “weights,” non-invariant factors that appear in the integrand of orbital integrals. Arthur conjectured a weighted FL needed for stabilization of the non-elliptic terms [3]. Chaudouard and Laumon have used the Hitchin fibration to prove Arthur’s weighted FL [13][14].

8.5. Transfer to characteristic zero The FL for nonarchimedean local fields in characteristic zero can be deduced from the FL in positive characteristic [55][15]. Cluckers and Loeser have developed a general abstract theory of integration as a combination of primitive operations such as taking the volume of a ball of given radius, enumerating points on a variety over the residue field, summing an infinite q-series, and making a change of variables. Since each of the primitive operations manifestly depends only on the residue field rather than the field itself, their theory allows many identities of integrals to be transfered from one field to another with the same residue field. The FL lemma and its weighted and twisted variants are identities that fall within the scope of this theory. Waldspurger’s approach is also an abstraction of p-adic integration, but it requires more detailed properties of the specific integrals appearing in the FL.

8.6. Etc. These separate variations on the FL can be considered in concert: a weighted twisted FL, the twisted FL on the full Hecke algebra, transfer of the weighted FL to characteristic zero, and so forth. Most combinations have now been proved.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

260

T. C. HALES

9. LITERATURE I recommend Ben-Zvi’s video lecture for a presentation of the big ideas of Ngô’s proof. Drinfeld’s lecture notes contain many worked examples and exercises that are helpful in learning the geometric concepts. I also recommend Nadler’s survey [44], Casselman for an in-depth treatment of SL2 with history going back to Hecke [11], my summer school lecture for the detailed statement of the FL [23], Arthur’s Fields medal laudation [4], and [12]. Several articles in the book project deal with the FL [2], particularly [17]. Ngô’s book is superb, both as mathematics and as exposition [46]. It is helpful to read it with his earlier paper [45]. He has several supplementary accounts, especially the expository account [47], his article in the book project [48], and ICM lectures. While there have been numerous applications that quote the FL as a finished product, Yun, Chaudouard, and Laumon are noteworthy in following Ngô in their direct use of the Hitchin fibration to prove new results in the field [57]. I wish to thank Bhargava, Harris, Ngô, and Skinner for comments that helped me to prepare this and my earlier report [24].

REFERENCES [1] The zeta functions of Picard modular surfaces – Université de Montréal Centre de Recherches Mathématiques, 1992. [2] On the stabilization of the trace formula – Stabilization of the Trace Formula, Shimura Varieties, and Arithmetic Applications, vol. 1, International Press, 2011. [3] J. Arthur – “A stable trace formula. I. General expansions”, J. Inst. Math. Jussieu 1 (2002), p. 175–277. [4] , “The work of Ngô Bao Châu”, in Proceedings of the International Congress of Mathematicians, 2010. , “The endoscopic classification of representations: Orthogonal and sym[5] plectic groups”, AMS Colloquium series, in preparation. [6] T. Barnet-Lamb, D. Geraghty, M. Harris & R. Taylor – “A family of Calabi-Yau varieties and potential automorphy II”, Publ. Res. Inst. Math. Sci. 47 (2011), p. 29–98. [7] A. A. Be˘ılinson, J. Bernstein & P. Deligne – “Faisceaux pervers”, in Analysis and topology on singular spaces, I (Luminy, 1981), Astérisque, vol. 100, Soc. Math. France, 1982, p. 5–171. [8] R. Bezrukavnikov – “The dimension of the fixed point set on affine flag manifolds”, Math. Res. Lett. 3 (1996), p. 185–189.

ASTÉRISQUE 348

(1035)

THE FUNDAMENTAL LEMMA AND THE HITCHIN FIBRATION

261

[9] M. Bhargava & A. Shankar – “Ternary cubic forms having bounded invariants, and the existence of a positive proportion of elliptic curves having rank 0”, preprint arXiv:1007.0052. [10] H. Carayol – “La conjecture de Sato-Tate (d’après Clozel, Harris, ShepherdBarron, Taylor)”, Séminaire Bourbaki. vol. 2006/2007, exp. no 977, Astérisque 317 (2008), p. 345–391. [11] W. Casselman – “Langlands’ fundamental lemma for SL2 ”, preprint, 2010. [12] P.-H. Chaudouard, M. Harris & G. Laumon – “Report on the fundamental lemma”, Eur. Math. Soc. Newsl. 77 (2010), p. 33–36. [13] P.-H. Chaudouard & G. Laumon – “Le lemme fondamental pondéré. I. Constructions géométriques”, Compos. Math. 146 (2010), p. 1416–1506. , “Le lemme fondamental pondéré. II. Énoncés cohomologiques”, preprint [14] arXiv:0912.4512. [15] R. Cluckers, T. C. Hales & F. Loeser – “Transfer principle for the fundamental lemma”, in On the stabilization of the trace formula, Stab. Trace Formula Shimura Var. Arith. Appl., vol. 1, Int. Press, Somerville, MA, 2011, p. 309–347. [16] J.-F. Dat – “Lemme fondamental et endoscopie, une approche géométrique (d’après Gérard Laumon et Ngô Bao Châu)”, Séminaire Bourbaki, vol. 2004/2005, exp. no 940, Astérisque 307 (2006), p. 71–112. [17] J.-F. Dat & N. Dac-Tuan – “Lemme fondamental pour les algèbres de Lie (d’après Ngô Bao Châu)”, in On the stabilization of the trace formula, Stab. Trace Formula Shimura Var. Arith. Appl., vol. 1, Int. Press, Somerville, MA, 2011, p. 229–252. [18] P. Deligne – “La conjecture de Weil. II”, Publ. Math. I.H.É.S. 52 (1980), p. 137– 252. [19] M. Goresky, R. E. Kottwitz & R. Macpherson – “Homology of affine Springer fibers in the unramified case”, Duke Math. J. 121 (2004), p. 509–561. [20] M. Goresky, R. E. Kottwitz & R. MacPherson – “Purity of equivalued affine Springer fibers”, Represent. Theory 10 (2006), p. 130–146. [21] T. C. Hales – “Hyperelliptic curves and harmonic analysis (why harmonic analysis on reductive p-adic groups is not elementary)”, in Representation theory and analysis on homogeneous spaces (New Brunswick, NJ, 1993), Contemp. Math., vol. 177, Amer. Math. Soc., 1994, p. 137–169. , “On the fundamental lemma for standard endoscopy: reduction to unit [22] elements”, Canad. J. Math. 47 (1995), p. 974–994. [23] , “A statement of the fundamental lemma”, in Harmonic analysis, the trace formula, and Shimura varieties, Clay Math. Proc., vol. 4, Amer. Math. Soc., 2005, p. 643–658. [24] T. C. Hales, B. Weiss, W. Werner & L. Ambrosio – “The mathematical work of the 2010 Fields medalists”, Notices Amer. Math. Soc. 58 (2011), p. 453– 458.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

262

T. C. HALES

[25] M. Harris & R. Taylor – The geometry and cohomology of some simple Shimura varieties, Annals of Math. Studies, vol. 151, Princeton Univ. Press, 2001. [26] G. Henniart & R. Herb – “Automorphic induction for GL(n) (over local nonArchimedean fields)”, Duke Math. J. 78 (1995), p. 131–192. [27] N. Hitchin – “Stable bundles and integrable systems”, Duke Math. J. 54 (1987), p. 91–114. [28] D. Kazhdan & G. Lusztig – “Fixed point varieties on affine flag manifolds”, Israel J. Math. 62 (1988), p. 129–168. [29] R. E. Kottwitz – “Stable trace formula: elliptic singular terms”, Math. Ann. 275 (1986), p. 365–399. , “Shimura varieties and λ-adic representations”, in Automorphic forms, [30] Shimura varieties, and L-functions, Vol. I (Ann Arbor, MI, 1988), Perspect. Math., vol. 10, Academic Press, 1990, p. 161–209. [31] R. E. Kottwitz & D. Shelstad – “Foundations of twisted endoscopy”, Astérisque 255 (1999). [32] J.-P. Labesse & R. P. Langlands – “L-indistinguishability for SL(2)”, Canad. J. Math. 31 (1979), p. 726–785. [33] R. P. Langlands – “Letter to Singer”, http://publications.ias.edu/rpl/ section/24, 1974. [34] , “On the zeta functions of some simple Shimura varieties”, Canad. J. Math. 31 (1979), p. 1121–1216. [35] , Base change for GL(2), Annals of Math. Studies, vol. 96, Princeton Univ. Press, 1980. [36] , Les débuts d’une formule des traces stable, Publ. Math. Univ. Paris VII, vol. 13, Univ. Paris VII, 1983. [37] , “Le lemme fondamental pour les algèbres de Lie”, to appear in Math. Reviews. [38] R. P. Langlands & D. Shelstad – “On the definition of transfer factors”, Math. Ann. 278 (1987), p. 219–271. [39] , “Descent for transfer factors”, in The Grothendieck Festschrift, Vol. II, Progr. Math., vol. 87, Birkhäuser, 1990, p. 485–563. [40] G. Laumon & L. Moret-Bailly – Champs algébriques, Ergebnisse Math. Grenzg.. 3. Folge. A Series of Modern Surveys in Mathematics, vol. 39, Springer, 2000. [41] G. Laumon & B. C. Ngô – “Le lemme fondamental pour les groupes unitaires”, Ann. of Math. 168 (2008), p. 477–573. [42] C. Mœglin – “Classification et changement de base pour les séries discrètes des groupes unitaires p-adiques”, Pacific J. Math. 233 (2007), p. 159–204.

ASTÉRISQUE 348

(1035)

THE FUNDAMENTAL LEMMA AND THE HITCHIN FIBRATION

263

[43] S. Morel – “The intersection complex as a weight truncation and an application to Shimura varieties”, in Proceedings of the International Congress of Mathematicians, 2010. [44] D. Nadler – “The geometric nature of the fundamental lemma”, Bull. Amer. Math. Soc. (N.S.) 49 (2012), p. 1–50. [45] B. C. Ngô – “Fibration de Hitchin et endoscopie”, Invent. Math. 164 (2006), p. 399–453. , “Le lemme fondamental pour les algèbres de Lie”, Publ. Math. IHÉS 111 [46] (2010), p. 1–169. , “Report on the fundamental lemma”, http://www.math.ias.edu/~ngo/ [47] cdm.pdf, 2010. , “Decomposition theorem and abelian fibration”, in On the stabilization [48] of the trace formula, Stab. Trace Formula Shimura Var. Arith. Appl., vol. 1, Int. Press, Somerville, MA, 2011, p. 253–264. [49] D. Shelstad – “Orbital integrals, endoscopic groups and L-indistinguishability for real groups”, in Journées Automorphes (Dijon, 1981), Publ. Math. Univ. Paris VII, vol. 15, Univ. Paris VII, 1983, p. 135–219. [50] S. W. Shin – “Galois representations arising from some compact Shimura”, preprint, 2010. [51] C. Skinner – “Galois representations associated with unitary groups over Q”, draft, 2010. [52] C. Skinner & E. Urban – “The Iwasawa main conjectures for GL(2)”, submitted, 2010. [53] J.-L. Waldspurger – “Sur les intégrales orbitales tordues pour les groupes linéaires: un lemme fondamental”, Canad. J. Math. 43 (1991), p. 852–896. [54] , “Le lemme fondamental implique le transfert”, Compositio Math. 105 (1997), p. 153–236. [55] , “Endoscopie et changement de caractéristique”, J. Inst. Math. Jussieu 5 (2006), p. 423–525. [56] , “L’endoscopie tordue n’est pas si tordue”, Mem. Amer. Math. Soc. 194 (2008). [57] Z. Yun – “Towards a global Springer theory I, II, III”, preprint arXiv:0904.3372.

Thomas C. HALES University of Pittsburgh Department of Mathematics Pittsburgh, PA 15260-2341 U.S.A. E-mail : [email protected]

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

348

ASTÉRISQUE 2012

SÉMINAIRE BOURBAKI VOLUME 2010/2011 EXPOSÉS 1027-1042 (1036) Invariants de Welschinger Alexandru OANCEA

SOCIÉTÉ MATHÉMATIQUE DE FRANCE Publié avec le concours du CENTRE NATIONAL DE LA RECHERCHE SCIENTIFIQUE

Séminaire BOURBAKI 63e année, 2010-2011, no 1036, p. 265 à 297

Avril 2011

INVARIANTS DE WELSCHINGER par Alexandru OANCEA

Le but de cet exposé est de présenter des invariants découverts par Welschinger qui sont adaptés à des problèmes de géométrie énumérative réelle. Ces problèmes énumératifs sont classiquement formulés dans le cadre de la géométrie algébrique réelle mais ils trouvent leur solution la plus naturelle dans le cadre de la géométrie symplectique réelle. Ceci permet en particulier de les étudier via des techniques spécifiques puissantes comme la théorie symplectique des champs. Les invariants de Welschinger sont des analogues réels de certains invariants de Gromov-Witten.

1. INTRODUCTION

Une variété symplectique réelle (X, ω, cX ) est une variété différentiable munie d’une 2-forme fermée non-dégénérée ω – la forme symplectique – et d’une involution anti-symplectique cX : X → X, vérifiant c∗X ω = -ω – la structure réelle. La dimension de X est nécessairement paire, notée 2n. S’il est non-vide, le lieu réel RX = Fix(cX ) ⊂ X est une sous-variété lisse lagrangienne, i.e. dim RX = n et ω|RX = 0. Ceci découle de l’énoncé analogue pour les structures réelles linéaires sur R2n et du théorème des fonctions implicites. Citons les exemples fondamentaux suivants : les espaces des phases (T ∗ L, dp ∧ dq) de la mécanique classique, associés à des espaces de configurations L qui sont des variétés lisses, munis de la structure réelle canonique cL : (p, q) 7→ (−p, q) ; l’espace projectif Pn muni de la forme de Fubini-Study et de la structure réelle conj donnée par la conjugaison complexe ; les variétés projectives lisses définies par des polynômes homogènes à coefficients réels, avec la structure induite par celle de Pn . On a un modèle local pour (X, ω, cX ) au voisinage de L = RX : un voisinage de L est isomorphe à un voisinage de la section nulle dans (T ∗ L, dp ∧ dq, cL ) [47].

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

266

A. OANCEA

Depuis Gromov [16] nous savons qu’il est utile de regarder les variétés symplectiques comme des analogues « flexibles » des variétés kählériennes. De façon plus précise, soit J ω l’espace des structures presque-complexes J (de classe C ` , `  1) sur T X qui sont ω-compatibles, i.e. telles que ω(·, J·) est une métrique riemannienne. Les éléments de J ω sont les sections C ` d’un fibré à fibres contractiles, isomorphes à Sp(2n)/U(n), de sorte que J ω est une variété de Banach séparable non-vide et contractile. En présence d’une structure réelle cX on obtient une involution cX ∗ : J ω → J ω , J 7→ −dcX ◦ J ◦ dcX dont le lieu des points fixes R J ω est l’espace des structures presque-complexes ω-compatibles qui rendent cX anti-holomorphe. Welschinger a montré que l’espace R J ω est une variété de Banach séparable et contractile [49, §1.1]. Un choix de J ∈ J ω permet de considérer l’espace des courbes (rationnelles) J-holomorphes u : P1 → (X, J), solutions de l’équation du + J ◦ du ◦ j = 0 où j est la structure complexe de P1 . C’est une équation de type Cauchy-Riemann, elliptique d’indice 2c1 (X)d + 2n, où d = u∗ [P1 ] ∈ H2 (X; Z) et c1 (X) est la première classe de Chern du fibré complexe (T X, J). Lorsque J ∈ R J ω , il existe une involution naturelle u 7→ cX ◦ u ◦ conj sur l’espace des courbes J-holomorphes, et ses points fixes s’appellent courbes J-holomorphes réelles. On considère par la suite les espaces de solutions modulo reparamétrisation conforme à la source, et on parle alors d’espaces de modules. La variété symplectique (X, ω) est dite semi-positive (resp. fortement semipositive) si, pour toute classe sphérique d ∈ H2 (X; Z) telle que [ω]d > 0, on a l’implication c1 (X)d ≥ 3 − n ⇒ c1 (X)d ≥ 0 (resp. c1 (X)d ≥ 2 − n ⇒ c1 (X)d ≥ 0). Les invariants de Gromov-Witten (en genre 0) d’une variété semi-positive sont définis de la façon suivante [35] : on se restreint aux courbes dites simples qui ne factorisent pas à travers un revêtement ramifié non-trivial de P1 , on enrichit la source P1 de points marqués mobiles, on impose des conditions d’incidence aux points marqués de façon à ramener la dimension des espaces de modules à zéro, et finalement on compte les solutions. Notons les deux spécificités suivantes : (i) le résultat peut être interprété de façon duale comme le calcul d’une intégrale sur l’espace de modules de courbes avec points marqués. Ce dernier porte une classe fondamentale puisqu’il possède une compactification par des strates de codimension ≥ 2. Par ailleurs, les conditions d’incidence ne doivent pas nécessairement être ponctuelles, ce qui a des conséquences profondes comme par exemple l’existence du produit quantique sur H ∗ (X; Z) [33, 40, 35] ; (ii) lorsque les conditions d’incidence sont représentées par des sous-variétés J-complexes, les courbes sont comptées avec le même signe. Ceci est une manifestation de la positivité des intersections des objets holomorphes.

ASTÉRISQUE 348

(1036)

267

INVARIANTS DE WELSCHINGER

Le cas particulier des conditions d’incidence ponctuelles est fondamental pour la suite. Soient d ∈ H2 (X; Z) et M dk (X, J)∗ l’espace des modules de courbes J-holomorphes simples avec k points marqués, qui représentent la classe d. On suppose que (n − 1) divise (c1 (X)d − 2) et on pose k = kd =

1 n−1 (c1 (X)d − 2) + 1.

Soit x ∈ X k un k-uplet de points deux à deux distincts. Pour un choix générique de J ∈ J ω l’espace M dk (X, J)∗ est une variété de dimension 2c1 (X)d + 2n − 6 + 2k et x est une valeur régulière de l’application d’évaluation evJ : M dk (X, J)∗ → X k ,

(u, z1 , . . . , zk ) 7→ (u(z1 ), . . . , u(zk )).

La valeur de k a été choisie telle que la source et le but de evJ soient de même d dimension. Notons que evJ admet une extension naturelle evJ : M k (X, J)∗ → X k à la compactification de Gromov-Kontsevich par des courbes stables [33, 35]. On note d d −1 M d (x, J) = ev−1 J (x) et M (x, J) = evJ (x). Pour J générique la fibre M (x, J) est compacte, formée d’un nombre fini de points qui sont des courbes immergées. Voici une ébauche d’argument pour montrer que ce nombre Nd (x, J) ne dépend pas du choix de x ou du choix générique de J. On fixe x et on démontre l’indépendance par 0 rapport à J en utilisant une méthode de continuité : soit J ω (x) ⊂ J ω l’ensemble des d

J pour lesquels M d (x, J) contient des courbes cuspidales, ou pour lesquels M (x, J) 0 contient des courbes réductibles. Le point clé est que J ω (x) est une union au plus dénombrable de sous-variétés de codimension ≥ 2 de J ω . Soient J0 , J1 ∈ J ω tels que Nd (x, J0 ) et Nd (x, J1 ) soient définis. L’espace J ω étant contractile, il existe un chemin Jt , t ∈ [0, 1] reliant J0 à J1 . Pour un choix générique du chemin, l’espace de S modules à paramètre M = t {t} × M d (x, Jt ) est une variété de dimension 1, et les points critiques de la projection naturelle M → [0, 1] sont les courbes cuspidales. Un 0 chemin générique évite J ω (x), de sorte que M est un revêtement propre de [0, 1]. On obtient que la fonction Nd (x, Jt ) est localement constante, donc constante sur [0, 1]. Par ailleurs Nd (x, J) est localement constante en x à J fixé. Puisque X k \ Diag est connexe, on obtient que Nd = Nd (x, J) ne dépend pas du choix de x et J. Supposons maintenant données une structure réelle cX et une classe d’homologie d ∈ H2 (X; Z) telle que (cX )∗ d = −d et (n − 1) divise c1 (X)d − 2, de sorte que k = kd ∈ N. On suppose par la suite k ≥ 1. On considère J ∈ R J ω et une collection réelle de points x ∈ X k \ Diag, i.e. une collection composée de r points dans RX et de rX paires de points dans X \ RX conjugués par cX , avec r + 2rX = k. Notons Rd (x, J) le nombre de courbes rationnelles J-holomorphes réelles passant par x. Le nombre Rd (x, J) dépend à r fixé du choix de x ou encore, de façon équivalente, du choix de J (1). Il s’ensuit que l’argument qui montrait l’indépendance de Nd (x, J) par rapport aux choix doit nécessairement tomber en défaut. En effet, ce dernier était (1)

Voir l’exemple des cubiques rationnelles dans P2 à la fin de cette section.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

268

A. OANCEA

0

basé sur le fait que l’espace J ω (x) des « accidents » vivait en codimension ≥ 2. Par 0 contraste, la partie réelle R J ω ⊂ R J ω vit en codimension ≥ 1 et ne pourra plus être évitée par un chemin (Jt ) ⊂ R J ω générique. Ceci était à peu de choses près la situation avant les travaux que nous exposons dans cet article. Il y avait des murs – dans R J ω – que l’on ne savait pas comment franchir. Welschinger a imaginé le phénomène suivant : Il est possible d’attribuer des signes aux courbes réelles soumises à des conditions d’incidence ponctuelles de manière à ce que leur comptage algébrique soit un invariant. La démarche de Welschinger est la suivante : (i) il fixe une composante connexe L de RX et un entier 0 ≤ r ≤ kd , avec r ≥ 1 si n ≥ 3 ; (ii) il fixe une collection réelle de points x ∈ R(X k \ Diag) ayant r points réels appartenant tous à L, et il choisit J ∈ R J ω assez générique pour que x soit une valeur régulière de l’application d’évaluation Rev : R M dk (X, J)∗ → R(X k ) d

et pour que la préimage de x par Rev : R M k (X, J)∗ → R(X k ) ne contienne pas de courbes réductibles. Ceci assure en particulier la compacité de Rev−1 (x) ; (iii) il attribue des signes εp (C) ∈ {±1} aux éléments C ∈ Rev−1 (x) et définit X χd,p εp (C). r (x, J) := C∈Rev−1 (x)

On appellera les signes εp (C) signes de Welschinger(2). La recette d’attribution des signes est valable pour des variétés symplectiques de dimension arbitraire. En dimension n ≥ 3, on requiert qu’une certaine hypothèse de nature topologique soit + vérifiée, hypothèse qui assure l’existence d’une structure Pin− n , ou Pinn , ou Spin sur un fibré vectoriel approprié au-dessus de RX. La définition des signes en dimension n ≥ 3 utilise le choix d’une telle structure p, cf. §2.3. Finalement, (iv) Welschinger démontre Théorème 1.1 ([49, 50, 55]). — Soit L une composante connexe de RX et r ∈ {0, . . . , kd } avec r ≥ 1 si n ≥ 3. On considère des collections x ∈ R(X k \ Diag) ayant r points réels, situés tous sur L. En dimension 2 (resp. 3), le nombre − d,p χdr (L) = χdr (x, J) (resp. χd,p r (L) = χr (x, J) avec p une structure Pin3 ) ne dépend ni du choix de x, ni du choix générique de J. Puisque le lieu réel de P1 est connexe, il ne peut y avoir de courbe J-holomorphe réelle passant par x que si tous les points réels de x appartiennent à la même composante de RX. Ceci justifie le choix d’une composante L dans la définition de l’invariant χdr (L), qui dépend par ailleurs de ce choix. Lorsque RX est connexe, on (2)

Lorsque n ≥ 3, Welschinger appelle ce signe état spinoriel de C et le note sp(C) [50, 55].

ASTÉRISQUE 348

(1036)

INVARIANTS DE WELSCHINGER

269

note simplement χdr (RX) = χdr . L’estimée fondamentale suivante découle directement de la définition : Corollaire 1.2. — Le nombre Rd (x, J) de courbes J-holomorphes réelles passant par x vérifie |χdr (L)| ≤ Rd (x, J) ≤ Nd .

Exemple. — Cubiques rationnelles dans P2 [8, Prop. 4.7.3], cf. aussi [44, Prop. 3.6]. Soient X = P2 et d = 3[P1 ], de sorte que kd = 8, r ∈ {0, 2, 4, 6, 8} et rX ∈ {4, 3, 2, 1, 0}. (i) Le nombre de cubiques rationnelles complexes passant par 8 points génériques de P2 vaut 12. C’est un calcul classique qui remonte à Schubert. On considère un pinceau de cubiques dont le lieu de base contient ces points et on note Z l’éclatement de P2 aux 9 points du lieu de base, de sorte que χ(Z) = 12. Pour un choix générique des points, les fibres singulières de la fibration Z → P1 sont nodales (χ = 1), alors que les fibres génériques sont des courbes elliptiques (χ = 0). Ce ne sont donc que les fibres singulières qui contribuent à la caractéristique d’Euler de Z et il doit y en avoir exactement 12. (ii) Le nombre R3 (x) de cubiques rationnelles réelles passant par une collection x générique composée de r points réels et rX paires de points complexes conjugués est minoré par r. Pour le voir, considérons un pinceau de cubiques réelles dont le lieu de base est constitué de ces points et d’un point additionnel qui est réel. La partie réelle RZ de l’éclatement fibre au-dessus de RP1 , et on a χ(RZ) = χ(RP2 ) − (r + 1) = −r. Les fibres lisses sont des parties réelles de cubiques lisses, homéomorphes à une ou deux copies du cercle (χ = 0). Ce ne sont donc que les fibres singulières qui contribuent à la caractéristique d’Euler. Celles-ci sont des cubiques réelles nodales, ayant un unique nœud réel, et leur caractéristique d’Euler vaut ±1 selon que ce nœud réel est solitaire (intersection de deux branches complexes conjuguées) ou non-solitaire (intersection de deux branches réelles). Dans le premier cas la cubique est l’union d’un point et d’un cercle, dans le deuxième cas la cubique est homéomorphe à un bouquet de deux cercles. Notons c− le nombre de fibres singulières avec un nœud solitaire et c+ le nombre de fibres singulières avec un nœud non-solitaire, de sorte que c− − c+ = −r. Alors R3 (x) = c− + c+ vérifie l’estimée r ≤ R3 (x) ≤ 12.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

270

A. OANCEA

Pour r = 8, chacune des valeurs possibles 8, 10, 12 est atteinte pour un choix approprié de x [8, 44]. Les signes de Welschinger pour les cubiques rationnelles réelles sont ( −1, si C a un nœud réel solitaire, ε(C) = +1, si C a un nœud réel non-solitaire. La valeur de l’invariant de Welschinger est donc χ3r = c+ − c− = r = −χ(RZ). Remarque. — Cette identification avec la caractéristique d’Euler du lieu réel d’une variété, bien qu’amusante puisque les notations coïncident, semble fortuite. La notation χdr utilisée par Welschinger est plutôt motivée par l’espoir que cet invariant puisse être « catégorifié » en l’interprétant comme caractéristique d’Euler d’un groupe d’homologie. La topologie des petites dimensions regorge de tels exemples, dont le plus fameux est celui de l’homologie de Khovanov qui catégorifie le polynôme de Jones. Notre article est structuré de la manière suivante. La section 2 contient la définition des signes de Welschinger en dimension arbitraire et la preuve du théorème 1.1. Dans la section 3, on explore une deuxième direction de recherche initiée par Welschinger qui est celle de l’utilisation des techniques de la théorie symplectique des champs [4, 9] en géométrie algébrique réelle(3). Nous nous concentrons sur un résultat d’optimalité pour les invariants χdr en dimension quatre et nous donnons quelques ouvertures vers les invariants relatifs. Finalement, dans la section 4 nous donnons un aperçu de résultats connexes aux invariants de Welschinger, obtenus notamment en utilisant des techniques de géométrie tropicale ou des idées inspirées par la conjecture de symétrie miroir. Le lecteur est chaleureusement invité à consulter l’article de survol [54] écrit par Welschinger à l’occasion de l’ICM 2010.

2. INVARIANTS POUR DES CONDITIONS D’INCIDENCE PONCTUELLES 2.1. L’invariant de Welschinger en dimension 2 On considère une variété symplectique réelle de dimension quatre (X, ω, cX ) et une classe d’homologie d ∈ H2 (X; Z) telle que (cX )∗ d = −d. (Les variétés de dimension quatre sont automatiquement fortement semi-positives.) On note k = kd = c1 (X)d−1 (3)

Nous nous devons de mentionner un théorème précurseur dû à Viterbo [46] et Eliashberg [9], expliqué par Kharlamov dans un exposé au séminaire Bourbaki [29].

ASTÉRISQUE 348

(1036)

INVARIANTS DE WELSCHINGER

271

et l’on suppose kd ∈ N∗ . On fixe une collection réelle x ∈ X k \ Diag, composée de r points réels situés sur la même composante de RX et de rX paires de points dans X \ RX conjugués par cX , avec r + 2rX = k. d Soit J ∈ R J ω . On note R (x, J) l’ensemble des courbes J-holomorphes simples homologues à d passant par x. Pour J générique, cet ensemble est fini et consiste en des courbes irréductibles, immergées, ayant des points doubles transverses (nœuds). (Par la formule d’adjonction, il y en a 12 (d2 − c1 (X)d + 2).) Un nœud réel peut être solitaire (intersection de deux branches complexes conjuguées), ou pas (intersection de d deux branches réelles). Welschinger définit la masse m(C) d’une courbe C ∈ R (x, J) comme le nombre de nœuds réels solitaires. Le signe de Welschinger de C est défini par ε(C) = (−1)m(C) . Le lecteur est invité à comparer cette définition avec l’exemple de la section précédente. On pose X χdr (x, J) = ε(C). C∈ R d (x,J)

Démonstration du théorème 1.1 dans le cas n = 2 [48, 49]. — L’indépendance de χdr (x, J) par rapport au choix de x est une conséquence de l’indépendance par rapport au choix de J à x fixé. Ceci découle de l’observation suivante : deux collections x, x0 dont les points réels sont en nombre égal et sont situés sur la même composante connexe de RX sont reliées par une isotopie symplectique réelle, qui induit en particulier une isotopie de structures presque complexes réelles. Fixons maintenant une collection réelle x et deux structures presque complexes réelles génériques J0 et J1 . L’espace des structures réelles compatibles avec ω étant ` contractile, il existe un chemin lisse J : [0, 1] → J ω reliant J0 à J1 . Pour un choix générique du chemin (Jt ) l’espace de modules à paramètre G d R M := {t} × R (x, Jt ) t∈[0,1]

est une variété lisse de dimension 1. La première projection π : R M → [0, 1] est une application de Fredholm d’indice 0. Welschinger démontre dans [49] que, lorsque le chemin (Jt ) est choisi de façon générique, il existe un ensemble fini 0 < t1 < · · · < tN < 1 qui vérifie les conditions suivantes : 1. le nombre χdr (x, Jt ) est défini et est localement constant pour t 6= ti ; 2. pour t = ti l’une des situations suivantes se produit : d (a) R (x, Jti ) contient une courbe dont toutes les singularités sont des points doubles ordinaires à l’exception de l’une d’entre elles qui est un point de tangence de deux branches, ou un point triple réel ordinaire, ou un point de rebroussement réel de première espèce ;

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

272

A. OANCEA

d

(b) il existe une suite tν → ti et des éléments Cν ∈ R (x, Jtν ) qui convergent au sens de Gromov vers une courbe réductible composée de deux branches irréductibles réelles dont les singularités sont des points doubles ordinaires. (Intuitivement, la convergence de Gromov généralise au cadre J-holomorphe la dégénérescence d’une conique de P2 vers une union de deux droites.) L’apparition du cas (b) est équivalente à la non-compacité de R M , alors que les courbes cuspidales du (a) correspondent aux points critiques de la projection π. Ceux-ci peuvent être supposés non-dégénérés pour un choix générique du chemin (Jt ) ; ce seront en particulier des maxima ou des minima locaux pour π. Il s’agit de montrer que l’invariant χdr (x, Jt ) ne change pas lorsque l’on traverse une valeur ti . La preuve est contenue dans la figure 1 lorsqu’il s’agit d’un point de tangence de deux branches (la masse de la courbe en question change de 2, −2, ou 0), ou bien lorsqu’il s’agit d’un point triple réel ordinaire (la masse de la courbe reste constante).

m

m’=m

m

m’=m

m

m’=m

m

m’=m−2

Figure 1. Le mur des points triples et celui des branches tangentes.

Les deux autres situations sont très délicates. Welschinger s’appuie dans son analyse de façon essentielle sur les travaux de Ivashkovich et Shevchishin [28, 41] pour décrire le voisinage d’une courbe réductible, respectivement celui d’une courbe singulière, cf. §2.2. (α) Le cas d’une courbe réductible. Soit C une courbe Jti -holomorphe réelle réductible qui est l’union de deux composantes réelles irréductibles C1 , C2 ayant p points d’intersection transverse réels. Welschinger démontre [49, Proposition 2.14] d

qu’il existe un voisinage W de C dans la compactification de Gromov R (x) = d F d J {J} × R (x, J) tel que, pour t proche de ti , l’intersection R (x, Jt ) ∩ W consiste en exactement p courbes Jt -holomorphes réelles irréductibles, chacune d’entre elles étant obtenue topologiquement en lissant un des points réels d’intersection de C1 et C2 . En fixant t− < ti et t+ > ti proches de ti on obtient de cette manière

ASTÉRISQUE 348

(1036)

273

INVARIANTS DE WELSCHINGER

deux collections composées de p courbes chacune, qui sont naturellement mises en bijection. Les courbes qui se correspondent ont le même nombre de points doubles réels solitaires, de sorte que leurs masses sont égales. Par conséquent le nombre χdr (x, Jt ) ne change pas lorsque l’on traverse la valeur ti . d (β) Le cas d’une courbe cuspidale. Soit C ∈ R (x, Jti ) une courbe réelle ayant un unique point de rebroussement réel, correspondant à un maximum local (resp. minimum local) non-dégénéré de π. Welschinger démontre [49, Proposition 2.16] qu’il d

existe un voisinage W de C dans R (x) tel que, pour t < ti (resp. t > ti ) proche de d ti , l’intersection R (x, Jt ) ∩ W consiste en exactement deux courbes C + , C − telles que m(C + ) = m(C − ) + 1 et, pour t > ti (resp. t < ti ) proche de ti , l’intersection Rd (x, Jt ) ∩ W est vide, cf. Figure 2 ci-dessous. (Dans cet énoncé, la partie difficile est de montrer la relation entre les masses des courbes C± , qui est expliquée par la remarque ci-dessous.) On en déduit que le nombre χdr (x, Jt ) ne change pas lorsque l’on traverse la valeur ti . Le fait d’avoir défini χdr par une somme alternée s’avère crucial pour cette étape de la preuve.  Remarque. — L’exemple suivant est fondamental pour comprendre le cas (β) ci-dessus. Considérons la famille uλ : C → C2 , z 7→ (z 2 , z 3 + λz) de courbes réelles affines, indexée par λ réel proche de zéro. La courbe u0 a un point de rebroussement en z = 0, alors que uλ a un nœud réel non-solitaire (resp. solitaire) pour λ < 0 (resp. √ λ > 0) correspondant aux paramètres z = ± −λ (Figure 2). Lorsque l’on regarde ces courbes dans P2 leurs masses vérifient donc la relation m(uλ ) = m(u−λ ) + 1 pour λ > 0. Le cas (β) découle du fait que cette famille de courbes constitue un modèle local d pour R M au voisinage de C ∈ R (x, Jti ) ([49, Lemme 2.6], [28, Corollaire 1.4.3]). uλ , λ0 ti

π λ0 m’=m+1

Figure 2. Modèle local pour le mur des courbes cuspidales.

2.2. Espaces de modules de courbes J-holomorphes Nous venons de voir que la définition des signes de Welschinger en dimension 2 est topologique. Par contraste, leur définition en dimension n ≥ 3 mélange analyse et géométrie : on utilise l’opérateur de Fredholm obtenu en linéarisant l’équation des courbes J-holomorphes, mais aussi une structure supplémentaire de nature spinorielle sur RX. Dans cette section nous introduisons les notions analytiques fondamentales

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

274

A. OANCEA

requises pour définir les signes de Welschinger en suivant les références [35, §3 et App. C], [28, §1], [2, §1] et [50]. On choisit d ∈ H2 (X; Z) comme avant et on suppose k = kd ∈ N∗ . d

Fixons p > 2. Soit B = B la variété de Banach dont les points sont les applications u : P1 → X de classe de Sobolev W 1,p homologues à d. Les éléments de B sont en particulier des fonctions continues. Un choix de J ∈ J ω détermine un fibré de Banach E → B de fibre Eu = Lp (Λ0,1 P1 ⊗ u∗ T X), l’espace des formes (j, J)-antilinéaires de classe Lp à valeurs dans u∗ T X. Le lieu des zéros de la section 1 ∂¯J = (du + J(u) ◦ du ◦ j) : B → E, 2 d

noté “ M (X, J), est l’espace des applications J-holomorphes lisses homologues à d, la d d lissité étant une conséquence de la régularité elliptique. On note “ M (X, J)∗ ⊂ “ M (X, J) le sous-espace des courbes J-holomorphes simples. Pour un choix générique de J ∈ J ω d la section ∂¯J est transverse à la section nulle le long de “ M (X, J)∗ ; un tel J est dit d régulier. La régularité de J équivaut à la surjectivité en tout point u ∈ “ M (X, J)∗ de la composante verticale de la différentielle d∂¯J (u)vert : Tu B → Eu , notée Du = Du,J : W 1,p (u∗ T X) → Lp (Λ0,1 P1 ⊗ u∗ T X). Choisissons des coordonnées locales sur X et P1 , conformes sur ce dernier. La différentielle verticale s’écrit alors sous la forme Du ξ = ∂¯J ξ − 21 (J∂ξ J)(u)∂J (u). On voit en particulier que Du est un opérateur de Cauchy-Riemann généralisé, au sens ¯ ⊗ ξ pour toute fonction f sur P1 à où il vérifie la relation Du (f ξ) = f Du ξ + ∂f (4) valeurs réelles . L’opérateur Du est en particulier elliptique et son indice (réel) est donné par la formule de Riemann-Roch ind Du = 2n + 2c1 (X)d. d

La dimension de “ M (X, J)∗ est égale à ind Du lorsque Du est surjectif. Le groupe d PGL(2, C) agit librement sur “ M (X, J) par reparamétrisation à la source, et l’espace d de modules de courbes J-holomorphes M d (X, J)∗ := “ M (X, J)∗ /PGL(2, C) est de dimension ind Du − 6 = 2c1 (X)d + 2n − 6. Remarque (courbes simples). — Nous avons restreint notre attention aux courbes simples, pour lesquelles les J réguliers sont génériques. Ceci ne résulte pas en une perte de généralité tant que l’objet d’intérêt est l’image des courbes dans X. En effet, toute courbe J-holomorphe est revêtement ramifié d’une courbe simple [35, §2.5]. Les opérateurs de Cauchy-Riemann sont les opérateurs W 1,p (u∗ T X) → Lp (Λ0,1 P1 ⊗ u∗ T X) qui vérifient cette identité pour toute fonction f à valeurs complexes.

(4)

ASTÉRISQUE 348

(1036)

275

INVARIANTS DE WELSCHINGER

Remarque (généricité). — La généricité des J réguliers pour les courbes simples ∗ découle de l’argument suivant. Soit B ⊂ B le sous-espace des applications dites quelque part injectives, pour lesquelles il existe z ∈ P1 tel que u−1 (u(z)) = {z}. ∗ Considérons le fibré de Banach E → B × J ω de fibre E(u,J) = Lp (Λ0,1 P1 ⊗ u∗ T X) ¯ J) = ∂¯J (u). Le point clé est que la section ∂¯ est transverse à la muni de la section ∂(u, ∗ ∗ section nulle, de sorte que l’espace de modules universel P = ∂¯−1 (0) ⊂ B × J ω est ∗ une sous-variété de Banach. La projection π : P → J ω sur le deuxième facteur vérifie ker dπ(u,J) ' ker Du,J , coker dπ(u,J) ' coker Du,J , de sorte que π est une application de Fredholm de même indice que Du,J . Le théorème de Sard-Smale assure que les valeurs régulières J de π forment un ensemble dense, et ces J sont en particulier réguliers au sens précédent. Tous les énoncés de généricité de cet article se démontrent selon un schéma similaire, en construisant un espace de modules universel approprié et en calculant l’indice de Fredholm de la projection π. À titre d’exemple, mentionnons d le fait que les éléments de R (x, J) sont immergés lorsque J est générique, ou bien le fait qu’un chemin (Jt ) générique rencontre des murs d’un certain type. On a l’identité remarquable Du ◦ du = du ◦ ∂¯ [28, Lemme 1.3.1]. Celle-ci détermine un diagramme commutatif 0

/ W 1,p (T P1 ) 

0

du

∂¯

/ Lp (Λ0,1 P1 )

/ W 1,p (E) Du

du

 / Lp (Λ0,1 P1 ⊗ E)

/ W 1,p (E)/im du

/0

Du

 / Lp (Λ0,1 P1 ⊗ E)/im du

/ 0.

L’opérateur induit Du est de Fredholm d’indice ind Du = ind Du − ind ∂¯ = ind Du − 6. Si Du est surjectif alors Du l’est aussi et l’espace tangent à M d (X, J)∗ s’identifie naturellement à ker Du . En considérant la partie C-linéaire de l’opérateur Du on aboutit à une description fine du noyau et du conoyau de Du . On note ∂¯u,J (resp. R) la partie C-linéaire (resp. C-anti-linéaire) de Du . L’opérateur R est d’ordre zéro(5). L’opérateur de Cauchy-Riemann ∂¯u,J : W 1,p (u∗ T X) → Lp (Λ0,1 P1 ⊗ u∗ T X) définit une structure holomorphe unique sur u∗ T X dont c’est l’opérateur ∂¯ canonique [28, Lemme 1.2.3] (voir aussi [31, §I.3]). On note E = u∗ T X le fibré holomorphe défini par ∂¯u,J . L’identité Du ◦ du = du ◦ ∂¯ implique ∂¯u,J ◦ du = du ◦ ∂¯ puisque du est C-linéaire. du

Lorsque du 6≡ 0 on en déduit un morphisme analytique injectif O(T P1 ) −→ O(E) qui s’insère dans une suite exacte courte du

0 −→ O(T P1 ) −→ O(E) −→ N

u

−→ 0.

Plus précisément Rξ = 14 NJ (ξ, du(·)), avec NJ (X, Y ) = [X, Y ] + J[JX, Y ] + J[X, JY ] − [JX, JY ] le tenseur de Nijenhuis [35, Lemme C.7.3].

(5)

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

276

A. OANCEA

Le faisceau N

u

se décompose

N u = O(Nu ) ⊕ N sing u avec Nu un fibré vectoriel holomorphe de rang n − 1, que l’on appelle fibré normal de u, et N sing un faisceau gratte-ciel à support dans l’ensemble des zéros de du. La u sing fibre de N u en p est Cµp , avec µp l’ordre d’annulation de du en p. Proposition 2.1 ([28], Lemme 1.5.1). — On a ker Du ' H 0 ( N u ) = H 0 (Nu ) ⊕ H 0 ( N

sing u ),

coker Du ' H 1 (Nu ).

Ce type de calcul permet de décrire la codimension générique de différents types d’accidents dans des familles de courbes J-holomorphes, cf. remarque précédente. Par exemple, les courbes soumises à kd contraintes ponctuelles et qui ne sont pas immergées apparaissent en codimension complexe n − 1 par rapport à J, respectivement en codimension n − 1 réelle par rapport à J ∈ R J ω [55, Lemme 5.1]. Lorsque u est une immersion on a N sing = 0 et l’opérateur Du est un opérateur de u Cauchy-Riemann généralisé sur Nu . Sa partie C-linéaire est l’opérateur ∂¯ canonique agissant sur les sections de Nu . d

Soit “ M k (X, J)∗ l’espace des courbes J-holomorphes simples avec k points marqués, d constitué de paires (u, z) avec u ∈ “ M (X, J)∗ et z = {z1 , . . . , zk } ⊂ P1 une collection de k points distincts. L’espace de modules M dk (X, J)∗ est le quotient par l’action diagonale de PGL(2, C) via φ · (u, z1 , . . . , zn ) = (u ◦ φ−1 , φ(z1 ), . . . , φ(zn )). On a dim M dk (X, J)∗ = 2c1 (X)d + 2n + 2k − 6. Le but et la source de l’application d’évaluation naturelle evJ : M dk (X, J)∗ → X k ,

ev[u, z1 , . . . , zn ] := (u(z1 ), . . . , u(zn ))

sont de même dimension exactement lorsque k = kd . On suppose désormais que u est une courbe immergée, de sorte que N sing = 0. u 1,p Soit W−z (Nu ) ⊂ W 1,p (Nu ) le sous-espace de codimension 2(n − 1)kd constitué des 1,p sections qui s’annulent aux points de z. Notons Dz la restriction de Du à W−z (Nu ), un opérateur de Fredholm d’indice ind Dz = ind Du − 2(n − 1)kd = 0. On note Nu,−z = Nu ⊗ OP1 (−z). C’est un fibré dont les sections holomorphes s’identifient aux sections holomorphes de Nu qui s’annulent aux points de z. Proposition 2.2 ([50], Lemme 1.3, [55]). — Supposons u immergée et Du surjectif. On a les identifications suivantes : ker devJ u,z ' H 0 (Nu,−z ), coker devJ u,z ' H 1 (Nu,−z ).

ASTÉRISQUE 348

(1036)

277

INVARIANTS DE WELSCHINGER

Corollaire 2.3. — Supposons u immergée et Du surjectif. Les conditions suivantes sont équivalentes. (i) (u, z) ∈ M dkd (X, J)∗ est un point régulier de devJ ; (ii) l’opérateur Dz est un isomorphisme ; (iii) le fibré Nu se décompose en une somme directe de fibrés holomorphes isomorphes Nu = O(kd − 1)⊕n−1 . Preuve. — Pour montrer (i) ⇔ (ii), on utilise les identifications ker Dz ' H 0 (Nu,−z ),

coker Dz ' H 1 (Nu,−z ).

Celles-ci sont implicitement contenues dans la preuve par Ivashkovich et Shevchishin de la proposition 2.1. Ainsi (i) et (ii) sont équivalentes à H 1 (Nu,−z ) = 0. Montrons (i) ⇒ (iii). Par un théorème de Grothendieck, il existe un scindement Nu = O(a1 ) ⊕ · · · ⊕ O(an−1 ). La condition H 1 (Nu,−z ) = 0 est équivalente à 0 = H 1 ( O(ai − kd )) = H 0 ( O(kd − ai − 2)) pour tout i, ce qui force ai ≥ kd − 1. P D’un autre côté, puisque u est immergée le degré de Nu est i ai = c1 (X)d − 2 = (n − 1)(kd − 1). On en déduit que a1 = · · · = an−1 = kd − 1. Finalement, (iii) ⇒ (i) découle du fait que H 1 ( O(kd − 1) ⊗ OP1 (−z)) = H 1 ( O(−1)) = 0.  Définition 2.4. — Une Nu = O(kd − 1)⊕n−1 .

courbe

u

immergée

est

dite

équilibrée

si

Les courbes équilibrées jouent un rôle clé dans la définition des signes de Welschinger en dimension n ≥ 3 (cf. §2.3). Remarque (variétés convexes). — Étant donnée une variété symplectique (fortement semi-positive), les espaces de modules de courbes simples et les invariants de Gromov-Witten sont définis pour un choix générique, typiquement non-intégrable, de la structure presque complexe, et ceci pour des raisons de transversalité. Il existe néanmoins une classe de variétés complexes où la transversalité est automatique : les variétés convexes. Une variété complexe lisse (X, J) est dite convexe si H 1 (P1 , u∗ T X) = 0 pour tout morphisme u : P1 → X. La classe principale d’exemples est constituée des espaces homogènes X = G/P , avec G un groupe de Lie et P un sous-groupe parabolique [13, §0.4] : espaces projectifs, grassmanniennes, variétés de drapeaux, quadriques lisses, produits de telles variétés. En effet, dans cette situation T X est engendré par ses sections globales et il en est de même pour u∗ T X. Les opérateurs Du et Du sont automatiquement surjectifs. Les espaces de modules M d (x, J) sont définis dès que x est une valeur régulière de evJ . Pour une variété convexe, tous les arguments précédents fonctionnent à J fixé en choisissant x génériquement, y compris en présence d’une structure réelle [50].

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

278

A. OANCEA

2.3. L’invariant de Welschinger en dimension 3 On suppose dans cette section n = 3 et c1 (X)d pair. Le nombre de points marqués nécessaires pour rigidifier l’espace de modules de courbes J-holomorphes homologues à d avec des conditions d’incidence ponctuelles est k = kd = 21 c1 (X)d. Étant donné d J ∈ R J ω générique, la définition des signes de Welschinger des courbes C ∈ R (x, J) se fait en plusieurs étapes. Choix d’une structure Pin− 3 sur RX. Choisissons une métrique riemannienne sur RX. Le revêtement universel (à deux feuillets) du groupe orthogonal O3 (R) admet deux structures de groupe différentes, notées Pin± 3 , pour lesquelles la projection est + un morphisme de groupes : pour Pin− (resp. Pin 3 3 ) le relevé d’une réflexion est d’ordre quatre (resp. d’ordre deux). L’obstruction à relever le O3 (R)-fibré principal des repères sur RX à un Pin− 3 -fibré principal est donnée par la classe caractéristique w2 (RX) + w12 (RX) ∈ H 2 (RX; Z/2Z) [30, Lemme 1.3], où w1 (RX), w2 (RX) sont les classes de Stiefel-Whitney. La formule de Wu pour la classe de Stiefel-Whitney totale [37, §11] implique que l’obstruction s’annule pour une variété compacte de − dimension trois. Une structure Pin− 3 est un Pin3 -fibré principal qui relève le fibré des 1 repères de RX. L’espace des structures Pin− 3 est affine sur H (RX; Z/2Z). On choisit par la suite une structure Pin− 3 sur RX, notée p. Les composantes orientables de RX admettent des structures Spin3 (on a w1 = 0 et l’obstruction à l’existence d’une structure Spin3 est w2 = w12 = 0). Le choix d’une orientation de RX permet de réduire la structure p à une structure Spin3 . Définition du signe de Welschinger d’un opérateur de Cauchy-Riemann généralisé réel [55]. Soient J ∈ R J ω , u une courbe J-holomorphe simple immergée, z une collection réelle de kd points distincts dans P1 . Supposons que u a une partie réelle non-vide. Soit Nu le fibré normal de u, regardé en tant que fibré complexe. Soit Op∂¯(Nu ) l’espace des opérateurs de Cauchy-Riemann sur Nu , ROp∂¯(Nu ) l’espace des (Nu ) opérateurs de Cauchy-Riemann réels (invariants sous l’action de Z/2Z), Op∂+R ¯ l’espace des opérateurs de Cauchy-Riemann généralisés sur Nu , et ROp∂+R (Nu ) ¯ l’espace des opérateurs de Cauchy-Riemann généralisés réels. Nous considérons des opérateurs de classe C `−1 . À titre d’exemple, Op∂+R (Nu ) est un espace affine ¯ sur C `−1 (Λ0,1 P1 ⊗ EndR (Nu )), alors que ROp∂+R (Nu ) est un espace affine sur ¯ C `−1 (Λ0,1 P1 ⊗ EndR (Nu ))+1 , le sous-espace propre correspondant à la valeur propre 1,p +1 pour l’action de Z/2Z. On note Dz la restriction de D à W−z (Nu ). On définit le p signe de Welschinger(6) ε (D) ∈ {±1} d’un opérateur D ∈ ROp∂+R (Nu ) tel que Dz ¯ soit inversible en trois étapes. (6)

Welschinger appelle ce signe état spinoriel de D et le note sp(D) [50, 55].

ASTÉRISQUE 348

(1036)

279

INVARIANTS DE WELSCHINGER

(i) On définit le signe de Welschinger εp (D) ∈ {±1} d’un opérateur D ∈ ROp∂¯(Nu ) tel que Dz soit inversible de la manière suivante. L’opérateur D définit une structure holomorphe sur Nu pour laquelle on a une décomposition Nu ' O(kd − 1) ⊕ O(kd − 1) (Corollaire 2.3). Cette décomposition est compatible avec l’action de Z/2Z et on en déduit un scindement RNu = L ⊕ M . Notons C = im(u), de sorte que RC définit un nœud immergé dans RX. Ce nœud est équipé d’un repère d’axes mobiles T RC⊕L⊕M . Supposons que L et M soient orientables, i.e. kd −1 soit pair. Le repère d’axes mobiles peut être alors enrichi en un repère mobile qui relève RC au fibré des repères de RX. On définit εp (D) = ±1 selon que ce lacet se relève au Pin− 3 -fibré principal p, ou pas. Dans le cas où L et M ne sont pas orientables, on les tord par un demi-tour à droite le long du fibré trivial T RC, et on se ramène à la situation précédente [50, §2.2]. (ii) On montre que l’espace ROp∂+R (Nu )sing ⊂ ROp∂+R (Nu ) des opérateurs tels que ¯ ¯ Dz n’est pas inversible est contenu dans une union dénombrable de sous-variétés de codimension ≥ 1 [55, §3.1]. (Nu ) (iii) On définit le signe de Welschinger εp (D) ∈ {±1} d’un opérateur D ∈ ROp∂+R ¯ tel que Dz soit inversible de la manière suivante. On choisit un chemin générique γ dans ROp∂+R (Nu ) reliant D à D0 ∈ ROp∂¯(Nu ) avec Dz0 inversible, on note n(γ) le ¯ nombre de fois que le chemin γ intersecte le mur des opérateurs Dsing tels que Dzsing a un conoyau de dimension 1, et on pose εp (D) = (−1)n(γ) εp (D0 ). Un argument d’intersection montre que la valeur εp (D) ne dépend pas du choix de γ. Par ailleurs, Welschinger prouve que le résultat ne dépend pas du choix de D0 non plus. Ceci revient à montrer que, lorsque D0 et D00 sont adjacents à un même mur d’opérateurs ayant un conoyau de dimension 1, leurs signes diffèrent [55, Proposition 3.2]. Le phénomène sous-jacent est le suivant : au moment de la traversée du mur le fibré normal Nu scinde comme Nu = O(kd ) ⊕ O(kd − 2). Ceci correspond au fait que, dans le cours de la déformation, l’une des sections qui engendraient un sommand direct traverse la section nulle et acquiert un zéro supplémentaire. Ceci implique que le lacet des repères d’un côté du mur se déduit du lacet de l’autre côté en rajoutant un générateur de π1 (SO(3)). Un et un seul de ces deux lacets se relève donc au fibré p, ce qui équivaut à dire que les signes de Welschinger de D0 et D00 sont opposés. d

Définition du signe de Welschinger d’une courbe C ∈ R (x, J). Soit d x ∈ R(X k \ Diag) fixé et J ∈ R J ω assez générique pour que les éléments de R (x, J) soient des courbes plongées et des valeurs régulières de l’application d’évaluation RevJ : R M dk (X, J) → R(X k ), en particulier des valeurs régulières de l’application d’évaluation evJ : M dk (X, J) → X k . Chaque telle courbe détermine un opérateur

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

280

A. OANCEA

D = Du sur Nu dont la restriction Dz est un isomorphisme (Corollaire 2.3). On pose εp (C) = εp (Du ). Esquisse de la démonstration du théorème 1.1 dans le cas n = 3 [50, 55]. — La condition r ≥ 1 impose que la partie réelle des courbes considérées soit non vide, de sorte que leurs signes de Welschinger soient définis. La démonstration de l’invariance de χdr (x, J) par rapport au choix de x et J suit exactement les mêmes étapes que dans le cas n = 2. Le cas des courbes cuspidales est remplacé par le cas des courbes telles que Dz a un conoyau de dimension 1. Ce cas est tautologique, au sens où il a déjà dû être traité pour montrer l’indépendance de εp (D), D ∈ ROp∂+R (Nu ) par rapport ¯ au choix de D0 ∈ Op∂¯(Nu ), cf. ci-dessus. Le cas des courbes réductibles est traité par Welschinger en réduisant le problème à la situation où J est intégrable au voisinage de la courbe, une situation similaire à celle rencontrée dans le cas des variétés convexes. Cette simplification est rendue possible par le fait que l’on peut choisir à volonté le point par lequel on traverse le mur des courbes réductibles, ainsi que le segment Jt avec lequel on traverse ce mur. Le problème à x fixé et J variable est alors équivalent à un problème à J fixé et x variable. Le fait que J soit fixé et intégrable entraîne que la structure holomorphe sur le fibré Nu est constante. La preuve est finie en analysant le comportement d’une section holomorphe appropriée lorsque x franchit le mur [50, Proposition 3.7].  Remarque (signes en dimension n ≥ 4). — La définition des signes de Welschinger en dimension n ≥ 4 suit les mêmes étapes qu’en dimension trois : (i) on impose des conditions topologiques sur RX qui garantissent l’existence d’une structure Pin± n ou Spinn sur un certain fibré défini à partir de T RX et contenant ce dernier comme sousfibré ; (ii) on choisit une telle structure p et on définit un signe pour les opérateurs de Cauchy-Riemann réels sur Nu tels que Dz est inversible ; (iii) on en déduit un signe pour les opérateurs de Cauchy-Riemann réels généralisés sur Nu tels que Dz d soit inversible ; (iv) étant donnée C ∈ R (x, J), on définit le signe εp (C) = εp (Du ). À la différence du cas n = 3, le nombre χd,p r (x, J) n’est plus invariant lors de la traversée de certains murs de courbes réductibles. C’est une question ouverte importante que de comprendre quelle est la bonne définition d’un invariant de Welschinger en dimension n ≥ 4. En particulier, il me semble important de donner une définition purement analytique des signes de Welschinger pour n = 3. Remarque (signes en dimension 2). — Les signes de Welschinger en dimension n = 2 peuvent être reformulés dans le langage de cette section. Supposons pour simplifier que RX est orientable et soit s une structure Spin2 sur T RX. Fixons une orientation sur d RX. Étant donnée C ∈ R (x, J), les trois informations suivantes sont équivalentes : – la parité de la masse de C ;

ASTÉRISQUE 348

(1036)

INVARIANTS DE WELSCHINGER

281

– la parité du nombre de nœuds réels non-solitaires de C ; – la parité du nombre de tours effectués par le lacet orienté RC, mesurée par la structure s selon la recette suivante : soient τ le champ tangent orienté le long de RC et v un champ le long de RC tel que (τ, v) soit une base positivement orientée de T RX en chaque point de RC. On dit que RC effectue un nombre pair, resp. impair, de tours par rapport à s si le lacet (τ, v) à valeurs dans le fibré des repères de T RX se relève au fibré s, resp. ne se relève pas.

3. OPTIMALITÉ, CONGRUENCES Dans cette section nous abordons deux questions essentielles liées aux invariants χdr du §2 en dimension quatre. La première question est celle de l’optimalité des bornes inférieures fournies par |χdr |, cf. Corollaire 1.2. Existe-t-il des structures presque complexes réelles génériques telles que |χdr | = Rd (x, J) ? Cela revient à demander s’il existe des structures presque complexes réelles d génériques pour lesquelles les éléments de R (x, J) sont comptés avec le même signe. Un exemple d’une telle situation, qui apparaîtra plus bas, est celui où tous d les éléments de R (x, J) ont un lieu réel plongé. Les éventuels nœuds réels d’une courbe C sont alors solitaires et leur nombre, égal à la masse m(C), est de même parité que le nombre total δ(C) de points doubles de C, encore appelé le genre lisse de C. La courbe C étant immergée, on a δ(C) = 21 (d2 − c1 (X)d + 2) par la formule d d’adjonction. Tous les éléments de R (x, J) sont donc comptés dans cette situation 2 1 avec le même signe ε = (−1) 2 (d −c1 (X)d+2) . La deuxième question est celle des congruences : Peut-on identifier dans certaines situations des (grands) diviseurs de χdr ? Une réponse affirmative a des conséquences immédiates sur la borne inférieure : si χdr n’est pas nul et est divisible par un entier m ≥ 2, alors Rd (x, J) ≥ m pour tous x et J. Mais l’enjeu ne s’arrête pas là : les problèmes de congruence touchent historiquement au cœur de la géométrie algébrique réelle et sont la manifestation de phénomènes profonds. À titre d’exemple, évoquons la congruence de Gudkov-Arnol’dRokhlin qui a marqué l’irruption des méthodes de topologie des variétés de dimension quatre en géométrie algébrique réelle dans les années 1970 [8, §1] : soit C une courbe plane réelle maximale de degré 2k, i.e. ayant un nombre maximal de composantes connexes (ovales). Soit p, resp. n, le nombre d’ovales contenus à l’intérieur d’un nombre pair, resp. impair, d’autres ovales. Alors p − n ≡ k 2 (mod 8). |χdr |

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

282

A. OANCEA

Les résultats de Welschinger que nous présentons dans cette section marquent l’irruption des méthodes de la théorie symplectique des champs en géométrie algébrique réelle. 3.1. Énoncés Théorème 3.1 (Optimalité [59], Théorème 1.1). — Supposons que RX contient une sphère ou un plan projectif réel L, et dans ce deuxième cas supposons que (X, ω, cX ) est symplectomorphe au plan projectif complexe éclaté en six points complexes conjugués au maximum. Soit 0 ≤ r ≤ 1. Il existe des structures presque complexes régulières telles que |χdr (L)| = Rd (x, J). Remarque (signe). — Nous allons exhiber dans la preuve des J réguliers tels que les d éléments de R (x, J) ont tous un lieu réel plongé. En vue de la discussion précédente 2 1 le signe de χdr sera alors déterminé par l’inégalité (−1) 2 (d −c1 (X)d+2) χdr ≥ 0. Remarque (maximalité). — En écrivant kd = c1 (X)d − 1 = r + 2rX , la condition 0 ≤ r ≤ 1 peut être formulée de façon équivalente comme une condition de maximalité pour le nombre rX de paires de points complexes conjugués dans x. Il est utile de comparer cette situation à celle opposée, où r = c1 (X)d − 1 est maximal, qui est le cadre des résultats de Itenberg, Kharlamov et Shustin mentionnés dans la section 4. Corollaire 3.2 ([59], Corollaire 1.3). — Soit X le plan projectif complexe ou la quadrique ellipsoïde de dimension deux, et choisissons 0 ≤ r ≤ 1. On a l’égalité |χdr | = Rd (x, J) pour la structure complexe standard lorsque les points complexes conjugués sont choisis très proches d’une conique imaginaire pure dans le premier cas et d’une section hyperplane réelle disjointe de L dans le second. Remarque. — Nous renvoyons au papier [59, §1] pour deux autres résultats d’optimalité : en dimension quatre, lorsque r = 1 et le lieu réel contient un tore, et en dimension six pour certaines variétés convexes dont le lieu réel contient une sphère. Théorème 3.3 (Congruence [59], Théorème 2.1). — Supposons que RX contient une sphère ou un plan projectif réel L et, dans ce deuxième cas, supposons que (X, ω, cX ) est symplectomorphe au plan projectif complexe éclaté en six points complexes conjugués au maximum. Si L = S 2 et 2r + 1 < kd , la puissance 1 1 2 2 (kd −2r−1) = 2 2 (c1 (X)d−2r−2) divise χdr (L). Si L = RP 2 et r + 1 < rX , la puissance 2rX −r−1 divise χdr (L).

ASTÉRISQUE 348

(1036)

INVARIANTS DE WELSCHINGER

283

Remarque. — Nous renvoyons le lecteur à [59, §2] pour des variantes raffinées de ce théorème, ainsi que pour un autre résultat de congruence concernant la quadrique ellipsoïde de dimension trois. 3.2. Théorie symplectique des champs L’ingrédient conceptuel nouveau qui intervient dans les preuves des théorèmes 3.1 et 3.3 est la théorie symplectique des champs inventée par Eliashberg, Givental et Hofer [9]. L’outil-clé de celle-ci est le théorème de compacité [4]. Soit uν une suite de courbes Jν -holomorphes à valeurs dans X, avec Jν ∈ J ω . Le théorème de compacité de Gromov [16, 35] décrit les dégénérescences possibles dans la suite uν lorsque Jν tend vers une limite J∞ ∈ J ω avec ν → ∞. Le théorème de compacité en théorie symplectique des champs décrit les dégénérescences possibles dans la suite uν lorsque la suite Jν acquiert une singularité d’un type très particulier lorsque ν → ∞, singularité qui est concentrée le long d’une hypersurface de type contact Σ2n−1 ⊂ X 2n . Cette condition signifie que ω admet au voisinage de Σ une primitive λ telle que α = λ|Σ est une forme de contact, i.e. α ∧ dαn−1 6= 0. En présence d’une structure réelle, on demande que Σ soit cX -invariante et c∗X α = −α. Un deuxième outil-clé de la théorie symplectique des champs est le théorème de recollement [9, 20, 3, 21]. Sous des hypothèses de transversalité appropriées celui-ci assure que toute configuration de courbes holomorphes qui est une limite possible est aussi une limite véritable. Nous expliquons dans cette section les phénomènes qui se rattachent à la théorie symplectique des champs dans notre contexte, à savoir celui d’une paire (X, L) avec L une composante connexe de RX. Rappelons qu’un voisinage de L dans (X, ω, cX ) est isomorphe à un voisinage de la section nulle dans (T ∗ L, dp ∧ dq, cL ). Choisissons une métrique riemannienne sur L telle que DT ∗ L = {(p, q) : |p| ≤ 1} soit contenu dans ce voisinage et posons Σ = ST ∗ L = {(p, q) : |p| = 1}. La restriction α = pdq|Σ est une forme de contact dont le champ de Reeb, défini par dα(R, ·) = 0 et α(R) = 1, est le générateur du flot (co)géodésique sur ST ∗ L. Le dual de pdq par rapport à dp ∧ dq est le champ de Liouville ∂/∂p et son flot φt vérifie φ∗t pdq = et pdq. On obtient un symplectomorphisme (x, t) 7→ φt (x) entre un cylindre ([−ε, ε]×Σ, d(et α)), ε > 0 et un voisinage de Σ. Nous pouvons maintenant préciser les structures presque complexes singulières le long de Σ qui sont admises par la théorie symplectique des champs. Définition 3.4 ([58], §2.1). — Soit J une structure presque complexe (réelle) définie dans X \ Σ et compatible avec ω. On dit que J est Σ-singulière si (i) J préserve la distribution de contact ξ = ker α pour chaque {t} × Σ, t ∈ [−ε, ε] \ {0} et sa restriction à ξ ne dépend pas de t ∈ [−ε, ε] \ {0} ; ∂ (ii) J vérifie J( ∂t ) = β 0 (t)R le long de {t} × Σ, avec β 0 : [−ε, ε] \ {0} → R∗+ une fonction paire d’intégrale infinie.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

284

A. OANCEA

Définition 3.5 ([58], §2.1). — Soit J une structure presque complexe (réelle) définie dans X et compatible avec ω. On dit que J a un cou cylindrique sur Σ si (i) J préserve la distribution de contact ξ = ker α pour chaque {t} × Σ, t ∈ [−ε, ε] et sa restriction à ξ ne dépend pas de t ∈ [−ε, ε] ; ∂ (ii) J vérifie J( ∂t ) = β 0 (t)R le long de {t} × Σ, avec β 0 : [−ε, ε] → R∗+ une fonction paire. Rε La valeur de l’intégrale −ε β 0 (t)dt est appelée longueur du cou cylindrique. Remarque (structures presque complexes cylindriques). — Soit J ayant un cou cylindrique de longueur 2A sur Σ et notons β : [−ε, ε] → [−A, A] la primitive impaire de β 0 . Le poussé en avant de J par le difféomorphisme [−ε, ε] × Σ → [−A, A] × Σ, (t, x) 7→ (β(t), x) est une structure presque complexe J 0 qui laisse invariante la distribution de contact, qui est invariante par translation en la variable t et ∂ qui vérifie J 0 ( ∂t ) = R. Ceci est par définition une structure presque complexe « cylindrique » au sens de la théorie symplectique des champs [4, §2]. Lorsque la structure presque complexe J est Σ-singulière, la variété X \ Σ est une variété à deux composantes int(DT ∗ L), resp. X \ DT ∗ L, chacune ayant un bout cylindrique semi-infini qui peut être modelé comme ci-dessus sur R+ × Σ, resp. R− × Σ. Les courbes J-holomorphes à image dans int(DT ∗ L), resp. X \ DT ∗ L, seront identifiées à des courbes J 0 -holomorphes à image dans T ∗ L, respectivement X \ L. On se donne désormais une suite Jν de structures presque complexes ayant des cous cylindriques de longueur 2Aν → ∞ sur Σ, et on suppose que Jν converge – dans le sens évident – vers une structure Σ-singulière J∞ . Cette situation est appelée de façon informelle étirement du cou. Nous allons décrire maintenant les configurations de courbes qui sont limites de suites uν ∈ M dk (X, Jν ), d ∈ H2 (X; Z), k = kd . Notons (W + , J), resp. (W − , J), la variété T ∗ L, resp. X \ L, munie de la restriction 0 de J∞ . Étant donnée une courbe J-holomorphe u : S˙ → W ± définie sur une surface épointée, il existe une notion d’énergie de Hofer ([17, §3.2], [4, §5.3]) dont la finitude assure que u est une application propre qui, en chaque pointe essentielle, est asymptote à un cylindre Cylγ sur une orbite de Reeb périodique γ, de la forme Cylγ (s, θ) = (T s + s0 , γ(T θ)) avec (s, θ) ∈ R± × R/2πZ [19, 3]. Soulignons au passage cette vertu remarquable de l’énergie de Hofer qui est celle de relier la dynamique hamiltonienne à la géométrie des courbes holomorphes. Dans le contexte qui nous intéresse, le théorème de compacité en théorie symplectique des champs prend la forme suivante. Théorème 3.6 ([4, 3]). — Soit uν ∈ M dk (X, Jν ). Il existe une sous-suite, notée uν , qui converge au sens suivant vers une paire u± : S˙ ± → W ± de courbes J-holomorphes d’énergie de Hofer finie dont les pointes sont appariées et qui ont les mêmes orbites

ASTÉRISQUE 348

(1036)

INVARIANTS DE WELSCHINGER

285

asymptotes aux pointes correspondantes : regardons S˙ = S˙ − ∪ S˙ + comme une courbe nodale en identifiant les pointes correspondantes de S˙ ± . Alors : – il existe une suite d’applications φν : P1 → S˙ qui sont des difféomorphismes en dehors d’une collection de cercles disjoints qui sont contractés sur les nœuds de ˙ Ces cercles évitent les points marqués sur P1 ; S. ± ˙± – uν ◦ φ−1 ν : S → X converge uniformément sur tout compact vers u ; – les pointes de u± sont « en phase » : pour chaque nœud p de S˙ considérons une suite de segments γν :] − ε, ε[→ P1 qui intersectent φ−1 ν (p) transversalement en s = 0 et tels que φν ◦ γν = γ. Alors lims→0+ πΣ u+ (γ(s)) = lims→0− πΣ u− (γ(s)), où πΣ u± est la composante de u± sur Σ dans la carte R± × Σ. Remarque (courbes à deux étages). — On appellera courbe à deux étages (dans T ∗ L et X \ L) un couple (u+ , u− ) comme ci-dessus. Le théorème de compacité prédit l’existence d’étages intermédiaires qui sont des courbes holomorphes à valeurs dans la symplectisation (R × Σ, d(et α), J 0 ). Dans notre situation les courbes uν sont rigides et de tels étages intermédiaires n’apparaissent pas. Le théorème de compacité prédit aussi des courbes u− qui peuvent être réductibles, constituées d’une composante principale épointée à laquelle sont rattachées des sphères holomorphes. Ces courbes vivent en codimension ≥ 2 dans l’espace de modules, de sorte qu’elles n’apparaissent pas dans notre situation. Chaque composante de (u+ , u− ) est rigide, au sens où elle appartient à un espace de modules de courbes épointées soumises à des conditions homologiques, asymptotiques et d’incidence qui est de dimension 0. Chaque composante de (u+ , u− ) est par ailleurs immergée. Le genre de S˙ étant nul, deux composantes distinctes de (u+ , u− ) ont au plus une asymptote commune. Remarque (courbes réelles). — Lorsque les structures presque complexes et les courbes holomorphes uν sont réelles, la courbe limite (u+ , u− ) l’est aussi. La structure réelle sur T ∗ L, resp. X \ L, est donnée par cL , resp. la restriction de cX . Puisque le lieu réel de P1 est connexe et disconnecte P1 , la courbe (u+ , u− ) a exactement une composante qui est cL -invariante, alors que toutes les autres composantes viennent en paires qui sont conjuguées par cL ou cX . On suppose maintenant L = S n , resp. L = RP n , et on la munit d’une métrique riemannienne à courbure constante égale à 1. Les orbites de Reeb fermées sur Σ = ST ∗ L, considérées modulo paramétrisation, sont groupées en familles nondégénérées au sens de Morse-Bott, de dimension égale à 2(n − 1). Les périodes des orbites sont égales à 2kπ, k ∈ N∗ , resp. kπ, k ∈ N∗ . L’entier k est la multiplicité de l’orbite. Fixons p > 2. Soit S˙ ± une surface épointée de genre 0 et {F1 , . . . , Fv } une collection de familles d’orbites de Reeb périodiques, indexée par les v pointes de S˙ ± .

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

286

A. OANCEA

Pour simplifier les notations, on suppose dans ce paragraphe que S˙ ± est connexe. Fixons δ > 0 et considérons la variété de Banach B des applications u± : S˙ ± → W ± 1,p qui sont de classe Wloc et telles qu’au voisinage de chaque pointe vi on ait 1,p δ|s|/p ± dsdθ), avec γi ∈ Fi , (s, θ) ∈ R± × R/2πZ et Cylγi (s, θ) = u − Cylγi ∈ W (e (T s + s0 , γi (T θ)) le cylindre trivial au-dessus de γi . On dit encore que u± est de classe W 1,p,δ . Soit E → B le fibré de Banach de fibre Eu = Lp,δ (Λ0,1 S˙ ± , (u± )∗ T W ± ). De manière analogue au §2.2, les courbes holomorphes u± : S˙ ± → W ± qui sont asymptotes aux pointes vi à des orbites fermées appartenant aux Fi sont les zéros de la section ∂¯J : B → E pour δ > 0 assez petit. Le fait d’utiliser des espaces de Sobolev à poids exponentiels est nécessaire pour que l’opérateur linéarisé soit de Fredhlom, en raison de la présence de dégénérescences le long des espaces tangents aux Fi , le long du champ de Reeb, et le long de la coordonnée verticale ∂/∂t dans la symplectisation R± × Σ. En linéarisant le problème on obtient un opérateur de Cauchy-Riemann généralisé Du± : V × W 1,p,δ ((u± )∗ T W ± ) → Lp,δ (Λ0,1 S˙ ± , (u± )∗ T W ± ), P où V est un espace de dimension N = vi=1 (dim Fi + 2) engendré par des sections supportées le long de directions de dégénérescence indépendantes pour chaque pointe. Soit χ = 2 − v la caractéristique d’Euler de S˙ ± . L’opérateur Du± est de Fredholm et son indice est donné par [3, §5] ind Du±

=

nχ + µtot +

=

2n + µtot .

N 2

La deuxième égalité découle de ce que dim Fi = 2(n − 1), de sorte que N = 2nv. Ici µtot désigne l’indice de Maslov total de u± , qui est le double de l’obstruction à étendre à S˙ ± la trivialisation de (u± )∗ T W ± donnée par le flot de Reeb linéarisé au voisinage des pointes. Lorsque la transversalité est réalisée (par exemple lorsque u± sont des courbes simples), la dimension de l’espace de modules de courbes M u± dans lequel vit u± est dim M u± = ind Du± − 6 + 2v. Proposition 3.7 ([59], Proposition 1.13, [45], Théorème 3.1) Soit L = S n ou RP n . Soit u+ : S˙ + → W + = T ∗ L une courbe d’énergie de Hofer finie et genre 0. Soit k la multiplicité totale de ses orbites de Reeb asymptotes. L’indice de Maslov µtot de u+ est 2k(n − 1) lorsque L = S n , respectivement k(n − 1) lorsque L = RP n . Cet énoncé doit être lu comme affirmant l’égalité entre l’indice de Maslov total µtot et l’indice de Morse total de la collection des géodésiques fermées qui correspondent aux orbites de Reeb asymptotes.

ASTÉRISQUE 348

(1036)

INVARIANTS DE WELSCHINGER

287

3.3. Démonstrations Welschinger [59, §1.1.2] encode le quotient par Z/2Z d’une courbe réelle à deux étages u = (u+ , u− ) par un arbre enraciné dont les arêtes sont décorées d’entiers positifs. La racine s0 représente le quotient de l’unique composante cL -invariante, qui est un disque épointé à bord sur L. Les autres sommets représentent le quotient d’une paire de composantes complexes conjuguées. Chaque arête adjacente à un sommet représente une paire d’asymptotes conjuguées de la (paire de) composante(s) correspondante(s) et l’entier positif qu’elle porte est la multiplicité de ces orbites asymptotes. De cette manière, les composantes à valeurs dans T ∗ L, resp. X \ L, sont représentées par des sommets à distance paire, resp. impaire, de s0 .

1

2 3

1

racine

Figure 3. Un exemple de courbe limite à 9 composantes.

Les courbes limite u± sont immergées. Welschinger utilise l’indice de Maslov µ, défini comme étant le double de l’obstruction à étendre à S˙ ± la trivialisation du fibré normal Nu± donnée par le flot de Reeb linéarisé au voisinage des pointes. En notant χ = 2 − v la caractéristique d’Euler d’une composante de S˙ ± on obtient µtot = µ + 2χ = µ + 4 − 2v et dim M u± = 2n + µ − 2. Lorsque dim X = 4 on a en particulier dim M u± = µ + 2. Cette dernière formule de dimension est valable aussi lorsque l’on travaille avec des courbes réelles, sauf pour la courbe correspondant au sommet s0 de l’arbre, pour laquelle on a dim M s0 = 21 (µ + 2) = 12 µ + 1 puisqu’elle est cL -invariante. Démonstration du théorème 3.1. Nous présentons la preuve dans le cas L = S 2 , le cas L = RP 2 étant analogue. Remarquons que l’orientabilité de L implique l’imparité de r : soit C une surface réelle orientable immergée qui représente d telle que RC ⊂ RL. Alors r impair équivaut à c1 (X)d pair, ou encore à ce que le fibré normal de C soit de degré pair, ce qui découle de l’orientabilité du fibré normal à RC dans RL. On munit L d’une métrique à courbure constante et on étire le cou de la structure presque complexe au voisinage de Σ = ST ∗ L. L’idée est de montrer que la courbe limite a un lieu réel plongé. Ceci entraîne que, pour ν assez grand, les lieux réels de uν sont plongés aussi, ce qui permet de conclure par l’argument présenté en début de section. On note A l’arbre qui encode la courbe limite et S1 , resp. S2 , l’ensemble des sommets à distance impaire, resp. paire, de s0 . Pour chaque sommet s on note vs sa

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

288

A. OANCEA

valence et ks la somme des multiplicités des arêtes adjacentes. On note µs , resp. µtot s , les indices de Maslov de la courbe Cs associée à un sommet s et χs sa caractéristique d’Euler. On a en particulier χs = 2 − vs pour s 6= s0 et χs = 1 − vs pour s = s0 . Soient v le nombre total d’arêtes et k leur multiplicité totale. Pour les courbes de l’étage T ∗ L on a µs = µtot s − 2χs . Par la proposition 3.7 on obtient X µs = 2k + 2v − 4#S2 + 2. s∈S2

Regardons maintenant les courbes de l’étage X \ L et supposons pour commencer qu’elles sont simples. La généricité de la structure presque complexe impose que tous les espaces de modules concernés sont de dimension positive, c’est-à-dire µs + 2 ≥ 0, respectivement µs + 2 ≥ 2fs si Cs contient fs points de notre collection. On obtient la minoration X µs ≥ −2#S1 + 2rX . s∈S1

Puisque A est un arbre on a v = #S1 + #S2 − 1, de sorte que l’indice de Maslov P µ = s µs satisfait µ ≥ 2k − 2#S2 + 2rX ≥ 2rX . Par ailleurs µ est majoré par c1 (X)d − 2, le degré du fibré normal d’une courbe rationnelle immergée homologue à d. Puisque r = 1 on a c1 (X)d − 2 = 2rX et toutes les inégalités précédentes doivent être des égalités. En particulier k = #S2 , toutes les orbites de Reeb qui interviennent sont simples et tous les sommets de S2 sont des feuilles, y compris s0 . La courbe réelle codée par s0 est donc un cylindre réel ayant comme asymptotes deux orbites de Reeb simples (conjuguées). Welschinger démontre par un raisonnement similaire à celui qui prouve la formule d’adjonction qu’un tel cylindre est nécessairement plongé [59, Lemme 1.14], ce qui est la conclusion désirée. Le cas où les courbes Cs sont multiplement revêtues est traité en utilisant les faits suivants : (i) une courbe d’énergie de Hofer finie factorise toujours à travers une courbe simple [18, Appendice] ; (ii) l’indice de Maslov µ` d’un revêtement de degré ` d’une courbe simple d’indice µ vaut µ` = `µ + 2ρ, où ρ est l’indice de ramification. Il en découle que µ` peut être plus petit que µ uniquement lorsque µ est négatif, donc égal à −2. Cela ne concerne en particulier pas les courbes de l’étage X \ L soumises à des conditions d’incidence, notées Cs1 , . . . , Csj , qui vérifient par conséquent Pj P s∈{s / 1 ,...,sj } µs ≥ 2j, ce i=1 µsi ≥ −2j + 2rX . Nous allons montrer la minoration qui permettra alors de conclure comme précédemment. Nous allons estimer la contribution à l’indice de Maslov total pour chaque composante connexe de A \ {s1 , . . . , sj }. Soit A0 une telle composante connexe et notons S10 , resp. S20 , l’ensemble de ses sommets qui, dans A, sont à distance impaire,

ASTÉRISQUE 348

(1036)

INVARIANTS DE WELSCHINGER

289

resp. paire, de s0 . On note v 0 , resp. k 0 , la valence totale, resp. la multiplicité totale, dans A des sommets de A0 . Comme précédemment on obtient X µs = 2k 0 + 2v 0 − 4#S20 + 2δ, s∈S20

P où δ vaut 1 si A0 contient s0 et 0 sinon. Pour estimer s∈S10 µs nous introduisons les notations suivantes concernant un sommet s ∈ S10 : on suppose que Cs est un revêtement de degré `s d’une courbe simple C s , avec indice de ramification ρs , on note vs , v s leurs nombres respectifs de pointes et χs = 2 − vs , χs = 2 − v s leurs caractéristiques d’Euler. La formule de Riemann-Hurwitz assure l’égalité `s χs = χs + ρs . Soit ks la multiplicité totale des arêtes adjacentes à s. On obtient X X (`s µs + 2ρs ) µs = s∈S10

s∈S10

≥

−2

X s∈S10

=

2

X

X

`s + 2

(`s χs − χs )

s∈S10

(`s − `s v s + vs ) − 4#S10

s∈S10

≥ 2

X

(`s − ks + vs ) − 4#S10 .

s∈S10 0 0 Soient vint le nombre total d’arêtes de A0 et kint leur multiplicité totale. Puisqu’il n’y a pas d’arête qui relie l’un des sommets s1 , . . . , sj à un sommet dans S10 , on obtient P P 0 0 0 que s∈S10 vs = vint et s∈S10 ks = kint . Par ailleurs vint = #S10 + #S20 − 1 et l’on obtient X X 0 0 µs ≥ 2(k 0 − kint ) + 2(v 0 − vint )+2 `s − 4 + 2δ. s∈S10 ∪S20

s∈S10 0

0 − kint

0

0 − vint

Dans le membre de droite k ≥ 1, v ≥ 1 et `s ≥ 1. Chacun des sommets s1 , . . . , sj étant relié à au moins une composante A0 comme ci-dessus, pour laquelle il 0 0 contribue de 1 dans k 0 − kint et dans v 0 − vint , on obtient en sommant sur toutes les 0 composantes A de A \ {s1 , . . . , sj } la minoration désirée X µs ≥ 2j. s∈{s / 1 ,...,sj }

 Remarque. — Il s’ensuit de la démonstration que l’énoncé du théorème 3.1 peut être précisé : les bornes inférieures sont atteintes pour toute structure presque complexe générique ayant un cou suffisamment long au voisinage de L. Démonstration du corollaire 3.2. — Le plan projectif et la quadrique sont des surfaces convexes, de sorte que la structure complexe standard est générique. Dans les deux

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

290

A. OANCEA

cas, la structure standard a un cou de longueur infinie au voisinage de L : il s’agit du complémentaire de la conique imaginaire pure, respectivement du complémentaire de la section hyperplane. On conclut par la remarque précédente.  Esquisse de la démonstration du théorème 3.3. — Il s’agit de décrire avec plus de détail les arbres qui sont susceptibles d’encoder une courbe à deux étages qui est limite d’une suite uν ∈ M dk (X, Jν ), ν → ∞ après étirement du cou. Toutes les composantes de la courbe limite sont rigidifiées par leurs conditions d’incidence et leurs conditions asymptotiques. Dans le cas L = S 2 , Welschinger montre en utilisant des estimées sur l’indice de Maslov semblables à celles de la preuve du théorème 3.1 que toutes les composantes de l’étage X \ L sont connectées à la racine Cs0 , et qu’il y a au moins 21 (kd − 2r − 1) paires complexes conjuguées de telles composantes. Chaque paire est rigidifiée en prescrivant une paire d’orbites asymptotes communes avec Cs0 . Puisqu’il y a deux manières d’apparier deux paires d’orbites et donc de recoller une 1 telle composante de l’étage X \ L à Cs0 , il en résulte que la puissance 2 2 (kd −2r−1) divise χdr . Lorsque L = RP 2 , le raisonnement est un peu plus délicat parce que les composantes de l’étage X\L ne sont pas nécessairement connectées à la racine Cs0 . 3.4. Ouverture : invariants relatifs Revenons à la courbe à deux étages obtenue après étirement du cou au voisinage de la lagrangienne L, codée par un arbre enraciné A. Nous pouvons résumer la démarche suivie jusqu’ici de la manière suivante : 1. une description grossière de l’arbre A, n’utilisant essentiellement que la structure à deux étages de la courbe et des estimées sur l’indice de Maslov, a permis d’obtenir le théorème d’optimalité 3.1 ; 2. une description plus fine de l’arbre A, avec des informations sur la distance des composantes de l’étage X \ L par rapport à la racine s0 , permet d’obtenir le théorème de congruence 3.3 ; 3. une description exhaustive du type combinatoire de A permet d’exprimer χdr comme un produit de convolution d’invariants définis dans T ∗ L et d’invariants définis dans X \ L. La convolution est entendue ici comme une somme discrète sur tous les types combinatoires possibles de courbes à deux étages. Avec une notation vague, on peut écrire χdr = χT ∗ L ∗ χX\L . Ceci est le reflet algébrique du « cassage » de la variété X en deux morceaux T ∗ L et X \ L par étirement du cou. Welschinger a rendu rigoureux ce dernier point dans [59, Théorèmes 3.10 et 3.16] lorsque X est le plan projectif, respectivement la quadrique ellipsoïde de dimension 2.

ASTÉRISQUE 348

(1036)

INVARIANTS DE WELSCHINGER

291

i. Le cas X = P2 . On travaille avec la structure complexe standard, auquel cas T ∗ RP 2 devient biholomorphe à P2 \ Q, où Q est la conique imaginaire pure, et P2 \ RP 2 devient biholomorphe à l’espace total du fibré holomorphe de degré quatre sur Q. Les courbes situées dans l’étage T ∗ L, soumises à des conditions d’incidence totalement réelles et à des conditions asymptotiques, peuvent être interprétées comme des invariants relatifs au diviseur réel Q, la multiplicité d’une orbite asymptote encodant l’ordre de tangence à Q. Ce type d’invariant a été défini par Welschinger dans [53]. Le comptage des courbes situées dans l’étage X \ L, ayant des conditions d’incidence complexes conjuguées, peut être interprété comme un invariant de Gromov-Witten relatif dans la surface rationnelle réelle réglée de degré quatre, ayant des conditions de tangence prescrites avec la section exceptionnelle. ii. Le cas X = P1 × P1 , la quadrique ellipsoïde de dimension deux. On a RX = S 2 . On travaille avec la structure complexe standard, auquel cas T ∗ S 2 devient biholomorphe à (P1 × P1 ) \ Q, où Q est une section hyperplane réelle de X disjointe de RX = S 2 , et (P1 × P1 ) \ S 2 devient biholomorphe à l’espace total du fibré holomorphe de degré deux sur Q. Les courbes situées dans l’étage T ∗ L, soumises à des conditions d’incidence totalement réelles et à des conditions asymptotiques, peuvent être interprétées comme des invariants relatifs au diviseur réel Q [53], la multiplicité d’une orbite asymptote encodant l’ordre de tangence à Q. Le comptage des courbes situées dans l’étage X \ L, ayant des conditions d’incidence complexes conjuguées, peut être interprété comme un invariant de Gromov-Witten relatif dans la surface rationnelle réelle réglée de degré deux, ayant des conditions de tangence prescrites avec la section exceptionnelle. En vue de la discussion précédente, lorsque X = P2 ou X = P1 × P1 , l’équation de convolution ci-dessus prend la forme χdr = χrel ∗ GW rel T ∗L

X\L

χdr

et exprime comme un produit de convolution entre un invariant de Welschinger relatif et un invariant de Gromov-Witten relatif dans une compactification appropriée de X \ L. À nouveau, la convolution est entendue comme une somme discrète sur tous les types combinatoires possibles de courbes à deux étages. La formule est de même nature que la formule de Ionel et Parker exprimant les invariants de GromovWitten d’une somme connexe symplectique le long d’un diviseur comme un produit de convolution d’invariants de Gromov-Witten relatifs au diviseur [22]. Remarque (autres invariants relatifs). — Welschinger définit dans [52] des invariants relatifs réels de variétés de dimension quatre en imposant des conditions de tangence

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

292

A. OANCEA

au lieu réel de diviseurs particuliers. Ceci lui a permis en particulier de montrer que le nombre de coniques réelles tangentes à cinq coniques réelles génériques de P2 est toujours minoré par 32. De Joncquières avait établi en 1859 que le nombre de coniques complexes vaut 3264, alors que Ronga, Tognoli et Vust avaient montré en 1997 qu’il existe des configurations réelles pour lesquelles toutes les solutions sont réelles [39].

4. AUTRES DÉVELOPPEMENTS 4.1. Symétrie miroir Solomon [43, Théorème 1.3] a défini en dimensions 2 et 3, et sous l’hypothèse que RX est orientable dans ce deuxième cas, des invariants énumératifs réels qui généralisent les invariants de Welschinger. Les invariants de Solomon comptent des courbes J-holomorphes soumises à des conditions d’incidence ponctuelles, en genre arbitraire et ayant un nombre arbitraire de composantes de bord, contraintes à avoir une image dans RX. Dans l’approche de Solomon la structure conforme à la source est fixée. La méthode de construction de ces invariants est proche de celle des invariants de Gromov-Witten et fournit en particulier une interprétation des invariants de Welschinger χd,p r (L) en termes d’intégrales de formes différentielles sur un espace de modules de disques J-holomorphes avec condition au bord lagrangienne [43, Théorème 1.8]. Cet espace de modules de disques est un revêtement double de l’espace de modules de courbes rationnelles réelles. Une interprétation des invariants de Welschinger dans le même esprit a été donnée par Cho [7] sous l’hypothèse que RX est orientable. Dans la même direction, mentionnons [12] et l’article de Fukaya [10], ainsi que l’ouvrage fondateur [11]. Tous ces travaux constituent autant d’approches au problème de définir des invariant de Gromov-Witten « ouverts », i.e. une théorie d’intersection cohérente sur l’espace de modules d’applications stables avec conditions au bord lagrangienne. Il semble que les variétés symplectiques réelles fournissent un cadre approprié pour ce problème fondamental, la structure réelle assurant des annulations miraculeuses pour des termes de bord d’intégrales définies sur l’espace de modules. L’un des problèmes centraux du domaine est de définir des invariants de Welschinger en dimension 2n ≥ 8. Solomon a déjà exposé des résultats concernant un analogue de l’équation WDVV [35, §11.2] pour l’espace de modules de disques stables à bord lagrangien (cf. [1]). Ceci suggère l’existence d’une version réelle de la conjecture de symétrie miroir [32]. Pandharipande, Solomon et Walcher [38] calculent des invariants énumératifs pour la quintique réelle de P4 en utilisant des formes déjà démontrées de symétrie miroir. (La quintique sort du cadre des variétés semi-positives que nous avons adopté ici.)

ASTÉRISQUE 348

(1036)

INVARIANTS DE WELSCHINGER

293

Remarque (Invariants de Gromov-Witten « ouverts » en dimension quatre et six). — Depuis l’exposé au séminaire Bourbaki, dont cet article est le compte-rendu, Welschinger a défini des invariants de Gromov-Witten ouverts énumératifs en dimensions quatre et six [56, 57]. En dimension quatre il s’agit d’un comptage avec signe de disques à bord sur une sous-variété lagrangienne orientable, sous la seule condition que le bord soit homologiquement trivial et sans utiliser de structure réelle. Ces nouveaux invariants généralisent ceux du §2. 4.2. Géométrie tropicale La géométrie tropicale peut être décrite comme étant la géométrie algébrique sur le semi-anneau tropical Rtrop = (R, max, +). Les opérations max et + peuvent être vues comme la limite lorsque t → ∞ des opérations a ⊕t b = logt (ta + tb ) et a ⊗t b = a + b, induites sur R en demandant que logt : (R∗+ , +, ·) → (R, ⊕t , ⊗t ) soit un isomorphisme. Cette déformation de structure algébrique est étroitement liée à la déformation de 1 structure complexe Jt v = log(t) iv, v ∈ T S 1 sur C∗ = T ∗ S 1 . Nous renvoyons aux excellents textes [23, 27] pour les bases de la géométrie tropicale. La déformation de structure complexe précédente a permis à Mikhalkin de démontrer un théorème de correspondance entre courbes algébriques et courbes tropicales rigidifiées par un nombre adapté de conditions d’incidence ponctuelles [36]. Cette approche s’adapte au cadre réel et permet de décrire en termes combinatoires les invariants de Welschinger en dimension 2 (voir aussi [42, 15], ainsi que [5] pour le cas de la dimension 3). Comme application, mentionnons l’équivalence logarithmique [24, 25] de l’invariant de Welschinger χd3d−1 et de l’invariant de Gromov-Witten Nd dans le cas X = P2 . Un résultat similaire d’équivalence logarithmique est valable pour P3 : alors que χd2d est nul si d est pair, χd2d est équivalent en échelle logarithmique à Nd lorsque d est impair [5]. Soulignons le fait que ces résultats sont obtenus pour la valeur maximale admise de r. Dans [1, 26] les auteurs démontrent des formules récursives tropicales pour calculer les invariants de Welschinger. Ces formules de type Caporaso-Harris [6, 14] font intervenir des invariants tropicaux relatifs, auxquels on ne sait pas encore donner un sens en termes de courbes J-holomorphes. Notons au passage le lien étroit entre la preuve de la formule de Caporaso-Harris [6] et la procédure d’étirement du cou décrite au §3.2. 4.3. En guise de conclusion Les résultats que nous avons présentés indiquent que les invariants de Welschinger sont les bons analogues réels des invariants de Gromov-Witten avec des conditions d’incidence ponctuelles. À la différence des invariants de Gromov-Witten, les invariants de Welschinger n’ont pas encore engendré de théorie systématique

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

294

A. OANCEA

comparable à celle de la cohomologie quantique ou encore à la symétrie miroir. Le travail de Welschinger sera à mon avis le point de départ de nombreux développements futurs. Remerciements Je remercie Ilia Itenberg, Viatcheslav Kharlamov et Jean-Yves Welschinger pour leurs explications éclairantes. Je remercie ma famille pour son soutien.

RÉFÉRENCES [1] A. Arroyo, E. Brugallé & L. López de Medrano – Recursive formulas for Welschinger invariants of the projective plane, Int. Math. Res. Not. 2011 (2011), p. 1107–1134. [2] J.-F. Barraud – Nodal symplectic spheres in CP2 with positive selfintersection, Int. Math. Res. Not. 1999 (1999), p. 495–508. [3] F. Bourgeois – A Morse-Bott approach to contact homology, Thèse, Stanford University, 2002. [4] F. Bourgeois, Y. Eliashberg, H. Hofer, K. Wysocki & E. Zehnder – Compactness results in symplectic field theory, Geom. Topol. 7 (2003), p. 799– 888. [5] E. Brugallé & G. Mikhalkin – Enumeration of curves via floor diagrams, C. R. Math. Acad. Sci. Paris 345 (2007), p. 329–334. [6] L. Caporaso & J. Harris – Counting plane curves of any genus, Invent. Math. 131 (1998), p. 345–392. [7] C.-H. Cho – Counting real J-holomorphic discs and spheres in dimension four and six, J. Korean Math. Soc. 45 (2008), p. 1427–1442. [8] A. I. Degtyarev & V. Kharlamov – Topological properties of real algebraic varieties : Rokhlin’s way, Uspekhi Mat. Nauk 55 (2000), p. 129–212 (in Russian) ; English translation : Russian Math. Surveys 55 (2000), p. 735–814. [9] Y. Eliashberg, A. Givental & H. Hofer – Introduction to symplectic field theory, Geom. Funct. Anal. Special Volume, Part II (2000), p. 560–673. [10] K. Fukaya – Counting pseudo-holomorphic discs in Calabi-Yau 3-fold, prépublication arXiv:0908.0148. [11] K. Fukaya, Y.-G. Oh, H. Ohta & K. Ono – Lagrangian intersection Floer theory : anomaly and obstruction, AMS/IP Studies in Adv. Math., vol. 46.1–2, AMS-International Press, 2009. [12] , Anti-symplectic involution and Floer cohomology, prépublication arXiv:0912.2646.

ASTÉRISQUE 348

(1036)

INVARIANTS DE WELSCHINGER

295

[13] W. Fulton & R. Pandharipande – Notes on stable maps and quantum cohomology, in Algebraic geometry—Santa Cruz 1995, Proc. Sympos. Pure Math., vol. 62, Amer. Math. Soc., 1997, p. 45–96. [14] A. Gathmann & H. Markwig – The Caporaso-Harris formula and plane relative Gromov-Witten invariants in tropical geometry, Math. Ann. 338 (2007), p. 845–868. [15] A. Gathmann, H. Markwig & F. Schroeter – Broccoli curves and the tropical invariance of Welschinger numbers, prépublication arXiv:1104.3118. [16] M. Gromov – Pseudoholomorphic curves in symplectic manifolds, Invent. Math. 82 (1985), p. 307–347. [17] H. Hofer – Pseudoholomorphic curves in symplectizations with applications to the Weinstein conjecture in dimension three, Invent. Math. 114 (1993), p. 515– 563. [18] H. Hofer, K. Wysocki & E. Zehnder – Properties of pseudo-holomorphic curves in symplectizations. II. Embedding controls and algebraic invariants, Geom. Funct. Anal. 5 (1995), p. 270–328. , Properties of pseudoholomorphic curves in symplectizations. I. [19] Asymptotics, Ann. Inst. H. Poincaré Anal. Non Linéaire 13 (1996), p. 337–379. [20] , Properties of pseudoholomorphic curves in symplectizations. III. Fredholm theory, in Topics in nonlinear analysis, Progr. Nonlinear Differential Equations Appl., vol. 35, Birkhäuser, 1999, p. 381–475. [21] , A general Fredholm theory. II. Implicit function theorems, Geom. Funct. Anal. 19 (2009), p. 206–293. [22] E.-N. Ionel & T. H. Parker – The symplectic sum formula for Gromov-Witten invariants, Ann. of Math. 159 (2004), p. 935–1025. [23] I. Itenberg – Amibes de variétés algébriques et dénombrement de courbes (d’après G. Mikhalkin), Séminaire Bourbaki, vol. 2002/03, exp. no 921, Astérisque 294 (2004), p. 335–361. [24] I. Itenberg, V. Kharlamov & E. Shustin – Welschinger invariant and enumeration of real rational curves, Int. Math. Res. Not. 2003 (2003), p. 2639– 2653. , Logarithmic equivalence of the Welschinger and the Gromov-Witten [25] invariants, Uspekhi Mat. Nauk 59 (2004), p. 85–110 (in Russian) ; English translation : Russian Math. Surveys 59 (2004), 1093–1116. [26] , A Caporaso-Harris type formula for Welschinger invariants of real toric del Pezzo surfaces, Comment. Math. Helv. 84 (2009), p. 87–126. [27] I. Itenberg, G. Mikhalkin & E. Shustin – Tropical algebraic geometry, second ed., Oberwolfach Seminars, vol. 35, Birkhäuser, 2009. [28] S. Ivashkovich & V. Shevchishin – Structure of the moduli space in a neighborhood of a cusp-curve and meromorphic hulls, Invent. Math. 136 (1999), p. 571–602.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

296

A. OANCEA

[29] V. Kharlamov – Variétés de Fano réelles (d’après C. Viterbo), Séminaire Bourbaki, vol. 1999/2000, exp. no 872, Astérisque 276 (2002), p. 189–206. [30] R. C. Kirby & L. R. Taylor – Pin structures on low-dimensional manifolds, in Geometry of low-dimensional manifolds, 2 (Durham, 1989), London Math. Soc. Lecture Note Ser., vol. 151, Cambridge Univ. Press, 1990, p. 177–242. [31] S. Kobayashi – Differential geometry of complex vector bundles, Publications of the Mathematical Society of Japan, vol. 15, Princeton Univ. Press, 1987. [32] M. Kontsevich – Homological algebra of mirror symmetry, in Proceedings of the International Congress of Mathematicians, Vol. 1, 2 (Zürich, 1994), Birkhäuser, 1995, p. 120–139. [33] M. Kontsevich & Y. Manin – Gromov-Witten classes, quantum cohomology, and enumerative geometry, Comm. Math. Phys. 164 (1994), p. 525–562. [34] F. Mangolte & J.-Y. Welschinger – Do uniruled six-manifolds contain Sol Lagrangian submanifolds ?, prépublication arXiv:1001.2927. [35] D. McDuff & D. Salamon – J-holomorphic curves and symplectic topology, American Mathematical Society Colloquium Publications, vol. 52, Amer. Math. Soc., 2004. [36] G. Mikhalkin – Enumerative tropical algebraic geometry in R2 , J. Amer. Math. Soc. 18 (2005), p. 313–377. [37] J. W. Milnor & J. D. Stasheff – Characteristic classes, Annals of Math. Studies, vol. 76, Princeton Univ. Press, 1974. [38] R. Pandharipande, J. P. Solomon & J. Walcher – Disk enumeration on the quintic 3-fold, J. Amer. Math. Soc. 21 (2008), p. 1169–1209. [39] F. Ronga, A. Tognoli & T. Vust – The number of conics tangent to five given conics : the real case, Rev. Mat. Univ. Complut. Madrid 10 (1997), p. 391–421. [40] Y. Ruan & G. Tian – A mathematical theory of quantum cohomology, J. Differential Geom. 42 (1995), p. 259–367. [41] V. Schevchishin – Pseudoholomorphic curves isotopy problem, Habilitationsschrift, Universität arXiv:math/0010262.

and the symplectic Bochum-Ruhr, 2000,

[42] E. Shustin – A tropical calculation of the Welschinger invariants of real toric del Pezzo surfaces, J. Algebraic Geom. 15 (2006), p. 285–322. [43] J. P. Solomon – Intersection theory on the moduli space of holomorphic curves with Lagrangian boundary conditions, Thèse, Massachusetts Institute of Technology, 2006, arXiv:math/0606429. [44] F. Sottile – Enumerative real algebraic geometry, in Algorithmic and quantitative real algebraic geometry (Piscataway, NJ, 2001), DIMACS Ser. Discrete Math. Theoret. Comput. Sci., vol. 60, Amer. Math. Soc., 2003, p. 139– 179.

ASTÉRISQUE 348

(1036)

INVARIANTS DE WELSCHINGER

297

[45] C. Viterbo – A new obstruction to embedding Lagrangian tori, Invent. Math. 100 (1990), p. 301–320. , Symplectic real algebraic geometry, 1999. [46] [47] A. Weinstein – Symplectic manifolds and their Lagrangian submanifolds, Advances in Math. 6 (1971), p. 329–346. [48] J.-Y. Welschinger – Invariants of real rational symplectic 4-manifolds and lower bounds in real enumerative geometry, C. R. Math. Acad. Sci. Paris 336 (2003), p. 341–344. , Invariants of real symplectic 4-manifolds and lower bounds in real [49] enumerative geometry, Invent. Math. 162 (2005), p. 195–234. , Spinor states of real rational curves in real algebraic convex 3-manifolds [50] and enumerative invariants, Duke Math. J. 127 (2005), p. 89–121. [51] , Invariants of real symplectic four-manifolds out of reducible and cuspidal curves, Bull. Soc. Math. France 134 (2006), p. 287–325. , Towards relative invariants of real symplectic four-manifolds, Geom. [52] Funct. Anal. 16 (2006), p. 1157–1182. , Invariant count of holomorphic disks in the cotangent bundles of the [53] two-sphere and real projective plane, C. R. Math. Acad. Sci. Paris 344 (2007), p. 313–316. [54] , Invariants entiers en géométrie énumérative réelle, in Proceedings of the International Congress of Mathematicians. Volume II, Hindustan Book Agency, 2010, p. 652–678. , Enumerative invariants of strongly semipositive real symplectic six[55] manifolds, prépublication arXiv:math/0509121. [56] , Open Gromov-Witten invariants in dimension four, prépublication arXiv:1110.2705. [57] , Open Gromov-Witten invariants in dimension six, prépublication arXiv:1201.3518. [58] , Open strings, Lagrangian conductors and Floer functor, prépublication arXiv:0812.0276. [59] , Optimalité, congruences et calculs d’invariants des variétés symplectiques réelles de dimension quatre, prépublication arXiv:0707.4317.

Alexandru OANCEA Institut de Recherche Mathématique Avancée (IRMA) CNRS et Université de Strasbourg 7, Rue René Descartes F–67084 Strasbourg Cedex E-mail : [email protected]

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

348

ASTÉRISQUE 2012

SÉMINAIRE BOURBAKI VOLUME 2010/2011 EXPOSÉS 1027-1042 (1037) A proof of the André-Oort conjecture via mathematical logic Thomas SCANLON

SOCIÉTÉ MATHÉMATIQUE DE FRANCE Publié avec le concours du CENTRE NATIONAL DE LA RECHERCHE SCIENTIFIQUE

Séminaire BOURBAKI 63e année, 2010-2011, no 1037, p. 299 à 315

Avril 2011

A PROOF OF THE ANDRÉ-OORT CONJECTURE VIA MATHEMATICAL LOGIC [after Pila, Wilkie and Zannier] by Thomas SCANLON

INTRODUCTION Extending work of Bombieri and Pila on counting lattice points on convex curves [4], Pila and Wilkie proved a strong counting theorem on the number of rational points in a more general class of sets definable in an o-minimal structure on the real numbers [37]. Following a strategy proposed by Zannier, the Pila-Wilkie upper bound has been leveraged against Galois-theoretic lower bounds in works by Daw, Habegger, Masser, Peterzil, Pila, Starchenko, Yafaev and Zannier [6, 18, 25, 31, 36, 38] to prove theorems in diophantine geometry to the effect that for certain algebraic varieties the algebraic relations which may hold on its “special points” are exactly those coming from “special varieties”. Of these results, Pila’s unconditional proof of the André-Oort conjecture for the j-line is arguably the most spectacular and will be the principal object of this resumé. Readers interested in a survey with more details about some of the other results along these lines, specifically the Pila-Zannier reproof of the Manin-Mumford conjecture and the Masser-Zannier theorem about simultaneous torsion in families of elliptic curves, may wish to consult my notes for the Current Events Bulletin lecture [42]. Acknowledgements. I wish to thank M. Aschenbrenner, J. Pila and U. Zannier for their advice and especially for suggesting improvements to this text.

1. STATEMENT OF THE ANDRÉ-OORT CONJECTURE The collection of theorems and conjectures broadly known under the rubric of the André-Oort conjecture arose from a conjecture proposed by André about curves in Shimura varieties [1] and a related conjecture of Oort that a subvariety of a moduli

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

300

T. SCANLON

space of principally polarized abelian varieties which contains a Zariski dense set of moduli points of abelian varieties with complex multiplication must be a variety of Hodge type [29]. The assertion now generally regarded as the André-Oort conjecture takes as its starting point the theory of Shimura varieties as presented in terms of Deligne’s Shimura data and predicts that the Zariski closure of a set of special points in a Shimura variety must be a finite union of varieties of Hodge type. The full André-Oort conjecture paints a beautiful picture of the way in which the diophantine geometry of Shimura varieties reflects the presentation of these varieties as quotients of homogeneous spaces by the action of an arithmetic group. However, since too much theoretical overhead is required to correctly state this conjecture and even more is required to do the subject justice, not to mention the fact that Noot’s excellent survey [28] is already available, we shall restrict to the case considered in [36]. Let us recall some of the classical complex analytic theory of elliptic curves as one would find in such sources as [43] or [45]. Let h := {z ∈ C : Im(z) > 0} be the upper half plane consisting of those complex numbers with positive imaginary part. For τ ∈ h, let Eτ := C/(Z + Zτ ) be the one-dimensional complex torus (which is necessarily an elliptic curve, that is, a connected, one-dimensional algebraic group) obtained as the quotient of the additive group of the complex numbers by the lattice generated by 1 and τ . The group PSL2 (R)
acts transitively on h via fractional linear transformations ac db · z := az+b cz+d . A simple ∼ computation shows that Eτ = Eσ just in case there is some γ ∈ PSL2 (Z) with γ·τ = σ. Hence, as a set, we may identify the set of isomorphism classes of complex elliptic curves with PSL2 (Z)\h. The analytic j-function (or “modular function”) j : h → C is a surjective holomorphic function which is exactly PSL2 (Z)-invariant in the sense that j(τ ) = j(σ) if and only if σ = γ · τ for some γ ∈ PSL2 (Z). Thus, using j we may identify PSL2 (Z)\h with C = A1 (C) and we say that a number ξ ∈ C is the j-invariant of an elliptic curve E if there is some τ ∈ h for which ξ = j(τ ) and E ∼ = Eτ . From the general theory of covering spaces, one sees that Hom(Eτ , Eσ ) = {λ ∈ C : λ(Z + Zτ ) ⊆ Z + Zσ}. Specializing to the case of τ = τ 0 one sees that the endomorphism ring of Eτ is strictly larger than Z just in case τ is a quadratic imaginary number. In this case we say that Eτ has complex multiplication or that it is a CM-elliptic curve. From the above considerations, we see that a number ξ ∈ A1 (C) is the j-invariant of a CM-elliptic curve just in case ξ is the value of j on a quadratic imaginary number. In this way, we may regard the moduli points of CM-elliptic curves as the special values of the modular function. We say that a point (ξ1 , . . . , ξn ) ∈ An (C) is a special point just in case each ξ is a CM-moduli point.

ASTÉRISQUE 348

(1037)

A PROOF OF THE ANDRÉ-OORT CONJECTURE

301

For a positive integer N ∈ Z+ the N th Hecke correspondence is the following set TN (C) := {(j(τ ), j(N τ )) : τ ∈ h}. The Hecke correspondence TN is actually an algebraic subvariety of A2 defined by the vanishing of the so-called N th modular polynomial ΦN (x, y). From the definition of TN it is obvious that TN (C) contains a Zariski dense set of special points as if τ is a quadratic imaginary number, then so is N τ . Pila’s theorem asserts that in a precise sense these are the only interesting varieties which contain a dense set of special points. Theorem 1.1. — Let n ∈ Z+ be a positive integer and X ⊆ AnC an irreducible subvariety of affine n-space over the complex numbers. If X contains a Zariski dense set of special points, then X is a special variety. That is, it is a component of a variety defined by equations of the form ΦM (xi , xj ) = 0 and x` = ξ where ΦM is a modular polynomial and ξ is a special point. Remark 1.2. — Theorem 1.1 is not the strongest theorem proven in [36]. Using the methods outlined in this survey, Pila proved some cases of Pink’s generalization of the André-Oort conjecture to mixed Shimura varieties in which the ambient variety is taken to be a product of a finite sequence of curves where each factor is a modular curve, an elliptic curve or the multiplicative group. Remark 1.3. — Approximations to and conditional generalizations of Theorem 1.1 were proven some time ago. Restricting to the case that X is a curve, Edixhoven already proved Theorem 1.1 under the hypothesis of the generalized Riemann hypothesis in [13, 14] while André shortly thereafter gave an unconditional proof [2]. Edixhoven and Yafaev proved the André-Oort conjecture allowing the ambient variety to be an arbitrary Shimura variety but taking the subvariety X to be a curve under an hypothesis about constancy of the Hodge structure in [15]. Yafaev then proved the André-Oort conjecture under the Generalized Riemann Hypothesis for CM-fields where the subvariety is again a curve. In more recent work, building on results of Ullmo and Yafaev [49], Klingler and Yafaev [22] have proven the full André-Oort conjecture under either the technical hypothesis of [15] or under GRH. Working locally, Moonen proved a p-adic analogue of the André-Oort conjecture for moduli spaces of abelian varieties [27]. All of the known proofs share a common fundamental structure. Geometric reasoning leads to upper bounds on the number of special points lying on a given non-special variety outside of its positive dimensional special subvarieties. Arguments of an analytic number theoretic nature combined with some Galois-theoretic considerations produce lower bounds which outstrip the upper bounds if there are too many special

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

302

T. SCANLON

points. In the papers preceding [36], the upper bounds generally come from intersection theory whereas in [36], the upper bounds come from the Pila-Wilkie counting theorem for o-minimal theories.

2. FIRST STEPS TOWARDS THE PROOF The reader is likely familiar with the ploy of introducing the theory of elliptic curves via complex analysis only to shift the perspective to algebraic number theory and algebraic geometry as soon as diophantine issues arise. However, in the case of Theorem 1.1, the proof proceeds through the complex analytic presentation. Let us begin with X ⊆ An an affine algebraic variety and let us fix some polynomials F1 (x1 , . . . , xn ), . . . , F` (x1 , . . . , xn ) ∈ C[x1 , . . . , xn ] for which X(C) = {(a1 , . . . , an ) ∈ An (C) : Fi (a1 , . . . , an ) = 0 for i ≤ `}. We wish to describe the set of special points on X. That is, we wish to describe the set of n-tuples of quadratic imaginary numbers (τ1 , . . . , τn ) for which F1 (j(τ1 ), . . . , j(τn )) = · · · = F` (j(τ1 ), . . . , j(τn )) = 0. Consider the following real analytic set X

:= {(x1 , · · · , xn , y1 , . . . , yn ) ∈ Rn × (R+ )n : √ √ Ft (j(x1 + i y1 ), . . . , j(xn + i yn )) = 0 for t ≤ `}.

The set of special points of X(C) is the image of the set of rational points on X under the map √ √ (x1 , . . . , xn , y1 , . . . , yn ) 7→ (j(x1 + i y1 ), . . . , j(xn + i yn )). Thus, we have succeeded in reducing the admittedly difficult André-Oort conjecture to the intractable problem of describing the set of rational points on a real analytic variety. Since each subset of Z2n may be realized as the zero set of a real analytic function, knowing merely that X is real analytic yields no useful information. On the other hand, even knowing that X is defined by particularly simple equations does not seem to help as, for instance, the problem of describing the rational points on an algebraic variety is notoriously difficult. The strength of this reduction comes from X avoiding these extremes of a general real analytic variety on one hand and of an algebraic variety on the other. The geometry of X is simple in that, at least when it is restricted to an appropriate fundamental domain, it is definable in an o-minimal expansion of the real field. For such sets, the counting theorem of Pila and Wilkie gives subpolynomial (in a bound on the height) bounds for the number rational points lying in the set provided that one excludes those points lying on semi-algebraic curves.

ASTÉRISQUE 348

(1037)

A PROOF OF THE ANDRÉ-OORT CONJECTURE

303

3. INTERLUDE ON O-MINIMALITY O-minimality is a logical condition isolated by van den Dries [8] from which the theory of semi-algebraic geometry may be developed axiomatically, and ultimately, generalized. In order to express the definition of o-minimality we require some terminology from mathematical logic and I would argue that to appreciate the strength of o-minimality one should approach the subject with a sensibility informed by logic. However, I shall keep the logical apparatus to a minimum. The reader desiring a fuller introduction to the theory of o-minimality would do well to read Wilkie’s survey [53] or van den Dries’ book [10]. Definition 3.1. — An o-minimal structure is a structure (R, 0 where f ∈ R[x1 , . . . , xn ]. Since a polynomial in one variable changes sign only finitely many times, it follows that R F is o-minimal. Example 3.4. — Note that {x ∈ R : sin(x) = 0} = Zπ is an infinite, discrete set and as such cannot be expressed as a finite union of points and intervals. Hence, R{sin} is not o-minimal. Example 3.5. — We say that f : Rn → R is a restricted analytic function if there is a neighborhood U ⊇ [−1, 1]n of the n-cube [−1, 1]n and a real analytic function fe : U → R for which f (x) = fe(x) for x ∈ [−1, 1]n and f (x) = 0 for x ∈ Rn r [−1, 1]n . If we let F consist of all polynomials over R and all restricted analytic functions, then van den Dries observed [9] that the o-minimality of R F (usually denoted as Ran ) follows as a consequence of results of Gabrielov [16] on semi-analytic geometry. Thereafter, Denef and van den Dries [7] presented a more direct proof of the o-minimality of Ran . The key technical observation required for their proof is that the Weierstrass Preparation and Division Theorems permit one to replace conditions on the sign of an analytic function of a single variable over a closed interval with the same conditions on an associated polynomial. Example 3.6. — Extending work of Khovanski on so-called fewnomials [21], Wilkie [51] showed that if F contains all the polynomials over R together with the real exponential function, then Rexp := R F is o-minimal. Wilkie extended this result to obtain the stronger theorem that the expansion of the real field by all functions which satisfy iterated Pfaffian differential equations is o-minimal [52]. Example 3.7. — Amalgamating the last two examples so that F consists of all restricted analytic functions, all polynomials, and the real exponential function we obtain Ran,exp which van den Dries and Miller proved to be o-minimal [12]. In subsequent work, van den Dries, Macintyre, and Marker analyzed the definable sets in Ran,exp through the study of generalized power series models [11]. Thereafter, Speissegger showed that if R F is an o-minimal structure and f : R → R is a function which satisfies a Pfaffian differential equation over R F , that is, there is some G(x, y) ∈ F 2 for which f satisfies the differential equation Y 0 = G(x, Y ), then the structure obtained by adjoining f to F 1 is still o-minimal [46]. The great virtue of the notion of o-minimality is that from the hypothesis about the simplicity of the definable subsets of the line one may deduce strong regularity

ASTÉRISQUE 348

(1037)

A PROOF OF THE ANDRÉ-OORT CONJECTURE

305

results about the definable sets in higher dimensions. The fundamental theorem of o-minimality is the cell decomposition theorem which was first proven by van den Dries under the hypothesis that the underlying ordered set is (R, 0 we define N (X, D, t) := #{(x1 , . . . , xn ) ∈ X : [Q(xi ) : Q] ≤ D & H(xi ) ≤ t for i ≤ n}. Using standard coding tricks Pila strengthens Theorem 4.5 to show that for fixed D ∈ Z+ , X ⊆ Rn definable in an o-minimal structure, and  > 0 there is a constant C = C(, X, D) so that N (X tr , D, t) ≤ Ct [34]. It is actually this form of Theorem 4.5 with D = 2 which we shall employ in the proof of Theorem 1.1. Remark 4.7. — One might hope to improve the bounds in the counting theorem, say, by replacing t with something like (log(t))N . Such improvements are known to fail for general o-minimal structures on the real numbers, including in Ran . However, Wilkie conjectures that if X ⊆ Rn is definable in Rexp , then there are constants C, K > 0 so that for all t > 1 we have N (X tr , t) ≤ C(log(t))K . Some progress towards this conjecture has been achieved by Butler, Jones, Miller, Pila and Thomas [5, 20, 19, 35]. There are two separate parts to the proof of Theorem 4.5. First, one proves a counterpart to the cell decomposition theorem that every bounded definable set in an o-minimal structure on the real numbers may be definably parametrized by the unit ball using functions with small derivatives. Secondly, one uses these parametrizations to employ effective diophantine approximation arguments to bound the number of rational points on X but outside of the algebraic part. Definition 4.8. — Let X ⊆ Rn be a k-dimensional definable set in some o-minimal structure R F on the real numbers and let r ∈ Z+ be a positive integer. We say that φ = (φ1 , . . . , φn ) : (0, 1)k → Rn is a partial r-parametrization of X if – φ is definable, – the range of φ is contained in X, and P – for each i ≤ n and multi-index α = (α1 , . . . , αk ) ∈ Nk with |α| = αi ≤ r we ∂ |α| φi n have | ∂xα1 ···∂xαn (x)| ≤ 1 for all x ∈ (0, 1) . 1

n

By an r-parametrization of X we mean a finite set S of partial r-parametrizations of X for which X is covered by the ranges of the functions in S.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

308

T. SCANLON

Theorem 4.9. — If X ⊆ [−1, 1]n is definable in some o-minimal structure R F on the real numbers for which F contains all of the polynomials and r ∈ Z+ is a positive integer, then X admits an r-parametrization. Remark 4.10. — While we have stated Theorem 4.9 simply for definable sets in o-minimal structures on the real numbers, its proof passes through an analysis of definable sets in arbitrary o-minimal structures. Theorem 4.9 generalizes a theorem of Yomdin on the existence of r-parametrizations for real semi-algebraic sets [55, 54] and its proof follows Gromov’s version of the proof in the semi-algebraic setting [17]. The logical structure of the proof of Theorem 4.9 is similar to that of the cell decomposition theorem (Theorem 3.9). For both of these theorems, the one-dimensional case itself is an immediate consequence of the definition of o-minimality, but to carry out the induction one performs a concurrent induction showing that definable functions have strong regularity properties. For the parametrization theorem, the rôle of the piecewise continuity theorem is played by a reparameterization theorem in all dimensions and in dimension one the monotonicity theorem is replaced by a very strong reparameterization in which the change of variables or the function obtained after the change of variables may be taken to be a polynomial. It is here with the reparameterization theorem that nonstandard models are crucial. By an r-reparameterization of a function f we mean a parameterization of its domain so that for each function φ in the parametrization the partial derivatives of f ◦ φ up to order r all have absolute value bounded by some natural number. When the underlying structure is simply the ordered set of real numbers, to say that these functions are bounded by a natural number is the same as saying that they are simply bounded. For an arbitrary o-minimal structure these notions do not coincide. Once the parameterization theorem has been established, the argument for Theorem 4.5 follows the lines of other constructive arguments bounding numbers of rational solutions and is similar in spirit to Bombieri’s proof of the Mordell conjecture [3]. The key result is the following proposition the kernel of whose proof is ultimately embedded in the paper [4] and completed in [33]. Proposition 4.11. — For m, n, d ∈ N with m < n there are numbers r ∈ Z+ and  = (m, n, d) and C = C(m, n, d) in R+ so that for any C r function φ : (0, 1)m → Rn with range X and t ≥ 1 the set X(Q, t) is contained in at most Ct hypersurfaces of degree d and (m, n, d) → ∞ as d → ∞. Proof (sketch). — We sketch the initial steps in the proof of Proposition 4.11 without expressing any of the required bounds. Take Q0 , . . . , Q` ∈ (0, 1)m so that φ(Q0 ), . . . , φ(Q` ) are distinct elements of X(Q, t). The condition that the points

ASTÉRISQUE 348

(1037)

A PROOF OF THE ANDRÉ-OORT CONJECTURE

309

φ(Q0 ), . . . , φ(Q` ) lie on some hypersurface of degree at most d may be expressed by saying that the rank of the matrix M = (φ(Qi )β ) be sufficiently small. Here, Pn we have indexed the matrix by 0 ≤ i ≤ ` and β ∈ Nn with |β| = i=1 βi ≤ d Qn βj β and we have written φ(Qi ) for j=1 φj (Qi ) . Using some simple considerations of convex geometry and the bounds on the derivatives of φ up to order r, via Taylor expansions one bounds the size of the determinants of the appropriate minors of M . At this point we apply the observation that the set of rational numbers with bounded denominators is discrete to conclude that the determinants of these minors are actually zero. With Proposition 4.11 in place, Theorem 4.5 follows by induction: those exceptional hypersurfaces which have full dimensional intersection with X are part of X alg and those which intersect X in a lower dimensional set contribute little to N (X tr , t) by induction.

5. COMPLETING THE SKETCH OF THE PROOF OF THE MAIN THEOREM Let us return to the proof of Theorem 1.1 we began to sketch in Section 2. Our first observation is that the j-function, appropriately restricted and properly interpreted, is definable in the o-minimal structure Ran,exp . That is, identifying C with R2 we may regard j as a real analytic function from an open region in R2 to R2 . The full j-function is not definable in any o-minimal structure on the real numbers [30]. One can see this, for instance, by observing that the preimage of any point is a countably infinite set which cannot be expressed as a finite union of cells. However, if D is 1 a fundamental domain for j, for example, D = {τ ∈ h : |τ | ≥ 1 & −1 2 ≤ Re(τ ) < 2 }, 2πiτ then the restriction of j to D is definable in Ran,exp . Indeed, j(τ ) = J(e ) where J is a meromorphic function on the open unit disk {z ∈ C : |z| < 1} having a simple pole at the origin. Again interpreting C as R2 we see that for any r < 1 the restriction of J to the closed disk of radius r is definable in Ran . Since the image of D under the √ 2πiτ −π 3 map τ 7→ e is contained in the closed disk of radius e , we conclude that the restriction of j to D is definable in Ran,exp . Consider now a purported counterexample to Theorem 1.1, that is, an irreducible algebraic variety X ⊆ AnC which is not special but still contains a Zariski dense set of n-tuples of j-invariants of CM-elliptic curves. Since all such points are algebraic, we see that X is actually defined over the algebraic numbers. Abusing notation, we shall continue to denote by j the map Dn → An (C) given by (τ1 , . . . , τn ) 7→ (j(τ1 ), . . . , j(τn )). From the above observations, the set X := j −1 X(C) ∩ Dn is definable in Ran,exp and the restriction of j to X induces a

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

310

T. SCANLON

bijection between the quadratic imaginary points on X and the special points in X(C). In order to use Theorem 4.5 to estimate the size of the set of rational points on X, and, hence, the set of special points on X(C), we need to identify Xalg . Amusingly, in the course of the determination of Xalg the Pila-Wilkie bounds are applied to another definable set. Proposition 5.1. — The image of Xalg in X(C) is a finite union of varieties which, up to permutation of the coordinates, have the form S × V where S is a special subn−m variety of Am for some C of dimension at least one and V is a subvariety of A m ≤ n. Proof (sketch). — One observes first that if A ⊆ X is any set and Y is the Zariski closure of A in (P1C )n , then Y (C) ∩ hn ⊆ j −1 X(C). Thus, to analyze Xalg we may restrict attention to sets of the form Y (C) ∩ Dn where Y is an algebraic variety with Y (C) ∩ hn ⊆ j −1 X(C). In particular, it follows that Xalg may be expressed as a finite union of sets of the form Y (C) ∩ Dn where Y is an irreducible, positive dimensional algebraic variety for which dim(Y (C) ∩ Dn ) = dim(Y ), Y (C) ∩ hn ⊆ j −1 X(C), and Y is maximal with respect to inclusion amongst varieties with these properties. For such a variety Y , we consider the following definable set SY := {γ ∈ (PSL2 (R))n : dim((γ · Y )(C) ∩ X) = dim(Y )}. Using the fact that (γ · Y )(C) ∩ hn ⊆ j −1 X(C) for every γ ∈ (PSL2 (Z))n one shows that SY contains many integral points where “many” means more than the Pila-Wilkie bounds would permit if SYalg were empty. For any semi-algebraic subset I ⊆ SY , the set S γ∈I (γ ·Y )(C)∩X is a semi-algebraic subset of X containing Y . Hence, by maximality of Y , Y is stabilized by many infinite connected semi-algebraic subsets of SY from which one may deduce that Y is covered by homogeneous spaces. Remark 5.2. — Proposition 5.1 may be regarded as a functional modular analogue of the Lindemann-Weierstrass Theorem. That is, we may rephrase the conclusion of the proposition as follows. For each i ≤ n let fi : (0, 1) → h be a nonconstant, real analytic semi-algebraic function. If the functions j(f1 (t)), . . . , j(fn (t)) are algebraically dependent over Q, then there is some γ ∈ PSL2 (Q) and i < j ≤ n for which the functional equation fi (t) = γ · fj (t) holds. Our countervailing inequalities come from Siegel’s theorem on the growth of the class number [44]. First a definition. Definition 5.3. — Suppose that a, b, c ∈ Z are integers without a common factor and that τ ∈ C is a complex number satisfying aτ 2 + bτ + c = 0. We define the

ASTÉRISQUE 348

(1037)

A PROOF OF THE ANDRÉ-OORT CONJECTURE

311

discriminant of τ to be ∆(τ ) := |b2 −4ac|. For an n-tuple τ = (τ1 , . . . , τn ) of quadratic numbers we define ∆(τ ) to be max{∆(τi ) : i ≤ n}. Theorem 5.4. — For any positive number  > 0 there is a constant C 0 = C 0 () so 1 that for any quadratic imaginary number τ ∈ h we have [Q(j(τ )) : Q] ≥ C 0 ∆(τ ) 2 − . Proof (sketch). — From the theory of complex multiplication one knows that [Q(j(τ )) : Q] = h(∆(τ )) while Siegel’s theorem [45] gives the estimate 1 h(∆(τ )) ≥ C 0 ∆(τ ) 2 − . With these results in place we may finish sketching the proof of Theorem 1.1. As we observed above, X is defined over some number field K. Arguing by induction, Proposition 5.1 shows that Xtr contains infinitely many quadratic imaginary points, and, hence, such points with arbitrarily large discriminant. If a ∈ Xtr is a quadratic imaginary point, then for each σ ∈ Gal(K alg /K) there is some a0 ∈ Xtr with j(a0 ) = σ(j(a)) and ∆(a) = ∆(a0 ). Hence, for arbitrarily large t we would have 1 at least (C 0 ( 16 )/[K : Q])t 3 quadratic imaginary points in Xtr of discriminant t. On the other hand, it follows from Theorem 4.5 that for some C independent of t we have 1 fewer than Ct 4 such points. For t large enough, these conditions are inconsistent with each other. 

6. FURTHER RESULTS As mentioned in the introduction, this method of proof has been employed successfully for several other theorems in diophantine geometry. Pila and Zannier [38] reproved the Manin-Mumford conjecture (Raynaud’s theorem [41]) that if A is an abelian variety over a number field and X ⊆ A is a closed subvariety, then the intersection of X(C) with the torsion subgroup of A(C) is a finite union of cosets. Peterzil and Starchenko showed in [31] how to extend the arguments from [38] to semi-abelian varieties. Using this method, Masser and Zannier proved the first non-split case of Pink’s generalization of the André-Oort conjecture to mixed Shimura varieties in [24, 25, 26]. They consider the Legendre family of elliptic curves {Eλ }λ∈Cr{0,1} where the affine equation for Eλ is y 2 = x(x − 1)(x − λ) and show that if P, Q ∈ Eλ (C(λ)) are two Z-linearly independent points on the generic fibre of this family, then there are only finitely many values of λ for which both P and Q specialize to torsion points. It bears noting that [38] and [25] preceded and directly contributed to the ideas used in [36]. The recent work of Habegger and Pila [18] takes this method in a somewhat different direction in that it is proven that if X ⊆ AnC is an irreducible curve satisfying an additional technical condition for which X is not contained in a special variety and

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

312

T. SCANLON

if we let S be the union over all special subvarieties Y ⊆ AnC of codimension at least two of Y (C), then X(C) ∩ S is finite. One might hope to approach the André-Oort conjecture for higher dimensional Shimura varieties with these techniques. In the case that the ambient Shimura variety is a moduli space for abelian varieties, Peterzil and Starchenko have shown that the requisite theta functions, suitably restricted, are definable in Ran,exp [32]. The analogue of the Lindemann-Weierstrass theorem is not known, but it appears to be within reach. Recent work of Tsimerman establishes polynomial lower bounds on the Galois orbits of special points in Siegel moduli spaces up to dimension five [48] and recent work of Ullmo and Yafaev gives similar lower bounds in some cases unconditionally and in general under GRH [50]. Thus, it is clear that this line of research has not yet run its course and o-minimal counting arguments will take their place as a powerful tool in diophantine geometry.

REFERENCES [1] Y. André – G-functions and geometry, Aspects of Mathematics, E13, Friedr. Vieweg & Sohn, 1989. [2]

, “Finitude des couples d’invariants modulaires singuliers sur une courbe algébrique plane non modulaire”, J. reine angew. Math. 505 (1998), p. 203–208.

[3] E. Bombieri – “The Mordell conjecture revisited”, Ann. Scuola Norm. Sup. Pisa Cl. Sci. 17 (1990), p. 615–640. [4] E. Bombieri & J. Pila – “The number of integral points on arcs and ovals”, Duke Math. J. 59 (1989), p. 337–357. [5] L. Butler – “Some cases of Wilkie’s conjecture”, preprint, 2011. [6] C. Daw & A. Yafaev – “An unconditional proof of the André-Oort conjecture for Hilbert modular surfaces”, Manuscripta Mathematica 135 (2011), p. 263–271. [7] J. Denef & L. van den Dries – “p-adic and real subanalytic sets”, Ann. of Math. 128 (1988), p. 79–138. [8] L. van den Dries – “Remarks on Tarski’s problem concerning (R, +, ·, exp)”, in Logic colloquium ’82 (Florence, 1982), Stud. Logic Found. Math., vol. 112, North-Holland, 1984, p. 97–121. [9]

, “A generalization of the Tarski-Seidenberg theorem, and some nondefinability results”, Bull. Amer. Math. Soc. (N.S.) 15 (1986), p. 189–193.

[10]

, Tame topology and o-minimal structures, London Mathematical Society Lecture Note Series, vol. 248, Cambridge Univ. Press, 1998.

ASTÉRISQUE 348

(1037)

A PROOF OF THE ANDRÉ-OORT CONJECTURE

313

[11] L. van den Dries, A. Macintyre & D. Marker – “The elementary theory of restricted analytic fields with exponentiation”, Ann. of Math. 140 (1994), p. 183–205. [12] L. van den Dries & C. Miller – “On the real exponential field with restricted analytic functions”, Israel J. Math. 85 (1994), p. 19–56. [13] B. Edixhoven – “Special points on the product of two modular curves”, Compositio Math. 114 (1998), p. 315–328. [14]

, “Special points on products of modular curves”, Duke Math. J. 126 (2005), p. 325–348.

[15] B. Edixhoven & A. Yafaev – “Subvarieties of Shimura varieties”, Ann. of Math. 157 (2003), p. 621–645. [16] A. M. Gabrièlov – “Projections of semianalytic sets”, Funkcional. Anal. i Priložen. 2 (1968), p. 18–30 (in Russian); English translation: Functional Anal. Appl. 2 (1968), 282–291. [17] M. Gromov – “Entropy, homology and semialgebraic geometry (after Y. Yomdin)”, Séminaire Bourbaki, vol. 1985/86, exp. no 663 Astérisque 145146 (1987), p. 225–240. [18] P. Habegger & J. Pila – “Some unlikely intersections beyond André-Oort”, preprint, 2010. [19] G. O. Jones, D. J. Miller & M. E. M. Thomas – “Mildness and the density of rational points on certain transcendental curves”, Notre Dame J. Form. Log. 52 (2011), p. 67–74. [20] G. O. Jones & M. E. M. Thomas – “The density of algebraic points on certain Pfaffian surfaces”, Quarterly J. of Math. (2011), doi:10.1093/qmath/har011. [21] A. G. Khovanski˘ı – Fewnomials, Translations of Mathematical Monographs, vol. 88, Amer. Math. Soc., 1991. [22] B. Klingler & A. Yafaev – “The André-Oort conjecture”, preprint, 2006. [23] J. F. Knight, A. Pillay & C. Steinhorn – “Definable sets in ordered structures. II”, Trans. Amer. Math. Soc. 295 (1986), p. 593–605. [24] D. Masser & U. Zannier – “Torsion anomalous points and families of elliptic curves”, C. R. Math. Acad. Sci. Paris 346 (2008), p. 491–494. [25]

, “Torsion anomalous points and families of elliptic curves”, Amer. J. Math. 132 (2010), p. 1677–1691.

[26]

, “Torsion points on families of squares of elliptic curves”, Math. Ann. 352 (2012), p. 453–484.

[27] B. Moonen – “Linearity properties of Shimura varieties. II”, Compositio Math. 114 (1998), p. 3–35.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

314

T. SCANLON

[28] R. Noot – “Correspondances de Hecke, action de Galois et la conjecture d’AndréOort (d’après Edixhoven et Yafaev)”, Séminaire Bourbaki, vol. 2004/2005, exp. no 942, Astérisque 307 (2006), p. 165–197. [29] F. Oort – “Some questions in algebraic geometry”, http://www.math.uu.nl/ people/oort/, 1995. [30] Y. Peterzil & S. Starchenko – “Uniform definability of the Weierstrass ℘ functions and generalized tori of dimension one”, Selecta Math. (N.S.) 10 (2004), p. 525–550. [31] , “Around Pila-Zannier: the semiabelian case”, preprint, 2009. [32] , “Definability of restricted theta functions and families of Abelian varieties”, preprint, 2010. [33] J. Pila – “Integer points on the dilation of a subanalytic surface”, Q. J. Math. 55 (2004), p. 207–223. [34] , “On the algebraic points of a definable set”, Selecta Math. (N.S.) 15 (2009), p. 151–170. [35] , “Counting rational points on a certain exponential-algebraic surface”, Ann. Inst. Fourier (Grenoble) 60 (2010), p. 489–514. [36] , “O-minimality and the André-Oort conjecture for Cn ”, Ann. of Math. 173 (2011), p. 1779–1840. [37] J. Pila & A. J. Wilkie – “The rational points of a definable set”, Duke Math. J. 133 (2006), p. 591–616. [38] J. Pila & U. Zannier – “Rational points in periodic analytic sets and the Manin-Mumford conjecture”, Atti Accad. Naz. Lincei Cl. Sci. Fis. Mat. Natur. Rend. Lincei (9) Mat. Appl. 19 (2008), p. 149–162. [39] A. Pillay & C. Steinhorn – “Definable sets in ordered structures. I”, Trans. Amer. Math. Soc. 295 (1986), p. 565–592. , “Definable sets in ordered structures. III”, Trans. Amer. Math. Soc. 309 [40] (1988), p. 469–476. [41] M. Raynaud – “Sous-variétés d’une variété abélienne et points de torsion”, in Arithmetic and geometry, Vol. I, Progr. Math., vol. 35, Birkhäuser, 1983, p. 327– 352. [42] T. Scanlon – “Counting special points: Logic, diophantine geometry, and transcendence theory”, Bull. Amer. Math. Soc. (N.S.) 49 (2012), p. 51–71. [43] J-P. Serre – Cours d’arithmétique, Presses Universitaires de France, 1970. [44] C. Siegel – “Über die Classenzahl quadratischer Zahlkörper”, Acta Arith. 1 (1935), p. 83–86. [45] J. H. Silverman – The arithmetic of elliptic curves, Graduate Texts in Math., vol. 106, Springer, 1992.

ASTÉRISQUE 348

(1037)

A PROOF OF THE ANDRÉ-OORT CONJECTURE

315

[46] P. Speissegger – “The Pfaffian closure of an o-minimal structure”, J. reine angew. Math. 508 (1999), p. 189–211. [47] A. Tarski – A Decision Method for Elementary Algebra and Geometry, RAND Corporation, Santa Monica, Calif., 1948. [48] J. Tsimerman – “Brauer-Siegel for arithmetic tori and lower bounds for Galois orbits of special points”, J. of the A.M.S. (2012), article electronically published on April 12, 2012. [49] E. Ullmo & A. Yafaev – “The André-Oort conjecture for products of modular curves”, in Arithmetic geometry, Clay Math. Proc., vol. 8, Amer. Math. Soc., 2009, p. 431–439. [50]

, “Nombre de classes des tores de multiplication complexe et bornes inférieures pour orbites galoisiennes de points spéciaux”, preprint, 2011.

[51] A. J. Wilkie – “Model completeness results for expansions of the ordered field of real numbers by restricted Pfaffian functions and the exponential function”, J. Amer. Math. Soc. 9 (1996), p. 1051–1094. [52]

, “A theorem of the complement and some new o-minimal structures”, Selecta Math. (N.S.) 5 (1999), p. 397–421.

[53]

, “o-minimal structures”, Séminaire Bourbaki, vol. 2007/2008, exp. no 985, Astérisque 326 (2009), p. 131–142.

[54] Y. Yomdin – “C k -resolution of semialgebraic mappings. Addendum to: “Volume growth and entropy””, Israel J. Math. 57 (1987), p. 301–317. [55]

, “Volume growth and entropy”, Israel J. Math. 57 (1987), p. 285–300.

Thomas SCANLON University of California Department of Mathematics Evans Hall Berkeley, CA 94720-3840 – U.S.A. E-mail : [email protected]

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

348

ASTÉRISQUE 2012

SÉMINAIRE BOURBAKI VOLUME 2010/2011 EXPOSÉS 1027-1042 (1038) Sections rationnelles de fibrations sur les surfaces et conjecture de Serre Claire VOISIN

SOCIÉTÉ MATHÉMATIQUE DE FRANCE Publié avec le concours du CENTRE NATIONAL DE LA RECHERCHE SCIENTIFIQUE

Séminaire BOURBAKI 63e année, 2010-2011, no 1038, p. 317 à 337

Avril 2011

SECTIONS RATIONNELLES DE FIBRATIONS SUR LES SURFACES ET CONJECTURE DE SERRE [d’après de Jong, He et Starr] par Claire VOISIN

INTRODUCTION Soit f : X → B un morphisme surjectif, où X et B sont des variétés projectives lisses définies sur un corps algébriquement clos k. La fibre générique Xη est une variété projective définie sur le corps de fonctions K = k(B). Concrètement, donnonsnous un plongement X ⊂ B × PN . Au-dessus d’un ouvert affine dense U de B, les équations définissant X sont des polynômes homogènes Pi en les variables X0 , . . . , XN à coefficients dans l’anneau de fonctions polynomiales k[U ]. Alors Xη est la sousvariété de PN K définie par les mêmes équations Pi , vues dans K[X0 , . . . , XN ], K étant par définition le corps de fractions de k[U ]. Cette fibre générique est lisse sur K si le corps k est de caractéristique zéro. Les K-points de Xη , c’est-à-dire, dans les notations précédentes, les N + 1-uplets (l0 , . . . , lN ) non identiquement nuls d’éléments de K solutions des équations Pi (l0 , . . . , lN ) = 0 (considérés à homothétie près), correspondent bijectivement aux sections rationnelles σ : B 99K X de f . Lorsque la base B est une courbe lisse, tout morphisme rationnel B 99K Y , où Y est projective, est en fait un morphisme, et donc les K-points sont les sections de f . Cette traduction élémentaire met en relation des problèmes de nature diophantienne d’une part (trouver des solutions d’équations polynomiales sur un corps non algébriquement clos) et de nature géométrique d’autre part (construire une section (rationnelle) d’un morphisme). Lorsque le corps k est le corps des nombres complexes, on peut aborder le versant géométrique du problème par des méthodes topologiques ou de théorie de Hodge, et ceci permet de décrire des obstructions explicites à l’existence de sections, comme on le verra dans le paragraphe 1.2. Dans certains cas, et même lorsque la base est une courbe, non seulement il n’existe pas de sections, mais encore le PGCD des degrés

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

318

C. VOISIN

des multisections rationnelles (ou encore l’indice de la fibre générique, cf. paragraphe 1.2) ne vaut pas 1, et pourtant toutes ces obstructions s’annulent. Ce type de problème peut être considéré en particulier pour des fibrations localement triviales, où « localement » signifie pour la topologie étale. La trivialité locale signifie donc que la fibration devient triviale sur des revêtements étales d’ouverts de Zariski de la base. En particulier on peut considérer les torseurs sous des groupes, qui géométriquement sont des fibrations admettant une action d’un groupe ou d’un schéma en groupe sur la base qui deviennent triviales (c’est-à-dire isomorphes au produit B × G ou au schéma en groupes en question) dès qu’elles ont une section. Même si le groupe G est connexe, on peut aisément construire de tels torseurs localement triviaux pour la topologie étale mais non dans la topologie de Zariski (voir paragraphe 1.2). La non-trivialité locale dans la topologie de Zariski est dans ce cas équivalente à la non existence d’une section rationnelle, ou encore d’un K-point de la fibre générique. Pour obtenir des exemples projectifs, on considère certaines fibrations en variétés homogènes correspondant à ces G-torseurs. On verra en fait dans le paragraphe 3.1 que la trivialité d’un G-torseur peut souvent se ramener à l’existence d’une section (ou point rationnel) d’une famille de variétés homogènes projectives associée, par un argument classique de réduction du groupe structurel. Les exemples typiques sont donnés par les variétés de Brauer-Severi, qui sont des fibrés en espaces projectifs localement triviaux pour la topologie étale, mais n’admettent pas de sections rationnelles, et en particulier, ne sont pas obtenues en projectifiant un fibré vectoriel algébrique. Ce sont des fibrations en variétés homogènes associées à des G-torseurs, où G = P Gln (cf. [3]). Les variétés de Brauer-Severi non triviales n’existent pas sur les courbes (cf. [12]). Elles existent en abondance sur les surfaces, comme le montre le calcul explicite du groupe de Brauer (cf. paragraphe 1.2). Dans [20], Serre conjecture la trivialité des G-torseurs sur les corps de fonctions de surfaces définies sur un corps algébriquement clos lorsque le groupe algébrique G est connexe, semi-simple et simplement connexe. Cette conjecture a été montrée dans de nombreux cas (cf. [9]) par des méthodes de cohomologie galoisienne et de classification des groupes. L’une des contributions de l’article [14] de de Jong, He et Starr décrit ici est d’une part de compléter la démonstration (cf. paragraphe 3.1) et d’autre part de donner une approche totalement différente, complètement géométrique, du problème. La trivialité des variétés de Brauer-Severi sur les courbes n’est qu’une partie d’une série d’énoncés ([11], [10]) de généralité croissante (cf. section 1.2) concernant l’existence de sections rationnelles de morphismes projectifs f : X → B avec B lisse. Le théorème suivant concernant le cas des familles d’intersections complètes est dû à Tsen et Lang (cf. [11]) :

ASTÉRISQUE 348

(1038)

SECTIONS RATIONNELLES DES FIBRATIONS SUR UNE SURFACE

319

Théorème 0.1. — Toute intersection de r hypersurfaces Y1 , . . . , Yr de degrés respectifs d1 , . . . , dr dans PnK , K = k(B), possède un K-point si k est algébriquement P clos et ri=1 ddi ≤ n, où d = dim B. Lorsque la base est une courbe, c’est-à-dire d = 1, la condition numérique Pr i=1 di ≤ n est équivalente au fait que les fibres sont des variétés de Fano, à supposer qu’elles soient lisses. Le théorème a été généralisé dans ce cas par Graber, Harris, Starr (voir théorème 1.3) sur C, puis par de Jong et Starr en caractéristique p [15]. Le théorème 1.3 énonce l’existence d’une section pour toute famille de variétés rationnellement connexes (cf. 1.1) sur une courbe lisse, ce qui montre aussi de façon inattendue l’absence de toute obstruction cohomologique à l’existence d’une section, et entre autres l’absence de fibres multiples pour une telle fibration. Le principal résultat de [14] fournit des conditions sur la fibre générale d’un morphisme projectif surjectif f : X → B, où X est muni d’un fibré en droites relativement ample L, et B est une surface lisse sur C (ou n’importe quel corps algébriquement clos de caractéristique 0), garantissant l’existence d’une section rationnelle de f . Théorème 0.2. — Si la fibre générale Xb de f satisfait : (i) il existe un entier n tel que la famille Bn,x,y paramétrant les « chaînes de n droites libres » joignant x à y dans Xb soit non vide et rationnellement connexe pour x, y généraux dans Xb . De plus, pour un point général x ∈ Xb , la variété des droites de Xb passant par x est rationnellement connexe ; (ii) la variété Xb (polarisée par Lb = L|Xb ) possède une surface réglée « très tordue », alors f admet une section. Dans la condition (i), les droites sont dites libres si leur fibré normal dans la fibre Xb est engendré par ses sections globales. Cette condition est automatiquement satisfaite si les fibres Xb sont des variétés homogènes. On renvoie au paragraphe 2.3 pour un énoncé précis de la condition (ii). Elle dit qu’il existe un morphisme φ : Σ → Xb où Σ est une surface fibrée en droites sur P1 , c’est-à-dire admet un morphisme π : Σ → P1 dont les fibres Σt sont isomorphes à P1 et satisfont deg φ∗ L|Σt = 1, tel que le fibré normal du morphisme (φ, π) de Σ dans Xb × P1 soit suffisamment positif. Le rôle de la condition (i) dans la démonstration est facile à voir (cf. paragraphe 2.2). La condition (ii) est plus difficile à comprendre (cf. paragraphe 2.3). Néanmoins l’optimalité du théorème de Tsen-Lang (cf. [11]) montre qu’il existe des familles d’hypersurfaces cubiques dans P8 paramétrées par une surface et ne possédant pas de section rationnelle. Or, si X est une hypersurface cubique lisse dans P8 et x, y ∈ X

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

320

C. VOISIN

deux points généraux, la variété des droites de X passant par x est une variété de Fano (c’est l’intersection complète d’une quadrique et d’une cubique dans P6 ), et il n’est pas difficile de montrer que la variété paramétrant les chaînes de deux droites joignant x à y dans X est aussi une variété de Fano. Donc la condition (i) est satisfaite par les hypersurfaces cubiques de P8 et on conclut que la condition (i) seule n’est pas suffisante pour garantir l’existence de sections. L’application du théorème 0.2 à la conjecture de Serre est obtenue en montrant que les variétés homogènes X = G/P avec ρ(X) = 1 satisfont les conditions (i) et (ii). Remerciements Je remercie Jean-Louis Colliot-Thélène, Jason Starr, et Olivier Wittenberg pour leurs commentaires qui m’ont permis d’améliorer une version antérieure de ce texte.

1. EXISTENCE ET NON-EXISTENCE DE SECTIONS RATIONNELLES 1.1. Variétés rationnellement connexes Les variétés rationnellement connexes ont été introduites par Kollár, Miyaoka et Mori dans [19]. On renvoie à [8], [17] pour plus de détails concernant cette sous-partie. Ces variétés sont caractérisées de la façon suivante : Définition 1.1. — Une variété projective lisse Z définie sur un corps algébriquement clos k est dite rationnellement connexe si pour toute paire de points x, y ∈ X(k), il existe des morphismes φi : P1 → X, i = 1, . . . , n et des points pi , qi ∈ P1 tels que φi (qi ) = φi+1 (pi+1 ), i = 1, . . . , n − 1 et φ1 (p1 ) = x, φn (qn ) = y. Remarque 1.2. — En caractéristique 0, il y a d’autres caractérisations des variétés rationnellement connexes (cf. [8]), dont l’existence d’une courbe rationnelle φ : P1 → X très libre, c’est-à-dire telle que φ∗ TX soit un fibré ample sur P1 . C’est cette dernière définition (dite de connexité rationnelle séparable) qu’il faut adopter en caractéristique non nulle. Comme le théorème principal de l’article [14] n’est pas démontré en caractéristique non nulle, ceci n’est pas important pour ce texte. Les données ci-dessus, modulo les automorphismes fixant p1 et qn de la courbe rationnelle obtenue en recollant n copies de P1 via les identifications qi = pi+1 , i = 1, . . . , n − 1, forment ce que l’on appelle une « chaîne de courbes rationnelles » joignant x à y. Si la variété Z est munie d’un fibré en droites ample L, et que les morphismes φi satisfont deg φ∗i L = d, on parlera de chaînes de courbes rationnelles

ASTÉRISQUE 348

(1038)

SECTIONS RATIONNELLES DES FIBRATIONS SUR UNE SURFACE

321

de degré d. Si d = 1 on parlera de chaînes de droites. Si le fibré en question est très ample, c’est-à-dire est la restriction du fibré OPr (1) via un plongement de Z dans Pr , les morphismes φi : P1 → Z tels que deg φ∗i L = 1 sont les identifications de P1 avec une droite de Pr contenue dans Z. Lorsque le fibré L n’est pas très ample (par exemple le fibré p∗ O(1) sur un revêtement ramifié cyclique p : Z → Pr de degré k dont l’hypersurface de ramification est de degré > k), cette terminologie de « droites » est abusive. Néanmoins le fait de considérer des courbes rationnelles de degré 1 garantit que les courbes φi (P1 ) ne peuvent pas dégénérer sur l’union de deux courbes, ce qui est la propriété essentielle des droites : elles ne dégénèrent pas. Dans cet exposé, on supposera que le fibré L est très ample, ce qui facilite grandement la présentation. On pourra de ce fait parler de « variétés de droites dans X » ou de « variétés de chaînes de droites dans X », comme étant des sous-variétés de grassmanniennes de droites dans Pr , ou des sous-variétés localement fermées de produits de telles grassmanniennes. Des exemples très importants de variétés rationnellement connexes sont donnés en caractéristique 0 par les variétés de Fano ([2], [18], [7]), c’est-à-dire à fibré anticanonique ample. Par exemple les hypersurfaces Z ⊂ Pr lisses de degré ≤ r sont de Fano et donc rationnellement connexes (ce qui est très facile à voir dans ce cas). Le théorème suivant de Graber, Harris et Starr (dû à de Jong et Starr en caractéristique non nulle) généralise donc en caractéristique 0 le théorème de Tsen-Lang (théorème 0.1) : Théorème 1.3 ([10], [15]). — Tout morphisme surjectif φ : Z → B entre variétés projectives définies sur un corps algébriquement clos, où Z est lisse, B est une courbe lisse, et dont la fibre générale est lisse rationnellement connexe (séparablement rationnellement connexe en caractéristique non nulle), admet une section. Ce théorème montre a fortiori l’annulation sous ces hypothèses des éventuelles obstructions de nature cohomologique ou locale, décrites dans le paragraphe suivant, à l’existence d’une section. 1.2. Obstructions à l’existence de sections ; calcul de l’indice On se placera ici dans le cas de fibrations X → B, où X et B sont projectives lisses définies sur C. Comme dans l’introduction, les sections rationnelles peuvent être pensées en termes de C(B)-points de la fibre générique, mais on veut ici tirer parti de la topologie pour décrire des obstructions à l’existence de sections rationnelles. En fait, les obstructions qu’on décrira ici sont plutôt des obstructions à l’existence de multisections Bi ⊂ X, avec deg Bi /B = mi , les mi étant premiers entre eux. On renvoie à [5] pour une discussion similaire dans le contexte de la cohomologie étale. Dans la terminologie des K-points, les Bi déterminent des points de Xη définis sur Ki , où Ki = C(Bi ) et le degré d’un tel point sur K = C(B) est défini comme le degré

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

322

C. VOISIN

de l’extension algébrique K ⊂ Ki . C’est aussi le degré sur B de la multisection Bi . L’indice I(Xη ) étant défini comme le PGCD des degrés de Ki sur K, où Ki est une extension finie de K sur laquelle il existe un point rationnel de Xη , on peut traduire (cf. [21]) la question précédente sous la forme : Décrire des obstructions à ce que I(Xη ) = 1. Notons qu’il existe des exemples où il n’existe pas de sections mais où l’indice de la fibre générique vaut 1 (cf. [22]), ce qui montre que les deux problèmes (existence de sections rationnelles, ou encore de K-points, et indice 1) ne sont pas équivalents. On renvoie à [9] pour une discussion de ce fait dans le cas des G-torseurs. L’obstruction la plus simple est de nature locale, et provient de l’existence de fibres multiples. Supposons que la base B soit de dimension 1. S’il existe une section de f , pour tout point b de B, la fibre Xb admet au moins une composante réduite (celle par laquelle passe la section). Si l’indice de Xη vaut 1, pour tout point b de B, le PGCD des multiplicités des composantes de la fibre Xb vaut 1. L’obstruction la plus simple suivante est de nature topologique (et généralise en fait la précédente). Elle est donnée par le critère suivant (où l’on considère l’homologie ou la cohomologie de Betti des variétés complexes associées) : Lemme 1.4. — Si I(Xη ) = 1, l’application f∗ : H2d (X, Z) → H2d (B, Z) = Z, où d = dim B, est surjective. En effet pour chaque multisection ji : Bi → X de degré mi au-dessus de B, la classe d’homologie [Bi ] := ji∗ [Bi ]fond ∈ H2d (X, Z) satisfait f∗ [Bi ] = mi [B]fond . Cette obstruction purement topologique est non triviale dans certains exemples de variétés de Brauer-Severi donnés par des fibrés X → B de fibre isomorphe à P1 (cf. exemple 1.7). Le calcul de la flèche f∗ : H2d (X, Z) → H2d (B, Z) ou encore, par dualité de Poincaré, du morphisme de Gysin f∗ : H 2 (X, Z) → H 0 (B, Z) est fort simple car la suite spectrale de Leray de f est sphérique, avec Ri f∗ Z = 0, pour i 6= 0, 2 et R 0 f∗ Z ∼ = Z, R2 f∗ Z ∼ = Z. La suite spectrale de Leray est donc dégénérée en E3 et fournit une suite exacte longue : f∗

d

. . . H 2 (X, Z) → H 0 (B, Z) →3 H 3 (B, Z) . . . . Ainsi l’obstruction topologique donnée par le lemme 1.4 à ce que I(Xη ) = 1 vit dans H 3 (B, Z) et c’est en fait un élément de 2-torsion, vu que le fibré canonique relatif KX/P1 est de degré −2 sur les fibres, ce qui garantit l’existence de multisections de degré 2 au-dessus de B. Une obstruction plus fine, car faisant intervenir non seulement les groupes de cohomologie mais aussi leurs structures de Hodge, vient de la théorie de Hodge :

ASTÉRISQUE 348

(1038)

SECTIONS RATIONNELLES DES FIBRATIONS SUR UNE SURFACE

323

Lemme 1.5. — Si I(Xη ) = 1, l’application f∗ : Hdg2d (X, Z) → Hdg2d (B, Z) = Z, où d = dim B, est surjective. Ici on utilise la décomposition de Hodge sur H2d (X, C) ∼ = H 2n−2d (X, C), n = dim X, et on définit Hdg2d (X, Z) comme l’ensemble des classes de cohomologie entière de degré 2n − 2d qui sont de type (n − d, n − d) dans la décomposition de Hodge. Le lemme 1.5 résulte immédiatement du fait que, pour chaque multisection Bi de f , la classe [Bi ] est dans le sous-groupe Hdg2d (X, Z). Ce lemme permet entre autres de décrire de façon plus fine les obstructions de type Brauer (cf. [12]) : dans l’exemple ci-dessus des fibrés en P1 , on s’intéresse maintenant à l’image de f∗ : Hdg 2 (X, Z) → H 0 (B, Z). Supposant qu’on a la surjectivité de la flèche f∗ : H 2 (X, Z) → H 0 (B, Z), on dispose d’une classe entière a ∈ H 2 (X, Z) telle que f∗ a = 1B . Cette classe a est définie à f ∗ H 2 (B, Z) près. Comme le groupe H 2 (X, Z)/Hdg 2 (X, Z) s’envoie injectivement dans H 2 (X, OX ) = H 2 (B, OB ), l’obstruction est donc la classe a ∈ H 2 (B, OB )/H 2 (B, Z). C’est la partie non topologique de la classe de Brauer, c’est-à-dire de l’obstruction à ce que I(Xη ) = 1. Notons que, dans ce cas, le lemme 1.5 décrit entièrement la classe de Brauer, du fait que la conjecture de Hodge est satisfaite par les classes de Hodge entières de degré 2, de sorte que Hdg 2 (X, Z) est bien l’ensemble des classes de diviseurs de X. Remarque 1.6. — La description donnée ci-dessus de l’obstruction à la trivialité d’une variété de Brauer-Severi fibrée en P1 est valable en fait pour les variétés de BrauerSeveri de toute dimension. Ceci est dû au fait que pour une variété X définie sur un corps K, et isomorphe à Pn sur K, l’existence d’un point x ∈ X(k) est équivalente à l’existence d’un fibré en droites L sur X défini sur K tel que LK soit isomorphe à OPn (1). Exemple 1.7. — Prenons une surface d’Enriques Σ. Il existe un élément de 2-torsion dans H 3 (Σ, Z) qui détermine canoniquement, du fait que H 2 (Σ, OΣ ) = 0, une fibration P → Σ en P1 sur Σ, dont la fibre générique est d’indice 2 sur C(Σ). (L’existence de cette variété de Brauer-Severi fibrée en P1 est par exemple une conséquence du travail de de Jong [13], voir [3, Théorème 3.13].) Sa classe de Brauer est non triviale et correspond à l’obstruction fournie par le lemme 1.4. Considérons maintenant le revêtement universel (étale de degré 2) p : S → Σ, où S est une surface K3. L’image inverse PS → S a maintenant une classe topologique de Brauer triviale car H 3 (S, Z) est nul. Pour décider si PS admet une section rationnelle ou non, il faut appliquer le critère 1.5, et il est montré dans [1] que la réponse dépend en fait de la surface d’Enriques considérée. Pour les classes de Hodge de degré ≥ 4, on dispose de nombreux contre-exemples à la conjecture de Hodge pour les classes entières (cf. [23] pour une obstruction

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

324

C. VOISIN

calculable topologiquement, [16] pour des exemples beaucoup plus mal compris). De ce fait, le lemme 1.5 ne fournit pas une condition nécessaire et suffisante pour que l’indice soit égal à 1 (cf. exemple 1.8). On renvoie à [6] pour une discussion de la relation, reposant sur le lemme 1.5, entre défaut de la conjecture de Hodge pour les classes entières et indice pour des familles de variétés sur une courbe dont les fibres Xt satisfont H i (Xt , OXt ) = 0, i > 0. Notons que pour les variétés X uniréglées (c’est-à-dire balayées par des courbes rationnelles) de dimension 3, la conjecture de Hodge est vraie pour les classes entières de degré 4 d’après [24]. Ainsi, si on combine les résultats de [6] et [24], on conclut que I(Xη ) = 1, lorsque f : X → B est un morphisme surjectif à fibre générale rationnellement connexe, B est une courbe lisse, et X est de dimension 3. Ceci est bien entendu impliqué par le théorème 1.3, mais l’argument ci-dessus est cohomologique. Pour conclure, mentionnons l’exemple suivant, où la condition du lemme 1.5 est satisfaite sans que l’indice soit égal à 1, et qui montre aussi que les théorèmes 0.1, 1.3 et le théorème mentionné plus haut de [24] sont optimaux : Exemple 1.8. — Soit X ⊂ P1 × P3 une hypersurface très générale en modules de bidegré (3, 4). Notons f : X → P1 la restriction à X de la première projection. Alors pour toute courbe C ⊂ X, f|C : C → P1 est de degré pair. De façon équivalente, l’indice I(Xη ) est divisible par 2. Lorsqu’on suppose que la base est de dimension 2, les exemples donnés ci-dessus de variétés de Brauer-Severi non triviales montrent qu’il peut y avoir des obstructions non nulles de nature cohomologique, même avec une fibre des plus simples (comme P1 ) à l’existence d’une section rationnelle. Le théorème 0.2 fournit des conditions garantissant l’existence d’une section rationnelle. Ces conditions ne portent pas seulement sur la fibre, du fait que l’existence globale du fibré en droites L sur X entre également dans les hypothèses. En effet il est crucial pour la preuve du théorème 0.2 de pouvoir travailler avec des « droites » dans les fibres (cf. paragraphe 1.1). Comme le montre clairement l’exemple des variétés de Brauer-Severi, l’existence globale de ce fibré L se restreignant au générateur du groupe de Picard des fibres Xt est en fait une hypothèse d’annulation pour une obstruction de type Brauer.

1.3. Conjecture de Serre II La conjecture énonce la trivialité des G-torseurs sur un corps K parfait de dimension cohomologique ≤ 2, lorsque le groupe G est connexe, semi-simple et simplement connexe.

ASTÉRISQUE 348

(1038)

SECTIONS RATIONNELLES DES FIBRATIONS SUR UNE SURFACE

325

Définition 1.9. — Soit K un corps et soit G un groupe sur K. Un G-torseur est une variété T définie sur K sur laquelle G agit, de façon que pour toute extension L de K et tout point t ∈ T (L), le morphisme GL → TL , g 7→ g · t soit un isomorphisme. Les classes d’isomorphisme de G-torseurs sont décrites par les classes de cohomologie galoisienne H 1 (K, G). Ainsi la conjecture de Serre peut-elle être formulée comme une conjecture d’annulation de cohomologie galoisienne, bien que cela ne joue aucun rôle dans le travail [14] : Conjecture 1.10 ([20]). — Toute classe de cohomologie galoisienne α ∈ H 1 (K, G) est triviale pour un groupe G semi-simple simplement connexe sur un corps parfait K de dimension cohomologique ≤ 2. La dimension cohomologique du corps K est l’entier d minimal tel que H i (L, Z/l) = 0 pour tout nombre premier l, pour tout i ≥ d + 1, et pour toute extension finie L de K. Les corps de fonctions K = k(S) de surfaces sur un corps algébriquement clos k sont de dimension cohomologique 2. Lorsque k = C, cela résulte du fait que toute variété affine U de dimension 2 sur C a le type d’homotopie d’un CW complexe de dimension ≤ 2. En effet, la cohomologie de Betti de U à valeurs dans Z/l, et donc aussi sa cohomologie étale, s’annulent donc en degré ≥ 3. La cohomologie galoisienne de K à valeurs dans Z/l est la limite directe des cohomologies étales des ouverts affines U de S à valeurs dans Z/l, d’où la conclusion. On renvoie à [9] pour une description approfondie des principales contributions à cette conjecture. Dans les paragraphes 3.1 et 3.2, on expliquera comment le théorème 0.2 permet de compléter la preuve de la conjecture de Serre pour les corps de fonctions de surfaces. Dans le cas où le corps K est un corps de fonctions k(B), où k est algébriquement clos, le groupe G correspond à un schéma en groupes G → U sur un ouvert de Zariski de B. Il est plus facile d’étudier les G-torseurs lorsque G est défini sur k, i.e. G = Gk × U . Le groupe Gk agit en effet dans ce cas sur chaque G -torseur T , et, choisissant un sous-groupe de Borel H ⊂ Gk , on peut construire à partir d’un tel T un quotient T /H défini sur k(B). C’est a priori seulement à cette situation que s’applique le travail [14], mais il se trouve qu’en combinant le résultat dans le cas où le schéma en groupes est trivial et les résultats de [4], un argument astucieux expliqué dans l’introduction de [14] permet de conclure la preuve de la conjecture de Serre pour les corps de fonctions de surfaces. Théorème 1.11. — Soit k un corps algébriquement clos. Soit K = k(S) où S est une surface définie sur k. Pour tout groupe G connexe, simplement connexe et semisimple défini sur K, tout G-torseur sur K est trivial.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

326

C. VOISIN

2. DÉMONSTRATION DU THÉORÈME PRINCIPAL 2.1. Stratégie La stratégie de la démonstration est très naturelle. Partons d’une fibration f : X → B où B est une surface projective lisse. Prenons un pinceau de Lefschetz ‹ → P1 à fibre de diviseurs amples sur B, ce qui nous donne un morphisme π : B ‹ est obtenue en éclatant B le long du lieu de base générale lisse et connexe, où B 1 du pinceau. Pour t ∈ P , on notera Bt = π −1 (t), qui est naturellement contenue dans B et ft : Xt → Bt la restriction de f à f −1 (Bt ). Pour t dans un ouvert de Zariski non vide U ⊂ P1 au-dessus duquel π est lisse, la fibration : Xt → Bt satisfait les hypothèses (i) et (ii) du théorème 0.2. De plus la base Bt et la variété Xt sont lisses, comme on le voit en appliquant le théorème de Bertini. Le théorème 0.2 sera obtenu à l’aide du lemme 2.2 comme conséquence du théorème 2.1 suivant. Soit C une courbe projective lisse, et soit f : Y → C un morphisme surjectif, où Y est lisse. Soit L un fibré en droites ample sur Y . Pour tout entier d, les sections σ : C → Y de f telles que deg σ ∗ L = d sont paramétrées par un ouvert de Zariski Sd (f ) d’un schéma de Hilbert de Y . On notera Sed (f ) un modèle projectif lisse de Sd (f ). Pour toute section σ comme ci-dessus, on dispose de l’élément σ ∗ L ∈ Picd C, ce qui fournit un morphisme d’Albanese (1)

ad : Sd (f ) → Picd C.

On notera encore ad le morphisme Sed (f ) → Picd C obtenu en composant l’application fd (f ) → Sd (f ) avec le morphisme ad . de désingularisation S Théorème 2.1. — Soit f : Y → C un morphisme projectif et surjectif, où C est une courbe lisse. Soit L un fibré en droites sur Y , relativement ample par rapport à f (c’est-à-dire dont la restriction aux fibres de f est ample). On suppose que le triplet (Y, f, L) satisfait les conditions (i) et (ii) du théorème 0.2. Alors pour d suffisamment grand, il existe une composante distinguée Sed0 (f ) de Sed (f ) telle que le morphisme ad : Sed0 (f ) → Picd C est surjectif à fibres rationnellement connexes. Ici, le terme « distingué » signifie que si f : Y → C et L sont définis sur un corps F , de sorte que Sd (f ) est aussi défini sur F , la composante Sd0 (f ) de Sd (f ) est aussi définie sur F . Pour les applications géométriques, le corps F sera le corps de fonctions de P1 (voir démonstration ci-dessous), et faisant varier ft : Yt → Ct avec t ∈ P1 , la composante irréductible « distinguée » Sd0 (ft ) est une composante qui n’est pas échangée par monodromie avec d’autres composantes de Sd (ft ), ce qui garantit qu’on dispose d’une famille S 0d → P1 de fibre S 0d,t = Sd0 (ft ). Preuve de (théorème 2.1 ⇒ théorème 0.2) — Au-dessus de P1 , ou plutôt de ‹ 1 ) → P1 l’ouvert U de P1 au-dessus duquel π est lisse, on a la fibration Picd (B/P

ASTÉRISQUE 348

(1038)

SECTIONS RATIONNELLES DES FIBRATIONS SUR UNE SURFACE

327

‹ 1 ) → P1 . Pour des entiers qui est un torseur sous la fibration jacobienne Jac (B/P ‹ 1 ) → P1 d suffisamment grands et suffisamment divisibles, la fibration Picd (B/P admet une section : il suffit pour cela qu’il existe un fibré en droites H sur B tel que deg H|Bt = d. On considère alors la section α donnée par α(t) = H|Bt ∈ Pic Bt . 0 Notons eS → U une désingularisation de la famille S 0 des variétés S 0 paramétrée d

d

d,t

par t ∈ U . Pour d suffisamment grand, et quitte à restreindre U , le morphisme (1) 0 fournit une fibration Ad : eS → Picd (BU /U ) en variétés rationnellement connexes d

au-dessus de U . Pour d suffisamment grand et suffisamment divisible, on dispose comme noté ci-dessus d’une section de Picd (BU /U ) → U d’image Γ. Le théorème 1.3 s’applique à la fibration restreinte eS

d,Γ

:= A−1 d (Γ) → Γ.

On dispose donc finalement d’une section rationnelle Γ0 ⊂ S 0d , Γ0 fibration S 0d → U . On conclut alors avec le lemme suivant : Lemme 2.2. — Une section rationnelle Γ0 ⊂ S 0d , Γ0 rationnelle B 99K X de f .

birat

∼ =

birat

∼ =

P1 de la

P1 fournit une section

‹ → X défini de la Preuve. — En effet, on a un morphisme d’évaluation ev : S d ×P1 B 1 1 façon suivante. Rappelant que la fibre de S d → P en t ∈ P paramètre les sections de degré d de la fibration Xt → Bt , l’application ev associe à un point (b, σ), b ∈ Bt , σ ∈ Sd (ft ), le point σ(b) ∈ Xt ⊂ X. ‹ qui contient un ouvert de Zariski de B, on Restreignant ce morphisme à Γ0 ×P1 B, a bien construit une section rationnelle de f . La fin de cette partie est consacrée à la preuve du théorème 2.1. 2.2. Première étape de la preuve du théorème 2.1 Dans ce paragraphe, on va uniquement tirer les conséquences de l’hypothèse (i). On se donne un morphisme f : Y → C, et un fibré en droites L sur Y relativement ample. On suppose que la condition (i) est satisfaite. La technique de base consiste dans le même esprit que [19], [10] à partir d’une section σ : C → Y (qui existe d’après le théorème 1.3) de degré d := degL σ(C), et à construire d’autres courbes dans Y (qu’on appellera des « porcs-épics » suivant [14]) et qui sont des sortes de « peignes » particuliers, selon la terminologie de [19], en ajoutant à σ(C) des droites verticales li , i = 1, . . . , N rencontrant σ(C) en des points p1 , . . . , pN . Ces courbes ne sont plus des sections mais des morphismes σ 0 d’une courbe C 0 isomorphe à C ∪i li , où les li sont des P1 attachés à C aux points pi , vers Y , qui ont la propriété que la composition f ◦ σ 0 est le morphisme évident de C 0 vers C contractant les li sur les points pi , et que le ∗ morphisme σ 0 envoie chaque li sur une droite (verticale) de Y : deg σ 0 L|li = 1. Pour

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

328

C. VOISIN

un porc-épic comme ci-dessus, on dira que la section σ : C → Y à partir de laquelle il est construit est son corps. On cherche alors à « lissifier » le morphisme obtenu, c’est-à-dire à déformer la paire 0 (C , σ 0 ) sur une paire (C 00 , σ 00 ), avec C 00 lisse, ce qui entraîne que C 00 est isomorphe à C et que σ 00 est une section de f . Pour pouvoir effectuer cette lissification, il faut s’assurer que la courbe σ(C) rencontre l’ouvert Y0 de Y constitué des points par lesquels passent les droites libres des fibres, où « libre » signifie que le fibré normal de la droite considérée est engendré par ses sections globales, et que la section σ est libre (c’est-à-dire non obstruée et à fibré normal globalement engendré). On sait alors qu’en ajoutant suffisamment de droites libres rencontrant σ(C), les déformations de la paire (C 0 , σ 0 ) sont non obstruées et permettent sa lissification. On peut montrer que si f : Y → C est à fibres rationnellement connexes, il existe des sections libres (cf. [10, Lemma 8.3]), ce qui entraîne l’existence de sections libres rencontrant l’ouvert Y0 , auxquelles cette construction s’applique. Les courbes qu’on obtient par ce procédé de lissification sont des sections de f dont le degré (relativement à L) est égal à d + N . Le fait qu’on puisse déformer des porcs-épics sur des sections de f permet de voir les porcs-épics comme des sections généralisées. Désormais, ce qu’on notera Sd (f ) est la variété paramétrant les porcsépics de degré d de f . Un énoncé facile mais important est le lemme 2.3 suivant, dont une version généralisée montre que le morphisme d’Albanese ad de (1) qui était défini sur l’espace des sections de f , s’étend à l’espace des sections généralisées. Soit B une courbe lisse et soit C → B un morphisme surjectif de fibre isomorphe à C en dehors de b0 ∈ B et de fibre en b0 isomorphe à C ∪i li , où les li sont des P1 attachés à C aux points pi . Soit σ : C → Y un morphisme identifiant chaque P1 à une droite li de Y . Soit σ0 la restriction de σ à la composante de C b0 isomorphe à C et pour b 6= b0 , soit σb la restriction de σ à la fibre C b ∼ = C. Lemme 2.3. — Le morphisme φ : B \ {b0 } → Picd+N (C), b 7→ σb∗ L, P s’étend en b0 , et on a φ(b0 ) = σ0∗ L( i pi ) dans Picd+N (C). La première étape consiste à montrer le théorème 2.4 suivant. On suppose que f : Y → C satisfait la condition (i) du théorème 0.2. Soit Z une composante irréductible de l’espace des sections de degré d de f , dont le point général paramètre une section libre. Théorème 2.4. — (a) Pour N suffisamment grand, il existe une unique composante ZN (déterminée par Z) de la variété Sd+N (f ) contenant les porcs-épics à N droites et dont le corps est un élément de Z.

ASTÉRISQUE 348

(1038)

SECTIONS RATIONNELLES DES FIBRATIONS SUR UNE SURFACE

329

(b) Soient σ, σ 0 deux sections libres de f . Alors pour N, N 0 assez grands comme ci-dessus, il existe une chaîne de courbes rationnelles paramétrant des sections généralisées de f , et joignant un porc-épic de corps σ(C), avec N droites verticales en position suffisamment générale attachées aux points pi , et un porc-épic de corps σ 0 (C) et à N 0 droites verticales en position suffisamment générale attachées au point qj , si et seulement si X X ∗ (2) qi ) dans Pic(C), σ ∗ L( pi ) = σ 0 L( 1≤i≤N

1≤i≤N 0

où les pi sont les points d’attachement des droites dans le premier porc-épic, et les qi sont les points d’attachement des droites dans le second porc-épic. (c) Soient Z et Z 0 deux composantes irréductibles de l’espace des sections de degrés respectifs d, d0 , dont le point général paramètre une section libre. Alors, pour N , N 0 0 suffisamment grands tels que d + N = d0 + N 0 , on a ZN = ZN 0. Preuve (esquisse). — On peut prouver (a) par un argument de lissité générique de SN +d (f ) le long de (la composante principale de) la variété paramétrant les porcsépics de type σ(C) ∪ ∪1≤i≤N li , avec σ ∈ Z. (b) On applique la condition (i) à la paire de points (σ(b), σ 0 (b)) ∈ Yb , pour b ∈ C. Notons que comme les sections σ et σ 0 sont libres, quitte à considérer une déformation de σ ou σ 0 , on peut supposer que pour un point général b de C, la variété C hb paramétrant les chaînes de n droites libres joignant σ(b) à σ 0 (b) est rationnellement connexe. On dispose donc d’une famille C h → C fibrée au-dessus de C avec des fibres générales rationnellement connexes, de fibre C hb au-dessus de b. Le théorème 1.3 de Graber, Harris et Starr dit qu’il existe une section ρ de cette fibration. Rappelant (cf. définition 1.1) qu’une chaîne de droites libres joignant σ(b) à σ 0 (b) dans la fibre Yb est la donnée de n droites libres l1 , . . . , ln contenues dans Yb , avec des points marqués pi , qi ∈ li tels que les points qi et pi+1 coïncident dans Yb et p1 = σ(b), qn = σ 0 (b), la section ρ nous fournit n surfaces Σi ⊂ Y fibrées via f en droites sur C, chacune étant munie de deux sections Pi , Qi , telles que Qi = Pi+1 comme sections de f , avec P1 = σ et Qn = σ 0 comme sections de f . Pour chaque surface réglée fi : Σi → C, on a un isomorphisme Pic Σi ∼ = fi∗ Pic C ⊕ ZL|Σi . Les deux sections Pi et Qi diffèrent donc par un élément de fi∗ Pic C, et on a plus précisément Qi − Pi = fi∗ (Q∗i L − Pi∗ L) dans Pic Σi .

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

330

C. VOISIN

On peut donc trouver pour r1 suffisamment grand des points p1 , . . . , pr1 , q1 , . . . , qr2 de C en position générale tels qu’on ait l’égalité suivante dans Pic Σ1 : X X (3) Q1 + lqi = P1 + lpj , 1≤i≤r2

1≤j≤r1

où les droites lpi , lqj sont les fibres de f1 passant par pi , qj . Cette égalité se traduit par l’existence d’un pinceau de sections (généralisées) de f1 , joignant le porc-épic σ(C) ∪ ∪1≤j≤r1 lpj au porc-épic Q1 ∪ ∪1≤i≤r2 lqi . Voyant la courbe Q1 = P2 comme contenue dans la surface Σ2 , le porc-épic Q1 ∪ ∪1≤i≤r2 lqi = P2 ∪ ∪1≤i≤r2 lqi peut maintenant être joint via une famille de porcsépics paramétrée par une courbe rationnelle à un porc-épic P2 ∪ ∪1≤i≤r2 lq0 i , où lq0 i est cette fois la droite passant par qi dans la surface Σ2 . Il suffit pour cela de rappeler que la variété des droites verticales de Y passant par qi est rationnellement connexe. Dans la surface Σ2 , on trouve encore une égalité de diviseurs effectifs X X lq0 j , (4) Q2 + lq0 0 = P2 + 1≤i≤r10

i

1≤j≤r2

à condition d’avoir choisi initialement r1 suffisamment grand. L’égalité (4) fournit comme précédemment un pinceau de courbes dans la surface Σ2 . Ce pinceau est une courbe rationnelle qui joint les deux porcs-épics P2 ∪∪1≤j≤r2 lq0 j et Q2 ∪∪1≤i≤r20 lq0 0 dans i l’espace de sections généralisées du degré convenable. Continuant de proche en proche, on voit qu’on arrive à construire une chaîne de courbes rationnelles paramétrant des sections généralisées de même degré d + r1 , où d = deg σ ∗ L, et joignant le porc-épic (n) (n) σ(C) ∪ ∪1≤j≤r1 lpj au porc-épic Qn ∪ ∪1≤j≤r(n) lqn,j = σ 0 (C) ∪ ∪1≤j≤r(n) lqn,j , si et 2 2 seulement si la condition (2) est satisfaite, c’est-à-dire : X X ∗ pi ) = σ 0 L( qn,j ) dans Pic C. σ ∗ L( 1≤i≤r1

1≤j≤rn+1

P Ceci garantit en effet que les deux diviseurs Pn + 1≤j≤rn,j lpnn,j P Qn + 1≤j≤rn+1,j lqnn,j sont linéairement équivalents dans la surface Σn .

et

La preuve de (c) résulte de l’examen de la preuve de (b) qui permet d’assurer que les sections généralisées intervenant dans la chaîne de courbes rationnelles joignant les deux porcs-épics σ(C) ∪ ∪1≤i≤N lpi et σ 0 (C) ∪ ∪1≤j≤N 0 lqj sont contenues dans le lieu lisse de Sd+N (f ). On en déduit immédiatement qu’elles sont contenues dans une même composante irréductible Z 0 de Sd+N (f ), ce qui entraîne par définition des composantes ZN l’égalité Z 0 = ZN (σ) = ZN 0 (σ 0 ).

ASTÉRISQUE 348

(1038)

SECTIONS RATIONNELLES DES FIBRATIONS SUR UNE SURFACE

331

2.3. Deuxième étape de la preuve du théorème 2.1 Quand on examine la démonstration du théorème 2.4, on voit qu’elle montre plus que ce qui est énoncé (en particulier l’égalité (c) qui va nous fournir la composante distinguée Se (f )0 de Se (f ) pour e  0). En effet, l’énoncé (b), combiné avec le lemme 2.3, montre aussi que dans les fibres de l’application ae : Se (f )0 → Pice (C) les porcsépics avec suffisamment de droites sont joints par des chaînes de courbes rationnelles. Cela n’est évidemment pas suffisant pour prouver que les fibres de l’application ae sont rationnellement connexes. La principale difficulté ici est le fait qu’on n’a pas contrôlé le nombre de droites ajoutées et que ces chaînes de courbes rationnelles ne balaient pas nécessairement Se (f )0 . Le second ingrédient géométrique consiste à introduire la définition suivante : Définition 2.5. — Etant donnés f : Y → C et L ∈ Pic Y , une surface réglée en droites m-tordue dans Y est la donnée d’une surface réglée π : R → C, d’un morphisme h : R → Y tels que f ◦ h = π et les fibres de π sont via h des droites verticales de Y , et d’un diviseur D ∈ Pic R, de degré 1 sur les fibres de π, satisfaisant les conditions suivantes : (i) Le système linéaire |D| est sans point de base (en particulier, par Bertini, il contient de nombreuses sections de π). (ii) Le groupe de cohomologie H 1 (R, OR (D)) est nul. (iii) Le fibré normal NR/X est engendré par ses sections et ses groupes de cohomologie H 1 (R, NR/X ) et H 1 (R, NR/X (−D − π ∗ A)) s’annulent pour tout diviseur A de C de degré ≤ m. On dira que la surface R est très tordue si elle est 2-tordue. La condition (ii) des théorèmes 0.2 et 2.1, qui est une condition sur les fibres Yt de f , dit que le morphisme pr2 : Yt × P1 → P1 possède une surface réglée en droites très tordue. Remarque 2.6. — Sous l’hypothèse (i) du théorème 0.2, la variété des droites Ft de Yt est rationnellement connexe. Il existe donc d’après [19] des courbes rationnelles C ⊂ Ft , C ∼ = P1 , à fibré normal arbitrairement ample. Une telle courbe fournit une surface réglée en droites Σ ⊂ Yt ×P1 , qui a la propriété que le fibré R0 pr2∗ NΣ/Yt ×P1 est arbitrairement ample. Mais ceci est insuffisant pour conclure à la seconde annulation demandée dans (iii) ci-dessus. On verra plus loin comment sont utilisées ces surfaces pour conclure la démonstration. Dans l’immédiat, le résultat suivant permet de montrer l’existence de telles surfaces à l’aide de la condition (ii) (qui porte sur les fibres) :

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

332

C. VOISIN

Proposition 2.7. — Si une fibre lisse Yt de f possède une surface réglée en droites très tordue, et f : Y → C satisfait la condition (i) du théorème 0.2, le morphisme Y → C possède une surface réglée en droites très tordue. Preuve (esquisse). — La démonstration est assez semblable à celle qui permettrait de montrer l’existence d’une section libre de f sachant qu’il passe par tout point d’une fibre (et donc aussi d’une fibre générale par un argument de déformation) des courbes rationnelles à fibré normal ample dans cette fibre. Partant d’une section arbitraire S, on lui attacherait en un certain nombre de points des courbes rationnelles Ri à fibré normal ample dans les fibres passant par ces points. On montrerait ensuite que la courbe S ∪ ∪i Ri se lissifie en une section à fibré normal engendré par ses sections, à condition que les Ri soient génériquement choisies et que le nombre de courbes attachées soit suffisamment grand. Dans notre cas, on montre tout d’abord que l’existence de surfaces réglées en droites très tordues dans la fibre Yt est une propriété ouverte sur t. On part d’une section σ : C → Y (qui existe par le théorème 1.3 puisque les fibres de f sont rationnellement connexes). On applique encore une fois le théorème 1.3 à la variété fibrée au-dessus de σ(C), dont la fibre au point σ(t) est la famille des droites de Yt passant par σ(t). Cette fibre est rationnellement connexe par l’hypothèse (i). Ceci nous donne une surface réglée en droites R ⊂ Y contenant σ(C). Cette surface réglée n’a peutêtre aucune des propriétés de positivité demandées dans la définition 2.5. Mais si on attache à cette surface réglée un grand nombre de surfaces réglées très tordues Ri → Ci , Ci ∼ = P1 , munies d’un diviseur Di qui doit coïncider avec σ(C) au-dessus des ti , dans des fibres Yti , la surface réglée R ∪ ∪i Ri sur C ∪ ∪i Ci , munie du diviseur D = σ(C) ∪ ∪i Di se déforme sur une surface réglée très tordue dans Y . L’existence de ces surfaces réglées très tordues permet de terminer la démonstration du théorème 2.1 grâce à la proposition suivante : Proposition 2.8. — (a) S’il existe une surface réglée en droites très tordue (π : R → C, D ⊂ R, h : R → Y ), les courbes générales dans |D| sont des sections libres de f , et leurs déformations sont induites par des déformations de la paire (R, D). (b) Pour p ∈ C, les courbes du système linéaire |D(−π ∗ p)| satisfont la même conclusion. (c) Soit σ 0 (C) une section de π donnée par une courbe générique dans |D(−π −1 (p))|. Alors les déformations du porc-épic lp ∪ σ 0 (C), où lp est la droite π −1 (p) ⊂ R, sont contenues dans une déformation de R. Notons que la courbe σ(C) est par définition dans le même système linéaire sur R que la courbe lp ∪ σ 0 (C). Il existe donc un P1 paramétrant des sections de R joignant la section libre σ(C) et le porc-épic lp ∪ σ 0 (C). La démonstration du théorème 2.1

ASTÉRISQUE 348

(1038)

SECTIONS RATIONNELLES DES FIBRATIONS SUR UNE SURFACE

333

consiste à utiliser la proposition 2.8 pour conclure que les sections σ(C) apparaissant comme membres du système linéaire |D| pour (R, D) comme dans (a) remplissent pour e suffisamment grand un ouvert d’une composante de Se (f ) qui n’est autre que la composante distinguée Se0 (f ), et que tout point de cet ouvert est connecté par une courbe rationnelle, dans Se0 (f ), à un porc-épic ayant exactement une droite. Un énoncé plus précis permet finalement de montrer que tout point de cet ouvert est connecté par une courbe rationnelle, dans Se0 (f ), à un porc-épic possédant un grand nombre de droites, et le théorème 2.4 permet finalement de conclure.

3. APPLICATION À LA CONJECTURE DE SERRE 3.1. Réduction géométrique On se contentera ici de considérer les GK -torseurs sur K = k(S), lorsque le groupe GK sur K est l’extension à K d’un groupe G défini sur le corps algébriquement clos k de définition de S. De façon équivalente, le schéma en groupes sur un ouvert de Zariski U de S correspondant à GK est en fait un produit G × U , où G est défini sur k. On renvoie à [9], [4] et à l’introduction de [14] pour le cas général. On veut montrer leur trivialité lorsque le groupe est semi-simple et simplement connexe. On se place dans ce paragraphe en caractéristique 0, de sorte que les résultats précédents s’appliquent. Un énoncé intermédiaire est le suivant : Théorème 3.1. — Soit S une surface quasi-projective définie sur un corps algébriquement clos k de caractéristique 0, et soit π : X → S un morphisme projectif dont la fibre générique géométrique Xη est isomorphe à G/P pour un sousgroupe parabolique P du groupe algébrique connexe G. On suppose que l’application de restriction Pic X → Pic Xη est surjective. Alors π admet une section rationnelle. On dira dans la suite qu’une fibration en variétés homogènes X → S est scindée si la flèche de restriction Pic X → Pic Xη est surjective. Remarque 3.2. — Comme il résulte de la remarque 1.6, l’hypothèse de scindage est en fait une condition d’annulation pour une obstruction de type Brauer à l’existence d’une section. Montrons d’abord comment ceci entraîne la conjecture de Serre 1.10 en caractéristique 0 et pour un groupe défini sur le corps de base. Corollaire 3.3. — Si G est connexe, simplement connexe et semi-simple défini sur k, tout G-torseur sur k(S) est trivial.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

334

C. VOISIN

Preuve. — (Voir [9, 6.5].) — Quitte à remplacer S par un ouvert de Zariski, on peut supposer que ce torseur T a un modèle sur S, soit une fibration T → S munie d’une action du groupe G. Soit B un sous-groupe de Borel de G. On peut considérer le quotient X := T /B → S. Il faut tout d’abord garantir que ce quotient satisfait l’hypothèse principale du théorème 3.1, à savoir que la fibration X → S est scindée. Cette condition (qui est une condition d’annulation d’une classe de type Brauer) est garantie par le fait que le groupe G est connexe et simplement connexe. En effet, cette hypothèse garantit que tout fibré inversible sur Xη admet une G-linéarisation, et donc que Pic Xη provient des caractères de B. Or ces caractères fournissent aussi bien des éléments de Pic X. D’après le théorème 3.1, on dispose alors d’une section rationnelle de X → S. Ceci se traduit en termes de réduction du torseur T : il provient d’un torseur sous B. Or les k(S)-torseurs sous B sont triviaux (de façon équivalente H 1 (k(S), B) = 1, cf. [9, 6.5]). La preuve du théorème 3.1 se fait en deux étapes. Le cas où ρ(Xη ) = 1 est déduit directement du théorème 0.2 par la proposition suivante (cf. [14, Corollary 15.4 et Lemma 15.8]). Proposition 3.4. — Soit Z = G/P une variété homogène projective à nombre de Picard ρ = 1, où G est connexe, semi-simple et défini sur k, et soit L le générateur positif de Pic Z. Alors Z satisfait les conditions (i) et (ii) du théorème 0.2. Pour conclure la démonstration, il reste à se ramener au cas où la fibration en variétés homogènes X → S du théorème 3.1 satisfait la condition ρ(Xη ) = 1. Ceci résulte de la proposition suivante : Proposition 3.5 ([14], Lemma 16.1). — Soit S une variété définie sur k et soit π : X → S une fibration en variétés homogènes scindée. Alors quitte à restreindre S, il existe une factorisation de π π

π

1 2 X −→ Y −→ S

où π1 et π2 sont des fibrations en variétés homogènes scindées, et ρ(Yη ) = 1. Cette proposition permet de conclure de la façon suivante : Partant de la fibration π π scindée X → S, on a la factorisation X →1 Y →2 S donnée par la proposition 3.5, où les deux fibrations sont scindées et la seconde satisfait ρ(Yη ) = 1. Comme le théorème est déjà établi dans le cas où ρ(Xη ) = 1, on dispose, quitte à restreindre S, d’une section σ : S → Y de π2 . On continue alors avec la fibration Xσ → S, obtenue en restreignant X → Y à σ(S). Cette fibration est encore scindée, ce qui permet de continuer à raisonner avec Xσ → S à la place de X → S. Comme le nombre de Picard

ASTÉRISQUE 348

(1038)

SECTIONS RATIONNELLES DES FIBRATIONS SUR UNE SURFACE

335

de la fibre générique géométrique diminue d’un à chaque étape, on obtient au bout d’un nombre fini d’étapes une section de X → S définie sur un ouvert de Zariski de S. 3.2. Passage à la caractéristique non nulle Le théorème 0.2 n’est pas démontré en caractéristique non nulle. La preuve de la conjecture de Serre en caractéristique non nulle est obtenue en se ramenant à la caractéristique nulle par un argument de relèvement : le groupe G sur le corps k algébriquement clos de caractéristique non nulle sera un groupe linéaire connexe, semisimple et simplement connexe, et le sous-groupe parabolique P sera supposé réduit. Si R est l’anneau de Witt de k, les groupes P et G se remontent sur R, de sorte qu’il existe GR et PR ⊂ GR , dont la réduction sur k donne la paire P ⊂ G. Le résultat nécessaire est donné dans le lemme suivant : Lemme 3.6. — On suppose que le groupe P est parabolique maximal (c’est-à-dire que ρ(G/P ) = 1). Soit Ω la clôture algébrique de Frac R. Si toute famille scindée de variétés homogènes à fibre générale GΩ /PΩ sur une surface définie sur Ω admet une section rationnelle, il en va de même sur k. On peut se ramener au cas parabolique maximal par la proposition 3.5 qui est valable en toute caractéristique.

RÉFÉRENCES [1] A. Beauville – On the Brauer group of Enriques surfaces, Math. Res. Lett. 16 (2009), p. 927–934. [2] F. Campana – Connexité rationnelle des variétés de Fano, Ann. Sci. École Norm. Sup. 25 (1992), p. 539–545. [3] J.-L. Colliot-Thélène – Algèbres simples centrales sur les corps de fonctions de deux variables (d’après A. J. de Jong), Séminaire Bourbaki, vol. 2004/2005, exp. no 949, Astérisque 307 (2006), p. 379–413. [4] J.-L. Colliot-Thélène, P. Gille & R. Parimala – Arithmetic of linear algebraic groups over 2-dimensional geometric fields, Duke Math. J. 121 (2004), p. 285–341. [5] J.-L. Colliot-Thélène & T. Szamuely – Autour de la conjecture de Tate à coefficients Zl pour les variétés sur les corps finis, in The geometry of algebraic cycles, Clay Math. Proc., vol. 9, Amer. Math. Soc., 2010, p. 83–98. [6] J.-L. Colliot-Thélène & C. Voisin – Cohomologie non ramifiée et conjecture de Hodge entière, Duke Math. J. 161 (2012), p. 735–801.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

336

C. VOISIN

[7] O. Debarre – Variétés de Fano, Séminaire Bourbaki, vol. 1996/97, exp. no 827, Astérisque 245 (1997), p. 197–221. [8] , Variétés rationnellement connexes (d’après T. Graber, J. Harris, J. Starr et A. J. de Jong), Séminaire Bourbaki, vol. 2001/2002, exp. no 905, Astérisque 290 (2003), p. 243–266. [9] P. Gille – Serre’s conjecture II : a survey, in Quadratic forms, linear algebraic groups, and cohomology, Dev. Math., vol. 18, Springer, 2010, p. 41–56. [10] T. Graber, J. Harris & J. M. Starr – Families of rationally connected varieties, J. Amer. Math. Soc. 16 (2003), p. 57–67. [11] M. J. Greenberg – Lectures on forms in many variables, W. A. Benjamin, Inc., New York-Amsterdam, 1969. [12] A. Grothendieck – Le groupe de Brauer I, II, III, in Dix exposés sur la cohomologie des schémas, Masson et North-Holland, 1968. [13] A. J. de Jong – The period-index problem for the Brauer group of an algebraic surface, Duke Math. J. 123 (2004), p. 71–94. [14] A. J. de Jong, X. He & J. M. Starr – Families of rationally simply connected varieties over surfaces and torsors for semisimple groups, Publ. Math. I.H.É.S. 114 (2011), p. 1–85. [15] A. J. de Jong & J. M. Starr – Every rationally connected variety over the function field of a curve has a rational point, Amer. J. Math. 125 (2003), p. 567– 580. [16] J. Kollár – Trento examples, in Classification of irregular varieties (E. Ballico, F. Catanese & C. Ciliberto, éds.), Lecture Notes in Math., vol. 1515, Springer, 1992. [17] , Rational curves on algebraic varieties, Ergebn. Math. Grenzg., vol. 32, Springer, 1996. [18] J. Kollár, Y. Miyaoka & S. Mori – Rational connectedness and boundedness of Fano manifolds, J. Differential Geom. 36 (1992), p. 765–779. [19] , Rationally connected varieties, J. Algebraic Geom. 1 (1992), p. 429–448. [20] J-P. Serre – Cohomologie galoisienne des groupes algébriques linéaires, in Colloq. Théorie des Groupes Algébriques (Bruxelles, 1962), Librairie Universitaire, Louvain, 1962, p. 53–68. [21] J. M. Starr – Arithmetic over function fields, in Arithmetic geometry, Clay Math. Proc., vol. 8, Amer. Math. Soc., 2009, p. 375–418. , A pencil of Enriques surfaces of index one with no section, Algebra [22] Number Theory 3 (2009), p. 637–652. [23] B. Totaro – Torsion algebraic cycles and complex cobordism, J. Amer. Math. Soc. 10 (1997), p. 467–493.

ASTÉRISQUE 348

(1038)

SECTIONS RATIONNELLES DES FIBRATIONS SUR UNE SURFACE

337

[24] C. Voisin – On integral Hodge classes on uniruled or Calabi-Yau threefolds, in Moduli spaces and arithmetic geometry, Adv. Stud. Pure Math., vol. 45, Math. Soc. Japan, 2006, p. 43–73.

Claire VOISIN Institut de Mathématique de Jussieu Université Paris VI Case 247 4, place Jussieu F–75252 PARIS Cedex 05 E-mail : [email protected]

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

348

ASTÉRISQUE 2012

SÉMINAIRE BOURBAKI VOLUME 2010/2011 EXPOSÉS 1027-1042 (1039) Invariant percolation and measured theory of nonamenable groups Cyril HOUDAYER

SOCIÉTÉ MATHÉMATIQUE DE FRANCE Publié avec le concours du CENTRE NATIONAL DE LA RECHERCHE SCIENTIFIQUE

Séminaire BOURBAKI 63e année, 2010-2011, no 1039, p. 339 à 374

Juin 2011

INVARIANT PERCOLATION AND MEASURED THEORY OF NONAMENABLE GROUPS [after Gaboriau-Lyons, Ioana, Epstein] by Cyril HOUDAYER

1. INTRODUCTION The notion of amenability was introduced in 1929 by J. von Neumann [48] in order to explain the Banach-Tarski paradox. A countable discrete group Γ is amenable if there exists a left-invariant mean ϕ : `∞ (Γ) → C. The class of amenable groups is stable under subgroups, direct limits, quotients and the free group F2 on two generators is not amenable. Knowing whether or not the class of amenable groups coincides with the class of groups without a nonabelian free subgroup became known as von Neumann’s problem. It was solved in the negative by Ol’shanskii [50]. Adyan [1] proved that the free Burnside groups B(m, n) with m generators, of exponent n (n ≥ 665 and odd) are nonamenable. Ol’shanskii and Sapir [51] also constructed examples of finitely presented nonamenable groups without a nonabelian free subgroup. Two free ergodic probability measure-preserving (pmp) actions Γ y (X, µ) and Λ y (Y, ν) of countable discrete groups on nonatomic standard probability spaces are orbit equivalent (OE) if they induce the same orbit equivalence relation, that is, if there exists a pmp Borel isomorphism ∆ : (X, µ) → (Y, ν) such that ∆(Γx) = Λ∆(x), for µ-almost every x ∈ X. Despite the fact that the group Z admits uncountably many non-conjugate free ergodic pmp actions, Dye [13, 14] proved the surprising result that any two free ergodic pmp actions of Z are orbit equivalent. Moreover, Ornstein and Weiss [52] (see also [11]) proved that any free ergodic pmp action Γ y (X, µ) of any infinite amenable group is always orbit equivalent to a free ergodic pmp Z-action on (X, µ). On the other hand, results of [62, 12, 26] imply that any nonamenable group has at least two non-OE free ergodic pmp actions. These results lead to a satisfying (∗)

Research partially supported by ANR grant AGORA NT09-461407.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

340

C. HOUDAYER

characterization of amenability: an infinite countable discrete group Γ is amenable if and only if Γ admits exactly one free ergodic pmp action up to OE. Measurable-group-theoretic solution to von Neumann’s problem The first result we discuss in this paper is a positive answer to von Neumann’s problem in the framework of measured group theory, due to Gaboriau and Lyons [22]. Measured group theory is the study of countable discrete groups Γ through their pmp actions Γ y (X, µ). We refer to [21] for a recent survey on this topic. To any free pmp action Γ y (X, µ), one can associate the orbit equivalence relation R(Γ y X) ⊂ X × X defined by (x, y) ∈ R(Γ y X) ⇐⇒ ∃g ∈ Γ, y = gx. For countable discrete groups Γ and Λ, we say that Λ is a measurable subgroup of Γ and set Λ 0 (resp. P[Π¬e A] > 0). For p ∈ [0, 1], Bernoulli(p) bond percolation is the product probability measure Pp on {0, 1}E that satisfies Pp [ω : e ∈ ω] = p. In other words, each edge of G is independently kept (or open) with probability p and removed (or closed) with probability 1 − p. The percolation Pp is clearly invariant. If the action Γ y E has infinite orbits, then Pp is ergodic. In particular, when G is a Cayley graph of an infinite group, Pp is ergodic. It is easy to check that Pp is both insertion and deletion tolerant for p 6= 0 and 1. Let P = LebE be the product probability measure on [0, 1]E where Leb denotes the uniform (Lebesgue) measure on [0, 1]. An element of [0, 1]E gives a colored graph, with [0, 1] as set of colors. For each p ∈ [0, 1], let πp : [0, 1]E → {0, 1}E be the Aut(G)-equivariant map sending [0, 1]-colored graphs to {0, 1}-colored ones by only

ASTÉRISQUE 348

(1039)

INVARIANT PERCOLATION AND MEASURED THEORY

347

keeping the edges colored in [0, p), that is, for every x ∈ [0, 1]E , ( 1 if x(e) < p πp (x)(e) = 0 if x(e) ≥ p. The standard coupling is the family (πp )p∈[0,1] . We have that (πp )∗ P = Pp , for all p ∈ [0, 1]. The event that there exists an infinite cluster in πp (x) is a tail event. Hence, by Kolmogorov’s 0, 1-law, P[∃ an infinite cluster in πp (x)] = 0 or 1. Moreover, for p ≤ q, the event that πp (x) has an infinite cluster is contained in the event that πq (x) has an infinite cluster. This allows us to define the critical value pc (G) ∈ [0, 1] by ( 0 if p < pc (G) P[∃ an infinite cluster in πp (x)] = 1 if p > pc (G). One checks that for all p ≥ pc (G), P-a.s. pc (πp (x)) = pc (G)/p. From now on, assume that the action Γ y E has infinite orbits, so that the percolation Pp is ergodic. Denote by N(ω) the number of infinite clusters of ω ∈ {0, 1}E . Since N(ω) is invariant, it follows that N(ω) is a Pp -a.s. constant function, by ergodicity of Pp . We denote by Np ∈ N ∪ {∞} its value. Let us prove now that Np ∈ {0, 1, ∞} (see [49]). Assume that this is not the case, that is, Np ∈ N \ {0, 1}. Then there exists a finite path P = (e1 , . . . , en ) in G such that Pp [P connects two distinct infinite clusters of ω] > 0. Denote by A this last event and let B = Πe1 ◦ · · · ◦ Πen (A). Since Pp is insertion tolerant, Pp [B] > 0. Yet, Np takes a strictly smaller value on B than on A, which contradicts the fact that Np is a Pp -a.s. constant function. When G = (V, E) is a connected locally finite unimodular transitive graph, Häggström and Peres [25] showed there is monotonicity of uniqueness: for all 0 ≤ p1 < p2 ≤ 1, if

P[∃ a unique infinite cluster in πp1 (x)] = 1

then

P[∃ a unique infinite cluster in πp2 (x)] = 1.

This explains why the uniqueness phase is an interval and allows us to define pu (G) = inf{p ∈ [0, 1] : there is a unique infinite cluster for Pp }. We have pc (G) ≤ pu (G). Stronger still, Häggström and Peres [25] proved that after pc (G), there is no spontaneous generation of infinite clusters, “all infinite clusters are born simultaneously”:

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

348

C. HOUDAYER

Theorem 3.1. — Let G = (V, E) be a connected locally finite unimodular transitive graph. The number Np of infinite clusters in πp (x) is a P-a.s. constant function and we have    0 for p ∈ [0, pc (G))  Np = ∞ for p ∈ (pc (G), pu (G))    1 for p ∈ (p (G), 1]. u

– Moreover, for all p1 < p2 , when P-a.s. πp1 (x) produces at least one infinite cluster, P-a.s. every infinite cluster of πp2 (x) contains at least one infinite cluster of πp1 (x). – If P-a.s. πp (x) produces infinitely many infinite clusters, then P-a.s. all infinite clusters of πp (x) have uncountably many ends. – When p < 1, if P-a.s. πp (x) produces only one infinite cluster, then P-a.s. the unique infinite cluster of πp (x) has only one end. Lyons and Schramm [42] showed that when Bernoulli(p) bond percolation produces a.s. at least one infinite cluster, then its infinite clusters are indistinguishable in the following sense. Consider the Borel subset  C∞ = (ω, C) ∈ 2E × 2V : C is an infinite cluster of ω . Observe that C∞ is invariant under the diagonal action of Γ. A Γ-invariant bond percolation P on G has indistinguishable infinite clusters if for every Γ-invariant Borel subset A ⊂ C∞ , P-a.s. either for all infinite clusters C of ω, we have (ω, C) ∈ A, or for all infinite clusters C of ω, we have (ω, C) ∈ C∞ \ A. Observe that when P is moreover ergodic, we can permute “P-a.s.” with “or”. The following result is [42, Theorem 3.3]. Theorem 3.2 (Clusters indistinguishability). — Let G = (V, E) be a unimodular transitive graph. Any Γ-invariant insertion-tolerant bond percolation on G has indistinguishable infinite clusters. 3.3. From percolation to equivalence relations Let Γ be a finitely generated infinite group and S = (s1 , . . . , sd ) a finite generating family for Γ. Set G = Cay(Γ, S) that we also denote G = (V, E). Let Γ y (X, µ) be a free ergodic pmp action and denote by S := R(Γ y X) the induced orbit equivalence relation. Let π : X → {0, 1}E be a Γ-equivariant Borel map. Then the push-forward measure π∗ µ is a Γ-invariant bond percolation on G. The following definition is due to Gaboriau [20]. Definition 3.3. — The cluster subequivalence relation Rcl π ⊂ S is defined by ( there exists g ∈ Γ, y = g −1 x (x, y) ∈ Rcl π ⇐⇒ 1Γ and g are in the same cluster of π(x).

ASTÉRISQUE 348

(1039)

INVARIANT PERCOLATION AND MEASURED THEORY

349

Denote by ei the edge [1Γ , si ]. Define the Borel set Xi = {x ∈ X : π(x)(ei ) = 1} and partial Borel isomorphisms ϕi = s−1 : Xi → s−1 i i (Xi ). Then the family Φ = (ϕ1 , . . . , ϕd ) is a pmp graphing which generates Rcl and Φ(x) ' C(π(x); 1Γ ), for π π cl µ-almost every x ∈ X. Denote by U∞ the infinite locus of Rπ , that is, π U∞ = {x ∈ X : C(π(x), 1Γ ) is infinite}. π Assume now that µ-a.s. π(x) produces at least one infinite cluster. Then µ(U∞ )>0 cl π π and Rπ |U∞ is a type II1 equivalence relation. Moreover, on U∞ , each S-class splits into Rcl π -classes which are in one-to-one correspondence with the infinite clusters of π(x). It follows in particular that when µ-a.s. π(x) produces exactly one infinite cluster, the orbit and the cluster equivalence relations do coincide on the infinite locus, that π π is, Rcl π |U∞ = S|U∞ . The following observation is due to Gaboriau and Lyons [22].

Proposition 3.4 (Indistinguishability vs. ergodicity). — The percolation π∗ µ has π indistinguishable infinite clusters if and only if the equivalence relation Rcl π |U∞ is ergodic. Consider now Bernoulli(p) bond percolation through the standard coupling (πp )p∈[0,1] . Observe that since the action Γ y E is free, the free pmp action Γ y ([0, 1]E , P) is conjugate to the plain Bernoulli shift Γ y ([0, 1], Leb)Γ . Let S be the corresponding orbit equivalence relation. Simply denote by Rp the cluster equivS alence relation Rcl πp . The family (Rp )p∈[0,1] is increasing. Moreover Rq = p pc (G), denote by U∞ p p . has infinite index in S|U∞ produces infinitely many infinite clusters, Rp |U∞ It is straightforward to see that clusters indistinguishability implies simultaneous uniqueness. Indeed, simultaneous uniqueness amounts to saying that for all p1 < p2 p1 p2 p1 p2 such that P[U∞ ] > 0, the Rp2 |U∞ -saturation of U∞ is equal to U∞ . This is clear p2 since Rp2 |U∞ is ergodic by clusters indistinguishability.

4. THE NON-UNIQUENESS PHASE IN BERNOULLI PERCOLATION A famous conjecture by Benjamini and Schramm [4, Conjecture 6] is that if a transitive graph G with finite degree is nonamenable, then pc (G) < pu (G). This section is devoted to presenting a partial answer to this question, due to Pak and SmirnovaNagnibeda [54]: for any nonamenable finitely-generated group Γ, there exists a finite

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

350

C. HOUDAYER

generating family S such that the Cayley graph G := Cay(Γ, S) has a non-uniqueness phase, that is, for which pc (G) < pu (G). Let G = Cay(Γ, S) be a Cayley graph of an infinite finitely generated group Γ with respect to a finite generating family S = (s1 , . . . , sd ). Recall that the vertex set V is Γ and the edge set E is {[g, gsi ] : g ∈ Γ, 1 ≤ i ≤ d}. For a non-empty finite subset F ⊂ V, let ∂E F be the set of edges which have exactly one endpoint in F . Define the edge-isoperimetric constant of G by ß ™ |∂E F | ιE (G) := inf : ∅ 6= F ⊂ V finite subset . |F | A graph G is edge-amenable if ιE (G) = 0. A finitely generated group Γ is amenable if for some (or equivalently for every) finite generating family S, the Cayley graph Cay(Γ, S) is edge-amenable. The first result of this section is due to Benjamini and Schramm [4, Theorem 2]. Theorem 4.1 (Upper bound for pc ). — Let G = Cay(Γ, S). Then 1 pc (G) ≤ . ιE (G) + 1 1 and let Pp be the corresponding Bernoulli(p) percolation Proof. — Fix p > ιE (G)+1 on G. Fix v ∈ V. Let (ei )i≥1 be an ordering of E so that e1 is incident with v. Let ω ∈ {0, 1}E be a configuration. We explore the open cluster C(ω; v) by looking at the following inductive procedure. Let E1 = {e1 }, V1 = {v} and X1 (ω) = ω(e1 ). Assume Ek and Vk have been defined. Denote by Vk+1 the set {v} ∪ {endpoints of open edges in Ek }. Let nk+1 be the least integer n such that the edge en ∈ E \ Ek has exactly one endpoint in Vk+1 , if any.

(a) If there are none, then stop. Denote by k := n(ω) the stopping time. In that case, the open cluster C(ω; v) containing v is finite. Then set `k = sup{nj : 1 ≤ j ≤ k} and Xk+i (ω) = ω(e`k +i ), for all i ≥ 1. (b) Otherwise, let Ek+1 = Ek ∪ {enk+1 } and Xk+1 (ω) = ω(enk+1 ). If the procedure never ends, then the open cluster C(ω; v) is infinite. Claim. — (Xn )n≥1 is an infinite sequence of i.i.d. {0, 1}-valued Bernoulli(p) random variables. It suffices to show that for all k ≥ 1 and all ε1 , . . . , εk ∈ {0, 1}, we have (1)

Pp [Xk+1 = 1|X1 = ε1 , . . . , Xk = εk ] = p.

Denote by A = {ω : X1 (ω) = ε1 , . . . , Xk (ω) = εk }, Ai = A ∩ {ω : n(ω) = i}, for 1 ≤ i ≤ k, and Ak+1 = A ∩ {ω : n(ω) ≥ k + 1}. For i ≤ k, there are k + 1 fixed distinct edges f1 = en1 , . . . , fi = eni , fi+1 = e`i +1 , . . . , fk+1 = e`i +k+1−i , with

ASTÉRISQUE 348

(1039)

INVARIANT PERCOLATION AND MEASURED THEORY

351

`i = sup{nj : 1 ≤ j ≤ i}, such that Ai = {ω : ω(f1 ) = ε1 , . . . , ω(fk ) = εk }. We moreover have Pp [Xk+1 = 1|Ai ] = Pp [ω(fk+1 ) = 1|Ai ]. Since the edges f1 , . . . , fk+1 are distinct, the random variables ω(f1 ), . . . , ω(fk+1 ) are independent. It follows that Pp [ω(fk+1 ) = 1|Ai ] = p. Likewise, for i = k + 1, there are k + 1 fixed distinct edges en1 , . . . , enk+1 such that Ak+1 = {ω : ω(en1 ) = ε1 , . . . , ω(enk ) = εk }. We moreover have Pp [Xk+1 = 1|Ak+1 ] = Pp [ω(enk+1 ) = 1|Ak+1 ]. Since the edges en1 , . . . , enk+1 are distinct, the random variables ω(en1 ), . . . , ω(enk+1 ) are independent. It follows that Pp [ω(enk+1 ) = 1|Ak+1 ] = p. Since the event A is equal to the disjoint union of the events A1 , . . . , Ak+1 , we get Equation (1), which finishes the proof of the claim. By the strong law of large numbers, we get # " n 1X 1 Pp Xk (ω) > , ∀n ≥ 1 > 0. n ιE (G) + 1 k=1

We denote by A this last event. We show that C(ω; v) must be infinite on the event A. Assume that C(ω; v) is finite. Simply denote n = n(ω) and let En be the last set of selected edges according to (a). Let m = |C(ω; v)|. We have that En contains ∂E C(ω; v) (for which all edges are closed) and a spanning tree of C(ω; v) with m − 1 open edges. P Thus we have n ≥ |∂E C(ω; v)| + m − 1 and nk=1 Xk (ω) = m − 1, so that n

m−1 1X m−1 Xk (ω) = ≤ ≤ n n |∂E C(ω; v)| + m − 1 k=1

1 |∂E C(ω;v)| |C(ω;v)|

≤ +1

1 . ιE (G) + 1

It follows that C(ω; v) is infinite on the event A and thus Pp [C(ω; v) is infinite] > 0. Therefore p > pc (G), which finishes the proof. Let G = Cay(Γ, S), where S = (s1 , . . . , sd ). Let P : `2 (Γ) → `2 (Γ) be the corresponding simple random walk operator: for all f ∈ `2 (Γ), d

(P f )(g) =

1X f (gsi ). d i=1

It is easy to see that as a bounded operator on `2 (Γ), we have P = P ∗ and kP k∞ ≤ 1 (where k · k∞ is the operator norm). Fix an orientation of the edges. Define the differential operator ∂ : `2 (Γ) → `2 (E) by (∂f )(e) = f (e+ ) − f (e− ). The combinatorial Laplacian is then defined as the positive self-adjoint operator ∆ = ∂ ∗ ∂. A straightforward computation gives ∆ = d(1 − P ). The spectral radius of the graph G is defined as ρ(G) := kP k∞ . Proposition 4.2 ([44]). — Let G = Cay(Γ, S), where S = (s1 , . . . , sd ). Then ιE (G) ≥ d(1 − ρ(G)).

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

352

C. HOUDAYER

Proof. — Let F ⊂ V be a nonempty finite subset. Let f = 1F . We have |∂E F | = h∆f, f i = dh(1 − P )f, f i ≥ d(1 − ρ(G))kf k2 = d(1 − ρ(G))|F |, and the proposition follows. Choose a vertex v ∈ V (e.g. v = 1Γ ) and denote by an (G) the number of simple cycles of length n in G that contain v. Let γ(G) := lim sup an (G)1/n . n

Denote by (hXn i, Pv ) the simple random walk on G starting at v. Recall that ρ(G) = lim supn (Pv [Xn = v])1/n . Any simple cycle of length n that contains v defines a way for the simple random walk starting at v to return to v at time n. That event has probability 1/dn . Therefore Pv [Xn = v] ≥ an (G)/dn , which shows that γ(G) ≤ dρ(G). The next theorem, due to Schramm, is an improvement of an earlier result of Benjamini and Schramm [4, Theorem 4]. The proof we give here is borrowed from Lyons [39, Theorem 3.9]. Theorem 4.3 (Lower bound for pu ). — Let G = Cay(Γ, S). Then 1 ≤ pu (G). γ(G) Proof. — Let 1 > p > pu (G) ≥ pc (G). Since p > pu (G), we know that Pp -a.s. the open subgraph ω contains a unique infinite cluster C(ω) which has only one end. We start by proving the following. Claim ([41]). — Let G be a graph of bounded degree that does not contain an infinite simple cycle. Then pc (G) = 1. By repeated applications of Menger’s Theorem(4) we see that if v is a vertex in G, then there are infinitely many vertices vn such that v is in a finite cluster of G \ {vn }. Since G has bounded degree, it follows that pc (G) = 1, which finishes the proof of the claim. We get that Pp -a.s. ω contains an infinite simple cycle. Otherwise, the claim would imply that with Pp -positive probability, pc (ω) = 1. This contradicts the fact that Pp -a.s. pc (ω) = pc (G)/p < 1. Denote by A ⊂ {0, 1}E the event that there is an infinite simple cycle in the p-open cluster C(ω) containing v. We may regard such an infinite simple cycle as the union of two disjoint infinite simple rays starting at v. We have proven that Pp [A] > 0. Since C(ω) has only one end, these two paths may be connected by paths in ω that stay (4)

For any vertex v in an infinite graph G, the maximum number of paths from v to ∞ that are pairwise disjoint (except at v) is equal to the minimum cardinality of a set W of vertices such that W is disjoint from v, but every path from v to ∞ passes through W .

ASTÉRISQUE 348

(1039)

INVARIANT PERCOLATION AND MEASURED THEORY

353

outside arbitrarily large balls. In particular, there are an infinite number of simple cycles in ω ∈ A through the vertex v. The expected number of such simple cycles P must be infinite, whence we obtain in particular n an (G)pn = ∞. Thus p > γ(G)−1 , which finishes the proof. Corollary 4.4. — Let G = Cay(Γ, S). Assume that ρ(G) ≤ 1/2. Then pc (G) < pu (G). Proof. — Using Proposition 4.2, Theorems 4.1 and 4.3, we have pc (G) ≤

1 1 1 1 1 < ≤ ≤ ≤ ≤ pu (G). ιE (G) + 1 ιE (G) d(1 − ρ(G)) dρ(G) γ(G)

We finally state and prove the result of Pak and Smirnova-Nagnibeda [54]. Corollary 4.5. — Let Γ be a finitely generated nonamenable group. Then there exists a generating family S of Γ such that pc (Cay(Γ, S)) < pu (Cay(Γ, S)). Proof. — Let S be a finite generating family for Γ such that 1Γ ∈ S and let G = Cay(Γ, S). For k ≥ 1, define the k-fold family S [k] . The group Γ may be regarded as generated by S [k] . Let G [k] = Cay(Γ, S [k] ). If P denotes the random walk operator on the graph G, then P k is the random walk operator of G [k] . Thus ρ(G [k] ) = kP k k∞ ≤ kP kk∞ = ρ(G)k . Since Γ is nonamenable, ρ(G) < 1 by Kesten’s result [36]. Let k be a large enough integer so that ρ(G)k ≤ 1/2. We finally get ρ(G [k] ) ≤ 1/2. By Corollary 4.4, the finite generating family S [k] does the job.

5. MINIMAL SPANNING FORESTS AND APPLICATIONS 5.1. Minimal spanning forests We first review results due to Lyons, Peres and Schramm [41] regarding minimal spanning forests on infinite connected graphs and their relation to Bernoulli percolation. Let G = Cay(Γ, S) be a Cayley graph of an infinite finitely generated group Γ with respect to a finite generating family S. As usual, denote by V the vertex set and by E the edge set. Denote by Forest(G) ⊂ {0, 1}E the Borel subset of all forests of G. A random forest is an invariant bond percolation supported on Forest(G). We endow the Borel space [0, 1]E with the product probability measure P = LebE . Given x ∈ [0, 1]E an injective labeling of the edges, let FMSF(x) be the set of edges e ∈ E such that in every simple cycle in G containing e, there exists at least one edge e0 6= e with x(e0 ) > x(e). The Aut(G)-equivariant map FMSF : [0, 1]E → {0, 1}E (or simply its

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

354

C. HOUDAYER

law) is called the free minimal spanning forest on G. Observe that if G is a tree, then P-a.s. FMSF(x) = G. An extended simple cycle in G is either a simple cycle in G or an infinite simple cycle in G. Given x ∈ [0, 1]E an injective labeling of the edges, let WMSF(x) be the set of edges e ∈ E such that in every extended simple cycle in G containing e, there exists at least one edge e0 6= e with x(e0 ) > x(e). Equivalently, WMSF(x) consists of those edges e such that there is a finite set W ⊂ V where e is the least edge joining W to V \ W . The Aut(G)-equivariant map WMSF : [0, 1]E → {0, 1}E (or simply its law) is called the wired minimal spanning forest on G. Observe that if G is a tree with one end, then P-a.s. WMSF(x) = G. It is clear that WMSF(x) ⊂ FMSF(x). Moreover, WMSF(x) and FMSF(x) are indeed forests since in every simple cycle in G, the edge e with maximum label x(e) is contained neither in WMSF(x) nor in FMSF(x). Moreover, all the clusters of WMSF(x) and FMSF(x) are infinite since the least edge joining every finite vertex set to its complement belongs to both forests. Define f (x, e) := inf max{x(e0 ) : e0 ∈ P, e0 6= e}, P

where the infimum is over simple cycles P that contain the edge e. If there are none, the infimum is defined to be ∞. It follows that FMSF(x) = {e ∈ E : x(e) ≤ f (x, e)}. Likewise, define w(x, e) := inf sup{x(e0 ) : e0 ∈ P, e0 6= e}, P

where the infimum is over extended simple cycles P in G that contain the edge e. If there are none, the infimum is defined to be ∞. It follows that {e ∈ E : x(e) < w(x, e)} ⊂ WMSF(x) ⊂ {e ∈ E : x(e) ≤ w(x, e)}. Since x(e) and w(x, e) are independent random variables and x(e) is uniformly distributed, we get P-a.s. WMSF(x) = {e ∈ E : x(e) < w(x, e)} = {e ∈ E : x(e) ≤ w(x, e)}. It is clear that w(x, e) ≤ f (x, e), for all e ∈ E. The following is [41, Proposition 6]. Proposition 5.1. — Let G = Cay(Γ, S). Then WMSF 6= FMSF if and only if pc (G) < pu (G). Proof. — We will use the standard coupling πp : ([0, 1]E , P) → ({0, 1}E , Pp ) as defined previously. Since WMSF(x) ⊂ FMSF(x) and E is countable, it follows that WMSF 6= FMSF if and only if there exists e ∈ E such that P[w(x, e) < x(e) ≤ f (x, e)] > 0. Recall that x(e) is independent from the random variables w(x, e) and f (x, e), and x(e) is uniformly distributed. Therefore WMSF 6= FMSF if and only if there exist e ∈ E and p1 < p2 such that P[w(x, e) ≤ p1 < p2 ≤ f (x, e)] > 0.

ASTÉRISQUE 348

(1039)

INVARIANT PERCOLATION AND MEASURED THEORY

355

Assume that pc (G) < pu (G). Let pc (G) < p1 < p2 < pu (G). Using Theorem 3.1, we know that P-a.s. πp2 (x) has at least two distinct infinite clusters and each of these clusters contains an infinite cluster of πp1 (x). Therefore there exists a simple path P = (e1 , . . . , en ) of minimal length n in G, where ei = [vi , vi+1 ], such that with P-positive probability the following hold: 1. P connects two distinct infinite clusters of πp1 (x). 2. The clusters C(πp2 (x); v1 ) and C(πp2 (x); vn+1 ) are infinite and distinct. Using the standard coupling and since Pp1 and Pp2 are both insertion and deletion tolerant, the minimal length of P has to be 1. In other words, there exists an edge e ∈ E such that with P-positive probability, the two endpoints of e are in distinct infinite clusters of πpi (x), for i = 1, 2. We get P[w(x, e) ≤ p1 < p2 ≤ f (x, e)] > 0, whence WMSF 6= FMSF. Conversely, assume that WMSF 6= FMSF. In particular, there exist e ∈ E and p such that P[w(x, e) < p ≤ f (x, e)] > 0. Then P[w(x, e) < p ≤ f (x, e) and p ≤ x(e)] > 0. It follows that with P-positive probability, πp (x) has at least two distinct infinite clusters, whence pc (G) < pu (G). 5.2. Cluster equivalence relations of MSF We denote by RWMSF and RFMSF the cluster equivalence relations associated to both minimal spanning forests on G = Cay(Γ, S). Both of them are of type II1 and the treeing of RWMSF is a subtreeing of RFMSF , that is, RWMSF ⊂ RFMSF . Lyons, Peres and Schramm proved that P-a.s. every tree of WMSF(x) has exactly one end (see [41, Theorem 3.12]). In other words, RWMSF is treeable and P-almost every orbit is a tree with one end. It follows that RWMSF is hyperfinite. We prove the following elementary fact (see [41, Proposition 3.5]). Proposition 5.2. — Let G = Cay(Γ, S). Assume that WMSF 6= FMSF. Then RFMSF is not hyperfinite. Proof. — Assume that RFMSF is hyperfinite. Using [18, Proposition III.3], we get 1 ≤ cost(RWMSF ) ≤ cost(RFMSF ) = 1 so that RWMSF = RFMSF . For ω = WMSF(x) or FMSF(x), denote by T(ω; g) the tree (cluster) containing the vertex g ∈ Γ. Therefore, P-a.s. T(WMSF(x); 1Γ ) = T(FMSF(x); 1Γ ). By Γ-invariance, we get that P-a.s. for all g ∈ Γ, T(WMSF(x); g) = T(FMSF(x); g) and thus WMSF = FMSF. Timár [65] proved that if WMSF 6= FMSF, then RFMSF is in fact nowhere hyperfinite, that is, the restriction of RFMSF to any non-null measurable subset is not hyperfinite. We now present the proof of the result of Gaboriau and Lyons [22]. We will use a result of Chifan and Ioana [8, Theorem 1], the proof of which is postponed until Section 7.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

356

C. HOUDAYER

Theorem 5.3 (Measurable subgroup). — For any nonamenable group Γ there exists a free ergodic pmp action F2 y ([0, 1]Γ , LebΓ ) such that R(F2 y [0, 1]Γ ) ⊂ R(Γ y [0, 1]Γ ). Proof. — Let Γ be a nonamenable group. Since the union of an increasing sequence of amenable groups is still amenable, Γ contains a nonamenable finitely generated subgroup. Thus, up to taking such a subgroup, we may assume that Γ is finitely generated. The proof is in two steps. Step 1. There exists a subequivalence relation R ⊂ R(Γ y [0, 1]Γ ) which is ergodic treeable and non-hyperfinite. Let S be a finite generating family such that the Cayley graph G = Cay(Γ, S) satisfies pc (G) < pu (G) (see Corollary 4.5). As usual, denote the graph G = (V, E). Recall that the pmp actions Γ y [0, 1]Γ and Γ y [0, 1]E are conjugate. By Propositions 5.1 and 5.2, we know that RFMSF is not hyperfinite. Apply now Theorem 7.1 to RFMSF that we regard as a subequivalence relation of R(Γ y [0, 1]Γ ). Then there exists a non-null measurable subset X ⊂ [0, 1]Γ such that RFMSF |X is ergodic treeable and non-hyperfinite. In order to extend RFMSF |X to [0, 1]Γ , choose an enumeration {gi : i ∈ N} of Γ. For every x ∈ [0, 1]Γ \ X, let nx be the least integer j ∈ N such that gj x ∈ X. Let R be the smallest equivalence relation containing RFMSF |X and (x, gnx x), for x ∈ [0, 1]Γ \ X. We get that R is ergodic treeable and non-hyperfinite. Step 2. There exists a subequivalence relation S ⊂ R(Γ y [0, 1]Γ ) which is induced by a free ergodic pmp action F2 y [0, 1]Γ . By [18, Théorème IV.1], we have that R has cost greater than 1. Next, we need the following result due to Hjorth [27] (see also the proof of [35, Theorem 28.3]). Lemma 5.4. — Any ergodic treeable pmp equivalence relation R such that cost(R) ≥ 2 contains a subequivalence relation induced by a free pmp action of F2 = ha, bi such that the generator a acts ergodically. Using the induction formula [18, Proposition II.6], let U ⊂ [0, 1]Γ be a Borel measurable subset such that cost(R|U ) ≥ 2. By Lemma 5.4, R|U contains a subequivalence relation T = R(F2 y U ) induced by a free pmp action of F2 = ha, bi such that the generator a acts ergodically. By considering a subgroup of F2 of the form hbk abk : 1 ≤ k ≤ ni, for some large n ∈ N, one gets an ergodic treeable subequivalence relation of R|U with large cost so that when extended to the whole space (by using partial Borel isomorphisms of R), it gets cost ≥ 2 by [18, Proposition II.6]. Another application of Lemma 5.4 finishes the proof of Step 2.

ASTÉRISQUE 348

(1039)

INVARIANT PERCOLATION AND MEASURED THEORY

357

6. FINITE VON NEUMANN ALGEBRAS We review a few concepts involving finite von Neumann algebras. Further information on this topic may be found in the book [6] by Brown and Ozawa. A von Neumann algebra M is a unital ∗-subalgebra of B(`2 ) which is closed for the strong operator topology. We only deal with tracial or finite von Neumann algebras, that is, M is always assumed to carry a faithful normal state τ : M → C which moreover satisfies the trace identity: τ (xy) = τ (yx), for all x, y ∈ M . We denote by kxk2 = τ (x∗ x)1/2 the corresponding Hilbert norm and L2 (M ) the L2 -completion of M with respect to k·k2 . The uniform norm is denoted by k·k∞ . We regard x ∈ M both as an element of L2 (M ) and as a bounded (left multiplication) operator on L2 (M ). We will often use the following inequality: kxξyk2 ≤ kxk∞ kyk∞ kξk2 , ∀x, y ∈ M, ∀ξ ∈ L2 (M ). The group of unitaries of M is denoted by U(M ), the center M 0 ∩ M is Z(M ) and the unit ball with respect to the uniform norm is (M )1 . An infinite dimensional finite von Neumann algebra with trivial center is called a II1 factor. The main class of examples of finite von Neumann algebras arises from the group measure space construction of Murray and von Neumann [47]. Let Γ y (X, µ) be a free pmp action of a countable infinite group Γ on a nonatomic standard probability space. We regard F ∈ L∞ (X) as a bounded operator on `2 (Γ) ⊗ L2 (X) by identifying F with 1 ⊗ F ∈ B(`2 (Γ) ⊗ L2 (X)). The action Γ y X induces a unitary representation σ : Γ → U(L2 (X)) defined by σg (ξ)(x) = ξ(g −1 x), for all ξ ∈ L2 (X). Let λ : Γ → U(`2 (Γ)) be the left regular representation. The unitaries ug = λg ⊗ σg satisfy the following covariance relation: ug ξu∗g = σg (ξ), for all ξ ∈ L2 (X), g ∈ Γ. By Fell’s absorption principle, the unitary representation (ug )g∈Γ is unitarily equivalent to a multiple of (λg )g∈Γ . The crossed product von Neumann algebra L∞ (X) o Γ is defined by ( )00 X ∞ ∞ L (X) o Γ := ξg ug : ξg ∈ L (X) ⊂ B(`2 (Γ) ⊗ L2 (X)). finite

The von Neumann algebra M := L∞ (X) o Γ contains a copy of L∞ (X) as well as a copy of the group von Neumann algebra L(Γ). Moreover M is endowed with a trace τ given by τ (a) = ha(δe ⊗ 1X ), δe ⊗ 1X i. The subalgebra A := L∞ (X) ⊂ M is called a Cartan subalgebra.(5) The von Neumann algebra M is a II1 factor if and only if the action Γ y X is ergodic. More generally, one can define the von Neumann algebra L(R) of a pmp equivalence relation R on (X, µ) (see [17]). Note that L∞ (X) ⊂ L(R) (5)

A Cartan subalgebra A ⊂ M is a maximal abelian ∗-subalgebra whose normalizer NM (A) = {u ∈ U (M ) : uAu∗ = A} generates M as a von Neumann algebra.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

358

C. HOUDAYER

is still a Cartan subalgebra. When R is a type II1 equivalence relation, R is ergodic if and only if L(R) is a II1 factor. For a free pmp action Γ y (X, µ), the von Neumann algebras L∞ (X) o Γ and L(R(Γ y X)) are ∗-isomorphic. Given finite von Neumann algebras M and N , an M -N -bimodule M HN is a Hilbert space endowed with two commuting normal ∗-representations πM : M → B(H) and πN op : N op → B(H). We simply denote xξy = πM (x)πN op (y)ξ, for all x ∈ M , y ∈ N , ξ ∈ H. The bimodule M L2 (M )M is the trivial bimodule and M ⊗1 L2 (M ⊗M )1⊗M is the coarse bimodule. Given two M -N -bimodules H and K, we say that H is weakly contained in K and write H ⊂weak K, if for all ξ, η ∈ H and all finite subsets F ⊂ M , G ⊂ N , there exist two sequences ξn , ηn in finite direct sums of K such that hxξy, ηi = limhxξn y, ηn i, ∀x ∈ F, ∀y ∈ G. n

Given an inclusion B ⊂ M of finite von Neumann algebras, denote by EB : M → B the unique trace-preserving normal conditional expectation. If we moreover denote by eB : L2 (M ) → L2 (B) the orthogonal projection, we have eB xeB = EB (x)eB , for all x ∈ M . The basic construction hM, eB i is the von Neumann subalgebra of B(L2 (M )) generated by M and eB . It is endowed with a faithful normal semifinite trace Tr given by Tr(xeB y) = τ (xy), for all x, y ∈ M . The M -M -bimodule L2 (hM, eB i) is mixing relative to B in the following sense: whenever un ∈ U(M ) is a sequence of unitaries such that limn kEB (x∗ un y)k2 = 0, for all x, y ∈ M , then for every ξ, η ∈ L2 (hM, eB i), we have lim sup |hun ξy, ηi| = lim sup |hxξun , ηi| = 0. n x∈(M ) 1

n y∈(M ) 1

Recall that M is hyperfinite if there exists an increasing sequence of unital finite S dimensional ∗-subalgebras Qn ⊂ M such that M is the weak closure of n Qn . When R is a pmp equivalence relation, R is hyperfinite if and only if L(R) is hyperfinite [11]. In their seminal work [46], Murray and von Neumann showed the uniqueness of the hyperfinite II1 factor. We say that M is amenable if 2 M L (M )M

⊂weak

2 M ⊗1 L (M ⊗M )1⊗M .

Any hyperfinite von Neumann algebra is amenable. By Connes’ groundbreaking work [9], any amenable von Neumann algebra is hyperfinite. Therefore, there is a unique amenable II1 factor. Recall at last Popa’s intertwining-by-bimodules technique. Popa discovered [57, 55] a very powerful technique to unitarily conjugate subalgebras in an ambient von Neumann algebra. Let A, B ⊂ M be subalgebras of a finite von Neumann algebra. The following are equivalent (see [57, Theorem 2.1], [55, Theorem A.1] and also [66, Theorem C.3]).

ASTÉRISQUE 348

(1039)

INVARIANT PERCOLATION AND MEASURED THEORY

359

– There exist projections p ∈ A, q ∈ B, a nonzero partial isometry v ∈ pM q and a ∗-homomorphism ϕ : pAp → qBq such that xv = vϕ(x), for all x ∈ pAp. – There is no sequence of unitaries un ∈ U(A) such that lim kEB (xun y)k2 = 0, ∀x, y ∈ M. n

If one of the two conditions holds, we say that A embeds into B inside M and write A M B. By definition, A is diffuse if A A C, that is, if A has no nonzero minimal projection.

7. SUBEQUIVALENCE RELATIONS OF BERNOULLI ACTIONS As we have seen before, given a Cayley graph G = Cay(Γ, S), a Γ-equivariant map π : [0, 1]E → {0, 1}E gives rise to a percolation π∗ P on G and hence to a subequivalence E relation Rcl π of the equivalence relation R(Γ y [0, 1] ) induced by the Bernoulli action. The aim of this section is to present a global dichotomy result for subequivalence relations of R(Γ y [0, 1]E ), obtained by Chifan and Ioana [8, Theorem 1]. Theorem 7.1 (Dichotomy for subequivalence relations). — Let Γ be any infinite countable discrete group. Let R ⊂ R(Γ y [0, 1]Γ ) be any subequivalence relation of the pmp equivalence relation induced by the Bernoulli action. Then there exists a measurable partition {Xn : n ∈ N} of [0, 1]Γ into R-invariant subsets such that – R|X0 is hyperfinite. – R|Xn is strongly ergodic, for all n ≥ 1. We give a self-contained proof of this result. We first start by recalling the construction of the support length deformation for Bernoulli actions due to Ioana [29]. We will be using the following notation throughout this section. – Let (A0 , τ ) be an abelian von Neumann algebra, A = AΓ0 the infinite tensor product indexed by Γ and Γ y A the corresponding Bernoulli shift. Set M = A o Γ. – Likewise, let B0 = A0 ∗ L(Z) be the free product with respect to the natural traces, B = B0Γ and σ : Γ y B the corresponding Bernoulli shift. Set f = B o Γ. M f and denote by EM : M f → M the unique trace-preserving Observe that M ⊂ M normal conditional expectation. Following [29], denote by v ∈ L(Z) the canonical generating Haar unitary and take the selfadjoint element h ∈ L(Z) with spectrum [−π, π] such that v = exp(ih). Denote by θt0 ∈ Aut(B0 ) the inner automorphism given by θt0 = Ad(exp(ith)) and let θt = ⊗g∈Γ θt0 ∈ Aut(B). Since (θt ) commutes with the f by letting θt (ug ) = ug . We get that (θt )t∈R Bernoulli action, we can extend (θt ) to M f such that limt→0 kx − θt (x)k2 = 0, is a one-parameter group of automorphisms of M

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

360

C. HOUDAYER

for all x ∈ M . Denote by β0 ∈ Aut(B0 ) the automorphism given by β0 (a) = a, for all f by acting trivially on a ∈ A0 and β0 (v) = v ∗ . Define β = ⊗g∈Γ β0 and extend β to M 2 L(Γ). By construction, β|M = IdM , β = IdM ‹ and β ◦ θt = θ−t ◦ β, for all t ∈ R. For 0 < ρ < 1, define the support length deformation mρ : M → M by mρ (aug ) = ρn aug , ∀g ∈ Γ, ∀a ∈ (A0 C1)J , J ⊂ Γ, |J| = n. Let ρt = | sin(πt)|2 /|πt|2 . One checks that (EM ◦ θt )(x) = mρt (x), for all x ∈ M . In particular, (mρ ) is a family of trace-preserving unital completely positive maps f is a dilation. In this respect, the support length deformation for which θt : M → M (mρ ) is a variant of the malleable deformation discovered by Popa in [57]. Popa used his malleable deformation together with his intertwining techniques to prove various striking rigidity results for Bernoulli actions (see for instance [60, 57] and Vaes’ Bourbaki seminar [66] on this topic.) Spectral gap rigidity was discovered by Popa [60, 59]. It was a completely new type of rigidity where the usual (relative) property (T) assumption in many (orbit and W∗ )-rigidity results could be dropped. Using this technique, Popa [60] proved, among other results, that for any nonamenable product of infinite groups Γ = Γ1 ×Γ2 , the plain Bernoulli action Γ y [0, 1]Γ is Ufin -cocycle superrigid.(6) The following variant of spectral gap property is due to Chifan and Ioana (see [8, Lemma 5]). Proposition 7.2 (Spectral gap). — As M -M -bimodules, we have (2)

2 f M (L (M )

L2 (M ))M ⊂weak

M ⊗1 L

2

(M ⊗M )1⊗M .

Proof. — We start by proving the following. Claim. — There is a countable set {(Γi , ∆i ) : i ∈ I}, where Γi < Γ is a finite subgroup and ∆i ⊂ Γ is a non-empty set which is invariant under left multiplication Γ\∆ by Γi such that with Ai = A0 i o Γi , we have an isomorphism of M -M -bimodules M f) L2 (M ) ∼ L2 (hM, eAi i) . (3) L2 (M = i∈I

To prove the claim, let A0 ⊂ A0 C be an orthonormal basis of L2 (A0 ) C and denote by v the Haar unitary generating L(Z). Recall that B0 = A0 ∗ L(Z). Define the subset B0 := {v n1 a1 · · · v nk ak v nk+1 : k ≥ 0, n1 , . . . , nk+1 ∈ Z − {0}, ai ∈ A0 }. By construction, we have a decomposition M L2 (B0 ) L2 (A0 ) = A0 bA0 b∈B0

(6)

Ufin is the class of groups which embed into the unitary group of a k · k2 -separable II1 factor.

ASTÉRISQUE 348

(1039)

INVARIANT PERCOLATION AND MEASURED THEORY

361

into pairwise orthogonal A0 -A0 -subbimodules. Define the countable set     O I = bF = bg : ∅ 6= F ⊂ Γ finite subset, bg ∈ B0 for all g ∈ F .   g∈F

We have a decomposition f) L2 (M ) = L2 (M

(4)

M

M bM

b∈I

into pairwise orthogonal M -M -subbimodules. For b ∈ I, define the finite subgroup Γ\F Γb = {g ∈ Γ : gF = F and σg (b) = b}. Let Ab = A0 o Γb . One checks that the map xeAb y 7→ xby defines an M -M -bimodule isomorphism L2 (hM, eAb i) → M bM .

(5)

The claim follows now from (4) and (5). Finally, since Ai is amenable, the isomorphism (3) together with [2, Lemma 1.7] yield (3) If P ⊂ M has no amenable direct summand, then for every ε > 0, there exist δ > 0 f)1 , and V ⊂ U(P ) finite subset such that for every x ∈ (M (6)

(kux − xuk2 ≤ δ, ∀u ∈ V) =⇒ kx − EM (x)k2 ≤ ε.

Indeed, assume that (6) does not hold. Then one can find a uniformly bounded f) L2 (M ), kxn k2 = 1 and limn kyxn − xn yk2 = 0, sequence xn ∈ M , such that xn ∈ L2 (M for all y ∈ P . Up to passing to a subsequence we may assume that bn = xn x∗n converges weakly to b ∈ P 0 ∩ M . Observe that τ (b) = 1. Let c ∈ Z(P )+ so that p = EP (b)1/2 c ∈ Z(P ) is a nonzero projection. From (2), we get that, as P p-P p-bimodules, (7)

2 f P p (L (M )

L2 (M ))P p ⊂weak

2 P p⊗1 L (P p⊗P p)1⊗P p .

Define ξn := cxn . For all y ∈ P , we have limn kyξn − ξn yk2 = 0 and limhyξn , ξn i = lim τ (ycxn x∗n c) = lim τ (ycbc) = τ (yp), n

n

n

whence (8)

2 P p L (P p)P p

⊂weak

2 f P p (L (M )

L2 (M ))P p .

Together with (7) and (8), we finally obtain that P p is amenable. The next result due to Chifan and Ioana (see [8, Theorem 2]) is the key to proving the global dichotomy result for subequivalence relations. Theorem 7.3. — Let Q ⊂ A be a diffuse von Neumann subalgebra. Then Q0 ∩ M is amenable.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

362

C. HOUDAYER

We point out that this result was earlier obtained by Ozawa [53, Theorem 4.7] for all exact groups Γ using C∗ -algebraic techniques. Chifan and Ioana’s proof that we present here relies on a theory developed by Popa over the last decade known today as deformation vs. rigidity. We refer to [58, 67] for further information on this topic. Proof of Theorem 7.3. — The proof is reminiscent of the one of [57, Theorem 4.1] (see also [66, Lemma 6.1]). We prove the result by contradiction following the lines of the proof of [32, Theorem 4.2]. We may assume that Q ⊂ A is diffuse and Q0 ∩ M has no amenable direct summand. We will be using the following terminology. Given f, an element x ∈ M f is said to be Q1 -Q2 -finite inside M f if subalgebras Q1 , Q2 ⊂ M f there exist elements x1 , . . . , xm , y1 , . . . , yn ∈ M such that xQ2 ⊂

(9)

m X i=1

Q1 xi and Q1 x ⊂

n X

yj Q2 .

j=1

f which is Step 1. — There exist t = 1/2n and a nonzero element v ∈ M Q-θt (Q)-finite. Let ε = 1/2. Proposition 7.2 yields δ > 0 and a finite subset V ⊂ U(Q0 ∩ M ) for which (6) holds. Let s small enough so that kb − θs (b)k2 ≤ δ/2, for all b ∈ V. For all u ∈ U(Q), kbθs (u) − θs (u)bk2

= k(b − θs (b))θs (u) − θs (u)(b − θs (b))k2 ≤ 2kθs (u)k∞ kb − θs (b)k2 ≤ δ.

Using Proposition 7.2, we get kθs (u) − EM (θs (u))k2 ≤ 1/2, for all u ∈ U(Q). Let ρ = ρ2s , so that mρ = m2ρs . For all u ∈ U(Q), we have 1 − τ (u∗ mρ (u)) = 1 − kmρs (u)k22 = kθs (u) − EM (θs (u))k22 ≤ 1/4. Then τ (u∗ θs (u)) = τ (u∗ mρ (u)) ≥ 3/4, for all u ∈ U(Q). Since t 7→ τ (u∗ θt (u)) is decreasing, we can take t = 1/2n such that τ (u∗ θt (u)) ≥ 3/4, for all u ∈ U(Q). Let v be the unique element of minimal k · k2 -norm in the weak closure of the convex hull of {u∗ θt (u) : u ∈ U(Q)}. We get τ (v) ≥ 3/4 and uv = vθt (u), for all u ∈ U(Q) (by f is a nonzero Q-θt (Q)-finite element. uniqueness). In particular, v ∈ M f which is Q-θ1 (Q)-finite. Step 2. — There exists a nonzero element a ∈ M To prove Step 2, it suffices to show the following statement: if there exists a nonzero element v which is Q-θt (Q)-finite, then there exists a nonzero element w which is Q-θ2t (Q)-finite. Indeed, since t = 1/2n , we can then go until t = 1. Denote by QNM (Q) the set of all Q-Q-finite elements inside M (QNM (Q) is also called the quasi-normalizer of Q inside M [55]). Let P := QNM (Q)00 ⊂ M . Observe that for all

ASTÉRISQUE 348

(1039)

INVARIANT PERCOLATION AND MEASURED THEORY

363

d ∈ QNM (Q), the element θt (β(v ∗ )dv) is Q-θ2t (Q)-finite. Indeed, let d ∈ QNM (Q) which satisfies (9) for Q1 = Q2 = Q. Then we get X X θt (β(v ∗ )dv)θ2t (Q) = θt (β(v ∗ )dQv) ⊂ θt (β(v ∗ )Qxi v) = Qθt (β(v ∗ )xi v) i ∗

Qθt (β(v )dv)

∗

= θt (β(v )Qdv) ⊂

X

i ∗

θt (β(v )yj Qv) =

X

j

θt (β(v ∗ )yj v)θ2t (Q).

j

Hence we have to prove that there exists d ∈ QNM (Q) such that β(v ∗ )dv 6= 0. By f the projection contradiction, assume that this is not the case. Denote by q ∈ M onto the closed linear span of {range(dv) : d ∈ QNM (Q)}. We have β(v ∗ )q = 0 and f. q ∈ P0 ∩ M We use now again the M -M -bimodule isomorphism (3). Since Q0 ∩M ⊂ P , it follows that P has no amenable direct summand and thus P M Ai , for all i ∈ I. Therefore there exists a sequence of unitaries un ∈ U(P ) such that limn kEAi (x∗ un y)k2 = 0, for f. Set η := x − EM (x). Observe that η ∈ P 0 ∩ M f all x, y ∈ M , i ∈ I. Let x ∈ P 0 ∩ M 2 2 and η ⊥ L (M ). Write η = ⊕i∈I ηi , with ηi ∈ L (hM, eAi i). Since the M -M -bimodule L2 (hM, eAi i) is mixing relative to Ai , we have limn hun ηi u∗n , ηi i = 0, for all i ∈ I f, we have kηk2 = limn hun ηu∗n , ηi = 0. and so limn hun ηu∗n , ηi = 0. Since η ∈ P 0 ∩ M 2 f = P 0 ∩M . In particular, we get q ∈ M , so that β(v ∗ q) = β(v ∗ )q = 0. Therefore P 0 ∩ M Hence v = 0, which is a contradiction. f) which is Observe that M aθ1 (Q) is a nonzero M -θ1 (Q)-subbimodule of L2 (M finitely generated as left M -module, whence we get θ1 (Q) M ‹ M . We use the following notation: for every nonempty finite subset F ⊂ Γ, let Stab(F) = {g ∈ Γ : gF = F} and M (F) := AF 0 o Stab(F). By convention, set M (∅) := L(Γ). Step 3. — There exists a finite subset F ⊂ Γ such that Q M M (F). We prove Step 3 by contradiction and assume that for all finite subset F ⊂ Γ, we have Q M M (F). Let vn ∈ U(Q) be a sequence of unitaries such that limn kEM (F ) (x∗ vn y)k2 = 0, for all x, y ∈ M , F ⊂ Γ. We upgrade this by showing the following: (10)

f. lim kEM (x∗ θ1 (vn )y)k2 = 0, ∀x, y ∈ M n

This clearly contradicts Step 2. Let F, G ⊂ Γ be finite (possibly empty) subN N N N sets. Define x = g∈F xg ⊗ g∈Γ\F 1 and y = h∈G yh ⊗ h∈Γ\G 1, where xg , yh ∈ B0 θ1 (A0 )A0 . Observe that it suffices to prove (10) for such x and y since f. the linear span of all θ1 (A)yM for y of the above form is a k · k2 -dense subspace of M P Write vn = g∈Γ (vn )g ug for the Fourier expansion of vn in M , where (vn )g ∈ A. P ∗ g We have EM (x∗ θ1 (vn )y) = g∈Γ EA (x θ1 ((vn ) )σg (y)) ug . If gG 6= F, then

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

364

C. HOUDAYER

EA (x∗ θ1 ((vn )g )σg (y)) = 0. If gG = F, then Ä Ä ä ä EA (x∗ θ1 ((vn )g )σg (y)) = EA x∗ θ1 EAF0 ((vn )g ) σg (y) . Take now finitely many g1 , . . . , gk ∈ Γ such that gi G = F and such that {g ∈ Γ : gG = F} is the disjoint union of (Stab F)g1 , . . . , (Stab F)gk . Set P wn = ki=1 EM (F ) (vn u∗gi )ugi . We have proven EM (x∗ θ1 (vn )y) = EM (x∗ θ1 (wn )y). Since by assumption limn kwn k2 = 0, we get (10). Step 4. — We derive a contradiction. From Step 3, there exists a finite subset F ⊂ Γ such that Q M M (F). If F = ∅, then Q M L(Γ). Since M = A o Γ, this clearly contradicts the fact that Q ⊂ A is diffuse. Hence F = 6 ∅ and since Stab(F) is finite, we get F Q M A0 . There exist projections q ∈ Q, r ∈ AF 0 , a nonzero partial isometry v ∈ qM r and a ∗-homomorphism ϕ : qQq → rAF r such that xv = vϕ(x), for 0 all x ∈ qQq. Hence ϕ(qQq) ⊂ rAF r is a diffuse subalgebra. A straightforward 0 P 0 computation shows that ϕ(qQq) ∩ rM r ⊂ r( g∈G Aug )r, where G = FF −1 . P Since v ∗ (Q0 ∩ M )v ⊂ ϕ(qQq)0 ∩ rM r, we get v ∗ (Q0 ∩ M )v ⊂ r( g∈G Aug )r. Thus Q0 ∩ M M A, which contradicts the fact that Q0 ∩ M has no amenable direct summand. The proof is complete. Proof of Theorem 7.1. — Let R ⊂ R(Γ y [0, 1]Γ ) be any pmp subequivalence relation. Write N = L(R) for the von Neumann algebra of R. Denote by z0 ∈ Z(N ) the maximal central projection for which N z0 is amenable. We claim that Z(N )(1 − z0 ) is purely atomic. Assume that this is not the case. Let q ∈ Z(N )(1 − z0 ) be a nonzero projection such that Z(N )q is diffuse. Set Q := A(1 − q) ⊕ Z(N )q ⊂ A, which is a diffuse von Neumann subalgebra of A. Theorem 7.3 implies that Q0 ∩ M is amenable and thus N q is amenable, which contradicts the maximality of z0 . L Γ Write Z(N )(1 − z0 ) = the measurable n≥1 Czn . Denote by Xn ⊂ [0, 1] R-invariant subset corresponding to the central projection zn , that is, 1Xn = zn and L(R|Xn ) = N zn . We get that R|X0 is hyperfinite and R|Xn is ergodic and non-hyperfinite, for all n ≥ 1. In particular, it follows that any subequivalence T ⊂ R(Γ y [0, 1]Γ ) which has a diffuse ergodic decomposition must be hyperfinite. Furthermore, we deduce that R|Xn cannot be written as an increasing union of subequivalence relations with a diffuse ergodic decomposition (otherwise R|Xn would be hyperfinite). Using Proposition 2.1, we finally obtain that R|Xn is strongly ergodic, for all n ≥ 1.

ASTÉRISQUE 348

(1039)

INVARIANT PERCOLATION AND MEASURED THEORY

365

8. CO-INDUCED ACTIONS Ioana [30] used the co-induction technique [19] together with a separability argument (see Theorem 9.1) to prove that any nonamenable group Γ that contains F2 has uncountably many non-orbit equivalent actions. First recall the co-induction construction for a subgroup Λ < Γ. Let α : Λ y (Y, ν) be any free pmp action on the nonatomic standard probability space. Fix a section s : Γ/Λ → Γ such that s(Λ) = 1Γ . Define the 1-cocycle ω : Γ×Γ/Λ → Λ by ω(g, t) = s(gt)−1 gs(t). The co-induced action σ = coIndΓΛ (α) : Γ y (Y Γ/Λ , ν Γ/Λ ) is then defined by (σg (y))t = α(ω(g, g −1 t))(yg−1 t ), for all g ∈ Γ, t ∈ Γ/Λ. In order to prove that any nonamenable group has uncountably many non-orbit equivalent actions, we review now Epstein’s construction [15] of the co-induced action for a measurable subgroup Λ 0, there exist δ > 0 and a finite subset F ⊂ Γ such that if π : Γ → U(H) is a unitary representation and ξ ∈ H is a unit vector which satisfies kπ(g)(ξ) − ξk < δ, for all g ∈ F , then there exists a π(Λ)-invariant vector η ∈ H such that kη − ξk < ε. The pair (Z2 o SL2 (Z), Z2 ) has the relative property (T) [33, 43]. More generally, for any nonamenable subgroup Γ < SL2 (Z), the pair (Z2 o Γ, Z2 ) has the relative property (T) [7]. Consider the action SL2 (Z) y (T2 , λ2 ) defined by ! −1 t z1 g · (z1 , z2 ) = (g ) , ∀g ∈ SL2 (Z). z2 One checks that it is a free weakly mixing pmp action. Realize F2 < SL2 (Z) as a finite index subgroup, so that the pair (Z2 o F2 , Z2 ) has the relative property (T). Write α : F2 y (T2 , λ2 ) for the restriction. The following result is due to Ioana [30, Theorem 1.3]. It relies on a separability vs. (relative) property (T) argument, an idea that goes back to Connes [10] and successfully used later on by Popa [55] and Gaboriau and Popa in [23].

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

368

C. HOUDAYER

Theorem 9.1. — Let Γ be any nonamenable group. Let F(Γ) be the class of free ergodic pmp actions σ : Γ y (X, µ) such that there exists a free pmp action ρ : F2 y (X, µ) for which the following hold: 1. R(ρ, F2 ) ⊂ R(σ, Γ). 2. The action α : F2 y T2 is a quotient of the action ρ : F2 y X with quotient map pρ : X → T2 . 3. For all g ∈ Γ \ {1Γ }, the Borel set {x ∈ X : pρ (σ(g)(x)) = pρ (x)} is null. Let {σi : i ∈ I} ⊂ F(Γ) be an uncountable set of mutually orbit equivalent actions. Then there exist an uncountable set J ⊂ I and ρj -invariant measurable subsets Xj ⊂ X of positive measure such that the actions {ρj |Xj : j ∈ J } are mutually conjugate. Proof. — By assumption, denote by R the unique pmp equivalence relation on (X, µ) (up to orbit equivalence) such that R = R(σi , Γ), for all i ∈ I. Note that for all i ∈ I, R(ρi , F2 ) ⊂ R. Following [16], define a Borel measure ν on R by Z ν(W) = |{y : (x, y) ∈ W}|dµ(x), X

for every Borel subset W ⊂ R. For all i ∈ I, denote by pi : X → T2 the quotient map which witnesses that α : F2 y T2 is a quotient of ρi : F2 y X. Regarding a ∈ Z2 as a character of T2 , define fa,i = a ◦ pi ∈ L∞ (X). One checks that for all (a, g) ∈ Z2 o F2 and i ∈ I, fg(a),i = fa,i ◦ ρi (g −1 ). Then for all i, j ∈ I, the map πi,j : Z2 o F2 → U(L2 (R, ν)) defined by πi,j (a, g)(ξ)(x, y) = fa,i (x)fa,j (y)ξ(ρi (g −1 )(x), ρj (g −1 )(y)), for all (a, g) ∈ Z2 o F2 , ξ ∈ L2 (R, ν), (x, y) ∈ R, is a unitary representation. Denote by ∆ = {(x, x) : x ∈ X} ⊂ R the diagonal. Note that 1∆ ∈ L2 (R, ν) and k1∆ k2 = 1. One checks that for all (a, g) ∈ Z2 o F2 , i, j ∈ I, kπi,j (a, g)(1∆ ) − 1∆ k22 ≤ 2k1graph(ρi (g−1 )) − 1graph(ρj (g−1 )) k2 + 2kfa,i 1∆ − fa,j 1∆ k2 . Since the pair (Z2 o F2 , Z2 ) has the relative property (T), with ε = 1/2, there exist δ > 0, finite subsets A ⊂ Z2 , F ⊂ F2 such that if π : Z2 o F2 → U(H) is a unitary representation and ξ ∈ H is a unit vector which satisfies kπ(a, g)(ξ) − ξk < δ, for all a ∈ A and g ∈ F , then there exists a π(Z2 )-invariant vector η ∈ H such that kη − ξk < ε. Since I is uncountable and L2 (R, ν) is k · k2 -separable, there exists an uncountable subset J ⊂ I, such that for all i, j ∈ J , kfa,i 1∆ − fa,j 1∆ k2


0, the above claim yields µ(Xi ) > 0. If (x, y) ∈ W, then fa,i (x) = fa,j (y), for all a ∈ Z2 and hence fg(a),i (x) = fg(a),j (y), for all a ∈ Z2 , g ∈ F2 . Since fg(a),i = fa,i ◦ ρi (g −1 ), we get (12)

(ρi (g)(x), ρj (g)(y)) ∈ W, ∀g ∈ F2 , ∀(x, y) ∈ W.

In particular, Xi is a ρi (F2 )-invariant measurable subset. Likewise, define Xj = {y ∈ X : ∃x ∈ Xi , (x, y) ∈ W}. Then Xj is a ρj (F2 )-invariant measurable subset. Define φ : Xi → Xj by y = φ(x) if and only if (x, y) ∈ W. One checks that φ is a pmp Borel isomorphism. Finally, (12) shows that φ is a conjugacy between ρi |Xi and ρj |Xj , that is, φ(ρi (g)(x)) = ρj (g)(φ(x)), for all x ∈ Xi , g ∈ F2 . 9.2. A continuum of actions Let Γ be any nonamenable group. Choose a : F2 y (X, µ) and b : Γ y (X, µ) according to Theorem 8.3. Let π : F2 → U(Hπ ) be a unitary representation. Denote by γπ : F2 y (Zπ , ηπ ) the corresponding pmp Gaussian action (see [34, Appendix E] for more details). – If π1 and π2 are unitarily equivalent, then γπ1 and γπ2 are conjugate. – If we denote by κ(γπ ) : F2 → U(L2 (Zπ , ηπ ) C1) the associated Koopman representation, we have π ⊂ κ(γπ ). Let απ = α × γπ : F2 y (T2 × Zπ , λ2 × ηπ ) be the diagonal action. Observe that απ is a free pmp action and α is a quotient of απ via the quotient map (y, z) 7→ y. 2 Define the actions σπ := coInd(a, b)ΓF2 (απ ) and ρπ := coInd(a, b)F F2 (απ ). Recall from Section 8 that σπ is mixing (see Theorem 8.2) and the following hold true: 1. R(ρπ , F2 ) ⊂ R(σπ , Γ). 2. α is a quotient of ρπ with quotient map pπ : X × (T2 × Zπ )N 3 (x, (yn , zn )n∈N ) 7→ y0 ∈ T2 .

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

370

C. HOUDAYER

3. For all g ∈ Γ \ {1Γ }, the Borel set {(x, (yn , zn )n∈N ) : pπ (g σπ · (x, (yn , zn )n∈N )) = pπ ((x, (yn , zn )n∈N ))} is µ × (λ2 × ηπ )N -null (by Condition (∗) from Section 8). The last result of this text is [31, Theorem 5]. We point out that it was first obtained by Ioana [30, Section 3] when F2 < Γ and then extended by Epstein [15] when F2 0}, (S, φ) 7→ [φ(H 2,0 (S))] is generically injective on each of the two components. Remark 1.1. — Injectivity really only holds generically, i.e. for (S, φ) in the complement of a countable union of hypersurfaces (cf. Remark 3.2). This is related to the aforementioned stronger form of the Global Torelli theorem being valid only for generic K3 surfaces.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

378

D. HUYBRECHTS

Let us now consider the natural action O(Λ) × M → M, (ϕ, (S, φ)) 7→ (S, ϕ ◦ φ). For any (S, φ) ∈ Mo in a connected component Mo of M the subgroup of O(Λ) that fixes Mo is φ ◦ Mon(X) ◦ φ−1 , where the monodromy group Mon(S) ⊂ O(H 2 (S, Z)) is by definition generated by all monodromies π1 (B, t) → O(H 2 (S, Z)) induced by arbitrary smooth proper families X → B with X t = S. The transformation −id ∈ O(Λ) induces the involution (S, φ) 7→ (S, −φ) that interchanges the two connected components and, as it turns out, there is essentially no other ϕ ∈ O(Λ) with this property. This becomes part of the following reformulation of the Global Torelli theorem for K3 surfaces: • Each connected component Mo ⊂ M maps generically injectively into DΛ and for any K3 surface S one has O(H 2 (S, Z))/Mon(S) = {±1}. In order to show that this version implies the one above, one also needs the rather easy fact that any two K3 surfaces S and S 0 are deformation equivalent, i.e. that there exist a smooth proper family X → B over a connected base and points t, t0 ∈ B such that S ∼ = X t and S 0 ∼ = X t0 . In particular, all K3 surfaces are realized by complex structures on the same differentiable manifold. 1.2.2. — Let us try to generalize the above discussion to higher dimensions. Restricting to compact hyperkähler manifolds X of a fixed deformation class, the isomorphism type, say Λ, of the lattice realized by the Beauville–Bogomolov form on H 2 (X, Z) is unique, cf. Section 2. So the moduli space MΛ of Λ-marked compact hyperkähler manifolds of fixed deformation type (the latter condition is not reflected by the notation) can be introduced, cf. Section 4.2 for details. For the purpose of motivation let us consider the following two statements. Both are false (!) in general, but the important point here is that they are equivalent and that the first half of the second one turns out to be true. • (Global Torelli, standard form) Any Hodge isometry H 2 (X, Z) ∼ = H 2 (X 0 , Z) between generic X and X 0 can be lifted up to sign to an isomorphism X ∼ = X 0. • (Global Torelli, moduli version) i) On each connected component MoΛ ⊂ MΛ the period map P : MoΛ → DΛ is generically injective. ii) For any hyperkähler manifold X parametrized by MΛ one has O(H 2 (X, Z))/Mon(X) = {±1}. Remark 1.2. — In both statements, generic is meant in the sense of Remark 1.1. The standard form would then indeed imply that arbitrary Hodge isometric X and X 0 are bimeromorphic. For details on the passage from generic to arbitrary hyperkähler manifolds and thus to the bimeromorphic version of the Global Torelli theorem, see Section 6.1.

ASTÉRISQUE 348

(1040)

GLOBAL TORELLI FOR HYPERKÄHLER MANIFOLDS

379

Only rewriting the desired Global Torelli theorem in its moduli version allows one to pin down the reason for its failure in higher dimensions: As shall be explained below, condition i) is always fulfilled and this is the main result of [24]. It is condition ii) which need not hold. Indeed, a priori the image of the natural action Diff(X) → O(H 2 (X, Z)) can have index larger than two and hence Mon(X) will. 1.3. Main result The following is a weaker version of the main result of [24]. Teichmüller spaces are here replaced by the more commonly used moduli spaces of marked manifolds. Additional problems occur in the Teichmüller setting which have been addressed in a more recent version of [24] (see Remark 4.8). Theorem 1.3 (Verbitsky). — Let Λ be a lattice of signature (3, b − 3) and let MoΛ be a connected component of the moduli space MΛ of marked compact hyperkähler ∼ manifolds (X, φ : H 2 (X, Z) → Λ). Then the period map

P : MoΛ → DΛ ⊂ P(Λ ⊗ C), (X, φ) 7→ [φ(H 2,0 (X))] is generically injective. More precisely, all fibers over points in the complement of the countable union S of hyperplane sections DΛ ∩ 06=α∈Λ α⊥ consist of exactly one point. For the precise definition of the moduli space of marked hyperkähler manifolds MΛ , the period map P , and the period domain DΛ , we refer to the text. The following results are the starting point for the proof of the theorem: – The period map P is étale, i.e. locally an isomorphism of complex manifolds. This is the Local Torelli theorem, see [3] and Section 4.1. – The period domain DΛ is known to be simply connected. This is a standard fact, see Section 3.1. – The period map P is surjective on each connected component. The surjectivity of the period map has been proved in [17], see Section 5.2. These three facts suggest that MΛ may be a covering space of the simply connected period domain DΛ , which would immediately show that each connected component maps isomorphically onto DΛ . There are however two issues that have to be addressed: • The moduli space MΛ is a complex manifold, but it is not Hausdorff. • Is the period map P : MΛ → DΛ proper? Verbitsky deals with both questions. First one passes from MΛ to a Hausdorff space MΛ by identifying all inseparable points in MΛ . The new space MΛ still maps to DΛ

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

380

D. HUYBRECHTS

via the period map. This first step is technically involved, but it is the properness of P : MΛ → DΛ that is at the heart of Theorem 1.3. In this text we give a complete and rather detailed proof of Verbitsky’s theorem, following the general approach of [24]. Some of the arguments have been simplified and sometimes (e.g. in Section 3) we chose to apply more classical techniques. Our presentation of the material is very close to Beauville’s account of the theory of K3 surfaces in [4]. Unfortunately, due to time and space restrictions we will not be able to discuss the interesting consequences of Verbitsky’s theorem in any detail. Some of the beautiful applications will be touched upon in Section 6. Acknowledgments For comments and questions on an early version of the text, I wish to thank A. Beauville, O. Debarre, P. Deligne, R. Friedman, K. Hulek, K. O’Grady, and M. Rapoport. I am most grateful to E. Markman. The presentation of the material is inspired by our discussions on preliminary versions of [24]. He made me aware of various technical subtleties in [24] and suggested improvements to this note.(1)

2. RECOLLECTIONS We briefly recall the main definitions and facts. For an introduction with more details and references, see e.g. [13]. Definition 2.1. — A compact hyperkähler (or irreducible holomorphic symplectic) manifold is a simply connected compact complex manifold of Kähler type X such that H 0 (X, Ω2X ) is spanned by an everywhere non-degenerate two-form σ. As long as no hyperkähler metric is fixed, one should maybe, more accurately, speak of compact complex manifolds of hyperkähler type but we will instead mention explicitly when a hyperkähler metric is chosen. Recall that by Yau’s solution of the Calabi conjecture, any Kähler class α ∈ H 1,1 (X, R) can be uniquely represented by the Kähler form of a Ricci-flat Kähler metric g. In fact, under the above conditions on X, the holonomy of such a metric is Sp(n), where 2n = dimC (X). In particular, besides the complex structure I defining X, there exist complex structures J and K satisfying the usual relation K = I ◦ J = −J ◦ I and such that g is also Kähler with (1)

This text was prepared while enjoying the hospitality and financial support of the Mathematical Institute Oxford. The author is a member of the SFB/TR 45 ‘Periods, Moduli Spaces and Arithmetic of Algebraic Varieties’ of the DFG.

ASTÉRISQUE 348

(1040)

GLOBAL TORELLI FOR HYPERKÄHLER MANIFOLDS

381

respect to them. As will be recalled in Section 4.4, there is in fact a whole sphere of complex structures compatible with g. Example 2.2. — K3 surfaces are the two-dimensional hyperkähler manifolds. Recall that a compact complex surface S is a K3 surface, if the canonical bundle Ω2S is trivial and H 1 (S, OS ) = 0. It is not difficult to prove that K3 surfaces are in fact simply connected. That they are also of Kähler type, a result due to Siu, is much deeper, see [4] for the proof and references. The second cohomology H 2 (X, Z) of a generic compact Kähler manifold can be endowed with a quadratic form, the Hodge–Riemann pairing, which in dimension > 2 depends on the choice of a Kähler class and, therefore, is usually not integral. For a compact hyperkähler manifold X the situation is much better. There exists a primitive integral quadratic form qX on H 2 (X, Z), the Beauville–Bogomolov form, the main properties of which can be summarized as follows: • qX is non-degenerate of signature (3, b2 (X) − 3). R • There exists a positive constant c such that q(α)n = c X α2n for all classes α ∈ H 2 (X, Z), i.e. up to scaling qX is a root of the top intersection product on H 2 (X, Z). • The decomposition H 2 (X, C) = (H 2,0 ⊕ H 0,2 )(X) ⊕ H 1,1 (X) is orthogonal with respect to (the C-linear extension of ) qX . Moreover, qX (σ) = 0 and qX (σ, σ ¯ ) > 0. The second property ensures that qX is invariant under deformations, i.e. if X → B is a smooth family of compact hyperkähler manifolds over a connected base B, then q X t = q X s for all fibres X s , X t ⊂ X . Here, an isomorphism H 2 ( X s , Z) ∼ = H 2 ( X t , Z) is obtained by parallel transport along a path connecting s and t. In fact, at least for b2 (X) 6= 6 the primitive quadratic form qX only depends on the underlying differentiable manifold. The last property shows that the weight-two Hodge structure on H 2 (X, Z) endowed with qX is uniquely determined by the line σ ∈ H 2,0 (X) ⊂ H 2 (X, C). Note that the lattice Λ defined by (H 2 (X, Z), qX ) is in general not unimodular and there is no reason why it should always be even (although in all known examples it is). No classification of lattices that can be realized by the Beauville–Bogomolov form on some compact hyperkähler manifold is known. Also note that no examples of compact hyperkähler manifolds are known that would realize the same lattice without being deformation equivalent and hence diffeomorphic. For a K3 surface S the Beauville– Bogomolov form coincides with the intersection form on H 2 (S, Z) which is isomorphic to the unique even unimodular lattice of signature (3, 19).

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

382

D. HUYBRECHTS

Example 2.3. — i) The Hilbert scheme (or Douady space) Hilbn (S) parametrizing subschemes Z ⊂ S of length n in a K3 surface S is a compact hyperkähler manifold of dimension 2n (see [3]). Moreover, (H 2 (Hilbn (S), Z), q) ∼ = H 2 (S, Z) ⊕ Z(−2(n − 1)) n for n > 1 and in particular b2 (Hilb (S)) = 23. Note that Hilbn (S) can be deformed to compact hyperkähler manifolds which are not isomorphic to the Hilbert scheme of any K3 surface. ii) If T is a two-dimensional complex torus C2 /Γ and Σ : Hilbn (T ) → T is the morphism induced by the additive structure of T , then the generalized Kummer variety K n−1 (T ) := Σ−1 (0) is a compact hyperkähler manifold of dimension 2n − 2. In this case, (H 2 (K n−1 (T ), Z), q) ∼ = H 2 (T, Z)⊕Z(−2n) for n > 2 and thus b2 (K n−1 (T )) = 7. Again, the generic deformation of K n−1 (T ) is a compact hyperkähler manifold not isomorphic to any generalized Kummer variety itself. iii) The only other known examples were constructed by O’Grady, see [22, 23]. They are of dimension six, resp. ten.

3. PERIOD DOMAIN AND TWISTOR LINES 3.1. Period domain Consider a non-degenerate lattice Λ with a quadratic form q (not necessarily unimodular or even) of signature (3, b − 3). Later Λ will be H 2 (M, Z) of a hyperkähler manifold M endowed with the Beauville–Bogomolov form. The period domain associated to Λ is the set D := DΛ := {x ∈ P(Λ ⊗ C) | q(x) = 0 and q(x, x ¯) > 0}. The quadratic form q is extended C-linearly. Thus, D is an open subset of the smooth quadric hypersurface defined by q(x) = 0 and, in particular, D has the structure of a complex manifold of dimension b − 2 which is obviously Hausdorff. The global structure of the period domain D is also well-known. Let Grpo (2, V ) be the Grassmannian of oriented positive planes in a real vector space V endowed with a quadratic form and consider Rb with the diagonal quadratic form (+1, +1, +1, −1, . . . , −1). See e.g. [4, Exp. VIII] for the proof of the following. Proposition 3.1. — There exist diffeomorphisms D∼ = Grpo (2, Λ ⊗ R) ∼ = Grpo (2, Rb ) ∼ = O(3, b − 3)/ (SO(2) × O(1, b − 3)) . In particular, D is connected with π1 (D) = {1}.

ASTÉRISQUE 348



(1040)

GLOBAL TORELLI FOR HYPERKÄHLER MANIFOLDS

383

The first isomorphism is given by mapping x ∈ D to the plane P (x) ⊂ Λ ⊗ R spanned by the real and imaginary part of x. For the converse, choose an orthonormal positive oriented basis a, b ∈ P of a given plane P ∈ Grpo (Λ ⊗ R) and map P to a + ib ∈ D. For the last two diffeomorphisms choose an isometry Λ ⊗ R ∼ = Rb . In the following, we shall often tacitly pass from one description to the other and will not distinguish between the point x ∈ D and its associated plane P (x) ∈ Grpo (2, Λ ⊗ R). Remark 3.2. — For any 0 6= α ∈ Λ one can consider the intersection D ∩ α⊥ , where α⊥ is the hyperplane {x ∈ P(Λ ⊗ C) | q(x, α) = 0}. Thus D ∩ α⊥ ⊂ D is non-empty of complex codimension one. S Moreover, for any open subset U ⊂ D the set U \ 06=α∈Λ α⊥ is dense in U . Indeed, pick a generic one-dimensional disk ∆ through a given point x ∈ U . Then each α⊥ S intersects ∆ in finitely many points and since Λ is countable, the intersection ∆∩ α⊥ is at most countable. But the complement of any countable set inside ∆ is dense in ∆. 3.2. Twistor lines A subspace W ⊂ Λ ⊗ R of dimension three such that q|W is positive definite is called a positive three-space. Definition 3.3. — For any positive three-space W one defines the associated twistor line TW as the intersection TW := D ∩ P(W ⊗ C). For W a positive three-space, P(W ⊗ C) is a plane in P(Λ ⊗ C) and TW is a smooth quadric in P(W ⊗ C) ∼ = P2 . Thus, as a complex manifold TW is simply P1 . Two distinct points x, y ∈ D are contained in one twistor line if and only if their associated positive planes P (x) and P (y) span a positive three-space hP (x), P (y)i ⊂ Λ ⊗ R. Definition 3.4. — A twistor line TW is called generic if W ⊥ ∩ Λ = 0. Remark 3.5. — One easily checks that TW is generic if and only if there exists a vector w ∈ W with w⊥ ∩ Λ = 0, which is also equivalent to the existence of a point x ∈ TW such that x⊥ ∩ Λ = 0. In fact, if W is generic, then for all except a countable number of points x ∈ TW one has x⊥ ∩ Λ = 0 (cf. Remark 3.2). Definition 3.6. — Two points x, y ∈ D are called equivalent (resp. strongly equivalent) if there exists a chain of twistor lines (resp. generic twistor line) TW1 , . . . , TWk and points x = x1 , . . . , xk+1 = y with xi , xi+1 ∈ TWi . The following is well-known, see [4]. Proposition 3.7. — Any two points x, y ∈ D are (strongly) equivalent.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

384

D. HUYBRECHTS

Proof. — Since D is connected, it suffices to show that each equivalence class is open. Let us deal with the weak version first. A x = ha, bi hhh r hh h A hhh x2 = ha, ci hhhh Ar h HH r A hhhhhh H 0 0 ha , b i HH T1 A HH A H A HH A H HH A H A HHA x = hb0 , ci Hr 3 AHH A H HH A A T3 T2 A Consider x ∈ D and choose a basis for the corresponding positive plane P (x) = ha, bi. Here and in the sequel, the order of the basis vector is meant to fix the orientation of the plane. Pick c such that ha, b, ci is a positive three-space. Then for (a0 , b0 ) in an open neighbourhood of (a, b) the spaces ha, b0 , ci and ha0 , b0 , ci are still positive three-spaces. Let T1 , T2 , and T3 be the twistor lines associated to ha, b, ci, ha, b0 , ci, resp. ha0 , b0 , ci. Then P (x) = ha, bi, ha, ci ∈ T1 , ha, ci, hb0 , ci ∈ T2 , and hb0 , ci, ha0 , b0 i ∈ T3 . Thus, x and ha0 , b0 i are connected via the chain of the three twistor lines T1 , T2 , and T3 . For the strong equivalence, choose in the above argument c such that c⊥ ∩ Λ = 0. Then the twistor lines associated to the positive three-spaces ha, b, ci, ha, b0 , ci, and ha0 , b0 , ci are all generic (see Remark 3.5). This easy observation is crucial for the global surjectivity of the period map (see Section 5.2). In order to prove that the period map is a covering map, one also needs a local version of the surjectivity (cf. Section 5.4) which in turn relies on a local version of Proposition 3.7. This shall be explained next. ¯⊂D Convention 3.8. — In the following, we consider balls in D and write B ⊂ B ¯ when B is a closed ball in a differentiable chart in D. In particular, B will be the open ¯ set of interior points in B. ¯ ⊂ D are called equivalent (resp. Definition 3.9. — Two points x, y ∈ B ⊂ B strongly equivalent) as points in B if there exist a chain of (generic) twistor lines

ASTÉRISQUE 348

(1040)

GLOBAL TORELLI FOR HYPERKÄHLER MANIFOLDS

385

TW1 , . . . , TWk and points x = x1 , . . . , xk+1 = y ∈ B such that xi , xi+1 are contained in the same connected component of TWi ∩ B. Note that a priori two points x, y ∈ B could be (strongly) equivalent as points in D without being (strongly) equivalent as points in B. In the local case, only strong equivalence will be used. The local version of Proposition 3.7 is the following. ¯ ⊂ D any two points x, y ∈ B are Proposition 3.10. — For a given ball B ⊂ B strongly equivalent as points in B. Proof. — One again shows that each equivalence class is open which together with the connectedness of the ball B proves the result. The proof is a modification of the argument for Proposition 3.7 and we shall use the same notation. The main difference is that a given positive plane ha, bi is connected to any nearby point by a chain of four generic twistor lines instead of just three. As the proof given here deviates from the original more technical one in [24], we shall spell out all the (mostly elementary) details. Let x ∈ B and let a, b be an oriented basis of the associated plane P (x). The open sets Uε := {ha0 , b0 i | ka − a0 k < ε, kb − b0 k < ε} form a basis of open neighbourhoods of x ∈ D. Here k k is an arbitrary fixed norm on the real vector space Λ ⊗ R. Strictly speaking, Uε is an open set of planes, but when we write ha0 , b0 i ∈ Uε we implicitly mean that the vectors a0 , b0 satisfy the two inequalities defining Uε . Fix 0 < ε < 1 small enough such that x ∈ Uε ⊂ B. Then there exist hd, ci ∈ Uε such that ha, b, ci, ha, b, di are positive three-spaces. Indeed, if an isometry Λ ⊗ R ∼ = Rb is chosen such that (a, b) = (e1 , e2 ), then take c = e2 + (ε/2)e3 and d = e1 + (ε/2)e3 . Here e1 , . . . , eb is the standard basis of Rb endowed with the quadratic form diag(1, 1, 1, −1, . . . , −1). Moreover, after adding small generic vectors, we can assume that c⊥ ∩ Λ = 0 = d⊥ ∩ Λ. To be a positive three-space is an open condition. Thus there exists 0 < δ < ε such that for all ha0 , b0 i ∈ Uδ ⊂ Uε ⊂ B the spaces ha0 , b0 , ci and ha0 , b0 , di are still positive three-spaces. T4 ha0 , b0 i  T2  r        x  r r  X  rX  X XXX  ha, ci  XXX  XX hd, b0 i r  X  XXXX XX ha, b0 i T3

T1

Uε

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

386

D. HUYBRECHTS

For any given ha0 , b0 i ∈ Uδ , let T1 , . . . , T4 be the generic (!) twistor lines associated to the four positive three-spaces ha, b, ci, ha, b0 , ci, ha, b0 , di, resp. ha0 , b0 , di. (Use that indeed ha, bi, ha, b0 i, ha0 , b0 i ∈ Uδ .) Let x1 := x = ha, bi, x2 := ha, ci, x3 := ha, b0 i, x4 := hd, b0 i, and x5 := ha0 , b0 i. Then xi , xi+1 ∈ Ti ∩ B. This would show that x and ha0 , b0 i are strongly equivalent as points in B if indeed xi and xi+1 are contained in the same connected component of Ti ∩ B (in fact, as we will see, of Ti ∩ Uε ). The verification of this is straightforward. E.g. x2 = ha, ci and x3 = ha, b0 i can be connected via ha, c + t(b0 − c)i with t ∈ [0, 1]. This path is contained in T2 ∩ B as kc + t(b0 − c) − bk = k(1 − t)(c − b) + t(b0 − b)k < (1 − t)ε + tδ ≤ ε. A much easier related observation is the following: ¯ ⊂ D and let x ∈ B ¯ \ B. Then there exists a Lemma 3.11. — Consider a ball B ⊂ B generic twistor line TW ⊂ D such that x ∈ ∂B ∩ TW is in the boundary of B ∩ TW . In other words, the boundary of B can be connected to its interior by means of generic twistor lines. Proof. — Consider the tangent space Tx ∂B of the boundary ∂B in the point x ∈ ∂B. Then Tx ∂B is a subspace of real dimension 2b − 5 of the tangent space Tx D which is of real dimension 2b − 4. Describing D as the Grassmannian of oriented positive planes, yields a natural identification of Tx D with Hom(P (x), Λ ⊗ R/P (x)). Under this identification, the tangent space of a twistor line TW through x corresponds to the two-dimensional real subspace Hom(P (x), Rα), where we write W = P (x) ⊕ Rα for some positive α ∈ P (x)⊥ and identify Λ ⊗ R/P (x) with P (x)⊥ . Conversely, the choice of α defines a twistor line through x and if α is chosen generically then α⊥ ∩ Λ = 0 and Hom(P (x), Rα) 6⊂ Tx ∂B, i.e. the corresponding TW is a generic twistor line through x with TW ∩ B 6= ∅.

4. PERIOD MAP 4.1. Local Torelli theorem For any compact complex manifold X there exists a versal deformation

X → Def(X). As usual, Def(X) is understood as a germ of a complex space which can be chosen arbitrarily small. Since H 0 (X, T X ) = 0 for X a compact hyperkähler manifold, the deformation is in this case in fact universal. Moreover, since any small deformation of X is again compact hyperkähler, one has h1 ( X t , T X t ) = h1 ( X t , Ω X t ) = h1,1 ( X t ) ≡ const and hence X → Def(X) is universal

ASTÉRISQUE 348

(1040)

GLOBAL TORELLI FOR HYPERKÄHLER MANIFOLDS

387

for any of its fibers X t . For a survey of Kuranishi’s results on deformation theory see e.g. [11]. Although H 2 (X, T X ) need not be trivial for a compact hyperkähler manifold, the base Def(X) is smooth of dimension b2 (X) − 2 = h1 (X, T X ). This is a result of Bogomolov [5], which can also be seen as a special case of the Tian–Todorov unobstructedness result for Kähler manifolds with trivial canonical bundle. Classical Hodge theory provides us with a holomorphic map

P : Def(X) → P(H 2 (X, Z)), t 7→ [H 2,0 ( X t )] ∼ H 2 ( X t , Z) via parfor which one uses the canonical identification H 2 (X, Z) = allel transport which respects the Beauville–Bogomolov forms qX , resp. q X t . As qX (σ X t ) = q X t (σ X t ) = 0 and qX (σ X t , σ ¯ X t ) = q X t (σ X t , σ ¯ X t ) > 0, the period map takes values in the period domain DX := DH 2 (X,Z) ⊂ P(H 2 (X, C)). The following result was proved in [3]. Theorem 4.1 (Local Torelli theorem). — The period map

P : Def(X) → DX ⊂ P(H 2 (X, C)) is biholomorphic onto an open subset of the period domain DX .



4.2. Moduli space of marked hyperkähler manifolds For any given non-degenerate lattice Λ of signature (3, b − 3) one defines the moduli space of Λ-marked hyperkähler manifolds as MΛ := {(X, φ)}/∼ =. Here, X is a compact hyperkähler manifold and φ : H 2 (X, Z) ∼ = Λ is an isome2 try between H (X, Z) endowed with the Beauville–Bogomolov pairing and the lattice Λ. Two Λ-marked hyperkähler manifolds (X, φ) and (X 0 , φ0 ) are isomorphic, ∼ (X, φ) ∼ (X 0 , φ0 ), if there exists a biholomorphic map g : X → X 0 such that φ◦g ∗ = φ0 . Remark 4.2. — For most lattices Λ one expects MΛ = ∅; at least very few lattices are known that are realized. On the other hand, in all known examples the lattice Λ determines the diffeomorphism type of X. The latter suggests to actually fix the underlying real manifold M , to put Λ = H 2 (M, Z), and to consider MM := {(X, φ) | X ∼diff M }/∼ = ⊂ MΛ as the space of marked hyperkähler manifolds X diffeomorphic to M (but without fixing the diffeomorphism). As we shall eventually restrict to a connected component

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

388

D. HUYBRECHTS

of the moduli space and MM is a union of connected components of MΛ , one can work with either of the two moduli spaces, MM or MΛ . The following is a well-known generalization of a construction used for K3 surfaces (see [4] or [16, Prop. 7.7]). Proposition 4.3. — The moduli space of Λ-marked hyperkähler manifolds MΛ has the structure of a complex manifold of dimension b − 2. For any (X, φ) ∈ MΛ , there is a natural holomorphic map Def(X) ,→ MΛ identifying Def(X) with an open neighbourhood of (X, φ) in MΛ . Proof. — The base of the universal deformation X → Def(X) of a compact hyperkähler manifold X parametrized by MΛ can be thought of as a small disk of dimension b − 2. A marking φ of X naturally induces markings φt of all the fibers X t and by the Local Torelli Theorem 4.1 the period map P : Def(X) → D ⊂ P(Λ ⊗ C) defined by φ is a local isomorphism. Hence, for t0 6= t1 ∈ Def(X) the fibers X t0 and X t1 with the markings φt0 and φt1 , respectively, are non-isomorphic as marked manifolds. Thus, the base space Def(X) can be regarded as a subset of MΛ containing (X, φ). For (X, φ), (X 0 , φ0 ) ∈ MΛ consider the intersection Def(X) ∩ Def(X 0 ), which might of course be empty. Since X → Def(X) is a universal deformation for each of its fibers X t (and similarly for X 0 → Def(X 0 )), this is an open subset of Def(X) and Def(X 0 ) on which the two induced complex structures coincide. Therefore, the complex structures of the deformation spaces Def(X) for all X parametrized by MΛ glue to a complex structure on MΛ . Since Def(X) is smooth, also MΛ is smooth. Remark 4.4. — Two words of warning are in order at this point. Firstly, MΛ is a complex manifold but in general it is not Hausdorff. Second, the universal families X → Def(X) and X 0 → Def(X 0 ) do not necessarily glue over the intersection Def(X) ∩ Def(X 0 ) in MΛ . This is due to the possible existence of automorphisms acting trivially on the second cohomology. See [1] for explicit examples. By the very construction of the complex structure on MΛ , the local period maps P : Def(X) → DX ⊂ P2 (H 2 (X, C)) glue to the global period map

P : MΛ → P(Λ ⊗ C). The global period map takes values in the period domain D ⊂ P(Λ ⊗ C) (see Section 3.1) and the Local Torelli Theorem 4.1 immediately gives Corollary 4.5. — The period map P : MΛ → D is locally biholomorphic.

ASTÉRISQUE 348



(1040)

GLOBAL TORELLI FOR HYPERKÄHLER MANIFOLDS

389

4.3. The moduli space is made Hausdorff As alluded to before, the moduli space of marked hyperkähler manifolds MΛ need not be Hausdorff. This phenomenon is well-known for K3 surfaces and it cannot be avoided in higher dimensions either. Recall that a topological space A is Hausdorff if for any two points x 6= y ∈ A there exist disjoint open sets x ∈ Ux ⊂ A and y ∈ Uy ⊂ A. If Ux ∩ Uy 6= ∅ for all open neighbourhoods x ∈ Ux and y ∈ Uy , then x and y are called inseparable and we write x ∼ y. Clearly, x ∼ x for all x and x ∼ y if and only if y ∼ x, i.e. ∼ is reflexive and symmetric. But in general x ∼ y ∼ z does not imply x ∼ z, i.e. ∼ may fail to be transitive, in which case it is not an equivalence relation. Restricting to our situation at hand, we shall define an a priori stronger relation as follows. Definition 4.6. — For x, y ∈ MΛ with P (x) = P (y) ∈ D we say x ≈ y if there exist an open neighbourhood U of 0 := P (x) = P (y) ∈ D and holomorphic sections −1 sx , sy of P : P (U ) → U such that: i) sx = sy on a dense open subset U0 ⊂ U and ii) sx (0) = x and sy (0) = y. In order to show that ∼ and ≈ actually coincide, we need to recall the following result from [17]. Proposition 4.7. — Suppose (X, φ) and (Y, φ0 ) correspond to inseparable distinct points x, y ∈ MΛ . Then X and Y are bimeromorphic and P (x) = P (y) is contained in D ∩ α⊥ for some 0 6= α ∈ Λ. Proof. — The first part is [17, Thm. 4.3]. The bimeromorphic correspondence is constructed roughly as follows. If x ∼ y, then there exists a sequence ti ∈ MΛ converging simultaneously to x and y. For the universal families X and Y of X, resp. Y , this corresponds to isomorphisms gi : X ti → Y ti compatible with the markings of X ti and Y ti . P Then the graphs Γgi are shown to converge to a cycle Γ = Z + Yk ⊂ X × Y of which the component Z defines a bimeromorphic correspondence and the components Yk do not dominate neither of the two factors. If Z is not the graph of an isomorphism, then the image in X of curves contracted by Z → Y describes curves in X. Thus H 2n−1,2n−1 (X, Z) 6= 0 and by duality also H 1,1 (X, Z) 6= 0. Hence there exists a class 0 6= α ∈ Λ with φ−1 (α) ∈ H 1,1 (X) and, therefore, P (x) ∈ D ∩ α⊥ . P Suppose Z is the graph of an isomorphism. Consider the action of [Z]∗ + [Yk ]∗ on Λ (via the given markings φ and φ0 ). If the image of some Yk in X and Y is of codimension ≥ 2, then [Yk ]∗ acts trivially on Λ. If this is the case for all [Yk ], then [Z]∗ = [Γ]∗ = [Γgi ]∗ on Λ and, since the gi are compatible with the markings, the

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

390

D. HUYBRECHTS

latter is in fact the identity. But then Z is the graph of an isomorphism X ∼ = Y that 0 is compatible with the markings φ, φ and, therefore, x = y. Contradiction. If one of the Yk maps onto a divisor in X or Y , then H 1,1 (X, Z) 6= 0 or, equivalently, H (Y, Z) 6= 0. So again in this case P (x) = P (y) ∈ D ∩ α⊥ for some 0 6= α ∈ Λ. 1,1

Remark 4.8. — If one tries to apply the same argument to the Teichmüller space Teich(M ), then one needs to show the following: If Z defines an isomorphism and the Yi have images of codimension ≥ 2, then the isomorphism defined by Z is in fact given by a diffeomorphism in the identity component Diff(M )0 . This issue was addressed in a more recent version of [24]. Note that for K3 surfaces Z always defines an isomorphism and that, a priori, in higher dimensions Z could define an isomorphism without any of the components Yi mapping onto a divisor. Proposition 4.9. — i) ≈ is an open equivalence relation. ii) x ≈ y if and only if x ∼ y. iii) ∼ is an open equivalence relation. Proof. — i) Again, ≈ is reflexive and symmetric by definition. Let us show that it is also transitive. Assume x ≈ y ≈ z and choose for x ≈ y a neighbourhood 0 := P (x) = P (y) ∈ U ⊂ D and sections sx , sy as in Definition 4.6. Similarly for y ≈ z, choose a neighbourhood 0 = P (y) = P (z) ∈ U 0 ⊂ D and sections ty , tz . Replacing U and U 0 by their intersection, we may in fact assume U = U 0 . Then sy (U ) and ty (U ) are both open neighbourhoods of y and hence sy (U ) ∩ ty (U ) is. Since P is a local homeomorphism, this also shows that sy and ty coincide on the ˜ := P (sy (U ) ∩ ty (U )) ⊂ U of 0. Since sx and sy coincide on a open neighbourhood U ˜ . Similarly for dense open subset of U , they also coincide on a dense open subset of U ty and tz . Together with sy |U˜ = ty |U˜ this shows x ≈ z. Recall that an equivalence relation ≈ on a topological space A is open if the projection A → A/≈ is open. Equivalently, an equivalence relation ≈ is open if for all x ≈ y and any open neighbourhood x ∈ Vx ⊂ A, there exists an open neighbourhood y ∈ Vy ⊂ A such that for any y 0 ∈ Vy one finds an x0 ∈ Vx with x0 ≈ y 0 . In our case, let Vy := sy ( P (Vx ) ∩ U ). Indeed, the dense open subset U0 on which sx = sy (see Definition 4.6, ii)) intersects the image of P (Vy ) in a dense open subset and hence sx ( P (y 0 )) ≈ sy ( P (y 0 )) for all y 0 ∈ Vy . ii) As x ≈ y clearly implies x ∼ y, we only need to show the converse. So let x ∼ y. Then 0 := P (x) = P (y). Pick an open neighbourhood 0 ∈ U ⊂ D of 0 and holomorphic sections sx , sy : U → MΛ with sx (0) = x and sy (0) = y. Since x ∼ y, the intersection V := sx (U ) ∩ sy (U ) cannot be empty.

ASTÉRISQUE 348

(1040)

GLOBAL TORELLI FOR HYPERKÄHLER MANIFOLDS

391

In order to show that x ≈ y, it suffices to show that the open subset U0 := P (V ) is dense in U . If for x0 ∈ sx (U ) and y 0 ∈ sy (U ) one has t := P (x0 ) = P (y 0 ) ∈ ∂U0 (the boundary of U0 in U ), then x0 ∼ y 0 and x0 6= y 0 . By Proposition 4.7 this implies that t is contained in D ∩ α⊥ for some class S 0 6= α ∈ Λ. Hence ∂U0 ⊂ 06=α∈Λ α⊥ . This is enough to conclude that U0 is dense in U . Indeed, suppose U \ U 0 6= ∅. Then connect a generic point in U0 via a onedimensional disk ∆ ⊂ U with a generic point in the open subset U \ U 0 . Then S ∆ ∩ ∂U0 ⊂ ∆ ∩ 06=α∈Λ α⊥ is countable and can therefore not separate the two disjoint open sets ∆ ∩ U0 and ∆ ∩ (U \ U 0 ). Contradiction. (Compare the arguments with Remark 3.2.) Obviously, iii) follows from i) and ii). Corollary 4.10. — The period map P : MΛ → D ⊂ P(Λ ⊗ C) factorizes over the ‘Hausdorff reduction’ MΛ of MΛ . More precisely, there exist a complex Hausdorff manifold MΛ and locally biholomorphic maps factorizing the period map:

P : MΛ  MΛ → D, such that x = (X, φ), y = (Y, φ0 ) ∈ MΛ map to the same point in MΛ if and only if they are inseparable points of MΛ , i.e. x ∼ y. ¯ of the diagonal ∆ ⊂ MΛ × MΛ . Clearly, R is Proof. — Consider the closure R := ∆ the set of all tuples (x, y) with x ∼ y and thus by Proposition 4.9, iii) the graph of an equivalence relation. It is known that for an open equivalence relation ∼ on a topological space A the quotient A/∼ is Hausdorff if and only if its graph R ⊂ A × A is closed (see [6, §8 No 3. Prop. 8]). Since ∼ is an open equivalence relation due to Proposition 4.9, iii) ¯ this shows that indeed MΛ /∼ is Hausdorff. and R = ∆, The period map P : MΛ → D is a local homeomorphism and factorizes via MΛ → MΛ /∼ → D. Hence also MΛ → MΛ /∼ is a local homeomorphism which allows one to endow MΛ /∼ with the structure of a complex manifold. So, MΛ := MΛ /∼ (together with the natural maps) has the required properties. Remark 4.11. — The same arguments apply to any connected component MoΛ of MΛ . o Thus by identifying inseparable points, one again obtains a Hausdorff space MΛ . Since o points in distinct connected components of MΛ can always be separated, MΛ is in fact a connected component of MΛ .

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

392

D. HUYBRECHTS

4.4. Twistor deformation and lifts of twistor lines We briefly recall the construction of the twistor space. For more details, see e.g. [13, 14]. Any Kähler class α ∈ H 1,1 (X, R) on a hyperkähler manifold X = (M, I) is uniquely represented by a Kähler form ω = ωI = g(I( ), ) of a hyperkähler metric g. The hyperkähler metric g comes with a sphere of complex structures {λ = aI + bJ + cK | a2 + b2 + c2 = 1}, where K = I ◦ J = −J ◦ I. Each (M, λ) is again a complex manifold of hyperkähler type with a distinguished Kähler form ωλ := g(λ( ), ) and a holomorphic two-form σλ ∈ H 0 ((M, λ), Ω2(M,λ) ). E.g. for λ = J the latter can be explicitly given as σJ = ωK + iωI . In general, the forms ωλ , Re(σλ ), and Im(σλ ) are contained in the three-dimensional space spanned by ωI , Re(σI ), and Im(σI ). The twistor space associated to α is the complex manifold X described by the complex structure I ∈ End(Tm M ⊕ Tλ P1 ), (v, w) 7→ (λ(v), IP1 (w)) on the differentiable manifold M × P1 . Here, IP1 is the standard complex structure on P1 . The integrability of I follows from the Newlander–Nirenberg theorem, see [15]. In particular, the projection defines a holomorphic map

X → P1 whose fiber over λ = I is just X = (M, I). If one wants to stress the dependence on the Kähler class α, one also writes X (α) → T (α) ∼ = P1 . By construction, the twistor space is a family of complex structures on a fixed manifold M . Thus, if we take Λ = H 2 (M, Z) endowed with the Beauville–Bogomolov pairing, then the period map yields a holomorphic map P : P1 ∼ = T (α) → D ⊂ P(Λ ⊗ C). In fact, the period map identifies P1 ∼ = T (α) with the twistor line TWα ⊂ D associated to the positive three-space Wα := h[ωI ], [Re(σI )], [Im(σI )]i = Rα ⊕ (H 2,0 (X) ⊕ H 0,2 (X))R , i.e. ∼ P : P1 ∼ = T (α) → TWα ⊂ D.

Remark 4.12. — Twistor spaces are central for the theory of K3 surfaces and higherdimensional hyperkähler manifolds. In contrast to usual deformation theory, which only provides deformations of a hyperkähler manifold X over some small disk, twistor spaces are global deformations.

ASTÉRISQUE 348

(1040)

GLOBAL TORELLI FOR HYPERKÄHLER MANIFOLDS

393

5. GLOBAL AND LOCAL SURJECTIVITY OF THE PERIOD MAP 5.1. The Kähler cone of a generic hyperkähler manifold Global and local surjectivity of the period map both rely on the following result proved in [17]. Theorem 5.1 (Kähler cone). — Let X be a compact hyperkähler manifold with Pic(X) = 0. Then the Kähler cone K X of X is maximal, i.e. K X = C X . Here, C X is the positive cone, i.e. the connected component of the open cone {α ∈ H 1,1 (X, R) | q(α) > 0} that contains a Kähler class. Remark 5.2. — For arbitrary compact hyperkähler manifolds the Kähler cone can be described as the open set of classes in C X that are positive on all rational curves (see e.g. [13, Prop. 28.5]), but this stronger version will not be needed. Theorem 5.1 relies on the projectivity criterion for compact hyperkähler manifolds that shows that X is projective if and only if C X ∩ H 2 (X, Z) 6= 0. The original proof in [17] was incorrect. The corrected proof given in the Erratum to [17] uses the Demailly–Păun description [10] of the Kähler cone of an arbitrary compact Kähler manifold (see also [9]). Corollary 5.3. — If (X, φ) ∈ MΛ , then Pic(X) = 0 if and only if S P (X, φ) 6∈ 06=α∈Λ α⊥ . In this case, the Kähler cone of X is maximal, i.e. K X = C X . Proof. — The first part follows from the observation that φ−1 (α) ∈ H 2 (X, Z) is of type (1, 1) if and only if it is orthogonal to the holomorphic two-form σX . This in turn is equivalent to P (X, φ) ∈ α⊥ . Proposition 5.4. — Consider a marked hyperkähler manifold (X, φ) ∈ MΛ and assume that its period P (X, φ) is contained in a generic twistor line TW ⊂ D. Then there exists a unique lift of TW to a curve in MΛ through (X, φ), i.e. there exists a commutative diagram P

MΛ ` ˜i

/D O i

? TW

with (X, φ) in the image of ˜i.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

394

D. HUYBRECHTS

Proof. — Since P : MΛ → D is locally biholomorphic, the inclusion i : ∆ ⊂ TW ,→ D of a small open one-dimensional disk containing 0 = P (X, φ) ∈ ∆ can be lifted to ˜i : ∆ ,→ MΛ , t 7→ (Xt , φt ) with ˜i(0) = (X, φ). By Corollary 4.10 the space MΛ is Hausdorff and hence ˜i : ∆ ,→ MΛ is unique. (The uniqueness is a general fact from topology which works for any local homeomorphism between Hausdorff spaces, see e.g. [7, Lem. 1].) S As TW is a generic twistor line, the set TW ∩ 06=α∈Λ α⊥ is countable and thus for generic t ∈ ∆ one has Pic(Xt ) = 0 (see Remark 3.5 and Corollary 5.3). Let us fix such a generic t. By construction, φt (σt ) ∈ W ⊗C and, therefore, there exists a class αt ∈ H 2 (Xt , R) such that φt (αt ) ∈ W is orthogonal to φt hRe(σt ), Im(σt )i ⊂ W . Hence, αt is of type (1, 1) on Xt and ±αt ∈ C Xt , as W is a positive three-space. Due to Corollary 5.3 and using Pic(Xt ) = 0 for our fixed generic t, this implies ±αt ∈ K Xt . Now consider the twistor space X (αt ) → T (αt ) for Xt endowed with the Kähler class ±αt . Since φt hαt , Re(σt ), Im(σt )i = W , the period map yields an identification ∼ P : T (αt ) → TW . Both, T (αt ) and ˜i(∆), contain the point t and map locally isomorphically to TW . Again by the uniqueness of lifts for a local homeomorphism between Hausdorff spaces, this proves 0 ∈ T (αt ) which yields the assertion. 5.2. Global surjectivity The surjectivity of the period map proved in [17] is a direct consequence of the description of the Kähler cone of a generic hyperkähler manifold. Theorem 5.5 (Surjectivity of the period map). — Let MoΛ be a connected component of the moduli space MΛ of marked hyperkähler manifolds. Then the restriction of the period map

P : MoΛ  D ⊂ P(Λ ⊗ C) is surjective. Proof. — Since by Proposition 3.7 any two points x, y ∈ D are strongly equivalent, it is enough to show that x ∈ P (MoΛ ) if and only if y ∈ P (MoΛ ) for any two points x, y ∈ TW ⊂ D contained in a generic twistor line TW . This is an immediate consequence of Proposition 5.4 which shows that the generic twistor line TW can be lifted through any given preimage (X, φ) of x. Indeed, then y will also be contained in the image of the lift of TW .

ASTÉRISQUE 348

(1040)

GLOBAL TORELLI FOR HYPERKÄHLER MANIFOLDS

395

5.3. Covering spaces This section contains a criterion that decides when a local homeomorphism is a covering space. Recall that a continuous map π : A → D between Hausdorff spaces is a covering space if every point in D admits an open neighbourhood U ⊂ D such that ` π −1 (U ) is the disjoint union Ui of open subsets Ui ⊂ A such that the projections ∼ yields homeomorphisms π : Ui → U . The reader may want to compare Proposition 5.6 below with a classical result of Browder [7, Thm. 5] which says that a local homeomorphism π : A → D between topological Hausdorff manifolds is a covering space if every point in D has a neighbourhood U such that π is a closed map on each connected component of π −1 (U ). Proposition 5.6. — A local homeomorphism π : A → D between topological Haus¯ ⊂ D (see 3.8) and any dorff manifolds is a covering space if for any ball B ⊂ B −1 ¯ ¯ connected component C of the closed subset π (B) one has π(C) = B. Proof. — We shall follow the alternative arguments of Markman given in the appendix to [24]. The techniques are again elementary, but need to be applied with care. The proof can be immediately reduced to the case that D = Rn and A is connected. ∼ Then π : A → D = Rn is a covering space, i.e. π : A → Rn , if and only if π admits a section γ : Rn → A. Pick a point x ∈ A with π(x) = 0 ∈ Rn (the origin) and consider balls ¯ε ⊂ Rn of radius ε centered in 0 ∈ Rn . By the lifting property of local homeBε ⊂ B ¯ε → A is uniquely determined by omorphisms (see e.g. [7, Lem. 1]) any section γ : B γ(0). ¯ε → A with For small 0 ≤ ε there exists a section of π over the closed ball γ : B γ(0) = x (use that π is a local homeomorphism in x). Let I ⊂ R be the set of all 0 ≤ ε for which such a section exists. Then I is a connected interval in R≥0 containing 0. It suffices to show that I is open and closed, which would imply I = [0, ∞) and thus prove the existence of a section γ : Rn → A of π. ¯ε → A with Claim: I is open. Consider ε ∈ I and the corresponding section γ : B ¯ γ(0) = x. Then choose for each point t ∈ Bε \ Bε a small ball Bε (t) of radius εt t

centered in t over which π admits a section γt : Bεt (t) → A with γt (t) = γ(t). Note ¯ε ∩ Bε (t). that then γ = γt on the intersection B t ¯ ¯ ε \ Bε Since Bε \ Bε is compact, there exist finitely many points t1 , . . . , tk ∈ B S ¯ ε \ Bε ⊂ such that B Bεti (ti ). Moreover, there also exists ε < δ such that S ¯ ¯δ → A. Indeed, γ Bδ ⊂ Bε ∪ Bεti (ti ). Then, γ and the γti glue to a section γ : B and γti coincide on Bε ∩ Bεti (ti ). In order to show that γti and γtj glue over the intersection Bεti ∩ Bεtj (if not empty), one uses that this (connected) intersection

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

396

D. HUYBRECHTS

also meets Bε on which γti and γtj both coincide with γ and hence with each other. (Draw a picture!) Hence δ ∈ I and thus [0, δ) ⊂ I is an open subset of I containing ε. ¯ Consider Claim: I is closed. In this step one uses the assumption π(C) = B. ¯ δ ∈ R≥0 in the closure of I. Then for all ε < δ there is a section γ : Bε → A with γ(0) = x. Therefore, there exists a section over the open ball γ : Bδ → A. ∼ Let C0 be the closure γ(Bδ ) ⊂ A and let us show that then π : C0 → π(C0 ) and ¯δ ) containing x. that C0 coincides with the connected component C of π −1 (B ¯ δ \ Bδ To do this, choose balls Bεt (t) as in the previous step for all points t ∈ B that are also contained in π(C0 ). We cannot apply a compactness argument, because a priori not every t in the boundary of Bδ might be in the image of C0 . Nevertheless, S the sections γt and γ glue to a section Bδ ∪ t∈π(C0 ) Bεt (t) → A and we denote the image of this section by V ⊂ A. Thus, V is an open subset of A homeomorphic to its image under π (which is S ¯δ ) which in particular shows that Bδ ∪ t∈π(C0 ) Bεt (t)). But then C0 = V ∩ π −1 (B −1 ¯ C0 is open in π (Bδ ). By definition, C0 is also closed and certainly contained in C. Hence C0 coincides with the connected component C and as C0 ⊂ V ∼ = π(V ), also ∼ C0 = π(C0 ). ¯δ and, as just proved, C = C0 , one finds that a Since by assumption π(C) = B ¯ section over Bδ exists. This yields δ ∈ I. Hence, I is closed. 5.4. Local surjectivity and proof of Verbitsky’s theorem In this section we conclude the proof of Verbitsky’s Theorem 1.3. The first step is a verification of the assumption of Proposition 5.6, which can be seen as a local version of the surjectivity of the period map (see Theorem 5.5). o

Proposition 5.7. — Consider the period map P : MΛ → D from a connected como ¯ ⊂ D is a ball (see 3.8), then for any connected component ponent MΛ of MΛ . If B ⊂ B −1 ¯ ¯ C of P (B) one has P (C) = B. Proof. — We first adapt the arguments of Theorem 5.5 to show B ⊂ P (C). Clearly, P (C) contains at least one point of B, because P is a local homeomorphism. Due to Proposition 3.10, any two points x, y ∈ B are strongly equivalent as points in B. Thus it suffices to show that x ∈ P (C) if and only if y ∈ P (C) for any two points x, y ∈ B contained in the same connected component of the intersection TW ∩ B with TW a generic twistor line. If x = P (X, φ) with (X, φ) ∈ C, choose a local lift of the inclusion x ∈ ∆ ⊂ TW and then argue literally as in the proof of Theorem 5.5. The assumption that x, y are contained in the same connected component of TW ∩ B ensures that the twistor deformation T (αt ) constructed there connects (X, φ) to a point over y that is indeed again contained in C.

ASTÉRISQUE 348

(1040)

397

GLOBAL TORELLI FOR HYPERKÄHLER MANIFOLDS

¯ \ B is contained in P (C). For this It remains to prove that also the boundary B ¯ apply Lemma 3.11 to any point x ∈ B \B and lift the generic twistor line connecting x with a point in B to a twistor deformation as before. Then Proposition 5.6 immediately yields: o

o

Corollary 5.8. — If MΛ is a connected component of MΛ , then P : MΛ → D is a covering space.  Since D is simply connected (see Proposition 3.1), this can equivalently be expressed as o

o

Corollary 5.9. — If MΛ is a connected component of MΛ , then P : MΛ → D is an isomorphism.  The proof of Theorem 1.3 can now be completed as follows: Consider a connected component MoΛ of MΛ . Then MoΛ gives rise to a connected o o ∼ component MΛ of MΛ . By Corollary 5.9 the period map P : MΛ → D is an isomorphism and in particular all its fibers consist of exactly one point. Thus it suffices to show that the generic fiber of the natural quotient o

π : MoΛ → MΛ consists of just one point (see Remark 1.1 for the meaning of generic). The fibers of π are the equivalence classes of the equivalence relation ∼ or, equivalently, ≈ (see Corollary 4.10). By Proposition 4.7, points with periods in the complement of S D ∩ 06=α∈Λ α⊥ can be separated from any other point. Thus, the fibers of MoΛ → D S over all points in the complement of D ∩ 06=α∈Λ α⊥ consist of just one point. 

6. FURTHER REMARKS This concluding section explains some consequences of Verbitsky’s Global Torelli theorem. Unfortunately, due to time and space restrictions, I cannot enter a discussion of the polarized case which for an algebraic geometer is of course the most interesting one. For the latter and in particular for results on the number of components of moduli spaces of polarized varieties of fixed degree we refer to the relevant sections in [12] and [20].

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

398

D. HUYBRECHTS

6.1. Bimeromorphic Global Torelli theorem For clarity sake, let us briefly explain again why the generic injectivity of the period map P : MoΛ → D ⊂ P(Λ ⊗ C) implies that points in arbitrary fibres are at least birational and how this compares to the Weyl group action for K3 surfaces. This was alluded to in Remark 1.2 and corresponds to Proposition 4.7. To illustrate this, let us first go back to the case of K3 surfaces. The moduli space of marked K3 surfaces M consists of two connected components interchanged by the −1 involution (S, φ) 7→ (S, −φ). In particular, for a generic point x ∈ D, the fibre P (x) consists of exactly two points. Recall that the set of generic points x ∈ D is the complement of a countable union of hyperplane sections. The fibre of P : M → D over an arbitrary period point x ∈ D admits a transitive action of the group of all ϕ ∈ O(Λ) fixing x. This group is isomorphic to the group OHdg (H 2 (S, Z)) of all Hodge isometries of H 2 (S, Z) of any marked K3 surface −1 (S, φ) ∈ P (x). The group OHdg (H 2 (S, Z)) contains the Weyl group WS generated by all reflections sδ associated to (−2)-classes δ ∈ Pic(S) ∼ = H 1,1 (S) ∩ H 2 (S, Z). Using the fact that the Kähler cone K S of a K3 surface S is cut out from the positive cone C S by the hyperplanes δ ⊥ , one finds that P −1 (x) for an arbitrary x ∈ D admits a simply transitive action of WS × {±1} (see e.g. [4, Exp. VII]). Again, (S, φ) is an −1 arbitrary point in P (x). In particular, the K3 surfaces S and S 0 underlying two points (S, φ), (S 0 , φ0 ) in the same fibre of P are abstractly isomorphic. However, the natural correspondence relating S and S 0 is not the graph Γg of any isomorphism g : S ∼ = S 0 but a cycle P of the form Γ := Γg + Ck × Ck0 , where Ck ⊂ S and Ck0 ⊂ S 0 are smooth rational curves. Indeed, if (S, φ), (S 0 , φ0 ) are considered as limits of sequences of generic (Si , φi ), resp. (Si0 , φ0i ), with P (Si , φi ) = P (Si0 , φ0i ), then the graphs Γgi of the isomorphisms ∼ gi : Si → Si0 deduced from the generic injectivity of P (up to sign) will in general not specialize to the graph of an isomorphism but to a cycle of the form Γ. In higher dimensions the situation is similar. Consider two marked compact hyperkähler manifolds (X, φ), (X 0 , φ0 ) which are contained in the same connected component MoΛ . Suppose that their periods coincide P (X, φ) = P (X 0 , φ0 ). If the period is generic in D, then Theorem 1.3 proves that (X, φ) = (X 0 , φ0 ) as points in MoΛ and thus X ∼ = X 0 . However, if the period is not generic, then X and X 0 might be non-isomorphic. But in this case, they can at least be viewed as specializations of two sequences (Xi , φi ), resp. (Xi0 , φ0i ), with generic periods P (Xi , φi ) = P (Xi0 , φ0i ) as above. Applying Theorem 1.3 to (Xi , φi ), (Xi0 , φ0i ), shows the existence of isomor∼ phisms gi : Xi → Xi0 inducing (Xi , φi ) = (Xi0 , φ0i ) as points in MoΛ . Again the graphs Γgi of the isomorphisms gi will converge to a cycle Γ ⊂ X×X 0 , but P Γ is more difficult to control. In any case, one can show that Γ splits into Γ = Z + Yk

ASTÉRISQUE 348

(1040)

GLOBAL TORELLI FOR HYPERKÄHLER MANIFOLDS

399

where X ← Z → X 0 defines a bimeromorphic map and none of the projections Yk → X and Yk0 → X 0 are dominant (see the proof of Proposition 4.7). This is Theorem 4.3 in [17] which expresses the fact by saying that non-separated points in MΛ are bimeromorphic. As a consequence of Theorem 1.3, one can thus state the following Corollary 6.1. — Let (X, φ), (X 0 , φ) be marked hyperkähler manifolds contained in the same connected component MoΛ . If P (X, φ) = P (X 0 , φ0 ), then X and X 0 are bimeromorphic.  6.2. Standard Global Torelli Ideally of course, one would like to have a result that deduces from the existence of a Hodge isometry H 2 (X, Z) ∼ = H 2 (X 0 , Z) between two compact hyperkäh0 ler manifolds X and X information on the relation between the geometry of the two manifolds. Unfortunately, Theorem 1.3 fails to produce or to predict such a result. As discussed in the introduction, the generic injectivity of the period map on each connected component MoΛ ⊂ MΛ , as shown by Verbitsky’s Theorem 1.3, proves ‘one half’ of the standard Global Torelli theorem. The ‘other half’, the condition O(H 2 (X, Z))/Mon(X) = {±1} on the monodromy action on H 2 (X, Z), does not hold in general. Recall that Mon(X) is the subgroup of O(H 2 (X, Z)) generated by the image of all monodromy representations π1 (B, t) → O(H 2 (X, Z)) induced by smooth proper holomorphic families X → B with X t = X. Here, the base B can be arbitrarily singular. Thus, in full generality Theorem 1.3 only yields the following weak form of the standard Global Torelli theorem in which the condition on the monodromy action is not always satisfied and in any case hard to verify. Corollary 6.2. — Two compact hyperkähler manifolds X and X 0 are bimeromorphic if and only if there exists a Hodge isometry H 2 (X, Z) ∼ = H 2 (X 0 , Z) that can be written as a composition of maps induced by isomorphisms and parallel transport along paths of complex structures.  Corollary 6.3. — In particular, if O(H 2 (X, Z))/Mon(X) = {±1}, then the bimeromorphic type of X (and for generic X even the isomorphism type) is determined by its period among compact hyperkähler manifolds that are deformation equivalent to X.  The monodromy group Mon(X) has been computed by Markman for X = Hilbn (S) and arbitrary n (see [18, 19]). In particular, his results tell us exactly when the monodromy condition, and thus the standard Global Torelli theorem for deformations of Hilbn (S), do hold.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

400

D. HUYBRECHTS

Theorem 6.4 (Markman). — Let X be deformation equivalent to the Hilbert scheme Hilbn (S) of a K3 surface S. Then O(H 2 (X, Z))/Mon(X) = {±1} if and only if n = pk + 1 for some prime number p or n = 1.  Corollary 6.5. — Suppose X and X 0 are deformation equivalent to the Hilbert scheme Hilbn (S) of a K3 surface S such that n = pk + 1 for some prime number p. Then there exists a Hodge isometry H 2 (X, Z) ∼ = H 2 (X 0 , Z) if and only if X and X 0 are bimeromorphic.  Remark 6.6. — Note that for all other values of n the standard Global Torelli theorem fails, i.e. there exist Hodge isometric deformations of Hilbn (S) that are not bimeromorphic. A conjectural explicit description for the monodromy group of the generalized Kummer varieties K n (S) can be found in [20]. Remark 6.7. — Clearly, Mon(X) is contained in the image of Diff(X) → O(H 2 (X, Z)). However, it is not known whether the two groups always coincide. For a K3 surface S the computation of the monodromy group Mon(S) is not too difficult. It coincides with the index two subgroup O+ (H 2 (S, Z)) ⊂ O(H 2 (S, Z)) of all orthogonal transformations preserving the orientation of a positive three-space. That in this case Mon(S) indeed coincides with the action of the full diffeomorphism group Diff(S), which is equivalent to the assertion that −id is not induced by any diffeomorphism, is a theorem of Donaldson. 6.3. Global Torelli theorem for K3 surface revisited As it turns out, Verbitsky’s result provides a new approach towards the Global Torelli theorem for K3 surfaces. Apparently, the potential usefulness of twistor spaces not only for the surjectivity of the period map but also for its injectivity was discussed among specialists thirty years ago but details have never been worked out. We shall briefly explain the situation of K3 surfaces and what precisely is used to prove Theorem 1.3. i) The existence of hyperkähler metrics in each Kähler class. This is a highly nontrivial statement and uses Yau’s solution of the Calabi conjecture. The existence is crucial for Verbitsky’s approach as it ensures the existence of twistor spaces upon which everything else hinges. The theory as represented in [4], which in turn relies on work of Looijenga and Peters and many others, also uses Yau’s result, but the original proof for algebraic or Kähler K3 surfaces due to Pjatecki˘ı-Šapiro, Šafarevič, resp. Burns, Rapoport of course did not. ii) The description of the Kähler cone. More precisely, the proof uses the fact that a K3 surface S with trivial Picard group has maximal Kähler cone, i.e. K S = C S (cf. Theorem 5.1). The description of K S for an arbitrary K3 surface S is much more

ASTÉRISQUE 348

(1040)

GLOBAL TORELLI FOR HYPERKÄHLER MANIFOLDS

401

precise as the statement in higher dimensions (see Remark 5.2): K S is cut out of C S by hyperplanes orthogonal to smooth (!) rational curves. (Note that in [4] one first proves the surjectivity of the period map which is then used to prove this more precise version.) So far, the general line of arguments were simply applied to the two-dimensional case. It would be interesting to see whether the proofs of i) and ii) can be simplified for K3 surfaces in an essential way. In any case, the arguments to prove Theorem 1.3 (in arbitrary dimensions) yield that for any connected component Mo of the moduli space of marked K3 surfaces M the period map P : Mo → D ⊂ P(Λ ⊗ C) is surjective and generically injective. Moreover, if (S, φ), (S 0 , φ0 ) ∈ Mo are contained in the same fibre of P , then S and S 0 are isomorphic. In order to prove the Global Torelli theorem for K3 surfaces in its original form, one last step is needed (see Corollary 6.3 and page 378). (One also needs Kodaira’s result that any two K3 surfaces are deformation equivalent. For a rather easy proof, see e.g. [4, Exp. VI].) iii) For a K3 surface S one has O(H 2 (S, Z))/Mon(S) = {±1}. Of course, this can be deduced a posteriori from the Global Torelli theorem for K3 surfaces. But in fact much easier, more direct arguments exist using classical results on the orthogonal group of unimodular lattices like 2(−E8 ) ⊕ 2U due to Wall, Ebeling, and Kneser. To conclude, the Global Torelli theorem for K3 surfaces could have been proved along the lines presented here some thirty years ago. The key step, the properness of the period map MΛ → D, relies on techniques that are very similar to those used for the surjectivity of the period map by Todorov, Looijenga, and Siu. The main difference of this approach towards the Global Torelli theorem compared to the classical one is that one does not need to first prove the result for a distinguished class of K3 surfaces, like Kummer surfaces, and then use the density of those to extend it to arbitrary K3 surfaces. Since in higher dimensions no dense distinguished class of hyperkähler manifolds that could play the role of Kummer surfaces is known, this new approach seems the only feasible one.

REFERENCES [1] A. Beauville – “Some remarks on Kähler manifolds with c1 = 0”, in Classification of algebraic and analytic manifolds (Katata, 1982), Progr. Math., vol. 39, Birkhäuser, 1983, p. 1–26. [2] , “Surfaces K3”, Séminaire Bourbaki, vol. 1982/1983, exp. no 601, Astérisque 105–106 (1983), p. 217–229.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

402

[3] [4] [5]

[6] [7] [8]

[9]

[10] [11]

[12] [13] [14] [15] [16] [17] [18] [19]

[20]

D. HUYBRECHTS

, “Variétés kählériennes dont la première classe de Chern est nulle”, J. Differential Geom. 18 (1983), p. 755–782. A. Beauville et al. – “Géométrie des surfaces K3: modules et périodes”, Astérisque 126 (1985), p. 1–193. F. A. Bogomolov – “Hamiltonian Kählerian manifolds”, Dokl. Akad. Nauk SSSR 243 (1978), p. 1101–1104 (in Russian); English translation: Sov. Math. Dokl. 19 (1978), 1462–1465. N. Bourbaki – Éléments de mathématique. Topologie générale. Chapitres 1 à 4, Hermann, 1971; réimpression Springer, 2007. F. E. Browder – “Covering spaces, fibre spaces, and local homeomorphisms”, Duke Math. J. 21 (1954), p. 329–336. O. Debarre – “Un contre-exemple au théorème de Torelli pour les variétés symplectiques irréductibles”, C. R. Acad. Sci. Paris Sér. I Math. 299 (1984), p. 681–684. , “Classes de cohomologie positives dans les variétés kählériennes compactes (d’après Boucksom, Demailly, Nakayama, Păun, Peternell et al.)”, Séminaire Bourbaki, vol. 2004/2005, exp. no 943, Astérisque 307 (2006), p. 199–228. J.-P. Demailly & M. Păun – “Numerical characterization of the Kähler cone of a compact Kähler manifold”, Ann. of Math. 159 (2004), p. 1247–1274. A. Douady – “Le problème des modules pour les variétés analytiques complexes (d’après Masatake Kuranishi)”, Séminaire Bourbaki, vol. 1993/1994, exp. no 775, Astérisque 277 (1995), p. 7–13. V. Gritsenko, K. Hulek & G. Sankaran – “Moduli of K3 surfaces and irreducible symplectic manifolds”, to appear in Handbook of moduli arXiv:1012.4155. M. Gross, D. Huybrechts & D. Joyce – Calabi-Yau manifolds and related geometries, Universitext, Springer, 2003. N. J. Hitchin – “Hyper-Kähler manifolds”, Séminaire Bourbaki, vol. 1991/1992, exp. no 748, Astérisque 206 (1992), p. 137–166. N. J. Hitchin, A. Karlhede, U. Lindström & M. Roček – “Hyper-Kähler metrics and supersymmetry”, Comm. Math. Phys. 108 (1987), p. 535–589. D. Huybrechts – “Compact hyperkähler manifolds”, Habilitationsschrift, Universität Essen, 1997. , “Compact hyper-Kähler manifolds: Basic results”, Invent. Math. 135 (1999), p. 63–113, erratum in Invent. Math. 152 (2003), p. 209–212. E. Markman – “On the monodromy of moduli spaces of sheaves on K3 surfaces”, J. Algebraic Geom. 17 (2008), p. 29–99. , “Integral constraints on the monodromy group of the hyperKähler resolution of a symmetric product of a K3 surface”, Internat. J. Math. 21 (2010), p. 169–223. , “A survey of Torelli and monodromy results for hyperkähler manifolds”, preprint arXiv:1101.4606.

ASTÉRISQUE 348

(1040)

GLOBAL TORELLI FOR HYPERKÄHLER MANIFOLDS

403

[21] Y. Namikawa – “Counter-example to global Torelli problem for irreducible symplectic manifolds”, Math. Ann. 324 (2002), p. 841–845. [22] K. G. O’Grady – “Desingularized moduli spaces of sheaves on a K3”, J. reine angew. Math. 512 (1999), p. 49–117. [23] , “A new six-dimensional irreducible symplectic variety”, J. Algebraic Geom. 12 (2003), p. 435–505. [24] M. Verbitsky – “A global Torelli theorem for hyperkähler manifolds”, preprint arXiv:0908.4121. [25] K. Yoshioka – “Moduli spaces of stable sheaves on abelian surfaces”, Math. Ann. 321 (2001), p. 817–884.

Daniel HUYBRECHTS Universität Bonn Mathematisches Institut Endenicher Allee 60 D–53115 Bonn, Germany E-mail : [email protected]

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

348

ASTÉRISQUE 2012

SÉMINAIRE BOURBAKI VOLUME 2010/2011 EXPOSÉS 1027-1042 (1041) Le déterminant jacobien Petru MIRONESCU

SOCIÉTÉ MATHÉMATIQUE DE FRANCE Publié avec le concours du CENTRE NATIONAL DE LA RECHERCHE SCIENTIFIQUE

Séminaire BOURBAKI 63e année, 2010-2011, no 1041, p. 405 à 424

Juin 2011

LE DÉTERMINANT JACOBIEN [d’après Brezis et Nguyen] par Petru MIRONESCU

1. INTRODUCTION Récemment, Brezis et Nguyen [14, 15] ont décrit les espaces fonctionnels permettant de définir, de manière robuste, la distribution jacobien. Leurs résultats unifient les résultats connus auparavant. Par ailleurs, [14] et [15] apportent un nouvel éclairage au théorème classique de Reshetnyak sur la compacité faible des jacobiens [51]. Dans ces travaux, un rôle important est joué par plusieurs identités faisant intervenir la structure algébrique du jacobien. De ce point de vue, ces travaux s’inscrivent dans une longue série de résultats qui utilisent de manière cruciale la structure particulière du déterminant jacobien. Dans la suite, je présenterai quelquesuns des résultats marquants dans cette direction, des travaux de Morrey [42] et Reshetnyak [51] à ceux de Brezis et Nguyen [14] et [15].

2. LE JACOBIEN DES FONCTIONS PEU RÉGULIÈRES Si u = (u1 , . . . , un ) ∈ C 1 (Ω, Rn ), avec Ω ouvert de Rn , alors son (déterminant)   jacobien est Ju = det(∇u1 , . . . , ∇un ) = det(∇u) = det (∂k ui )i,k∈J1,nK (1). Il est souvent nécessaire de considérer la quantité Ju lorsque u n’est pas C 1 . Voici trois exemples. 2.1. Applications à distorsion bornée Les applications quasiconformes furent introduites par Grötzsch [26] en 1928(2). Son point de départ est le suivant : il est impossible de représenter de manière conforme (1) (2)

∂ On utilise la notation ∂k = ∂x . k Mais pas le terme quasiconforme. Celui-ci fut proposé par Ahlfors [1] en 1935.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

406

P. MIRONESCU

un carré C sur un rectangle R qui n’est pas un carré tout en envoyant les sommets sur les sommets. Grötzsch chercha à mesurer la non-conformité (= distorsion) d’une application en considérant une représentation u : C → R qui fasse se correspondre les sommets et qui soit « la plus conforme » possible. Les applications quasiconformes sont les applications dont la non conformité est finie. En langage moderne, une application quasiconforme est u : Ω → R2 (avec Ω ⊂ R2 ouvert) telle que 1. u est un homéomorphisme ; 1,2 2. u ∈ Wloc (Ω) (3) ; 3. sup|h|≤1 |du(h)|2 ≤ K|Ju|. Le coefficient K ≥ 1 mesure la distorsion. Les représentations conformes sont des exemples d’applications quasiconformes. Un autre exemple est z 7→ |z|α−1 z, avec α > 0. Notons que, dans le cas des applications quasiconformes, parler du jacobien Ju ne pose, a priori, pas de problème : on a Ju ∈ L1loc , et donc Ju est bien défini comme distribution. C’est Lavrent’ev [36] qui, dans ses travaux sur l’équation de Beltrami ∂z f = µ∂z f (dans un ouvert de R2 ), considéra des applications à distorsion bornée ; ce sont des généralisations des applications quasiconformes dont nous donnerons la définition plus loin. C’est toujours Lavrent’ev [37] qui eut, le premier, l’intuition du rôle important que pouvaient jouer les applications quasiconformes en dimension quelconque. Reshetnyak [50] initia l’étude des applications à distorsion bornée (en toute dimension), dont la définition est : 1. u continue ; 1,n 2. u ∈ Wloc (Ω), avec Ω ⊂ Rn ouvert. Ju est de signe constant p. p. ; 3. sup|h|≤1 |du(h)|n ≤ K|Ju|. La monographie de Reshetnyak [52] donne un aperçu de la théorie des applications à distorsion bornée. Pour la théorie des applications quasiconformes et ses applications géométriques, voir le grand classique d’Ahlfors [2] ou la monographie récente [21]. 2.2. Élasticité En mécanique, une déformation est une application ϕ : Ω → R3 injective et qui préserve l’orientation (avec Ω ⊂ R3 ouvert). Sous réserve de régularité suffisante de ϕ, cette dernière condition s’écrit Jϕ > 0. À la place de ϕ, il est plus commode de travailler avec u = ϕ−Id, qui est le déplacement. Souvent, u est obtenu en minimisant l’énergie associée au problème, et il peut arriver que la régularité de u soit a priori trop faible pour définir J(Id + u) de manière robuste. À titre d’exemple, prenons 1,p W 1,p (Ω) désigne l’espace de Sobolev W 1,p (Ω) = {u ∈ Lp (Ω) ; du ∈ Lp (Ω)}. Wloc (Ω) est l’espace p p obtenu en remplaçant L par Lloc .

(3)

ASTÉRISQUE 348

(1041)

LE DÉTERMINANT JACOBIEN

407

une forme simplifiée du système de l’élasticité linéarisée(4). Dans ce cas, u est obtenu comme solution du problème    λ Z XZ µ (div v)2 + (∂i v k + ∂k v i )2 − T (v) ; v ∈ W 1,2 (Ω), tr v = 0 sur Γ0 . inf  2 Ω 4 Ω i,k

3

Ici, Ω ⊂ R est suffisamment régulier, λ, µ > 0 sont des constantes élastiques, Γ0 est une partie de mesure superficielle > 0 du ∂Ω, et T ∈ H −1 (Ω). D’après l’inégalité de Korn [34, 35], l’infimum est atteint, mais a priori u n’est pas mieux que W 1,2 (Ω). Pour un tel u, quel sens donner à la quantité J(Id + u) ? Une première idée est de la regarder comme une quantité définie p. p. Dans ce cas, le jacobien vit dans l’espace L2/3 (Ω), et en particulier il ne s’agit pas d’une distribution. Une autre approche consiste à utiliser une identité qui se trouve dans Morrey [42, Lemma 4.4.6], mais était probablement connue avant(5). Plus spécifiquement, si u est régulière, alors on a: 1 1 si n = 2 : Ju = ∂1 (u1 ∂2 u2 ) − ∂2 (u1 ∂1 u2 ) = ∂1 det(u, ∂2 u) + ∂2 det(∂1 u, u), 2 2 et, en toute dimension, n n X
1X (1) Ju = ∂k ui Cik = ∂k det(∂1 u, . . . , ∂k−1 u, u, ∂k+1 u, . . . , ∂n u), n k=1

(Cik )i,k∈J1,nK

où on a (2)

k=1

est la matrice des cofacteurs de la matrice ∇u. De manière équivalente,  X  ∂k Cik = 0, ∀ i ∈ J1, nK. div (Cik )k∈J1,nK = k

Revenons au cas de l’élasticité linéarisée. Si u est borné(6), alors on peut définir la distribution J(Id + u) à partir de (1) appliquée à Id + u. Ceci donne bien une distribution, car le membre de droite de (1) appartient à div L1 . Plus généralement, on peut définir, via la formule (1), la distribution Ju si 1,p 1 u ∈ Wloc (Ω) ∩ Lqloc (Ω), avec n−1 p + q = 1. Après intégration par parties, la définition revient à n Z X (3) Ju(ϕ) = − det(∂1 u, . . . , ∂k−1 u, u, ∂k+1 u, . . . , ∂n u) ∂k ϕ, ∀ ϕ ∈ Cc∞ (Ω). k=1

Ω

n2 2 1,pn . L’injection de Sobolev Wloc ,→ Ln (Ω) permet n+1 1,pn de définir Ju, via (1), pour u ∈ Wloc (Ω). Par exemple, en dimension 2, définir Ju

Cas particulier : soit pn =

(4)

Ce système est une approximation linéaire du problème de mixte déplacement-traction lorsque le déplacement u est petit. (5) Le cas n = 2 était connu par Poincaré [38]. Le cas général semble être dû à Kronecker. (6) Hypothèse raisonnable, car le déplacement u est censé être petit.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

408

P. MIRONESCU

1,2 comme det(∇u) donne une distribution si u ∈ Wloc , alors que (1) permet de descendre 1,4/3 jusqu’à Wloc . L’utilisation systématique de la formule (1) en élasticité est due à Ball [4]. Son article a ouvert de nombreuses voies, et plusieurs résultats dont il sera question plus loin sont directement inspirés par [4].

2.3. Cristaux liquides Un cristal liquide est un état de la matière intermédiaire entre le solide et le fluide isotrope [25]. La modélisation mathématique des cristaux liquides fait intervenir les Q-tenseurs [25] ; leur analyse est délicate, ce qui explique le succès d’un modèle très simplifié, celui d’Oseen et Frank [49, 22]. Selon ce modèle(7), un cristal liquide en équilibre est une application u : Ω → S2 (avec Ω ouvert borné régulier de R3 ) R minimisant de l’énergie de Dirichlet Ω |∇u|2 par rapport à sa propre condition aux limites, g ∈ C ∞ (∂Ω; S2 ). D’après un résultat profond de Schoen et Uhlenbeck [54, 55], u est régulière sauf en un nombre fini de points a1 , . . . , ak . Brezis, Coron et Lieb [12] ont découvert que, si u ∈ W 1,2 (Ω; S2 ) est régulière sauf en un nombre fini de points, P alors son jacobien, défini par (1), « entend » les singularités de u : Ju = 4π dj δaj . 3 Ici, la somme se fait sur les singularités aj de u, et l’entier dj est le degré topologique x de u sur une petite sphère autour de aj (8). Dans le cas particulier où u(x) = , ceci |x| avait été remarqué par Ball [4]. Par ailleurs, le déterminant det(∇u) vaut 0 presque partout (en fait, en dehors des singularités), et donc n’entend rien(9). Raison de plus de considérer que le bon jacobien est donné par (1) !

3. COMPACITÉ On doit à Reshetnyak [51] ce surprenant résultat. Théorème 3.1. — Soit (uj ) ⊂ W 1,n (Ω), avec Ω ouvert de Rn . Si uj * u, alors Juj → Ju au sens des distributions. Notons que la convergence est due à la structure spéciale du jacobien ; elle n’a pas lieu pour un terme de la forme ∂1 u1j . . . ∂n unj (10). (7)

Dans sa forme la plus simple : approximation à une constante élastique et condition d’ancrage. Par un argument d’homotopie, dj ne dépend pas de la sphère. (9) Preuve : si u ∈ C ∞ au voisinage de x, alors les dérivées ∂j u(x) sont orthogonales à u(x), ce qui s’obtient en dérivant la relation |u|2 ≡ 1. Il s’ensuit que ces dérivées ne sont pas indépendantes. On obtient det(∇u) = 0 p. p. On se servira de ce fait dans la section 5. 1 (10) Prendre n = 2, uj (x1 , x2 ) = (sin(jx1 ) cos(jx2 ), cos(jx2 ) sin(jx1 )). j (8)

ASTÉRISQUE 348

(1041)

409

LE DÉTERMINANT JACOBIEN

Démonstration. — On montre, par récurrence sur l ∈ J1, nK, que Z Z 1 l du1 ∧ . . . ∧ dul ∧ ϕ, ∀ ϕ ∈ Ln/(n−l) (Ω; Λn−l (Rn )). duj ∧ . . . ∧ duj ∧ ϕ → Ω

Ω

Le cas l = n donne la conclusion ; le cas l = 1 est clair. Le cas l = 2 est déjà générique. Pour le traiter, on part de Z Z du1j ∧ du2j ∧ ϕ = − du1j ∧ (u2j d ϕ), ∀ ϕ ∈ Cc∞ (Ω; Λn−2 (Rn )). Ω

Ω

De par le théorème de Rellich-Kondratchov, la parenthèse converge fortement dans Ln (Ω) vers u2 d ϕ, ce qui permet de conclure(11). Le même argument donne : si ∇uj * ∇u dans Lploc (Ω) et uj → u dans Lqloc (Ω), 0 1 avec n−1 p + q = 1, alors Juj → Ju dans D (Ω). Cas particulier : si p > pn , alors 1,p on a convergence sous la seule hypothèse uj * u dans Wloc . En effet, dans ce cas 1,p q l’injection Wloc ,→ Lloc est compacte. Il est nécessaire de supposer au moins une convergence forte afin de conclure. En effet, Dacorogna et Murat [18] ont construit une suite bornée dans W 1,pn (Ω), avec uj * u mais Juj 6→ Ju. Cette construction a été généralisée par Brezis et Nguyen [14]. 1 Proposition 3.2. — Si 1 ≤ p ≤ pn et n−1 p + q = 1, alors il existe u et une suite (uj ) tels que uj * u dans W 1,p ∩ Lq , mais Juj 6→ Ju.

Démonstration. — La preuve est basée sur la construction du dipôle, qui remonte à Brezis, Coron et Lieb [12]. Exemple en dimension 2 : on considère le losange La,b de sommets (0, 0), (0, 2a), (b, a), (−b, a), et la fonction ua,b qui vaut zéro en dehors de La,b et qui parcourt, sur l’intersection de La,b avec chaque droite verticale, le cercle C((1, 0); 1) une fois (à partir de l’origine) dans le sens direct et à vitesse constante. 4 En jouant avec les paramètres a, b, c → 0, on a, pour 1 < p ≤ , ua,b /c * 0 dans 3 W 1,p ∩ Lq (BR2 (0, 1)) et J (ua,b /c) → ∂1 δ0 . Retour au théorème de Reshetnyak. Sa preuve n’est pas explicite : elle ne donne pas la vitesse de convergence. Brezis et Nguyen [14] ont découvert une inégalité qui permet de retrouver en une ligne le théorème de Reshetnyak. Théorème 3.3. — Si u, v ∈ W 1,p ∩ Lq (Ω), avec Ω ⊂ Rn et (4) (11)

n−1 p

+

1 q

= 1, alors

n−1 (12) |Ju(ϕ) − Jv(ϕ)| . ku − vkLq (k∇ukL + k∇vkn−1 . p Lp )k∇ϕkL∞ n n Au vu de (1), la preuve est intuitive : on a un j → u dans L (Ω). Avec des notations naturelles,

k,j k dans Ln/(n−1) (Ω). il reste à montrer que Cn * Cn (12) On peut reformuler cette inégalité en termes de la distance de Wasserstein W1 : on a n−1 n−1 W1 (Ju, Jv) . ku − vkLq (k ∇ukL + k∇vkL p p ).

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

410

P. MIRONESCU

Démonstration. — La première égalité de (1) combinée avec l’identité det(a1 , . . . , an ) − det(b1 , . . . , bn ) =

(5)

n X

det(b1 , . . . , bk−1 , ak − bk , ak+1 , . . . , an ),

k=1

donne n Z X

(6) Ju(ϕ) − Jv(ϕ) = −

(uk − v k ) det(∇v 1 , . . . , ∇v k−1 , ∇ϕ, ∇uk+1 , . . . , ∇un ).

Ω

k=1

On conclut grâce à l’inégalité de Hölder. Un argument similaire donne n−2 |Ju(ϕ) − Jv(ϕ)| . k ∇u − ∇vkLp (k∇ukn−2 Lp + k∇vkLp )(kukLq + kvkLq )k∇ϕkL∞ .

Le théorème 3.3 peut être amélioré dans le cas p = n−1, q = ∞, mais ceci nécessite une excursion dans le monde des espaces de Hardy. À l’origine de ce détour, il y a un étonnant théorème de Müller [43]. Théorème 3.4. — Si u ∈ W 1,n (Ω), avec Ω ⊂ Rn , et si w = Ju ≥ 0, alors la fonction w ln(2 + w) est localement intégrable. Démonstration. — La preuve de Müller est basée sur un argument géométrique, plus spécifiquement sur l’inégalité suivante én/(n−1) Z ÑZ n X ¯Rn (0, 1); Rn ), (7) Ju . |Cik | , ∀ u ∈ C ∞ (B BRn (0,1) Sn−1 i,k=1

à parfum d’inégalité isopérimétrique(13).

Mais là on sort du cadre habituel des distances de Wasserstein, car Ju et Jv ne sont pas forcément des mesures. 1 (13) R Dans le cas particulier où u : B Rn (0, 1) → Ω est un C -difféomorphisme préservant l’orientation, det(∇u) n’est rien d’autre que le volume de Ω. Par ailleurs, l’intégrale de surface qui apparaît dans (7) contrôle l’aire de ∂Ω. Donc, dans ce cas particulier, (7) s’obtient bien à partir de l’inégalité isopérimétrique. Comme noté dans [43], le cas général peut être obtenu à partir de l’inégalité isopérimétrique pour les courants [19, Theorem 4.5.9 (31)], mais Müller donne aussi une preuve directe [43, Section 3]. La preuve de (7) est simple en dimension 2 ; autant la présenter. Une intégration par parties donne

Z BR2

1 Ju = 2 (0,1)

Z Å

Z

ã

u−− u S1

S1

∂u 1 ∧ ≤ ∂τ 2

Z

u − − u

1

On notera que c’est encore une intégration par parties !

ASTÉRISQUE 348

S

L∞ (S1 )

|∇u| . S1

ã2

ÅZ

Z

|∇u| S1

.

(1041)

LE DÉTERMINANT JACOBIEN

411

En utilisant (7) sur une boule B(x, ρ) et en intégrant par rapport à ρ ∈ (R, 2R), 1 avec 0 < R < dist (x, ∂Ω), on obtient, grâce à la positivité de w : 2 Ñ én/(n−1) Z Z n X
n/(n−1) (8) − w. − |Cik | . M (|∇u|n−1 )(x) ; B(x,R)

B(x,2R) i,k=1

ici, M est la fonction maximale de Hardy-Littlewood, Z M f (x) = sup − |f (y)| dy. 00

ici, ρ est un noyau régularisant et ρε (x) = ε1n ρ kf k H 1 = k M ρ f kL1 . L’un des résultats de [17] est

x ε




. H 1 (Rn ) est muni de la norme

Théorème 3.6. — Soient 1 < p, q < ∞, avec p1 + 1q = 1. Si A ∈ Lp (Rn ), B ∈ Lq (Rn ) vérifient rot A = 0 et div B = 0, alors A · B ∈ H 1 (Rn ). Démonstration. — Soient 1 < a ≤ p, 1 < b ≤ q tels que a1 + 1b = 1 + n1 . L’hypothèse rot A = 0 permet d’écrire A = ∇f . En utilisant la condition div B = 0, on obtient

(17)

Ce point de vue permet de faire le lien entre le théorème de Reshetnyak et la compacité par compensation développée par Tartar [60, 61, 62] et Murat [44, 45, 46] à partir de 1978. En effet, avec des notations naturelles, la preuve du théorème de Reshetnyak suit le schéma Aj * A, B j * B =⇒ Aj · B j → A · B, ce qui est un cas très particulier de la compacité par compensation.

ASTÉRISQUE 348

(1041)

413

LE DÉTERMINANT JACOBIEN

w := A · B = div (f B) dans D0 (Rn ). En supposant supp ρ ⊂ BRn (0, 1), on a(18) X n |w ∗ ρε (x)| = (f Bj ) ∗ ∂j (ρε )(x) j=1 å Z n Z x − y Ç 1 X ∂j ρ f Bj (y) dy f (y) − − = n+1 ε ε BRn (x,ε) j=1 BRn (x,ε) (14) é Ñ b/(b−1) (b−1)/b ÇZ å1/b Z Z 1 b |B| f − . − f − − ε BRn (x,ε) BRn (x,ε) BRn (x,ε) ÇZ . −

a

å1/b

å1/a ÇZ

|∇f |

b

|B|

−

,

BRn (x,ε)

BRn (x,ε)

la dernière ligne découlant de l’inégalité de Poincaré. On obtient (15)

M ρ w(x) . M (|∇f |a )1/a M (|B|b )1/b = M (|A|a )1/a M (|B|b )1/b .

Le théorème de la fonction maximale, combiné avec l’inégalité de Hölder donne alors k M ρ wkL1 (Rn ) . kAkLp (Rn ) kBkLq (Rn ) .

(16)

Corollaire 3.7. — Soient uj ∈ W 1,pj (Rn ), j ∈ J1, nK, avec 1 < p1 < ∞ et Pn 1 1 n j=1 pj = 1. Alors Ju ∈ H (R ). De plus, on a kJuk H .

(17)

1

n Y

k∇uj kLpj (Rn ) .

j=1

Ce corollaire implique le théorème de Müller : si Ju ≥ 0 dans un ouvert Ω ⊂ Rn , alors M (Ju) ∈ L1loc (Ω), et on conclut grâce au lemme de Stein. Avant d’aller plus loin, rappelons que, d’après un résultat célèbre de Fefferman [20], le dual de H 1 (Rn ) est BMO(Rn ). Cet espace, introduit par John [32] et étudié initialement par John et Nirenberg [33], est normé (modulo des constantes) par Z ßZ ™ |f |BMO = sup − f (x) − − f dx ; C ⊂ Rn cube . C

C

L’espace BMO(R ) est (strictement) plus grand que L∞ (Rn ). Plus précisément, on a L∞ (Rn )/R ,→ BMO(Rn ). n

Retour au théorème 3.3. Dans le cas particulier p = n − 1, q = ∞, Brezis et Nguyen [14] ont obtenu l’amélioration suivante. (18)

Encore par une intégration par parties !

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

414

P. MIRONESCU

Théorème 3.8. — Soit n ≥ 3. 1) On peut définir Ju via (3) si u ∈ W 1,n−1 ∩ BMO(Rn ). 2) On a (18)

n−1 (19) ∞ |Ju(ϕ) − Jv(ϕ)| . |u − v|BMO (k∇ukn−1 . Ln−1 + k∇vkLn−1 )k∇ϕkL

Démonstration. — On part de (6). Le corollaire 3.7 combiné avec la dualité H 1 (Rn )BMO(Rn ) donne |Ju(ϕ) − Jv(ϕ)| ≤

n X

|uk − v k |BMO k det(∇v 1 , . . . , ∇v k−1 , ∇ϕ, ∇uk+1 , . . . , ∇un )k H 1

k=1 n−1 ∞ . |u − v|BMO (k∇ukn−1 Ln−1 + k∇vkLn−1 )k∇ϕkL .

1) s’obtient de (18) en prenant v = 0 (20).

4. DÉFINITION DE Ju... ...ou l’art de l’intégration par parties(21). 1 Les formules (1) ou (3) permettent de définir Ju si u ∈ W 1,p ∩Lq , avec n−1 p + q = 1. Ceci mène naturellement à deux questions : s’il y a un cadre commun contenant tous ces cas, et s’il est possible d’aller au-delà de ces espaces. Les réponses de Brezis et Nguyen [14] font appel aux espaces de Sobolev fractionnaires (ou espaces de Slobodeskii) W s,p (Ω). Si 0 < s < 1, 1 ≤ p < ∞ et Ω est borné régulier, alors ces espaces sont normés modulo les constantes par ã1/p ÅZ Z |u(x) − u(y)|p dxdy . |u|W s,p = n+sp Ω×Ω |x − y| Théorème 4.1 ([14]). — Soit Ω ⊂ Rn un ouvert borné régulier. 1) On peut définir de manière robuste Ju pour u ∈ W 1−1/n,n (Ω). 2) L’espace W 1−1/n,n (Ω) est optimal. Traduction : l’application u 7→ Ju, définie a priori pour u ∈ C ∞ (Ω), se prolonge par continuité + densité à tout l’espace W 1−1/n,n (Ω), à valeurs D0 (Ω). Par ailleurs, ce résultat devient faux si on remplace W 1−1/n,n (Ω) par un espace de Sobolev W s,p (Ω) qui n’est pas contenu dans W 1−1/n,n (Ω). (19)

Il est possible de donner une forme « locale » (sur un domaine) de ce résultat, mais ceci ne sera pas discuté ici. (20) Si n = 2, la preuve ne marche plus. Par ailleurs, il n’est pas connu s’il est possible ou non de définir Ju pour u ∈ W 1,1 ∩ BMO(R2 ). (21) J’ai emprunté ce joli titre à Iwaniec [29].

ASTÉRISQUE 348

(1041)

415

LE DÉTERMINANT JACOBIEN

Avant de passer à la preuve, quelques commentaires. Les inégalités de GagliardoNirenberg pour les espaces de Sobolev(22) donnent (19)

1/n

1−1/n

|u|W 1−1/n,n . kukLq k∇ukLp

∀ u ∈ Cc∞ (Rn ),

,

n−1 1 + = 1, p q

à l’exception notable du cas n = 2, p = 1, q = ∞, pour lequel cette inégalité est fausse. Ainsi, l’espace W 1−1/n,n est contenu dans W 1,p ∩ Lq dans tous les cas où on sait définir le jacobien Ju via (1) (sauf le cas exceptionnel ci-dessus). Par ailleurs, l’estimation (22) qui vient avec la preuve du théorème 4.1, combinée avec (19), permet d’affiner (4). De même, il est possible de retrouver le théorème 3.8 à partir du théorème 4.1 et de l’inégalité suivante à la Gagliardo-Nirenberg (20)

1/n

1−1/n

∀ u ∈ Cc∞ (Rn ), ∀ n ≥ 3 (23).

|u|W 1−1/n,n . |u|BMO k∇ukLn−1 ,

Intuitivement, une fonction de W s,p a s dérivées dans Lp . Il existe d’autres espaces de fonctions qui s’interprètent naturellement comme espaces de fonctions ayant un nombre fractionnaire de dérivées dans Lp : les espaces de Besov ou de Bessel (ou plus généralement de Lizorkin-Triebel). L’existence du jacobien dans les espaces de Besov a été étudiée par Youssfi [63] ; dans les espaces de Bessel par Sickel et Youssfi [56, 57]. Leurs résultats, dont les preuves sont assez sophistiquées, sont des cas particuliers du théorème 4.1. Démonstration du théorème 4.1. — 1) La possibilité de définir Ju est encore une histoire d’intégration par parties. Le point de départ est une identité qui remonte à [9] (voir aussi [27]) : si U ∈ C 1 (Ω × (0, 1); Rn ) est une extension de u ∈ C 1 (Ω; Rn ), et si Φ ∈ Cc1 (Ω × [0, 1); R) est une extension de ϕ ∈ Cc1 (Ω; R), alors Z det(∇u) ϕ =

(21) Ω

n+1 XZ k=1

Dk (U )∂k Φ,

Ω×(0,1)

où Dk (U ) = (−1)n−k det(∂1 U, . . . , ∂k−1 U, ∂k+1 U, . . . , ∂n+1 U ),

∀ k ∈ J1, nK,

et Dn+1 (U ) = − det(∂1 U, . . . , ∂n U ). (22)

Dues à Gagliardo [24] et Nirenberg [48] pour le cas d’un nombre entier de dérivées, et à Jawerth [31] pour le cas général. (23) Cette inégalité semble bien connue, mais est introuvable. Pour l’espace BMO remplacé par sa variante locale bmo, elle se trouve dans Jawerth [31]. Pour une preuve de (20), voir [14].

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

416

P. MIRONESCU

On peut choisir Φ de sorte que k∇ΦkL∞ . k∇ϕkL∞ . Par ailleurs, la théorie des traces [23] permet de choisir U tel que k∇U kLn . |u|W 1−1/n,n . On trouve Z det(∇u) ϕ . |u|n 1−1/n,n k∇ϕkL∞ . W Ω

On conclut de manière standard, par densité. Par ailleurs, une identité à la (5) donne (22)

|Ju(ϕ) − Jv(ϕ)| . |u − v|W 1−1/n,n (|u|n−1 + |v|n−1 )k∇ϕkL∞ . W 1−1/n,n W 1−1/n,n

2) Dans la preuve de l’optimalité, le cas délicat est s = 1 − 1/n et p > n (24)(25). Ce cas est traité en adaptant, au cas des espaces fractionnaires, un exemple « oscillant » classique dans l’étude du jacobien, dont l’idée remonte à Tartar et qui apparaît chez Murat [45, p. 252] et Ball et Murat [5, Counterexample 7.3]. Un dernier résultat pour conclure cette partie : dans les cas où Ju peut être défini via (1), Ju est mieux qu’une distribution « quelconque » : on a Ju ∈ div L1 . Le même résultat est vrai si u ∈ W 1−1/n,n [9, 14]. La preuve se fait ainsi : on utilise (21) avec un Φ de la forme Φ(x, xn+1 ) = ϕ(x)ζ(xn+1 ). Le théorème de Fubini donne Z n Z X v k ∂k ϕ + v n+1 ϕ, Ju(ϕ) = k=1

Ω

Ω

avec v k ∈ L1 , k ∈ J1, n + 1K. Pour conclure, il suffit d’écrire v n+1 comme la divergence d’un champ L1 .

5. APPLICATIONS À VALEURS DANS UNE SPHÈRE Si u ∈ C 1 (Sn ; Sn ), alors son degré de Brouwer est donné par la formule de Kronecker Z Z (23) deg u = − det(du) = − det(∇u, u). Sn

Sn

Dans la première intégrale, u est regardée comme une application à valeurs Sn , et le déterminant est celui d’une matrice n × n ; dans la deuxième, u est considérée comme une application à valeurs Rn+1 , et le déterminant est celui d’une matrice (n + 1) × (n + 1). (24)

Les autres cas se traitent essentiellement par un argument de changement d’échelle. Petite remarque au passage : on interprète W s,p comme un espace de fonctions ayant s dérivées dans Lp . Mais cette interprétation a ses limites. Exemple : si p > q, s est entier et Ω est borné, alors W s,p (Ω) ,→ W s,q (Ω). Mais ceci est faux si s n’est pas entier [40]. En particulier, W 1−1/n,p (Ω) 6,→ W 1−1/n,n (Ω) si p > n. (25)

ASTÉRISQUE 348

(1041)

LE DÉTERMINANT JACOBIEN

417

Le thème de cette section est la façon de donner un sens à (23) ou à des quantités similaires pour des fonctions peu régulières(26). Pour commencer : via (23), on peut définir de manière robuste deg u si u ∈ W 1,n (Sn ; Rn+1 ). On peut faire un peu mieux si on part de la remarque suivante : si V ∈ C 1 (B Rn+1 (0, 1); Rn+1 ) est une extension de u, alors Z Z (24) − det(∇u, u) = − det(∇V )(27). Sn

BRn+1 (0,1)

En prenant V une extension par moyennes de u et en utilisant la théorie des traces, (24) permet de donner une définition robuste du membre de gauche de (24) si u ∈ W 1−1/(n+1),n+1 (Sn ; Rn+1 ). Mais ceci n’utilise pas le fait que u est à valeurs Sn . Nous verrons comment on peut intégrer dans les calculs l’information géométrique |u| ≡ 1 (28). Commençons par le cas des fonctions continues. Dans ce cas, on sait que le degré de Brouwer est bien défini, et stable par convergence uniforme. Il est possible de voir ceci à travers une intégration par parties. L’idée qui suit remonte à [10]. On considère une projection approchée sur Sn , c’est-à-dire une application Ψ ∈ Cc∞ (Rn ; Rn ) telle que x Ψ(x) = |x| si |x| ≥ a > 0. Soit U : B Rn+1 (0, 1) → Rn+1 une extension par moyennes de u (29). Si u ∈ C 1 , alors (24) donne Z (25) deg u = − det(∇(Ψ ◦ U )). BRn+1 (0,1)

R Proposition 5.1 ([39]). — Si u ∈ C(Sn ; Sn ), alors | det(∇(Ψ ◦ U ))| < ∞ et Z n n C(S ; S ) 3 u 7→ − det(∇(Ψ ◦ U )) BRn+1 (0,1)

est continue(30). Démonstration. — Il existe R = R(u) < 1 tel que |U (x)| ≥ a si |x| ≥ R. Si |x| > R, alors |Ψ ◦ U |2 ≡ 1, d’où det(∇(Ψ ◦ U )(x)) = 0. On trouve Z Z det(∇(Ψ ◦ U )) . |∇U |n+1 < ∞. − B n+1 (0,1) B n+1 (0,R) R

R

(26)

L’une des motivations est la possibilité d’entendre les singularités des applications à valeurs sphères, à l’instar de ce qui a été évoqué dans la section 2 pour les cristaux liquides. Ce point ne sera pas développé ici, mais voir, à ce sujet, [3] ou [10]. (27) Une autre formule de Kronecker. (28) Les résultats décrits plus loin s’adaptent en partie au cas des applications à valeurs dans une variété compacte quelconque M ; en particulier, il est possible de prendre en compte la contrainte u(x) ∈ M p. p. (29) On peut aussi prendre U l’extension harmonique de u. (30) Ce résultat permet d’obtenir en quelques lignes l’existence du degré de Brouwer.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

418

P. MIRONESCU

La deuxième partie s’obtient en notant que, si uj → u, alors il est possible de considérer un R(uj ) indépendant de j, et que 1,n+1 L1 (Sn ) 3 u 7→ U ∈ Wloc (BRn+1 (0, 1))

est continue. Un cas plus délicat est celui des fonctions VMO (Sn ; Sn ). L’espace VMO de Sarason [53] est défini comme l’adhérence de C 0 dans BMO, et est caractérisé par Z ßZ ™ lim sup − f (x) − − f dx ; C ⊂ Rn cube, |C| ≤ t = 0. t→0

C

C

Les applications de l’espace VMO (Sn ; Sn ) ont un degré ; ceci remonte à Boutet de Monvel et Gabber [41, Appendix] (et aussi à Schoen et Uhlenbeck [54]), et l’exploration systématique des propriétés de ce degré est due à Brezis et Nirenberg [16]. L’existence du degré repose sur deux ingrédients : (i) la densité de C 1 (Sn ; Sn ) dans VMO (Sn ; Sn ) ; R (ii) la continuité de u 7→ −B n+1 (0,1) det(∇(Ψ ◦ U )) dans VMO (Sn ; Sn ). R

Dans la preuve de (i), l’ingrédient essentiel est le suivant Proposition 5.2 ([16]). — Soit u ∈ VMO(Sn ; Sn ). Soit U : BRn+1 (0, 1) → Rn+1 l’extension par moyennes de u. Alors lim|x|→1 |U (x)| = 1. Démonstration. — Il est commode de redresser la sphère (de départ) et de supposer R U (x, t) = −BRn (x,t) u. On a à montrer que limt→0 |U (x, t)| = 1. Ceci suit de Z Z 1 − |U (x, t)| = − (|u(y)| − |U (x, t)|) dy ≤ − |u(y) − U (x, t)| dy → 0 BRn (x,t)

BRn (x,t)

quand t → 0. La preuve de (ii) est une variante de celle de la proposition 5.1 [39]. Motivés par l’existence du degré, Brezis et Nguyen [15] ont étudié la possibilité de définir de manière robuste le jacobien de u en tant que distribution. Il s’agit donc d’étendre l’application Z (26) C 1 (Sn ; R) 3 ϕ 7→ Ju(ϕ) = det(du)ϕ Sn 1

n

n

au-delà de la classe C (S ; S ). Je vais citer un seul de leurs résultats, simple à énoncer ; sa preuve va laisser deviner des résultats plus généraux. Théorème 5.3 ([15]). — Soit n ≥ 2. α n n 1) Si n ≥ 2 et n−1 n < α < 1, alors Ju est défini de manière robuste dans C (S ; S ). 2) Ceci n’est plus vrai dans C (n−1)/n (Sn ; Sn ).

ASTÉRISQUE 348

(1041)

LE DÉTERMINANT JACOBIEN

419

Démonstration. — 1) C’est à nouveau une question d’intégration par parties. Si V , respectivement Φ, est une extension de u, respectivement de ϕ, à BRn+1 (0, 1), et si toutes les fonctions sont C 1 , alors on a l’identité Z n+1 XZ (27) Ju(ϕ) = (n + 1) det(∇V )Φ + Dk (V )∂k Φ, BRn+1 (0,1)

k=1

BRn+1 (0,1)

où Dk (V ) = det(∂1 V, . . . , ∂k−1 V, V, ∂k+1 V, . . . , ∂n+1 V ). On utilise cette identité avec V = Ψ ◦ U . D’après la proposition 5.1, la première intégrale passe à la limite en cas de convergence uniforme. Par un argument standard, on peut conclure si les autres intégrales sont contrôlées par |u|C α . Or, ceci découle de l’inégalité Z Z Dk (V )∂k Φ ≤ |∇V |n k∂k ΦkL∞ , B n+1 (0,1) B n+1 (0,1) R

R

n−1 . n 2) Le contre-exemple est semblable à celui qui sert dans la preuve du théorème 4.1.

de la théorie des traces et de l’injection C α ,→ W 1−1/n,n , valable si α >

En examinant de plus près cette preuve, on devine que, pour n ≥ 2, un cadre fonctionnel convenable pour définir la distribution jacobienne est 1−1/n,n n n (31) VMO ∩ W (S ; S ) . En effet, la convergence dans VMO permet de mimer la preuve de la proposition 5.1 et de passer à la limite la première intégrale dans (27). La convergence dans W 1−1/n.n combinée avec la théorie des traces permet de passer à la limite les autres intégrales. Par ailleurs, il est possible de remplacer la convergence dans VMO par une condition plus faible assurant (avec les notations de la preuve de la proposition 5.1) l’existence d’un R indépendant de la suite (uj ). Pour plus de détails, voir [15, Theorem 1]. À nouveau, le résultat obtenu est essentiellement optimal : on ne peut pas affaiblir les hypothèses de convergence. Le lecteur trouvera dans [15] des estimations bien plus fines ; en particulier, des R estimations très délicates de la quantité | det(∇(Ψ ◦ U ))|. Ces estimations ont comme point de départ une preuve non publiée de Bourgain [8, Section 4] et ont été développées dans [11, 47]. Avant de citer un résultat précis, donnons l’esprit de ces estimations. La théorie des traces donne, si u ∈ W 1−1/(n+1),n+1 (Sn ; Sn ) : Z Z ZZ |u(x) − u(y)|n+1 n+1 (28) | det(∇(Ψ ◦ U ))| . |∇U | . dxdy. |x − y|2n BRn+1 (0,1) Sn ×Sn Considérons le cas d’une fonction u proche, en norme L∞ , d’un point P ∈ Sn . Pour une telle fonction, on a |Ψ ◦ U | ≡ 1, et donc det(∇(Ψ ◦ U )) ≡ 0, alors que le membre (31)

0 . Si n = 1, ce cadre devient VMO ∩ B, où B est l’espace de Besov B1,1

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

420

P. MIRONESCU

de droite de (28) peut être arbitrairement grand, car il voit les petites oscillations de u. Ceci donne l’idée qu’une bonne estimation ne doit tenir compte que des grandes oscillations de u. En voici une. Théorème 5.4 ([11]). — Si u ∈ C(Sn ; Sn ), alors Z ZZ (29) | det(∇(Ψ ◦ U ))| . |u(x)−u(y)|>1

BRn+1 (0,1)

1 dxdy. |x − y|2n

La preuve de [11] montre qu’il est possible de remplacer la contrainte √ √ |u(x) − u(y)| > 1 par |u(x) − u(y)| > c pour tout c < 2. Mais la valeur 2 n’est pas optimale ; la valeur optimale(32) a été trouvée par Nguyen dans le très joli article [47]. Remerciements L’auteur remercie H. Brezis pour des discussions stimulantes concernant [14], [15].

RÉFÉRENCES [1] L. V. Ahlfors – Zur Theorie der Überlagerungsflächen, Acta Math. 65 (1935), p. 157–194. , Lectures on quasiconformal mappings, 2e éd., University Lecture Series, [2] vol. 38, Amer. Math. Soc., 2006. [3] G. Alberti, S. Baldo & G. Orlandi – Functions with prescribed singularities, J. Eur. Math. Soc. (JEMS) 5 (2003), p. 275–311. [4] J. M. Ball – Convexity conditions and existence theorems in nonlinear elasticity, Arch. Rational Mech. Anal. 63 (1976/77), p. 337–403. [5] J. M. Ball & F. Murat – W 1,p -quasiconvexity and variational problems for multiple integrals, J. Funct. Anal. 58 (1984), p. 225–253. [6] C. Bennett – Intermediate spaces and the class L log+L , Ark. Mat. 11 (1973), p. 215–228. [7] C. Bennett & K. Rudnick – On Lorentz-Zygmund spaces, Dissertationes Math. (Rozprawy Mat.) 175 (1980). [8] J. Bourgain, H. Brezis & P. Mironescu – Complements to the paper « Lifting, degree and the distributional Jacobian revisited » , http://math. univ-lyon1.fr/~mironescu/2.pdf, 2004. , H 1/2 maps with values into the circle : minimal connections, lifting, and [9] the Ginzburg-Landau equation, Publ. Math. IHÉS 99 (2004), p. 1–115. (32)

» Cette valeur est

ASTÉRISQUE 348

2+

2 . n+1

(1041)

[10] [11] [12] [13] [14] [15] [16] [17] [18] [19] [20] [21] [22] [23]

[24] [25] [26] [27] [28]

LE DÉTERMINANT JACOBIEN

421

, Lifting, degree, and distributional Jacobian revisited, Comm. Pure Appl. Math. 58 (2005), p. 529–551. J. Bourgain, H. Brezis & H.-M. Nguyen – A new estimate for the topological degree, C. R. Math. Acad. Sci. Paris 340 (2005), p. 787–791. H. Brezis, J.-M. Coron & E. H. Lieb – Harmonic maps with defects, Comm. Math. Phys. 107 (1986), p. 649–705. H. Brezis, N. Fusco & C. Sbordone – Integrability for the Jacobian of orientation preserving mappings, J. Funct. Anal. 115 (1993), p. 425–431. H. Brezis & H.-M. Nguyen – The Jacobian determinant revisited, à paraître dans Invent. Math. , On the distributional Jacobian of maps from SN into SN in fractional Sobolev and Hölder spaces, à paraître dans Ann. Math. H. Brezis & L. Nirenberg – Degree theory and BMO. I. Compact manifolds without boundaries, Selecta Math. (N.S.) 1 (1995), p. 197–263. R. Coifman, P.-L. Lions, Y. Meyer & S. Semmes – Compensated compactness and Hardy spaces, J. Math. Pures Appl. 72 (1993), p. 247–286. B. Dacorogna & F. Murat – On the optimality of certain Sobolev exponents for the weak continuity of determinants, J. Funct. Anal. 105 (1992), p. 42–62. H. Federer – Geometric measure theory, Die Grund. Math. Wiss., Band 153, Springer New York Inc., New York, 1969. C. Fefferman – Characterizations of bounded mean oscillation, Bull. Amer. Math. Soc. 77 (1971), p. 587–588. A. Fletcher & V. Markovic – Quasiconformal maps and Teichmüller theory, Oxford Graduate Texts in Math., vol. 11, Oxford Univ. Press, 2007. F. C. Frank – On the theory of liquid crystals, Discuss. Faraday Soc. 25 (1958). E. Gagliardo – Caratterizzazioni delle tracce sulla frontiera relative ad alcune classi di funzioni in n variabili, Rend. Sem. Mat. Univ. Padova 27 (1957), p. 284– 305. , Ulteriori proprietà di alcune classi di funzioni in più variabili, Ricerche Mat. 8 (1959), p. 24–51. P.-G. de Gennes & J. Prost – The physics of liquid crystals, Intern. Series of Monographs in Physics, Oxford Univ. Press, 1993. H. Grötzsch – Über einige Extremalprobleme der konformen Abbildung. I, II, Berichte Leipzig 80 (1928), p. 367–376, 497–502. F. Hang & F. Lin – A remark on the Jacobians, Commun. Contemp. Math. 2 (2000), p. 35–46. T. Iwaniec – p-harmonic tensors and quasiregular mappings, Ann. of Math. 136 (1992), p. 589–624.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

422

[29]

[30] [31] [32] [33] [34]

[35]

[36] [37] [38] [39]

[40] [41]

[42] [43] [44] [45]

P. MIRONESCU

, Null Lagrangians, the art of integration by parts, in The interaction of analysis and geometry, Contemp. Math., vol. 424, Amer. Math. Soc., 2007, p. 83–102. T. Iwaniec & C. Sbordone – On the integrability of the Jacobian under minimal hypotheses, Arch. Rational Mech. Anal. 119 (1992), p. 129–143. B. Jawerth – Some observations on Besov and Lizorkin-Triebel spaces, Math. Scand. 40 (1977), p. 94–104. F. John – Rotation and strain, Comm. Pure Appl. Math. 14 (1961), p. 391–413. F. John & L. Nirenberg – On functions of bounded mean oscillation, Comm. Pure Appl. Math. 14 (1961), p. 415–426. A. Korn – Solution générale du problème d’équilibre dans la théorie de l’élasticité, dans le cas où les efforts sont donnés à la surface, Ann. Fac. Sci. Toulouse Sci. Math. Sci. Phys. 10 (1908), p. 165–269. , Über einige Ungleichungen, welche in der Theorie der elastischen und elektrischen Schwingungen eine Rolle spielen, Bulletin International, Cracovie Akademie Umiejet, Classe des sciences mathématiques et naturelles (1909), p. 705–724. M. A. Lavrent’ev – Sur une classe de représentations continues, Mat. Sb. 42 (1935), p. 407–424. , Sur un critère différentiel des transformations homéomorphes des domaines à trois dimensions, Dokl. Akad. Nauk SSSR 20 (1938), p. 241–242. J. Mawhin – Communication personnelle. P. Mironescu – Sobolev maps on manifolds : degree, approximation, lifting, in Perspectives in nonlinear partial differential equations, Contemp. Math., vol. 446, Amer. Math. Soc., 2007, p. 413–436. P. Mironescu & W. Sickel – En préparation. A. Boutet de Monvel-Berthier, V. Georgescu & R. Purice – A boundary value problem related to the Ginzburg-Landau model, Comm. Math. Phys. 142 (1991), p. 1–23. C. B. Morrey, Jr. – Multiple integrals in the calculus of variations, Grundl. Math. Wiss., vol. 130, Springer New York, Inc., New York, 1966. S. Müller – Higher integrability of determinants and weak convergence in L1 , J. reine angew. Math. 412 (1990), p. 20–34. F. Murat – Compacité par compensation, Ann. Scuola Norm. Sup. Pisa Cl. Sci. 5 (1978), p. 489–507. , Compacité par compensation. II, in Proceedings of the International Meeting on Recent Methods in Nonlinear Analysis (Rome, 1978), Pitagora, 1979, p. 245–256.

ASTÉRISQUE 348

(1041)

[46]

LE DÉTERMINANT JACOBIEN

423

, Compacité par compensation : condition nécessaire et suffisante de continuité faible sous une hypothèse de rang constant, Ann. Scuola Norm. Sup. Pisa Cl. Sci. 8 (1981), p. 69–102.

[47] H.-M. Nguyen – Optimal constant in a new estimate for the degree, J. Anal. Math. 101 (2007), p. 367–395. [48] L. Nirenberg – On elliptic partial differential equations, Ann. Scuola Norm. Sup. Pisa 13 (1959), p. 115–162. [49] C. W. Oseen – Beiträge zur Theorie anisotroper Flüssigkeiten, Arkiv för matematik, astronomi och fysik 19A (1925), p. 1–19. [50] J. G. Rešetnjak – Estimates of the modulus of continuity for certain mappings, Sibirsk. Mat. Ž. 7 (1966), p. 1106–1114. [51]

, Mappings with bounded distortion as extremals of integrals of Dirichlet type, Sibirsk. Mat. Ž. 9 (1968), p. 652–666.

[52] Y. G. Reshetnyak – Space mappings with bounded distortion, Translations of Mathematical Monographs, vol. 73, Amer. Math. Soc., 1989. [53] D. Sarason – Functions of vanishing mean oscillation, Trans. Amer. Math. Soc. 207 (1975), p. 391–405. [54] R. Schoen & K. Uhlenbeck – A regularity theory for harmonic maps, J. Differential Geom. 17 (1982), p. 307–335. [55]

, Boundary regularity and the Dirichlet problem for harmonic maps, J. Differential Geom. 18 (1983), p. 253–268.

[56] W. Sickel & A. Youssfi – The characterisation of the regularity of the Jacobian determinant in the framework of potential spaces, J. London Math. Soc. 59 (1999), p. 287–310. [57]

, The characterization of the regularity of the Jacobian determinant in the framework of Bessel potential spaces on domains, J. London Math. Soc. 60 (1999), p. 561–580.

[58] E. M. Stein – Note on the class L log L, Studia Math. 32 (1969), p. 305–310. [59] E. M. Stein & G. Weiss – On the theory of harmonic functions of several variables. I. The theory of H p -spaces, Acta Math. 103 (1960), p. 25–62. [60] L. Tartar – Compensated compactness and applications to partial differential equations, in Nonlinear analysis and mechanics : Heriot-Watt Symposium, Vol. IV, Res. Notes in Math., vol. 39, Pitman, 1979, p. 136–212. [61]

, The compensated compactness method applied to systems of conservation laws, in Systems of nonlinear partial differential equations (Oxford, 1982), NATO Adv. Sci. Inst. Ser. C Math. Phys. Sci., vol. 111, Reidel, 1983, p. 263–285.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

424

[62]

P. MIRONESCU

, Remarks on oscillations and Stokes’ equation, in Macroscopic modelling of turbulent flows (Nice, 1984), Lecture Notes in Phys., vol. 230, Springer, 1985, p. 24–31.

[63] A. Youssfi – Bilinear operators and the Jacobian-determinant on Besov spaces, Indiana Univ. Math. J. 45 (1996), p. 381–396.

Petru MIRONESCU Institut Camille Jordan Université Claude Bernard Lyon 1 Bâtiment Braconnier 21, avenue Claude Bernard F–69622 Villeurbanne Cedex E-mail : [email protected]

ASTÉRISQUE 348

348

ASTÉRISQUE 2012

SÉMINAIRE BOURBAKI VOLUME 2010/2011 EXPOSÉS 1027-1042 (1042) Existence globale et scattering pour les solutions de masse finie de l’équation de Schrödinger cubique en dimension deux Fabrice PLANCHON

SOCIÉTÉ MATHÉMATIQUE DE FRANCE Publié avec le concours du CENTRE NATIONAL DE LA RECHERCHE SCIENTIFIQUE

Séminaire BOURBAKI 63e année, 2010-2011, no 1042, p. 425 à 447

Juin 2011

EXISTENCE GLOBALE ET SCATTERING POUR LES SOLUTIONS DE MASSE FINIE DE L’ÉQUATION DE SCHRÖDINGER CUBIQUE EN DIMENSION DEUX [d’après Benjamin Dodson, Rowan Killip, Terence Tao, Monica Vişan et Xiaoyi Zhang] par Fabrice PLANCHON

INTRODUCTION Nous considérons l’équation de Schrödinger nonlinéaire ( i∂t u + ∆u = ±|u|2 u, (1) u(x, 0) = u0 (x) posée dans l’espace entier R2 . Dans le cas où la nonlinéarité est précédée d’un signe + (resp. −), l’équation est dite défocalisante (resp. focalisante). Cette équation apparaît de manière naturelle dans de nombreux modèles physiques, par exemple comme approximation paraxiale d’une équation des ondes en lien avec la focalisation d’un faisceau laser (voir par exemple [43]). On retiendra que, dans ce cadre, la variable « temporelle » est en fait une variable spatiale dans la direction de propagation de l’onde, et que les variables du laplacien sont les variables (spatiales) transverses. L’équation (1) n’a qu’un lointain rapport avec la réalité physique du modèle (en particulier, le milieu de propagation n’a pas de raison d’être homogène et spatialement infini), mais la description des propriétés qualitatives de ses éventuelles solutions aura été une préoccupation constante depuis les années 1970. Plus généralement, nous pouvons considérer le même type d’équation où la nonlinéarité devient ±|u|p−1 u et où la dimension d’espace est quelconque, x ∈ Rn , n ≥ 1. Deux exposants occupent une place particulière, reliée aux lois de conservation que nous détaillerons ultérieurement : p = 1 + 4/n, qui est une généralisation en dimension quelconque du cas cubique (on parlera de l’équation de masse critique) ; et p = 1 + 4/(n − 2), qui correspond à l’équation d’énergie critique (p = 5 pour n = 3). Il est virtuellement impossible d’être exhaustif sur les résultats connus, tant ils sont nombreux et variés, aussi nous citons ceux qui nous sont apparus les plus directement reliés avec l’objet de ce séminaire, dans un ordre qui n’est pas chronologique :

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

426

F. PLANCHON

– le problème de Cauchy pour l’équation (1) est bien posé, localement en temps, pour des données initiales u0 (x) de masse finie : Z |u0 (x)|2 dx = ku0 k22 < +∞. (2) R2

(3)

Le temps d’existence dépend du profil de la donnée et non simplement de sa norme, et la solution est globale pour une masse petite ([7]). Ce type de résultat (perturbation de la solution nulle) repose sur les propriétés dispersives du flot linéaire, et en particulier l’estimation de Strichartz ([42]), Z k exp(it∆)u0 k4L4 = | exp(it∆)u0 |4 dxdt . ku0 k42 . t,x

R3

– Dans le cas défocalisant, lorsque la donnée initiale u0 est non seulement de masse finie mais possède également un gradient et un moment dans L2x , Z Z Z (4) ku0 k2Σ = |u0 (x)|2 dx + |∇x u0 (x)|2 dx + |x|2 |u0 (x)|2 dx < +∞, R2

R2

R2

la solution est globale dans Σ et diffuse à l’infini (phénomène de scattering) : il existe deux états u± ∈ Σ tels que lim ku(x, t) − exp(it∆)u± kΣ = 0.

(5)

t→±∞

Remarquons que dans Σ comme plus tard dans L2x , on a l’asymptotique suivante de la solution linéaire, qui résulte de la factorisation du propagateur de Schrödinger : 2

lim k exp(it∆)f − (4πit)−1 ei|x|

(6)

/(4t)

t→±∞

fˆ(x/(2t))k = 0 ,

où fˆ désigne la transformée de Fourier de f . – Dans le cas focalisant, l’existence de solutions particulières, les solitons, de type u(x, t) = eit Q(x) où Q est la solution de masse minimale de l’équation stationnaire (où 3 serait remplacé par 1 + 4/n en dimension quelconque) − Q + ∆Q + Q3 = 0

(7)

montre qu’il ne peut y avoir diffusion en toute généralité. En fait, un argument élémentaire de viriel ([25]) montre qu’il y a explosion en temps fini pour une large classe de données dans Σ (en outre, une transformation explicite du soliton, la transformation pseudo-conforme, [21], produit une solution explosive en t = 0 avec vitesse 1/t). Néanmoins, si la masse initiale est strictement inférieure à celle de Q, il y a existence globale ([47]). Enfin, il existe un ensemble de données de masse légèrement supérieure à celle de Q qui explose suivant la loi dite du log-log ([37] et références incluses, ou [6] pour une présentation synthétique),

ASTÉRISQUE 348

(1042)

NLS DE MASSE CRITIQUE

427

un résultat majeur reposant sur une quantification dynamique du phénomène d’explosion. À ce bref historique, il convient de rajouter que, dans le cadre perturbatif des données de petite masse, un corollaire direct de la théorie de Cauchy est la diffusion dans L2x , avec Z ±∞ ± (8) u = u0 ± exp(−is∆)(|u|2 u)(s) ds, 0

où l’intégrale est bien définie dans L2x comme conséquence directe d’une propriété d’intégrabilité en espace-temps de la solution, Z |u|4 (x, t) dxdt < +∞. (9) R3

Dès lors, il est naturel de conjecturer – dans le cas défocalisant, l’équation (1) est globalement bien posée pour des données de masse finie quelconque et il y a diffusion dans L2x ; – dans le cas focalisant, le même résultat est vrai si la masse est strictement inférieure à la masse de l’état fondamental Q. Remarque 0.1. — Le problème de Cauchy à basse régularité n’est pas ici une fin en soi ; l’étude des propriétés de l’opérateur de scattering, celui qui à u− associe u+ , présente un intérêt bien supérieur. Cependant, une théorie de Cauchy robuste, dans un cadre fonctionnel bien adapté aux invariances naturelles de l’équation, est un préalable inévitable. Plus généralement, la conjecture s’étendait à toutes les nonlinéarités de masse critique en dimension quelconque ; les premiers résultats ont été obtenus dans le cadre défocalisant, pour des données radiales et n ≥ 3, [44]. Ensuite est venu le cas radial en dimension deux, [31] traitant indifféremment les cas focalisant et défocalisant ; enfin, toujours sous l’hypothèse radiale, [33] traite le cas focalisant en dimension n ≥ 3. Ces derniers travaux trouvent une grande partie de leur inspiration dans la conjecture similaire formulée pour l’équation dite d’énergie critique. Dans ce cadre (par exemple l’équation à nonlinéarité quintique en dimension trois d’espace), [5] montre l’existence globale et la diffusion pour des données radiales dans le cas défocalisant, en introduisant une méthode d’induction sur l’énergie ; [12] obtient le cas général (non radial) en remplaçant l’utilisation d’estimations espace-temps à poids de [35] par des estimations espace-temps d’auto-corrélation de la densité de masse ([11]). L’utilisation d’estimations espace-temps de type Morawetz restreint l’étude au cas défocalisant. Le cas focalisant est abordé pour la première fois, dans le

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

428

F. PLANCHON

cadre radial, dans [27], qui bouleverse la méthodologie existante en introduisant une méthode de concentration-compacité : – en tirant parti d’une robuste théorie de Cauchy (autorisant des perturbations autour de « grandes » solutions sous contrôle) et des décompositions en profils liées au défaut de compacité de l’injection de Sobolev critique (dans [29] pour l’énergie critique, voir également [38] puis [30] et [3] pour l’équation de Schrödinger de masse critique), on construit une solution minimale qui ne diffuse pas ; – on montre (dans un esprit proche de [38]) qu’une telle solution minimale est compacte modulo le groupe de symétrie naturel associé à l’équation (ce qui permet, entre autre, de ré-extraire une solution minimale « normalisée » dans les paramètres de défaut de compacité). – On montre qu’une telle solution minimale ne peut être que la solution nulle (un théorème de rigidité de type Liouville) ; c’est généralement dans cette étape (cruciale !) que les restrictions éventuelles (caractère radial) apparaissent, en lien avec les outils ad hoc utilisés pour obtenir une contradiction. Remarque 0.2. — Il convient de remarquer que c’est d’abord pour l’équation d’énergie critique pour les ondes défocalisantes que les décompositions en profils ont montré leur utilité dans l’étude de l’asymptotique à grand temps ([1],[2]). Dans le cadre des ondes défocalisantes, l’existence globale et la diffusion avaient été préalablement établies par des arguments directs reposant sur la vitesse finie de propagation et sur une formule de monotonie à la Morawetz (qui, contrairement au cas de Schrödinger, est valide pour des données d’énergie finie). A contrario, la résolution de la conjecture ad hoc dans le cas focalisant dans [28] donne une autre illustration de l’efficacité de la méthode concentration/compacité/rigidité. Cette révolution dans la façon d’aborder ces questions est en grande partie responsable de la résolution à un rythme accéléré de la conjecture précitée. Dans [45] (voir également [30] pour un résultat antérieur, en dimensions n = 1, 2, contenant déjà l’important concept de solution minimale et de sa compacité), l’existence et la compacité des solutions minimales pour l’équation de Schrödinger de masse critique est établie en toute dimension, et les auteurs effectuent de plus une normalisation des solutions minimales qui ne laisse plus que le théorème de rigidité à démontrer pour mettre un point final à l’histoire. Cependant, un ingrédient manquait encore en basse dimension (n = 1, 2), où les estimations de type Morawetz précédemment citées n’existaient pas (et l’utilisation du viriel peu exploré). Un analogue de [11] est alors démontré simultanément et indépendamment dans [40] et [8] (voir aussi [9] pour une estimation moins précise, pour n = 1, mais finalement suffisante) ; l’identité

ASTÉRISQUE 348

(1042)

NLS DE MASSE CRITIQUE

429

de [40] est d’ailleurs remarquée comme étant invariante de Galilée, ce qui va s’avérer essentiel dans le cadre du problème de masse critique. Remarque 0.3. — Soulignons que l’approche entièrement quantitative de [12], qui avait introduit le concept de solutions presque minimales, peut également être implémentée dans le cas présent (une esquisse de preuve est présentée dans [45]), et fournirait ainsi des bornes explicites sur la norme globale d’espace-temps comme fonction de la masse, au prix d’une complexité d’implémentation d’un ordre de magnitude supérieur. La question des bornes optimales en terme de la masse (ou de l’énergie dans le cas d’énergie critique) reste ouverte et appelle le développement d’autres outils quantitatifs. Théorème 0.4 ([17, 16, 15, 18]). — Pour tout n ≥ 1, l’équation ( i∂t u + ∆u = ±|u|1+4/n u, (10) u(x, 0) = u0 (x) est globalement bien posée pour des données u0 ∈ L2 (Rn ) dans le cas défocalisant, et sous l’hypothèse d’une masse strictement inférieure à celle de l’état fondamental Q 2+4/n dans le cas focalisant. De plus, la norme Lt,x de la solution est finie et il y a alors diffusion dans L2x . Comme indiqué précédemment, il s’agit principalement de démontrer le théorème de rigidité montrant que la solution minimale n’existe pas. Pour cela, on procède en plusieurs étapes, de difficultés inégales : – on requalifie les scénarios possibles pour la solution minimale, en cherchant à travailler avec une quantité adaptée aux inégalités de Morawetz bilinéaires. Il se trouve que cette même quantité donne un bon contrôle du moment cinétique (le paramètre associé au défaut de compacité lié à la transformation de Galilée), crucial pour les troncatures en fréquence ; ces troncatures sont rendues nécessaires par l’absence de formule de monotonie compatible avec l’échelle de la masse critique (le viriel qui nous sera utile fait intervenir le moment cinétique et a donc une échelle située à mi-chemin entre masse et énergie) ; – on établit un bon contrôle sur les projections haute fréquence de la solution minimale. En dimension n ≥ 3, les normes de Strichartz y suffisent, mais en dimension n = 1, 2, l’absence de normes L2t conduit à y substituer des espaces atomiques (généralisations des espaces conormaux) dont les atomes sont des solutions linéaires sur des intervalles de temps disjoints arbitraires, développés par exemple dans [34]. Cette étape utilise bien sûr de façon cruciale la compacité de la solution minimale, qui la rend petite à l’infini (en espace et en

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

430

F. PLANCHON

fréquence) indépendamment du temps. Par ailleurs, les deux premières étapes sont insensibles au caractère focalisant ou défocalisant, la seconde utilisant autant que possible la théorie de Cauchy perturbative, par des découpages temporels appropriés ; – on exclut le premier scénario possible (celui d’une solution minimale de type soliton) à l’aide d’une version tronquée aux basses fréquences de l’inégalité de Morawetz bilinéaire. Le contrôle des termes de commutation est rendu possible par l’étape précédente ; – on exclut le second scénario possible (solution minimale dont le paramètre d’échelle tend vers l’infini) en montrant que la solution minimale est en fait d’énergie finie, puis que cette énergie tend vers zéro. – Le cas focalisant est essentiellement traité pareillement, à l’exception des inégalités de Morawetz bilinéaires, qui nécessitent l’introduction d’un nouveau poids, dépendant du temps, pour pallier l’absence de coercivité.

1. SOLUTIONS MINIMALES L’objet de cette section préliminaire est la mise en place du schéma général de preuve. Historiquement, les solutions minimales en dimension deux ont été construites dans [30], qui contient également une description des propriétés de compacité (on trouvera dans [24] un exemple antérieur où la minimalité d’une propriété dynamique du flot, l’explosion, engendre une forme de compacité sur l’équation critique). Ici, nous suivons essentiellement [45], écrit spécifiquement avec la résolution de la conjecture en point de mire. Cependant, le lecteur peu familier de ces réductions pourra consulter avec profit [32] pour une excellente introduction au sujet, rassemblant de façon cohérente et très pédagogique des éléments dispersés au fil de références variées. 1.1. Digression : invariances et quantités conservées Avant d’aborder la construction de solutions minimales, il est utile de définir la notion de criticalité, en lien avec l’invariance d’échelle naturelle : si u est une solution de (1), alors kukL2 = kuλ kL2 , où ( u0 (x) −→ u0,λ (x) = λu0 (λx) (11) u(x, t) −→ uλ (x, t) = λu(λx, λ2 t). C’est cette invariance d’échelle qui explique que le temps d’existence fourni par la construction d’une solution locale ne peut dépendre de la seule masse, ainsi que la terminologie « équation de masse critique ».

ASTÉRISQUE 348

(1042)

NLS DE MASSE CRITIQUE

431

Remarque 1.1. — De la même façon, en dimension n ≥ 3, l’exposant p = 1+4/(n−2) correspond à un changement d’échelle laissant la norme L2x du gradient spatial de la solution invariante : l’équation est dite « d’énergie critique ». L’équation (1) possède naturellement une structure hamiltonienne, associée au hamiltonien suivant : Z 1 1 (12) E(u) = |∇u|2 ± |u|4 dx 4 R2 2 quantité à laquelle nous référerons désormais comme étant l’énergie. Cette énergie est donc naturellement conservée par le flot (défini sur des données d’énergie finie), et naturellement associée à l’invariance par translation temporelle (de générateur infinitésimal ∂t , expliquant qu’on retrouve la conservation d’énergie en multipliant l’équation par ∂t u ¯ et en intégrant). L’invariance de translation spatiale conduit naturellement à la conservation du moment cinétique, Z Z (13) J(u) = i u∇¯ u−u ¯∇u dx = 2 Im(¯ u∇u) dx , R2

R2

et l’invariance par changement (global) de phase conduit à la conservation de la masse, Z (14) M (u) = |u|2 dx . R2

Le changement d’échelle critique (11) préserve donc une quantité conservée : l’explosion éventuelle dans L2x ne peut donc se produire que par un phénomène de concentration (voir [41] pour une introduction pédagogique très complète aux phénomènes d’explosion/concentration dans le cas focalisant). Enfin, l’invariance de Galilée (traduisant l’invariance de l’équation dans deux référentiels en mouvement à vitesse constante l’un par rapport à l’autre) jouera un rôle important par la suite, car elle préserve également la masse : si u est une solution, (15)

2

uξ0 (t, x) = eix·ξ0 −it|ξ0 | u(t, x − 2ξ0 t)

est également une solution. Un calcul simple montre que l’on peut ainsi recaler le moment cinétique à zéro, au moins formellement. Remarque 1.2. — L’invariance d’échelle et l’invariance galiléenne jouent naturellement un rôle important dans le cadre de la masse critique ; mais elles ne préservent pas l’énergie, et l’intervention du temps dans la transformation rend plus difficile l’identification d’un bon substitut aux quantités conservées. On verra ultérieurement que les quantités ad hoc sont du type viriel et le contrôle qu’elles (et leurs pendants convenablement tronqués) fournissent est crucial dans la preuve du théorème de rigidité.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

432

F. PLANCHON

1.2. Mesurer la dispersion : Strichartz et au-delà La résolution du problème de Cauchy (localement en temps) pour des données de masse finie repose sur le résultat désormais classique suivant (où pour un indice quelconque γ ∈ [1, +∞], γ 0 = γ/(γ − 1)) : Proposition 1.3 ([42],[22]). — Soient u0 (x) ∈ L2 (R2 ), t ∈ R et u(x, t) solution 0 0 de l’équation i∂t u + ∆u = F (x, t), de donnée initiale u0 , avec F ∈ Lρt Lγx . Alors u ∈ Lpt Lqx et (16)

kukLpt Lqx . (ku0 k2 + kF kLρ0 Lγ 0 ) , t

x

où les couples (p, q) et (ρ, γ) sont des paires admissibles, i.e. 2/p+2/q = 2/ρ+2/γ = 1, p, ρ > 2. Remarque 1.4. — Le résultat est vrai en dimension n quelconque, en changeant la numérologie des paires admissibles : 2/p + n/q = n/2, avec p ≥ 2 si n ≥ 3 et p ≥ 4 si n = 1 (l’important cas p = 2 est un résultat ultérieur de [26]). En fait, la paire (4, 4) (et sa paire duale) suffit pour résoudre localement en temps l’équation cubique à donnée de masse finie par point fixe. Ces estimations admettent deux généralisations de nature légèrement différente. La première ([39]) consiste à remplacer la norme L2x à droite de (16) par une norme plus faible, pour obtenir Ñ é 14 X , (17) k exp(it∆)u0 kL4t,x . kˆ u0 kXp = |Q|4/p−2 kˆ u0 k4Lp (Q) Q

où la somme s’effectue sur l’ensemble des partitions par les cubes dyadiques de toute taille et 12/7 < p < 2. Cette estimation est directement reliée à la conjecture de restriction en analyse harmonique, et même une esquisse de preuve dépasse largement le cadre de cet exposé. Une modification convenable de cette estimation (déjà utilisée telle quelle dans [38]) est utile dans la construction de la solution minimale. La seconde amélioration ([4] et indépendamment [19]) montre que l’interaction de deux solutions localisées à des fréquences différentes, u = exp(it∆)u0 et v = exp(it∆)v0 , est très petite (18)

kuvk2L2 . M/N ku0 k22 kv0 k22 , t,x

où le support de la transformée de Fourier de u0 (resp. v0 ) est à l’extérieur (resp. à l’intérieur) de la boule de rayon N (resp. M ) et M  N , entiers dyadiques. Par partition du support de u ˆ0 , il suffit de considérer le cas où ce support est en fait une boule de taille M à distance N du support de vˆ0 . La preuve d’origine procède ensuite par un argument explicite sur la convolution de deux mesures supportées par le paraboloïde τ = ±|ξ|2 . Donnons une preuve qui n’utilise pas l’expression explicite

ASTÉRISQUE 348

(1042)

433

NLS DE MASSE CRITIQUE

de la solution : par rotation, on fixe le centre de la boule support de u ˆ0 sur l’axe ξ1 , et une application du théorème 2.3 de [40] à nos solutions linéaires, avec un poids ρ(x − y) = |x1 − y1 |, nous donne (19) Z +∞ Z |∂1 (u(x1 , x2 )¯ v (x1 , y2 ))|2 dx1 dx2 dy2 dt . k∂1 u0 k2 kv0 k32 + k∂1 v0 k2 ku0 k32 . −∞

R3

Le support fréquentiel de u et v étant préservé par le flot, par convolution des supports nous aurons sur celui de u¯ v, 1

1

1

1

1

1

|∂1 | ∼ N = N 2 (N/M ) 2 M 2 ∼ N 2 (N/M ) 2 |∂2 | 2 1

et en prenant la trace x2 = y2 (ce qui consomme la demi-dérivée |∂2 | 2 ), on retrouve (18) après effacement de la dérivée ∂1 restante à droite et à gauche. Remarque 1.5. — Ces deux améliorations sont également valides en dimension quelconque, avec une numérologie adaptée : par exemple, (18) aura un facteur M n−1 /N à droite (ce qui correspond à n − 1 traces réduisant les variables transverses dans l’argument précédent). L’estimation (18) sera cruciale pour étudier le comportement des hautes fréquences de la solution minimale, permettant de traiter l’influence des basses fréquences comme un terme de perturbation. 1.3. Décompositions en profils L’introduction des décompositions en profils nécessite quelques notations : appelons Γ l’opérateur Å ã 1 ix·ξ0 −it|ξ0 |2 x − x0 − 2ξ0 t t Γu(x, t) = e u , 2 , λ λ λ et notons γ = (λ, x0 , ξ0 ) les paramètres d’échelle et de translation spatiale et fréquentielle. On peut alors montrer que, pour toute séquence vn bornée dans L2x , il existe une suite de profils (φj )j≥0 , des suites (γn,j )j et (tn,j )j telles que, à l’extraction d’une sous-suite (en n) près, (20)

vn (x) =

J X

Γn,j eitn,j ∆ φj + wn,J ,

j=0

où – la suite de fonctions (wn,J )n,J ainsi définie est un reste, au sens où lim

lim keit∆ wn,J kL4t,x = 0 ;

J→+∞ n→+∞

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

434

F. PLANCHON

– pour tous les j ≤ J, exp(−itn,j ∆)Γ−1 n,j wn,J tend faiblement vers zéro, et sup lim J

n→+∞

kvn k22 −

J X


kφj k22 − kwn,J k22 = 0 ;

j=0

0

– à j 6= j fixés, les suites (γn,j )n , (tn,j )n et (γn,j 0 )n , (tn,j 0 )n sont orthogonales : soit les échelles divergent, λn,j 0 λn,j + = +∞, n→+∞ λn,j 0 λn,j lim

soit λn,j = λn,j 0 et les positions divergent, lim λn,j |ξn,j − ξn,j 0 | +

n→+∞

|xn,j − xn,j 0 | + |tn,j − tn,j 0 | = +∞. λn,j

La preuve d’une telle décomposition peut s’effectuer de diverses façons : suivant [45] (ou [32]), les divers paramètres γn,j et tn,j sont extraits de manière itérative, en utilisant une version convenablement modifiée de (17), Ç å 41 (21)

3/4

k exp(it∆)vkL4t,x . kvk2

sup |Q|−3/22 k exp(it∆)vQ kL11/2 Q

,

t,x

où les Q sont toujours les cubes dyadiques et vQ la troncature en fréquences de v sur le support de Q. On utilise alors la proposition suivante (une inégalité de Strichartz renversée, suivant la terminologie de [32], déjà présente sous des formes plus ou moins précises dans [4] et [38]) : Proposition 1.6. — Considérons (vn )n une suite de L2x , convergeant vers M en norme L2x et telle que la norme L4t,x de exp(it∆)vn converge vers η. Alors, quitte à extraire une sous-suite, il existe une fonction φ ∈ L2x , des suites (γn )n et (tn )n telles que – la suite (exp(−itn ∆)Γ−1 n vn )n tend faiblement vers φ ; 1 3 – la masse de φ n’est pas nulle : kφk2 ≥ CM 4 η 4 ; – la suite des normes Strichartz de vn − Γn exp(itn ∆)φ a une limite supérieure strictement plus petite que η (de l’ordre de η(1 − (η/M )c ). Admettons cette proposition : la décomposition en profils en résulte en l’appliquant itérativement, à la suite initiale pour extraire le premier profil φ0 , puis à la suite vn − Γn,0 exp(itn,0 ∆)φ0 , et ainsi de suite. On montre ensuite que les paramètres associés aux profils sont bien orthogonaux (le lecteur pourra consulter [32] où l’ensemble de la procédure est très bien détaillé sur plusieurs exemples de complexité croissante).

ASTÉRISQUE 348

(1042)

NLS DE MASSE CRITIQUE

435

La proposition elle-même repose en grande partie sur l’utilisation de (21) : l’inégalité garantit l’existence d’une suite de cubes dyadiques Qn dont la limite inférieure est plus grande que η 4 /M 3 . Puis on fixe l’échelle λn = |Qn |−1/2 , et ξn est choisi comme le centre du cube Qn . Par convexité de la norme de Lebesgue (entre L4t,x et L∞ t,x ) la norme k exp(it∆)vn,Qn kL11/2 est majorée par (une puissance de) la t,x

norme L∞ t,x et on extrait finalement tn et xn tels que η 3/4 /M 11 . lim inf n→+∞ |(exp(itn ∆)vn,Qn )(xn )| . On obtient alors φ par compacité faible, et l’on montre ensuite que φ a une masse non triviale (conséquence directe de la dernière limite inférieure évaluée), puis que les normes Strichartz de la suite vn − φn ont bien été diminuées (en appliquant une version convenable du lemme de Fatou). Remarquons par ailleurs que l’on peut toujours, quitte à déphaser les profils φj , supposer que les suites (tn,j )n convergent vers {0, ±∞}. On peut alors effectuer une décomposition en profils de la suite de solutions nonlinéaires associées aux données vn , en associant à chaque profil φj précédent une solution maximale Uj de l’équation nonlinéaire : si la suite (tn,j )n converge vers zéro, Uj est la solution de (1) de donnée initiale Uj (0) = φj ; si la suite (tn,j )n converge vers ±∞, Uj est la solution de (1) qui diffuse vers Vj = exp(it∆)φj lorsque t → ±∞. On montre alors une décomposition de la solution nonlinéaire, essentiellement par un argument perturbatif autour de la somme des profils nonlinéaires, pour obtenir un (x, t) =

(22)

J X

Γn,j Uj + eit∆ wn,J + rnJ ,

j=0

où le reste rn,J tend vers zéro dans la norme Strichartz (comme exp(it∆)wn,J ) mais 2 également dans L∞ t Lx . Remarque 1.7. — Deux remarques s’imposent sur cette décomposition nonlinéaire : comme la somme des carrés des masses des données des profils nonlinéaires converge, ces profils nonlinéaires sont globaux au-delà d’un certain rang. D’autre part, le découplage des profils entre eux induit que la taille de l’intervalle d’existence de la solution nonlinéaire un est au moins égale à celle du plus petit intervalle d’existence des profils qui explosent en temps fini. 1.4. Existence et propriétés d’une solution minimale Nous sommes maintenant armés pour démontrer l’existence d’une solution minimale, lorsque l’on suppose que la conjecture est fausse, c’est-à-dire que la quantité suivante est finie : Mc = sup{M tel que ku0 k2 = M =⇒ u existe globalement et kukL4t,x 0 ∃R tel que |f (x)|2 dx + |fˆ(ξ)|2 dξ < ε . |x|>R

|ξ|>R

On pourra donc dans la suite remplacer la propriété de compacité montrée dans le théorème 1.9 par la propriété plus quantitative suivante : il existe une fonction (le module de continuité) R telle que, pour tout t ∈ I, Z Z (24) |u(x, t)|2 dx + |ˆ u(ξ, t)|2 dξ < ε . |x−x(t)|>R(ε)λ(t)

|ξ−ξ(t)|>R(ε)/λ(t)

Cette fonction R peut même être prise indépendante de la solution minimale (à ce stade, nous avons de toute façon achevé nos réductions par extractions successives).

2. RIGIDITÉ : UN THÉORÈME DE TYPE LIOUVILLE Une première (relative) innovation de [17] consiste à requalifier les scénarios possibles pour la solution minimale construite dans la section précédente. Dans le cadre radial (qui fixe x(t) = ξ(t) = 0), [31] considère trois scénarios : √ – une explosion en t = 0 de type autosimilaire, λ(t) ∼ t ; – une solution de type soliton, λ(t) = 1 et I = R ; – une double cascade de fréquences revenant vers zéro, c’est-à-dire que λ(t)−1 ≤ 1 et limt→±∞ λ(t)−1 = 0.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

438

F. PLANCHON

Cette alternative est remplacée par la suivante (où l’on raisonne sur les temps positifs uniquement) : – une solution de type soliton, vérifiant Z +∞ λ(t)−3 dt = +∞ ; (25) 0

– une solution de type cascade de fréquences vers zéro, telle que Z +∞ (26) λ(t)−3 dt < +∞ . 0

Le premier cas sera exclu par un argument de type Morawetz (ce qui est cohérent avec le fait que, dans le cas défocalisant, il n’y a pas de soliton, et que dans le cas focalisant les solitons ont une masse trop grande), et le second cas sera exclu en montrant dans un premier temps que la solution minimale est d’énergie finie, puis que cette énergie (qui est de l’ordre de λ(t)−1 ) tend vers zéro, ce qui est en contradiction avec sa conservation. Remarque 2.1. — L’idée de relier une quantité apparaissant à gauche dans l’inégalité d’interaction de Morawetz à une intégrale divergente du paramètre d’échelle λ(t) est R bien sûr déjà présente dans [12], où, pour des raisons d’échelle, c’est J λ(t) dt qui est utilisé. Nous terminons cette introduction par quelques propriétés utiles reliant le paramètre d’échelle λ(t) à diverses intégrales de u : dans [31], il est montré que pour une solution minimale sur un intervalle J, Z Z Z −2 4 (27) λ (t) dt . |u| dxdt . 1 + λ−2 (t) dt . J

J

J

Pour la suite, il va s’avérer crucial de montrer que Z X (28) λ−3 (t) dt ∼ λ−1 (Jk ), J

Jk

R où J est partitionné en intervalles Jk sur lesquels Jk |u|4 dxdt ∼ ε0 et λ(t) ∼ λ(Jk ) (on peut montrer, voir [31], que λ(t) varie peu sur un tel intervalle Jk , ou, si on a choisi λ constant par morceaux, qu’il peut être pris constant sur Jk ). En utilisant (24) et ε = M 2 /1000, on a ÇZ å2 4 2 M /16 ≤ |u| .M λ2 (t)kuk44 , |x−x(t)|≤R(ε)λ(t)

qui donne immédiatement la moitié (gauche) des équivalences précédentes. Dans l’autre sens, si t− désigne le début de l’intervalle Jk , le flot linéaire issu de t− vérifie

ASTÉRISQUE 348

(1042)

NLS DE MASSE CRITIQUE

439

k exp(i(t − t− )∆)u(t− )k44 > ε0 /2 (sinon la norme L4t,x sur Jk de u ne peut atteindre ε0 ), donc par injection de Sobolev k exp(i(t − t− )∆)P|ξ−ξ− |R(ε20 )λ−1 (t− ) u(t− )kL4J

k

L4x

. kP|ξ−ξ− |>R(ε20 )λ−1 (t− ) u(t− )k2 ≤ ε20 .

Enfin, un argument similaire à celui utilisé pour contrôler les variations de λ(t) permet de contrôler le mouvement de ξ(t) : dans [32] par exemple, il est montré que si J = [0, T ], X (29) |ξ(T ) − ξ(0)| . λ−1 (Jk ) . k

Expliquons brièvement pourquoi : il suffit de traiter un intervalle Jk = [t− , t+ ]. Sur un tel intervalle, le terme nonlinéaire est négligeable devant le terme linéaire. En choisissant ε = M 2 /1000 dans (24), on conclut que les deux boules λ(t− )|ξ − ξ(t− )| ≤ R(ε)/1000 et λ(t+ )|ξ − ξ(t+ )| ≤ R(ε)/1000 doivent se recouvrir par conservation de la masse, donc |ξ(t+ ) − ξ(t− )| ≤ λ−1 (Jk ) et l’on conclut en sommant. Une bonne partie des arguments qui vont suivre reposeront sur ce va-et-vient entre arguments de type perturbatifs (plus ou moins élaborés, notamment par des découpages temporels soigneux en fonction du paramètre λ) et utilisation judicieuse de la compacité. Pour exclure les deux scénarios de l’alternative présentée auparavant, nous utiliserons une estimation sur de longs intervalles de temps, qui constitue la seconde innovation (la plus importante) de [17, 16, 15, 18]. C’est l’objet de la prochaine section.

2.1. Strichartz en temps grand et substituts Dans cette section, nous allons procéder comme si, dans la proposition 1.3, le choix extrêmal p = ρ = 2 était autorisé (« double endpoint », pour lequel un contre-exemple existe). Ceci permet d’esquisser la preuve d’une estimation en temps long sans les complications techniques inhérentes à n ≥ 3 (la nonlinéarité n’est plus polynomiale) ou à n = 1, 2 (il convient de remplacer les espaces de Strichartz par des espaces conormaux, convenablement ajustés aux paramètres dynamiques λ−1 (t) et ξ(t)).

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

440

F. PLANCHON

Nous allons donc « montrer » l’estimation suivante : si PΓ désigne une projection spectrale lissée sur l’ensemble de fréquences définie par la condition Γ, Z (30) ∀ε ∃N0 tel que N > N0 , K > 0 tel que λ−3 (t) dt ∼ K J Ä ä 1 =⇒ kP|ξ−ξ(t)|>N ukL2J L∞ .M ε (K/N ) 2 + 1 . Cette estimation est montrée d’abord pour ε = 1 = N0 , par induction : en utilisant Duhamel sur l’intervalle J (qui est compact) et kuk4L4 L4 = C(J), il est clair que J l’estimation est vraie pour N < K/C(J). Abrégeons la notation pour la projection P|ξ−ξ(t)|>N u = u>N et u − u>N = uN par u>ηN avec un η < 1. Subdivisons J en intervalles Jk comme précédemment, en les ajustant pour que sur chaque Jk , |ξ(t1 ) − ξ(t2 )| ≤ λ−1 (Jk )/(100γ), où γ est fixé, petit : – si λ−1 (Jk ) > γN , l’intervalle Jk est « mauvais ». D’après (28), il y a au plus 2K/(γN ) « mauvais » intervalles (et, comme 1 . λ(t), si N > 2/γ, il n’y a plus de « mauvais » intervalles !). Sur de tels intervalles, on se contente de kukL2J L∞ .M 1 ; k

– si λ−1 (Jk ) ≤ γN , l’intervalle est « bon » (un exercice de dénombrement montre qu’il y a au plus un nombre de bons intervalles égal au nombre de mauvais intervalles plus 1 + K/(γN )). Comme |ξ − ξ(t)| reste de l’ordre de γN  N , on peut dans la projection P|ξ−ξ(t)|>N remplacer le ξ(t) par ξ(t− ) en remplaçant N par N/2. En décomposant u = u>ηN + uN kL2J L∞ . kP|ξ−ξ(t− )|>N/2 u(t− )k2 + ku>ηN u2>ηN kL2J L1 + ku>ηN u2ηN kL2J L∞ . Reste un terme, pour lequel on va utiliser le gain bilinéaire issu de (18), ou plutôt sa 4/3 version inhomogène ([46]) où l’on autorise un terme source F ∈ Lt,x : si −1 λ (Jk ) ≤ γηN , on peut geler le ξ(t) et écrire ku>ηN u2ηN/2 u|ξ−ξ(t− )|ηN/2 (t− )k2 +k(i∂t + ∆)u>ηN/4 kL4/3 L4/3 ) ; JK x ηN

finalement, si λ−1 (Jk ) ≥ γηN , on majore simplement par M ku|ξ−ξ(t)|>ηN kL∞ L2 , Jk et l’on remarque qu’il y a au plus K/(γηN ) intervalles de ce type grâce à (28). En sommant les divers termes et en tenant compte des nombres respectifs d’intervalles de divers types, on obtient l’inégalité d’induction désirée ; il reste ensuite à établir la

ASTÉRISQUE 348

(1042)

NLS DE MASSE CRITIQUE

441

petitesse pour N grand, indépendamment de K. On revisite alors les majorations précédentes, pour remarquer que si N et K sont pris assez grands, il n’y a plus de mauvais intervalles, et que les autres termes comportent tous un facteur qui tend 4/3 convenablement vers zéro : en particulier, le terme LJk L4/3 de droite dans la dernière inégalité tend vers zéro pour N grand par compacité et réutilisation d’un argument de découpage spectral de la nonlinéarité. Remarque 2.2. — Lorsque n ≥ 3, les estimations du type (18) ne sont plus adaptées à l’échelle L2x : il est nécessaire d’utiliser en outre la compacité en espace pour séparer le terme u R0 λ(Jk ) traité par compacité pour obtenir la petitesse. Comme indiqué précédemment, il est nécessaire en dimension un et deux de remplacer la norme Strichartz par une norme de type conormale (voir [20] pour une excellente présentation), comme celle introduite dans [34], adaptée à la taille de l’intervalle temporel considéré. La complexité de la preuve de l’estimation d’induction augmente alors considérablement (notamment le dénombrement des intervalles temporels de divers type) et nous renvoyons à [16] et [15] pour les détails. Enfin, il convient de remarquer que l’ensemble de cette section s’applique indifféremment au cas focalisant ou défocalisant, la nature des preuves étant principalement perturbative. 2.2. Morawetz bilinéaire et le premier scénario Nous souhaitons maintenant exclure une solution minimale de type soliton, et nous allons présenter une preuve valide dans le cas défocalisant, qui repose sur les estimations de Morawetz bilinéaires. Rappelons d’abord en quoi consiste l’identité du viriel : si ρ(x) est une fonction (qu’on choisit le plus souvent convexe !) de poids, R on définit le viriel associé par Mρ (t) = ρ(x)|u|2 (x, t) dx, et un calcul élémentaire conduit à (31) Z Z Z Z d d2 4 M (t) = 2Im u ¯ ∇u · ∇ρ = 4 Hess(ρ)(∇u, ∇¯ u ) ± |u| ∆ρ − |u|2 ∆2 ρ . ρ dt2 dt Le choix classique est ρ(x) = |x|2 , qui conduit à (5) puisque alors (31) donne le contrôle de kuk4L4 après intégration en temps (dans le cas défocalisant. Dans le cas t,x

focalisant, on en déduit l’existence de solutions explosives en temps fini). Le choix ρ(x) = |x| correspond à l’identité de [35], de type Morawetz (si n ≥ 3 pour éviter un bilaplacien trop singulier), cruciale dans [5] (où elle est convenablement localisée en temps) ; la dépendance à l’origine x = 0 à travers le poids est en partie responsable de la restriction au cas radial. Dans [11] est introduite une nouvelle famille d’estimations

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

442

F. PLANCHON

où (31) est appliqué au produit tensoriel u(x)v(y) de deux solutions, et où le poids choisi est ρ(x, y) = |x − y|, ce qui permet d’obtenir une estimation invariante par translation spatiale, un aspect crucial dans [12]. Ces nouvelles estimations, d’abord limitées à n ≥ 3, seront ensuite généralisées en petites dimensions dans [8] et [40]. Remarque 2.3. — Le lecteur pourra consulter [23] pour une présentation élégante de l’argument introduit par [40], de portée plus générale que celui de [8], comme illustré par (19). Dans cette section, l’estimation utilisée résulte indifféremment des deux approches, qui étendent naturellement [11]. Notons également que ces estimations bilinéaires permettent de redémontrer les résultats de diffusion pour l’équation d’énergie sous-critique et de masse sur-critique démontrés à l’origine dans [22], un travail pionnier utilisant des arguments délicats d’induction sur la décroissance en temps des solutions (ne donnant pas de bornes explicites sur les normes en espace-temps). Supposons pour un moment que notre solution minimale est d’énergie finie (qui, dans le cas défocalisant, contrôle la norme k∇uk2 ). L’estimation de Morawetz bilinéaire s’écrit (en dimension deux, avant intégration en temps) Z Z Z 1 d (32) ||∇x | 2 (|u|2 )|2 dx + (+) dx = ∇(|x − y|) · (Im(¯ u∇x u)(x)|u|2 (y) dt − Im(¯ u∇y u)(y)|u|2 (x) dxdy , où le terme (+) à gauche est positif grâce au caractère défocalisant. Par des manipulations assez proches de celles conduisant à (28), on peut montrer que Z Z Z 1 (33) (K ≈) λ−3 (t) dt . ||∇x | 2 (|u|2 )|2 dxdt J

J

qui est naturellement consistant avec l’échelle du problème. On en déduit immédiatement une contradiction avec (32) appliquée sur l’intervalle J, puisqu’il vient K . 1. Cependant, la solution minimale n’a pas de raison particulière de posséder de la régularité additionnelle. Il faut donc localiser spectralement l’estimation (32), en remplaçant u par u|ξ−ξ(t)| 1/4), ces derniers localisant déjà spectralement l’estimation de Morawetz bilinéaire. 2.3. Gain de régularité et le second scénario Nous allons maintenant exclure le second scénario : ici, nous pouvons considérer le cas focalisant et le cas défocalisant de la même façon, le point essentiel étant de montrer un gain de régularité qui assure que la solution est d’énergie finie et même légèrement mieux. Supposons que cette régularité supplémentaire est vraie : alors (directement ou en utilisant Gagliardo-Nirenberg dans le cas focalisant) on en déduit que la norme H˙ 1 de u est très petite pour t grand (dans ce scénario, λ−1 (t) → 0 à l’infini), puis, en utilisant la localisation de la masse par compacité, que cette même masse est également très petite, ce qui contredit l’hypothèse de masse minimale M . Il reste à montrer le gain de régularité : on utilise (30), en oubliant la petitesse ; par interpolation avec la masse, on peut obtenir que (34)

1

ku|ξ−ξ(t)|>N kL4t,x . (K/N ) 4 + 1 .

Pour tirer profit de cette estimation, nous allons utiliser une propriété déjà cruciale dans la résolution de la conjecture dans les cas radiaux : la solution minimale « ignore » sa partie linéaire, au sens où Z +∞ (35) u(t) = i ei(t−s)∆ (|u|2 u)(s) ds, t

où l’égalité s’entend comme limite faible dans L2x si l’on remplace +∞ par un grand paramètre temporel ([45] ou [32]) ; il suffit de tester u(t) contre une solution linéaire et d’utiliser l’asymptotique de celle-là (voir (6)) ainsi que la croissance de λ(t) vers l’infini. On reprend alors le même type de manipulation effectuée auparavant dans le régime N < K, mais en utilisant la formule (35) pour progressivement améliorer l’estimation, jusqu’à obtenir une régularité Sobolev s > 1.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

444

F. PLANCHON

2.4. Variation sur le viriel bilinéaire et le cas focalisant Seul le premier de nos deux cas, celui d’une solution minimale de type soliton, a été exclu en utilisant l’inégalité de Morawetz d’interaction (32). Il n’est pas difficile d’observer, comme le fait [18], que le changement de signe induit dans cette estimation par le cas focalisant n’est pas récupérable par Gagliardo-Nirenberg, faute de constantes numériques ajustées. Dans [18], l’inégalité bilinéaire est remplacée par une généralisation adéquate, dépendante du temps à travers une fonction de poids ρ(x − y) qui fait intervenir le temps à travers le paramètre λ(t), ou plutôt une version lissée de celui-là. La fonction ρ est donc tronquée dynamiquement en fonction du temps, et les termes de reste produits par cette procédure dynamique sont ignorés grâce à la compacité. Il s’agit, au moins dans l’esprit, d’une version bilinéaire des arguments de viriel utilisés par [27] pour l’équation d’énergie critique. L’introduction de ce nouveau viriel bilinéaire adapté au cas focalisant est l’innovation essentielle de [18], le reste de la preuve (hors dérivation du viriel et vérification que les termes temporels ne produisent pas d’effets indésirables, ce qui est fait dans [17] et [16]) relevant des travaux précédents.

RÉFÉRENCES [1] H. Bahouri & P. Gérard – Optique géométrique généralisée pour les ondes non linéaires critiques, in Séminaire sur les Équations aux Dérivées Partielles, 1996–1997, École Polytech., 1997, p. exp. no VIII, 17. [2]

, High frequency approximation of solutions to critical nonlinear wave equations, Amer. J. Math. 121 (1999), p. 131–175.

[3] P. Bégout & A. Vargas – Mass concentration phenomena for the L2 -critical nonlinear Schrödinger equation, Trans. Amer. Math. Soc. 359 (2007), p. 5257– 5282. [4] J. Bourgain – Refinements of Strichartz’ inequality and applications to 2D-NLS with critical nonlinearity, Int. Math. Res. Not. 1998 (1998), p. 253–283. [5]

, Global wellposedness of defocusing critical nonlinear Schrödinger equation in the radial case, J. Amer. Math. Soc. 12 (1999), p. 145–171.

[6] N. Burq – Explosion pour l’équation de Schrödinger au régime du « log log » (d’apres Merle-Raphael), Séminaire Bourbaki, vol. 2005/2006, exp. no 953, Astérisque 311 (2007), p. 33–53. [7] T. Cazenave & F. B. Weissler – The Cauchy problem for the critical nonlinear Schrödinger equation in H s , Nonlinear Anal. 14 (1990), p. 807–836.

ASTÉRISQUE 348

(1042)

NLS DE MASSE CRITIQUE

445

[8] J. Colliander, M. Grillakis & N. Tzirakis – Tensor products and correlation estimates with applications to nonlinear Schrödinger equations, Comm. Pure Appl. Math. 62 (2009), p. 920–968. [9] J. Colliander, J. Holmer, M. Vişan & X. Zhang – Global existence and scattering for rough solutions to generalized nonlinear Schrödinger equations on R, Commun. Pure Appl. Anal. 7 (2008), p. 467–489. [10] J. Colliander, M. Keel, G. Staffilani, H. Takaoka & T. Tao – Almost conservation laws and global rough solutions to a nonlinear Schrödinger equation, Math. Res. Lett. 9 (2002), p. 659–682. [11]

, Global existence and scattering for rough solutions of a nonlinear Schrödinger equation on R3 , Comm. Pure Appl. Math. 57 (2004), p. 987–1014.

[12]

, Global well-posedness and scattering for the energy-critical nonlinear Schrödinger equation in R3 , Ann. of Math. 167 (2008), p. 767–865.

[13] J. Colliander & T. Roy – Bootstrapped Morawetz estimates and resonant decomposition for low regularity global solutions of cubic NLS on R2 , Commun. Pure Appl. Anal. 10 (2011), p. 397–414. [14] B. Dodson – Improved almost Morawetz estimates for the cubic nonlinear Schrödinger equation, Commun. Pure Appl. Anal. 10 (2011), p. 127–140. [15]

, Global well-posedness and scattering for the defocusing, L2 -critical, nonlinear Schrödinger equation when d = 1, prépublication arXiv:1010.0040.

[16]

, Global well-posedness and scattering for the defocusing, L2 -critical, nonlinear Schrödinger equation when d = 2, prépublication arXiv:1006.1375.

[17]

, Global well-posedness and scattering for the defocusing, L2 -critical, nonlinear Schrödinger equation when d ≥ 3, prépublication arXiv:0912.2467.

[18]

, Global well-posedness and scattering for the mass critical nonlinear schrödinger equation with mass below the mass of the ground state, prépublication arXiv:1104.1114.

[19] P. Gérard – Conférence en l’honneur de L. Peletier, Université d’Orsay, 1998. [20] J. Ginibre – Le problème de Cauchy pour des EDP semi-linéaires périodiques en variables d’espace (d’après Bourgain), Séminaire Bourbaki, vol. 1994/95, exp. no 796, Astérisque 237 (1996), p. 163–187. [21] J. Ginibre & G. Velo – Existence of solutions and scattering theory for the nonlinear Schrödinger equation, in Proceedings of the International Conference on Operator Algebras, Ideals, and their Applications in Theoretical Physics (Leipzig, 1977), Teubner, 1978, p. 320–334. [22]

, Scattering theory in the energy space for a class of nonlinear Schrödinger equations, J. Math. Pures Appl. 64 (1985), p. 363–401.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013

446

[23]

[24]

[25] [26] [27]

[28] [29] [30] [31]

[32] [33]

[34] [35] [36]

[37] [38]

F. PLANCHON

, Quadratic Morawetz inequalities and asymptotic completeness in the energy space for nonlinear Schrödinger and Hartree equations, Quart. Appl. Math. 68 (2010), p. 113–134. L. Glangetas & F. Merle – A geometrical approach of existence of blow up solutions in H 1 for nonlinear Schrödinger equation, rapport no R95031, Laboratoire d’Analyse Numérique, Univ. Pierre et Marie Curie, 1995. R. T. Glassey – On the blowing up of solutions to the Cauchy problem for nonlinear Schrödinger equations, J. Math. Phys. 18 (1977), p. 1794–1797. M. Keel & T. Tao – Endpoint Strichartz estimates, Amer. J. Math. 120 (1998), p. 955–980. C. E. Kenig & F. Merle – Global well-posedness, scattering and blow-up for the energy-critical, focusing, non-linear Schrödinger equation in the radial case, Invent. Math. 166 (2006), p. 645–675. , Global well-posedness, scattering and blow-up for the energy-critical focusing non-linear wave equation, Acta Math. 201 (2008), p. 147–212. S. Keraani – On the defect of compactness for the Strichartz estimates of the Schrödinger equations, J. Differential Equations 175 (2001), p. 353–392. , On the blow up phenomenon of the critical nonlinear Schrödinger equation, J. Funct. Anal. 235 (2006), p. 171–192. R. Killip, T. Tao & M. Vişan – The cubic nonlinear Schrödinger equation in two dimensions with radial data, J. Eur. Math. Soc. (JEMS) 11 (2009), p. 1203– 1258. R. Killip & M. Vişan – Nonlinear Schrödinger equations at critical regularity, Clay Lecture Notes (2008). R. Killip, M. Vişan & X. Zhang – The mass-critical nonlinear Schrödinger equation with radial data in dimensions three and higher, Anal. PDE 1 (2008), p. 229–266. H. Koch & D. Tataru – A priori bounds for the 1D cubic NLS in negative Sobolev spaces, Int. Math. Res. Not. 2007 (2007), Art. ID rnm053, 36. J. E. Lin & W. A. Strauss – Decay and scattering of solutions of a nonlinear Schrödinger equation, J. Funct. Anal. 30 (1978), p. 245–263. Y. Martel & F. Merle – Stability of blow-up profile and lower bounds for blow-up rate for the critical generalized KdV equation, Ann. of Math. 155 (2002), p. 235–280. F. Merle & P. Raphaël – On universality of blow-up profile for L2 critical nonlinear Schrödinger equation, Invent. Math. 156 (2004), p. 565–672. F. Merle & L. Vega – Compactness at blow-up time for L2 solutions of the critical nonlinear Schrödinger equation in 2D, Int. Math. Res. Not. 1998 (1998), p. 399–425.

ASTÉRISQUE 348

(1042)

NLS DE MASSE CRITIQUE

447

[39] A. Moyua, A. Vargas & L. Vega – Restriction theorems and maximal operators related to oscillatory integrals in R3 , Duke Math. J. 96 (1999), p. 547– 574. [40] F. Planchon & L. Vega – Bilinear virial identities and applications, Ann. Sci. Éc. Norm. Supér. 42 (2009), p. 261–290. [41] P. Raphaël – Stability and blow up for the non linear Schrödinger equation, Clay Lecture Notes (2008). [42] R. S. Strichartz – Restrictions of Fourier transforms to quadratic surfaces and decay of solutions of wave equations, Duke Math. J. 44 (1977), p. 705–714. [43] C. Sulem & P.-L. Sulem – The nonlinear Schrödinger equation, self-focusing and wave collapse, Applied Mathematical Sciences, vol. 139, Springer, 1999. [44] T. Tao, M. Vişan & X. Zhang – Global well-posedness and scattering for the defocusing mass-critical nonlinear Schrödinger equation for radial data in high dimensions, Duke Math. J. 140 (2007), p. 165–202. [45]

, Minimal-mass blowup solutions of the mass-critical NLS, Forum Math. 20 (2008), p. 881–919.

[46] M. Vişan – The defocusing energy-critical nonlinear Schrödinger equation in higher dimensions, Duke Math. J. 138 (2007), p. 281–374. [47] M. I. Weinstein – Nonlinear Schrödinger equations and sharp interpolation estimates, Comm. Math. Phys. 87 (1982/83), p. 567–576.

Fabrice PLANCHON Université de Nice Sophia-Antipolis Laboratoire J.-A. Dieudonné UMR CNRS 6621 Parc Valrose F–06108 Nice Cedex 02 E-mail : [email protected]

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2013