Théorie des fonctions holomorphes de plusieurs variables: Une introduction 9782868833792

Citation preview

Théorie des fonctions holomorphes de plusieurs variables

CHEZ LE MÊME ÉDITEUR

Dans la même collection

Opérateurs pseudo-différentiels et théorème de Nash-Moser, par G. Alinhac. 1991, 192 pages. Géométrie algébrique, par D. Perrin. 1995,316 pages. Groupes quantiques. Introduction au point de vue formel, par A. Guichardet. 1995, 164 pages. Photons et atomes. Introduction à l'électrodynamique quantique, par C. Cohen-Tannoudji, J. Dupont-Roc, G. Grynberg. 1987,422 pages. Processus d'interactions entre photons et atomes, par C. Cohen-Tannoudji, J. DupontRoc, G. Grynberg. nouveau tirage, 1988,648 pages. Hydrodynamique physique, par E. Guyon, J. P. Hulin, L. Petit. 1991,520 pages. Éléments de chimie quantique à l'usage des chimistes, par J. L. Rivail. 1994, 2e édition, 456 pages. Astrophysique 528 pages.

:

méthodes physiques de l'observation, par P. Léna. 1996, 2e édition,

Théorie des fonctions holomorphes de plusieurs variables

Christine Laurent-Thiébaut Professeur à l'université Joseph Fourier (Grenoble 1)

S A V O I R S

A C T U E L S

InterÉditions / CNRS Éditions

f DANGER I

Ce logo a pour objet d'alerter le lecteur sur la menace que représente pour l'avenir de l'écrit, tout particulièrement dans le domaine universitaire, le développement massif d u photocopillage >). Cette pratique qui s'est généralisée, notamment dans les établissements d'enseignement, provoque une baisse brutale des achats de livres, au point que la possibilité même pour les auteurs de créer des œuvres nouvelles et de les faire éditer correctement est aujourd'hui menacée. Nous rappelons donc que la reproduction et la vente sans autorisation, ainsi que le recel, sont passibles de poursuites. Les demandes d'autorisation de photocopier doivent être adressées à l'éditeur ou au Centre français d'exploitation du droit de copie : 20, rue des Grands-Augustins,75006 Paris. Tél. : O1 44 07 47 70. (t

PHOTOCOPILLAGE . TUELELIVRE

O 1997, InterÉditions, 5, rue Laromiguière, 75241 Paris Cedex 05

et CNRS Éditions, 20/22, rue Saint-Armand, 75015 Paris. Tous droits d e traduction, d'adaptation et d e reproduction par tous procédés, réservés pour tous pays. Toute reproduction ou représentation intégrale ou partielle, par quelque procédé que ce soit des pages publiées dans le présent ouvrage, faite sans l'autorisation de l'éditeur, est illicite et constitue u n e contrefaçon. Seules sont autorisées, d ' u n e part, les reproductions strictement réservées à l'usage privé d u copiste et non destinées à une utilisation collective, et d'autre part, les courtes citations justifiées par le caractère scientifique ou d'information de l'œuvre dans laquelle elles sont incorporées (art. L. 122-4. L. 122-5 et L. 335-2 du Code d e la propriété intellectuelle). Des photocopies payantes peuvent être réalisées avec l'accord de l'éditeur. S'adresser au : Centre français d'exploitation d u droit d e copie, 3, rue Hautefeuille, 75006 Paris. Tél. : O 1 43 26 95 35.

ISBN : 2-7296-0660-2 ISSN : 2-271-05501-6

Table des matières

......................... Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . Avant-propos

I

xi

Propriétés élémentaires locales des fonctions holomorphes de plusieurs variables complexes . . . . . . . . . . . . . 1 Notations et définitions . . . . . . . . . Formule de Cauchy dans les polydisques . . 3 Théorème de l'application ouverte . . . . 4 Suites de fonctions holomorphes . . . . . 5 Applications holomorphes . . . . . . . 6 Quelques théorèmes d'extension holomorphe 2

II

ix

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . 1 . . . 4 . . . 8 . . 10 . . . . . . . . . 11 . . . . . . . . . 13

Courants. structures complexes . . . . . . . . . . . . . . 1 2

3 4

5

6 7

8

Courants . . . . . . . . . . . . . . . . . Régularisation . . . . . . . . . . . . . . . Indice de Kronecker . . . . . . . . . . . . Variétés analytiques complexes . . . . . . . . Structures complexes . . . . . . . . . . . . Formes différentielles de type ( p .q ) . . . . . . Opérateur cohomologie de Dolbeault . . . . Espace tangent complexe au bord d u n domaine .

a.

1

21

. . . . . .

21

. . . . . .

28 38 43 46 47 49

. . . . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

51

III Noyau et formule de Bochner-Martinelli . Applications . . . 55 1 NoyauetformuledeBochner-Martinelli-Koppelman . Résolubilité du 8 pour une donnée à support compact . 3 Régularité du 8 . . . . . . . . . . . . . . . . . 4 Phénomène de Hartogs . . . . . . . . . . . . . 2

. . . . . . . . . .

. . . . . . . . .

55

61 66 69

Table des matières

vi

IV Transformée de Bochner-Martinelli et extension de fonctions CR . . . . . . . . . . . . . . . . . . . . . 73 1 Transformée de Bochner-Martineili . . . . . . . . . . . . . 73 2 Fonctions C R sur une hypersurface réelle . . . . . . . . . . 77 3 Théorème de Bochner . . . . . . . . . . . . . . . . . . 79 4

Formule de Stokes pour les fonctions C R . . . . . . . . . . .

83

5 Primitives du noyau de Bochner-Martinelli . . . . . . . . . . 85 6 Un théorème d'extension de fonctions CR . . . . . . . . . . 87

V

Extension de fonctions holomorphes et de fonctions CR dans les variétés . . . . . . . . . . . . . . . . . . . . .

91

1 Cohomologie à support compact et phénomène de Hartogs . . . 91 Extension de fonctions C R de classe C" . . . . . . . . . . . 94 3 FormuledeCauchy-Fantappié-LemmedeDolbeault . . . . . . 96 4 Isomorphisme de Dolbeault . . . . . . . . . . . . . . . . 101 5 Théorème de Bochner et extension de fonctions C R dans les variétés . . . . . . . . . . . . . . . . . . . . . 105 2

VI Domainesd'holomorphieetpseudoconvexité

. . . . . . . 109

1 Domainesdholomorphieetconvexitéholomorphe . . . . . . . 109 2 Fonctions plurisousharmoniques . . . . . . . . . . . . . . 117 3 Pseudoconvexité . . . . . . . . . . . . . . . . . . . . 129

a

VI1 Problème de Levi et résolution du dans les domaines strictement pseudoconvexes . . . . . . . . . . . . . . . 143 1 Résolution du d avec estimations holdériennes dans les ouverts strictement convexes . . . . . . . . . . . . . . . . . . . 2 Approximation uniforme locale des formes d-fermées dans les domaines strictement pseudoconvexes . . . . . . . . . . . 3 Finitude de la cohomologie de Dolbeault dans les domaines strictement pseudoconvexes . . . . . . . . . . . . . . . . 4 Invariance de la cohomologie de Dolbeault par les extensions strictement pseudoconvexes . . . . . . . . . . . . . . . . 5 Théorème d'annulation pour la cohomologie de Dolbeault dans les domaines strictement pseudoconvexes . . . . . . . . . . . 6 Formule intégrale pour résoudre le avec estimation holdérienne

a

144 153 155 157 161

danslesdomainesstrictementpseudoconvexes . . . . . . . . 163 7 Problème de Levi dans cc" . . . . . . . . . . . . . . . . . 170 8 Problème de Levi dans les variétés analytiques complexes

. . . .

174

Table des matières

vii

VI11 Caractérisation des singularités illusoires pour les fonctions CR sur un bord strictement pseudoconvexe . . . . . . . . 189 Réduction au cas des fonctions continues . . . . . 2 Cas de la dimension 2 . . . . . . . . . . . . 3 Caractérisationcohomologiqueendimensionn 2 2 4 Caractérisationdessingularitésillusoiresfaibles . . 1

Annexe A

. . . . . . 189 . . . . . . 190 . . . . . . 192 . . . . . . 194

..........................

203

1 Variétés différentiables . . . . . . . . . . . . . . . . . . 203 2 Partitions de l’unité . . . . . . . . . . . . . . . . . . . 205 3 Espace cotangent en un point - Formes différentielles de degré 1 . 207 4 Espacetangentenunpoint-Champsdevecteurs . . . . . . . 208 5 Algèbre des formes différentielles . . . . . . . . . . . . . . 211 6 Intégration des formes différentielles . . . . . . . . . . . . 216 7 Formule de Stokes . . . . . . . . . . . . . . . . . . . . 220

.......................... Annexe C . . . . . . . . . . . . . . . . . . . . . . . . . . Bibliographie . . . . . . . . . . . . . . . . . . . . . . . . Index des notations . . . . . . . . . . . . . . . . . . . . . Index terminologique . . . . . . . . . . . . . . . . . . . . Annexe B

223 231 235 239 243

Avant-propos

L‘origine de cet ouvrage est un cours fondamental de 3e cycle donné à l’Institut Fourier en 1994-95. Son objet est d’initier à la théorie des fonctions holomorphes de plusieurs variables complexes dans C” et dans les variétés analytiques complexes. I1 s’adresse en priorité à des étudiants en DEA ou débutant une thèse. I1 suppose connus les fondements de la théorie des fonctions holomorphes d’une variable complexe. Par contre, les bases de géométrie différentielle et de théorie des courants nécessaires à l’étude de l’analyse pluricomplexe sont rappelées dans l’annexeA et le chapitre II de ce volume. Nous utilisons la méthode des représentations intégrales couplée avec la technique des bosses de Grauert. Ce point de vue a l’avantage de proposer un prolongement naturel en plusieurs variables des techniques d’une variable complexe et de conduire rapidement à d‘importants résultats globaux tout en évitant l’introduction de trop nombreux outils nouveaux. Ayant acquis ces méthodes, présentées ici dans le cadre de la pseudoconvexité, le lecteur pourra aborder sans trop de difficultés la théorie d’Andreotti-Grauert, tant dans les variétés analytiques complexes que dans les variétés C R (cf. [He/Le2] et [L-T/Lel). Pour les applications, l’accent est mis sur les problèmes globaux d’extension de fonctions C R : phénomène de Hartogs-Bochner, étude des singularités illusoires pour les fonctions

CR. La plupart des thèmes traités étant classiques, puisqu’ils font partie des fondements de l’Analyse Complexe, il est difficile d‘être original. Ce travail s’est donc largement inspiré d’ouvragesexistants. Les sources utilisées ainsi que quelques repères historiques sont précisés à la fin de chaque chapitre. La bibliographie ne se propose pas d‘être exhaustive, c’est pourquoi de nombreux travaux fondamentaux en relation avec le sujet traité n’y sont pas inclus. Le lecteur intéressé par des notes historiques précises et une bibliographie beaucoup plus complète pourra consulter les notes de fin de chapitre et la bibliographie du livre de R.M. Range [Ra]. Une partie de ce livre (les paragraphes 5 et 6 du chapitre IV, le paragraphe 5 du chapitre Vet le chapitre VIII) doit beaucoup aux travaux de Guido Lupacciolu, disparu prématurément en décembre 1996.

X

Avant-propos

Pour finir je voudrais remercier tous ceux qui m’ont aidée dans la rédaction de ce livre et plus particulièrement Alain Dufresnoy et Jürgen Leiterer. C’est grâce à leurs remarques, tant sur la forme que sur le fond, que ce livre a pu atteindre sa forme finale. Un grand merci égaiement à Myriam Charles pour la saisie d’un texte particulièrement riche en formules mathématiques et à Arlette Guttin-Lombard pour ses conseils Tg-niques.

Introduction

Au début du siècle E Hartogs a mis en évidence les propriétes particulières d‘extension des fonctions hoiomorphes de plusieurs variables complexes en exhibant un domaine de C2 qui n’est pas le domaine d‘existence d u n e fonction holomorphe (de tels ouverts n’existent pas dans C). La compréhension de ce phénomène est alors devenue un des principaux problèmes d‘analyse pluricomplexe. I1 fallait trouver de bonnes caractérisations des domaines d’existence des fonctions holomorphes, appelés domaines dholomorphie. Les premiers travaux sur ce sujet, dus à E Hartogs [Har] en 1906 et E.E. Levi [Lev] en 1910, montrent que les domaines d’holomorphie satisfont certaines propriétés de convexité, que nous appellerons génériquement pseudoconvexité. L‘équivalence entre les différentes notions de pseudoconvexité, qui sont apparues au ! I du temps, a été prouvée par K. Oka [Okl dans les années 40. Les outils adaptés à l’étude de la pseudoconvexité sont les fonctions plurisousharmoniques introduites indépendamment par i? Lelong [Lell] et K. Oka [Ok]. Dans les années 30, H. Cartan et P. Thuilen [Ca/Th] ont trouvé une caractérisation intrinsèque globale des domaines dholomorphie en termes de convexité par rapport à l’algèbre des fonctions holomorphes sur le domaine. Cette “convexité holomorphe” est un des concepts fondamentaux de l’Analyse Complexe. La caractérisation des domaines dholomorphie en termes de pseudoconvexité, encore appelée solution du problème de Levi, a été donnée indépendamment par K. Oka [Ok],H. Bremmermann [Brl] et E Norguet [No] au début des années 50 pour les domaines de Cn et par H. Grauert [Gr] en 1958 pour les variétés analytiques complexes. Elle a nécessité la mise en œuvre de la théorie des faisceaux analytiques cohérents, qui s’est avérée être un outil puissant pour l’étude des espaces analytiques. La solution du problème de Levi, que nous présentons ici, suit les idées de Grauert mais s’appuie sur la théorie des représentations integrales pour résoudre les problèmes techniques. La théorie des représentations intégrales en Analyse Complexe trouve son origine dans les travauxde H. Grauert, G.M. Henkin, I. Lieb et E. Ramirez [GrlLi,He1,2, Ram] au début des années 70. Depuis, cette théorie n’a cessé de se développer. Elle a permis de résoudre des problèmes inaccessibles par les méthodes antérieures et de retrouver, en les précisant, les principaux résultats de la théorie des fonctions

xii

Introduction

holomorphes de plusieurs variables obtenus par d‘autres méthodes. I1 s’agit principalement de construire de bons opérateurs intégraux pour résoudre l’équation de Cauchy-Riemann. La résolution de cette équation est au cœur de la plupart des problèmes d’Analyse Complexe. Dans le cas de la résolution du problème de Levi, elle est à la base de la construction de la fonction holomorphe qui ne se prolonge pas. Le résultat de Hartogs pose également le problème de l’extension des fonctions holomorphes définies au voisinage de tout le bord ou d’une partie du bord d’un domaine et plus généralement des fonctions C R (c’est-à-diredes traces de fonctions holomorphes) définies sur tout ou partie du bord d’un domaine d’une variété analytique complexe. Une démonstration rigoureuse du résultat de Hartogs a été donnée indépendamment par S. Bochner [Bo]et E. Martinelli [Ma21vers 1940 à l’aide d‘une formule intégrale, appelée aujourd’hui “formule de Bochner-Martinelli”. Depuis cette époque, cette formule joue un rôle fondamental dans l’étude de l’extension des fonctions C R dans Cn , mais ne permet malheureusement pas de résoudre les problèmes globaux d‘extension dans les variétés analytiques complexes. Le lien entre le phénomène d‘extension de Hartogs-Bochner et la résolution de l’équation de Cauchy-Riemann avec condition de support a été remarqué par L. Ehrenpreis [Eh]en 1961. C’est un point clé de l’étude de l’extension des fonctions C R dans les variétés. Au milieu des années 80, G. Lupacciolu et G. Tomassini [Lu/To]ont étudié dans un cas particulier le problème de l’extension d’une fonction C R définie sur une partie du bord d u n domaine. De nombreux mathématiciens ont contribué à la résolution de ce problème d’extension au cours des dix dernières années. Les résultats que nous présentons ici sont principalement dus à G. Lupacciolu [Lu1,2]. Ces problèmes d‘extension globale sont bien sûr liés à la rcchcrche d’enveloppe d’holomorphie, mais également à un problème plus géométrique. I1 s’agit de la construction de chaînes holomorphes de bord donné. En effet si on considère le phénomène de Hartogs en termes de graphe, le graphe de l’extension holomorphe est une chaîne holomorphe dont le bord est la variété C R maximalement complexe définie par le graphe de la fonction C R donnée initialement. Le livre est organisé comme suit : Le chapitre I développe les propriétés élémentaires locales des fonctions holomorphes de plusieurs variables complexes qui se déduisent de la théorie des fonctions holomorphes d u n e variable. Dans une première partie, le chapitre II introduit les courants. La notion d‘indice de Kronecker de deux courants permet d’obtenir une formule de Stokes dans un cadre assez général. La seconde partie est consacrée aux variétés analytiques complexes et à la définition des différentes notions liées aux structures complexes : formes différentielles de type ( p , q ) , opérateur et cohomologie de Dolbeault.

a

Dans le chapitre III, nous démontrons la première formule de représentation intégrale : la formule de Bochner-Martinelli-Koppelman. La démonstration donnée

Introduction

...

XII1

ici s’appuie sur la formule de Stokes pour l’indice de Kronecker. À l’aide de la formule de Bochner-Martineili-Koppelman nous commençons l’étude de l’équation de Cauchy-Riemann. Le chapitre IV étudie le problème de l’extension des fonctions C R définies sur le bord d u n domaine borné de C”. Le théorème d’extension de Bochner est démontré et un cas particulier d’extension lorsque la fonction n’est définie que sur une partie du bord du domaine est également considéré. Le chapitre V traite du problème de l’extension des fonctions CR définies sur tout ou sur une partie du bord d’un domaine relativement compact d u n e variété analytique complexe. Nous étudions la relation entre ces phénomènes d’extension et l’annulation de certains groupes de cohomologie de Dolbeault. Dans le chapitre Vi nous définissons les notions de domaine dholomorphie, convexité holomorphe et pseudoconvexité pour les ouverts de Cn. Nous prouvons l’équivalence entre domaine dholomorphie et domaine holomorphiquement convexe et nous montrons que tout domaine dholomorphie est pseudoconvexe. La réciproque, appelée problème de Levi, est étudiée au chapitre ViI. Le chapitre VI1 est consacré à la résolution du problème de Levi. La méthode s’appuie sur la résolution locale du avec estimations holdériennes et sur l’étude de l’invariance de la cohomologie de Dolbeault par la technique des bosses de Grauert. L‘originalité de la démonstration donnée ici est l’utilisation d’un résultat dû à Laufer [Lau] qui permet de déduire l’annulation des groupes de cohomologie de Dolbeault des théorèmes de finitudes obtenus par la résolution locale du Le chapitre se termine par la résolution du problème de Levi dans les variétés analytiques complexes et l’énoncé de plusieurs théorèmes d’annulation pour la cohomologie de Dolbeault qui permettent de donner des conditions géométriques suffisantes pour les phénomènes d’extension de fonctions C R étudiés dans le chapitre V.

a

a.

Le chapitre VI11 donne des conditions nécessaires et suffisantes pour l’extension des fonctions CR définies sur une partie du bord d u n domaine strictement pseudoconvexe. Pour faciliter le travail du lecteur notons les faits suivants : - Le chapitre III, les paragraphes 3 et 4 du chapitre Vet les chapitres VI et VI1 élaborent l’ensemble de la théorie qui permet la résolution du problème de Levi, c’està-dire l’identité entre domaine dholomorphie et ouvert pseudoconvexe dans C” et l’identité entre variété de Stein et variété possédant une fonction dexhaustion strictement plurisousharmonique dans le cas des variétés. - Le chapitre IV, les paragraphes 1, 2 et 5 du chapitre V, le paragraphe 8.3 du chapitre Vi1 et le chapitre VI11 sont consacrés à l’étude des phénomènes globaux d’extension des fonctions CR.

Chapitre I

Propriétés élémentaires locales des fonctions holomorphes de plusieurs variables complexes

Ce chapitre est consacré à l'étude des propriétés locales des fonctions holomorphes de plusieurs variables complexes qui se déduisent directement de la théorie classique des fonctions holomorphes d'une variable complexe. L'élément de base de cette étude est une formule de Cauchy dans les polydisques qui généralise la formule de Cauchy classique. La plupart des théorèmes prouvés dans ce chapitre étendent au cas de plusieurs variables des résultats bien connus pour les fonctions holomorphes en dimension un (Théorème de l'application ouverte, Principe du maximum, Théorème de Montel, Théorème d'inversion locale). Néanmoins, dans le cadre de l'étude de quelques problèmes d'extension holomorphe apparaît un phénomène spécifique à la dimension n, n 2 2, c'est le phénomène de Hartogs dont un cas particulier est exposé à la fin de ce chapitre. Ce phénomène sera étudié en détail dans le chapitre III.

1. NOTATIONS ET DÉFINITIONS

On note N l'ensemble des entiers naturels, IR le corps des nombres réels et C le corps des nombres complexes. Si n E N est un entier strictement positif, l'ensemble Cn est muni de la structure d'espace vectoriel habituelle et si z = (z1, . . . ,z,) E cc",la norme de z est Iz( = (1.~11~ -+ . . . + On définit un isomorphisme de R-espace vectoriel entre Cn et R2" en posant, pour z = ( ~ 1 , .. . , z,,) E Cn, zj = xj iyj s i j = 1,.. . ,n.

+

I. Propriétés élémentaires locales

2

Les opérateurs de dérivation holomorphe et antiholomorphe sont définis par

Si a = ( a l , .. . ,an)E PP et ,8 = (pl,. . . ,&) E si 2 = ( 5 1 , . . . ,xn)est un point de R",on pose

lV sont des multi-indices et

JaJ = a ~ + ' ~ ~ + a n , ( Y " ~ ! " . a , ! , x= a x "1l . . ' x : " ,

On écrira D" à la place de Dao et Dp à la place de 0'0 lorsqu'il n'y aura pas de risque de confusion. Si D est un ouvert de R",l'espace vectoriel des fonctions continues sur D à valeurs complexes est noté c'(O) ouC(D),celui des fonctions k fois continûment différentiables (IC E N,k > O) est noté Ck(D).La réunion des espaces Ck(D), IC E N,est l'espace C"(D) des fonctions indéfiniment différentiables sur D. On vérifie aisément que f E c ' C ( D ) si et seulement si ~ a p Ef C ( D )pour tout couple (a,/?)E lV x i V tel que I C I ] 101 5 k. Si k E N,l'espace vectoriel des fonctions f contenues dans C k ( D )et dont les dérivées Da f ,lal O} ü {x E D I f (x)< O}. Théorème 6.4. Théorème de Riemann. Soient D un ouvert de Cn et A un ensemble analytique distinct de D . Soit f une fonction holomorphe sur D \ A. Supposons que tout pointa E A possède un voisinage U dans D tel que f (U\A soit bornée. Alors il existe une unique fonction F sur D tellequeFID\A = f .

Démonstration. L'unicité est une conséquence immédiate du principe du prolongement analytique. Etudions tout d'abord le cas n = 1. I1 suffit de prouver que si f est bornée et holomorphe dans le disque pointé { z E C I O < IzI < R } , alors f se prolonge holomorphiquement au disque { z E @. I 1x1 < R } , car en dimension 1 les ensembles analytiques sont discrets. Considérons le développement de Laurent de f sur le disque pointé { z E C I O < (21 < R }

< O, aw -+ O quand T + O car f est borné et puisque a, est indépendant d e r , a,z". a , = O. On a donc le résultat en posant F ( z ) = Si v

,>O

Passons au cas général. Pour a E A, soit V un voisinage connexe de a tel que f IV\ A soit borné et sur lequel il existe des fonctions holomorphes f i , . . . ,f p telles que A n V = { z E V I fi(.) = . . . = f p ( z ) = O}. On peut supposer que h = f i $ O et après un éventuel changement de coordonnées affine de Cn que a = O et h(0, . . . ,O,z,) $ O dans un voisinage de z, = O. I1 existe alors 6 > O tel

16

I. Propriétés élémentaires locales

que h ( 0 , . . . ,O,z,) # O pour O < Iznl I 6. Posons z' = ( ~ 1 , .. . ,zn-l). Soit E tel que h(z',z,) # O si lz'l 5 E et Iz, I = 6. On considère la fonction

>0

Remarquons que pour Iz'I I E et It1 = 6, le point (z',t) E V \ A et que g est holomorphe pour Iz'( < E et Iz, I < 6. De plus pour z' fixé avec Iz'I < E , la fonction t +-+ f ( z ' , t ) possède une extension holomorphe au disque { t E C I It1 < 6). En effet, puisque h(z',z,) # O si Iz,I = 6, la fonction z, H h(z',z,) n'a qu'un nombre fini de zéros sur { z , E C I Iz,I < S} et f étant bornée au voisinage de ces zéros, il suffit d'appliquer le cas n = 1.Grâce à la formule de Cauchy en une variableonag(z) = f ( z ) s i z E V\A,lz'l < E, I z , I < 6.Lafonctionfadmetdonc une extension holomorphe au voisinage de chaque point de A et grâce à l'unicité le théorème est démontré. O

B. Théorème de Rad0 Théorème 6.5.Théorème de Rado. Soit f une fonction continue sur un ouvert D de C" . Si f est holomorphe sur { z E D I f ( z ) # O } alors f est holomorphe sur D. Démonstration. La fonction f étant continue, il suffit, d'après le Corollaire 2.8, de prouver que f est séparément holomorphe. De plus la notion d'holomorphie étant locale, il suffit de montrer le théorème pour une fonction d u n e variable sur le disque unité A de @.

a

Supposons que f est une fonction continue sur et que f est holomorphe sur U = { z E A I f ( z ) # O}. Nous allons prouver que U est dense dans A et que f est de classe C" dans A, ce qui nous donne aisément le résultat cherché. En effet, est alors une fonction continue sur A qui est nulle sur une partie dense de A (l'ouvert U ) et donc identiquement nulle sur A, ce qui signifie que f est holomorphe dans A tout entier. Lemme 6.6. Si g est une fonction continue sur Ü et holomorphe sur U , pour tout z E uj 19(z)I I SupCEaanau b(C) I. Démonstration. Considérons pour n E M*,fixé, la fonction g n ( z ) f ( z ) . C'est une fonction holomorphe sur U ,donc d'après le principe du maximum

pour tout z E U , car f s'annule sur A n dU. En prenant la racine nièmedes deux membres de la dernière inégalité et en faisant tendre n vers l'infini on obtient le résultat. O

6. Quelques théorèmes d'extension holomorphe

17

Lemme 6.7. L'ouvert U est dense dans A. Démonstration. Raisonnons par l'absurde. Supposons que U n'est pas dense dans A. I1 existe dors a E A n ûU et une suite ( a u ) v Ede~ points de A \ qui converge vers a. Considérons la suite de fonctions ( & ) v E ~ . Ces fonctions sont holomorphes sur U et continues dans Ü.De plus, grâce au Lemme 6.6, si z E U et si v est assez grand

u

1

'

1 2 < CEaAnau IC - avl - d ( a , d A ) sup

Mais comme a E Ü,la suite (=),,!gq1 U , d'où la contradiction.

~

~

ne peut pas être uniformément bornée sur O

Lemme 6.8. Les fonctions Re f et Im f sont harmoniques sur A et par conséquent f est de classec" sur A. Démonstration. D'après le Théorème de Stone-WeierstraR, toute fonction continue f sur d A est limite uniforme sur d A de polynômes trigonométriques : Pn

f

=

Qn =

lim Q n ( 0 ) où

n+m

k=- P n

Pn

Alors Re Q n ( 0 ) =

ak,n

ck,neiks

cos k0

+ bk,,

sin k0 avec ak,n,bk,n E R et si on pose

k=O

Pn

Pn(z)= Re( f

-

(ak,n - ibk,,)zk, on obtient Re(Pn(z)) = ReQn(0) pourz = eis et k=O

P,) converge uniformément vers û sur ûA.

Soit E

> O, fixé,alors il existe IC0 tel que si IC 2 ko lepk-fl 5 eE

et

lef-"k

I -< eE

sur dA. Les fonctions ef-Pk et ePk-f étant continues sur V et holomorphe sur U , on peut leur appliquer le Lemme 6.6 et on obtient pour k 2 ko lePk-fl

u.

5 eE et

lef-PkI

u

< eE

u

sur Par conséquent 1 Re(Pk - f ) l 5 E sur et puisque est dense dans A, I Re(Pk - f )I est majoré par E sur A car f et les P k sont continues sur A. On a donc prouvé que Re f est limite uniforme sur A des fonctions Re Pk qui sont harmoniques. Le Théorème de Harnack implique alors que Re f est harmonique sur A. En remplaçant f par if on montrerait de même que Im f est harmonique sur A. La fonction f est donc harmonique sur A et en particulier de classe

C".

O

I. Propriétés élémentaires locales

18

C. Phénomène de Hartogs

Dans ce paragraphe nous donnons un cas particulier du phénomène de Hartogs dans @" ,n 2 2. Le cas général du phénomène de Hartogs dans un ouvert de @" , n 2 2, sera étudié en détail au chapitre IV Théorème6.9.SoientD unouvertconnexede@", et& = {w E @ I T < lwl < R } , O 5 T < R . Soit f une fonction holomorphe sur D x Q. On suppose qu'il existe un point a E D tel que f se prolonge holomorphiquement à un voisinage de { u } x A, A = { w E @ I /wI < R } .Alors f se prolonge holomorphiquement à D x A . Démonstration. Notons (z,w) les points de D x Q . Remarquons que sil'extension F de f à D x A existe, pour z E D et p E]T,R[

par la formule de Cauchy en une variable. Pour tout p , tel que T

< p < R, considérons la fonction

Elle est continue sur D x { w E @ I 1wI < p } et séparément holomorphe donc holomorphe sur ce domaine d'après le Corollaire 2.8. Puisque f se prolonge holomorphiquement au voisinage de { a } x A, si r K , ( ~ , Y ) 4 X ) ) .

2. Régularisation

31

La fonction z K,(z,y) est une fonction C" à support compact dans X pour chaque y fixé et dépend de y de manière Coo,de plus w est une forme différentielle de classe C" sur X et donc (T,KE(z,y)w(z)) est bien définie et c'est une fonction de classe C" sur X . En utilisant la densité de l'espace vectoriel engendré par les fonctions du type u(z)v(y),u,v E C " ( X ) dans D o ( X x X ) on obtient

etdoncparladéfinitiondeT, onaT,(y) = (T,KE(z1y)w(z)).

O

Nous allons maintenant étudier la convergence de la famille TE)€€^+ pour les topologies faibles et fortes de D ' ( X ) . Soit II, E Dn(X) une forme différentielle de classe C" à support compact de degré n sur X . Puisque par hypothèse w ne s'annule pas sur X , il existe cp E D O ( X )telle que II,= 'pw. On a alors

(T - T E , $ ) = (T - T,,cpw)= (T,(cp- c p € b ) . Pour obtenir la convergence faible de la famille TE)€€^+ vers T quand E tend vers O, il suffit donc d'étudier la convergence de la famille ( ( P ~ ) ~ ~vers W + cp dans D o ( X ) .Pour prouver la convergence forte de la famille TE)€€^+ vers T quand E tend vers O, il suffira de montrer l'équiconvergence de la famille ( q E ) € €vers ~ +cp lorsque 'p décrit un sous-ensemble borné de D o ( X ) . Définition 2.9. On appelle opérateur différentiel (linéaire) à coeficients C", d'ordre fini une application linéaire P : C " ( X ) 4 C " ( X ) telle que, pour toute carte (U,h) de X , il existe un opérateur différentiel P(u,h)à coeficients C" sur l'ouvert h(U ) de R" vérifiant pour toute fonction f E Cm ( X )

( P f )O h-' = P(u,h)(fO h - l ) dansh(U). On notera P*1'adjointformeldeP pour leproduitscalairesurD'(X) défini par (fig) = J, f(Y)g(Y)w(Y).

Dans la suite le terme opérateur différentiel désignera toujours un opérateur différentiel à coefficients C" d'ordre fini.

Remarque 2.10: Soient et f des fonctions de D o ( X )à support dans un même compact de X . La famille ( f E ) E E l i g + converge vers f dans D o ( X )quand E tend vers O si et seulement si pour tout opérateur différentiel P = P(z,D)on a lim SUP IP(z,Dz)f(z)- P(z,Dx)f,(s)I = o.

€+OXEX

Proposition 2. I 1. Soit f E Do( X ) ,on pose

II. Courants, structure complexe

32

1 ) Pour que la famille (f E ) E E R + converge vers f dans D o ( X )quand E tend vers O ; il faut et il suffit que pour tout opérateur différentiel P sur X

2) Pour qu'il y ait équiconvergence de la famille (f E ) € € R +vers f lorsque f décrit un sous-ensemble borné d e D o ( X )il faut et il suffit que

Pour tout opérateur différentiel P sur X

I

SUPZEX Jx ( ( P ( Z 7 OZ)- P*(Y, ~ , ) ) K € ( ZYc),) f ( Y M Y ) l + 0 quand E tend vers O uniformément par rapport à f dans tout borné de Do ( X ).

Démonstration a) Conditions nécessaires: on suppose que ( f E ) E E R + converge vers f dans Do (V) quand E tend vers O ou bien qu'il y a équiconvergence lorsque f décrit un sous-ensemble borné de Do ( X ) .

Grâce à la convergence de (f E ) E E R +vers f dans D o ( X )et à la continuité de P sur D o ( X ) ,on a

Si de plus il y a équiconvergence des (f E ) € € R + vers f lorsque f décrit un sousensemble borné de Do(X),la limite ci-dessus est uniforme par rapport à f sur tout borné de Do ( X ) . Pour conclure il suffit alors de prouver le lemme suivant que l'on appliquera à la fonction P ( x ,DZ) f.

Lemme 2.12. Soit f une fonction continue à support compact dans X . On pose f E ( x ) = Jx K E ( zy) , f (y)w(y), alors ia famille ( f E ) E E R + converge uniformément vers f sur X quand E tend vers O. Si de plus B est une partie équicontinue de C ( X ) formée de fonctions à support dans un même compact et telle que sup{ I l f l l m , f E B} soitfini, on a équiconuergence des familles (f E ) € € R + lorsque f décrit B.

2. Régularisation

33

Démonstration. Par définition de f E nous avons

La fonction f étant continue à support compact, elle est uniformément continue et donc

(va > 0)(3&0> o ) ( v E < EO)((.,

Y) E UE=$ If(.)

- f(Y)l

< a).

Notons que EO est indépendant de f pour f E B, car les éléments de B sont uniformément équicontinus. Donc si E < EO on a r

( sX

~ ) 2w ( ,Y ) ) ,L étant uncompact contenant supp f u n1(7r21(supp f)).Par hypothèse sur K,, mL,Eest borné indépendamment de E et si L' est un compact de X contenant le support de f, il existe €0 > O tel que si où rnL,€= supXEL

E

~

< EO on ait

II

s,

~

(

~ E ( . 7 Y ) w ( Y )- 1ll00,L~< Q.

Observons que si f E 8,les compacts L et L' peuvent être choisi indépendamment de f . On aura par conséquent, pour E < min(e0, €0)

Ilf - fEllm I M Q + IlfllmQ. Ce qui prouve la convergence de ( f E ) E E W + vers f quand convergence sur B car sup{ Ilflloo, f E B } est fini.

E

tend vers O et l'équi-

n

Fin de la démonstration de la Proposition 2.11 b) Condition suffisante :pour obtenir la convergence de la famille (f,)EEllg+ vers f dans D o ( X )quand E tend vers O il suffit de démontrer que, pour tout opérateur différentiel P sur X, on a

II. Courants,structure complexe

34

or d'après le Lemme 2.12 supzEx IP(z,D,) f (x)- (P(y,Dy)f (y))€(x) I tend vers O quand E tend vers O et

tend vers O quand E tend vers O par hypothèse, d'où le résultat. Si (**) est satisfaite on obtient aisément l'équiconvergence sur tout fermé en reprenant les étapes cidessus. O


O de la diagonale A de X x X . Soit une telle famille. Si cp E D P ( X )est une forme différentielle de classe C” à support compact dans X et si 7r1 et 7r2 désignent les deux projections X x X + X , on pose Si de plus le support de ‘p est contenu dans un domaine de carte U et si E est choisi assez petit pour que 7rT1( U )nu, soit contenu dans un domaine de carte de X x X ,

alors ,

.

.

IUJ={l,

...,n }

où O(.) est la signature de la permutation ( I J ) ct ( 1 , . . . ,n) et dy la forme différentielle dyl A . . . A dy,.

On peut faire une étude analogue à celle du paragraphe B et l’on obtient Théorème 2.17. Soit ( $ E ) E > ~ une famille de formes différentielles sur X x X de classe c”, à support propre contenu dans un système fondamental de la diagonale A de X x X telle que dans toute carte de X x X on ait

&(GY)

=

~,,I,J(x,y)dxI A~ Y J I U J={ l,...,n}

1n~=0

où lesfonctions K E , l , vérifient j la condition (**‘) de la Proposition 2.13 etsont telles que lesfonctions (x C) K,,I,J(x,y)dy) convergent uniformément sur tout compact du domaine de carte où elles sont définies vers la fonction constante égale à 1 quand E tend vers O dans R+. Si T E W ( X )est un courant de degrép sur la variété X , la famille ( T E ) E E des ~ régularisées + de T , définies par (T,,cp) = (T,cp,) pour toute cp E Dn-P(X), où cpE est la régularisée de cp par $, converge vers T pour les topologiesfaibles et fortes de D’P(X) quand E tend uers O dans R+ .

sx

Démonstration. Par définition de la topologie forte de D’P(X),il sufiit de prouver l’équiconvergencede la famille des régularisées de (O vers cp lorsque cp décrit un borné de Dn-p(X). Soit (Vi)iE1 un recouvrement de X par des domaines de cartes de X et (xi)iE1une partition de l’unité subordonnée à ce recouvrement. Si B est un borné de Dn-p(X) et si cp E B,posons cpi = xicp. Puisque les fonctions

II. Courants, structure complexe

38

'p sont toutes à support dans un

même conipact dans X , on peut écrire 'p =

E,'pi i€I

où I' est un sous-ensemble fini de I indépendant de 'p E t?. Par linéarité, on obtient le résultat cherché en appliquant la Proposition 2.1 1 à chacune des 'pi. O Définition 2.18. Si (~+/I',),~R+ est une famille de formes différentielles doubles satisfaisant aux hypothèses du Théorème 2.1 7, on appelle opérateur régularisant, les

opérateurs RE de V ' * ( X )dans lui-même définis par (RET, 'p) = (T,' p E ) pour T E V " ( X ) et 'p E P ( X ) où les 'pE sont les régularisées de 'p obtenues à l'aide des noyaux

3. INDICE DE KRONECKER DE DEUX COURANTS

On désigne par X une variété différentiable de classe C"

et de dimension n.

Définition 3.1. Si T et S sont deux courants sur X tels que d"T

+

d"S=n, nous dirons que l'indice de Kronecker de T et s,K ( T , est défini au sens de de Rham si quelles que soient les familles d'opérateurs régularisants ( R E ) E > et~(R:,).,>o qui commutent avec l'opérateurd, la quantité (RETA R:,S, 1 ) possède une limite indépendante des familles d'opérateurs choisies, lorsque E etEl tendent vers O, on note K(T,S ) cette limite.

s)

Si X = L-2 si n 2 3, E = & log

T

l o ù r = (xf+...+x~)1/2etsnl'airedelasphèreunité

Pour tout courant S à support compact dans R", on pose GS = -E * S , puis K S = 6GS. Si S , considéré comme forme différentielle à coefficients distributions, a pour expression S = ' SIdxI le produit de convolution GS = E * S I

' E * SIdxI d'où l'expression de K S

s'écrit GS = I

L'opérateur K : €'(IRn) -+ D'(Etn) ainsi défini a les propriétés suivantes : a) S = dKS KdS, car S = -AGS = d6GS GdGS = dGGS GGdS. b) K n'augmente pas le support singulier. En effet A est elliptique et par suite GS est C" en dehors du support singulier de S.

+

+

+

Revenons au cas où X est une variété. Puisque X est réunion dénombrable de compact, il existe un recouvrement dénombrable et localement fini de X par des domaines de carte Wi CC X. D'après les Lemmes 2.3 et 2.1 de l'annexe A, on peut alors trouver un recouvrement de X par des ouverts V, tels que V , CC Wi et des fonctions vi de classe C" à support compact dans Wi telles que vi = 1 au voisinage de V,. Pour tout courant T sur X , on pose

AiT = qiK(qiT) (où par abus de notation on considère Wi comme un ouvert de R"),et

RIT = T - dAiT - AidT

+

= T - ( T , I ~ ) ~viK(d7i T A T ) - dvi A K(viT).

(Pour être parfaitement rigoureux il faudrait considérer la carte (Wi,hi) de X et définir l'opérateur Ai par AIT = qi (h;') * ( K(hi)* (viT)).Le lecteur pourra vérifier facilement que le fait d'avoir identifié Wi et son image par hi dans IRn ne modifie pas les propriétés de Ai mais permet seulement d'avoir des écritures plus simples.)

3. Indice de Kronecker de deux courants

41

Les opérateurs Ai et Ri ont les propriétés suivantes : a) T = dAiT AidT RiT par construction, d'où résulte dRiT = RidT. b) Ai et Ri n'augmentent pas le support singulier. De plus, RIT est C" sur V, ; en effet RIT et K(dqi A T ) coïncident sur E, et puisque K n'augmente pas le support singulier, K(dqi A T ) est C" sur V, car dvi A T est nul sur V,.

+

+

On pose Ak = AkRkPl... Ri et Rk = RkRk-1.. . R I . Le recouvrement (Wi)étant localement fini, on montre facilement que

RT = lim RkT et AT = lim AkT k+m

k+m

existent, car au-dessus d u n ouvert U CC X,RkT devient stationnaire et AkT s'annule dès que k est assez grand. Les opérateurs A et R ont les propriétés souhaitées : a) On a R"'T - RkT = ( 1 - Rk)Rk-iT

+ Akd)Rk-lT = dAkT + AkdT =

(dAk

car Ri et d commutent, d'où par sommation

T

-

RT = dAT

+ AdT.

b) A n'augmente pas le support singulier car il en est ainsi de Ak.L'opérateur R est régularisant car RkT est C" sur V , dès que IC 2 a. O Démonstration du Théorème 3.5. D'après la Proposition 3.6, T et S admettent les décompositions suivantes :

T = RT S = RS

+ dAT + AdT + dAS + AdS.

Posons

Ti = RT, T2 = dAT, T3 = AdT Si = RS, S2 = dAS, S3 = AdS. Par linéarité K(T,S)sera défini si chacun des K(Ti,sk),z,k = 1,2,3, existe. Remarquons que Ti,i = 1,2,3,est un courant à support compact. Le courant Ti est une forme de classe c" car R est régularisant. Par conséquent K(T1,sk)est défini pour tout k = 1,2,3.Le courant S1 étant une forme de classe C", K(Ti,S,)existe pour tout i = 1,2,3.Pour i=k=2, on peut appliquer la Proposition 3.4 et on obtient K(T2,S2)=0.Les cas i = 2 et k = 3,i = 3 et k = 2,i = IC = 3, se déduisent de la Proposition 3.3 car les opérateurs d et A n'augmentent pas le support singulier. ü

s

Corollaire 3.7. Formule de Stokes pour l'indice de Kronecker. Soient T et deux courants sur X tels que doT + dos= n - 1 et dont l'un est à support compact. Si

SS(bT)n SS(bS) = 0

II. Courants, structure complexe

42

les indicesde KroneckerK(bT,S) etK(T,bS) existenteton a

K(bT,S) = (-l)doS-lK(T,bS). Démonstration. C'est une conséquence immédiate du Théorème 3.5 et de la Proposition 3.4. u Exemple d'application :Formule de Cauchy-Green dans @. Soit D un ouvert borné de C à bordCl contenant l'origine. Si $ est une fonction de classe C" dans @. Après identification de Cc avec IR2 on définit les formes différentielles de degré 1, d z et dZ par d z = dx idy et dZ = dx - idy.

+

Si $ est une fonction de classe C" dans @. on pose T=$[D] où [DI désigne le courant d'intégration sur D. Alors S S ( T ) = bD.

&

Si S = $ alors dS = [O],où[O] est le courant d'intégration sur la variété réduite au point O. En effet, si cp E Do(@), par définition de d on a

car S est défini par la forme différentielle localement intégrable notons BE= { z E Qi I IzI < E } , alors

& e.Pour E > O,

En appliquant le Théorème de Stokes, on obtient

car cp est à support compact. De plus -dz

L B ,

)."

=

Comme la fonction cp est de classe C" donc en particulier de classe C1 la première intégrale du second membre tend vers O quand E tend vers O. D'autre part, par la formule de Cauchy on a, pour tout E > O, $ = 1.Par conséquent

& saBc

( G c p ) = 4 0 ) = ([OI>cp).

+

Par ailleurs bT = -d$ A [O] $ A [bD]et donc SS(bT) = S S ( T ) = bD, de plus SS(bS)= {O}, par conséquent SS(bT)n SS(bS)= 0 puisque O E D. On peut donc appliquer le Corollaire 3.7 :

K(bT,S) = K (

-

d$ A [DI

+ 11, A [ b D ]22lT,1y -dz-z)

4. Variétés analytiques complexes

43

Interprétation géométrique de l'indice de Kronecker Nous donnons les résultats suivants sans démonstration ; le lecteur intéressé pourra consulter [Rh, 201 et IL-Tl] pour plus de précisions et de meilleures conditions suffisantes d'existence de l'indice de Kronecker de deux courants. Si Y et Z sont deux sous-variétés fermées orientées de dimension p et n - p de X qui se coupent transversalement et telles que Y ou 2 soit une sous-variété compacte de X, alors les courants d'intégration [Y]et [Z] sur Y et Z sont fermés, ils satisfont donc aux hypothèses du Théorème 3.5 et on a

~ ( [ Y I , [ Z l=) ([Y Z1,l). Ici Y n2 est constitué d u n nombre fini de points et ( [ YnZ],l)est égal au nombre de points de Y n Z en lesquels les orientations de Y et Z coïncident diminuée du nombre de points en lesquels elles diffèrent. Plus généralement, si Y est Z sont deux sous-variétés fermées orientées de X de dimension respective p et q qui se coupent transversalement et telles que Y n Z soit une sous-variété de X et si cp est une forme différentielle de classe C", de degré p q - 76, à support compact dans Xona ~ ( [ Z I l [ YAl cp) = ([Z n Yllcp).

+

4. VARIÉTÉ ANALYTIQUE COMPLEXE

Dans le cadre de l'étude des fonctions holomorphes, il est naturel d'introduire des objets ayant, pour le calcul holomorphe, des proporiétés analogues à celles des variétés différentielles pour le calcul différentiel, c'est-à-dire qui ont hérité localement des propriétés analytiques des ouverts de @". Définition 4.1. SoitX un espace topologique, on appelle atlas complexe un ensemble de cartes (U,cp)tel que les domaines U forment un recouvrement ouvert de X et les applications cp soient des homéomorphismes de U sur un ouvert de cc",qui vérifient la condition de compatibilité holomorphe: si U n U' # 0,l'application cp'

O

9-l :

cp(un u')cp'(u i n u')

est une application biholomorphe entre ouverts de Cn.On dira que deux atlas complexes sont compatibles si leur réunion est un atlas complexe. On définit ainsi une relation d'équivalence.

II. Courants, structure complexe

44

Définition 4.2. On appelle variété analytique complexe un espace topologique sé-

paré, réunion dénombrable de compacts, muni d’une classe dëquivalence d’atlas complexes. Si X est une variété analytique complexe, x un point de X et (U,cp)une carte au voisinage de x , cp est un homéomorphisme de U sur un ouvert de @” et n est appelé la dimension complexe de X en x (comme dans le cas des variétés différentiables n est bien sûr indépendant de la carte (U,cp)au voisinage de 2).On dira que X est une variété analytique complexe de dimension n si pour tout x E X la dimension complexe de X en x est égale à n. Si X et Y sont deux variétés analytiques complexes, une application f : X -+ Y est dite holomorphe si elle est continue et si pour tout couple de cartes (U,cp)et ( V , 9 )de X et Y tel que f ( U ) c V ,l’application 1c, O O cp-’ : p ( U ) -+ $ ( V )est holomorphe. Lorsque Y = C on parlera de fonction holomorphe. Comme dans le cas des applications de classe C Q ,il suffit bien sûr de le vérifier pour toutes les cartes d u n atlas. On notera O ( X ) l’espace vectoriel des fonctions holomorphes sur X à valeurs dans @.

(fi,)

Définition 4.3. Soit (U,cp) une carte d’une variété analytique complexe, alors cp est uneapplication holomorphedeU dansCn, etsicp(x) = (zl(x),. . . ,z,(z)), où les z j : U + C,j = 1, . . . ,n,sont des fonctions holomorphes sur U , les fonctions ( z 1 ,. . . ,zn) s’appellent les coordonnées holomorphes de X sur U définies par la

carte (U,cp). Remarque: I1 est clair qu’une variété analytique complexe X de dimension n est naturellement munie d’une structure de variété différentiable de classe C” de dimension 2n. Les espaces tangent T,X et cotangent T,X à X en x sont donc bien définis. Considérons en particulier l’espace @T: X des 1-formes différentielles en x E X à valeurs complexes qui est le dual du complexifié CTz X de T,X (cf.Annexe A, $ 4). Explicitons ce qui se passe dans une carte (U,cp) au voisinage de x où les coordonnées locales sont (z1,. . . ,zn) avec z j = xj i y j , j = 1, . . . ,n. La famille {(d~l)~,(dy1),, . . . ,(d~,)~(dy,)~} est une base de CT,X et la base duale I1 est soucorrespondante dans @TzX est {(K)z,(&),,. a . . ,(,)z,(&),a}. vent plus intéressant de considérer pour CT: X la base

+

{ (dzï)z,(dzï)i1. . . ,(dzn)zl(dzn)z} et pour CTz X la base duale associée que l’on note

On a par définition

45

4. Variétés analytiques complexes

Si f est une fonction à valeurs complexes de classe C1 sur un voisinage de z dans X , sa différentielle dfz définit un élément de T,X qui s’écrit

n Ou

bien ( d f ) z =

%(z)(dz,), i=l

+ ~ ( ~ ) ( C t z suivant , ) , la base choisie, par

définition des bases dudes. Un calcul simple montre que

ce qui correspond à la définition donnée au chapitre I. Remarquons encore une fois que le fait d’associer à T,’X et à T,X leurs complexifiés, c’est-à-dire de considérer des formes à valeurs complexes, ne fait pas intervenir la structure de variété analytique complexe de X mais que cela peut être fait pour n’importe quelle variété différentiable. Nous n’avons utilisé la structure de variété analytique complexe de X que lors de l’écriture en coordonnées locales. Terminons ce paragraphe en prouvant qu’une variété analytique complexe est orientable. Soit X une variété analytique complexe de dimension n. D’aprèsla Proposition 6.2 de l’AnnexeA, X est orientable si elle possède un atlas c”, (Vi, hi)iEl, tel que pour tout i, j E I

d i j ( z ) = det [ J ( h iO hjl)(hj(z))] > Osiz E Vi f l U j .

+

Considérons un atlas complexe (Vj,‘ p j ) j Ede ~ X . Si ‘ p j = hj i k j , l’ensemble ( U j ,( h j ,k j ) ) j E est ~ un atlas C” de X quivérifie pour z E Vi fl Vj

Une variété analytique complexe X est donc orientable et dans la suite de ce volume nous la munirons de l’orientation définie de la manière suivante lorsqu’un atlas complexe (Vi,‘pi)iElde X est fixé : si ( z l ,. . . , 2,) sont des coordonnées holomorphes associées à la carte (Vi,‘pi)nous choisirons l’orientation associée à la 2n-forme différentielle dZ1

A . . . AdZn A d 2 1 A ’ . . A d Z n

ce qui correspond à l’orientation défini par

d x l A . ‘ . A d z n A d y i A . . . A dy,

II. Courants,structure complexe

46

5. STRUCTURE COMPLEXE

Soit X une variété analytique complexe de dimension n. On va montrer que pour tout point x E X , l'espace vectoriel réel T,'X possède une structure naturelle d'espace vectoriel sur C. Examinons tout d'abord le cas où X = Cn. Comme variété Coo, C? s'identifie à R21n de manière naturelle, donc T,Cn = TXR2ln= R21n = C2" en reprenant l'identification naturelle de C" avec IR2". En identifiant ainsi T,Cn avec O(X)sur X . Définition 5.2. Soient X une variété analytique complexe et A un ouvert de X . Un champ de vecteurs holomorphe sur A est une application V : A -+ T ' i o ( X ) telle quep O V = Id.

6. FORMES DIFFÉRENTIELLES DE TYPE ( p , q )

Soient X une variété analytique complexe de dimension n, et x un point de X . L'existence d'une structure d'espace vectoriel complexe sur T,X nous invite à considérer plus particulièrement les éléments de @T,X qui sont @-linéairespour cette structure.

II. Courants, structure complexe

48

On définit l’espace des 1-formes différentielles de type (1,O) en z par

A1lO(T,*X)= { W E CT,*X I w ( J v ) = i w ( v ) , V v E CT,X}.

Exempie: Par définition de J , les différentielles (df), de germes de fonctions holomorphes en z sont de type (1,O). Si (21,. . . ,zn) sont des coordonnées locales holomorphes au voisinage de z, la famille ( ( d z l ) , , . . . , ( d z n ) z ) forme une base de A1yo(T:X). L‘espace conjugué AoilT:X = A1>oT,X,dont une base dans les mêmes coordonnées est donnée par ( (&I),, . . . ,(&Yn),), est l’espace des formes de type (0,l) en z. On ala décomposition en somme directe

CT,*X = A1’OT,*XCBAol’T,*X.

(6.1)

Considérons maintenant les formes de degré supérieur. Si w est une forme différentielle de degré T à valeurs complexes, c’est une combinaison linéaire d’éléments de la forme w1 A . . . A wr où w j E CTZX. D’après (3.1),chaque w j , l 5 j 5 T , s’écrit w; wy avec w; E A1ioT,X et wy E AoilT,*X.Donc w est une combinaison linéaire d‘éléments qui s’écrivent q1 A . . . A qr où qj est soit de type ( O , l ) , soit de type (1,O).

+

On dira que w est une forme différentielle de type ( p , q )ou de bidegré ( p , q )en z, si w est combinaison linéaire d‘éléments de la forme w i i A . . .A wi, A G j , A . . .A G j q où les w, sont des 1-formes de type (1,O) en z.

+

On note C:,,(X) le sous-espace de C:+q(X) formé des ( p q)-formes différentielles qui sont de type ( p , q ) en chaque point. On a alors la décomposition en somme directe

@ cp,q(x).

C3X) =

p+q=r

Notons queC;,,(X) = {O} s i p o u q

> n = dimê X.

Si (z1, . . . ,zn) sont des coordonnées holomorphes sur un domaine de carte U de X, alors dzj E CTo(U)pour j = 1 , .. . ,n et toute (p,q)-forme w E C:,,(U) s’écrit de manière unique w =

aIJdzI A

&J

I4=P IJI=q

où les U IJ sont des fonctions de classe C k sur U et où la sommation est faite sur les multi-indices I = ( i l , . . . ,ip) et J = (j1, . . . , j q )strictement croissants.

7. Opérateurd et cohomologie de Dolbeault

49

7. OPÉRATEUR d ET COHOMOLOGIE DE DOLBEAULT

La décomposition des 1-formes différentielles sur une variété analytique complexe en formes de type (0,l) et de type ( 1 , O ) va induire naturellement une décomposition de l’opérateur d de différentiation extérieure en un opérateur de différentiation holomorphe et un opérateur de différentiation antiholomorphe. Soit X une variété analytique complexe de dimension n. Si f est une fonction de classe C1 sur X, pour tout z E X on a

+

On peut donc écrire df = d f 8f où d f est une forme différentielle de type (1,O) s u r X e t d f uneformedetype ( 0 , l ) s u r X . Remarquons que la condition f E O ( X )est alors équivalente à 8f = O.

+

La décomposition d = d 8 s’étend aux formes de degré quelconque de la manière suivante : si w E Cp’,q(X)est donnée, dans un système de coordonnées holomorphes (21 , . . . ,zn) au voisinage de z E X, par w =

a I J d z I A d Z J , on lIl=p IJI=q

a, par définition de d ,

dw =

d ( a I j ) A dzI A d z j = III=p IJI=q

(da1J

+ ~ C L I JA) dzr A d z J

IIl=p IJI=q

On pose alors dw =

“ --aIJdz, a

d ( a 1 J ) d z I A dZJ =

IIl=p k=l

IIl=p

82,

A d z l A dZJ

IJI=q

lJI=q

et

IJI=q

On a ainsi défini des opérateurs d et 8 sur Ci,q(X)tels que d(Ci,q(X)) soit contenu dans Cp+l,q(X)et d(Cp’,q(X)) soit contenu dans Cp,q+l(X). Proposition 7.1. Les opérateurs d et 8 ont les propriétés suivantes

+

a)d = d dsurC,’(X), b) d O d = Old O d = 0,d O 8 O d = O surCS,,(X), c) d e t d commutent avec l’image réciproque.

+a

II. Courants, structure complexe

50

Démonstration. La propriété al est une conséquence immédiate de la définition des opérateurs d et

a.

Soitw E C i , , ( X ) ,puisque d

O = ( 8 +d) O

O

d

=O

et d = d

+aon a

+ (aod+doa)w + ( a 0 a ) w 8 + 8 û ) w est de type ( p + 1,q + 1) et

= ( d oa ) w

(a+a)W

+

Or ( 8 O S ) w est de type ( p 2 , q ) , ( 3O O (8 0 3)w de type ( p , q 2), par conséquent chacun de ces termes est nul puisque leur somme est nulle.

+

(cl,. cJ

Soit F : X t Y une application holomorphe. Observons que si . . ,&) sont des coordonnées holomorphes au voisinage d’un point y E Y ,F*CJ = O F est une fonction holomorphe au voisinage de z = F-’(y) et donc P*(d(,) = rl( ~ + ’ (est X ) aiors un opérateur linéaire continu ) donc fermé. et son noyau que l’on note Z p i Q ( Xest Définition 7.2. On appelle groupes de cohomologie de Dolbeault les espaces

HP>P(X)= z”~“x)/a€P~q-’(X). Ces espaces sont naturellement munis de la topologie quotient qui n’est en générai pas séparée car d ~ q - ’ ( n’est ~ ) pas toujours fermé. si ~ E P > ~ - ’ ( est X) fermé, H p > q ( Xest ) alors un espace de Fréchet. Ces groupes caractérisent le défaut de résolubilité de l’équation de CauchyRiemanndu = f pour f € z p > q ( X ) . Terminons par la définition des groupes de cohomologie de Dolbeault avec condition de support. On notera c la famille des compacts de X et si K est un

8. Espace tangent complexe au bord d'un domaine

51

compact d u n e variété M , @ désignera la famille des fermés de X = M \ K dont l'adhérence dans M est compacte et Q la famille des fermés de M qui ne rencontrent pas K . Pour simplifier notons O l'une de ces trois familles. E O q ( X ) est alors l'espace des (p,q)-formes de classe C" dans X dont le support appartient à la famille O. Si 8 E O, on note E;,'(X) le sous-espace de Epiq(X) formé des (p,q)-formes à support dans 8, on a alors E g 4 ( X ) = U &;>'(X).Remarquons @€O

que si O est l'une des trois famiiles e,

ou Q, X possède une suite exhaustive

(8i)iEw composée d'éléments de O (ie. X =

U 8i,& c

O

8i+l). Les espaces

i€W

E;"(X) sont fermés dans & P ) q ( X )ce , sont donc des espaces de Fréchet et la topologie de E;'(X) est la topologie la plus fine rendant continues les injections E;;'(X) LJ E g q ( X ) .L'opérateur est un opérateur linéaire continu de E g q ( X ) dans E g q + l ( X ) On . pose Z g q ( X )= ZPiq(X) n E e q ( X ) .

a

Définition 7.3. On appelle groupes de cohomologie de Dolbeauit à support dans O les espaces H g q X ) = zgy x)/aEgq- ( X ). On munit ces groupes de la topologie quotient qui n'est pas séparée en général. Ils caractérisent le défaut de résolubilité de l'équation de Cauchy-Riemann dans la classe des formes à support dans la famille O.

8. ESPACE TANGENT COMPLEXEAU BORD D'UN DOMAINE

Pour introduire la notion de fonction CR (Chap. IV) et celle de domaine pseudoconvexe (Chap. Vi), nous aurons besoin des propriétés de l'espace tangent au bord d'un domaine à bord lisse d u n e variété analytique complexe. L'objet de ce paragraphe est l'étude analytique de cet espace. Nous considérons en particulier l'influence de la structure complexe de la variété ambiante. Dans un premier temps nous allons supposer seulement que différentiable de classe C".

x est une variété

Définition8.1. SoitD u n o u v e r t d e x , onditqueD a un borddeclasseCk,l 5 IC 5 oû,au voisinage de p E d D s'il existe un voisinage ouvert U de p dans X et une fonction r E C k ( U )de clmseCk, à valeurs réelles telle que

U n D = {z E U I r ( z ) < O } d r ( z ) # O, z E u. OndiraquedD estdeclasseCk, s'ilestdeclasseCk au voisinagedechacundeses points. Unefonction r E C k ( U )qui satisfait (8.1) est appelée fonction définissante pour D en p. Si U est un voisinage de d D , T est une fonction définissante globale.

Il. Courants, structure complexe

52

Lemme 8.2. Soient r1 et 7-2 deux fonctions défnissantes pour D , de classe C‘ sur un voisinage U de p E dD. Alors il existe une fonction strictement positive h E C“l ( U ) telle que hr2 surU drl(z)= h(z)dr2(z) pourz E U n BD. r1 =

(8.2)

Démonstration. Remarquons que h est unique puisqu’elle est continue sur U et qu’eile coïncide avec sur U \ dD.

2

On peut supposer, sans perte de généralité, que U est contenu dans un domaine de carte de X . Soit q E U n dD fixé.Choisissons des coordonnées sur U pour que q = O et U n d D = {z E Rn I z, = O} et supposons que r2(x) = IC,. Pour z’ = (xi ,...,z,-l)voisindeO,onarl(x’,O) = Oetdonc

1:

Posons h ( z ) = $(x’,tz,)dt, satisfait 7-1 = hr2 sur U .

c’est une fonction de classe Ck-l sur U qui

Si IC 2 2, on a drl(z) = r2(z)dh(z)+ h(z)drZ(z)= h(z)dr~(x)si z u n dD.

E

+

Si IC = 1,q ( x ) = h(z)r~(z) = (h(z)- h(x1,0))r2(z)h(z1,0)r2(z) et donc r1(z) = h(z’,O)drz(z’,O)o(x,) lorsque x, tend vers O, car h est continu sur U et r2(z’,0) = O. On en déduit donc que drl(z) = h(z)drz(z)si z E U n dD.

+

2

il reste à prouver que h est strictement positive sur U . Comme h = sur U\ D , h est strictement positive sur U \ D car 7-1 et r-2 sont des fonctions définissantes. Puisque drl(z) # O sur U et drl(z) = h(z)dr2(x)sur U n dD, h ne s’annule pas sur U n dD. La fonction h étant continue sur U , elle est donc strictement positive sur U . O

Si D est un domaine à bord Ck au voisinage de p E dD, d D est alors une variété différentiable de classe Ck au voisinage de p . On peut donc considérer l’espace tangentTp(dD) e n p à d D . Proposition8.3. Si T est une fonction défnissante pour D enp, on a

(8.3)

Tp(dD) = {I E T u ( X ) I d T ( P ) ( I )= 0).

Si ( 2 1 , . . . ,xn) sont des coordonnées locales de X au voisinage de p , alors Tp( d o ) si et seulement si

Démonstration. Soit U un voisinage de p tel que

d D n U = {z E U

I . ( E ) < O} et dr(z)# O s i z E U.

O(X). Proposition 8.4. Sir est une fonction déjînissante pour D enp E d D , on a

T ! ( d D )= {t E T,”O(X) I dr(p)(t) = O). ( z 1 , . . . ,zn) sont des coordonnées holomorphes locales de X au voisinage de p alors t E T: ( d o )si et seulement si

Si

Démonstration. Puisque la fonction r est à valeurs réelles on a

dr(p)= dr(p)

+ dr(p) = 2 Re dr(p).

Par définition de T F ( d D )= T p ( d D )n J T p ( d D )et d‘après (8.3)

T Z ( d D )= {t E T,”O(X) I dr(p)(t) = dr(p)(Jt) = O).

II. Courants, structure complexe

54

Mais d r ( p ) étant une (1,O) -forme différentielle en p on a dr ( p )( J t ) = idr ( p )( t ) et donc Re (dr(p)(Jt))= - I m d r ( p ) ( t ) . On en déduit que

T:(dD) = { t E T,’l0(X) I R e d r ( p ) ( t )= Imdr(p)(t) = O} = {t E

T,’>O(X)I d r ( p ) ( t )= O}.

O

Soit CTP( d o ) le complexifié de T,(dD),Tf(dD) est un sous-espace vectoriel de dimension n - 1 de CTp( d o ) . Définition 8.5. L‘espace vectoriel Til1( d o ) = T F ( d D ) ,le sous-espace conjugué de Tf ( d o ) dans CTp( d o ) ,est appelé espace des opérateurs de Cauchy-Riemann tangentiels e n p E dD. Remarquons que, si T est une fonction définissante pour d D en p et si on note (z1,. . . ,zn) des coordonnées locales holomorphes sur X au voisinage de p , un vecteur T E Tp”>’ ( d o ) si et seulement si

Exemple: Si n = 2, T i > ’ ( d D est ) un C-espace vectoriel de dimension 1 engendré

Commentaires. La théorie des courants est développée dans les livres de Schwartz [SC]et de de Rham [Rh].La régularisation dans les variétés et la théorie de l’indice de Kronecker sont traitées également dans le livre de de Rham [Rh].Des précisions sur l’indice de Kronecker peuvent être trouvées dans IL-TU. Pour écrire les paragraphes 4 à 8 de ce chapitre j’ai utilisé l’exposé des notions correspondantes du paragraphe 2 du chapitre III et d u paragraphe 2 du chapitre II du livre de M. Range [Ra].Pour u n exposé plus complet, le lecteur intéressé pourra consulter le livre de R. Narasimhan iNd1.

Chapitre III

Noyau et formule de Bochner-Martinelli-Koppelman Applications

Nous définissons dans ce chapitre un des outils fondamentaux de la théorie des représentations intégrales en analyse complexe : le noyau de Bochner-Martinelli-Koppelman. Ce noyau est une généralisation du noyau de Cauchy à II nous permet de démontrer une formule de représentation intégrale, la formule de Bochner-Martinelli-Koppelinan, qui étend la formule de Cauchy aux formes différentielles de type ( p , q ) dans Cette formule joue un rôle important dans l’étude de l’opérateur 8. Elle nous pennet d’obtenir en nos premiers résultats sur la résolubilité de l’équation de Cauchy-Riemann dans considérant le cas où le second membre est à support compact. Le phénomène de Hartogs, dont nous avons prouvé un cas particulier au chapitre I, est une conséquence de l’existence d’une solution à support compact de l’équation de Cauchy-Riemann si ??, 2 2 et si le second membre est de bidegré ( 0 , l ) et à support compact. Les relations entre l’annulation des groupes de cohomologie de Dolbeault à support compact en bidegré (0,I) et le phénomène de Hartogs seront précisées au chapitre V. Nous utilisons également la formule de Bochner-Martinelli-Koppelman pour étudier la régularité de l’opérateur 8 en prouvant un théorème d’hypoellipticité holdérienne.

en.

en.

e”

1. NOYAU ET FORMULE DE BOCHNER-MARTINELLI-KOPPELMAN n

en x en,on pose ( O, sont plurisousharmoniques dans

If/

Ifla,

D. Remarque : Si D est un ouvert de C", la fonction u ( z ) = - log(dist(z,aD)) n'est pas nécessairement plurisousharmonique. En effet, considérons l'ouvert D = C2 \ {O}.Soientu = (1,O) E D e t w = (0,1).Alors u(u

+ Xw) =

-

log(dist(a + Xw,dD) = -log

d m .

Cette fonction possède un maximum strict au point X = O, elle ne peut donc pas être sous-harmonique, ce qui prouve que u n'est pas plurisousharmonique. Théorème 2.14. Soient D un ouvert de @" et u une fonction de classe C2 dans D à valeurs réelles. Alors u E PSH(D) si et seulement si pour tout z E D le Hessien complexe de u au point z

est une forme hermitienne semi-déjinie positive sur @" Démonstration. Un calcul direct donne

a2 axai

-u(u

+ Xw) =

La+XwU(W).

Le résultat se déduit alors des Théorèmes 2.10 et 2.1 1 qui caractérisent les fonctions O sous-harmoniques de classe C2 par la positivité du laplacien. Corollaire2.15. Soient D un ouvert de @", D' un ouvert de@'" et F une application holomorphedeD dans D'. Siu E PSH(D') n C'(DI), u O F E PSH(D).

Démonstration. Soit u E D et w E @", on a La(uO F ) ( w )= L F ( a ) u ( F ' ( a ) w )I1. O suffit alors d'appliquer le Théorème 2.14. Définition 2.16. Si D est un ouvert de C" et u une fonction de classe C2 sur D. On appelle forme de Levi de u en z E D le Hessien complexe L,u de u en t , c'est-àdire la forme hermitienne

Définition 2.17. Unefonction u E P S H ( D ) n C2( D )est dite strictement plurisousharmonique dans D si et seulement si pour tout z E D la forme de Levi L,u de u au point z est une forme hermitienne définie positive.

VI. Domaines d'holomorphie et pseudoconvexité

126

Nous voulons étendre le Corollaire 2.15 aux fonctions plurisousharmoniques quelconques. Pour cela nous allons tout d'abord démontrer un théorème de régularisation pour les fonctions plurisousharmoniques. Lemme 2.18. Soit u une fonction plurisousharmonique sur un ouvert D de C" . On suppose que sur aucune composante connexe de D, u est identiquement égale à -03. Alors u est intégrable sur tout compact de D et en particulier u > -03 presque partout. Démonstration. I1 suffit de reprendre la démonstration de la Proposition 2.9 en remplaçant le disque A par un polydisque. 17 Théorème 2.19. Soit D un ouvertde C", on pose Dj = { z E D I IzI < j et d i s t ( z , û D ) > f }. Soit u une fonction plurisousharmonique sur D qui n'est pas identiquement égale à -00 sur une composante connexe de D. Il existe alors une suite ( u j ) j E nd'éléments deC"(D) telleque 1) u j est strictement plurisousharmoniquesur D j . ii) u j ( z ) 2 u j + i ( z ) pourtoutz E Dj. iii) lim u j ( z ) = u ( z ) pourtoutz E D. "3'

iv) Si u est continue, la suite (u j ) j E w converge vers u uniformément sur tout compact de D. Démonstration. Soit 8 E D(R) une fonctionC", àvaleurs positives, àsupport dans [-l,l]ettelleque û ( l z l ) d X ( z ) = 1.Puisque Dj est relativement compactdans D , la fonction u est intégrable sur Dj et on peut considérer la fonction wj définie Par

scn

c'est une fonction de classe C" dans C" . Montrons que wj satisfait la propriété de la sous-moyenne sur chaque morceau de droite complexe contenu dans Dj ce qui prouvera que vj est plurisousharmonique sur Dj . Remarquons que wj ( z ) = Jcn u ( z - $)û(( O , il existe une fonction d'exhaustion strictement plurisousharmonique de classeCm ,p, pour R telle que u 5 psurR et Ip(z) -.()I < ~ p o u r zE K . Démonstration. Pour j E Pi,on pose R j = { z E R I u ( z ) < j } . Alors R j c c R et, quitte à ajouter une constante à u, on peut supposer que K c 00.Fixons E > O. D'après le Théorème 2.19, il existe une suite ( u j ) j Ede ~ fonctions de classe

135

3. Pseudoconvexité

C" dans R telles que uj soit strictement plurisousharmonique sur Rj+2,u(z) < u o ( z ) < u ( z ) + E pourz E si1 e t u ( z ) < u j ( z ) < U ( Z ) + i pourz E ~ j , 2j 1.

+

+

On en déduit que uj - j 1 < O sur Rj-2 et uj - j 1 > O sur \ Rj-1 si, j 2 2. Soit x une fonction de classe C" sur IR telle que X ( t ) = O pour t 5 O et x(t),x'(t) etx"(t) soientstrictementpositifspourt > O. A l o r s x o ( u j - j + i ) G O sur 0 , - 2 et x 0 ( u j - j 1) 2 O sur R \ Rj-2. En calculant la forme de Levi on voit que x 0 ( u j - j 1) est plurisousharmonique sur Rj+2 et strictement plurisousharmonique positive sur 2.j\ R.i-1. On choisit alors par récurrence des

+ +

entiers

mj

tels que si e

2

2,pe = uo

+

e

mjx

O

(uj- j

+ 1) soit strictement

i=2

plurisousharmonique sur Re.On a ainsi construit une suite de fonctions ( p e ) e > -2 qui vérifient pe = uo sur Ro, pe 2 u et pe = pe-1 sur Re-2. La fonction p = pe a les propriétés demandées. O Remarque :I1 résulte du Lemme 3.11 et de la définition des ouverts pseudoconvexes qu'un ouvert R de C" est pseudoconvexe si et seulement s'il possède une fonction d'exhaustion strictement plurisousharmonique de classe C2. Grâce au Lemme de Morse suivant, en fait tout ouvert pseudoconvexe R de C" possède une fonction strictement plurisousharmonique dexhaustion p de classe C2 telle que l'ensemble de ses points critiques, i.e. { z E R I d p ( z ) = O}, soit discret dans R. Lemme 3.12. Lemme de Morse. Soient R un ouvert de C" et p une fonction strictement plurisousharmonique de classe C2 dans R. Alors, pour tout E > O, il existe une forme IR-linéaire L : C" + IR telle que max IL(z)I 5 E , l'ensemble

+

+

L€C* ,Izl=l

Crit(p L ) = { Z E R I d ( p L ) ( z ) = O} soit discret dans R et p strictement plurisousharmonique dans R.

+ L soit

Démonstration. Puisque p est de classe c2,daprès un Lemme de Morse (cf [Mi], 5 2, Lemme A ou [RI, Appendice A ou encore, [He/Le2],Appendice B), pour presque toute forme IR-linéaire L : @" -+IR,les points critiques de p L sont isolés. Pour tout E > O, on peut donc trouver une forme IR-linéaire L : Cn -+ IR telle que max IL(z)I 5 E et que Crit(p+ L ) soit discret. I1 résulte de 1aDéfinition2.17

+

LEC" ,121=1

que p + L est strictement plurisousharmonique car les dérivées secondes de L sont nulles. O Corollaire 3.13. Sous les hypothèses du Théorème 3.10, il existe une fonction p satisfaisant les conditions i), ii) et iii) du Théorème 3.10 et telle que de plus Crit(p) := { z E R I d p ( z ) = O} soit discret dans 52. Corollaire 3.14. Si R est un ouvert pseudoconvexe de Cn et K un compact de R, alors = gP"cm . En particulier k; est fermé donc compact dans R.

g;

136

VI. Domaines d'holomorphie et pseudoconvexité

Démonstration. Puisque kEncm = { z E R I u ( z ) < supK u,Vu E PSH(R) on a évidemment kn c kgnCm.Soit z E (1 \ kg, en appliquant le Théorème 3.10 au compact K et au voisinage U = R \ { z } de k:, il existe cp E PSH(R) n C"(R) teiie que cp(z) > O et 'p < O sur k; donc sur K . Par conséquent z # O

C-(R)},

Proposition 3.15. Soit R un ouvert de Cn . S'il existe une fonction plurisousharmonique continue p définie sur un voisinage Uan du bord de R telle que

n Uan = { z E Uan I P ( Z ) < O} alors R est pseudoconvexe. Démonstration. Soient E da et E > O assez petit pour que B( O, donc (3.8)est vérifiée. Réciproquement supposons que R est strictement pseudoconvexe. I1 suffit de prouver que pour X assez grand la fonction = exP - 1 est strictement plurisousharmonique sur un voisinage Uan de dR car R n Uan = { z E Uan I fi(.) < O} etdp(z) = XePdp(z) # Osiz E dR.O n a

3. Pseudoconvexité

139

Par conséquent pour z E ôR et w E Cn

(3.9) Soit K = {(z,w) E û~ x

I

lull

= i et

5

a

w

j

~

IkO}.PuisqueK est

j,k=l

compact et que d'après (3.8),

I i5 g ( z ) w j I > O, si (z,w) E K , on peut choisir =l

X assez grand pour que

I1 résulte alors de (3.9) et de la Définition 2.17 que 6 est strictement plurisousharmonique au voisinage de dR. O Théorème 3.19. Soit R CC Cn un ouvert à bord de classe C2, strictement pseudoconvexe. Alors il existe un voisinage U,defi et unefonction p : U, + R strictement plurisousharmonique de classec' telle que dp( z ) # O si z E dR

R ={z E dR = { z E

et

u, I p ( z ) < O} u, I p ( z ) = O}.

Démonstration. D'après le Théorème 3.18, l'ouvert R possède une fonction définissante po strictement plurisousharmonique de classe C2, c'est-à-dire que po est définie sur un voisinage Van du bord de R, d p o ( z ) # O si z E dR et R n Uan = { z E Van I p o ( z ) < O}. Soit 6 > O, assez petit pour que Kb = { z E Uan I -6 5 po(z) 5 O} soit un compact de Usa. Choisissons une fonction x à valeurs réelles de classe C" sur W, vérifiant ~ ( t=) -6, s i t 5 -6, x(0) = O, % ( t ) 2 O, pour tout t E R, et g ( t ) > O, si -6 < t < +CO, et définissons p l par p l = -6 sur Ks et pl = x 0 po sur Van. I1 résulte immédiatement des propriétés de x que p l est une fonction plurisousharmonique de classe C2 sur R ü Uan, strictement plurisousharmonique sur { z E Uan I po(z) > - 6 } , d p l ( z ) # O si z E dR et

52 = { z E R u Uan I pi(.) < O}. On déduit du Théorème 3.10 qu'il existe une fonction p2 strictement plurisousharmonique de classe C" dans R telle que R, = { z E R I p 2 ( z ) < a } CC R pour tout a E W. Choisissons ,f3 E R, assez grand pour que p l > - f sur R \ 520 et I)E C" (C" ) à valeurs réelles telle que II, = 1 dans un voisinage de na et I)= O dans un voisinage de C" \ 0. Définissons alors 6 2 par 6 2 = I)pz dans R et p 2 = O dans \ R. La fonction 3 2 est strictement plurisousharmonique sur un voisinage de et donc pour tout c > O, pl cp2 est strictement plurisousharmonique au voisinage de Comme de plus p l est strictement plurisousharmonique sur Uan \ Ra et 6 2 = O sur Van \ 0, la fonction P = p l c62 est strictement plurisousharmonique de classe C2 sur U z = Uan ü R et R = { z E U z I $(.) < O},

a?

na

as.

+

+

VI. Domaines d'holomorphie et pseudoconvexité

I40

si c est choisi assez petit. Choisissons une fonction cp positive de classe C" dans C" telle que 2 = { z E cc" I cp(z) = O} (cf Lemme 1.4.13 de [Na2],par exemple). Quitte à restreindre U s , la fonction p = ,6 E(P est la fonction cherchée si E est assez petit. O

+

Corollaire 3.20. SoitR CC C" un ouvertstrictementpseudoconvexe à borde2. Alors pour tout compact K c ûO et tout voisinage UK de K dans Cn , il existe un ouvert 6 strictement pseudoconvexe à bord C2 tel que

OUK

C ~ C O U U K .

Démonstration. Soient UE et p satisfaisant la conclusion du Théorème 3.19. Choisissons une fonction x de classe C" à support compact dans UK f' Us2 à valeurs strictement positives sur K . Pour E assezpetit, R = { z E U s 1 p ( z ) - E X ( Z ) < O} convient. O

Nous allons étudier maintenant le lien entre la stricte convexité et la stricte pseudoconvexité. Proposition 3.21. Tout domaine R CC Cn strictement convexe à bord C2 est strictement pseudocon vexe.

Démonstration. C'est une conséquence du fait qu'une fonction strictement conO vexe de classe C2 est strictement plurisousharmonique. Nous allons prouver que la réciproque est vraie localement modulo un changement de coordonnées holomorphes.

Lemme 3.22. Soient V un ouvert de Cn et p une fonction strictement convexe de classe C2 sur V . On pose D = { z E V I p ( z ) < O } , alors pour tout compact convexe K C ri V et tout voisinage UK de K , il existe un ouvert strictement convexe0 à bordC2 tel que K c c UK n D. Démonstration. Puisque K est convexe, il existe un ouvert strictement convexe à bord C", tel que K CC Q: CC UK n V.Soit p l une fonction strictement convexe de classe C" sur un voisinage Ul CC UK f' V de O: et telle que R : = { z E U1 I p l ( z ) < O } . Puisque aucun point du bord de est un minimum local de pi et puisque pi est strictement convexe, @I( O assez petit pour que O: = { z E U1 I p l (2) < E } CC U1. Choisissons des fonctions de classe C", f et y, de W dans IR ayant les propriétés suivantes : > O, g ( t )2 O 2 O et ( t ) 2 O pour tout t E IR,-1 < f ( t ) < û , s i t < û,f(û)= O , f ( t ) > 0 , s i t > û , g ( t ) = & s i t 5 O, g ( t ) > O,sit > Oetg(t) = i , s i t > E . Posonscp(z,y) = f ( z ) + g ( y ) s i ( s , y ) E IR2. Alors cp est une fonction convexe de classe 6"' sur IR2 qui vérifie ( 5 , ~>) O et @(z,y) 2 O sur IR^, cp(z,y) > O, si max(z,y - E ) > O et cp(z,y) < O, si z < O

01,

01

g(t)

g(t)


O. Ilexisteuneconstantec > O tellequepourtout

VIL Problème de Levi

150

Démonstration. Prouvons 2). Pour n = 1,on a

Pour n

2 2, si x’ = ( 2 2 , . . . ,x,),

une intégration par rapport àlavariable x1 donne

Montrons i i )

O Fin de la démonstration du Lemme 1.3. Pour [ E d D , soit Ut un voisinage de [ tel que (1.9) et (1.10) soient satisfaites pour z E Ut n D. Si V, CC Ut est un voisinage de 6 , les I < P . J n -duzn-l s-lIC-ZIZs+Z JaD\u, I < P l nde2n-i - s l C - ~ I Z s + l et JaD\C; sont clairement bornées sur V, n D , par conséquent pour z E Vc ri D (1.13) et (1.14) Grâce àla compacité de d D , on peut donc trouver un voisinage V de aD tel que les premiers membres de (1.13) et (1.14) soient bornés par C [ d i ~ t ( z , d D ) ] - ~pour /’ tout z E V n D. Comme sur D \ V ces deux intégrales sont bornées cela termine la preuve du lemme. O

Théorème 1.6. Soit D un domaine borné strictement convexe à bord C2 de C”. II existe une constantec > O telle que pour toute forme différentiellef continue s u r D (1.15)

I R”f

+ G;Dflll/2,D 5 clfIû,D.

En particulier si f est une ( p , q )-forme différentielle continue s u r n , O 5 p 5 n, (-l)p+q(R” f +EDf ) del’équation

1 5 q 5 n, tellequedf = O, lasolutionu = d u = f sur D satisfait l’estimation

(1.16)

1’41/2,D 5 Clf10,D.

1. Résolution du d avec estimations holdénennes

151

Démonstration. Grâce au Théorème 1.2 et au Lemme 1.3, il suffit de prouver que la section de Leray w passociée au domaine D vérifie les hypothèses du Lemme 1.3 pour obtenir l’estimation (1.15). Soit p une fonction définissante strictement convexe de D sur UT,alors

est une section de Leray pour D donc ii) est vérifiée. La section w pest indépendante de z , elle satisfait donc également i). I1 reste à montrer iii). Notons xj = zj(() les coordonnées réelles de C E @” telles que (3 = zj( , ) , t z ( z , . ). ,. ,tan-l(z,.))sontalorsdes coordonnées locales sur d D n Uc. Prouvons maintenant l’inégalité (1.2). Puisque t , ( z , z ) = O, quitte à restreindre Uc, il résulte de la formule de Taylor qu’il existe 61 > Otelque I(-- zI 2 61/t(z,()l siz,( E Uc.Aprèsunenouvellerestrictionde Uc, le Lemme 1.1 implique qu’il existe 6 2 tel que pour z, O tel O

Terminons cette étude en prouvant à l’aide d’un contre-exemple dû à E.M. Stein que l’estimation holdérienne d’ordre 1/2 que nous venons d‘obtenir ne peut pas être améliorée.

+

Soit D = ((z1,zz) E Cn I 1z1I2 1zZI2 < l} la boule unité de C2. Notons log la détermination du logarithme définie sur @ \ R+ et pour laquelle l’argument varie entre O et 27r. On pose

(z1,zZ)= (1,O). C’est une (0,l)-forme différentielle de classe C” sur D \ { (1,O)) car log(z1 - 1) si

ne s’annule pas si z1 !$ (1,

+

CO).

De plus, f est continue sur 0, car 1 log(z1

-

VIL Problème de Levi

152

1)I tend vers

03

quand z1

+

let l'holomorphie de la fonction z e --I.-.log(z1-1)

af

sur D implique que = O dans D. Nous allons prouver que, si 1/2, il n'existe pas de fonction u définie sur D telle que au = f sur D et Iul,,~ < +m. Supposons que u soit solution de l'équation au = f et vérifie Iul,,~< +m.

"(e) -

-

Puisque = f,la fonction u - A log(z1-1) est holomorphe dans D. Soit E tel q u e 0 < 2~ < 1, dorsles cercles { ( z I , t z ) E C2 1 21 = 1 - E , J z Z J = &} et { (z1,za) E C2 I z1 = 1 - 2~,Iz21= fi}sont contenus-dans D. Appliquons le Théorème de Cauchy à la fonction z2 ct u(zlrz2) - i o g ( ~ ~ - l sur ) chacun des cercles. On obtient alors

-

Puisque 1 ~ 1 , < ~ +CO, il existe donc une constante C vérifiant O < 2~ < 1,on ait

1I E ~ +

1 log(-E) ~-

lOg(-2E)

1

2i7r~ lOg(-2E)

'

> O telle que, pour tout E

< CEa-1/2.

+

+

Or log( - E ) = Log z7r et log( - 2 ~ ) = Log 2 Log I E ~ ZT, par conséquent Log 2 5 log(-€) l o g ( - 2 ~ ) / ce , qui est impossible.

CE^-^/^^

En utilisant le Corollaire 3.22 du chapitre Vi, on déduit du Théorème 1.6 un résultat de résolubilité locale dans les domaines strictement pseudoconvexes bornés à bord de classe C2. un ouvert borné strictement pseudoconvexe à bord C2 de C" 5 p 5 n , l 5 q 5 n, continue sura et d-fermée sur R. Alors pour tout< E d a , il existe un voisinage Uc de dans Cn, une ( p , q - 1)-forme dflérentielle uc E (U, n R) et une constante Cc > O telle queduc = f suru< etIu O, considérons la section de Leray w,( O et choisissons X > 1 tel que

Supposons dans un premier temps que q = O. La (p,O)-forme holomorphe f x est définie sur le voisinage D A du convexe compact D. Par la Proposition 2.1, il existe une (p,O)-forme g holomorphe dans Cn teile que

On déduit alors de (2.1) et (2.2) que supD Siq

If

-

gI

< E.

2 1,ilexisteux E C : , ~ - ~ ( teiiequedux D ~ )

= fxsurDx+i,carDx+i

est un ouvert borné strictement convexe à bord C2 contenu dans D A (cf th. 1.2). Puisque Dx+i contient D, on peut trouver une fonction xx de classe C" à support

3. Finitude de la cohomologie de Dolbeault

155

compact dans Dx+l et égale à 1 sur D. On pose alors g = dxxux et grâce à (2.1) supDIf - g1
O tel que,

4. Invariance de la cohomologie de Dolbeault

159

si -EO 5 cy < O 5 p 5 E O , on peut trouver un nombrefini de domaines 191,. . . ,ON telsqueR, = 81 C 02 C . . . C ON = Rp et, pourj = 1 , . . . ,N - 1, [ û j , û j + l ] soit une extension strictement pseudoconvexe élémentaire. Démonstration. D'après le Théorème 3.23 du chapitrem, pour tout ( E da,il existe un voisinage Uc de E dans @" et h, une fonction holomorphe au voisinage de Üc telle que h(Uc n 0) soit strictement convexe à bord C2. Comme dR est compact, on peut extraire un sous recouvrement fini ( U i ) l i i i , du recouvrement (Uc)cEan. I1 existe alors EO

> O tel que nE,\ RpEo C

N

u U,. Choisissons des fonctions

i=l ( x j ) j = l , , , ,de , ~classe

j = 1 , .. . , N , et

N xj

C"

à support compact dans @" telles que supp x j

= 1s u r a c o \

c Uj,

R + ~ .Pour a et p fixés tels que -EO 5

cy


Q(R) s'identifie à Z~,,(R)/Z;,,(fl) n 1/2 aCj,,-,(R) et cp est donc bien définie car EP,, (R) c Z;,,(R) n aC~,,-,(R). L'application restriction $ est elle aussi bien définie grâce à la régularité du ( c f chap. III, Remarque 3.6). D'après la Proposition 4.5, $ O cp est un isomorphisme, donc cp est injective et $ est surjective. Pour obtenir le théorème il suffit de prouver que $ est injective ce qui résultera du lemme suivant : -

a

Lemme 4.7. Soient D et R deux ouverts de Cn tels que D CC 0. On suppose qu'il existe un voisinage U de R \ D et une fonction strictement plurisousharmonique p de classe C2 sans point critique telle que D n U = { z E U I p ( z ) < O} et D U { z E U I p ( z ) 5 C } CC R, pour toutC > O. Alors l'application restriction HP?,((R)

+ H;;:/2(D)

estinjectivepourtout(p,q)telsqueO 5 p 5 n , i 5 q 5 n.

5. Théorème d'annulation pour la cohomologie de Dolbeault

161

Démonstration. On peut construire une suite

D = Do c D1 c ... c Di, c . . d'ouverts bornés de

C" tels que R

=

u DI, et

Dk+l

est une extension stricte-

k>O

ment pseudoconvexe sans point critique de Di,, si IC E N. Soit f E Zi,q(R)telle que f = a w o sur D, wo 6 Ap,q112 ( D ) . D'après la Proposition 4.5, i), il existe une suite wk E ~ 112 l ~ , , - ~ ( Dtelle i , )que f = dwi, sur Di,, car chaque Di, est une extension strictement pseudoconvexe non critique de DO. Nous allons construire une suite (ui,)lcENde formes différentielles teiies que uk E C:,q-l(~k), duk = f sur ~ iet ,Iui,+l - ui,lo,B, 5 La suite (uk)kEW, ainsi construite, converge uniformément sur tout compact de R vers une forme différentielle u E Ci,,-,(O) telle que au = f sur D. Posons uo = wo et supposons construites u l l . . . , u k . La forme différentielle wk+l - u k est un élément de Zi,,-,(o,) et, d'après la Proposition 4.5 ii), il existe (lti,+l E ~,",,-,(Oi,+l) telle que

3.

Iwk+l

-

uk - Q l c + l l o , ~ , < 1 / 2 k .

On pose alors ui,+l = wk+l - a k + l et on a bien dui,+l = d ( l t k + l = O sur Dlc+l, et I u k + l - u k l o , p , < 1/P.

Corollaire 4.8. Si alors

f sur

car O

est un ouvert strictement pseudoconvexe borné à bord C2 de Cn,

dimHp,q(R)3 de formes différentielles solutions de 8v, = f sur Da, et telles que v, E k+a-(D,,), O < a < 1, et v, = v,+l dans Da,-Î et u = lim v, sera la CP/-l ,+CC solution cherchée. Posons 03 = u3 et supposons construites v3, . . . ,ve pour C 2 3. Alors ve-ue+l est &fermée dans Da, et le Théorème 6.10 nous donne une solution 'p E Cp,:?l(Da,_,), O < a < 1,d e & = we - ue+1 dans Da,-, . Choisissons une fonction x de classe C" à support compact dans Da,-, et constante égale à 1 sur Da,-, et posons ve+1 = u t t l d(x'p). La forme différentielle ve+1 satisfait les conditions demandées.

+

Considérons maintenant le cas y = 1. Nous allons construire une suite ( v , ) , L ~ de solutions de du,, = f dans D a , telles que vu E C ~ , ~ " ( D aet, ) lvv(z) v,+l(z)I < 2 - , pour z E Da,-l. Une telle suite converge uniformément sur tout compact de D vers une (p,O)-forme u qui a les propriétés requises car les différences u - vu sont holomorphes sur Du. Posons v2 = u2 et supposons v2,. . . ,ve construites pour 2 2. Alors la différence ve - u(+1 est holomorphe dans D,, et grâce auThéorème 7.1 il existe v E cP,o(D),8-fermée telle que Ive(z) - uc+1 ( z ) 17 .(.)I < 2-e pour z E Da,-, . I1 suffit alors de poser ve+1 = ue+1 - v. Corollaire 7.5. Soit D un ouvert pseudoconvexede C" ,alors HP,q(D ) = O pour tout (p,y) telque0 < p < n et1 5 y 5 n.

7. Problème de Levi dans

Théorème 7.6. Un ouvert D de

cn

173

enest un domaine d'holomorphie si et seulement si

H ' > ~ ( D=) O

pour

i

5 q 5 n - 1.

Démonstration. La condition nécessaire est une conséquence des Corollaires 7.3 et 7.5.

Nous allons prouver la condition suffisante par récurrence sur la dimension complexe n. Si n = 1, l'hypothèse est vide, mais le théorème est vrai car tout ouvert de C est un domaine d'holomorphie. Supposons que le théorème est vrai pour les ouverts de Cn-',n 2 2 et considérons un ouvert D de C" pour lequel H o ) q ( D )= O si 1 5 q 5 n - 1.

Montrons pour commencer que si L est une sous-variété linéaire affine de Cn de dimension complexe n - 1, toute composante connexe de D n L considérée comme un ouvert de L 2 CnP1 est un domaine dholomorphie. D'après l'hypothèse de récurrence, il suffit de prouver que Ho>q(D n L ) = O pour 1 5 q 5 n - 2. Sans perte de généralité, on peut supposer que L = { z E @" I z, = O}. Soit cp une (0,q)-formedifférentielle de classe c", d-fermée sur D n L , 1 5 q 5 n - 2, alors cp s'étend à un voisinage U de D n L dans D en une forme différentielle de classe C", d-fermée, de type (0,q) (il suffit de considérer cp comme une forme ne dépendant pas de zn). Soit x une fonction de classe C" dans D , égale à 1 sur un voisinage de D n L dans D et à support dans U . On pose

+

-

On définit ainsi une (0,q 1)-forme différentielle de classe C", d-fermée dans D tout entier. Puisque par hypothèse Ho>q+l(D)=- O, il existe une (0,q)-forme différentielle de classe C" dans D telle que da = a. On a alors sur D et comme Hotq(D) = O, il existe une (0,q - 1)-forme différentielle Q de classe C" dans D telle que x@- zn% = 8s.En restreignant cette identité à L et en posant 6' = on a obtenu une (0,q - 1)-forme différentielle 6' sur D n L telle que 88 = cp ce qui prouve que H0+7(Dn L ) = O.

QIL,

Supposons maintenant que D n'est pas un domaine d'holomorphie, il existe alors deux ouverts D1 et 0 2 tels que 0 # D1 c D2 n D , 0 2 non contenu dans D et pour toute fonction holomorphe dans D , il existe une fonction g2 E O ( & ) telle que g = g2 sur D1. Soient E Dl et L une sous-variété linéaire affine de @" de dimension complexe n - 1 passant par et telle qu'il existe un point ( E a ( D n L ) n f 1 2 . Puisque toutes les composantes connexes de D n L sont des domaines dholomorphie dans L 2 enpi ainsi que nous venons de le prouver, il existe une fonction f holomorphe dans D n L qui ne peut être étendue en une fonction holomorphe au voisinage de (. Comme H 0 ) l ( D ) = O, il résulte du Lemme 6.4 que f est la restriction à D n L d u n e fonction g holomorphe

VIL Problème de Levi

174

sur D (le Lemme 6.4 est donné sous l'hypothèse d u n ouvert 0 strictement pseudoconvexe, mais on remarque que la démonstration utilise seulement le fait que Ho>'(R)= O). Mais cette fonction g s'étend en une fonction holomorphe au voisinage de ce qui contredit l'hypothèse faite surf. Par conséquent D est un domaine dholomorphie. O Terminons ce paragraphe en regroupant dans un seul énoncé les résultats du Corollaire 7.3, du Théorème 7.6 et du Théorème 1.13 du chapitre VI. Corollaire 7.7. Soit D un ouvert de @" . Les conditions suivantes sont équivalentes : i) D est un domaine d'holomorphie. ii) D est holomorphiquement convexe. iii) D est pseudoconvexe. iv) Ho>'J(D) = O s i l 5 q 5 n - 1.

8. PROBLCME DE LEVI DANS LES VARIÉTÉS ANALnIQUES COMPLEXES

L'objet de ce paragraphe est de relier dans une variété analytique complexe la notion de convexité holomorphe et l'existence d u n e fonction dexhaustion plurisousharmonique de classe C2.

a

A. Résolution du dans les variétés analytiques complexes Dans tout le paragraphe X désignera une variété analytique complexe de dimension n. Définition 8.1. Un ouvert D relativement compact dans X est dit strictement pseudoconvexe s'il existe une fonction p strictement plurisousharmonique de classe C2 définie dans un voisinage du bord de D et telle que D n U ~ = D { z E U ~ ID p ( z ) < O} e t d p ( z ) # Opourtoutz E dD.

Remarque : La notion de fonction plurisousharmonique et strictement plurisousharmonique a bien un sens dans une variété analytique complexe car elle est invariante par changement de coordonnées holomorphes. La définition d u n ouvert strictement pseudoconvexe donnée ici coïncide avec celle du chapitre Vi lorsque X = C". On peut également remarquer qu'un tel domaine est à bord C2. Contrairement à ce qui se passe dans C" , on ne peut pas toujours résoudre le d dans un ouvert strictement pseudoconvexe d u n e variété analytique complexe

-

quelconque. Néanmoins la Proposition 3.1 ainsi que sa démonstration restent encore valables dans ce cadre plus général.

8. Problème de Levi dans les variétés analytiques complexes

175

Théorème 8.2. Soient D un ouvert strictement pseudoconuexe à bord C2 relativement compact dans X , p etq des entiers tels que O 5 p 5 n, O 5 q 5 n. Alors i) il existe des opérateurs linéaires continus T: de dans Ai(:(D) telsque,sif E C:,,(D) vérifiedf E c;,,(D), o n a

Cp,,(o)

où KQest un opérateur compactdeC;,q(D) dans lui-même, ii) si q 2 1, dT,P définit un opérateur linéaire continu de Z,”,,(D)dans luimême dont l’image est de codimension finie, iii) Ej(:(D) est un sous-espace vectoriel fermé de codimension finie de

(D).

zp,q

Nous allons prouver maintenant que, si un ouvert D de X admet une fonction définissante strictement plurisousharmonique de classe C2 définie au voisinage de D et pas seulement sur un voisinage de d D , alors on peut résoudre le dans D. Notons qu’un domaine strictement pseudoconvexe de cc“ possède cette propriété (cf chapitre Vi, Théorème 3.19), mais ce n’est pas le cas d’un domaine strictement pseudoconvexe d u n e variété analytique complexe quelconque.

a

Définition 8.3. Unefonction continue sur X à valeurs réelles est dite d’exhaustion si pour touta E R,l’ensemble{z E X I p ( z ) < O } est relatiuementcompactdansX. Nous nous intéressons aux variétés analytiques complexes qui possèdent une fonction dexhaustion strictement plurisousharmonique de classe C2. Proposition8.4. Si X admet unefonction d’exhaustion strictement plurisousharmonique de classec’, alors elle possède unefonction d’exhaustion strictement plurisousharmonique de classe C2 dont l’ensemble des points critiques est discret. Cette proposition est une conséquence immédiate du Lemme de Morse suivant :

x

Lemme 8.5. Soient une variété analytique complexe et p une fonction strictement plurisousharmonique de classe C2 dans X . Si K est un compact de X tel que d p ( z ) # O pour tout z E K , alors pour tout E > O, il existe une fonction pE strictement plurisousharmonique de classeC2 dans X telle que i) p - p, ainsi que ses dérivées premières et secondes sont majorées par€ sur

X, ii) l’ensembleCrit (p,) = { z E X iii) pE = p s u r K .

I dp, (2) = O } est discret dans X ,

Démonstration. Soit UK un voisinage de K tel que dp # O dans U K . I1 existe alors deux suites d’ouverts (Uj)jEw. et (Vj)jEw. relativement compacts dans X tels que

u uj, oc>

dX\UKC

j=l

VU. Problème de Levi

176

b) pour t o u t j , V, est un domaine de carte et Uj CC Vj,

c) V, n K = 0 pour tout j, d) pour tout compact L de X il n'existe qu'un nombre fini d'indices j tels que

LnV,#0. Grâce aux Lemmes 2.24 et 3.12 du chapitre VI, on peut construire une suite ( x j ) j E ~ de fonctions de classe C" dans X telles que pour tout j on ait 1) xj = O dans un voisinage de X \ V, et par conséquent xj = O sur K , 2) la fonction p . . . x j est strictement plurisousharmonique dans X et n'a qu'un nombre fini de points critiques sur K ü Ü1 ü . . . ü Ü j , 3) la fonction x j ainsi que ses dérivées premières et secondes sont majorées par ~ / 2 sur j X.

+ + +

Alors pE = p

+

03

xj convient.

O

j=l

Dans les variétés analytiques complexes nous devons remplacer la notion d'extension strictement pseudoconvexe élémentaire par celle un peu plus générale d'élément d'extension strictement pseudoconvexe pour pouvoir traverser les points critiques. Définition 8.6. On appelle élément d'extension strictement pseudoconvexe u n couple ordonné [O1,821 d'ouverts de X à bord de classe C2 tel que 81 c 8 2 satisfaisant la condition suivante: il existe un ouvert pseudoconvexeV contenu dans un domaine de carte de X contenant 8 2 \ 81 et des domaines Dl et 0 2 strictement pseudo~convexestelsqueD1 c D 2 , 0 2= û 1 U D 2 , B i n D 2 = D1,(ûl \ D 2 ) n ( & \Ol) = 0 et une application biholomorphe définie sur un voisinage de 7à valeurs dans Cn telle que h ( D j ) ,j = 1,2, soit un domaine borné strictement pseudoconvexe à bord C2 de C" . Le Lemme 4.2 reste valable pour cette notion si on remplace dans sa démonstration le Théorème 1.6 par le Théorème 5.3, le Théorème 2.2 par le Théorème 7.1 et la Proposition 3.1 par la Proposition 8.2. Nous allons étendre le Lemme 4.3 au cas où la fonction p possède des points critiques isolés.

Lemme 8.7. Soit p : X + IR une fonction strictement plurisousharmonique de classe C2 telle que Crit(p) soit discret. On pose D, = { z E X I p ( z ) < a } pour a E IR et on suppose que dDo est compact. Il existe E > O tel que pour tout a,,û vérifiant - E 5 a < O < p 5 E il existe u n nombre fini de domaines 81, . . . ,ON telsque D, = 81 c . . . c ON c Dp e t p o u r j = 1 , . , , , N - 1, [Oj,Oj+l] soit un élément d'extension strictement pseudoconvexe. Démonstration. Puisque Crit p est discret il existe EO > O tel que Crit(p) (DEO \ D v E 0 soit ) fini et contenu dans dDo. Notons < I , . . . , O s u r X \ U , ii) { z E X I cp(z) < c } CC X pourtoutc E R. h

Démonstration. Puisque i? est O(X)-convexe et X holomorphiquement convexe, on peut trouver une suite (Kj)jEw. de compacts O(X)-convexes tels que K1 = h

K , ~j c

cc

Kj+, et x = u K

~Posons . u1 = u et vj =

Kj,,

pourj

2 2. Pour

j=l

chaquej,choisissonsdesfonctionsfjkE O ( X ) , k = I , . . . k.teilesqueIfjkl < 1 ' 3,. sur K j et max I f j k ( z )I > 1,si z E Kj+2 \ U (il en existe car K j = K j ) .De plus, l O sur X \ U et cp < O sur k donc sur K d'après (8.3). De plus iil est vérifiée grâce à (8.4). Par ailleurs cp est plurisousharmonique car c'est la borne supérieure d'une famille de fonctions plurisousharmoniques. Il reste à prouver que cp est strictement plurisousharmonique. Soit E X fixé et (21, . . . ,zn) des coordonnées locales holomorphes au voisinage de q(X)= O (cf chap. VI, cor. 4.3). O Ce théorème d'annulation nous permet de donner des conditions géométriques suffisantes pour le phénomène de Hartogs-Bochner et l'extension des fonctions CR en utilisant les résultats du chapitre V On déduit alors des Corollaires 1.4 et 5.2 du chapitre Vle Théorème de HartogsBochner dans les variétés de Stein. Théorème 8.25. Soit X une variété de Stein de dimension n,n 2 2. Alors le phénomène de Hartogs se produit dans X . Plus précisément pour tout domaine D relativement compact à bord de classec'",k >_ 1,dans X tel que X \ D soit connexe et toute fonction CRf de classeCs, O 5 s 5 k, surdD, il existe une fonction F de classeCs sur D, holomorphe dans D telle que F a D = f .

I

Théorème 8.26. Soient X un variété de Stein de dimension n,n 2 2, et K un compact de X,O(X)-convexe. Alors pour tout domaine D relativement compact dans X tel que 1) ûD \ K soit unesous-variétéde classeC',k 2 1, de X \ K , 2)D\ K = I n t o \ K ) , 3) X \ (EU K ) est connexe et toutefonction C R f de classec', O 5 s 5 k,surdD \ K , il existe une fonction F de classeCs s u r D \ K , holomorphedans D \ K telleque F / a D , K = f. Démonstration. D'après le Théorème 5.1 du chapitre V, il suffit de prouver que H $ l ( X \ K ) = O. Si X est de Stein de dimension n 2 2 alors par le Théorème 8.24, H;>l( X ) = O. Si K est O(X)-convexe, daprès le Théorème 8.17, K possède une suite décroissante (Up),,, de voisinages de Stein telle que Up = K . De plus pour n 2

n

PEN

3,H,0>2(Vp) = O et les hypothèses du Théorème 2.5 du chapitre V sont satisfaites, par conséquent H : ~ ( x \ K ) = O. Considérons maintenant le cas n = 2. Prouvons que l'hypothèse ii) du Théorème 2.5 du chapitre Vest encore satisfaite pour les voisinages (Up),,, de K donnés par le Théorème 8.17. Ces voisinages sont de la forme { p p < c } où p p est une fonction strictement plurisousharmonique dexhaustion de X . Donc, grâce au Théorème 8.11 ii), toute (r,O)-forme holomorphe sur Up est limite uniforme sur tout compact de Up de (r,O)-formes holomorphes sur X. Soit f E c c 2 ( U p )une forme 8-fermée à support compact dans Up qui s'écrit f = 8 g où g E Ccl( X ) est à support compact dans X . Par la formule de Stokes une telle forme vérifie

8. Problème de Levi dans les variétés analytiques complexes

187

pour toute (2,O)-forme holomorphe cp dans X . D’après la Proposition 8.23, pour prouver que f = ago où go E U p )est à support compact dans U p ,il suffit de vérifier d u n e part que E&(U,) est fermé, ce qui est le cas car Up est de Stein (et donc H i > l ( U p= ) O) et d‘autre part que

pour toute (2,O)-forme holomorphe $J sur U p . Mais par définition des U p ,$J = lim (Pnr où les (Pn sont des (2,O)-formes holomorphes sur X et donc f A II, = n-tm UP

Remarque :Pour n 2 3, nous n’avons pas utilisé pleinement l’hypothèse que K est O(X)-convexe, nous avons seulement utilisé le fait que K possède une suite w

décroissante (Up),,, de voisinages de Stein telle que K =

n Up. Un compact p=o

d’une variété analytique complexe qui possède cette propriété s’appelle un compact de Stein. Cette notion sera utilisée au chapitre ViII. En particulier, il résulte de la Proposition 8.22 que, si D est un domaine strictement pseudoconvexe, relativement compact d u n e variété analytique complexe, D est un compact de Stein.

Commentaires. Le problème de Levi dans les domaines de Cn a été résolu par Oka [Ok], en 1942, pour n = 2, puis, au début des années 50, pour n quelconque par Oka [Okl,H. Bremermann [Brll et E Norguet [Nol. En 1958, H. Grauert [Grl a donné la solution d u problème de Levi dans les variétés de Stein à l’aide de la théorie des faisceaux cohérents. La première démonstration de la résolubilité du dans les domaines pseudoconvexes n’utilisant pas la solution du problème de Levi est due à L. Hormander [HOU.Cette démonstration parue en 1965 s’appuie sur des estimations L2 pour le problème a-Neumann. Les premiers opérateurs intégraux pour résoudre lea dans les domaines strictementpseudoconvexes de C” ont été construits au début des années 70 par H. Grauert et I. Lieb [GrfLi]et G.M. Henkin [He2].Leur construction utilise une formule intégrale prouvée indépendamment par G.M. Henkin [Hel]et E. Ramirez [Ram].

a

Les méthodes que nous avons utilisées dans les paragraphes 1 à 4 s’étendent à l’étude du dans les domaines q-convexes au sens de Andreotti-Grauert. Le lecteur intéressé pourra consulter [HelLe2]. La démonstration du Théorème 5.1 est due à Laufer [La]. La résolution du problème de Levi par la méthode des représentations intégrales est exposée dans [HelLell et [Ra]. Une alternative à cette méthode est la théorie L2 de Hormander qui est développée dans [Ho2]. La caractérisation cohomologique des domaines d’holomorphie se trouve dans [Gu]. Le Théorème 8.26 est prouvé dans [LIT21 en utilisant une généralisation du noyau de Bochner-Martinelli aux variétés de Stein.

a

Chapitre VI11

Caractérisation des singularités illusoires pour les fonctions C R sur un bord strictement pseudoconvexe

Dans une première partie nous donnons différentes caractérisations des compacts K du bord d'un domaine D strictement pseudoconvexe d'une variété de Stein de dimension n qui ont la propriété suivante : toute fonction C R continue sur d D \ K s'étend holomorphiquement à D tout entier. Lorsque n = 2, nous obtenons une caractérisation géométrique et si n 2 3, des caractérisations cohomologiques. Nous prouvons entre autres que la condition cohomologique suffisante donnée dans le Théorème 5.1 du chapitre V devient nécessaire si la variété ambiante est de Stein et si on se resrtreint aux domaines strictement pseudoconvexes. Nous terminons par une caractérisation géométrique des compacts K solutions du problème précédent lorsque la fonction à étendre est orthogonale aux (n,n - 1)-formes d-fermées dont le support ne rencontre pas K . Cette condition correspond, lorsque K est vide, à celle du Théorème 3.2 du chapitre IV.

1. RÉDUCTION AU CAS DES FONCTIONS CONTINUES

Soient X une variété analytique complexe de dimension n, D un domaine relativement compact de X et K un sous-ensemble compact de d D tel que d D \ K soit une sous-variété de classe Ck,k 1, de X \ K . Le compact K est une singularité illusoire pour les fonctions C R de classe Cs,O s k, sur d D si toute fonction C R de classe C" définie sur d D \ K s'étend en une fonction holomorphe dans D et de classe Ck dans D \ K .

>

<
( X \ K ) dont le support est contenu dans un compact L de X . Puisque H 0 > l ( X\ K ) est séparé, il existe g E c" ( X \ K ) telle que f = 39. La fonctiong est holomorphe sur X \ ( Lü K ) .Puisque X est une variété de Stein, de dimension n 2 2, il résulte du phénomène de Hartogs qu'il existe une fonction 9 E O ( X )qui coïncide avec g en dehors d'un compact de X . Si on pose go = g - j , alors f = ago et le support de go est relativement compact dans X . Par conséquent H 2 l ( X \ K ) est séparé. Montrons maintenant que iiil implique il. Soit f une fonction C R continue sur ï qui est orthogonale aux (n,n- 1)-formes différentielles C", d-fermées dont le support est disjoint de K . D'après la Proposition 1.1, f possède une extension holomorphe f à un voisinage U de ï dans D. Soit x une fonction C" sur X \ K égale à 1 sur un voisinage de X \ ( D U K ) et nulle sur D \ U . Le support de est alors relativement compact dans D. Notons E l'adhérence des (0,l)-formes différentielles 8-exactes dans ( X \ K ) ) + .Nous allons prouver que f3x E E. Raisonnons par l'absurde. Si $ E , il existe une forme linéaire continue T sur (Ccl(X \ K ) ) +telle que TI, = O et (T,f3x) # O. On peut considérer T comme un (n,n - 1)-courant sur X \ K à support fermé dans X et on a (T,dg) = O pour toute fonction g E C" ( X \ K ) dont le support est relativement compact dans X , ce qui signifie que T est d-fermé. D'après le Corollaire 4.2 i) du chapitre V, il existe une forme différentielle 'p de classe C", d-fermée dans X \ K et un courant S sur X \ K , tous deux à support fermé dans X , tels que T = 3s cp. Comme f a x est d-fermée dans X \ K , on a alors

ax

(CTl

fax

+

d'après la formule de Stokes et l'hypothèse sur f , ce qui contredit le choix de T donc fdx E E . Mais par hypothèse H(P'l(X \ K ) est séparé, donc = 89, où g est une fonction C" sur X \ K à support relativement compact dans X . La fonction g est alors holomorphe sur un voisinage de X \ (D ü K ) et puisque X est de Stein de dimension n 2 2, il résulte du phénomène de Hartogs qu'il existe une fonction 9 E O ( X )telle que g = g sur un voisinage de X \ ( D U K ) . En posant F - = x f - g j on obtient une fonction holomorphe dans X \ K continue dans D \ K qui coïncide avec f au voisinage de ï dans D donc avec f sur î.

fax

+

Terminons en prouvant que i) implique ii). Puisque D est strictement pseudoconvexe, il existe des domaines strictement pseudoconvexes D' et D" tels que D" c D c -D' et D" n d D = K = D n dD'. Soit f une (0,l)-forme différentielle C", d-fermée sur X \ K telle que f soit la limite dans Cri ( X \ K ) de la suite (8gj)jEw,où g j E C"(X \ K ) . Puisque D' est un ouvert de Stein,.il existe u1 E ~ " ( 0 tel ' ) que f = au1 sur D'. Supposons dans un premier temps que n 2 3. Comme 8'est un compact de Stein, il résulte du Lemme 3.2 que Hoil(X \ = O. I1 existe alors u2 E C"(X\D") telle que f = au, sur X\D". La fonction w = u1 -u2 est holomorphe

8')

VIII. Caractérisation des singularités illusoires pour les fonctions C R

196

-

surlevoisinageD'\D''der etsicpestune (n,n-1)-formec", compact dans X \ K , on a

8-ferméeàsupport

en appliquant à deux reprises le Théorème de Stokes. -

Soit maintenant cp une (n,n- 1)-forme différentielle C", 8-fermée quelconque dont le support ne rencontre pas K . Puisque D est strictement pseudoconvexe, D possède une base de voisinages de Stein et il existe donc une (n,n- 2)-forme $ de classe Coo,sur un voisinage relativement compact V de D telle que cp = sur V . Soit une fonction C" sur X , identiquement nulle au voisinage de D et égale à 1 sur X \ V . Posons cpo = cp = (1 - x)cp - ax A $. La forme cpo s'étend par O à X \ K en une forme d-fermée à support compact dans X \ K . On a alors

a$

x

a(x$)

car x est nulle au voisinage de D. Puisque K est une singularité illusoire faible il existe une fonction V holomorphe sur D' telle que V = v sur D' \ 8'. Si on pose g = u1 - V = 212

sur sur

on obtient une fonction g de classe C" sur X que H 0 > l ( X\ K ) est séparé.

Dl

x\D", \ K telle que dg = f ,ce qui prouve

Pour traiter le cas n = 2, la démonstration est analogue, mais on utilise que

H O ~ ~\ (8') X est seulement séparé (aiors qu'il était nui pour n 2 31, ce que nous allons démontrer.

O

Proposition 4.2. Soient X une variété de Stein de dimension 2, et K un compact de Stein. Alors H p i ' ( X \ K ) ,p 2 O, est un espace vectoriel topologique séparé.

Démonstration. Prouvons tout d'abord que, pour tout compact L de X \ K , DF2(X \ K ) f i dDP>l(X\ K ) est un sous espace fermé de DF2(X \ K).I1 suffit de montrer que si f E DPi2(X \ K ) , à support dans un compact L , est la limite d u n e suite (f j ) j E N d'éléments de P 2 ( X \ K ) , à support dans L, tels que fj = d g j , o ù g j E2?Pi1(X\K),alors f = d g , o ù g ~ D p ~ ' ( X \ K ) . O n p r o l o n g e f à X par zéro, aiors, si cp E est une forme d-fermée, on a grâce à la formule de Stokes dgj A cp = O. f A cp = Jim

c~-~,~(x)

sx

3'00

Sx

La variété X étant de Stein, H,"-pl'(X) = O et par conséquent E;-,,,(X) est fermé dans C;-,,,(X). La Proposition 8.23 du chapitre VI1 et la régularité du 8,

4. Caractérisation des singularités illusoires faibles

197

impliquent alors que f = dh, où h E DP>'(X).Puisque K est un compact de Stein, il existe un ouvert de Stein U dans X tel que K C U C X \ L. La forme h est d-fermée sur U et on a h = du sur U , où u E CEo.Soit x E D ( X ) une fonction identiquement égale à 1 au voisinage de K et à support dans U . On pose g = h - ~ ( x u g) est , une (p,l)-forme différentielle C" sur X, à support compact dans X \ K telle que 8 g = f . La proposition résultera alors du lemme général suivant.

O

Lemme 4.3. Soient M une variété analytique complexe de dimension n, p etq, p 2 O, 1 1 q < n , des entiers. Si pour tout compact L de M , V p q ( M )n dVplq-l(M) est un sous espace fermé de V p q ( M ) alors , Hn-Pln-q+'(M) est séparé. En particulier H,P,q(M)est séparé si et seulement si Hn-p>"-q+' ( M )est séparé. Nous allons prouver que sous les hypothèses du lemme l'espace

Er-p,n-q+l(M) = {. E

03

cn-p,n-q+l(M)

I

= dV,V E

cr-p,n-q(M)}

I

est égal au sous-espace fermé Zr-p,n-q+l(M)de Zr-p,n-q+l(M)des formes différentielles f vérifiant f A cp = O pour toute cp E Dp)q-'(M) telle que dcp = O dans M . Le Théorème de Stokes implique que EF-p,n-q+l(M)est contenu

,s

-

-

(M), dans Z z p , n - q + l( M ) . Étudions l'inclusion inverse. Soit f E ZEp,n-q+l on définit une forme linéaire continue F sur DPiq-l(M) en posant F(cp) = (-i)p+qlS,j A 'p pour 'p E D P ? ~ - ~ ( M Puisque ). f E il existe une forme linéaire H sur dDP>q-l(M)telle que F = H O 3. Pour prouver la continuité de la forme linéaire H , il suffit, par définition de la topologie de D P ) q ( M )de , montrer que pour tout compact L de M la restriction H L de H à D p q ( M ) n dDp,q-'(M) est continue. Fixons L et considérons une suite exhaustive ( K j ) j c .de ~ compacts de M . Pour chaque j, notons dj la restriction de l'opérateur 3 à l'espace de Fréchet ZEq-,(Kj,L,M) = {f E Dg,"(M)I =

af

O sur Kj \ L } . L'espace D p q ( M ) n dDP+-'(M) est la réunion des images des opérateurs 8j, mais comme il est fermé par hypothèse , c'est un espace de Fréchet et le théorème de Bake implique alors qu'il existe j o tel que Imdj,ne soit pas maigre. Par le théorème de l'application ouverte, l'application djo est surjective et ouverte, ce qui prouve la continuité de H L et celle de H . Par Hahn-Banach l'appliction H s'étend en un ( n - p,n - q)-courant T qui vérifie

1

(dT,cp)= (-l)pfq(T,8cp)= (-l)p+qF(cp) =

f A cp = (Tf,cp)

X

pourtoutecp E DP>Q-l(M). O n a d o n c d T = Tf et commef E C,"Lp,n-q+l ( M ) , par l'isomorphisme de Dolbeault, f E Er-p,n-q+l( M ) . Prouvons la seconde assertion. La condition suffisante résulte de la Proposition 8.23 du chapitre Vi1 et de l'isomorphisme de Dolbeault. Si le groupe de COhomologie H,P,Q(M) est séparé, alors pour tout compact L de M , le sous espace D p q( M ) n dDP,q-l ( M ) est fermé dans D p q (M ) , d'où la condition nécessaire d'après la première assertion. O

198

VIII. Caractérisation des singularités illusoires pour les fonctions C R

Terminons par une caractérisation cohomologique intrinsèque et une caractérisation géométrique des singularités illusoires faibles. Si F est un fermé de X , on note CEq(F)l'espace des germes de (p,q)-formes différentielles sur F , c'est-à-dire la limite inductive sur les ouverts U de X contenant F de la famille CEq(U),les applications Z U V : CEq(U) + Crq(V)pour V c U étant simplement les applications restriction. L'opérateur 8 : c"(F) + CEq+, ( F ) est bien défini et c'est une application continue, qui vérifie d O 8 = O. On peut donc parler du groupe de cohomologie

où Z E q ( F ) =

{u E C,qP(F) I 8 u = O}, HP)q(F)est muni naturellement de la

topologie quotient. Théorème 4.4. Soit D un domaine relativement compact strictement pseudoconvexe à bord C2 d'une variété de Stein de dimension n 2 2 . Alors pour tout compact K contenu dans d D , les conditions suivantes sont équivalentes : i) K est une singularité illusoirefaible pour les fonctions C R sur d D , ii) D c ïO(D)oùro(D) = u { E - E c I? compact}. h

h

iii) Pour tout compact L

L

O(D) I c D \ K , il existe un compact ï

L

c

ï tel que

c (h)O(D). iv) H*J-' ( K ) = O.

Démonstration. Prouvons tout d'abord que ivl implique il. D'après l'équivalence entre les assertions il et iiil du Théorème 4.1, il suffit de montrer que si le groupe Hn,n-l ( K )est nul, alors H:'(X \ K ) est séparé. Notons Q la famille de supports constituée par l'ensemble des fermés de X qui ne rencontrent pas K et considérons le groupe ( X \ K ) de cohomologie de Dolbeault à support dans la famille Q. Nous allons prouver que ce groupe est nul si l'assertion iv) est satisfaite. Soit f E Zg'"(X \ K ) une (n,n)-forme différentielle 8-fermée de classe C" sur X \ K à support dans Q. Comme la variété X est de Stein, il résulte du Corollaire 8.21 du chapitre VI1 qu'il existe une (n,n - 1)- forme différentielle g de classe C" sur X telle que 8f = g. Puisque le support de f est contenu dans q ,la forme g est 8-fermée au voisinage de K . La condition ivl implique alors qu'il existe un voisinage U de K et une forme différentielle h de classe C" sur U telle que dh = g sur U . Si x est une fonction de classe C" à support dans U et indentiquement égale à 1au voisinage de K , la forme 9 = g - d x h est à support dans 9 et vérifie 89 = f , donc H$'*(X \ K ) = O. Remarquons que le Lemme 4.3 reste valable si on remplace la famiiie c par la famille Q et la famille des fermés de X \ K par la famille @. 11 en résulte H : ~ (\xK ) est séparé. Montrons que il implique iil. Supposons que K soit une singularité iiiusoire faible pour les fonctions CR sur dD. Notons d(D U ï) l'algèbre des fonctions continues sur I' ü D et holomorphes dans D. Comme K est une singularité illusoire faible, d(DU I?) n C ( r ) est une sous-algèbre fermée de C ( ï ) (en effet c'est

4. Caractérisation des singularités illusoires faibles

199

l’intersection des sous-espaces fermés Fv = {f E C(r) I r f y- = O}, où y décrit l’ensemble des (n,n - 1)-formes différentielles de classe C30, d-fermées au voisinage de D, dont le support ne rencontre pas K ) .Par conséquent l’application restriction p de d ( D u r) sur d ( D u r) n C(r)est un isomorphisme topologique. Notons x son inverse. Si z est un point de D , le théorème de Hahn-Banach implique l’existence d u n e forme linéaire continue : C(r) -+ C qui coïncide sur d ( D U I’) n C(r)avec l’application f I r e x(f Ir)(.) = f ( z ) . Grâce au théorème de représentation de Riesz il existe donc une mesure pz de masse finie à support compact sur r telle que $J

f(z) =

L L

fksi f

E

d ( D u r).

Puisque d ( D n r)est une algèbre, pour tout k E N,on a

fk(z)=

f‘dp,,

si

f E d ( D u r).

On en déduit que, pour tout k E N,

En faisant tendre k vers l’infini. on obtient

lf(.)I I: SUP{lf(Ol I

c E SUPPP2)l

-

si

f E d ( D u r)? h

ce qui prouve que z E ( s ~ p p p , ) ~et( donc, ~ ) par définition de ro(B), D

c

r O (-D ) ’ h

Étudions maintenant l’implication iij lemmes.

+ iiij.

Nous aurons besoin de deux

Lemme 4.5. Soient D un domaine relativement compact strictement pseudoconvexe à bord C2 d’une variété de Stein X de dimension n 2 2 et K un compact contenu dans d D . Pour tout compact E c d D \ K , il existe un domaine D’ relativement compact strictement pseudoconvexe à bord C2 contenant D tel que ôD’ nD = K et O@‘) I ~ s o i t d e n s e d a n s O ( DetuncompactE’ ) c ôDl\K telqueE C

EC>(~~).

Démonstration. On obtient D‘ en effectuant une petite perturbation C2 de dD laissant fixe K point par point. On peut alors passer de D à D’ par une suite d’éléments d‘extension pseudoconvexe ce qui implique la densité de O ( 8 )I D dans O@). Pour chaque IC E E , considérons le voisinage V, de IC dans X construit dans la Proposition 1.1. On peut supposer que ne rencontre pas K . L‘ensemble E étant compact, E est recouvert par un nombre fini V I ,. . . ,Vp de tels V,. Notons

vz

E’ =

u (Vi naDl).Si D’ est assez proche de D , vi nD’, i = 1, . . . ,p, est un doP

-

i=l

maine du type étudié dans le paragraphe 6 du chapitre Vet donc E

c

h

O

200

Viii. Caractérisation des singularités illusoires pour les fonctions C R

Lemme 4.6. Soient Y un ouvert de Stein d'une variété de Stein de dimension n 2 2,

etE uncompactdeY. OnnoteE, = { z E X I dist(z,E)5 E } etonchoisits assez petit pour que E, soit encore un compact de Y .Alors

>O

A

Démonstration. Posons K = (E,)y, c'est un compact O(Y)-convexe, il possède donc une base U de voisinages de Stein telle que pour tout U E U , O ( Y ) lu soit dense dans O ( U )(cela résulte immédiatement du Théorème 8.17 et de la Proposition 8.9 du chapitre VII). On a alors

dist(Êy,dK)= inf dist(Êy,dU)= inf dist(Êu,dU) UEU

U€U

car ÊY = Êu puisque O ( Y ) lu est dense dans O ( U ) .Comme tout élément U de U est un domaine dholomorphie car il est de Stein, il résulte du Théorème 1.13 du chapitre Vi que

dist(Êy,dK)= inf dist(E,dU). UEU

Maissi U E U , U contient E,, par conséquent dist(Êy,dK)2 E et donc ( Ê y ) , C

K. A

Suite de la démonstration du Théorème 4.4. Supposons que D C ï o ( D ) , alors si h

a E D \ K il existe un compact E, de î tel que a E (E,),(D). D'après le Lemme 4.5, on peut trouver un domaine DI strictement pseudoconvexe contenant D tel que dD' n D = K et O ( 8 ) ID soit dense dans O ( D )et un compact EL C r' = DI \ K tel que E, c (Ga)o(El). On a aiors h

h

h

a E (Ea)o(D)= (E&(EJ) c ( W q E y Ainsi que nous l'avons déjà remarqué dans le paragraphe 1 de ce chapitre, on peut trouve; un voisinage de Stein U de 8 tel que pour tout compact C de 8, C - = Cu. Avec les notations du Lemme 4.6 choisissons E assez petit pour que A

O(D')

(Ea)€flD= 0 et (

nK

= 0, ce qui est possible car E&est un compact de

cc" \D et les points de K sont des points pics pour O@'). Le Lemme 4.6 implique alors que

B(a,E) c

((E)u), c

et en vertu du principe du maximum local

((ELMU

D n B(u,E) c

h

(ïa)U,

où ï a =

n d D est un compact de I?. Si L est un compact de d D \ K , L est recouvert par un nombre fini d'ouverts Va de D de la forme D n B(u,E)et par conséquent il existe un compact ï L c ï tel que L c ( ï r , ) o ( D ) . h

Terminons en prouvant que iii) implique iv). Considérons une (n,n- 1)-forme différentielle 'p d-fermée de classe C" sur un voisinage U de K et X une fonction de classe Coo à support compact dans U et égale à 1 sur un voisinage V de

4. Caractérisation des singularités illusoires faibles

201

sDfax

K . L‘applicationf +-+ A ‘p est une forme linéaire continue sur O@). Posons L = D n supp c’est un compact disjoint de K et d‘après iii), il existe un compact J?L c I’ tel que

ax,

I1 résulte du Théorème de Hahn-Banach et du Théorème de représentation de Riesz qu’il existe une mesure p L sur rLtelle que (pL,f)= JD A ‘p si f E O@). Si X D désigne la fonction caractéristique de D , a = X D ~ XA ‘p - p~ est une mesure sur D u r qui vérifie (a,!) = O pour toute f E O ( D ) .L‘ouvert D étant strictement pseudoconvexe, il existe un domaine G‘ strictement pseudoconvexe tel que supp a c GI,K n G’ = 0 et O ( D )soit dense dans o(G’) IG’n(D”r). (Pour obtenir GI,il suffit de pousser légèrement le bord de D à l’intérieur de D au voisinage de K et de le pousser vers l’extérieur près du support de a ) .La mesure a définit alors un (n,n)-courant Tuà support compact dans G’ qui vérifie (T,,f) = O pour toute f E O(G’). Comme G’ est de Stein, il existe un (n,n - 1)-courant S à support compact dans G’ tel que Tu = dS. Mais Toest une forme différentielle de classe C” sur D n G’, il résulte alors de la régularité du 8, ( c f chap. Vi, Corollaire 4.2 ii)), qu’il existe une forme différentielle ‘po de classe C” sur D n G’ nulle au voisinage de K telle que acpo = To sur D n GI. Considérons à présent un domaine G” strictement pseudoconvexe tel que K c G” c D U V . En restreignant à G”, la relation a’po = Tuon obtient A ‘p = 890 soit a(Xp - ‘po) = O sur GI’ (on a implicitement prolongé X‘p par zéro pour la définir sur GI’ tout entier). Puisque G” est de Stein, Hnln-’(G”) = O et il existe donc une (n,n - 2)-forme différentielle II, de classe C” sur G” telle que X‘p - ‘po = aII, sur G”. Comme X = 1 et ‘po = O au voisinage de K , on aura aII, = ‘p au voisinage de K , ce qui prouve que H n , n - l ( K ) = O. O

fax

aA

Commentaire.L’étudedes singularités illusoires pour les fonctions C R définies sur le bord d’un domaine a débuté avec le travail de G. Lupacciolu et G. Tomassini [LulTo] en 1984 et s’est développée rapidement dans les années qui ont suivi. Les résultats les plus significatifs ont été prouvés par G. Lupacciolu [Lu1,2]. Un panorama de l’ensemble des résultats obtenus sur ce sujet est exposé dans [CifStl.

Annexe A

Variétés différentiables, formes différentielles

Le lecteur trouvera ici un certain nombre d'outils élémentaires de géométrie différentielle qui sont utilisés dans ce volume. Après avoir introduit la notion de variété différentiable, nous définissons l'algèbre des formes différentielles et nous prouvons le Théorème de Stokes qui est le résultat fondamental de cette annexe.

1. VARIÉTÉS DIFFÉRENTIABLES

Définition 1.1. Sur un espace topologique X , une carte h de X est un homéomorphisme d'un ouvert U de X sur un ouvert de R" pour un certain entiern. L'ouvert U est le domaine de la carte h ;on dit que c'est un ouvert de carte. On désigne parfois la carte h par le couple (U,h ).

Si V est un ouvert de X , V

c U , alors hl

est une carte de domaine V .

Définition 1.2. a) Deux cartes h et h' de X , de même domaine U sont dites q-compatiblessi les deux homéomorphismes réciproques h' O h-l : h ( U ) -4 h'(U)

h O h'-l : h'(U) -+h ( U ) sont de classe C'J, q E N* ü { m}, au sens des applications d'un ouvert de RP dans un ouvert de RP'. b) Deux cartes (U,h ) et (U',h') sont dites q-compatibles si: U f l U' = 0 ou bien hl U n U , et h' UnU, sont q-compatiblesau sens de a).

I

Remarque: Si n et n' sont des entiers associés aux cartes h et h', ils sont égaux lorsque h et h' sont compatibles. En effet, si q 2 1, la différentielled(h' O h-')(z) pour 2 E h(U ) est une bijection linéaire de R* dans R"'et donc n = n'.

204

A. Vm'étés différentiables, formes différentielles

Définition 1.3. Un atlas de X de classe CQ est un ensemble de cartes deux à deux q compatibles dont les domaines constituent un recouvrement ouvert de X . Deux atlas de classeCQsont dits compatibles si leur réunion est un atlas de classeCQ. Remarque :La compatibilité est une relation d'équivalence dans l'ensemble des atlas de classe CQde X . Définition 1.4. On appelle variété différentiable de classe CQ un espace topologique séparé, réunion dénombrable de compacts, muni dune classe d'équivalence d'atlas de classe CQ. Exemples 1)Un ouvert non vide D de Rn a une structure naturelle de variété Cm. Un atlas est donné par { (D, IdD)}. 2) La sphère de R3 est une variété C" munie d u n atlas à deux cartes. 3) Si D est un ouvert relativement compact de Rn tel que pour tout P E d D il existe un voisinage W, de P vérifiant d D f l W, = { x E W, I r p ( x ) = O} où r p est une fonction de classe Ck,1 5 IC 5 00, sur W, et dr, # O sur d D n W,. Alors d D est une variété de classe C k (c'est une conséquence du théorème des fonctions implicites). Si X est une variété différentiable, pour tout x E X , il existe une carte (U,h) teile que x E U et h soit une application de U dans R" . L'entier n ne dépend que de 5 , c'est la dimension de X en x.I1 est clair que n est fixe sur chaque composante connexe de X . Définition 1.5. Une variété différentiable dont toutes les composantes connexes sont de dimension n sera dite de dimension n. Définition 1.6. Soient X et Y deux variétés différentiables de classeCQ.Une application f : X t Y est dite de classeCP,p 5 q, si elle est continue et vérifie la condition suivante :pour tout couple de cartes (U,h ) , (V,k)de X et de Y tel que f ( U ) c V , 1'application

IC

O

IV)

(f

O

h-' : h ( U ) -+

k(V)

est de classe C P en tant qu'application d'un ouvert de R" dans un ouvert de R" . Notons qu'il suffitde vérifier ces propriétés pour l'ensemble des cartes d'un atlas. Si Y = R ou C, une application de classe C P de X dans Y est appelée fonction de classe C P sur X . Définition 1.7. Soit (U,h ) une carte d u n e variété différentiablex de classeCQ,alors h est une application de classeCQde U dans R" U -+ h ( U ) c R" 5

h ( z ) = (xi(x),. . . ,xn(x))

2. Partitions de 1 'unité

205

-+R,j

où lesxi : U X I ,. . . ,x, sont

= 1, . . . ,n,sont desfonctions de classesCQsur U . Les fonctions appelées les coordonnées locales de X sur U définies par la carte

(U,h).

2. PARTITIONS DE L'UNITÉ

Dans ce paragraphe, nous construisons un outil qui permet de localiser les problèmes donnés sur une variété, en particulier de se ramener dans un domaine de carte. Lemme 2.1. Soit A un compact de IRn et U un ouvert contenant A. Il existe une fonction réelle de classe Cm à support compact dans U , comprise entre O et 1 et égale à 1 sur A. Démonstration. Considérons la fonction définie sur R par

{

= v(f)g(x) + f(x)v(g).

(Une application ayant ces propriétés s’appelle une dérivation en 2).

Démonstration. I1 suffit d’appliquer les définitions.

O

Exemple: Soit (U,h) une carte en x E X telle que h(x) = O et ( X I , .. . ,xn)les coordonnées locales définies par cette carte. On note ( &),la classe de la courbe

t

H

h - l ( O , . . . ,O, t ,O,. . . ,O) pour tout j = 1,.. . ,n. Si f est une fonction de TKi

classe C1 au voisinage de x on a pour j = 1,. . .,n

A. Variétés différentiables, formes différentielles

210

Proposition 4.3. Les vecteurs (&,, dual de 7:' ( X ) .

. . . ,( &),forment une base de (2': ( X ) ) ' le

Démonstration. I1 suffit de vérifier que les vecteurs ( &),, basedualedelabase

((~IC~),)+I,...,~

. . . ,( G), a forment la

deT:(X).Pourcelacalculons

(&),(zIc).

O

ce qui prouve le résultat.

Théorème 4.4.L'espace tangent en x à X s'identifie avec le dual de l'espace cotangent

enxàX,i.e.T,X = (T,(X))*. Démonstration. D'après la remarque qui suit la Définition 4.1 et le premier point de la Proposition 4.2, T , ( X ) s'injecte dans (7'; ( X ) ) * I1 . reste à prouver l'inclusion inverse. Soit (U,h)une carte de X telle que IC E U , h ( z )= O et h ( U )coïncide avec l'ouvert {ICE IR" I sup lxjl < I}. Si L E ( T ; ( X ) ) * ,alors grâce à la Propoj=l,...,n

sition 4.3 il existe des réels a l , . . . ,an tels que L =

n

aj (&),. Considérons des j=l

fonctions yj,j= 1,.. . ,n, définies sur un intervalle ouvert I de IR contenant O et telles que Iyj(t)I < 1 pour tout t E I et yj(t) = a j t au voisinage de O. Notons r la courbe de X passant par IC définie par h-' O y où y(t) = (yl(t),. . . ,yn@)). Alors O L coïncide avec la classe de I? et par conséquent (T,*( X ) ) "c T, ( X ) . Remarque: T,'(X) est donc le dual de T , ( X ) et les bases a ( ( K ) x ) j = l .,. . psont duales.

((d1~j),)j=1,...,~ et

Onadoncsi(df), E T,*(X)

Si nous considérons des fonctions à valeurs dans @, nous pouvons définir l'espace vectoriel sur @ des 1-formes différentielles au point IC E X , à valeurs complexes. On le note CT: X, il s'identifie à l'espace des applications IR-linéaires de T,X dans @. L'espace vectoriel @TzX est en fait le complexifié @@E T,*X de l'espace vectoriel réel T,*X, c'est un espace vectoriel de dimension complexe n. On peut considérer également le complexifié @T,X de l'espace vectoriel réel T,X. Tout élément v E C T x X s'écrit de manière unique Y = v1 iva où Y I,va E T,X. Une 1-forme différentielle w à valeurs complexes s'étend naturellement en une application @-linéaireW' : CT, -+ c en posant w' (v1 iva) = w (vi) iw (va). On montre facilement que CT; X et CT,X sont naturellement duaux en tant que @-espaces vectoriels.

+

x

+

+

5. Algèbre des formes différentielles

21 1

Définition4.5. On d é f i n i t T ( X )comme la réunion disjointepourx 6 X d e s T x ( X ) ,

c'estl'espace tangent à X et on notep la projection naturelle d e T ( X )sur X . Définition 4.6. SoientX une variétédifférentiable de classeC4,q 2 1,e t A un ouvert

de X . Un champ de vecteurs sur A est une application V : A p O V = Id.

+ T ( X ) telle que

Soit (U,h)une carte de X et (ICI,. . . ,IC") les coordonnées locales associées. Si V est un champ de vecteurs de A et si IC E A n U on a

On notera a le champ de vecteurs défini sur U par IC ax, écrire

( 8x1

On peut alors

où les aj sont des fonctions définies sur A n U .

< q , si les fonctions aj sont de

Le champ de vecteurs V sera dit de classe C e $ classe Ce sur A n U .

5. ALGÈBRE DES FORMES DIFFÉRENTIELLES

Soient X une variété différentiable de classe Cq:q 2 1,et z un point de X . On considère la puissance extérieure rièmesur R,A'T: ( X ) ,de l'espace cotangent TZ ( X ) à X en z. Pour la définition et les principales propriétés de la puissance extérieure rièmed u n espace vectoriel le lecteur pourra consulter [Lan].Dans le cadre qui nous intéresse nous allons utiliser l'interprétation plus concrète suivante de la puissance extérieure dème. Par définition A o T Z ( X ) = R et si T 2 1,comme T , * ( X )est le dual de T x ( X ) , on identifie h'T,* ( X ) avec le R-espace vectoriel des formes r-linéaires alternées sur T, ( X ) ,c'est-à-dire les applications r-linéaires

w : T X ( X )x . . . x T 2 ( X ) +R \

"

/

r-fois telles que si v1, . . . ,v, 6 T, ( X ) et a est une permutation de { 1, . . . , T } w(vu(l),. . . , v u ( r )= ) sign(g)w(v1,. . .,vr) où sign(a) désigne la signature de la permutation a. En particulier w ( v 1 , . . . , v T ) = O si vi = vj pour i # j. Remarque: On a A I T , ( X ) = T , * ( X ) et si T A r T Z ( X ) = {O}.

> dimT,(X)

= d i m X , alors

A. Variétés différentiables,formes différentielles

212

On appelle algèbre extérieure de T; ( X )la somme A'T; ( X ) = @ ArT; ( X ) . r>O

A. Produit extérieur

Le produit extérieur d u n e r-forme w de A r T Z ( X ) et d'une s-forme q de A s T ; ( X ) est une ( r s)-forme, notée w A q, définie par

+

+

où l'on somme sur toutes les permutations a de l'ensemble (1, . . . ,r s}. Si r ou s est nul, par exemple T = O, w est un nombre réel et on pose w A 7) = wq.

Les relations précédentes et la distributivité par rapport à l'addition permettent de définir le produit extérieur de deux éléments quelconques de A'T; ( X ) .On obtient ainsi une loi de composition interne sur A'T; ( X ) que l'on note A. On vérifie aisément que A est associative mais pas commutative. On a néanmoins wAq= (-l)TSqAwsiw~ArTj(X)et~~AST,*(X).

Soient (U,h)une carte de X au voisinage de z et ( 2 1 , locales associées. Pour r E { 1, . . . ,n}ia famille { ( d z j , ) z A . . . A (dxj,.)x,l5 ji

. . . ,z,) les coordonnées

< ... < j r 5 n}

est une base de A r T ; ( X ) , en particulier d i m A ' T , ( X ) = de ArTZ ( X ) s'écrit

cn et toute r-forme w

où la sommation se fait sur les r-uplets strictement croissants (jl,. . . , j r ) de (1,.. . ,n}'et (dz~)= , (dzj,), A

. . . A (dzj,), si J

= (jl,. . . , j r ) .

Remarquons que les coordonnées a J de w dans cette base sont données par aJ=w((-),a

8%

,..., ( - )a, ) s i J =

(jl,...,j r ) .

8%

Définition 5.1. SoientX une variétédifférentiablede classeCq,q 2 1,e t A un ouvert de X . Une r-forme différentielle ou forme différentielle de degré T sur A est une applicationw : A + A ' T * ( X ) = U A ' T ; ( X ) tellequep O w = Id s i p est ZQ XEX

projection naturelledeA'T*(X) s u r X . Soient (U,h)une carte de X et ( X I ,. . . ,zn) les coordonnées locales associées. Si w est une r-forme différentielle sur A et si z E A n U on a

5. Algèbre des formes différentielles

213

On notera d z la ~ forme différentielle de degré r définie par z Ç-) ( d z ~ ) , .On a donc w = a J d z J où les U J sont des fonctions définies sur A n U .

I

J = ( j , 1 . . .,&I j , O pour tout y = h ( z ) , z E U ri U', où J désigne la matrice jacobienne, d'après la Proposition 6.2. Supposons X connexe, orientée et considérons un atlas U = ( U i , h i ) i Ecor~ respondant à l'orientation de X . Soit ( x i ) i Eune ~ partition de l'unité subordonnée au recouvrement ( U i ) i E Si ~ .w est une forme différentielle continue de degré n, à support compact dans X , on pose

On montre facilement que cette définition est indépendante du choix de la partition de l'unité et de l'atlas correspondant à l'orientation. Si X n'est pas connexe, on pose w où les Xi sont les composantes connexes de X . w=

sx

iEi

sx

'

sx

L'expression w définie ci-dessus s'appelle l'intégrale de la n-forme différentielle w sur la variété orientée X. On remarque que si l'on change l'orientation de X , l'intégrale est multipliée par -1. Remarque :On n'a défini l'intégrale que pour les formes différentielles continues à support compact, il est clair que comme dans le cas de Rn on peut étendre cette notion à d'autres classes de formes, par exemple les formes à coefficients L1.

A. Variétés différentiables, formes différentielles

220

7. THÉORÈME DE STOKES

Nous ne prouverons pas dans ce paragraphe le Théorème de Stokes sous ses hypothèses les plus générales mais seulement le cas particulier qui est utilisé dans ce livre. Théorème 7.1. Soit X une variété différentiable orientée de classe CQ,q 2 2, de dimension n et soit D CC X un ouvert relativement compact dans X à bord de classe c1.S i w E c:-,(D) aiors

Remarques 1) L'hypothèse de régularité sur w signifie que w est définie et continue sur et que les coefficients de w dans un système de coordonnées locales associées à une carte (U,h ) sont de classe C1 dans U nD, c'est-à-dire que les dérivées partielles de ces coefficients définies sur U n D s'étendent continûment à U n D.

2) L'orientation de bD est supposée être l'orientation induite par celle de D et on a posé

où i est l'injection de bD dans X . Démonstration du Théorème 7.1. L'ensembleD étant compact, on peut trouver un

e

nombre fini de cartes (U,,h,)l