POLYNÔME DE HUA, NOYAU DE BERGMAN DES DOMAINES DE CARTAN-HARTOGS ET PROBLÈME DE LU QIKENG

F. ZOHRA DEMMAD–ABDESSAMEUD

Résumé. Réduction du problème de Lu Qikeng pour les domaines de Cartan-Hartogs Ω̂_{m}(μ) à un problème algébrique sur les polynômes de Hua. Solution complète du problème de Lu Qikeng quand le domaine de base Ω est un domaine symétrique de dimension inférieure ou égale à 4.

Table des matières

Introduction 1 Résumé in English language 2 1. Polynômes du type de Hua 7 2. Noyau de Bergman des domaines de Cartan-Hartogs 9 3. Problème de Lu Qikeng pour les domaines de Cartan-Hartogs 12 4. Solution du problème de Lu Qikeng pour une base de faible dimension 14 Annexe A. Localisation des racines 17 Annexe B. Tables 21 Références 32

Introduction

Le problème de Lu Qikeng pour un ouvert U de ℂ^{n} consiste à déterminer si le noyau de Bergman K_{U}(z, w) de ce domaine peut avoir des zéros. Ce problème a été posé par Lu Qikeng en 1966. Le nom de conjecture de Lu Qikeng a été donné (par M. Skwarsczynski en 1969) à l’hypothèse suivant laquelle le noyau de Bergman d’un ouvert n’aurait pas de zéros. Un domaine U sera appelé domaine de Lu Qikeng si son noyau de Bergman ne s’annule pas dans U × U.

Soit Ω un domaine homogène borné cerclé irréductible, N(z, t) sa norme générique, χ son polynôme de Hua. Pour μ > 0 et m entier positif, on considère le domaine de Cartan–Hartogs Ω̂_{m} (μ) construit au-dessus de Ω :

Ω̂_{m} (μ) = {(z, Z) ∈ Ω × ℂ^{m}, ∥Z∥^{2} < N (z, z)^{μ}} .

Les domaines de Cartan–Hartogs ont été introduits en 1998 par G. Roos et Weiping Yin ; ils généralisent les ellispsoïdes complexes, qui correspondent au cas où Ω est le disque unité de ℂ. Ces domaines sont en général non homogènes, mais les orbites du groupe d’automorphismes sont alors paramétrées par [0, 1[. Le noyau de Bergman de ces domaines a été obtenu dans le cas général dans [5] ; cf. également [6].

Date: 20 janvier 2007.

2000 Mathematics Subject Classification. Primary 32M15, 32A36.

Key words and phrases. Domaines de Cartan, noyau de Bergman, polynôme de Hua, conjecture de Lu Qikeng.

Dans cet article, nous étudions le problème de Lu Qikeng pour les domaines de Cartan–Hartogs. Nous montrons (théorème 3.2) qu’il se réduit à la localisation, par rapport à la droite \{Re η = \frac{1}{2}\}, des racines d’un polynôme P_{μ}^{m}; ce polynôme, de degré égal à la dimension d de Ω, se déduit du polynôme de Hua de Ω par une transformation combinatoire.

Nous appliquons ensuite ce théorème à la solution complète du problème de Lu Qikeng pour les domaines Ω̂_{m} (μ) lorsque Ω est un domaine symétrique irréductible de dimension au plus 4. Les résultats font apparaître la situation suivante, dont on conjecture qu’elle se généralise pour toute base Ω : pour Ω et m ≥ 1 fixés, il existe μ_{Ω,m}, 0 < μ_{Ω,m} ≤ ∞ tel que Ω̂_{m} (μ) est un domaine de Lu Qikeng si et seulement si 0 < μ ≤ μ_{Ω,m}. La borne μ_{Ω,m} est caractérisée comme la plus petite racine positive du polynôme q_{m}(μ) = P_{μ}^{m} (\frac{1}{2}); on a μ_{Ω,m} = +∞ pour m assez grand. De plus, si le domaine Ω n’est pas un domaine de Lu Qikeng, i.e. si μ > μ_{Ω,m}, il est possible de préciser le nombre de racines de P_{μ}^{m} dans \{Re η > \frac{1}{2}\}, de vérifier que celles-ci sont toujours réelles et de décrire la variété des points de Ω̂_{m} (μ) × Ω̂_{m} (μ) où le noyau de Bergman de Ω̂_{m} (μ) s’annule.

Les résultats obtenus lorsque la base Ω est un domaine symétrique irréductible de dimension au plus 4 fournissent un grand nombre d’exemples de domaines de Lu Qikeng et de domaines qui n’ont pas cette propriété. Contrairement au cas générique d’un domaine borné de ℂ^{n}, qui n’est pas de Lu Qikeng (cf. [3]), � la plupart � des domaines Ω̂_{m} (μ) sont des domaines de Lu Qikeng. En effet, le domaine Ω̂_{m} (μ) est un domaine de Lu Qikeng pour m ≥ m_{Ω} et pour tout μ > 0, où m_{Ω} est un entier qui dépend de la base Ω ; pour 1 ≤ m < m_{Ω}, le domaine Ω̂_{m} (μ) est de Lu Qikeng si et seulement si 0 < μ ≤ μ_{Ω,m}.

Ce travail est organisé comme suit : Dans les sections 1 et 2, nous rappelons la définition du polynôme de Hua d’un domaine symétrique Ω et le calcul du noyau de Bergman de Ω̂_{m} (μ). La section 3 est essentiellement consacrée à la démonstration du théorème de réduction 3.2.

La section 4 décrit la solution complète du problème de Lu Qikeng pour Ω̂_{m} (μ) lorsque la base Ω est de dimension au plus 4 ; les résultats généralisent des résultats obtenus par Yin Weiping [7], Zhang Liyou et Park Jong-do (2006, non publié) lorsque m = 1 et que Ω est une boule hermitienne de dimension 3 ou 4. Pour alléger cette section, les résultats auxiliaires utilisés dans ces cas particuliers ont été regroupés dans l’annexe B. À partir de la dimension 3, les calculs ont été faits à l’aide de Mathematica ; s’agissant uniquement d’opérations algébriques sur les polynômes et de localisation de leurs racines, ces calculs peuvent être vérifiés avec tout autre logiciel de calcul symbolique.

Enfin, l’annexe A regroupe les critères utilisés pour la localisation des racines de polynômes par rapport à \{Re z < \frac{1}{2}\}. En degrés 3 et 4, ces critères sont déduits du critère de stabilité classique de Routh–Hurwitz et du critère de Liénard et Chipart.

Résumé in English language

The Lu Qikeng problem for a domain U ⊂ ℂ^{n} consists in deciding whether the Bergman kernel K_{U}(z, w) of this domain may vanish at some points of U × U. A domain U is called a Lu Qikeng domain if its Bergman kernel is zero-free on U ×U.

Let Ω be an irreducible bounded circled homogeneous domain and N(z, t) its generic norm. For μ > 0 and m a positive integer, let

Ω̂_{m} (μ) = {(z, Z) ∈ Ω × ℂ^{m}, ∥Z∥^{2} < N (z, z)^{μ}} .

The domain Ω̂_{m} (μ) is called Cartan–Hartogs domain (with base Ω, exponent μ, fiber dimension m).

The Bergman kernel of this domain may be explicitly computed from the generic norm and the Hua polynomial of Ω. If (a, b, r) are the numerical invariants (multiplicities and rank) of the domain Ω, its Hua polynomial is

χ (s) = χ_{a,b,r} (s) = ∏^{r} ; j=1 (s + 1 + (j − 1) \frac{a}{2})_{1+b+(r−j)a} ,

where (s + 1)_{k} = ∏_{i=1}^{k}(s + i) denotes the raising factorial. This polynomial is related to the Hua integral by

∫_{Ω} N(z, z)^{s}ω(z) = \frac{χ(0)}{χ(s)} ∫_{Ω} ω (Re s > −1)

(cf. [5]). The decomposition

χ (kμ) = ∑_{j=0}^{d} μ^{j}C_{d−j} (μ) (k + 1)_{j}

of χ (kμ) along raising factorials w.r. to k defines polynomials C_{j}(μ), which are of degree j in μ. For m a positive integer and μ > 0, define

P_{μ}^{m}(η) = ∑_{j=0}^{d}(m + 1)_{j}C_{d−j}(μ)μ^{j}η^{j}.

Note that the degree of this polynomial w.r. to η or μ is equal to the dimension d of Ω.

The Bergman kernel of Ω̂_{m} (μ) is then (cf. [5], [6])

K̂_{m,μ} ((z, Z), (w, W)) = \frac{C}{N (z, w)^{g+mμ}} η^{m+1}P_{μ}^{m}(η),

where ξ, η : Ω̂_{m} (μ) × Ω̂_{m} (μ) → ℂ are defined by

ξ ((z, Z), (w, W)) = \frac{⟨Z, W ⟩}{N(z, w)^{μ}} , η = \frac{1}{1 − ξ} .

The range of ξ is the unit disc Δ ⊂ ℂ and the range of η is the half-plane \{Re η > \frac{1}{2}\}.

Thus the Lu Qikeng problem for Ω̂_{m} (μ) is reduced to the localization of the roots of P_{μ}^{m} :

Theorem. The domain Ω̂_{m} (μ) is a Lu Qikeng domain if and only if all roots of P_{μ}^{m} are located in \{Re η ≤ \frac{1}{2}\}.

Applying this theorem, the Lu Qikeng problem is completely solved in this paper for all m, μ > 0 when the base is of dimension d ≤ 4. This provides a lot of examples of Lu Qikeng and no-Lu Qikeng domains. In contrast with the generic case of a bounded domain (“The Lu Qikeng conjecture fails generically”, see [3]), “most” of the domains Ω̂_{m} (μ) are Lu Qikeng domains. Actually, the domain Ω̂_{m} (μ) is a Lu Qikeng domain for m ≥ m_{Ω} and for all μ > 0, where m_{Ω} is an integer depending on the base Ω; for 1 ≤ m < m_{Ω}, there exists a positive real number μ_{m} such that the domain Ω̂_{m} (μ) is a Lu Qikeng domain if and only 0 < μ ≤ μ_{m}.

Results are as follows:

1. If Ω is the unit disc Δ ⊂ ℂ, the domain Ω̂_{m} (μ) is a Lu Qikeng domain for all m ≥ 1 and all μ > 0. This is recalled here only for sake of completeness.

2. If Ω is the Hermitian ball of dimension 2, the domain Ω̂_{m} (μ) is a Lu Qikeng domain if and only if

(1) m = 1, μ ≤ 2;

(2) m = 2, μ ≤ 4;

(3) m ≥ m_{Ω} = 3, for all μ > 0.

For m = 1, the result is due to H.P. Boas, Siqi Fu, E. Straube [4]; see also [7]. For m > 1, results are new.

3. If Ω is the Hermitian ball of dimension 3, for 1 ≤ m ≤ 5, the polynomial q_{m} (of degree 2 or 3) defined by

q_{m}(μ) = P_{μ}^{m} (\frac{1}{2})

has a unique positive root μ_{m} and

0 < μ_{1} = \sqrt{2} < μ_{2} < μ_{3} < μ_{4} < μ_{5}.

The domain Ω̂_{m} (μ) is a Lu Qikeng domain if and only if (1) 1 ≤ m ≤ 5, 0 < μ ≤ μ_{m};

(2) m ≥ m_{Ω} = 6, for all μ > 0.

For m = 1, this result has been obtained by Weiping Yin [7], by a slightly different method. Results are new for m > 1.

4. If Ω is the Lie ball of dimension 3 (domain of type IV_{3} ≃ III_{2}, symmetric matrices), the same type of result holds as in the preceding case, with different q_{m} and μ_{m},

0 < μ_{1} = \frac{2}{\sqrt{3}} < μ_{2} < μ_{3} < μ_{4} < μ_{5},

but again m_{Ω} = 6. Here the results are new for all m.

5. If Ω is the Hermitian ball of dimension 4, the polynomial q_{m} defined by

q_{m}(μ) = P_{μ}^{m} (\frac{1}{2})

• has two positive roots μ_{m} = μ_{m,1} < μ_{m,2} for m = 1, 2;

• has one positive root μ_{m} for 3 ≤ m ≤ 7;

• is positive for all μ > 0 if m ≥ m_{Ω} = 8. Moreover,

0 < μ_{1} = \sqrt{\frac{3}{2}} < μ_{2} < μ_{3} < μ_{4} < μ_{5} < μ_{6} < μ_{7}.

The domain Ω̂_{m} (μ) is a Lu Qikeng domain if and only if (1) 1 ≤ m ≤ 7, 0 < μ ≤ μ_{m};

(2) m ≥ m_{Ω} = 8, for all μ > 0.

For m = 1, this result has been obtained by Jong-do Park and Liyou Zhang (2006, unpublished). Results are new for m > 1.

6. If Ω is the Lie ball of dimension 4 (domain of type IV_{4} ≃ I_{2,2}, 2 × 2 matrices), the same type of result as in the preceding case holds, with different q_{m} and μ_{m},

0 < μ_{1} = \frac{1}{2} \sqrt{23 − \sqrt{337}} < μ_{2} < μ_{3} < μ_{4} < μ_{5} < μ_{6} < μ_{7},

and m_{Ω} = 8. Here the results are new for all m.

Results may be summarized in the following theorem:

Theorem. Let Ω be an irreducible bounded circled homogeneous domain of dimension at most 4. Then the polynomial

q_{m}(μ) = P_{μ}^{m} (\frac{1}{2})

has 0, 1 or 2 positive roots. If q_{m} has no positive root, let μ_{m} = +∞; if q_{m} has one positive root, denote this root by μ_{m} = μ_{m,1} and let μ_{m,2} = +∞; if q_{m}has two positive roots, denote these roots by μ_{m,1}, μ_{m,2} and let μ_{m} = μ_{m,1} < μ_{m,2}.

The polynomial P_{μ}^{m} has

• no root in \{Re η > \frac{1}{2}\} if 0 < μ ≤ μ_{m};

• one root in \{Re η > \frac{1}{2}\} if μ_{m,1} < μ ≤ μ_{m,2};

• two roots in \{Re η > \frac{1}{2}\} if μ_{m,2} < μ.

The Cartan–Hartogs domain Ω̂_{m} (μ) is a Lu Qikeng domain if and only if

0 < μ ≤ μ_{m}.

The values of the positive roots of q_{m} are given in the following table.

\begin{aligned}Type & I_{1,1} ≃ II_{2} & I_{1,2} & I_{1,3} ≃ II_{3} & III_{2} ≃ IV_{3} & I_{1,4} & I_{2,2} ≃ IV_{4} \\ μ_{1,1} & +∞ & 2 & \sqrt{2} & \frac{2}{\sqrt{3}} & \sqrt{\frac{3}{2}} & ≃ 1.07732 \\ μ_{1,2} & +∞ & +∞ & +∞ & +∞ & 4 & ≃ 3.21549 \\ μ_{2,1} & +∞ & 4 & \frac{1+\sqrt{7}}{2} & \frac{3+\sqrt{73}}{8} & ≃ 1.41518 & ≃ 1.21176 \\ μ_{2,2} & +∞ & +∞ & +∞ & +∞ & ≃ 11.333 & ≃ 9.08062 \\ μ_{3} & +∞ & +∞ & 1 + \sqrt{\frac{5}{2}} & 2 & ≃ 1.61819 & ≃ 1.41824 \\ μ_{4} & +∞ & +∞ & 2 + \sqrt{6} & \frac{1}{2} (3 + \sqrt{\frac{43}{3}}) & ≃ 2.10335 & ≃ 1.74173 \\ μ_{5} & +∞ & +∞ & 8 + \sqrt{70} & 2 (3 + \sqrt{10}) & ≃ 2.8029 & ≃ 2.29476 \\ μ_{6} & +∞ & +∞ & +∞ & +∞ & ≃ 4.22107 & ≃ 3.42405 \\ μ_{7} & +∞ & +∞ & +∞ & +∞ & ≃ 8.60867 & ≃ 6.92986 \end{aligned}

Proofs are by case-by-case computation and study of the polynomial P_{μ}^{m}. For base domain Ω of dimension 3 or 4, most computations have been done with Mathematica; these computations involve only algebraic operations on polynomials and localization of their roots, and they can be checked with any software for symbolic calculus. The localization of the roots of P_{μ}^{m} w.r. to \{Re η = \frac{1}{2}\} is easy in degree 1 or 2. In degrees 3 and 4, we use the following criteria, which result from the Routh–Hurwitz criterion (see [2, Chap. 15] and Propositions A.2, A.4).

Criterion (Degree 3). Let P (z) = α + βz + γz^{2} + δz^{3} be a polynomial with real coefficients and δ > 0. Then all roots of P are located in \{Re z < \frac{1}{2}\} if and only if

P (\frac{1}{2}) > 0, P′ (\frac{1}{2}) > 0, Δ_{2} ≡ (γ + δ) (β + γ + δ) − αδ > 0.

Criterion (Degree 4). Let

P (z) = α + βz + γz^{2} + δz^{3} + εz^{4}

be a polynomial with real coefficients and ε > 0. Then all roots of P are located in \{Re z < \frac{1}{2}\} if and only if

P (\frac{1}{2}) > 0, P′ (\frac{1}{2}) > 0, P′′ (\frac{1}{2}) > 0,
Δ_{3} ≡ (ε + δ + γ + β) [(ε + δ + γ) (ε + δ) − εβ] − (2ε + δ)^{2} α > 0.

Sketch of proofs.

1. If Ω is the unit disc, P_{μ}^{m} has degree 1 and

q_{m}(μ) = P_{μ}^{m} (\frac{1}{2}) = \frac{(m−1)μ}{2} + 1

is always positive.

2. If Ω is the Hermitian ball of dimension 2, the polynomial P_{μ}^{m}(η) has degree 2; its roots (real or imaginary conjugate) lie in \{Re η ≤ \frac{1}{2}\} if and only if

P_{μ}^{m} (\frac{1}{2}) ≥ 0, \frac{d}{d η} P_{μ}^{m} (\frac{1}{2}) ≥ 0.

Computation shows that

q_{m}(μ) = P_{μ}^{m} (\frac{1}{2}) = \frac{m(m−3)}{4}μ^{2} + \frac{3(m−1)}{2}μ + 2,
q_{m}^{1}(μ) = \frac{1}{(m+1)μ} \frac{d}{d η} P_{μ}^{m} (\frac{1}{2}) = 3 + (m − 1)μ;

the results easily follows by inspection of the special cases m = 1 and m = 2.

3. If Ω is the Hermitian ball of dimension 3, the polynomial P_{μ}^{m}(η) has degree 3. According to the above criterion for degree 3, all roots of P_{μ}^{m}(η) = α+βη+γη^{2}+δη^{3} are located in \{Re η < \frac{1}{2}\} if and only if

P_{μ}^{m} (\frac{1}{2}) > 0, \frac{d}{d η} P_{μ}^{m} (\frac{1}{2}) > 0,
Δ_{2} = (γ + δ) (β + γ + δ) − αδ > 0.

Direct computations show that the first condition implies the second. A study of the polynomials

q_{m}(μ) = P_{μ}^{m} (\frac{1}{2}) = 6 + \frac{11(m−1)}{2}μ + \frac{3m(m−3)}{2}μ^{2} + \frac{(m−1)(m^{2}−5m−2)}{8}μ^{3}

and their comparison give the results about the μ_{m}’s. Computation of the third condition gives rise to a polynomial condition on μ and m, which again appears to be implied by

q_{m}(μ) ≥ 0.

4. If Ω is the Lie ball of dimension 3, the treatment is entirely analogous to the case of type I_{1,3}, with

q_{m}(μ) = \frac{1}{8} (m − 1) (m^{2} − 5m − 2) μ^{3} + \frac{9}{8}m (m − 3) μ^{2} + \frac{13}{4} (m − 1) μ + 3.

5. If Ω is the Hermitian ball of dimension 4, the polynomial P_{μ}^{m}(η) has degree 4. According to the above criterion for degree 4, all roots of P_{μ}^{m}(η) = α + βη + γη^{2} + δη^{3} + εη^{4} are located in \{Re η < \frac{1}{2}\} if and only if

P_{μ}^{m} (\frac{1}{2}) > 0, \frac{d}{d η} P_{μ}^{m} (\frac{1}{2}) > 0, \frac{d^{2}}{d η^{2}} P_{μ}^{m} (\frac{1}{2}) > 0,
Δ_{3} ≡ (ε + δ + γ + β) [(ε + δ + γ) (ε + δ) − εβ] − (2ε + δ)^{2} α > 0.

The polynomial q_{m}(μ) = P_{μ}^{m} (\frac{1}{2}) is equal to

q_{m}(μ) = P_{μ}^{m} (\frac{1}{2})

= (4 + mμ) (6 + \frac{19m−25}{4}μ + m(m − 5)μ^{2} + \frac{m^{3}−10m^{2}+15m+10}{16}μ^{3}) .

This polynomial has • two positive roots μ_{m} = μ_{m,1} < μ_{m,2} for m = 1, 2;

• one positive root μ_{m} for 3 ≤ m ≤ 7;

• no positive root for m ≥ 8. A case-by-case study shows that 0 < μ ≤ μ_{m} implies

\frac{d}{d η} P_{μ}^{m} (\frac{1}{2}) > 0, \frac{d^{2}}{d η^{2}} P_{μ}^{m} (\frac{1}{2}) > 0.

Also, the condition Δ_{3} > 0 applied to P_{μ}^{m} gives a polynomial condition (in general of degree 6 w.r. to μ), which is shown to be satisfied for all μ such that \frac{d}{d η} P_{μ}^{m} (\frac{1}{2}) ≥ 0. Finally, P_{μ}^{m} has no root in \{Re η > \frac{1}{2}\} if and only if 0 < μ ≤ μ_{m} (with μ_{m} = +∞ for m ≥ m_{Ω} = 8). It is also possible to check that the number of roots of P_{μ}^{m} in \{Re η > \frac{1}{2}\} is 1 for μ_{m} < μ ≤ μ_{m,2}, and 2 for μ > μ_{m,2} (with μ_{m,2} = +∞ for m ≥ 3); moreover, these roots are always real.

6. If Ω is the Lie ball of dimension 4, the treatment is entirely analogous to the case of type I_{1,4}, with

q_{m}(μ) = P_{μ}^{m} (\frac{1}{2}) = 12 + 14(m − 1)μ + \frac{23m(m−3)}{4}μ^{2}

+ (m − 1)(m^{2} − 5m − 2)μ^{3} + \frac{m^{3}−10m^{2}+15m+10}{16}μ^{4}.

1. Polynômes du type de Hua

1.1. Définition. On considère un triplet (a, b, r) d’entiers naturels, avec r > 0. Le polynôme du type de Hua χ = χ_{a,b,r} est le polynôme défini par :

χ (s) = χ_{a,b,r} (s) = ∏^{r} ; j=1 (s + 1 + (j − 1) \frac{a}{2})_{1+b+(r−j)a} , (1.1)

On a

deg χ = d = r + \frac{r(r−1)}{2}a + rb. (1.2)

En effet, on a

deg χ = ∑^{r} ; j=1 (1 + b + (r − j) a) = r + rb + \frac{r(r−1)}{2}a.

Le polynôme χ est lié à l’intégrale de Selberg [1], pour Re s > −1, par

∫_{0}^{1} ⋯ ∫_{0}^{1} ∏_{j=1}^{r}(1 − t_{j})^{s}t_{j}^{b} ∏_{1≤j<k≤r} |t_{j} − t_{k}|^{a} dt_{1} … dt_{r} = \frac{C(a,b,r)}{χ(s)}, (1.3)

où

C(a, b, r) = ∏_{j=1}^{r} \frac{Γ(b+1+(j−1) \frac{a}{2} )Γ(j \frac{a}{2} +1)}{Γ( \frac{a}{2} +1)}.

1.2. Polynômes de Hua des domaines hermitiens symétriques. Soit Ω un domaine hermitien symétrique irréductible. On désigne par N la norme générique de Ω et par a, b, r ses invariants numériques. L’intégrale de Hua ∫_{Ω} N(z, z)^{s}ω(z) de Ω est donnée par

∫_{Ω} N(z, z)^{s}ω(z) = \frac{χ(0)}{χ(s)} ∫_{Ω} ω  (Re s > −1)  (1.4)

(cf. [5]), où χ = χ_{a,b,r}.

Il est bien connu que le noyau reproduisant de l’espace à poids H (Ω, N(z, z)^{s}) est

K_{Ω,s}(z, t) = C_{s}N(z, t)^{−g−s},

où C_{s} est une constante dépendant de s. Nous rappelons ci-dessous la démonstration et précisons la relation entre C_{s} et χ(s).

Lemme 1.1. Soit Ω un domaine homogène borné cerclé irréductible, N(z, t) sa norme générique, χ son polynôme de Hua. Pour s > 0, le noyau reproduisant de l’espace à poids H (Ω, N(z, z)^{s}) est

K_{Ω,s}(z, t) = C_{Ω}N(z, t)^{−g−s}χ(s), (1.5)

où C_{Ω} = \frac{1}{χ(0) vol(Ω)}.

Démonstration. Si ϕ est un automorphisme de Ω on a

N (ϕ (t) , ϕ (t))^{g} = |Jϕ (t)|^{2} N (t, t)^{g} . (1.6)

Ceci résulte des relations

B (ϕ (z) , ϕ (t)) = d ϕ (z) B (z, t) d ϕ^{∗} (z) ,
det B (z, z) = N (z, z)^{g} .

Soit

∥f∥_{s}^{2} = ∫_{Ω} |f (t)|^{2} N (t, t)^{s} ω (t)

la norme de H (Ω, N(z, z)^{s}). Si ϕ est un automorphisme de Ω, on a par changement de variable dans l’intégrale et en appliquant (1.6),

∥f∥_{s}^{2} = ∫_{Ω} |f ∘ ϕ|^{2} N (ϕ (t) , ϕ (t))^{s} ω (ϕ (t))

= ∫_{Ω} |f ∘ ϕ|^{2} N (t, t)^{s} |Jϕ (t)|^{\frac{2s}{g}} |Jϕ (t)|^{2} ω (t) = ∥(f ∘ ϕ) (Jϕ)^{\frac{s}{g} +1}∥_{s}^{2} .

L’application f ⟼ (f ∘ ϕ) (Jϕ)^{\frac{s}{g} +1} est donc un automorphisme de l’espace de Hilbert H (Ω, N(z, z)^{s}). Le noyau reproduisant de cet espace vérifie donc la relation de transformation

K_{Ω,s}(z, z) = |Jϕ (z)|^{\frac{2s}{g} +2} K_{Ω,s}(ϕ (z) , ϕ (z)).

Soit z ∈ Ω et ϕ ∈ Aut Ω tel que ϕ (z) = 0 ; comme N (0, 0) = 1 , on déduit de (1.6)

N (z, z)^{g} = |Jϕ (z)|^{−2} ,

d’où K_{Ω,s}(z, z) = C_{s}N(z, z)^{−g−s}, avec C_{s} = K_{Ω,s}(0, 0). On a donc

K_{Ω,s}(z, t) = C_{s}N(z, t)^{−g−s},

les deux membres étant analytique-réels. En particulier, K_{Ω,s}(0, t) = C_{s} et 1 = C_{s} ∫ N(t, t)^{s}ω; d’où, en utilisant (1.4), C_{s} = \frac{χ(s)}{χ(0) vol Ω} = C_{Ω}χ(s). □

2. Noyau de Bergman des domaines de Cartan-Hartogs

2.1. Noyau de Bergman virtuel. Soit V un espace vectoriel hermitien de dimension finie n, dont on note ∥ ∥ = ∥ ∥_{V} la norme hermitienne et ω_{V} (z) =

(\frac{i}{2π} ∂\overline{∂} ∥z∥^{2})^{n} la forme volume associée. Soit Ω un domaine de V et p : Ω →]0, +∞[ une fonction continue positive sur Ω. L’espace des fonctions holomorphes sur Ω est noté Hol(Ω). On note H(Ω) l’espace de Bergman

H(Ω) = H (Ω, ω_{V}) = {f ∈ Hol(Ω) | ∥f∥_{Ω}^{2} = ∫_{Ω} |f(z)|^{2} ω_{V} (z) < ∞}

et H(Ω, p) = H(Ω, pω_{V}) l’espace de Bergman à poids

H(Ω, pω_{V}) = {f ∈ Hol(Ω) | ∥f∥_{Ω,p}^{2} = ∫_{Ω} |f(z)|^{2} p(z)ω_{V} (z) < ∞} .

Les produits scalaires de ces espaces de Hilbert sont notés respectivement ( | )_{Ω} et ( | )_{Ω,p}. Le noyau de Bergman de Ω (noyau reproduisant de H(Ω)) est noté K_{Ω}(z, t) ; il est entièrement déterminé par la fonction analytique-réelle K_{Ω} :

K_{Ω}(z) = K_{Ω}(z, z) (z ∈ Ω) ,

qui est aussi appelée noyau de Bergman de Ω. De la même manière, le noyau de Bergman à poids de (Ω, p) (noyau reproduisant de H(Ω, p)) est noté K_{Ω,p}(z, t) et est entièrement déterminé par K_{Ω,p}(z) = K_{Ω,p}(z, z).

Définition 2.1. Soient Ω un domaine dans V et p : Ω →]0, +∞[ une fonction continue sur Ω. On note K_{Ω,p^{k}}(z, w) (resp. K_{Ω,p^{k}}(z)) le noyau de Bergman à poids de (Ω, p^{k}). On appelle noyau de Bergman virtuel de (Ω, p) la fonction définie par

L_{Ω,p} (z, w; r) = L_{0} (z, w; r) = ∑_{k=0}^{∞} K_{Ω,p^{k}}(z, w)r^{k} (z, w ∈ Ω, r ∈ ℂ). (2.1)

La fonction L_{0}(z, r) = L_{0}(z, z; r), définie par

L_{Ω,p} (z, r) = L_{0} (z, r) = ∑_{k=0}^{∞} K_{Ω,p^{k}}(z)r^{k} (z ∈ Ω, r ≥ 0) (2.2)

est également appelée noyau de Bergman virtuel de (Ω, p).

2.2. Noyau de Bergman de domaines de Hartogs. Soit Ω ⊂ V et p : Ω → ]0, +∞[ une fonction continue positive sur Ω. On considère le domaine de Hartogs Ω̂_{m}(p) au-dessus de Ω, défini par

Ω̂_{m}(p) = {(z, Z) ∈ Ω × ℂ^{m} | ∥Z∥^{2} < p(z)} .

On munit ici ℂ^{m} de la structure hermitienne standard et de la forme volume associée

ω_{m}(Z) = (\frac{i}{2π} ∂\overline{∂} ∥Z∥^{2})^{m} .

Le domaine Ω̂_{m}(p) sera muni de la forme volume

ω_{V} (z) ∧ ω_{m}(Z).

Le théorème suivant montre comment calculer le noyau de Bergman des domaines de Hartogs Ω̂_{m}(p) (m > 0) à partir du noyau de Bergman virtuel de (Ω, p).

Théorème 2.1. Le noyau de Bergman K̂_{m} (resp. K̂_{m}) de Ω̂_{m}(p) est égal à

K̂_{m} ((z, Z), (w, W)) = L_{m} (z, w; ⟨Z, W ⟩) ,  (2.3)
K̂_{m}(z, Z) = L_{m} (z, ∥Z∥^{2}) ,  (2.4)

où

L_{m}(z, w; r) = \frac{1}{m!} \frac{∂^{m}}{∂r^{m}} L_{0}(z, w; r),  (2.5)
L_{m}(z, r) = \frac{1}{m!} \frac{∂^{m}}{∂r^{m}} L_{0}(z, r).  (2.6)

2.3. Noyau de Bergman des domaines de Cartan-Hartogs. Soit Ω un domaine homogène borné cerclé irréductible, N(z, t) sa norme générique, χ son polynôme de Hua. Soit

χ (kμ) = ∑_{j=0}^{d} c_{j} (μ) \frac{(k+1)_{j}}{j!} = ∑_{j=0}^{d} μ^{j}C_{d−j} (μ) (k + 1)_{j} (2.7)

la décomposition de χ (kμ) suivant les factorielles croissantes de k.

On considère le domaine de Cartan-Hartogs Ω̂_{m} (μ) construit au-dessus de Ω :

Ω̂_{m} (μ) = {(z, Z) ∈ Ω × ℂ^{m}, ∥Z∥^{2} < N (z, z)^{μ}} . (2.8)

On note K̂_{m,μ} ((z, Z), (w, W)) le noyau de Bergman de Ω̂_{m} (μ) et

K̂_{m,μ}(z, Z) = K̂_{m,μ} ((z, Z), (z, Z)) .

On note L_{m,μ}(z, w; r) le noyau de Bergman virtuel de (Ω, N(z, z)^{μ}) et

L_{m,μ}(z, r) = L_{m,μ}(z, w; r).

Théorème 2.2. Soit Ω un domaine homogène borné cerclé irréductible. On a

L_{0,μ} (z, w, r) = \frac{C_{Ω}}{N (z, w)^{g}} ∑_{j=0}^{d} c_{j} (μ) \frac{1}{(1 − ξ)^{j+1}} ,  (2.9)

L_{0,μ} (z, r) = \frac{C_{Ω}}{N (z, z)^{g}} ∑_{j=0}^{d} c_{j} (μ) \frac{1}{(1 − X)^{j+1}} ,  (2.10)

PROBLÈME DE LU QIKENG 11

où ξ et X sont les fonctions définies par

ξ(z, w, r) = \frac{r}{N(z, w)^{μ}} , X(z, r) = \frac{r}{N(z, z)^{μ}}

et C_{Ω} = \frac{1}{χ(0) vol Ω}. Démonstration. D’après le lemme 1.1 et (2.7), on a

L_{0} (z, w; r) = ∑_{k=0}^{∞} K_{Ω,p^{k}}(z, w)r^{k} = C_{Ω} ∑_{k=0}^{∞} N(z, w)^{−g−kμ}χ(kμ)r^{k}

= \frac{C_{Ω}}{N(z, z)^{g}} ∑_{k=0}^{∞} χ(kμ)ξ^{k}

où ξ = \frac{r}{N(z,w)^{μ}}. Si P est un polynôme décomposé sous la forme

P (k) = ∑_{j=0}^{d} c_{j} \frac{(k+1)_{j}}{j!} ,

on a, pour |ξ| < 1,

∑_{k=0}^{∞} P (k)ξ^{k} = ∑_{j=0}^{d} c_{j} \frac{1}{(1 − ξ)^{j+1}} ,

d’où le résultat pour P (k) = χ(kμ) et χ (kμ) = ∑_{j=0}^{d} c_{j} (μ) \frac{(k+1)_{j}}{j!} . □ Notations. On note F_{μ} = F_{μ}^{0} la fonction rationnelle

F_{μ}^{0}(ξ) = ∑_{j=0}^{d} c_{j} (μ) \frac{1}{(1 − ξ)^{j+1}} (2.11)

et P_{μ} = P_{μ}^{0} le polynôme

P_{μ}^{0}(η) = ∑_{j=0}^{d} c_{j} (μ) η^{j}. (2.12)

Plus généralement, pour m entier positif, on note F_{μ}^{m} la fraction rationnelle

F_{μ}^{m}(ξ) = ∑_{j=0}^{d} \frac{(j + m)!}{j!}c_{j} (μ) \frac{1}{(1 − ξ)^{j+m+1}} (2.13)

et P_{μ}^{m} le polynôme

P_{μ}^{m}(η) = \frac{1}{m!} ∑_{j=0}^{d} \frac{(j + m)!}{j!}c_{j} (μ) η^{j}. (2.14)

Théorème 2.3. Le noyau de Bergman du domaine

Ω̂_{m} (μ) = {(z, Z) ∈ Ω × ℂ^{m}, ∥Z∥^{2} < N (z, z)^{μ}} est

K̂_{m,μ} ((z, Z), (w, W)) = \frac{1}{m!} \frac{C}{N (z, w)^{g+mμ}} F_{μ}^{m}(ξ), (2.15)

où ξ : Ω̂_{m} (μ) × Ω̂_{m} (μ) → ℂ est définie par

ξ ((z, Z), (w, W)) = \frac{⟨Z, W ⟩}{N(z, w)^{μ}} . (2.16)

Démonstration. On a

L_{0,μ} (z, w, r) = \frac{C}{N (z, w)^{g}} ∑_{j=0}^{d} c_{j} (μ) \frac{1}{(1 − ξ)^{j+1}} ,
ξ(z, w, r) = \frac{r}{N(z, w)^{μ}}

et

L_{m,μ} (z, w, r) = \frac{1}{m!} \frac{∂^{m}}{∂r^{m}} L_{0,μ} (z, w, r)

= \frac{1}{m!} \frac{C}{N (z, w)^{g+mμ}} ∑_{j=0}^{d} \frac{(j + m)!}{j!}c_{j} (μ) \frac{1}{(1 − ξ)^{j+m+1}} .

On en déduit le noyau de Bergman de Ω̂_{m} (μ) :

K̂_{m,μ} ((z, Z), (w, W)) = L_{m,μ} (z, w; ⟨Z, W ⟩) = \frac{1}{m!} \frac{C}{N (z, w)^{g+mμ}} F_{μ}^{m}(ξ).

□

Soit η : Ω̂_{m} (μ) × Ω̂_{m} (μ) → ℂ définie par

η ((z, Z), (w, W)) = \frac{1}{1 − ξ ((z, Z), (w, W))} = \frac{N(z, w)^{μ} − ⟨Z, W ⟩}{N(z, w)^{μ}}. (2.17)

Le noyau de Bergman de Ω̂_{m} (μ) s’écrit encore

K̂_{m,μ} ((z, Z), (w, W)) = \frac{C}{N (z, w)^{g+mμ}} η^{m+1}P_{μ}^{m}(η). (2.18)

Définition 2.2. Le polynôme

P_{μ}^{m}(η) = \frac{1}{m!} ∑_{j=0}^{d} \frac{(j + m)!}{j!}c_{j} (μ) η^{j} = ∑_{j=0}^{d}(m + 1)_{j}C_{d−j}(μ)μ^{j}η^{j}

sera appelé polynôme représentatif du noyau de Bergman de Ω̂_{m} (μ).

3. Problème de Lu Qikeng pour les domaines de Cartan-Hartogs

Le problème de Lu Qikeng pour un ouvert U de ℂ^{n} consiste à déterminer si le noyau de Bergman K_{U}(z, w) de ce domaine peut avoir des zéros. Un domaine U est appelé domaine de Lu Qikeng si son noyau de Bergman ne s’annule pas dans U × U.

Soit Ω un domaine homogène borné cerclé irréductible, N(z, t) sa norme générique, χ son polynôme de Hua. Pour μ > 0 et m entier positif, on considère le domaine de Cartan-Hartogs Ω̂_{m} (μ) construit au-dessus de Ω :

Ω̂_{m} (μ) = {(z, Z) ∈ Ω × ℂ^{m}, ∥Z∥^{2} < N (z, z)^{μ}} .

Le noyau de Bergman de Ω̂_{m} (μ) s’écrit

K̂_{m,μ} ((z, Z), (w, W)) = \frac{C}{N (z, w)^{g+mμ}} η^{m+1}P_{μ}^{m}(η), (3.1)

où le polynôme P_{μ}^{m} est le polynôme représentatif du noyau de Bergman, défini à partir du polynôme de Hua χ par les relations

χ (kμ) = ∑_{j=0}^{d} μ^{j}C_{d−j} (μ) (k + 1)_{j} ,  (3.2)

P_{μ}^{m}(η) = ∑_{j=0}^{d}(m + 1)_{j}μ^{j}C_{d−j}(μ)η^{j},  (3.3)

et la fonction η est définie par

ξ ((z, Z), (w, W)) = \frac{⟨Z, W ⟩}{N(z, w)^{μ}} ,  (3.4)
η ((z, Z), (w, W)) = \frac{1}{1 − ξ ((z, Z), (w, W))}.  (3.5)

Lemme 3.1. Soient ξ et η les fonctions définies sur Ω̂_{m} (μ) × Ω̂_{m} (μ) par (3.4) et (3.5). Alors l’image de ξ est le disque unité Δ de ℂ et l’image de η est le demi-plan \{Re η > \frac{1}{2}\}.

Démonstration. Le noyau de Bergman de Ω est

K(z, t) = C_{0}N(z, t)^{−g},

avec C_{0} = (vol Ω)^{−1}. De la propriété connue du noyau de Bergman :

|K(z, t)|^{2} ≤ K(z, z)K(t, t), (3.6)

on déduit

|N(z, t)|^{2} ≥ N(z, z)N(t, t)  (z, t ∈ Ω).  (3.7)

Dans Ω̂_{m}(μ) × Ω̂_{m}(μ), on a donc

|ξ ((z, Z), (t, T))|^{2} = \frac{|⟨Z, T ⟩|^{2}}{N(z, t)^{2μ}} ≤ \frac{∥Z∥^{2}}{N(z, z)^{μ}} \frac{∥T ∥^{2}}{N(t, t)^{μ}} < 1.

La fonction ξ prend donc ses valeurs dans le disque unité Δ de ℂ. Comme

ξ ((0, Z), (0, e^{i θ} Z)) = e^{i θ} ∥Z∥^{2} ,

l’image de ξ est égale à Δ. □

L’expression (3.1) du noyau de Bergman de Ω̂_{m} (μ) entraîne alors immédiatement

Théorème 3.2. Le domaine Ω̂_{m} (μ) est un domaine de Lu Qikeng si et seulement si le polynôme P_{μ}^{m} ne s’annule pas dans \{Re η > \frac{1}{2}\}.

Le problème de Lu Qikeng pour les domaines Ω̂_{m} (μ) est ainsi ramené à la localisation des racines du polynôme P_{μ}^{m}, qui a le même degré que le polynôme de Hua χ et s’en déduit algébriquement.

4. Solution du problème de Lu Qikeng pour une base de faible dimension

Dans cette section, nous donnons la solution complète du problème de Lu Qikeng pour les domaines de Cartan-Hartogs Ω̂_{m} (μ), lorsque la base Ω est un domaine borné symétrique irréductible de dimension au plus 4.

4.1. Cas où Ω est le disque unité de ℂ. Le domaine Ω est le disque unité de ℂ et le domaine Ω̂_{m} (μ) est

Ω̂_{m} (μ) = {(z, Z) ∈ Ω × ℂ^{m}, ∥Z∥^{2} < (1 − |z|^{2})^{μ}}
= {(z, Z) ∈ ℂ × ℂ^{m}, |z|^{2} + ∥Z∥^{2/μ} < 1} .

On a (voir l’annexe B.1)

P_{μ}^{m} (\frac{1}{2}) = \frac{(m−1)μ}{2} + 1,

qui est positif pour tout μ > 0 et tout m ≥ 1. La racine de P_{μ}^{m} est donc toujours inférieure à \frac{1}{2} ; d’où

Théorème 4.1. Si Ω est le disque unité de ℂ, le domaine Ω̂_{m} (μ) est un domaine de Lu Qikeng pour tout μ > 0 et tout entier m ≥ 1.

Ce résultat facile et connu (voir par exemple [7]) n’est cité ici que pour comparaison avec les résultats qui suivront et parce qu’il illustre la méthode employée lorsque Ω est de dimension > 1.

4.2. Cas où Ω est de type I_{1,2}. Le domaine Ω est la boule unité de ℂ^{2} et le domaine Ω̂_{m} (μ) est

Ω̂_{m} (μ) = {(z, Z) ∈ Ω × ℂ^{m}, ∥Z∥^{2} < (1 − ∥z∥^{2})^{μ}}
= {(z, Z) ∈ ℂ^{2} × ℂ^{m}, ∥z∥^{2} + ∥Z∥^{2/μ} < 1} .

Le polynôme de Hua est

χ (s) = (s + 1) (s + 2) .

Le polynôme représentatif du noyau de Bergman de Ω̂_{m} (μ) est (voir annexe B.2)

P_{μ}^{m}(η) = (1 − μ)(2 − μ) + 3(m + 1)μ(1 − μ)η + (m + 1)(m + 2)μ^{2}η^{2}.

D’après le théorème 3.2, le domaine Ω̂_{m} (μ) est un domaine de Lu Qikeng si et seulement si le polynôme P_{μ}^{m}(η) a toutes ses racines dans le demi plan \{Re (z) ≤ \frac{1}{2}\}. D’après la proposition A.1 ces racines sont dans le demi plan \{Re (z) < \frac{1}{2}\} si et seulement si

P_{μ}^{m} (\frac{1}{2}) > 0,  (4.1)
\frac{d P_{μ}^{m}}{d η} (\frac{1}{2}) > 0.  (4.2)

On a (annexe B.2)

\frac{1}{(m+1)μ} \frac{d P_{μ}^{m}}{d η} (\frac{1}{2}) = 3 + (m − 1)μ;

la condition (4.2) est donc vérifiée pour tout μ > 0 et tout m ≥ 1.

On a d’autre part (annexe B.2)

P_{μ}^{m} (\frac{1}{2}) = \frac{m(m−3)}{4}μ^{2} + \frac{3(m−1)}{2}μ + 2.

Si m ≥ 3, tous les coefficients de ce polynôme en μ sont non négatifs et on a P_{μ}^{m} (\frac{1}{2}) > 0 pour tout μ > 0.

Si m = 1, on a

P_{μ}^{1} (\frac{1}{2}) = 2 − \frac{μ^{2}}{2} ,

qui est strictement positif si et seulement si μ < μ_{1} = 2.

Si m = 2, on a

P_{μ}^{2} (\frac{1}{2}) = 2 + \frac{3}{2}μ − \frac{1}{2}μ^{2},

qui est strictement positif si et seulement si μ < μ_{2} = 4. Les conditions (4.2) et (4.1) sont donc vérifiées pour μ < μ_{m}, μ_{m} étant la racine positive de P_{μ}^{m} (\frac{1}{2}). Comme l’ensemble des racines varie continûment en fonction de μ, le domaine est de Lu Qikeng si et seulement si μ ≤ μ_{m}. En conclusion :

Théorème 4.2. Soit Ω la boule unité de ℂ^{2}. Le domaine Ω̂_{m} (μ) est un domaine de Lu Qikeng

– pour m = 1, si et seulement si μ ≤ 2 ;

– pour m = 2, si et seulement si μ ≤ 4 ;

– pour m ≥ 3, quel que soit μ > 0.

Si m = 1, ce résultat est dû à H.P. Boas, Siqi Fu, E. Straube ([4]) ; voir aussi [7]. Pour m > 1, les résultats du théorème sont nouveaux.

4.3. Cas où Ω est de type I_{1,3}. Le domaine Ω est la boule hermitienne de dimension 3. Le polynôme de Hua est

χ (s) = (s + 1) (s + 2) (s + 3).

Le polynôme représentatif du noyau de Bergman de Ω̂_{m} (μ) est (voir annexe B.3)

P_{μ}^{m}(η) = (1 − μ)(2 − μ) (3 − μ) + (m + 1)μ(1 − μ) (11 − 7μ) η
+ 6(m + 1)(m + 2) (1 − μ) μ^{2}η^{2} + (m + 1) (m + 2) (m + 3) μ^{3}η^{3}.

On a

P_{μ}^{m} (\frac{1}{2}) = 6 + \frac{11(m−1)}{2}μ + \frac{3m(m−3)}{2}μ^{2} + \frac{(m−1)(m^{2}−5m−2)}{8}μ^{3}.

Pour 1 ≤ m ≤ 5, soit μ_{m} l’unique racine positive du polynôme q_{m} défini par q_{m}(μ) = P_{μ}^{m} (\frac{1}{2}). On a (cf. proposition B.3)

0 < μ_{1} = \sqrt{2} < μ_{2} < μ_{3} < μ_{4} < μ_{5}.

Du théorème B.7, on déduit la solution complète du problème de Lu Qikeng lorsque Ω est de type I_{1,3} :

Théorème 4.3. Soit Ω une boule hermitienne de dimension 3. Si m ≥ 6, le domaine de Cartan-Hartogs Ω̂_{m} (μ) est un domaine de Lu Qikeng pour tout μ ∈ ]0, +∞[. Si 1 ≤ m ≤ 5, le domaine de Cartan-Hartogs Ω̂_{m} (μ) est un domaine de Lu Qikeng si et seulement si 0 < μ ≤ μ_{m}.

Pour m = 1, ce résultat a été obtenu par Weiping Yin ([7]) par une méthode différente mais essentiellement équivalente. Les résultats du théorème sont nouveaux pour m > 1.

4.4. Cas où Ω est de type IV_{3}. Le domaine Ω est la boule de Lie de dimension 3 (isomorphe au domaine symétrique associé à l’espace S_{2}(ℂ) des matrices symétriques (2, 2)). Les invariants numériques sont a = 1, b = 0, r = 2. Le polynôme de Hua est

χ (s) = (s + 1) (s + \frac{3}{2}) (s + 2) .

Le polynôme représentatif du noyau de Bergman de Ω̂_{m} (μ) est (voir annexe B.4)

P_{μ}^{m}(η) = (1 − μ)(2 − μ) (\frac{3}{2} − μ) + (m + 1)μ(1 − μ) (\frac{13}{2} − 7μ) η
+ 3(m + 1)(m + 2) (\frac{3}{2} − 2μ) μ^{2}η^{2} + (m + 1) (m + 2) (m + 3) μ^{3}η^{3}.

On a

P_{μ}^{m} (\frac{1}{2}) = \frac{(m−1)(m^{2}−5m−2)}{8}μ^{3} + \frac{9m(m−3)}{8}μ^{2} + \frac{13(m−1)}{4}μ + 3.

Pour 1 ≤ m ≤ 5, soient q_{m} les polynômes définis par

q_{m}(μ) = P_{μ}^{m} (\frac{1}{2})

et soit μ_{m} l’unique racine positive du polynôme q_{m}. On a (cf. proposition B.8)

0 < μ_{1} = \frac{2}{\sqrt{3}} < μ_{2} < μ_{3} < μ_{4} < μ_{5}.

Du théorème B.12, on déduit la solution complète du problème de Lu Qikeng lorsque Ω est de type IV_{3} :

Théorème 4.4. Soit Ω une boule de Lie de dimension 3. Si m ≥ 6, le domaine de Cartan-Hartogs Ω̂_{m} (μ) est un domaine de Lu Qikeng pour tout μ ∈]0, +∞[. Si 1 ≤ m ≤ 5, le domaine de Cartan-Hartogs Ω̂_{m} (μ) est un domaine de Lu Qikeng si et seulement si 0 < μ ≤ μ_{m}.

Les résultats de ce théorème sont entièrement nouveaux.

4.5. Cas où Ω est de type I_{1,4}. Le domaine Ω est la boule hermitienne de dimension 4. Le polynôme de Hua est

χ (s) = (s + 1) (s + 2) (s + 3) (s + 4) .

Le polynôme représentatif du noyau de Bergman de Ω̂_{m} (μ) est (voir annexe B.5)

P_{μ}^{m}(η) = (1 − μ)(2 − μ) (3 − μ) (4 − μ)
+ 5(m + 1)(1 − μ)(5 − 3μ)(2 − μ)μη
+ 5(m + 1)_{2} (1 − μ) (7 − 5μ)μ^{2}η^{2}
+ 10 (m + 1)_{3} (1 − μ)μ^{3}η^{3} + (m + 1)_{4} μ^{4}η^{4}

On a

P_{μ}^{m} (\frac{1}{2}) = (4 + mμ) [6 + \frac{1}{4}(19m − 25)μ + m(m − 5)μ^{2}
+ \frac{1}{16}(m^{3} − 10m^{2} + 15m + 10)μ^{3}] .

Pour 1 ≤ m ≤ 7, soit μ_{m} la plus petite racine positive du polynôme q_{m} défini par q_{m}(μ) = P_{μ}^{m} (\frac{1}{2}) . On a (cf. proposition B.13)

0 < μ_{1} = \sqrt{\frac{3}{2}} < μ_{2} < μ_{3} < μ_{4} < μ_{5} < μ_{6} < μ_{7}.

Du théorème (B.18), on déduit la solution complète du problème de Lu Qikeng lorsque Ω est de type I_{1,4} :

Théorème 4.5. Soit Ω une boule hermitienne de dimension 4. Si m ≥ 8, le domaine de Cartan-Hartogs Ω̂_{m} (μ)est un domaine de Lu Qikeng pour tout μ ∈ ]0, +∞[. Si 1 ≤ m ≤ 7, le domaine Ω̂_{m} (μ) est un domaine de Lu Qikeng si et seulement si 0 < μ ≤ μ_{m}.

Pour m = 1, ce résultat a été obtenu par Liyou Zhang et Jong-do Park (2006, non publié). Les résultats du théorème sont nouveaux pour m > 1.

4.6. Cas où Ω est de type IV_{4}. Le domaine Ω est la boule de Lie de dimension 4. Le polynôme de Hua est

χ (s) = (s + 1) (s + 2)^{2} (s + 3).

Le polynôme représentatif du noyau de Bergman de Ω̂_{m} (μ) est (voir annexe B.6)

P_{μ}^{m}(η) = (1 − μ) (2 − μ)^{2} (3 − μ) + (m + 1)(1 − μ)(7 − 5μ)(4 − 3μ)μη
+ (m + 1)_{2}(1 − μ)(23 − 25μ)μ^{2}η^{2} + 2 (m + 1)_{3} (4 − 5μ)μ^{3}η^{3}
+ (m + 1)_{4} μ^{4}η^{4}.

On a

P_{μ}^{m} (\frac{1}{2}) = 12 + 14(m − 1)μ + \frac{23m(m−3)}{4}μ^{2}
+ (m − 1)(m^{2} − 5m − 2)μ^{3} + \frac{m^{3}−10m^{2}+15m+10}{16}μ^{4}.

Pour 1 ≤ m ≤ 7, soit μ_{m} la plus petite racine positive du polynôme q_{m} défini par q_{m}(μ) = P_{μ}^{m} (\frac{1}{2}) On a (cf. proposition B.19)

0 < μ_{1} = \frac{1}{2} \sqrt{23 − \sqrt{337}} < μ_{2} < μ_{3} < μ_{4} < μ_{5} < μ_{6} < μ_{7}.

Du théorème (B.24), on déduit la solution complète du problème de Lu Qikeng lorsque Ω est de type IV_{4} :

Théorème 4.6. Soit Ω une boule de Lie de dimension 4. Si m ≥ 8, le domaine de Cartan-Hartogs Ω̂_{m} (μ) est un domaine de Lu Qikeng pour tout μ ∈]0, +∞[. Si 1 ≤ m ≤ 7, le domaine Ω̂_{m} (μ) est un domaine de Lu Qikeng si et seulement si 0 < μ ≤ μ_{m}.

Les résultats de ce théorème sont entièrement nouveaux.

Annexe A. Localisation des racines

Le problème de Lu Qikeng pour les domaines de Cartan-Hartogs Ω̂_{m} (μ) a été ramené à la localisation des racines du polynôme P_{μ}^{m} par rapport au demi-plan \{Re z > \frac{1}{2}\} (théorème 3.2). Nous rappelons ci-dessous le critère de Routh–Hurwitz qui permet de déterminer quand un polynôme à coefficients réels a toutes ses racines dans le demi-plan {Re z < 0}. Dans les paragraphes suivants, nous en déduisons les critères utilisés pour résoudre le problème de Lu Qikeng pour un domaine de Cartan–Hartogs dont la base Ω est de dimension au plus 4.

A.1. Critère de Routh–Hurwitz. Soit P un polynôme à coefficients réels de degré n

P (z) = a_{0}z^{n} + a_{1}z^{n−1} + … + a_{n−1}z + a_{n}; (A.1)

on suppose a_{0} > 0. Le polynôme P est dit stable si toutes ses racines ont des parties réelles négatives.

L’étude de la stabilité des polynômes intervient dans la théorie du contrôle. En effet, l’équation caractéristique d’un système d’équations différentielles linéaires est un polynôme et la stabilité du système se traduit par le fait que toutes les racines de l’équation caractéristique soient dans le demi-plan négatif.

En 1875, le mécanicien anglais Routh a élaboré un algorithme qui permet de déterminer si un polynôme est stable (et plus généralement de localiser ses racines par rapport à {Re z = 0}). Vingt ans plus tard, le mathématicien allemand Hurwitz a donné un critère équivalent, dans une forme différente, utilisant les déterminants (déterminants de Hurwitz)

Δ_{1} = a_{1}, Δ_{2} = |\begin{matrix}a_{1} & a_{3} \\ a_{0} & a_{2} \end{matrix}| , Δ_{3} = |\begin{matrix}a_{1} & a_{3} & a_{5} \\ a_{0} & a_{2} & a_{4} \\ 0 & a_{1} & a_{3} \end{matrix}| ,

Δ_{n} = |\begin{matrix}a_{1} & a_{3} & a_{5} & ⋯ & 0 \\ a_{0} & a_{2} & a_{4} & ⋯ & 0 \\ 0 & a_{1} & a_{3} & ⋯ & 0 \\ ⋮ & a_{0} & a_{2} & ⋯ & ⋯ \\ 0 & 0 & 0 & ⋯ & a_{n} \end{matrix}| .

Critère (Critère de Routh–Hurwitz). Toutes les racines du polynôme (A.1) ont des parties réelles négatives si et seulement si les n déterminants de Hurwitz sont positifs :

Δ_{1} > 0, Δ_{2} > 0, ⋯, Δ_{n} > 0.

En 1914, les mathématiciens français Liénard et Chipart ont établi un critère de stabilité, différent de celui de Routh-Hurwitz, en constatant que lorsque les coefficients a_{0}, a_{1} , ⋯, a_{n} sont positifs, les conditions sur la positivité des Δ_{i} ne sont pas indépendantes. Par exemple, pour n = 4, les conditions de stabilité se réduisent à a_{1} > 0, a_{2} > 0, a_{4} > 0 et Δ_{3} > 0.

A.2. Polynômes de degré 2. Soit

Q (z) = a_{0}z^{2} + a_{1}z + a_{2},

avec a_{0} > 0. Les déterminants de Hurwitz sont

Δ_{1} = a_{1}, Δ_{2} = |\begin{matrix}a_{1} & 0 \\ a_{0} & a_{2} \end{matrix}| = a_{1}a_{2}.

Le polynôme Q est stable si et seulement si on a

a_{1} > 0, a_{2} > 0. (A.2)

Proposition A.1. Le polynôme du second degré P a ses racines dans \{Re z < \frac{1}{2}\} si et seulement si le polynôme Q(z) = P (\frac{1}{2} + z) est stable, c’est-à-dire si

P (\frac{1}{2}) > 0, P′ (\frac{1}{2}) > 0. (A.3)

Il est également facile d’établir cette proposition directement, sans recours au critère de Routh–Hurwitz.

A.3. Polynômes de degré 3. Soit

Q (z) = a_{0}z^{3} + a_{1}z^{2} + a_{2}z + a_{3},

avec a_{0} > 0. Les déterminants de Hurwitz sont

Δ_{1} = a_{1}, Δ_{2} = |\begin{matrix}a_{1} & a_{3} \\ a_{0} & a_{2} \end{matrix}| , Δ_{3} = |\begin{matrix}a_{1} & a_{3} & 0 \\ a_{0} & a_{2} & 0 \\ 0 & a_{1} & a_{3} \end{matrix}| = a_{3}Δ_{2}.

Le polynôme Q est stable si et seulement si on a

a_{1} > 0, Δ_{2} > 0, a_{3} > 0.

Comme Δ_{2} = a_{1}a_{2} − a_{0}a_{3}, cette condition équivaut à

a_{3} > 0, a_{2} > 0, Δ_{2} > 0. (A.4)

Soit P (z) = α + βz + γz^{2} + δz^{3} un polynôme de degré 3 à coefficients réels avec δ > 0. Ce polynôme a ses racines dans \{Re z < \frac{1}{2}\} si et seulement si le polynôme Q(z) = P (\frac{1}{2} + z) est stable. On a

Q (z) = a_{0}z^{3} + a_{1}z^{2} + a_{2}z + a_{3},

avec a_{3} = P (\frac{1}{2}), a_{2} = P′ (\frac{1}{2}) et

Δ_{2} = |\begin{matrix}β + γ + \frac{3}{4}δ & δ \\ α + \frac{β}{2} + \frac{γ}{4} + \frac{δ}{8} & γ + \frac{3}{2}δ \end{matrix}|

= |\begin{matrix}β + γ + \frac{3}{4}δ & δ \\ α − \frac{γ}{4} − \frac{δ}{4} & γ + δ \end{matrix}| = |\begin{matrix}β + γ + δ & δ \\ α & γ + δ \end{matrix}| .

On en déduit

Proposition A.2. Soit P (z) = α + βz + γz^{2} + δz^{3} un polynôme de degré 3 à coefficients réels avec δ > 0. Ce polynôme a toutes ses racines dans \{Re z < \frac{1}{2}\} si et seulement si on a

P (\frac{1}{2}) > 0, P′ (\frac{1}{2}) > 0,  (A.5)
Δ_{2} = (γ + δ) (β + γ + δ) − αδ > 0.  (A.6)

A.4. Polynômes de degré 4. Soit

Q (z) = a_{0}z^{4} + a_{1}z^{3} + a_{2}z^{2} + a_{3}z + a_{4}

un polynôme à coefficients réels avec a_{0} > 0. Les déterminants de Hurwitz sont

Δ_{1} = a_{1}, Δ_{2} = |\begin{matrix}a_{1} & a_{3} \\ a_{0} & a_{2} \end{matrix}| , Δ_{3} = |\begin{matrix}a_{1} & a_{3} & 0 \\ a_{0} & a_{2} & a_{4} \\ 0 & a_{1} & a_{3} \end{matrix}| ,

Δ_{4} = |\begin{matrix}a_{1} & a_{3} & 0 & 0 \\ a_{0} & a_{2} & a_{4} & 0 \\ 0 & a_{1} & a_{3} & 0 \\ 0 & 0 & a_{2} & a_{4} \end{matrix}| = a_{4}Δ_{3}.

Le polynôme Q est stable si et seulement tous les Δ_{j} sont positifs. Les conditions Δ_{3} > 0 et Δ_{4} > 0 sont équivalentes à

Δ_{3} > 0, a_{4} > 0. (A.7)

D’autre part, on a

Δ_{3} = a_{3}Δ_{2} − a_{1}^{2}a_{4}

et les conditions (A.7) et a_{3} > 0 entraînent donc Δ_{2} > 0. Finalement, Δ_{2} = a_{1}a_{2} − a_{0}a_{3} et a_{2} > 0 entraîne a_{1} > 0 si les conditions précédentes sont réalisées. Le critère de Routh–Hurwitz est ainsi équivalent au critère de Liénard et Chipart, qui s’écrit ici

Proposition A.3. Le polynôme à coefficients réels

Q (z) = a_{0}z^{4} + a_{1}z^{3} + a_{2}z^{2} + a_{3}z + a_{4}

(a_{0} > 0) est stable si et seulement si on a

a_{2} > 0, a_{3} > 0, a_{4} > 0, Δ_{3} > 0. (A.8)

Soit

P (z) = α + βz + γz^{2} + δz^{3} + εz^{4}

un polynôme de degré 4 à coefficients réels avec ε > 0. Soit

Q (z) = a_{0}z^{4} + a_{1}z^{3} + a_{2}z^{2} + a_{3}z + a_{4}

le polynôme Q(z) = P (\frac{1}{2} + z). On a

a_{4} = P (\frac{1}{2}) = α + \frac{1}{2}β + \frac{1}{4}γ + \frac{1}{8}δ + \frac{1}{16}ε,
a_{3} = P′ (\frac{1}{2}) = β + γ + \frac{3}{4}δ + \frac{1}{2}ε,
a_{2} = \frac{1}{2}P′′ (\frac{1}{2}) = γ + \frac{3}{2}δ + \frac{3}{2}ε,
a_{1} = \frac{1}{6}P′′′ (\frac{1}{2}) = δ + 2ε,
a_{0} = ε.

Le polynôme de Hurwitz Δ_{3} relatif à Q est

Δ_{3} = |\begin{matrix}a_{1} & a_{3} & 0 \\ a_{0} & a_{2} & a_{4} \\ 0 & a_{1} & a_{3} \end{matrix}| = a_{1}a_{2}a_{3} − a_{1}^{2}a_{4} − a_{0}a_{3}^{2}

= (δ + 2ε) (γ + \frac{3}{2}δ + \frac{3}{2}ε) (β + γ + \frac{3}{4}δ + \frac{1}{2}ε)
− (δ + 2ε)^{2} (α + \frac{β}{2} + \frac{γ}{4} + \frac{δ}{8} + \frac{ε}{16}) − ε (β + γ + \frac{3}{4}δ + \frac{1}{2}ε)^{2} .

On a

Δ_{3} = (ε + δ + γ + β) [(ε + δ + γ) (ε + δ) − εβ] − (2ε + δ)^{2} α. (A.9)

On a finalement, en appliquant cette relation et la proposition A.3 :

Proposition A.4. Soit

P (z) = α + βz + γz^{2} + δz^{3} + εz^{4}

un polynôme de degré 4 à coefficients réels avec ε > 0. Les racines du polynôme P sont toutes situées dans \{Re z < \frac{1}{2}\} si et seulement si P vérifie les conditions

P (\frac{1}{2}) > 0, P′ (\frac{1}{2}) > 0, P′′ (\frac{1}{2}) > 0,  (A.10)
Δ_{3} ≡ (ε + δ + γ + β) [(ε + δ + γ) (ε + δ) − εβ] − (2ε + δ)^{2} α > 0. (A.11)

Annexe B. Tables

On trouvera ci-dessous pour les types indiqués de domaines bornés symétriques :

– le polynôme de Hua

χ(s) = ∏^{r} ; j=1 (s + 1 + (j − 1) \frac{a}{2})_{1+b+(r−j)a} ;

– les coefficients C_{j}(μ) de la décomposition

χ (kμ) = ∑_{j=0}^{d} μ^{j}C_{d−j} (μ) (k + 1)_{j} ;

– le polynôme représentatif du noyau de Bergman de Ω̂_{m} (μ)

P_{μ}^{m}(η) = ∑_{j=0}^{d}(m + 1)_{j}C_{d−j}(μ)μ^{j}η^{j} ;

– ses polynômes dérivés \frac{d^{k}}{d η^{k}} P_{μ}^{m}(η) (1 ≤ k < d) ;

– leurs valeurs pour η = \frac{1}{2} ;

– en dimension 3, le déterminant de Hurwitz

Δ_{2} = (γ + δ) (β + γ + δ) − αδ

associé au polynôme P_{μ}^{m} (\frac{1}{2} + η) = α + βη + γη^{2} + δη^{3} ;

– en dimension 4, le déterminant de Hurwitz

Δ_{3} ≡ (ε + δ + γ + β) [(ε + δ + γ) (ε + δ) − εβ] − (2ε + δ)^{2} α

associé au polynôme P_{μ}^{m} (\frac{1}{2} + η) = α + βη + γη^{2} + δη^{3} + εη^{4} ;

– éventuellement, les valeurs ci-dessus pour des valeurs particulières de m.

À partir de la dimension 3, les calculs ont été faits à l’aide de Mathematica ; ils peuvent être vérifiés avec tout autre logiciel de calcul symbolique.

B.1. Type I_{1,1}. Le domaine Ω est le disque unité de ℂ. On a

χ (s) = s + 1,
C_{1}(μ) = 1 − μ, C_{0}(μ) = 1,
P_{μ}^{m}(η) = 1 − μ + (m + 1)μη,
P_{μ}^{m} (\frac{1}{2}) = 1 + \frac{m−1}{2}μ.

B.2. Type I_{1,2}. Le domaine Ω est la boule unité de ℂ^{2}. On a

χ (s) = (s + 1)(s + 2),
C_{0}(μ) = 1, C_{1}(μ) = 3(1 − μ), C_{2}(μ) = (1 − μ)(2 − μ),
P_{μ}^{m}(η) = (1 − μ)(2 − μ) + 3(m + 1)μ(1 − μ)η + (m + 1)_{2}μ^{2}η^{2}.

B.2.1. Signe de P_{μ}^{m} (\frac{1}{2}). On a

q_{m}(μ) = P_{μ}^{m} (\frac{1}{2}) = (2 + mμ) (1 + \frac{m−3}{4}μ) .

Proposition B.1. Pour m ≥ 3, P_{μ}^{m}(\frac{1}{2}) est positif pour tout μ > 0. Pour m ≤ 2, le polynôme q_{m} admet une seule racine positive μ_{m} (μ_{1} = 2 < μ_{2} = 4) et P_{μ}^{m}(\frac{1}{2}) est positif ou nul si et seulement si 0 < μ ≤ μ_{m}.

B.2.2. Signe de \frac{d P_{μ}^{m}}{d η} (\frac{1}{2}).

\frac{1}{(m+1)μ} \frac{d P_{μ}^{m}}{d η} (\frac{1}{2}) = 3 + (m − 1)μ.

Proposition B.2. Pour tout m ≥ 1 et pour tout μ > 0, on a \frac{d P_{μ}^{m}}{d η} (\frac{1}{2}) > 0.

B.3. Type I_{1,3}. Le domaine Ω est la boule unité de ℂ^{3}. On a

χ (s) = (s + 1)(s + 2) (s + 3) ,
C_{0}(μ) = 1, C_{1}(μ) = 6(1 − μ),
C_{2}(μ) = (1 − μ)(11 − 7μ), C_{3} (μ) = (1 − μ) (2 − μ) (3 − μ) ,
P_{μ}^{m}(η) = (1 − μ)(2 − μ) (3 − μ) + (m + 1)(1 − μ) (11 − 7μ) μη
+ 6(m + 1)_{2} (1 − μ) μ^{2}η^{2} + (m + 1)_{3} μ^{3}η^{3}.

B.3.1. Signe de P_{μ}^{m} (\frac{1}{2}). On a

P_{μ}^{m} (\frac{1}{2}) = q_{m}(μ) = [4 + (m − 1)μ] r_{m}(μ),
r_{m}(μ) = \frac{1}{8} (12 + 8(m − 1)μ + (m^{2} − 5m − 2)μ^{2}) .

Cas particuliers (1 ≤ m ≤ 5) :

r_{1}(μ) = \frac{3}{4} (2 − μ^{2}) ,
r_{2}(μ) = \frac{1}{2}(3 + 2μ − 2μ^{2}),
r_{3}(μ) = \frac{1}{2}(3 + 4μ − 2μ^{2}),
r_{4}(μ) = \frac{3}{4}(2 + 4μ − μ^{2}),
r_{5}(μ) = \frac{1}{4} (6 + 16μ − μ^{2}) .

Racines positives de q_{m} :

μ_{1} = \sqrt{2} < μ_{2} = \frac{1+\sqrt{7}}{2} < μ_{3} = 1 + \sqrt{\frac{5}{2}} < μ_{4} = 2 + \sqrt{6} < μ_{5} = 8 + \sqrt{70}.

Proposition B.3. Pour m ≥ 6, P_{μ}^{m}(\frac{1}{2}) est positif pour tout μ > 0. Pour m ≤ 5, le polynôme q_{m} admet une seule racine positive μ_{m} et P_{μ}^{m}(\frac{1}{2}) est positif ou nul si et seulement si 0 < μ ≤ μ_{m}.

B.3.2. Signe de \frac{d P_{μ}^{m}}{d η} (\frac{1}{2}). On a

q_{m}^{1}(μ) = \frac{1}{(m+1)μ} \frac{d P_{μ}^{m}}{d η} (\frac{1}{2}) = 11 + 6 (m − 1) μ + \frac{1}{4} (3m^{2} − 9m − 2) μ^{2}.

Cas particuliers (1 ≤ m ≤ 3) :

q_{1}^{1}(μ) = 11 − 2μ^{2},
q_{2}^{1}(μ) = 11 + 6μ − 2μ^{2},
q_{3}^{1}(μ) = 11 + 12μ − \frac{1}{2}μ^{2}.

Racines positives de q_{m}^{1} (1 ≤ m ≤ 3) :

0 < μ_{1}^{1} = \sqrt{\frac{11}{2}} < μ_{2}^{1} = \frac{3+\sqrt{31}}{2} < μ_{3}^{1} = 12 + \sqrt{166},
0 < μ_{m} < μ_{m}^{1}  (1 ≤ m ≤ 3).

Proposition B.4. Pour m ≥ 4, on a \frac{d P_{μ}^{m}}{d η} (\frac{1}{2}) > 0 pour tout μ > 0. Pour m ≤ 3, le polynôme q_{m}^{1} possède une seule racine positive μ_{m}^{1} et est positif sur [0, μ_{m}^{1}].

B.3.3. Signe de \frac{d^{2} P_{μ}^{m}}{d η^{2}} (\frac{1}{2}).

\frac{1}{(m+1)_{2}μ^{2}} \frac{d^{2} P_{μ}^{m}}{d η^{2}} (\frac{1}{2}) = 3 (4 + (m − 1)μ) .

Proposition B.5. On a

\frac{d^{2} P_{μ}^{m}}{d η^{2}} (\frac{1}{2}) > 0

pour tout μ > 0 et tout m ≥ 1.

B.3.4. Déterminant de Hurwitz Δ_{2}. Soient P_{μ}^{m}(η) = α + βη + γη^{2} + δη^{3} et R_{m}(μ) le polynôme défini par

R_{m}(μ) = Δ_{2} = (γ + δ) (β + γ + δ) − αδ.

On a

S_{m}(μ) = \frac{1}{(m+1)_{2}μ^{3}} R_{m}(μ) = [4 + (m − 1)μ] (3 + mμ)T_{m}(μ),
T_{m}(μ) = 5m + 4 + (m^{2} − 2m − 2)μ.

Cas particuliers (1 ≤ m ≤ 2) : T_{1}(μ) = 9 − 3μ, T_{2}(μ) = 14 − 2μ.

Proposition B.6. Pour m ≥ 3, on a R_{m}(μ) > 0 pour tout μ > 0. Pour m ≤ 2, le polynôme R_{m} admet une unique racine positive ν_{m} (ν_{1} = 3, ν_{2} = 7) et on a ν_{m} > μ_{m}.

B.3.5. Localisation des racines de P_{μ}^{m}.

Théorème B.7. Soit Ω la boule hermitienne de dimension 3 et soit P_{μ}^{m} le polynôme représentatif du noyau de Bergman de Ω̂_{m} (μ). Pour m ≥ 6, les racines du polynôme P_{μ}^{m} sont dans le demi-plan \{Re η ≤ \frac{1}{2}\} quel que soit μ > 0. Pour m ≤ 5, les racines du polynôme P_{μ}^{m} sont toutes dans le demi-plan \{Re η ≤ \frac{1}{2}\} si et seulement si 0 < μ ≤ μ_{m}, où μ_{m} désigne l’unique racine positive de q_{m}(μ) = P_{μ}^{m} (\frac{1}{2}).

Démonstration. En rassemblant les résultats des propositions B.3, B.4, B.6 et en appliquant la proposition A.2, on conclut que toutes les racines du polynôme P_{μ}^{m} sont dans le demi-plan \{Re η < \frac{1}{2}\} si et seulement si 0 < μ < μ_{m}. Comme l’ensemble des racines varie continûment en fonction de μ, les racines du polynôme P_{μ}^{m} sont dans le demi-plan \{Re η ≤ \frac{1}{2}\} si et seulement si 0 < μ ≤ μ_{m}. □

B.4. Type IV_{3}. Le domaine Ω est la boule de Lie de dimension 3. Les invariants numériques sont a = 1, b = 0, r = 2. Le polynôme de Hua est

χ (s) = (s + 1) (s + \frac{3}{2}) (s + 2) .

Les coefficients de la décomposition de χ(kμ) sont

C_{0}(μ) = 1, C_{1}(μ) = 3 (\frac{3}{2} − 2μ) ,
C_{2}(μ) = (1 − μ) (\frac{13}{2} − 7μ) ,
C_{3} (μ) = (1 − μ) (2 − μ) (\frac{3}{2} − μ) .

Le polynôme représentatif du noyau de Bergman de Ω̂_{m} (μ) est

P_{μ}^{m}(η) = (1 − μ)(2 − μ) (\frac{3}{2} − μ) + (m + 1)μ(1 − μ) (\frac{13}{2} − 7μ) η
+ 3(m + 1)_{2} (\frac{3}{2} − 2μ) μ^{2}η^{2} + (m + 1)_{3} μ^{3}η^{3}.

B.4.1. Signe de P_{μ}^{m}(\frac{1}{2}). On a

P_{μ}^{m} (\frac{1}{2}) = q_{m}(μ) = [3 + (m − 1)μ] r_{m}(μ),
r_{m}(μ) = \frac{1}{8} (8 + 6(m − 1)μ + (m^{2} − 5m − 2)μ^{2}) .

Cas particuliers (1 ≤ m ≤ 5) :

r_{1}(μ) = \frac{1}{4} (4 − 3μ^{2}) ,
r_{2}(μ) = \frac{1}{4}(4 + 3μ − 4μ^{2}),
r_{3}(μ) = \frac{1}{2}(1 + 2μ)(2 − μ),
r_{4}(μ) = \frac{1}{4} (4 + 9μ − 3μ^{2}) ,
r_{5}(μ) = \frac{1}{4}(4 + 12μ − μ^{2}).

Racines positives de q_{m} (1 ≤ m ≤ 5) :

μ_{1} = \frac{2}{\sqrt{3}} < μ_{2} = \frac{3+\sqrt{73}}{8} < μ_{3} = 2 < μ_{4} = \frac{9+\sqrt{129}}{6} < μ_{5} = 2(3 + \sqrt{10}).

Proposition B.8. Pour m ≥ 6, P_{μ}^{m}(\frac{1}{2}) est positif pour tout μ > 0. Pour m ≤ 5, le polynôme q_{m} admet une seule racine positive μ_{m} et P_{μ}^{m}(\frac{1}{2}) est positif ou nul si et seulement si 0 < μ ≤ μ_{m}.

B.4.2. Signe de \frac{d P_{μ}^{m}}{d η} (\frac{1}{2}). On a

q_{m}^{1}(μ) = \frac{1}{(m+1)μ} \frac{d P_{μ}^{m}}{d η} (\frac{1}{2}) = \frac{13}{2} + \frac{9}{2}(m − 1)μ + \frac{1}{4} (3m^{2} − 9m − 2) μ^{2}.

Cas particuliers (1 ≤ m ≤ 3) :

q_{1}^{1}(μ) = \frac{13}{2} − 2μ^{2},
q_{2}^{1}(μ) = \frac{1}{2}(1 + μ)(13 − 4μ),
q_{3}^{1}(μ) = \frac{13}{2} + 9μ − \frac{1}{2}μ^{2}.

Racines positives de q_{m}^{1} (1 ≤ m ≤ 3) :

0 < μ_{1}^{1} = \frac{\sqrt{13}}{2} < μ_{2}^{1} = \frac{13}{4} < μ_{3}^{1} = 9 + \sqrt{94},
0 < μ_{m} < μ_{m}^{1}  (1 ≤ m ≤ 3).

Proposition B.9. Pour m ≥ 4, on a \frac{d P_{μ}^{m}}{d η} (\frac{1}{2}) > 0 pour tout μ ≥ 0. Pour m ≤ 3, le polynôme q_{m}^{1} possède une seule racine positive μ_{m}^{1} et est positif sur [0, μ_{m}^{1}].

B.4.3. Signe de \frac{d^{2} P_{μ}^{m}}{d η^{2}} (\frac{1}{2}).

\frac{1}{(m+1)_{2}μ^{2}} \frac{d^{2} P_{μ}^{m}}{d η^{2}} (\frac{1}{2}) = 3(3 + (m − 1)μ).

Proposition B.10. On a \frac{d^{2} P_{μ}^{m}}{d η^{2}} (\frac{1}{2}) > 0 pour tout m ≥ 1 et tout μ > 0.

B.4.4. Déterminant de Hurwitz Δ_{2}. Soient P_{μ}^{m}(η) = α + βη + γη^{2} + δη^{3} et R_{m}(μ) le polynôme défini par

R_{m}(μ) = Δ_{2} = (γ + δ) (β + γ + δ) − αδ.

On a

S_{m}(μ) = \frac{1}{(m+1)_{2}μ^{3}} R_{m}(μ) = [3 + (m − 1)μ] s_{m}(μ),
s_{m}(μ) = \frac{35m+27}{4} + \frac{3(m−1)(4m+3)}{2}μ + m (m − 1) (m^{2} − 2m − 2) μ^{2}.

Cas particuliers (1 ≤ m ≤ 2) :

s_{1}(μ) = \frac{1}{2}(31 − 6μ^{2}),
s_{2}(μ) = \frac{1}{4} (97 + 66μ − 16μ^{2}) .

Proposition B.11. Pour m ≥ 3, on a R_{m}(μ) > 0 pour tout μ > 0. Pour 1 ≤ m ≤ 2, le polynôme R_{m} admet une unique racine positive ν_{m} et on a ν_{m} > μ_{m}.

B.4.5. Localisation des racines de P_{μ}^{m}.

Théorème B.12. Soit Ω un domaine symétrique de type IV_{3} et soit P_{μ}^{m} le polynôme représentatif du noyau de Bergman de Ω̂_{m} (μ). Pour m ≥ 6, les racines du polynôme P_{μ}^{m} sont dans le demi-plan \{Re η ≤ \frac{1}{2}\} quel que soit μ > 0. Pour m ≤ 5, les racines du polynôme P_{μ}^{m} sont toutes dans le demi-plan \{Re η ≤ \frac{1}{2}\} si et seulement si 0 < μ ≤ μ_{m},où μ_{m} désigne l’unique racine positive de q_{m}(μ) = P_{μ}^{m} (\frac{1}{2}).

Démonstration. En rassemblant les résultats des propositions B.8, B.9, B.11 et en appliquant la proposition A.2, on voit que toutes les racines du polynôme P_{μ}^{m} sont dans le demi-plan \{Re η < \frac{1}{2}\} si et seulement si 0 < μ < μ_{m}. Comme l’ensemble des racines varie continûment en fonction de μ, les racines du polynôme P_{μ}^{m} sont dans le demi-plan \{Re η ≤ \frac{1}{2}\} si et seulement si 0 < μ ≤ μ_{m}. □

B.5. Type I_{1,4}. Le domaine Ω est la boule unité de ℂ^{4}. On a

χ (s) = (s + 1)(s + 2) (s + 3) (s + 4),
C_{0}(μ) = 1, C_{1}(μ) = 10(1 − μ), C_{2}(μ) = 5(1 − μ)(7 − 5μ),
C_{3}(μ) = 5(1 − μ)(5 − 3μ)(2 − μ),
C_{4}(μ) = (1 − μ) (2 − μ) (3 − μ) (4 − μ),
P_{μ}^{m}(η) = (1 − μ)(2 − μ) (3 − μ) (4 − μ)
+ 5(m + 1)(1 − μ)(5 − 3μ)(2 − μ)μη
+ 5(m + 1)_{2} (1 − μ) (7 − 5μ)μ^{2}η^{2}
+ 10 (m + 1)_{3} (1 − μ)μ^{3}η^{3} + (m + 1)_{4} μ^{4}η^{4}.

B.5.1. Signe de P_{μ}^{m} (\frac{1}{2}). On a

q_{m}(μ) = P_{μ}^{m} (\frac{1}{2}) = (4 + mμ)r_{m}(μ),
r_{m}(μ) = 6 + \frac{19m−25}{4}μ + m(m − 5)μ^{2} + \frac{m^{3}−10m^{2}+15m+10}{16}μ^{3}.

Cas particuliers (1 ≤ m ≤ 7) :

r_{1}(μ) = (μ − 4) (μ^{2} − \frac{3}{2}) ,
r_{2}(μ) = 6 + \frac{13}{4}μ − 6μ^{2} + \frac{1}{2}μ^{3},
r_{3}(μ) = 6 + 8μ − 6μ^{2} − \frac{1}{2}μ^{3},
r_{4}(μ) = 6 + \frac{51}{4}μ − 4μ^{2} − \frac{13}{8}μ^{3},
r_{5}(μ) = 6 + \frac{35}{2}μ − \frac{5}{2}μ^{3},
r_{6}(μ) = 6 + \frac{89}{4}μ + 6μ^{2} − \frac{11}{4}μ^{3},
r_{7}(μ) = 6 + 27μ + 14μ^{2} − 2μ^{3}.

Racines positives des polynômes q_{m} (1 ≤ m ≤ 7) :

m  1  2  3  4  5  6  7
μ_{m} = μ_{m,1} \sqrt{\frac{3}{2}} 1.41518 1.68819 2.10335 2.8029 4.22107 8.60867
μ_{m,2}  4 11.333

Proposition B.13. Pour m ≥ 8, P_{μ}^{m}(\frac{1}{2}) est positif pour tout μ > 0. Pour m ≤ 2, le polynôme q_{m} admet deux racines positives μ_{m} = μ_{m,1} < μ_{m,2}, et P_{μ}^{m}(\frac{1}{2}) est positif ou nul si et seulement si 0 < μ ≤ μ_{m} ou μ ≥ μ_{m,2}. Pour 3 ≤ m ≤ 7, le polynôme q_{m} admet une seule racine positive μ_{m} et P_{μ}^{m}(\frac{1}{2}) est positif ou nul si et seulement si 0 < μ ≤ μ_{m}.

B.5.2. Signe de \frac{d P_{μ}^{m}}{d η} (\frac{1}{2}). On a

q_{m}^{1}(μ) = \frac{1}{(m+1)μ} \frac{d P_{μ}^{m}}{d η} (\frac{1}{2}) = (5 + (m − 1)μ)r_{m}^{1}(μ),
r_{m}^{1}(μ) = 10 + 5(m − 1)μ + \frac{m^{2}−5m−4}{2}μ^{2}.

PROBLÈME DE LU QIKENG 27

Cas particuliers (1 ≤ m ≤ 5) :

r_{1}^{1}(μ) = 2(5 − 2μ^{2}),
r_{2}^{1}(μ) = 5(1 + μ)(2 − μ),
r_{3}^{1}(μ) = 5(2 + 2μ − μ^{2}),
r_{4}^{1}(μ) = 10 + 15μ − 4μ^{2},
r_{5}^{1}(μ) = 2(5 + 10μ − μ^{2}).

Racines de q_{m}^{1} (1 ≤ m ≤ 5) :

\begin{matrix}m & 1 & 2 & 3 & 4 & 5 \\ μ_{m}^{1} & \sqrt{\frac{5}{2}} & 2 & \sqrt{3} + 1 & \frac{1}{8} (\sqrt{385} + 15) & \sqrt{30} + 5 \end{matrix}

On a 0 < μ_{m} < μ_{m}^{1} (1 ≤ m ≤ 5). Proposition B.14. Pour m ≥ 6, on a \frac{d P_{μ}^{m}}{d η} (\frac{1}{2}) > 0 pour tout μ > 0. Pour m ≤ 5, le polynôme q_{m}^{1} possède une seule racine positive μ_{m}^{1} et est positif sur [0, μ_{m}^{1}]. B.5.3. Signe de \frac{d^{2} P_{μ}^{m}}{d η^{2}} (\frac{1}{2}). On a

q_{m}^{2}(μ) = \frac{1}{(m+1)_{2}μ^{2}} \frac{d^{2} P_{μ}^{m}}{d η^{2}} (\frac{1}{2}) = (3m^{2} − 9m − 4) μ^{2} + 30 (m − 1) μ + 70. Cas particuliers (1 ≤ m ≤ 3) :

q_{1}^{2}(μ) = 10 (7 − μ^{2}) ,
q_{2}^{2}(μ) = 10 (7 + 3μ − μ^{2}) ,
q_{3}^{2}(μ) = 2 (35 + 30μ − 2μ^{2}) .

Racines positives de q_{m}^{2} (1 ≤ m ≤ 3) :

\begin{matrix}m & 1 & 2 & 3 \\ μ_{m}^{2} & \sqrt{7} & \frac{1}{2} \sqrt{37} + \frac{3}{2} & \frac{1}{2} \sqrt{295} + \frac{15}{2} \end{matrix}

On a 0 < μ_{m} < μ_{m}^{1} < μ_{m}^{2} (1 ≤ m ≤ 3) et μ_{m}^{2} < μ_{m,2} (1 ≤ m ≤ 2). Proposition B.15. Pour m ≥ 4, on a \frac{d^{2} P_{μ}^{m}}{d η^{2}} (\frac{1}{2}) > 0 pour tout μ > 0. Pour m ≤ 3, le polynôme q_{m}^{2} possède une seule racine positive μ_{m}^{2} et est positif sur [0, μ_{m}^{2}]. B.5.4. Signe de \frac{d^{3} P_{μ}^{m}}{d η^{3}} (\frac{1}{2}).

\frac{1}{(m+1)_{3}μ^{3}} \frac{d^{3} P_{μ}^{m}}{d η^{3}} (\frac{1}{2}) = 12 ((m − 1) μ + 5) . Proposition B.16. On a \frac{d^{3} P_{μ}^{m}}{d η^{3}} (\frac{1}{2}) > 0 pour tout μ > 0 et tout m ≥ 1.

B.5.5. Déterminant de Hurwitz Δ_{3}. Pour P_{μ}^{m}(η) = α + βη + γη^{2} + δη^{3} + εη^{4}, soit

F_{m}(μ) = Δ_{3} ≡ (ε + δ + γ + β) [(ε + δ + γ) (ε + δ) − εβ] − (2ε + δ)^{2} α.

On a

G_{m}(μ) = \frac{1}{(m+1)(m+1)_{3}μ^{6}} F_{m}(μ) = (5 + (m − 1) μ)^{2} (4 + mμ) S_{m} (μ)
S_{m}(μ) = ∑_{j=0}^{3} s_{j}(m)μ^{j},
s_{0}(m) = 2 (53 + 140m + 63m^{2}) ,
s_{1}(m) = −75 − 189m + 55m^{2} + 81m^{3},
s_{2}(m) = 2m (−5 − 52m − 15m^{2} + 8m^{3}) ,
s_{3}(m) = 5 + 15m + 20m^{2} − 4m^{3} − 5m^{4} + m^{5}.

Pour m > 4, les coefficients s_{j}(m) sont tous positifs. Cas particuliers :

S_{1}(μ) = 32 (μ − 2) (μ + 2) (μ − 4) ,
S_{2}(μ) = 1170 + 415μ − 521μ^{2} + 35μ^{3},
S_{3}(μ) = 40 (4 − μ) (16μ + μ^{2} + 13) ,
S_{4}(μ) = 3242 + 5233μ + 354μ^{2} − 127μ^{3}.

Racines positives des polynômes S_{m} (1 ≤ m ≤ 4) :

m  1  2  3  4
σ_{m} = σ_{m,1} ≃ 2 2.15132 4 8.19532
σ_{m,2} ≃  4 13.8558

On a μ_{m}^{1} < σ_{m,1} < σ_{m,2} (m = 1, 2) et μ_{m}^{1} < σ_{m} (m = 3, 4), où μ_{m}^{1} est la racine positive de q_{m}^{1}.

Proposition B.17. Pour m > 4, on a F_{m}(μ) > 0 pour tout μ > 0. Pour m ≤ 4,

on a F_{m}(μ) > 0 et \frac{d P_{μ}^{1}}{d η} (\frac{1}{2}) ≥ 0 si et seulement si μ ≤ μ_{m}^{1}.

B.5.6. Localisation des racines de P_{μ}^{m}.

Théorème B.18. Les racines du polynôme P_{μ}^{m} sont toutes situées dans le demiplan \{Re η ≤ \frac{1}{2}\}

– pour m ≥ 8 et pour tout μ > 0 ;

– pour 1 ≤ m ≤ 7, si et seulement si 0 < μ ≤ μ_{m}, où μ_{m} est la plus petite racine positive de q_{m}(μ) = P_{μ}^{m} (\frac{1}{2}).

Démonstration. En rassemblant les résultats des propositions (B.13, B.14, B.15) et en appliquant la proposition B.17, on voit que toutes les racines du polynôme P_{μ}^{m} sont dans le demi-plan \{Re η < \frac{1}{2}\} pour 0 < μ < μ_{m}. Comme l’ensemble des racines varie continûment en fonction de μ, les racines du polynôme P_{μ}^{m} sont dans le demi-plan \{Re η ≤ \frac{1}{2}\} si et seulement si 0 < μ ≤ μ_{m}. □

PROBLÈME DE LU QIKENG 29

B.6. Type IV_{4}. Le domaine Ω est la boule de Lie de dimension 4. Les invariants numériques sont a = 2, b = 0, r = 2. Le polynôme de Hua est

χ (s) = (s + 1) (s + 2)^{2} (s + 3). Les coefficients de la décomposition de χ(μk) sont

C_{0}(μ) = 1, C_{1}(μ) = 2(4 − 5μ), C_{2}(μ) = (1 − μ)(23 − 25μ),
C_{3} (μ) = (1 − μ)(7 − 5μ)(4 − 3μ), C_{4}(μ) = (1 − μ) (2 − μ)^{2} (3 − μ).

Le polynôme représentatif du noyau de Bergman de Ω̂_{m} (μ) est

P_{μ}^{m}(η) = (1 − μ) (2 − μ)^{2} (3 − μ) + (m + 1)(1 − μ)(7 − 5μ)(4 − 3μ)μη

+ (m + 1)_{2}(1 − μ)(23 − 25μ)μ^{2}η^{2} + 2 (m + 1)_{3} (4 − 5μ)μ^{3}η^{3}

+ (m + 1)_{4} μ^{4}η^{4}.

B.6.1. Signe de P_{μ}^{m}(\frac{1}{2}). Soit

q_{m}(μ) = P_{μ}^{m} (\frac{1}{2})
= 12 + 14(m − 1)μ + \frac{23}{4}m(m − 3)μ^{2}

+ (m − 1)(m^{2} − 5m − 2)μ^{3} + \frac{1}{16} (m^{3} − 10m^{2} + 15m + 10) μ^{4}.

Cas particuliers (1 ≤ m ≤ 7) :

q_{1}(μ) = \frac{1}{2} (24 − 23μ^{2} + 2μ^{4}) ,
q_{2}(μ) = \frac{1}{2} (24 + 28μ − 23μ^{2} − 16μ^{3} + 2μ^{4}) ,
q_{3}(μ) = \frac{1}{2} (24 + 56μ − 32μ^{3} − 3μ^{4}) ,
q_{4}(μ) = \frac{1}{2} (24 + 84μ + 46μ^{2} − 36μ^{3} − 13μ^{4}) ,
q_{5}(μ) = \frac{1}{2} (24 + 112μ + 115μ^{2} − 16μ^{3} − 25μ^{4}) ,
q_{6}(μ) = \frac{1}{2} (24 + 140μ + 207μ^{2} + 40μ^{3} − 33μ^{4}) ,
q_{7}(μ) = 12 + 84μ + 161μ^{2} + 72μ^{3} − 14μ^{4}.

Racines positives des polynômes q_{m} (1 ≤ m ≤ 7) :

m 1 2 3 4 5 6 7
μ_{m,1} ≃ 1.07732 1.21176 1.41824 1.74173 2.29476 3.42405 6.92986
μ_{m,2} ≃ 3.21549 9.08062

On note μ_{m} = μ_{m,1} (1 ≤ m ≤ 7). Proposition B.19. Pour m ≥ 8, P_{μ}^{m}(\frac{1}{2}) est positif pour tout μ > 0. On a :

(1) P_{μ}^{1}(\frac{1}{2}) ≥ 0 pour 0 < μ ≤ μ_{m,1} et μ_{m,2} ≤ μ (1 ≤ m ≤ 2) ;

(2) P_{μ}^{m}(\frac{1}{2}) ≥ 0 si 0 < μ ≤ μ_{m} = μ_{m,1} (3 ≤ m ≤ 7).

30 F. ZOHRA DEMMAD–ABDESSAMEUD

B.6.2. Signe de \frac{d P_{μ}^{m}}{d η} (\frac{1}{2}). On a

q_{m}^{1}(μ) = \frac{1}{(m+1)μ} \frac{d P_{μ}^{m}}{d η} (\frac{1}{2}) = [4 + (m − 1)μ] r_{m}^{1},
r_{m}^{1}(μ) = 7 + 4(m − 1)μ + \frac{1}{2} (m^{2} − 5m − 4) μ^{2}.

Cas particuliers (1 ≤ m ≤ 5) :

r_{1}^{1}(μ) = 7 − 4μ^{2},
r_{2}^{1}(μ) = 7 + 4μ − 5μ^{2},
r_{3}^{1}(μ) = 7 + 8μ − 5μ^{2},
r_{4}^{1}(μ) = (1 + 2μ)(7 − 2μ),
r_{5}^{1}(μ) = 7 + 16μ − 2μ^{2}.

Racines positives de q_{m}^{1} (1 ≤ m ≤ 5) :

\begin{matrix}m & 1 & 2 & 3 & 4 & 5 \\ μ_{m}^{1} & \frac{\sqrt{7}}{2} & ≃ 1.649 & ≃ 2.22829 & \frac{7}{2} & ≃ 8.41588 \end{matrix}

On a 0 < μ_{m,1} < μ_{m}^{1} < μ_{m,2} (1 ≤ m ≤ 2) et 0 < μ_{m} < μ_{m}^{1} (3 ≤ m ≤ 5). Proposition B.20. Pour m ≥ 6, on a \frac{d P_{μ}^{m}}{d η} (\frac{1}{2}) > 0 pour tout μ ≥ 0. Pour m ≤ 6, le polynôme q_{m}^{1} possède une seule racine positive μ_{m}^{1} et est positif sur [0, μ_{m}^{1}]. B.6.3. Signe de \frac{d^{2} P_{μ}^{m}}{d η^{2}} (\frac{1}{2}). On a

q_{m}^{2}(μ) = \frac{1}{(m+1)_{2}μ^{2}} \frac{d^{2} P_{μ}^{m}}{d η^{2}} (\frac{1}{2}) = 46 + 24(m − 1)μ + (3m^{2} − 9m − 4) μ^{2}. Cas particuliers :

q_{1}^{2}(μ) = 2(23 − 25μ^{2}),
q_{2}^{2}(μ) = 2 (23 + 12μ − 5μ^{2}) ,
q_{3}^{2}(μ) = 2 (23 + 24μ − 2μ^{2}) .

Racines positives de q_{m}^{2} (1 ≤ m ≤ 3) :

\begin{matrix}m & 1 & 2 & 3 \\ μ_{m}^{2} & ≃ 2.14476 & ≃ 3.65764 & ≃ 12.892 \end{matrix}

On a μ_{1}^{m} < μ_{2}^{m} (1 ≤ m ≤ 3). Proposition B.21. On a \frac{d^{2} P_{μ}^{m}}{d η^{2}} (\frac{1}{2}) > 0 pour tout m ≥ 4 et tout μ > 0. Pour m ≤ 3, le polynôme q_{m}^{2} possède une seule racine positive μ_{m}^{2} et est positif si 0 < μ < μ_{m}^{2}. En particulier, on a \frac{d^{2} P_{μ}^{m}}{d η^{2}} (\frac{1}{2}) > 0 pour 1 ≤ m ≤ 7 et 0 < μ ≤ μ_{m}. B.6.4. Signe de \frac{d^{3} P_{μ}^{m}}{d η^{3}} (\frac{1}{2}).

\frac{1}{(m+1)_{3}μ^{3}} \frac{d^{3} P_{μ}^{m}}{d η^{3}} (\frac{1}{2}) = 12 [4 + (m − 1)μ] . Proposition B.22. On a \frac{d^{3} P_{μ}^{m}}{d η^{3}} (\frac{1}{2}) > 0 pour tout m ≥ 1 et tout μ > 0.

B.6.5. Déterminant de Hurwitz Δ_{3}. Pour P_{μ}^{m}(η) = α + βη + γη^{2} + δη^{3} + εη^{4}, soit

F_{m}(μ) = Δ_{3} ≡ (ε + δ + γ + β) [(ε + δ + γ) (ε + δ) − εβ] − (2ε + δ)^{2} α.

On a

G_{m}(μ) = \frac{1}{(m+1)(m+1)_{3}μ^{6}} F_{m}(μ) = (4 + (m − 1)μ)^{2}S_{m}(μ),
S_{m}(μ) = ∑_{j=0}^{4} s_{j}(m)μ^{j},
s_{0}(m) = 160 + 481m + 225m^{2},
s_{1}(m) = 16 (m − 1) (9 + 31m + 15m^{2}) ,
s_{2}(m) = 2m (−35 − 196m − 22m^{2} + 47m^{3}) ,
s_{3}(m) = 8 (m − 1) (−2 − 8m − 15m^{2} − 3m^{3} + 2m^{4}) ,
s_{4}(m) = m (5 + 15m + 20m^{2} − 4m^{3} − 5m^{4} + m^{5}) .

Pour m > 4, les coefficients s_{j}(m) sont tous positifs. Cas particuliers :

S_{1}(μ) = 2 (433 − 206μ^{2} + 16μ^{4}) ,
S_{2}(μ) = 2 (1 + μ) (1011 + 37μ − 315μ^{2} + 35μ^{3}) ,
S_{3}(μ) = 4 (907 + 1896μ + 672μ^{2} − 320μ^{3} − 30μ^{4}) ,
S_{4}(μ) = 4 (1421 + 4476μ + 3674μ^{2} + 276μ^{3} − 127μ^{4}) .

Racines positives des polynômes S_{m} (1 ≤ m ≤ 4) :

m  1  2  3  4
σ_{m} = σ_{m,1} ≃ 1.62651 2.12869 3.22913 7.03204
σ_{m,2} ≃  3.19835 8.47286

On a μ_{m}^{1} < σ_{m,1} < σ_{m,2} (m = 1, 2) et μ_{m}^{1} < σ_{m} (m = 3, 4), où μ_{m}^{1} est la racine positive de q_{m}^{1}.

Proposition B.23. Pour m > 4, on a F_{m}(μ) > 0 pour tout μ > 0. Pour m ≤ 4,

on a F_{m}(μ) > 0 et \frac{d P_{μ}^{1}}{d η} (\frac{1}{2}) ≥ 0 si et seulement si μ ≤ μ_{m}^{1}.

B.7. Localisation des racines de P_{μ}^{m}.

Théorème B.24. Les racines du polynôme P_{μ}^{m} sont toutes situées dans le demiplan \{Re η ≤ \frac{1}{2}\}

– pour m ≥ 8 et pour tout μ > 0 ;

– pour 1 ≤ m ≤ 7, si et seulement si 0 < μ ≤ μ_{m}, où μ_{m} est la plus petite racine positive de q_{m}(μ) = P_{μ}^{m} (\frac{1}{2}).

Démonstration. En rassemblant les résultats des propositions B.19, B.20, B.21, B.22 et en appliquant la proposition B.23, on voit que toutes les racines du polynôme P_{μ}^{m} sont dans le demi-plan \{Re η < \frac{1}{2}\} si et seulement si 0 < μ < μ_{m}. Comme l’ensemble des racines varie continûment en fonction de μ, les racines du polynôme P_{μ}^{m} sont dans le demi-plan \{Re η ≤ \frac{1}{2}\} si et seulement si 0 < μ ≤ μ_{m}. □

Références

[1] Selberg A., Bemerkninger om et multiplet integral, Norske Mat. Tidsskr. 26(1944), 71-78.

[2] Gantmacher F.R., Théorie des matrices, t.2, Questions spéciales et applications, Dunod, Paris, 1965.

[3] Boas, Harold P., The Lu Qi-Keng conjecture fails generically, Proc. Amer. Soc., 124 (1996), 2021-2027.

[4] Boas H., Fu Siqi, Straube E., The Bergman kernel function: explicit formulas and zeroes, Proc. Amer. Math. Soc., 127(3) (1999), 805-811.

[5] Yin Weiping, Lu Keping, Roos Guy, New classes of domains with explicit Bergman kernel, Science in China Ser. A Mathematics, 47(2004), 352-371; arXiv:math.CV/0301322.

[6] Roos, Guy, Weighted Bergman kernels and virtual Bergman kernels, Proceedings SCV 2004 Beijing, Science in China Ser. A Mathematics, 48 Supp. (2005), 225-237; arXiv:

   math.CV/0410109.

[7] Yin Weiping, Lu Qi-Keng conjecture and Hua domain (dedicated to Lu Qi-Keng on the occasion of his 80th birthday), arXiv:math.CV/0605428 v2, 29 May 2006.

Département de mathématiques, Faculté des Sciences, Université Saad Dahlab, Route de Soumâa, BP 270, Blida, Algérie

   E-mail address: fz demmad@mail.univ-blida.dz, fz demmad@yahoo.fr