Introdução.

Geometria sub-Riemanniana é a geometria de distribuições não-integráveis de k-planos D em variedades diferenciáveis M n-dimensionais, 1 < k < n, onde D está equipada com uma métrica definida positiva g. Vide [Kp], [Mg], [VG], [FG] para uma introdução e detalhes sobre o assunto. Note que quando k = n, nós recuperamos a geometria Riemanniana, mas no caso sub-Riemanniano aparecem fenômenos novos e interessantes como os descritos nas referências acima. Estamos especialmente interessados no fenômeno dos minimizantes anormais, como será explicado abaixo.

Em geometria Riemanniana, sabemos que toda curva que minimiza comprimento de arco (e é parametrizada por comprimento de arco) é uma geodésica. Além do mais, todo segmento suficientemente pequeno de uma geodésica minimiza comprimento de arco. Temos várias possíveis caracterizações para as geodésicas de uma variedade Riemanniana. Podemos defini-las como curvas que possuem campo tangente paralelo em relação à conexão de Levi-Civita, como soluções das equações de Euler-Lagrange associadas ao lagrangeano L(q, q̇) = \frac{1}{2}∥q̇∥^{2}, como soluções das equações de Hamilton-Jacobi associadas ao hamiltoniano H(q, p) = \frac{1}{2}∥p∥^{2} ou como pontos críticos do funcional energia E(γ) = \frac{1}{2} ∫_{a}^{b} ∥γ̇∥^{2} restrito ao espaço de curvas que ligam dois pontos dados.

Em geometria sub-Riemanniana seria desejável obter uma caracterização do mesmo tipo para curvas minimizantes. Ressaltamos que no caso sub-Riemanniano o comprimento de arco e a energia só podem ser definidos para curvas horizontais, i.e., curvas sempre tangentes à distribuição.

O lagrangeano L(q, q̇) = \frac{1}{2}∥q̇∥^{2} não é bem definido em todo o fibrado tangente T M, mas apenas em D. Por outro lado, o hamiltoniano H(q, p) = \frac{1}{2}∥p∥^{2} é bem definido em todo o fibrado cotangente T M^{∗} (temos uma aplicação canônica T M^{∗} → D^{∗}, dada por p ↦ p_{|D} que nos permite estender aplicações definidas em D^{∗} para T M^{∗}). Podemos então considerar as soluções das equações de Hamilton-Jacobi, que denominaremos por extremais normais.

É de fato verdade que todo segmento suficientemente pequeno de um extremal normal minimiza comprimento de arco (vide [LS]). No caso Riemanniano, os extremais normais coincidem obviamente com as geodésicas. Em algumas classes de variedades sub-Riemannianas onde existem conexões canonicamente adaptadas à estrutura sub-Rieman-niana (por exemplo, para variedades de contato. Vide [FG]), pode-se escrever a equação dos extremais normais em termos da conexão (não é verdade porém que extremais normais sejam as curvas com campo tangente paralelo).

Segue agora naturalmente a pergunta se toda curva minimizante (parametrizada por comprimento de arco) é um extremal normal. Uma resposta afirmativa para esse resultado chegou a ser enunciada em 1986 em [St], sugerindo-se uma demonstração baseada no princípio do máximo de Pontryagin. No entanto, desse princípio segue apenas que toda curva minimizante é um extremal normal ou então pertence a uma outra classe de curvas denominadas extremais anormais (definidas na seção 1).

A possibilidade da existência de minimizantes que não fossem normais já tinha sido sugerida em 1977 por B. Gaveau. Afirmações de que todos os minimizantes seriam normais foram no entanto novamente publicadas em 1988 em [B] e em 1990 em [Hm].

A questão foi finalmente resolvida por R. Montgomery em 1991 em [Mg2], através de um exemplo explícito de uma curva minimizante que não é um extremal normal. O exemplo foi simplificado em 1992 por I. Kupka em [Kp2]. A demonstração de que minimizantes que não são normais existem sob condições bem gerais foi feita em [LS].

Pode-se também estudar a questão das curvas minimizantes em geometria sub-Rie-manniana através de técnicas de cálculo variacional (em vez de técnicas de teoria do controle, como o princípio do máximo). Coloca-se no espaço das curvas horizontais uma estrutura de variedade de Banach, na qual procuramos os pontos críticos do funcional energia (restrito ao espaço das curvas que ligam dois pontos fixados). Tais pontos críticos coincidem de fato com os extremais normais. Ocorre no entanto, que o espaço das curvas horizontais que ligam dois pontos fixados em geral não é uma subvariedade de Banach do espaço das curvas horizontais. Os pontos em torno dos quais tal estrutura de subvariedade não existe está coberto pela classe dos extremais anormais (para uma analogia em dimensão finita, suponha que procuramos os mínimos de uma função diferenciável f num cone. Consideramos então os pontos críticos de f. Devemos porém acrescentar o vértice do cone na lista de “candidatos” a mínimo, já que em torno do mesmo não temos uma estrutura de subvariedade de ℝ^{3} e as técnicas de cálculo diferencial não se aplicam).

Como veremos no texto (exemplo 1.1), ocorre com freqüência que a “maioria” dos extremais anormais não possui nenhuma propriedade de minimização, i.e., temos condições necessárias de minimização que estão longe de ser suficientes. Outro fenômeno interessante, é que não existe uma equação diferencial cujas soluções sejam os extremais anormais (vide comentário que precede a observação 1.4).

Surge agora a questão da regularidade das curvas minimizantes. A descrição dos extremais normais em termos de soluções de equações diferenciais ordinárias deixa evidente o fato que os mesmos são de classe C^{∞}. No entanto, é bastante fácil dar exemplos de extremais anormais que não são de classe C^{∞} (mesmo parametrizados por comprimento de arco). Aparece então a pergunta se todo extremal anormal minimizante é de classe C^{∞}. Não são conhecidos contra-exemplos para essa afirmação e o problema geral continua em aberto. Alguns casos particulares foram resolvidos, por exemplo em [Mg3] (onde se consideram grupos de Lie compactos com distribuição invariante à esquerda ortogonal a um toro maximal).

O objetivo principal desse trabalho é o de descrever mais uma classe de variedades sub-Riemannianas onde conseguimos mostrar que toda curva minimizante (parametrizada por comprimento de arco) é de classe C^{∞}. Esse é o conteúdo do teorema 4.4.

A técnica de demonstração (já usada em [Mg3]) baseia-se no seguinte. Considera-se um extremal anormal γ da variedade M em questão e mostra-se que o mesmo tem imagem dentro de uma subvariedade N. É fácil ver que γ continua minimizante dentro de N. Se conseguirmos mostrar que γ é um extremal normal dentro de N, seguirá que γ é de classe C^{∞} (a técnica é bem ilustrada no exemplo 1.1 e no teorema 1.5).

No teorema 4.4 fazemos um processo indutivo. Se γ não é um extremal normal de N então γ será necessariamente um extremal anormal em N e conseguimos então uma subvariedade de N que contém a imagem de γ. O processo continua até que encontremos uma subvariedade onde γ é um extremal normal (e portanto é de classe C^{∞}), ou diminuimos a dimensão da variedade ambiente até concluirmos que γ é constante.

Ressaltamos que essa técnica nem sempre funciona. Sussmann em [Sm] mostra um exemplo de um extremal anormal que não é normal em nenhuma subvariedade. O exemplo consiste num extremal anormal que não é de classe C^{∞} em ℝ^{3} com uma distribuição de codimensão 1 (esse extremal anormal não é minimizante, no entanto. Como já foi explicado, não são conhecidos exemplos de curvas minimizantes que não são de classe C^{∞}. Uma curva minimizante de classe C^{∞} é sempre normal em si própria, vista como variedade de dimensão 1). Em [GK] temos um exemplo de um grupo de Lie nilpotente (com distribuição invariante à esquerda) que admite uma curva minimizante anormal que não é normal em nenhum subgrupo (a classe de espaços homogêneos considerada no nosso texto é obtida por quociente de grupos de Lie semi-simples e portanto nunca nilpotentes).

1. Definições básicas.

Começamos introduzindo o conceito de variedade sub-Riemanniana e a linguagem básica de curvas minimizantes e extremais. Ao longo do texto todos os objetos serão diferenciáveis, onde diferenciável significa de classe C^{∞}, exceto quando for feita menção explícita em contrário (tipicamente, não suporemos a priori que curvas sejam diferenciáveis). Todas as variedades envolvidas serão Hausdorff com base enumerável (e reais, de dimensão finita).

Seja então M uma variedade de dimensão n. Seja D uma distribuição em M de posto k, i.e., D é um subfibrado vetorial do fibrado tangente T M cujas fibras tem dimensão k. Mais explicitamente, D ⊂ T M é um subconjunto tal que para todo m ∈ M, a interseção D_{m} = D ∩T_{m}M é um subespaço do espaço tangente T_{m}M de dimensão k e tal que existem campos vetorais X^{1}, …, X^{k} definidos numa vizinhança aberta U de m, tais que os vetores X_{x}^{1}, …, X_{x}^{k} formam uma base de D_{x} para todo x ∈ U. Uma tal seqüência de campos vetoriais será chamada um referencial de D. O número n − k é chamado a codimensão de D.

Uma métrica sub-Riemanniana em (M, D) é um seção g do fibrado D^{∗} ⊗ D^{∗} tal que para cada m ∈ M, g_{m} é um produto interno (simétrico, definido positivo) em D_{m} (ou seja, g é uma “escolha diferenciável de produto interno” nas fibras de D). A diferenciabilidade de g pode ser expressa mais explicitamente dizendo que para todo referencial X_{1}, …, X_{k} de D, as funções g(X_{i}, X_{j}) são diferenciáveis. Observe que quando D = T M obtemos simplesmente uma métrica Riemanniana em M. Chamamos à trinca (M, D, g) uma variedade sub-Riemanniana. O par (D, g) será também chamado uma estrutura sub-Riemanniana em M. Em geral, nos referiremos apenas à variedade sub-Riemanniana M, deixando a distribuição e a métrica subentendidas.

Observação 1.1. Em geral, geometria sub-Riemanniana torna-se mais interessante quando impomos condições de não integrabilidade à distribuição. Por exemplo, se D é integrável então uma variedade sub-Riemanniana reduz-se a uma folhação de variedades Riemannianas (pelo teorema de Frobenius). Em alguns textos, a definição de variedade sub-Riemanniana inclui condições mínimas de não integrabilidade, como a de que D seja geradora por colchetes. Denote por Γ(T M) a álgebra de Lie (sobre ℝ) dos campos vetoriais em M e por Γ(D) o subespaço vetorial dos campos a valores em D. Denote por [Γ(D)] a subálgebra de Lie gerada por Γ(D) em Γ(T M). Dizemos que D é geradora por colchetes quando para todo m ∈ M, a imagem da aplicação X ∈ [Γ(D)] ↦ X(m) é todo o espaço tangente T_{m}M. Essa definição será motivada na observação 1.2, a seguir.

Passamos agora às definições de comprimento de arco e de curva minimizante. As curvas consideradas para esse fim serão sempre absolutamente contínuas. Recordamos que uma curva γ: [a, b] → ℝ^{n} é dita absolutamente contínua quando dado ϵ > 0 existe δ > 0 tal que se (x_{1}, y_{1}), …, (x_{r}, y_{r}) são intervalos abertos disjuntos contidos em [a, b] com ∑_{i=1}^{r} y_{i} − x_{i} < δ então ∑_{i=1}^{r} ∥γ(y_{i}) − γ(x_{i})∥ < ϵ. Isso equivale a dizer que γ é derivável quase sempre (i.e., o vetor tangente γ̇(t) existe para t ∈ [a, b] fora de um conjunto de medida nula), γ̇: [a, b] → ℝ^{n} é (Lebesgue) integrável e γ(t) = γ(a) + ∫_{a}^{t} γ̇(s)ds para todo t ∈ [a, b] (vide [Fe]). Mais geralmente, diremos que uma curva γ: [a, b] → M é absolutamente contínua quando suas representações locais em coordenadas o forem.

Seja então γ: [a, b] → M uma curva absolutamente contínua numa variedade sub-Riemanniana M. Dizemos que γ é horizontal quando γ̇(t) ∈ D para quase todo t ∈ [a, b] (quando γ é C^{1} então na verdade γ̇(t) ∈ D para todo t ∈ [a, b]). Se γ é horizontal definimos o comprimento de arco de γ fazendo:

L(γ) = ∫_{a}^{b} ∥γ̇(s)∥ds,

onde para v ∈ D_{m} escrevemos ∥v∥ = g_{m}(v, v)^{1/2}. Dizemos que γ é parametrizada por comprimento de arco (pca) quando ∥γ̇(t)∥ = 1 para quase todo t ∈ [a, b]. Isso equivale a dizer que L(γ_{|[a,t]}) = t − a para todo t ∈ [a, b]. Observação 1.2. O teorema de Chow implica que quando D é geradora por colchetes e M é conexa então quaisquer dois pontos de M podem ser ligados por uma curva horizontal (que pode, na verdade, ser escolhida diferenciável por partes). Daí, como em geometria Riemanniana, podemos definir a distância entre dois pontos de M como sendo o ínfimo dos comprimentos das curvas horizontais que os conectam. Não é difícil mostrar que obtemos então uma estrutura de espaço métrico em M. Na verdade, essa métrica induz a topologia de M (vide [St]).

Dizemos que uma curva horizontal γ: [a, b] → M minimiza comprimento de arco quando para toda curva horizontal μ: [a, b] → M com γ(a) = μ(a) e γ(b) = μ(b) tivermos L(γ) ≤ L(μ). Nosso objetivo agora é o de enunciar condições necessárias para que uma curva minimize comprimento de arco.

Recordamos alguns fatos básicos sobre a geometria simplética do fibrado cotangente. Temos em T M^{∗} uma 1-forma canônica definida por:

θ_{p}(λ) = p(dπ_{p}(λ)),  (1.1)

para todo p ∈ T M^{∗} e λ ∈ T_{p}T M^{∗} (onde π denota a projeção do fibrado cotangente). Definimos ω = −dθ. Temos que ω é uma forma simplética em T M^{∗}, i.e., dω = 0 e ω_{p} é uma 2-forma não degenerada em T_{p}T M^{∗} para cada p ∈ T M^{∗} (isso segue da representação em coordenadas locais que será vista abaixo). Diremos que ω é a forma simplética canônica do fibrado cotangente T M^{∗}.

Seja φ: U → Ũ uma carta em M, com U ⊂ M e Ũ ⊂ ℝ^{n} abertos. Escrevemos φ = (q_{1}, …, q_{n}). Obtemos então cartas φ̄: π^{−1}(U) → Ũ ×ℝ^{n} e φ̄^{∗}: π^{−1}(U) → Ũ ×ℝ^{n}^{∗} em T M e T M^{∗} respectivamente, definidas por φ̄(v) = (φ(m), dφ_{m}(v)) e φ̄^{∗}(p) = (φ(m), dφ_{m}^{∗}^{−1}(p)), para v ∈ T_{m}M, p ∈ T_{m}M^{∗} e m ∈ U. Escrevemos φ̄ = (q_{1}, …, q_{n}, q̇_{1}, …, q̇_{n}) e φ̄^{∗} = (q_{1}, …, q_{n}, p_{1}, …, p_{n}).

Obtemos então representações em coordenadas para θ e ω:

θ = ∑_{i=1}^{n} p_{i}dq_{i}, ω = ∑_{i=1}^{n} dq_{i} ∧ dp_{i}.

Se H: T M^{∗} → ℝ é uma função (chamada às vezes uma função hamiltoniana) então existe um único campo vetorial H⃗ em T M^{∗} tal que dH_{p}(λ) = ω_{p}(H⃗_{p}, λ) para p ∈ T M^{∗} e λ ∈ T_{p}T M^{∗}. As projeções em M das curvas integrais de H⃗ são chamadas soluções do hamiltoniano H ou soluções das equações de Hamilton-Jacobi. Em coordenadas obtemos a forma clássica:

\{ \begin{matrix}\frac{dq}{dt} & = \frac{∂H}{∂p} , \\ \frac{dp}{dt} & = −\frac{∂H}{∂q} . \end{matrix}

Seja agora M uma variedade sub-Riemanniana. O produto interno g_{m} em D_{m} induz um isomorfismo v ↦ g_{m}(v, ·) entre D_{m} e D_{m}^{∗}. Obtemos então um produto interno g_{m}^{∗} em D_{m}^{∗}. Definimos uma função hamiltoniana H: T M^{∗} → ℝ fazendo:

H(p) = \frac{1}{2}g_{m}^{∗}(p_{|D_{m}}, p_{|D_{m}}),

para p ∈ T_{m}M^{∗}. As soluções das equações de Hamilton-Jacobi são chamadas os extremais normais de M. Note que é claro que extremais normais são sempre diferenciáveis.

Seja D^{0} ⊂ T M^{∗} o anulador de D em T M, i.e., D^{0} é o subfibrado vetorial de T M^{∗} cuja fibra sobre o ponto m ∈ M é o anulador de D_{m} em T_{m}M. Temos que D^{0} é em particular uma subvariedade de T M^{∗} e podemos considerar a restrição de ω a D^{0}. Essa restrição pode em geral se tornar degenerada e temos então para cada p ∈ D^{0} um núcleo Ker (ω_{|D^{0}})(p) formado pelos vetores λ ∈ T_{p}D^{0} tais que ω_{p}(λ, μ) = 0 para todo μ ∈ T_{p}D^{0}.

Dizemos que uma curva absolutamente contínua η: [a, b] → T M^{∗} é uma característica de D se η([a, b]) ⊂ D^{0} e η̇(t) ∈ Ker (ω_{|D^{0}})(η(t)) para quase todo t ∈ [a, b]. Dizemos que uma curva γ: [a, b] → M é um extremal anormal se existe uma característica η: [a, b] → T M^{∗} de D que nunca se anula e que se projeta sobre γ, i.e., γ = π ∘ η.

Observe que, ao contrário da definição de extremal normal, a definição de extremal anormal não envolve a métrica g, mas apenas a distribuição D.

Dizemos que γ: [a, b] → M é um extremal se for um extremal normal ou um extremal anormal (observamos que as duas possibilidades não são mutuamente exclusivas). O teorema abaixo motiva as definições acima. Uma demonstração pode ser encontrada em [LS].

Teorema 1.1. Seja M uma variedade sub-Riemanniana e seja γ: [a, b] → M uma curva pca que minimiza comprimento de arco. Então γ é um extremal.

Vamos olhar mais de perto o núcleo de ω_{|D^{0}}, utilizando uma trivialização de D^{0}. Na descrição desse núcleo será útil considerarmos a forma de Levi, que será definida abaixo.

Fixada uma distribuição D em M, dizemos que um campo vetorial X num aberto de M é horizontal quando X toma valores em D. Se X, Y são campos horizontais numa vizinhança de m ∈ M então o colchete [X, Y]_{m} módulo D_{m} depende apenas dos valores de X e Y no ponto m. Mais precisamente, se X′, Y′ são também campos horizontais numa vizinhança de m com X_{m} = X′_{m} e Y_{m} = Y′_{m} então [X, Y]_{m} − [X′, Y′]_{m} ∈ D_{m}. De fato, se σ é uma 1-forma numa vizinhança de m que anula D então aplicamos a fórmula de Cartan:

dσ(X, Y) = X(σ(Y)) − Y (σ(X)) − σ([X, Y]) ⇒ dσ_{m}(X_{m}, Y_{m}) = −σ_{m}([X, Y]_{m}). (1.2)

Aplicando (1.2) para os campos X′, Y′ vemos que:

σ_{m}([X, Y]_{m}) = σ_{m}([X′, Y′]_{m}),

onde σ_{m} é um elemento qualquer do anulador de D_{m} em T_{m}M. O resultado segue. Podemos então para cada m ∈ M definir um operador bilinear:

L_{m}: D_{m} × D_{m} → T_{m}M/D_{m},

fazendo L_{m}(v, w) = [X, Y]_{m} + D_{m}, onde X, Y são campos horizontais quaisquer com X_{m} = v, Y_{m} = w e para u ∈ T_{m}M denotamos por u + D_{m} a sua classe no quociente T_{m}M/D_{m}. Dizemos que L é a forma de Levi de D. Novamente, se σ é uma 1-forma numa vizinhança de m que anula D então σ_{m} passa ao quociente e define um funcional σ̄_{m} ∈ (T_{m}M/D_{m})^{∗}. A identidade (1.2) nos dá então:

dσ_{m}(v, w) = −σ̄_{m} ∘ L_{m}(v, w).  (1.3)

Observação 1.3. Note que a distribuição D é integrável se e somente se L_{m} = 0 para todo m ∈ M. A forma de Levi pode ser usada para descrever condições de não integrabilidade de D, como será visto em exemplos abaixo.

Considere agora 1-formas σ^{1}, …, σ^{n−k} num aberto U ⊂ M que formam uma base do anulador de D em cada ponto (i.e., um referencial de D^{0}). Defina uma aplicação:

f:U × ℝ^{n−k} → T M^{∗}
(m, c) ↦ ∑_{i=1}^{n−k} c^{i}σ_{m}^{i}.  (1.4)

Temos que f é um difeomorfismo sobre a restrição de D^{0} a U (na verdade, f é uma trivialização de D^{0} sobre U). Vamos calcular as formas f^{∗}θ e f^{∗}ω e depois o núcleo de f^{∗}ω (que corresponde pela diferencial de f ao núcleo de ω_{|D^{0}}).

Temos, para m ∈ U, v ∈ T_{m}M, c, h ∈ ℝ^{n−k}:

(f^{∗}θ)_{(m,c)}(v, h) = θ_{f(m,c)} ∘ df_{(m,c)}(v, h) = f(m, c) ∘ dπ_{f(m,c)} ∘ df_{(m,c)}(v, h),

onde utilizamos apenas a definição de θ dada pela equação (1.1). Observando que π ∘ f é simplesmente a primeira projeção π_{1} do produto U × ℝ^{n−k} e aplicando a regra da cadeia vem:

(f^{∗}θ)_{(m,c)}(v, h) = ∑_{i=1}^{n−k} c^{i}σ_{m}^{i}(v).

Denotando por π_{2}^{i} a projeção (m, c) ↦ c^{i} em U × ℝ^{n−k} para i = 1, …, n − k obtemos:

f^{∗}θ = ∑_{i=1}^{n−k} π_{2}^{i}π_{1}^{∗}σ^{i} e f^{∗}ω = ∑_{i=1}^{n−k} −dπ_{2}^{i} ∧ π_{1}^{∗}σ^{i} − π_{2}^{i}π_{1}^{∗}dσ^{i}.

Temos finalmente, para m ∈ M, v_{1}, v_{2} ∈ T_{m}M, c, h_{1}, h_{2} ∈ ℝ^{n−k}:

(f^{∗}ω)_{(m,c)}((v_{1}, h_{1}), (v_{2}, h_{2})) = ∑_{i=1}^{n−k} −h_{1}^{i}σ_{m}^{i}(v_{2}) + h_{2}^{i}σ_{m}^{i}(v_{1}) − c^{i}dσ_{m}^{i}(v_{1}, v_{2}).  (1.5)

Queremos determinar os pares (v_{1}, h_{1}) que anulam a expressão (1.5) para valores arbitrários de (v_{2}, h_{2}). Fazendo v_{2} = 0 e deixando h_{2} ∈ ℝ^{n−k} arbitrário vemos que necessariamente v_{1} ∈ D_{m}. Daí o segundo termo dentro do somatório se anula. Obtemos que (v, h) ∈ T_{m}M × ℝ^{n−k} pertence ao núcleo de f^{∗}ω no ponto (m, c) se e somente se v ∈ D_{m} e:

∑_{i=1}^{n−k} h^{i}σ_{m}^{i} = − ∑_{i=1}^{n−k} c^{i}dσ_{m}^{i}(v, ·).  (1.6)

Escreva σ = f(m, c) ∈ D_{m}^{0}. Daí σ passa ao quociente e define um elemento σ̄ em (T_{m}M/D_{m})^{∗}. Utilizando a identidade (1.3) para as 1-formas σ^{i}, vemos que a restrição a D_{m} da 1-forma que aparece do lado direito da igualdade em (1.6) é simplesmente σ̄ ∘ L_{m}(v, ·). Note que a 1-forma que aparece do lado esquerdo da igualdade em (1.6) sempre anula D_{m}.

Fixado v ∈ D_{m} temos duas possibilidades. Se σ̄ ∘ L_{m}(v, ·) anula D_{m} então existe um único h ∈ ℝ^{n−k} que satisfaz (1.6). Caso contrário, tal h não existe. Podemos visualizar o núcleo de f^{∗}ω no ponto (m, c) como o gráfico de um operador linear v ↦ h, definido para v pertencente ao núcleo da forma bilinear σ̄ ∘ L_{m} em D_{m}. Concluímos então o seguinte resultado.

Lema 1.2. Seja M uma variedade e seja D uma distribuição em M. Seja ω a forma simplética canônica de T M^{∗} e seja σ ∈ D_{m}^{0}. O núcleo de ω_{|D^{0}} no ponto σ se projeta isomorficamente por dπ_{σ} sobre o núcleo da forma bilinear σ̄ ∘ L_{m} em D_{m} (onde definimos σ̄ ∈ (T_{m}M/D_{m})^{∗} a partir de σ por passagem ao quociente).

Demonstração. O resultado segue dos cálculos que precedem o lema (observe que quando identificamos D_{|U}^{0} com U × ℝ^{n−k} pelo difeomorfismo f em (1.4) então a projeção π corresponde à primeira projeção π_{1} do produto U × ℝ^{n−k}).

A identidade (1.6) nos permite escrever uma equação para as características de D. Seja η: [a, b] → D^{0} uma curva absolutamente contínua e escreva γ = π ∘ η. Suponha que γ([a, b]) ⊂ U. Podemos então escrever η = f ∘ (γ, c), onde c: [a, b] → ℝ^{n−k} é uma função absolutamente contínua e f é o difeomorfismo definido em (1.4). Observe que temos simplesmente η(t) = ∑_{i=1}^{n−k} c^{i}(t)σ_{γ(t)}^{i}. Segue que η é uma característica de D se e somente se γ é horizontal e:

∑_{i=1}^{n−k} ċ^{i}(t)σ_{γ(t)}^{i} = − ∑_{i=1}^{n−k} c^{i}(t)dσ_{γ(t)}^{i}(γ̇(t), ·),  (1.7)

para quase todo t ∈ [a, b].

Suponha agora que temos um referencial σ^{1}, …, σ^{n} de T M^{∗} que completa o referencial σ^{1}, …, σ^{n−k} de D^{0}. Daí, escrevemos para quase todo t ∈ [a, b]:

dσ_{γ(t)}^{i}(γ̇(t), ·) = ∑_{j=1}^{n} α_{j}^{i}(t)σ_{γ(t)}^{j}, i = 1, 2, …, n,

onde cada α_{j}^{i}: [a, b] → ℝ é uma função (Lebesgue) integrável. Agora qualquer curva absolutamente contínua η: [a, b] → T M^{∗} (com π ∘ η = γ) se escreve como η(t) = ∑_{i=1}^{n} c^{i}(t)σ_{γ(t)}^{i}, onde cada c^{i}: [a, b] → ℝ é uma função absolutamente contínua. Supondo γ horizontal, segue de (1.7) que η é uma característica de D se e somente se as funções c^{i} formam uma solução do sistema de equações diferenciais ordinárias lineares homogêneas:

ċ^{j}(t) = − ∑_{i=1}^{n} c^{i}(t)α_{j}^{i}(t), j = 1, 2, …, n,  (1.8)

e também satisfazem o vínculo (algébrico) c^{j} = 0, j = n − k + 1, …, n.

Observe que os extremais normais são simplesmente soluções de equações diferenciais ordinárias (não lineares), como as geodésicas de uma variedade Riemanniana. Os extremais anormais também estão associados a uma equação diferencial, como foi visto acima, mas a situação é diferente. Temos que, fixada uma curva horizontal γ (a qual queremos verificar se é ou não um extremal anormal) então consideramos a equação diferencial ordinária linear (1.8) e verificamos se a mesma admite uma solução não nula que satisfaz um vínculo algébrico. Observação 1.4. Sabemos que uma solução do sistema (1.8) ou é identicamente nula ou nunca se anula. Segue que poderíamos alternativamente ter definido que uma curva absolutamente contínua γ: [a, b] → M é um extremal anormal quando existe uma característica η: [a, b] → T M^{∗} de D não identicamente nula tal que π ∘ η = γ. Segue dos cálculos acima que uma tal característica na verdade nunca se anula.

Vamos agora utilizar o lema 1.2 para estudar o que ocorre com a projeção (por dπ_{σ}) do núcleo de ω_{|D^{0}} no ponto σ, quando fazemos σ percorrer a fibra D_{m}^{0}. Quando σ = 0 vemos que essa projeção é toda a distribuição D_{m}. Vamos nos ater então ao caso σ ≠ 0. Em geral essa projeção depende de σ. Porém, quando D tem codimensão 1 temos que a fibra D_{m}^{0} é unidimensional e portanto essa projeção coincide sempre com o núcleo da forma de Levi, ou seja:

Ker L_{m} = { v ∈ D_{m} : L_{m}(v, w) = 0, ∀w ∈ D_{m} }.

Note que nesse caso T_{m}M/D_{m} ≅ ℝ e L_{m} é essencialmente uma forma bilinear (a valores reais) em D_{m}. A constância da projeção do núcleo de ω_{|D^{0}} quando variamos σ dentro de uma fibra nos permite descrever os extremais anormais no caso de codimensão 1 sem recorrer a levantamentos para o fibrado cotangente. Temos o seguinte teorema.

Teorema 1.3. Seja M uma variedade sub-Riemanniana cuja distribuição D tem codimensão 1. Então uma curva absolutamente contínua γ: [a, b] → M é um extremal anormal se e somente se γ̇(t) ∈ Ker L_{γ(t)} para quase todo t ∈ [a, b].

Demonstração. Se γ é um extremal anormal então temos uma característica η: [a, b] → D^{0} que nunca se anula e tal que π ∘ η = γ. Daí, para quase todo t ∈ [a, b], γ̇(t) = dπ_{η(t)}η̇(t) pertence à projeção (por dπ_{η(t)}) do núcleo de ω_{|D^{0}} no ponto η(t) ≠ 0. Pelo que foi observado antes do teorema isso implica γ̇(t) ∈ Ker L_{γ(t)}.

Supondo agora que γ̇(t) ∈ Ker L_{γ(t)} para quase todo t ∈ [a, b], devemos construir uma característica η: [a, b] → D^{0} que nunca se anula, tal que π ∘ η = γ. Supondo que a imagem de γ está contida num aberto U ⊂ M sobre o qual D^{0} é trivial (i.e., sobre o qual existe uma 1-forma σ cujo núcleo é D em cada ponto), mostraremos que η fica unicamente determinada quando prescrevemos seu valor η(t) ∈ D_{γ(t)}^{0}, η(t) ≠ 0, para algum t ∈ [a, b]. Isso resolve o caso geral (basta dividir a curva γ em pedaços e concatenar os levantamentos η feitos com condições iniciais apropriadas).

Seja então σ uma 1-forma num aberto U ⊂ M, cujo núcleo é D em cada ponto (i.e., σ é um referencial de D^{0}). Suponha que γ([a, b]) ⊂ U. Escrevemos as curvas absolutamente contínuas η: [a, b] → D^{0} tais que π ∘ η = γ na forma η(t) = c(t)σ_{γ(t)}, para uma função absolutamente contínua c: [a, b] → ℝ. Como γ é horizontal, segue da equação (1.7) que η é uma característica de D se e somente se:

ċ(t)σ_{γ(t)} = −c(t)dσ_{γ(t)}(γ̇(t), ·),

para quase todo t ∈ [a, b]. Como γ̇(t) ∈ Ker L_{γ(t)} segue da identidade (1.3) que a 1-forma dσ_{γ(t)}(γ̇(t), ·) anula D_{γ(t)} e portanto é da forma α(t)σ_{γ(t)}. Fica definida então uma função integrável α: [a, b] → ℝ. Temos que η é uma característica de D se e somente se:

ċ(t) = −α(t)c(t),  (1.3.1)

para quase todo t ∈ [a, b]. Mas a equação diferencial ordinária linear homogênea (1.3.1) tem solução única quando prescrevemos c(t) ∈ ℝ para algum t ∈ [a, b] e também c nunca se anula se c(t) ≠ 0.

Dizemos que uma distribuição D numa variedade M é de contato quando tiver codimensão 1 e sua forma de Levi for não degenerada em cada ponto, i.e., Ker L_{m} = 0 para todo m ∈ M. Segue diretamente do teorema acima que se D é de contato então todo extremal anormal é constante. Em particular, segue do teorema 1.1 que toda curva minimizante pca é um extremal normal (não é difícil ver que curvas constantes são sempre extremais normais também). Descrevemos agora uma condição mais fraca sob a qual concluímos que extremais anormais são sempre constantes.

Dizemos que D é fortemente geradora por colchetes quando dado m ∈ M e um campo horizontal X com X(m) ≠ 0, obtemos:

T_{m}M = D_{m} + { [X, Y]_{m} : Y campo horizontal }.

Isso equivale a dizer que dados m ∈ M e v ∈ D_{m}, v ≠ 0, o operador linear L_{m}(v, ·) é sobrejetor. Quando D tem codimensão 1 essa condição equivale à condição de contato. Temos o seguinte lema.

Lema 1.4. Uma distribuição D é fortemente geradora por colchetes se e somente se ω_{|D^{0}} é não degenerada (e portanto simplética) fora da seção nula de D^{0}.

Demonstração. Pelo lema 1.2, vemos que ω_{|D^{0}} é não degenerada fora da seção nula de D^{0} se e somente se para todo m ∈ M e todo σ ∈ D_{m}^{0}, σ ≠ 0, tivermos Ker(σ̄ ∘ L_{m}) = 0. Mas σ̄ é um funcional não nulo arbitrário em T_{m}M/D_{m}. Daí segue facilmente o resultado.

Corolário. Se M é uma variedade sub-Riemanniana com distribuição fortemente geradora por colchetes então todo extremal anormal é constante. Em particular, toda curva minimizante pca é diferenciável.

Demonstração. Segue diretamente do lema e do teorema 1.1.

Exemplo 1.1. O teorema 1.3 nos permite computar facilmente em exemplos concretos os extremais anormais de uma variedade sub-Riemanniana com distribuição de codimensão 1. Considere então M = ℝ^{5} e denote por x, y, z, t e w as funções coordenadas de ℝ^{5}. Considere os campos vetoriais:

X = \frac{∂}{∂x}, Y = \frac{∂}{∂y} , Z = \frac{∂}{∂z} , T = x\frac{∂}{∂t} + \frac{∂}{∂w} .

É fácil ver que eles são linearmente independentes em cada ponto e portanto geram uma distribuição D em M de posto 4. Considere uma métrica sub-Riemanniana g arbitrária em (M, D).

Observe que [X, T] = \frac{∂}{∂t} e que \frac{∂}{∂t} está sempre fora de D. Isso mostra que a distribuição D é geradora por colchetes (vide observação 1.1). É fácil ver que os campos Y e Z ficam dentro do núcleo da forma de Levi e portanto formam uma base do mesmo (como L_{m} é antisimétrica, vemos que a dimensão de seu núcleo e a dimensão de D_{m} tem a mesma paridade. Mas sabemos no nosso caso que L_{m} nunca é nula e portanto seu núcleo deve ter dimensão 2).

Segue do teorema 1.3 que uma curva absolutamente contínua γ: [a, b] → ℝ^{5} é um extremal anormal se e somente se sua imagem está contida num plano afim paralelo ao gerado por \frac{∂}{∂y} e \frac{∂}{∂z}, i.e., se e somente se as coordenadas x, t e w são constantes sobre a imagem de γ.

Esse exemplo mostra que, em muitos casos, a “maioria” dos extremais anormais não é minimizante (nem localmente). Vemos também que existem muitos extremais anormais (pca) que não são sequer de classe C^{1}. Observe no entanto que, no nosso exemplo, se algum extremal anormal pca for realmente minimizante então ele será uma geodésica (Riemanniana) do plano afim que o contém (considerado com a métrica Riemanniana obtida por restrição de g). Segue então que tal extremal será diferenciável. No teorema a seguir generalizamos esse raciocínio. Alguns fatos simples sobre distribuições integráveis e subvariedades integrais utilizados no teorema abaixo são explicados com mais detalhe no início da seção 4.

Observação 1.5. Seja D ⊂ T M um subconjunto tal que D_{m} = D ∩T_{m}M é um subespaço de dimensão k de T_{m}M para todo m ∈ M. Suponha também que para todo m ∈ M existem 1-formas σ^{1}, …, σ^{r} numa vizinhança aberta U de m tais que σ_{x}^{1}, …, σ_{x}^{r} geram o anulador de D_{x} para todo x ∈ U (mas não necessariamente formam uma base desse anulador). Então D é uma distribuição em M. De fato, fazendo uma reordenação, se necessário, podemos supor que σ_{m}^{1}, …, σ_{m}^{n−k} formam uma base do anulador de D_{m}. Para x numa vizinhança de m temos então que σ_{x}^{1}, …, σ_{x}^{n−k} ainda são linearmente independentes e portanto ainda formam uma base do anulador de D_{x} (pois D_{x} tem dimensão k). Obtemos então um referencial de D^{0}, o que mostra que D é uma distribuição.

Teorema 1.5. Seja M uma variedade sub-Riemanniana cuja distribuição tem codimensão 1. Suponha que o núcleo Ker L_{m} da forma de Levi tem dimensão constante (i.e., independente de m ∈ M). Então o mesmo define uma distribuição integrável Ker L. Os extremais anormais de M são precisamente as curvas absolutamente contínuas cuja imagem está contida numa subvariedade integral maximal de Ker L. Toda curva minimizante pca em M será diferenciável.

Demonstração. Primeiro devemos mostrar que Ker L é uma distribuição em M. Utilizamos a observação 1.5. Seja m ∈ M e seja σ uma 1-forma numa vizinhança de m cujo núcleo é D em cada ponto. Seja também X^{1}, …, X^{n−1} um referencial de D numa vizinhaça de m. Pela identidade (1.3), as 1-formas σ e dσ(X^{i}, ·), i = 1, 2, …, n − 1 geram o anulador de Ker L em cada ponto. Como Ker L_{x} tem dimensão constante, o resultado segue.

Vamos mostrar agora que Ker L é integrável. Observe primeiro que se um campo X toma valores em Ker L e Y é horizontal (i.e., toma valores em D) então [X, Y] é horizontal. Suponha que X e Y ambos tomam valores em Ker L. Devemos mostrar que [X, Y] toma valores em Ker L. Já sabemos que [X, Y] é horizontal. Além do mais, se Z é qualquer campo horizontal segue da identidade de Jacobi que:

[[X, Y], Z] = [[X, Z], Y] + [X, [Y, Z]],

e portanto [[X, Y], Z] é horizontal. Logo L_{m}([X, Y]_{m}, Z_{m}) = 0, donde segue o resultado.

Pelo teorema 1.3, os extremais anormais de M são exatamente as curvas absolutamente contínuas tangentes à distribuição integrável Ker L, ou equivalentemente, contidas numa subvariedade integral maximal de Ker L. Pelo teorema 1.1, toda curva minimizante pca em M será um extremal normal (e portanto diferenciável) ou um extremal anormal. No segundo caso, é fácil ver que tal curva será minimizante pca numa subvariedade integral maximal de Ker L (vista com a estrutura Riemanniana obtida por restrição de g) e portanto será uma geodésica dessa subvariedade.

O teorema acima nos fornece o primeiro exemplo não trivial de uma família de variedades sub-Riemannianas onde toda curva minimizante pca é diferenciável.

O teorema central da seção 3 (teorema 4.4) nos fornecerá uma outra família de exemplos desse tipo. A técnica de demonstração utilizada (i.e., mostrar que extremais anormais tem imagem dentro de certas subvariedades) é a mesma, embora a demonstração seja tecnicamente mais difícil.

2. Equações dos extremais anormais em espaços homogêneos.

O objetivo desta seção é o de determinar equações para os extremais anormais de uma variedade sub-Riemanniana homogênea (ou, mais precisamente, com distribuição homogênea), utilizando a linguagem de grupos de Lie.

Sejam M, M′ variedades munidas de distribuições D e D′ respectivamente. Dizemos que uma aplicação f: M → M′ preserva a distribuição quando f for um difeomorfismo local e df_{m} se restringe a um isomorfismo de D_{m} em D′_{f(m)} para todo m ∈ M. Quando (M, D) e (M′, D′) estão munidas de métricas sub-Riemannianas g e g′ respectivamente, dizemos que f é uma isometria local quando além do mais, df_{m} se restringe a uma isometria linear de D_{m} em D′_{f(m)} para todo m ∈ M. Dizemos que f é uma isometria (global) quando f for uma isometria local bijetora. Quando existe uma isometria f: M → M′ dizemos M e M′ são isométricas.

Seja M uma variedade munida de uma distribuição D (respectivamente, uma variedade sub-Riemanniana). Considere uma ação G × M → M de um grupo de Lie G em M. Dizemos que a distribuição D (respectivamente, a estrutura sub-Riemanniana) é G-invariante quando para todo g ∈ G a aplicação m ↦ g · m preserva a distribuição (respectivamente, é uma isometria). Dizemos também que a ação de G preserva a distribuição (respectivamente, preserva a estrutura sub-Riemanniana). Dizemos que a distribuição (respectivamente, a variedade sub-Riemanniana) é homogênea quando existe uma ação transitiva de um grupo de Lie G em M que preserva a distribuição (respectivamente, a estrutura sub-Riemanniana).

Observação 2.1. No caso de geometria Riemanniana, sabe-se que o grupo de todas as isometrias de uma variedade é um grupo de Lie e portanto pode-se definir um espaço homogêneo simplesmente exigindo que dados m, m′ ∈ M exista uma isometria T com T (m) = m′. No caso de geometria sub-Riemanniana tal resultado não é conhecido e a definição acima é mais apropriada.

Seja M uma variedade sub-Riemanniana homogênea. Considere uma ação transitiva de um grupo de Lie G em M que preserva a estrutura sub-Riemanniana. Fixe um ponto m_{0} ∈ M. Seja K = { g ∈ G : g · m_{0} = m_{0} } o subgrupo de isotropia de m_{0}. Então K é um subgrupo (de Lie) fechado de G e portanto o conjunto quociente G/K tem uma única estrutura de variedade diferenciável tal que a projeção π: G → G/K é uma submersão. Denotamos a classe (à esquerda) de um elemento g ∈ G por π(g) = gK. Temos então um difeomorfismo canônico entre G/K e M dado por gK ↦ g · m_{0} (vide [Wn]). Esse difeomorfismo define uma única estrutura sub-Riemanniana em G/K que o torna uma isometria. A ação de G em M corresponde então à ação de G em G/K por translação à esquerda g · xK = gxK. É claro que a estrutura sub-Riemanniana de G/K também é G-invariante (em relação à ação de G por translação à esquerda).

A partir de agora então não distinguiremos M de G/K e trabalharemos apenas com variedades sub-Riemannianas (G/K, D, g), onde G é um grupo de Lie, K é um subgrupo fechado de G e a estrutura sub-Riemanniana é G-invariante (fica subentendido que a ação considerada de G em G/K é por translação à esquerda).

Introduzimos alguma notação. Seja g ∈ G. Denotamos por l_{g}: G → G a translação à esquerda l_{g}(x) = gx e por r_{g}: G → G a translação à direita r_{g}(x) = xg. Denotamos por l̄_{g}: G/K → G/K a translação à esquerda l̄_{g}(xK) = gxK, i.e., a ação de g em G/K (note que não faz sentido definir r̄_{g}). O automorfismo interno x ↦ gxg^{−1} será denotado por I_{g} e a representação adjunta de G na sua álgebra de Lie 𝔤 será denotada por Ad_{g} = dI_{g}(1), onde 1 ∈ G denota o elemento neutro. Temos então um homomorfismo:

Ad: G → Aut(𝔤) ⊂ GL(𝔤),

onde Aut(𝔤) denota o grupo (de Lie) de automorfismos de 𝔤 e GL(𝔤) denota o grupo de isomorfismos lineares de 𝔤. Escreva d Ad_{1} = ad. Daí ad: 𝔤 → Der(𝔤) ⊂ L(𝔤) é a representação adjunta de 𝔤 em si mesma, onde Der(𝔤) denota a álgebra de Lie de derivações de 𝔤 e L(𝔤) denota a álgebra associativa de operadores lineares em 𝔤. Sabemos que ad_{X} Y = [X, Y] (vide [Wn]).

Por simplicidade, para g ∈ G e v ∈ T G escrevemos gv em vez de dl_{g}(v) e vg em vez de dr_{g}(v). Também para v ∈ T (G/K) escrevemos gv em vez de dl̄_{g}(v) (note que não faz sentido escrever vg nesse caso).

Sabemos que G possui uma estrutura de fibrado K-principal com base G/K e projeção π (vide [KN]). Essa linguagem não será importante para nosso texto, mas apenas definimos que uma seção local de G relativa a K é uma aplicação s: U → G definida num aberto U ⊂ G/K tal que π ∘ s = Id_{|U}, i.e., s(gK) é um elemento da classe gK para todo gK ∈ U. A existência de seções locais (diferenciáveis) em torno de cada ponto de G/K segue simplesmente do fato que π é uma submersão.

Escreva π̄ = dπ_{1}: 𝔤 → T_{1K}(G/K). Daí π̄ é um operador linear sobrejetor cujo núcleo é a álgebra de Lie 𝔨 de K, donde identificamos T_{1K}(G/K) com o quociente 𝔤/𝔨 de espaços vetoriais e daí π̄(X) = X + 𝔨 para todo X ∈ 𝔤, onde X + 𝔨 denota a classe de X no quociente 𝔤/𝔨.

Dado k ∈ K então I_{k}(K) ⊂ K, donde Ad_{k}(𝔨) ⊂ 𝔨 e podemos por passagem ao quociente definir um operador linear:

\overline{Ad}_{k}: 𝔤/𝔨 → 𝔤/𝔨,

tal que \overline{Ad}_{k}∘π̄ = π̄∘Ad_{k}. Temos que \overline{Ad} define uma representação de K em 𝔤/𝔨. Afirmamos que essa coincide com a representação isotrópica de K, i.e., \overline{Ad}_{k} = dl̄_{k}(1K) para k ∈ K. De fato, isso segue se diferenciarmos a identidade π ∘ I_{k} = l̄_{k} ∘ π no ponto 1 ∈ G. Podemos também considerar d\overline{Ad}_{1} = \overline{ad} e é fácil ver que \overline{ad}_{X}(Y +𝔨) = [X, Y]+𝔨 para X ∈ 𝔨, Y ∈ 𝔤, i.e., \overline{ad}_{X} é definida a partir de ad_{X} por passagem ao quociente também.

A transitividade da ação de G em G/K nos diz que uma estrutura sub-Riemanniana G-invariante em G/K fica totalmente determinada pelo seu valor no ponto 1K. Além do mais, para k ∈ K a diferencial de l̄_{k} no ponto 1K se restringe a uma isometria de D_{1K}. Segue que as estruturas sub-Riemannianas G-invariantes em G/K estão em correspondência biunívoca com os pares (𝔡, ⟨ , ⟩), onde 𝔡 ⊂ 𝔤/𝔨 é um subespaço e ⟨ , ⟩ é um produto interno em 𝔡, ambos invariantes pela representação isotrópica de K (a estrutura sub-Riemanniana pode então ser “espalhada” usando a ação de G. A diferenciabilidade da estrutura obtida se mostra usando seções locais).

Trabalhamos sempre então com uma trinca (G/K, 𝔡, ⟨ , ⟩), onde 𝔡 ⊂ 𝔤/𝔨 é um subespaço \overline{Ad}-invariante e ⟨ , ⟩ é um produto interno \overline{Ad}-invariante em 𝔡.

Observação 2.2. Note que estruturas invariantes pela ação \overline{Ad} do grupo K são também invariantes pela ação \overline{ad} da álgebra de Lie 𝔨 (e tais invariâncias são equivalentes quando K é conexo). Em particular temos [X, Y] ∈ π̄^{−1}(𝔡) sempre que X ∈ 𝔨 e Y ∈ π̄^{−1}(𝔡), ou de maneira abreviada, [𝔨, π̄^{−1}(𝔡)] ⊂ π̄^{−1}(𝔡).

Como já foi observado na seção anterior, os extremais anormais de uma variedade sub-Riemanniana dependem apenas da distribuição e não da métrica, de modo que o produto interno em 𝔡 será irrelevante no que segue.

Nosso objetivo agora é o de obter fórmulas para as formas canônicas θ e ω em T (G/K)^{∗} em termos de uma seção local s. Fazemos uma pequena digressão para introduzir um pouco da linguagem de formas diferenciais a valores vetoriais.

Seja M uma variedade e seja V um espaço vetorial (real, de dimensão finita). Uma r-forma diferencial a valores em V na variedade M é uma seção ω do fibrado vetorial ⋀_{r} T M^{∗} ⊗ V. Temos então para cada m ∈ M um operador r-linear alternado:

ω_{m}: \underbrace{T_{m}M × ⋯ × T_{m}M}_{p vezes} → V

Destacamos que uma 0-forma a valores em V é simplesmente uma função ω: M → V a valores em V.

Se f: N → M é uma aplicação, podemos definir da maneira usual o pull-back f^{∗}ω, obtendo uma r-forma a valores em V na variedade N definida por:

(f^{∗}ω)_{n}(v_{1}, …, v_{r}) = ω_{f(n)}(df_{n}(v_{1}), …, df_{n}(v_{r})),

para n ∈ N e v_{1}, …, v_{r} ∈ T_{n}N.

Escolhida uma base (e_{1}, …, e_{d}) em V obtemos uma seqüência (ω^{1}, …, ω^{d}) de formas (a valores reais) definidas por:

ω_{m}(v_{1}, …, v_{r}) = ∑_{i=1}^{d} ω_{m}^{i}(v_{1}, …, v_{r})e_{i},

para m ∈ M e v_{1}, …, v_{r} ∈ T_{m}M. Essas formas são chamadas as coordenadas de ω nessa base. Podemos então definir a diferencial exterior de ω como sendo a r + 1-forma a valores em V cujas coordenadas são (dω^{1}, …, dω^{d}). Segue da ℝ-linearidade da diferenciação exterior que dω não depende da base escolhida.

Sejam V_{1}, V_{2} e W espaços vetoriais (reais, de dimensão finita) e seja p: V_{1} × V_{2} → W um operador bilinear. Se ω^{1} e ω^{2} são respectivamente uma r-forma a valores em V_{1} e uma s-forma a valores em V_{2} então podemos definir sua multiplicação exterior (em relação ao produto p) como sendo uma r + s-forma ω^{1} ∧ ω^{2} a valores em W definida por:

\begin{matrix}(ω^{1} ∧ ω^{2})_{m}(v_{1}, …, v_{r}, & v_{r+1}, …, v_{r+s}) = \\ \frac{1}{r!s!} ∑_{σ∈S_{r+s}}(−1)^{σ}p(ω_{m}^{1}(v_{σ(1)}, …, v_{σ(r)}), ω_{m}^{2}(v_{σ(r+1)}, …, v_{σ(r+s)})), \end{matrix}

para m ∈ M e v_{1}, …, v_{r+s} ∈ T_{m}M, onde S_{r+s} representa o grupo de permutações de { 1, …, r + s } e (−1)^{σ} representa o sinal da permutação σ. Destacamos o caso particular em que ambas as formas ω^{1}, ω^{2} tomam valores no mesmo espaço vetorial V e o mesmo possui uma estrutura de álgebra associativa. Podemos então tomar p: V × V → V como sendo a multiplicação de V. Note também que se r = 0 então temos apenas:

(ω^{1} ∧ ω^{2})_{m}(v_{1}, …, v_{s}) = p(ω_{m}^{1}, ω_{m}^{2}(v_{1}, …, v_{s})).

Se T: V → W é um operador linear e ω é uma r-forma em M a valores em V então podemos definir uma r-forma T ∘ ω em M a valores em W fazendo:

(T ∘ ω)_{m}(v_{1}, …, v_{r}) = T (ω_{m}(v_{1}, …, v_{r})),

para m ∈ M, v_{1}, …, v_{r} ∈ T_{m}M. Essa construção não aparece no caso de formas diferenciais no sentido usual (i.e., a valores reais).

As operações acima satisfazem as propriedades usuais. As demonstrações são bastante simples (em geral pode-se usar uma base em V para recair no caso de formas a valores reais). Temos que a diferenciação exterior ω ↦ dω, o pull-back ω ↦ f^{∗}ω e a composição ω ↦ T ∘ ω são todas operações ℝ-lineares e comutam entre si. Com relação ao produto exterior temos que f^{∗}(ω∧μ) = (f^{∗}ω)∧(f^{∗}μ) e d(ω∧μ) = dω∧μ+(−1)^{r}ω∧dμ, onde ω é uma r-forma. A última fórmula pode ser demonstrada observando que (ω∧μ)^{k} = ∑_{i,j} p_{ij}^{k}ω^{i}∧μ^{j}, escolhendo bases nos espaços vetoriais envolvidos (onde p_{ij}^{k} é uma representação matricial do produto bilinear p nessas bases).

Enunciamos também a fórmula de Cartan para diferenciação exterior em termos de colchetes de Lie (que pode ser provada coordenada por coordenada também). Se θ é uma 1-forma a valores em V então temos:

dθ(X, Y) = X(θ(Y)) − Y (θ(X)) − θ([X, Y]),

para quaisquer campos vetoriais X, Y em M (se f: M → V é uma função então podemos definir uma função X(f): M → V fazendo X(f)(m) = df_{m}(X_{m}) para m ∈ M).

Finalmente, se θ é uma 1-forma a valores numa álgebra de Lie 𝔤 então podemos definir uma 2-forma θ ∧ θ fazendo:

(θ ∧ θ)_{m}(v, w) = [θ_{m}(v), θ_{m}(w)],

para m ∈ M, v, w ∈ T_{m}M. Observação 2.3. Considerando a 1-forma θ tomando valores na álgebra associativa envolvente de 𝔤 então a definição acima segue da definição geral da multiplicação exterior, mas preferimos evitar essa linguagem.

Seja G um grupo de Lie. A forma de Maurer-Cartan de G é a 1-forma Θ a valores em 𝔤 definida por Θ_{g}(v) = g^{−1}v para g ∈ G, v ∈ T_{g}G (Θ é a única 1-forma invariante à esquerda tal que Θ_{1}: 𝔤 → 𝔤 é a identidade). Se X, Y são campos invariantes à esquerda em G então:

dΘ(X, Y) = X(Θ(Y)) − Y (Θ(X)) − Θ([X, Y]) = −Θ([X, Y]),  (2.1)

pois Θ(X) e Θ(Y) são funções constantes. Daí para g ∈ G e v, w ∈ T_{g}G, escolhemos campos invariantes à esquerda com X_{g} = v e Y_{g} = w, aplicamos a identidade (2.1) e obtemos:

dΘ_{g}(v, w) = −[Θ_{g}(v), Θ_{g}(w)].

Segue então a equação fundamental de Cartan:

dΘ = −Θ ∧ Θ.  (2.2)

Seja agora G um grupo de Lie, K um subgrupo fechado de G e 𝔡 ⊂ 𝔤/𝔨 um subespaço \overline{Ad}-invariante. Denotamos por D a distribuição G-invariante em G/K com D_{1K} = 𝔡. Seja s: U → G uma seção local definida num aberto U ⊂ G/K. Defina:

f:U × (𝔤/𝔨)^{∗} → T (G/K)_{|U}^{∗}
(gK, α) ↦ dl̄_{s(gK)}(1K)^{∗}^{−1}(α).  (2.3)

Temos que f é um difeomorfismo (na verdade, f é uma trivialização do fibrado vetorial T (G/K)^{∗} sobre o aberto U). Observe que f faz a subvariedade U × 𝔡^{0} de U × (𝔤/𝔨)^{∗} corresponder à subvariedade D_{|U}^{0} de T (G/K)_{|U}^{∗}, onde 𝔡^{0} ⊂ (𝔤/𝔨)^{∗} é o anulador do subespaço 𝔡 ⊂ 𝔤/𝔨 (isso segue diretamente da G-invariância da distribuição D).

Determinamos agora f^{∗}θ e f^{∗}ω, onde θ e ω são as formas canônicas de T (G/K)^{∗} introduzidas na seção 1. Para gK ∈ U, α ∈ (𝔤/𝔨)^{∗}, v ∈ T_{gK}(G/K) e β ∈ (𝔤/𝔨)^{∗} temos:

(f^{∗}θ)_{(gK,α)}(v, β) = θ_{f(gK,α)}∘df_{(gK,α)}(v, β) = dl̄_{s(gK)}(1K)^{∗}^{−1}(α)∘dπ_{f(gK,α)}∘df_{(gK,α)}(v, β),

onde utilizamos simplesmente a definição de θ dada em (1.1). Aplicando a regra da cadeia e observando que π ∘ f é simplesmente a primeira projeção do produto U × (𝔤/𝔨)^{∗} vem:

(f^{∗}θ)_{(gK,α)}(v, β) = α ∘ dl̄_{s(gK)}(1K)^{−1}(v) = α(s(gK)^{−1}v).  (2.4)

Considere a 1-forma π̄ ∘ s^{∗}Θ em U ⊂ G/K a valores em 𝔤/𝔨. Temos, para gK ∈ U, v ∈ T_{gK}(G/K):

(π̄ ∘ s^{∗}Θ)_{gK}(v) = π̄ ∘ Θ_{s(gK)} ∘ ds_{gK}(v) = dπ_{1} ∘ dl_{s(gK)}(1)^{−1} ∘ ds_{gK}(v).

Utilizando a regra da cadeia e observando que π ∘ l_{s(gK)}^{−1} ∘ s = l̄_{s(gK)}^{−1} obtemos:

(π̄ ∘ s^{∗}Θ)_{gK}(v) = π̄(s(gK)^{−1}ds_{gK}(v)) = s(gK)^{−1}v.  (2.5)

Denote por π_{1} e π_{2} as projeções do produto cartesiano U × (𝔤/𝔨)^{∗}. Observe que π_{2} é uma 0-forma em U × (𝔤/𝔨)^{∗} a valores em (𝔤/𝔨)^{∗}. Temos um operador bilinear:

\begin{matrix}p: & (𝔤/𝔨)^{∗} × (𝔤/𝔨) → ℝ \\ (α, v) ↦ α(v), \end{matrix}

em relação ao qual fazemos o produto exterior de uma forma a valores em 𝔤/𝔨 por uma forma a valores em (𝔤/𝔨)^{∗} obtendo uma forma a valores reais.

Substituindo (2.5) em (2.4) obtemos:

f^{∗}θ = π_{2} ∧ π_{1}^{∗}(π̄ ∘ s^{∗}Θ).

Aplicando a diferenciação exterior em ambos os lados vem:

−f^{∗}ω = dπ_{2} ∧ π_{1}^{∗}(π̄ ∘ s^{∗}Θ) + π_{2} ∧ π_{1}^{∗}(π̄ ∘ s^{∗}dΘ).

Podemos então utilizar a equação fundamental de Cartan (2.2):

f^{∗}ω = −dπ_{2} ∧ π_{1}^{∗}(π̄ ∘ s^{∗}Θ) + π_{2} ∧ π_{1}^{∗}(π̄ ∘ s^{∗}(Θ ∧ Θ)).

Mais explicitamente, se gK ∈ U, α, β_{1}, β_{2} ∈ (𝔤/𝔨)^{∗} e v_{1}, v_{2} ∈ T_{gK}(G/K) então:

\begin{aligned}(f^{∗}ω)_{(gK,α)}((v_{1}, β_{1}), (v_{2}, β_{2})) = & − β_{1} ∘ π̄ ∘ Θ_{s(gK)} ∘ ds_{gK}(v_{2}) + β_{2} ∘ π̄ ∘ Θ_{s(gK)} ∘ ds_{gK}(v_{1}) \\ & + α ∘ π̄[Θ_{s(gK)} ∘ ds_{gK}(v_{1}), Θ_{s(gK)} ∘ ds_{gK}(v_{2})]. \end{aligned}

Por simplicidade escrevemos:

v̂_{i} = s(gK)^{−1}ds_{gK}(v_{i}) ∈ 𝔤 e w_{i} = π̄(v̂_{i}) = s(gK)^{−1}v_{i} ∈ 𝔤/𝔨, i = 1, 2,  (2.6)

onde na segunda igualdade utilizamos (2.5). Temos então:

(f^{∗}ω)_{(gK,α)}((v_{1}, β_{1}), (v_{2}, β_{2})) = −β_{1}(w_{2}) + β_{2}(w_{1}) + α ∘ π̄[v̂_{1}, v̂_{2}].  (2.7)

Recordando que f leva U ×𝔡^{0} sobre D_{|U}^{0}, segue que o núcleo de ω_{|D^{0}} corresponde pela diferencial de f ao núcleo de (f^{∗}ω)_{|U×𝔡^{0}}, o qual calculamos a seguir.

Supomos agora α ∈ 𝔡^{0} e queremos determinar os pares (v_{1}, β_{1}) ∈ T_{gK}(G/K) × 𝔡^{0} que anulam (2.7) sempre que v_{2} ∈ T_{gK}(G/K) e β_{2} ∈ 𝔡^{0}. Fazendo v_{2} = 0 e deixando β_{2} ∈ 𝔡^{0} arbitrário vemos que necessariamente w_{1} ∈ 𝔡. Segue que (v_{1}, β_{1}) ∈ T_{gK}(G/K)×𝔡^{0} pertence ao núcleo de (f^{∗}ω)_{|U×𝔡^{0}} no ponto (gK, α) se e somente se:

w_{1} ∈ 𝔡 e β_{1}(w_{2}) = α ∘ π̄[v̂_{1}, v̂_{2}],  (2.8)

para todo v_{2} ∈ T_{gK}(G/K), onde v̂_{i}, w_{i} são definidos como em (2.6).

Escolhemos agora um subespaço complementar arbitrário 𝔪 de 𝔨 em 𝔤. Daí 𝔤 = 𝔨 ⊕ 𝔪 e identificamos 𝔤/𝔨 com 𝔪 através de π̄_{|𝔪}. A projeção π̄ fica identificada então com a projeção π_{𝔪}: 𝔤 → 𝔪 em relação a decomposição 𝔤 = 𝔨 ⊕ 𝔪. Consideramos agora 𝔡 ⊂ 𝔪 e 𝔡^{0} ⊂ 𝔪^{∗}. Observe que o subespaço π̄^{−1}(𝔡) ⊂ 𝔤 fica agora identificado com 𝔨 + 𝔡. A observação 2.2 nos diz agora que [𝔨, 𝔨 + 𝔡] ⊂ 𝔨 + 𝔡.

Observe que os vetores v̂_{i} e w_{i} definidos em (2.6) diferem por um elemento de 𝔨, pois agora w_{i} = π_{𝔪}(v̂_{i}). Supondo w_{1} ∈ 𝔡, temos que v̂_{1} ∈ 𝔨 + 𝔡 e portanto [v̂_{1}, v̂_{2}] e [v̂_{1}, w_{2}] diferem por um elemento de 𝔨 + 𝔡. Como α ∈ 𝔪^{∗} anula 𝔡, podemos substituir v̂_{2} por w_{2} em (2.8). É claro que quando v_{2} percorre todo o espaço tangente T_{gK}(G/K) então w_{2} percorre o espaço 𝔤/𝔨 ≅ 𝔪. Finalmente, obtemos que (2.8) equivale a:

w_{1} ∈ 𝔡 e β_{1} = (α ∘ π_{𝔪} ∘ adv̂_{1})_{|𝔪}.  (2.9)

Resumimos esses cálculos no seguinte teorema.

Teorema 2.1. Sejam G um grupo de Lie, K ⊂ G um subgrupo fechado e D uma distribuição G-invariante em G/K. Escolha um subespaço complementar arbitrário 𝔪 de 𝔨 em 𝔤 e uma seção local s: U → G definida num aberto U ⊂ G/K. Seja 𝔡 = D_{1K} ⊂ 𝔤/𝔨 ≅ 𝔪 e seja f o difeomorfismo definido em (2.3). Denote por ω a forma simplética canônica de T (G/K)^{∗}. Fixados gK ∈ U, α ∈ 𝔡^{0}, temos que um vetor (v, β) ∈ T_{gK}(G/K) × 𝔡^{0} pertence ao núcleo de (f^{∗}ω)_{|U×𝔡^{0}} no ponto (gK, α) se e somente se:

w ∈ 𝔡 e β = (π_{𝔪} ∘ adv̂ ∘i_{𝔪})^{∗}α,

onde v̂ = s(gK)^{−1}ds_{gK}(v), w = π_{𝔪}(v̂), π_{𝔪}: 𝔤 → 𝔪 é a projeção em relação à decomposição 𝔤 = 𝔨 ⊕ 𝔪 e i_{𝔪}: 𝔪 → 𝔤 é a inclusão.

Demonstração. Segue diretamente de (2.9). Observação 2.4. No teorema anterior, identificando 𝔤/𝔨 ≅ 𝔪, segue de (2.5) que w é simplesmente s(gK)^{−1}v, donde a condição w ∈ 𝔡 nos diz simplesmente que v pertence à distribuição D.

Corolário. Nas condições do teorema, seja γ: [a, b] → M uma curva absolutamente contínua com γ([a, b]) ⊂ U. Então γ é um extremal anormal de (G/K, D) (com qualquer métrica sub-Riemanniana) se e somente se existe uma função absolutamente contínua que nunca se anula λ: [a, b] → 𝔡^{0} tal que:

μ(t) ∈ 𝔡 e λ̇(t) = (π_{𝔪} ∘ ad_{μ̂(t)} ∘i_{𝔪})^{∗}λ(t),

para quase todo t ∈ [a, b], onde escrevemos:

μ̂(t) = s(γ(t))^{−1}ds_{γ(t)}(γ̇(t)) e μ(t) = π_{𝔪}(μ̂(t)).

Demonstração. As curvas absolutamente contínuas η: [a, b] → D^{0} que se projetam sobre γ estão em correspondência biunívoca com as curvas absolutamente contínuas λ: [a, b] → 𝔡^{0} fazendo η = f ∘ (γ, λ). Temos que γ é um extremal anormal se e somente se existe uma característica η: [a, b] → D^{0} de D (i.e., η̇(t) pertence ao núcleo de ω_{|D^{0}} no ponto η(t) para quase todo t ∈ [a, b]) que nunca se anula e que se projeta sobre γ. O resultado segue diretamente do teorema. Observação 2.5. Analogamente à observação 2.4, temos que no corolário anterior μ(t) é simplesmente s(γ(t))^{−1}γ̇(t), quando identificamos 𝔤/𝔨 ≅ 𝔪. Daí a condição μ(t) ∈ 𝔡 nos diz simplesmente que γ é horizontal. Observamos também que podemos substituir no corolário a condição “λ nunca se anula” por “λ não é identicamente nula” (vide observação 1.4).

3. Preliminares algébricos.

Nesta seção expomos alguns preliminares algébricos que serão usados na seção 4. Na subseção 3.1 expomos alguns resultados simples de álgebra linear que serão neces-

sários posteriormente. Resumimos também a teoria de formas reais e complexificações de espaços vetorias e álgebras de Lie. Na subseção 3.2 expomos resumidamente a teoria de estrutura de raízes e decomposição de Cartan de álgebras de Lie complexas semi-simples. A exposição não é totalmente auto-contida e referimos o leitor para [Vj], para mais detalhes. Na subseção 3.3 introduzimos o conceito de álgebras de Lie involutivas ortogonais, que serão essenciais para a descrição da classe de variedades sub-Riemannianas que aparece no teorema fundamental na seção 4. A exposição feita na subseção 3.3 é auto-contida, mas referimos o leitor para [W], para mais detalhes.

3.1. Recapitulação de álgebra linear.

Seja V um espaço vetorial sobre um corpo 𝕂 (suporemos sempre 𝕂 = ℝ ou 𝕂 = ℂ, mesmo quando isso não for estritamente necessário). Todos os espaços vetoriais (e álgebras de Lie) envolvidos nesta seção e nas próximas serão de dimensão finita, exceto quando for feita menção explícita em contrário.

Seja B: V ×V → 𝕂 uma forma bilinear simétrica. Se W ⊂ V é um subespaço definimos o complemento B-ortogonal de W em V (ou simplesmente complemento ortogonal, quando B estiver subentendida) fazendo:

W^{⊥} = { v ∈ V : B(v, w) = 0, ∀w ∈ W }.

O núcleo de B é por definição o subespaço V^{⊥}. Dizemos que B é não degenerada quando seu núcleo for nulo. Isso equivale a dizer que a aplicação v ∈ V ↦ B(v, ·) ∈ V^{∗} é um isomorfismo. Note que em geral não é verdade que W ∩ W^{⊥} = 0 nem que V = W + W^{⊥}. Temos porém o seguinte lema.

Lema 3.1.1. Seja V um espaço vetorial e B uma forma bilinear simétrica em V. Um subespaço W ⊂ V satisfaz V = W ⊕ W^{⊥} se e somente se a restrição de B a W é não degenerada.

Demonstração. É fácil ver que o núcleo da restrição de B a W é W ∩ W^{⊥}, de modo que se V = W ⊕ W^{⊥} então a restrição de B a W é não degenerada. Reciprocamente, se a restrição de B a W é não degenerada então W ∩W^{⊥} = 0 e resta mostrar que V = W +W^{⊥}. Seja v ∈ V. Defina α ∈ W^{∗} fazendo α(w) = B(v, w). Pelo comentário que precede o lema existe um único w ∈ W tal que B(w, ·)_{|W} = α. Segue que v − w ∈ W^{⊥}, o que completa a demonstração.

Se V é um espaço vetorial complexo, uma forma real em V é um subespaço real V^{0} ⊂ V tal que V = V^{0} ⊕ iV^{0}. Por exemplo, ℝ^{n} é uma forma real em ℂ^{n}. Fixada uma forma real em V temos um único isomorfismo ℝ-linear T: V → V tal que T_{|V^{0}} = Id e T_{|iV^{0}} = − Id. Escrevemos T (v) = v̄ e dizemos que v̄ é o conjugado de v ∈ V em relação à forma real V^{0}.

Sejam V_{1}, …, V_{n}, W espaços vetoriais complexos com formas reais V_{1}^{0}, …, V_{n}^{0}, W^{0} respectivamente. Dizemos que um operador n-linear (sobre ℂ) B: V_{1} × ⋯ × V_{n} → W preserva as formas reais quando B(V_{1}^{0} × ⋯ × V_{n}^{0}) ⊂ W^{0}. Toda base (sobre ℝ) de uma forma real V^{0} ⊂ V é também uma base (sobre ℂ) de V (na verdade, uma forma real pode ser construida considerando-se o subespaço real gerado por uma base de V sobre ℂ). Numa tal base, um operador multi-linear que preserva as formas reais é caracterizado pelo fato que seus coeficientes matriciais são reais. Bases de V obtidas assim são chamadas adaptadas à forma real V^{0}. Mais geralmente podemos definir um operador n-linear (sobre ℂ) B̄ fazendo:

B̄(v_{1}, …, v_{n}) = \overline{B(v̄_{1}, …, v̄_{n})}.

Os coeficientes de B̄ numa base adaptada à forma real são conjugados aos coeficientes de B. Temos que B preserva as formas reais se e somente se B = B̄.

Se V é um espaço vetorial real então uma complexificação de V é um espaço vetorial complexo V^{c} que contém V como forma real. Podemos construir V^{c} fazendo V^{c} = V ⊗ ℂ, definindo i(v ⊗ z) = v ⊗ (iz) e identificando V com V ⊗ 1. Podemos também simplesmente fazer V^{c} = V ⊕ V, definir i(v, w) = (−w, v) e identificar V com V ⊕ 0. A complexificação V^{c} é única no sentido que duas delas são isomorfas por um isomorfismo ℂ-linear que fixa V.

Se B: V_{1} ×⋯×V_{n} → W é um operador n-linear onde cada V_{i} é um espaço vetorial real e W é um espaço vetorial complexo, existe uma única extensão de B a V_{1}^{c} × ⋯ × V_{n}^{c} que é n-linear sobre ℂ. Quando W também é apenas real, podemos estender B se considerarmos seu contra-domínio em W^{c}. Essa extensão será denotada por B^{c} (às vezes escreveremos apenas B em vez de B^{c}, por simplicidade). Se B: V × V → ℝ é uma forma bilinear simétrica então B^{c}: V^{c} × V^{c} → ℂ é também uma forma bilinear simétrica. Temos que B é não degenerada se e somente se B^{c} é não degenerada.

Se W ⊂ V é um subespaço real então o subespaço complexo gerado por W em V^{c} é uma complexificação de W e é denotado portanto por W^{c}. Em geral, um subespaço complexo Z ⊂ V^{c} é da forma W^{c} para algum W ⊂ V se e somente se Z é invariante por conjugação, i.e., Z̄ = Z (ou, mais explicitamente, v ∈ Z ⇒ v̄ ∈ Z). Nesse caso temos W = Z ∩ V.

Observe que um produto interno num espaço real V admite uma única extensão ℂ-bilinear a V^{c}, a qual é uma forma bilinear simétrica não degenerada. É possível no entanto obter uma única extensão sesquilinear (i.e., linear conjugada na segunda variável e ℂ-linear na primeira variável). A mesma será um produto hermiteano em V^{c}.

Se 𝔤 é uma álgebra de Lie real então o colchete de Lie admite uma única extensão ℂ-bilinear a 𝔤^{c}. Obtemos então em 𝔤^{c} uma estrutura de álgebra de Lie complexa, à qual chamamos a complexificação da álgebra de Lie 𝔤. Note que o colchete de Lie preserva a forma real e portanto vale a identidade \overline{[X, Y]} = [X̄, Ȳ]. Observe que reciprocamente, se 𝔤 é uma álgebra de Lie complexa e 𝔤^{0} ⊂ 𝔤 é uma forma real preservada pelo colchete de Lie então 𝔤^{0} é uma álgebra de Lie real e 𝔤 é uma complexificação de 𝔤^{0}.

Precisamos agora de alguns lemas sobre diagonalização de operadores lineares. Seja V um espaço vetorial complexo. Sabe-se que um operador linear T: V → V é diagonalizável se e somente se seu polinômio minimal m(T) ∈ ℂ[X] (i.e., o gerador do ideal principal de polinômios em ℂ[X] que anulam T) possui apenas raízes de multiplicidade 1. Temos o seguinte lema:

Lema 3.1.2. Seja T: V → V um operador linear diagonalizável num espaço vetorial complexo V. Se W ⊂ V é um subespaço invariante, i.e., T (W) ⊂ W então T_{|W}: W → W também é diagonalizável.

Demonstração. Se p(X) ∈ ℂ[X] é um polinômio então p(T_{|W}) = p(T)_{|W}. Segue então que m(T) anula T_{|W} e portanto m(T_{|W}) divide m(T). Segue que todas as raízes de m(T_{|W}) tem multiplicidade 1.

Dizemos que um conjunto T de operadores lineares de V é simultaneamente diagonalizável quando existir uma base de V que diagonaliza todos os elementos de T . Segue então que os elementos de T são individualmente diagonalizáveis e comutam entre si. O resultado seguinte fornece a recíproca. Observamos que se T e S comutam então os auto-espaços de T são S-invariantes.

Lema 3.1.3. Seja V um espaço vetorial complexo e seja T um conjunto de operadores lineares diagonalizáveis em V que comutam dois a dois. Então T é simultaneamente diagonalizável.

Demonstração. Usamos indução na dimensão de V. O resultado é óbvio para dimensão 0 (e 1). Supomos o resultado válido para espaços vetoriais de dimensão menor que a de V. Se todo elemento de T é múltiplo da identidade, o resultado é óbvio. Suponha então que existe T ∈ T que não é múltiplo da identidade. Os auto-espaços de T são então subespaços próprios de V invariantes por todos os elementos de T . Podemos escrever então V = V_{1} ⊕ V_{2}, com dim V_{1} < dim V, dim V_{2} < dim V e V_{1}, V_{2} invariantes por todos os elementos de T . Pelo lema 3.1.2 as restrições dos elementos de T a V_{1} e V_{2} são ainda diagonalizáveis (e comutam) e são então simultaneamente diagonalizáveis pela hipótese de indução.

Corolário. Seja 𝔤 uma álgebra de Lie complexa e 𝔥 ⊂ 𝔤 uma subálgebra abeliana. Se S é um conjunto de geradores de 𝔥 (como espaço vetorial) e se ad_{X}: 𝔤 → 𝔤 é diagonalizável para todo X ∈ S então ad_{X} é diagonalizável para todo X ∈ 𝔥.

Demonstração. Para X, Y ∈ S temos [ad_{X}, ad_{Y}] = ad_{[X,Y]} = 0, donde o conjunto:

T = { ad_{X} : X ∈ S },

satisfaz as hipóteses do lema. Para X ∈ 𝔥 temos que ad_{X} é uma combinação linear dos elementos de T , donde uma base que diagonaliza simultaneamente os elementos de T também diagonaliza ad_{X}.

3.2. Estrutura de álgebras de Lie complexas semi-simples.

Seja 𝔤 uma álgebra de Lie sobre 𝕂. A forma de Killing de 𝔤 é a forma bilinear simétrica K: 𝔤 × 𝔤 → 𝕂 definida por K(X, Y) = tr(ad_{X} ad_{Y}), onde tr T denota o traço de um operador linear T: 𝔤 → 𝔤. Sejam σ: 𝔤 → 𝔤 um automorfismo e d: 𝔤 → 𝔤 uma derivação de 𝔤 (i.e., σ[X, Y] = [σ(X), σ(Y)] e d[X, Y] = [d(X), Y] + [X, d(Y)], para X, Y ∈ 𝔤). Então:

K(σ(X), σ(Y)) = K(X, Y) e K(d(X), Y) + K(X, d(Y)) = 0,

para X, Y ∈ 𝔤. Dizemos também que σ é K-ortogonal e d é K-antisimétrica. A segunda fórmula é especialmente interessante quando d = ad_{Z} para algum Z ∈ 𝔤, i.e., d é uma derivação interna.

Dado um subconjunto S ⊂ 𝔤, definimos o centralizador de S fazendo:

𝔷(S) = { X ∈ 𝔤 : [X, Y] = 0, ∀Y ∈ S }.

Segue facilmente da identidade de Jacobi que 𝔷(S) é uma subálgebra de 𝔤. Quando X está em 𝔷(S) dizemos também que X centraliza S. Em geral, se 𝔥 ⊂ 𝔤 é uma subálgebra de 𝔤 definimos o centralizador de S em 𝔥 fazendo 𝔷_{𝔥}(S) = 𝔷(S) ∩ 𝔥. O centro de 𝔤 é o ideal 𝔷 = 𝔷(𝔤). Para X ∈ 𝔤 escrevemos 𝔷(X) em vez de 𝔷({X}). É claro que X ∈ 𝔷(S) se e somente se S ⊂ 𝔷(X). Como 𝔷(X) é uma subálgebra de 𝔤, segue que o centralizador de S coincide com o centralizador da subálgebra de Lie gerada por S em 𝔤. Suponha agora que 𝔤 é real. Se 𝔤^{c} é a complexificação de 𝔤 então para S ⊂ 𝔤 vale 𝔷_{𝔤^{c}}(S) = 𝔷_{𝔤}(S)^{c}. Em particular, 𝔷_{𝔤^{c}}(𝔤^{c}) = 𝔷_{𝔤^{c}}(𝔤) = 𝔷_{𝔤}(𝔤)^{c}, i.e., o centro de 𝔤^{c} é a complexificação do centro de 𝔤.

Diremos que uma álgebra de Lie 𝔤 (real ou complexa) é semi-simples quando sua forma de Killing K for não degenerada. Sabe-se que 𝔤 é semi-simples se e somente se não possui ideais abelianos não nulos (o que também equivale a dizer que 𝔤 não possui ideais solúveis não nulos, mas esse fato não será utilizado). Em particular uma álgebra de Lie semi-simples não possui centro.

Se 𝔤 é uma álgebra de Lie real e se K é sua forma de Killing então a forma de Killing de 𝔤^{c} é simplesmente K^{c}. Segue que 𝔤 é semi-simples se e somente se 𝔤^{c} é semi-simples.

Seja 𝔤 uma álgebra de Lie complexa semi-simples. Uma subálgebra de Cartan de 𝔤 é uma subálgebra abeliana maximal 𝔥 ⊂ 𝔤 (i.e., 𝔥 é uma subálgebra abeliana de 𝔤 que não está propriamente contida em nenhuma subálgebra abeliana de 𝔤) tal que ad_{X}: 𝔤 → 𝔤 é diagonalizável para todo X ∈ 𝔥. Temos que subálgebras de Cartan realmente existem (e duas delas são conjugadas por automorfismos internos de 𝔤, mas esse fato não será usado. Segue daí que todas as subálgebras de Cartan possuem a mesma dimensão e essa é chamada o posto de 𝔤).

Observe que 𝔥 é abeliana maximal se e somente se 𝔷(𝔥) = 𝔥 (observe que se existisse X ∈ 𝔷(𝔥), X ∉ 𝔥 então 𝔥 e X gerariam uma subálgebra abeliana maior que 𝔥). Note também que pelo corolário do lema 3.1.3, para ver que ad_{X} é diagonalizável para todo X ∈ 𝔥 basta considerar os elementos X de um conjunto de geradores de 𝔥 (como espaço vetorial).

Fixamos a partir de agora uma subálgebra de Cartan 𝔥 ⊂ 𝔤. Seja α ∈ 𝔥^{∗}. Defina um subespaço 𝔤_{α} de 𝔤 fazendo:

𝔤_{α} = { X ∈ 𝔤 : [H, X] = α(H)X, ∀H ∈ 𝔥 }.

Como 𝔥 é abeliana maximal segue que 𝔤_{0} = 𝔥. Se α ∈ 𝔥^{∗} é tal que 𝔤_{α} ≠ 0 e α ≠ 0, dizemos que α é uma raiz de 𝔤. Denotamos por Δ o conjunto das raízes de 𝔤. Temos que Δ é finito e vale a seguinte decomposição:

𝔤 = 𝔥 ⊕ ⨁_{α∈Δ} 𝔤_{α},

chamada a decomposição de Cartan de 𝔤 (isso é uma conseqüência relativamente simples do lema 3.1.3 aplicado ao conjunto { ad_{X} : X ∈ 𝔥 }).

Sabe-se que para α ∈ Δ o espaço 𝔤_{α} tem dimensão um. Para α, β ∈ 𝔥^{∗}, X ∈ 𝔤_{α}, Y ∈ 𝔤_{β} e H ∈ 𝔥 temos:

K([H, X], Y) + K(X, [H, Y]) = 0 ⇒ (α + β)(H)K(X, Y) = 0.

Segue daí que 𝔤_{α} e 𝔤_{β} são K-ortogonais para β ≠ −α. Como K é não degenerada em 𝔤 segue também que −α ∈ Δ sempre que α ∈ Δ e que a restrição de K a 𝔥 é não degenerada.

Temos um isomorfismo H ↦ K(H, ·) entre 𝔥 e 𝔥^{∗}. Para α ∈ 𝔥^{∗} denotamos por H_{α} o elemento de 𝔥 correspondente por esse isomorfismo. Denotamos por 𝔥_{ℝ} o subespaço real de 𝔥 gerado pelos vetores H_{α} com α ∈ Δ. Sabe-se que 𝔥_{ℝ} é uma forma real de 𝔥 e que a restrição de K a 𝔥_{ℝ} é definida positiva. Além do mais, as raízes de 𝔤 assumem valores reais em 𝔥_{ℝ}. Observe em particular que os vetores H_{α} com α ∈ Δ geram 𝔥 como subespaço complexo (demonstrando diretamente, um vetor não nulo de 𝔥 que fosse K-ortogonal a H_{α} para todo α ∈ Δ estaria em ⋂_{α∈Δ} Ker α e portanto no centro de 𝔤).

Observe que se H ∈ 𝔥 é tal que α(H) ∈ ℝ para todo α ∈ Δ então H ∈ 𝔥_{ℝ}. De fato, escrevemos H = H_{1} + iH_{2} com H_{1}, H_{2} ∈ 𝔥_{ℝ}. Daí para α ∈ Δ temos α(H) ∈ ℝ e como α(H_{1}), α(H_{2}) ∈ ℝ vem α(H_{2}) = 0. Como α ∈ Δ é arbitrário temos H_{2} = 0 (pois H_{2} está no centro de 𝔤). Segue em particular que 𝔥_{ℝ} é a única forma real de 𝔥 onde as raízes assumem valores reais.

Segue da identidade de Jacobi que se X ∈ 𝔤_{α} e Y ∈ 𝔤_{β} então [X, Y] ∈ 𝔤_{α+β}, ou abreviadamente, [𝔤_{α}, 𝔤_{β}] ⊂ 𝔤_{α+β}. Observe em particular que se α, β ∈ Δ e α+β ∉ Δ∪{0} então [𝔤_{α}, 𝔤_{β}] = 0. Se α ∈ Δ, X ∈ 𝔤_{α} e Y ∈ 𝔤_{−α} então [X, Y] ∈ 𝔥. Mais precisamente, para todo H ∈ 𝔥:

K([X, Y], H) = K(Y, [H, X]) = K(X, Y)α(H).

Segue que [𝔤_{α}, 𝔤_{−α}] ⊂ ℂH_{α}, onde ℂH_{α} é o subespaço (complexo) gerado pelo vetor H_{α} (mais precisamente, segue que [X, Y] = K(X, Y)H_{α}). Observação 3.2.1. Se α, β ∈ Δ e α + β ∈ Δ ∪ {0} então [X, Y] ≠ 0 sempre que X ∈ 𝔤_{α} e Y ∈ 𝔤_{β} com X ≠ 0, Y ≠ 0. O caso α + β = 0 segue do que foi dito acima. O caso α + β ∈ Δ é muitas vezes enunciado nos textos sob a forma [𝔤_{α}, 𝔤_{β}] = 𝔤_{α+β}.

Para finalizar, observamos que é fácil descrever o centralizador de um subconjunto de 𝔥 em termos da decomposição de Cartan. De fato, Se S ⊂ 𝔥 é um subconjunto então é fácil ver que o centralizador de S é dado por:

𝔷(S) = 𝔥 ⊕ ⨁_{α∈Δ′} 𝔤_{α},  (3.2.1)

onde Δ′ é o conjunto das raízes α ∈ Δ tais que α_{|S} = 0.

3.3. Estrutura de álgebras de Lie involutivas ortogonais.

Seja 𝔤 uma álgebra de Lie real. Seja s um automorfismo involutivo de 𝔤, i.e., s ∈ Aut(𝔤) e s ∘ s = Id. Como o polinômio X^{2} − 1 ∈ ℝ[X] anula s segue que s é diagonalizável com autovalores 1 e −1. Escrevemos então 𝔤 = 𝔤_{+} ⊕ 𝔤_{−}, onde s_{|𝔤_{+}} = Id e s_{|𝔤_{−}} = − Id. É fácil ver que [𝔤_{+}, 𝔤_{+}] ⊂ 𝔤_{+}, [𝔤_{+}, 𝔤_{−}] ⊂ 𝔤_{−} e [𝔤_{−}, 𝔤_{−}] ⊂ 𝔤_{+}. Em particular 𝔤_{+} é uma subálgebra de 𝔤 e temos uma representação de 𝔤_{+} no espaço vetorial 𝔤_{−} dada por X ∈ 𝔤_{+} ↦ (ad_{X})_{|𝔤_{−}}. Chamaremos a essa a representação adjunta de 𝔤_{+} em 𝔤_{−}.

Uma álgebra de Lie involutiva ortogonal (ALIO) é uma trinca (𝔤, s, B), onde 𝔤 é uma álgebra de Lie real, s é um automorfismo involutivo de 𝔤, B é um produto interno em 𝔤_{−} invariante pela representação adjunta de 𝔤_{+} e supomos também que 𝔤_{+} não contém ideais não nulos de 𝔤. A invariância de B significa que (ad_{X})_{|𝔤_{−}} é B-antisimétrico para X ∈ 𝔤_{+} ou mais explicitamente:

B([X, Y], Z) + B(Y, [X, Z]) = 0,

para X ∈ 𝔤_{+} e Y, Z ∈ 𝔤_{−}.

O conceito de ALIO aparece naturalmente na teoria dos espaços Riemannianos simétricos, porém suas propriedades algébricas podem ser estudadas de maneira independente. Em certo sentido, a relação entre ALIOs e espaços Riemannianos simétricos é semelhante à relação entre álgebras de Lie e grupos de Lie. Explicamos rapidamente a construção de uma ALIO a partir de um espaço Riemanniano simétrico a título de motivação, embora isso não seja relevante para o resto do texto.

Um espaço Riemanniano simétrico é uma variedade Riemanniana conexa M tal que para todo x ∈ M existe uma isometria ψ: M → M com ψ(x) = x e dψ_{x} = − Id.

Seja G o grupo das isometrias de M (com a topologia compacto-aberta). Sabe-se que G é um grupo de Lie e a ação canônica G×M → M é diferenciável. É possível mostrar que todo espaço simétrico é homogêneo, i.e., a ação de G é transitiva. Fixado então x_{0} ∈ M, podemos identificar M com G/G_{+}, onde G_{+} é o subgrupo de isotropia de x_{0}. Seja ψ a (única) isometria de M com ψ(x_{0}) = x_{0} e dψ_{x_{0}} = − Id. Daí ψ^{2} é uma isometria de M que fixa x_{0} e cuja diferencial no ponto x_{0} é a identidade. Segue que ψ^{2} = Id e o automorfismo interno I_{ψ} de G é involutivo, i.e., seu quadrado é a identidade. Seja 𝔤 a álgebra de Lie de G e s = Ad_{ψ} = dI_{ψ}(1). Daí 𝔤 é uma álgebra de Lie (real) e s é um automorfismo involutivo de 𝔤. Escrevemos 𝔤 = 𝔤_{+} ⊕ 𝔤_{−} como antes e não é difícil ver que 𝔤_{+} é de fato a álgebra de Lie de G_{+}. Podemos então identificar T_{x_{0}}M com 𝔤/𝔤_{+} ≅ 𝔤_{−}. O produto interno em T_{x_{0}}M induz então um produto interno B em 𝔤_{−}, cuja invariância pela representação adjunta de 𝔤_{+} segue da G-invariânvia da métrica Riemanniana de M. A inexistência de ideais não nulos de 𝔤 contidos em 𝔤_{+} segue da efetividade da ação de G em M (vide lema 3.3.3). A homogeneidade de M implica que a (classe de isomorfismo da) ALIO (𝔤, s, B) construída não depende da escolha de x_{0} ∈ M.

Faremos a partir de agora uma exposição de alguns resultados algébricos sobre ALIOs. Seja então (𝔤, s, B) uma ALIO. Vamos estabelecer algumas relações entre os espaços 𝔤_{+} e 𝔤_{−} e a forma de Killing K. Em primeiro lugar, como s é K-ortogonal, segue facilmente que 𝔤_{+} e 𝔤_{−} são K-ortogonais, i.e., K(X, Y) = 0 para X ∈ 𝔤_{+} e Y ∈ 𝔤_{−}. Basta ver que:

K(X, Y) = K(s(X), s(Y)) = K(X, −Y).

Mostraremos a seguir que a restrição de K a 𝔤_{+} é definida negativa. Antes temos um lema.

Lema 3.3.1. A representação adjunta de 𝔤_{+} em 𝔤_{−} é efetiva, i.e., se X ∈ 𝔤_{+} e (ad_{X})_{|𝔤_{−}} = 0 então X = 0.

Demonstração. Temos que mostrar que o centralizador 𝔷_{𝔤_{+}}(𝔤_{−}) de 𝔤_{−} em 𝔤_{+} é zero. Basta ver que o mesmo é um ideal de 𝔤. Seja então X ∈ 𝔷_{𝔤_{+}}(𝔤_{−}). Se Y ∈ 𝔤_{+}, segue facilmente da identidade de Jacobi que [X, Y] ∈ 𝔷_{𝔤_{+}}(𝔤_{−}) e se Y ∈ 𝔤_{−} temos [X, Y] = 0.

Observação 3.3.1. Vale também uma espécie de recíproca do lema acima. Sejam 𝔤 uma álgebra de Lie e s um automorfismo involutivo de 𝔤. Escrevemos como sempre 𝔤 = 𝔤_{+}⊕𝔤_{−}, onde s_{|𝔤_{+}} = Id e s_{|𝔤_{−}} = − Id. Se a representação adjunta de 𝔤_{+} em 𝔤_{−} é efetiva, i.e., se nenhum elemento não nulo de 𝔤_{+} centraliza 𝔤_{−} então 𝔤_{+} não contém ideais não nulos de 𝔤. De fato, se 𝔦 ⊂ 𝔤_{+} é um ideal de 𝔤 então, por um lado [𝔦, 𝔤_{−}] ⊂ 𝔦 ⊂ 𝔤_{+} (pois 𝔦 é um ideal) e por outro lado [𝔦, 𝔤_{−}] ⊂ 𝔤_{−}, donde [𝔦, 𝔤_{−}] = 0.

Corolário. A álgebra de Lie 𝔤_{+} admite um produto interno invariante pela sua própria representação adjunta, i.e., tal que (ad_{X})_{|𝔤_{+}} é antisimétrico para todo X ∈ 𝔤_{+}.

Demonstração. Considere o grupo de Lie compacto SO(𝔤_{−}) das transformações B-ortogo-nais positivas de 𝔤_{−}. Sua álgebra de Lie so(𝔤_{−}) das transformações B-antisimétricas de 𝔤_{−} admite um produto interno invariante pela representação adjunta de SO(𝔤_{−}) e portanto invariante pela sua própria representação adjunta. A efetividade da representação adjunta de 𝔤_{+} em 𝔤_{−} nos mostra que 𝔤_{+} é (isomorfa a) uma subálgebra de so(𝔤_{−}). Basta então restringir o produto interno de so(𝔤_{−}) a 𝔤_{+}.

O corolário acima pode também ser enunciado dizendo que 𝔤_{+} é uma álgebra de Lie compacta.

Lema 3.3.2. A restrição da forma de Killing de 𝔤 a 𝔤_{+} é definida negativa.

Demonstração. Pelo corolário do lema 3.3.1, podemos estender o produto interno B de 𝔤_{−} a 𝔤, declarando que sua restrição a 𝔤_{+} seja invariante pela representação adjunta de 𝔤_{+} e que 𝔤_{+} e 𝔤_{−} sejam ortogonais. Obtemos então um produto interno invariante pela representação adjunta de 𝔤_{+} em 𝔤. Em particular, para X ∈ 𝔤_{+} temos que ad_{X} é representado por uma matriz antisimétrica em bases ortonormais e portanto tr(ad_{X})^{2} ≤ 0, valendo a igualdade se e somente se ad_{X} = 0. Mas ad_{X} = 0 implica X = 0 pelo lema 3.3.1.

Observação 3.3.2. O produto interno cuja existência é demonstrada no corolário do lema 3.3.1 pode ser tomado como a restrição de −K a 𝔤_{+}, pelo lema acima (note porém que na demonstração acima o referido corolário é utilizado, por isso o mesmo precisou de uma demonstração independente). Observe que a restrição a 𝔤_{+} da forma de Killing de 𝔤 em geral não coincide com a forma de Killing de 𝔤_{+}, e na verdade a última pode ser degenerada (isso ocorre quando 𝔤_{+} possui centro).

Nosso próximo lema não é puramente algébrico e é independente do desenvolvimento da teoria de ALIOs, porém fornece um critério útil para determinar se uma trinca (𝔤, s, B) é uma ALIO quando 𝔤 é dada como álgebra de Lie de um grupo de Lie G.

Lema 3.3.3. Seja dada uma ação transitiva de um grupo de Lie conexo G numa variedade M. Seja m ∈ M um ponto com grupo de isotropia K. Sejam 𝔤 e 𝔨 as álgebras de Lie dos grupos G e K respectivamente. Suponha que a ação de G em M é efetiva, i.e., se g · x = x para todo x ∈ M então g = 1. Então 𝔨 não contém ideais não nulos de 𝔤.

Demonstração. Se existisse um ideal não nulo 𝔫 de 𝔤 com 𝔫 ⊂ 𝔨, teríamos um subgrupo de Lie conexo N ⊂ G não trivial associado à álgebra de Lie 𝔫. Como N e G são conexos segue que N é normal em G (𝔫 é invariante pela representação adjunta de 𝔤 e portanto pela representação adjunta de G, pois G é conexo. Como N é conexo segue que N é invariante pelos automorfismos internos de G). Como 𝔫 ⊂ 𝔨 e N é conexo segue N ⊂ K. Afirmamos que N age trivialmente em M.

De fato, sejam g ∈ N, x ∈ M. Como a ação de G é transitiva escrevemos x = h · m para algum h ∈ G. Daí:

g · x = (gh) · m = h · ((h^{−1}gh) · m) = h · m = x,

pois h^{−1}gh ∈ N ⊂ K. Chegamos a uma contradição.

O seguinte lema técnico será necessário posteriormente.

Lema 3.3.4. Sejam V, W dois subespaços K-ortogonais de 𝔤_{−}. Suponha que [𝔤_{+}, V] ⊂ V. Então [V, W] = 0.

Demonstração. Sejam X ∈ V, Y ∈ W. Como Z = [X, Y] ∈ 𝔤_{+}, basta mostrar que K(Z, Z) = 0, pelo lema 3.3.2. Mas:

K(Z, Z) = K([X, Y], Z) = K(Y, [Z, X]) = 0,

pois Y ∈ W e [Z, X] ∈ V.

Uma observação simples mas importante é que um subespaço s-invariante V ⊂ 𝔤, i.e., s(V) ⊂ V se decompõe V = (V ∩ 𝔤_{+}) ⊕ (V ∩ 𝔤_{−}). Isso segue do fato que s_{|V} continua diagonalizável. Em particular, o centro 𝔷(𝔤) se decompõe dessa maneira e como 𝔷(𝔤) ∩ 𝔤_{+} é um ideal vemos que 𝔷(𝔤) ⊂ 𝔤_{−}. O lema abaixo nos dá uma maneira simples de verificar se uma ALIO é semi-simples.

Lema 3.3.5. O centralizador 𝔷(𝔤_{−}) de 𝔤_{−} é um ideal abeliano de 𝔤 contido em 𝔤_{−}. Além do mais, 𝔷(𝔤_{−}) = 0 se e somente se 𝔤 é semi-simples.

Demonstração. É fácil ver que 𝔷(𝔤_{−}) é s-invariante e portanto se escreve como soma direta de sua interseção com 𝔤_{+} e de sua interseção com 𝔤_{−}. Segue então do lema 3.3.1 que 𝔷(𝔤_{−}) ⊂ 𝔤_{−}. Se X ∈ 𝔷(𝔤_{−}) e Y ∈ 𝔤_{+} segue facilmente da identidade de Jacobi que [X, Y] ∈ 𝔷(𝔤_{−}) e se Y ∈ 𝔤_{−} temos [X, Y] = 0. Daí 𝔷(𝔤_{−}) é um ideal de 𝔤 contido em 𝔤_{−}. Como [𝔤_{−}, 𝔤_{−}] ⊂ 𝔤_{+} temos que toda subálgebra contida em 𝔤_{−} é abeliana, donde em particular 𝔷(𝔤_{−}) é abeliano.

Se 𝔤 é semi-simples então 𝔤 não possui ideais abelianos não nulos e portanto 𝔷(𝔤_{−}) = 0. Suponha agora que 𝔤 não é semi-simples e mostremos que 𝔷(𝔤_{−}) ≠ 0. Seja 𝔫 ⊂ 𝔤 o núcleo da forma de Killing K. Como 𝔫 é s-invariante segue que 𝔫 = (𝔫 ∩ 𝔤_{+}) ⊕ (𝔫 ∩ 𝔤_{−}). Se fosse 𝔫 ∩ 𝔤_{−} = 0 então 𝔫 seria um ideal não nulo de 𝔤 contido em 𝔤_{+}, donde 𝔫 ∩ 𝔤_{−} ≠ 0.

Aplicando o lema 3.3.4 com V = 𝔤_{−} e W = 𝔫 ∩ 𝔤_{−} vem [V, W] = 0 e logo W ⊂ 𝔷(𝔤_{−}) ≠ 0.

Uma ALIO 𝔤 é dita de tipo compacto quando a restrição de sua forma de Killing K a 𝔤_{−} for definida negativa (segue então do lema 3.3.2 que K é definida negativa em 𝔤). Diremos que 𝔤 é de tipo não-compacto quando a restrição de K a 𝔤_{−} for definida positiva. Note que em ambos os casos K é não degenerada e portanto 𝔤 é semi-simples. Uma ALIO 𝔤 é dita euclideana quando a restrição de K a 𝔤_{−} for nula. Isso equivale a dizer que 𝔤_{−} é abeliana. De fato, se K se anula em 𝔤_{−}, segue do lema 3.3.4 que [𝔤_{−}, 𝔤_{−}] = 0. Reciprocamente, se 𝔤_{−} é abeliana então na verdade 𝔤_{−} é um ideal abeliano de 𝔤 e logo K se anula em 𝔤_{−}. Note que uma ALIO euclideana 𝔤 só pode ser semi-simples se 𝔤 = 0. De fato, nesse caso 𝔤_{−} é um ideal abeliano e portanto 𝔤_{−} = 0. Daí 𝔤_{+} = 𝔤 é um ideal de 𝔤 e portanto também 𝔤_{+} = 0.

Se 𝔤 ≠ 0, as possibilidades explicadas acima são mutuamente exclusivas, porém não exaustivas. Dizemos que uma ALIO 𝔤 é irredutível quando não for euclideana e a representação adjunta de 𝔤_{+} em 𝔤_{−} for irredutível. Isso significa que se V é um subespaço de 𝔤_{−} com [𝔤_{+}, V] ⊂ V então V = 0 ou V = 𝔤_{−}. Temos então o seguinte lema.

Lema 3.3.6. Se 𝔤 é uma ALIO irredutível então 𝔤 é de tipo compacto ou de tipo nãocompacto.

Demonstração. Temos um único operador linear α em 𝔤_{−} definido por B(α(X), Y) = K(X, Y), para X, Y ∈ 𝔤_{−}. Daí α é B-simétrico e portanto possui um autovalor real c ∈ ℝ. É fácil ver que α comuta com ad_{Z} para todo Z ∈ 𝔤_{+}, donde o autoespaço V = Ker(α−c Id) satisfaz [𝔤_{+}, V] ⊂ V. Como V ≠ 0 temos V = 𝔤_{−} e logo K = cB em 𝔤_{−}. Não pode ser c = 0 pois 𝔤 não é euclideana. Se c > 0 temos que 𝔤 é de tipo não-compacto e se c < 0 temos que 𝔤 é de tipo compacto.

Corolário. Toda ALIO irredutível é semi-simples.

Demonstração. Segue diretamente do lema e dos comentário que o precedem.

O próximo lema nos diz agora que toda ALIO se escreve como soma direta de uma componente euclideana e de componentes irredutíveis.

Lema 3.3.7. Seja (𝔤, s, B) uma ALIO. Então podemos escrever 𝔤 = 𝔤^{0} ⊕ ⋯ ⊕ 𝔤^{n} como soma direta de ideais s-invariantes, de modo que (𝔤^{0}, s^{0}, B^{0}) é uma ALIO euclideana e (𝔤^{i}, s^{i}, B^{i}) é uma ALIO irredutível para i = 1, …, n, onde s^{i} é a restrição de s a 𝔤^{i} e B^{i} é a restrição de B a 𝔤_{−} ∩ 𝔤^{i}. Além do mais, 𝔤 é semi-simples se e somente se 𝔤^{0} = 0.

Demonstração. Defina um operador linear α em 𝔤_{−} como na demonstração do lema 3.3.6. Temos novamente que α é B-simétrico e portanto podemos escrever 𝔤_{−} = 𝔤_{−}^{0} ⊕ ⋯ ⊕ 𝔤_{−}^{n}, onde 𝔤_{−}^{i} é o autoespaço de α associado ao autovalor c_{i} ∈ ℝ e 𝔤_{−}^{i} é B-ortogonal a 𝔤_{−}^{j} para i ≠ j. Supomos c_{0} = 0 e fazemos 𝔤_{−}^{0} = 0 se 0 não for autovalor de α (supomos também que c_{i} ≠ 0 para i = 1, …, n). Observe que se X ∈ 𝔤_{−}^{i} e Y ∈ 𝔤_{−}^{j} com i ≠ j então:

K(X, Y) = B(α(X), Y) = c_{i}B(X, Y) = 0,

de modo que os subespaços 𝔤_{−}^{i} são também K-ortogonais.

Como na demonstração do lema 3.3.6 concluímos que [𝔤_{+}, 𝔤_{−}^{i}] ⊂ 𝔤_{−}^{i}, pois 𝔤_{−}^{i} é um autoespaço de α. A representação adjunta de 𝔤_{+} em 𝔤_{−}^{i} em geral não é irredutível, mas podemos escrever 𝔤_{−}^{i} como soma direta de subespaços irredutíveis. De fato, apenas observe que se um subespaço V ⊂ 𝔤_{−}^{i} satisfaz [𝔤_{+}, V] ⊂ V então o complemento B-ortogonal V^{⊥} de V em 𝔤_{−}^{i} também satisfaz [𝔤_{+}, V^{⊥}] ⊂ V^{⊥}. Observe que podemos supor que esses subespaços irredutíveis são B-ortogonais e como K = c_{i}B em 𝔤_{−}^{i}, vemos que os mesmos serão também K-ortogonais.

Resumindo a construção acima e renomeando os subespaços 𝔤_{−}^{i} se necessário, podemos escrever 𝔤_{−} = 𝔤_{−}^{0} ⊕ ⋯ ⊕ 𝔤_{−}^{n}, onde 𝔤_{−}^{i} e 𝔤_{−}^{j} são B-ortogonais e K-ortogonais para i ≠ j, [𝔤_{+}, 𝔤_{−}^{i}] ⊂ 𝔤_{−}^{i}, 𝔤_{−}^{0} é o núcleo de α, a restrição de α a 𝔤_{−}^{i} é um múltiplo não nulo da identidade para i ≥ 1 e a representação adjunta de 𝔤_{+} em 𝔤_{−}^{i} é irredutível para i ≥ 1. Segue do lema 3.3.4 que [𝔤_{−}^{i}, 𝔤_{−}^{j}] = 0 para i ≠ j.

Para i = 1, …, n seja 𝔤_{+}^{i} o subespaço gerado pelos colchetes [X, Y] com X, Y ∈ 𝔤_{−}^{i}. Note que 𝔤_{+}^{i} ⊂ 𝔤_{+}. Escreva 𝔤^{i} = 𝔤_{+}^{i} ⊕𝔤_{−}^{i} ⊂ 𝔤. Mostraremos que 𝔤^{i} é um ideal de 𝔤. Temos [𝔤_{+}, 𝔤_{−}^{i}] ⊂ 𝔤_{−}^{i} e [𝔤_{−}, 𝔤_{−}^{i}] = [𝔤_{−}^{i}, 𝔤_{−}^{i}] ⊂ 𝔤_{+}^{i}. Segue da identidade de Jacobi que [𝔤_{+}, 𝔤_{+}^{i}] ⊂ 𝔤_{+}^{i} e que [𝔤_{−}, 𝔤_{+}^{i}] ⊂ 𝔤_{−}^{i}, se observarmos que [𝔤_{−}, 𝔤_{−}^{i}] ⊂ 𝔤_{+}.

Mostramos então que 𝔤^{i} é um ideal de 𝔤 e é claro que s(𝔤^{i}) = 𝔤^{i}, donde podemos considerar a restrição s^{i} de s a 𝔤^{i}, a qual é obviamente um automorfismo involutivo da álgebra de Lie (real) 𝔤^{i}. Temos que 𝔤^{i} = 𝔤_{+}^{i} ⊕ 𝔤_{−}^{i} é a decomposição de 𝔤^{i} em autoespaços de s^{i}. Denotando por B^{i} a restrição de B a 𝔤_{−}^{i}, é claro que B^{i} é um produto interno invariante pela representação adjunta de 𝔤_{+}^{i} em 𝔤_{−}^{i}.

Sejam X, Y ∈ 𝔤_{−}^{i} e Z ∈ 𝔤_{+}^{j} com i, j = 1, …, n, i ≠ j. Segue da identidade de Jacobi que [𝔤_{−}^{i}, 𝔤_{+}^{j}] = 0. Temos então:

K([X, Y], Z) = K(Y, [Z, X]) = 0.

Segue que 𝔤_{+}^{i} e 𝔤_{+}^{j} são K-ortogonais. Pelo lema 3.3.2, K é definida negativa em 𝔤_{+}, donde a soma 𝔤_{+}^{1} ⊕ ⋯ ⊕ 𝔤_{+}^{n} é direta. Segue finalmente que a soma 𝔤′ = 𝔤^{1} ⊕ ⋯ ⊕ 𝔤^{n} é direta. Note que K é não degenerada em 𝔤′. De fato, os espaços 𝔤_{+}^{i} e 𝔤_{−}^{j} são todos K-ortogonais entre si, sendo que K é definida negativa em 𝔤_{+}^{i} e definida positiva ou negativa em 𝔤_{−}^{j} (recorde que K é um múltiplo não nulo de B em 𝔤_{−}^{j}). Denotando por 𝔤^{0} o complemento K-ortogonal de 𝔤′ em 𝔤, segue então do lema 3.1.1 que 𝔤 = 𝔤^{0} ⊕ 𝔤′.

Como 𝔤′ é um ideal s-invariante, segue que 𝔤^{0} também o é. É fácil ver que 𝔤_{−} ∩ 𝔤^{0} coincide com o espaço 𝔤_{−}^{0} definido anteriormente e podemos agora definir 𝔤_{+}^{0} = 𝔤_{+} ∩ 𝔤^{0}. Daí a restrição s^{0} de s a 𝔤^{0} é um automorfismo involutivo da álgebra de Lie (real) 𝔤^{0}, 𝔤^{0} = 𝔤_{+}^{0} ⊕ 𝔤_{−}^{0} é a decomposição em autoespaços de s^{0} e a restrição B^{0} de B a 𝔤_{−}^{0} é um produto interno invariante pela representação adjunta de 𝔤_{+}^{0}.

É fácil ver agora que se 𝔫 é um ideal de 𝔤^{i} então 𝔫 também é um ideal de 𝔤, pois [𝔤^{j}, 𝔫] = 0 para j ≠ i. Segue que 𝔤_{+}^{i} não contém ideais não nulos de 𝔤^{i} e portanto as trincas (g^{i}, s^{i}, B^{i}) são de fato ALIOs. Para i ≥ 1, sabemos que a representação adjunta de 𝔤_{+} em 𝔤_{−}^{i} é irredutível, mas segue facilmente agora que sua restrição a 𝔤_{+}^{i} também o é. Sabemos que K se anula em 𝔤_{−}^{0} e não se anula em 𝔤_{−}^{i} para i ≥ 1 e (como a forma de Killing de um ideal é simplesmente a restrição da forma de Killing de 𝔤), segue de fato que 𝔤^{0} é uma ALIO euclideana e 𝔤^{i} é uma ALIO irredutível para i ≥ 1.

Finalmente, se 𝔤 é semi-simples então o ideal abeliano 𝔤_{−}^{0} deve ser nulo, donde 𝔤^{0} = 0. Se 𝔤^{0} = 0 então todos os ideais 𝔤^{i} são semi-simples, donde 𝔤 o é.

Queremos agora relacionar a teoria de ALIOs semi-simples com a teoria de estrutura de álgebras de Lie complexas semi-simples. Como já foi observado antes, uma álgebra de Lie real 𝔤 é semi-simples se e somente se sua complexificação 𝔤^{c} o for. Temos o seguinte lema.

Lema 3.3.8. Seja (𝔤, s, B) uma ALIO com 𝔤 semi-simples. Sejam 𝔞 uma subálgebra abeliana maximal de 𝔤_{−} (i.e., 𝔞 ⊂ 𝔤_{−} é abeliana e não está propriamente contida em nenhuma subálgebra abeliana de 𝔤_{−}), 𝔨 = 𝔷_{𝔤_{+}}(𝔞) o centralizador de 𝔞 em 𝔤_{+} e 𝔱 uma subálgebra abeliana maximal de 𝔨. Definindo 𝔥 = 𝔱 ⊕ 𝔞 temos que 𝔥^{c} é uma subálgebra de Cartan da álgebra de Lie complexa semi-simples 𝔤^{c}.

Demonstração. Temos que 𝔱 e 𝔞 são abelianas e 𝔱 ⊂ 𝔨 com [𝔨, 𝔞] = 0. Segue que 𝔥 é abeliana. Mostremos que 𝔥 é abeliana maximal em 𝔤. Basta mostrar que 𝔷(𝔥) ⊂ 𝔥. Como 𝔥 é s-invariante, segue que 𝔷(𝔥) também o é, donde:

𝔷(𝔥) = (𝔷(𝔥) ∩ 𝔤_{+}) ⊕ (𝔷(𝔥) ∩ 𝔤_{−}).

Mas 𝔷(𝔥) ∩ 𝔤_{+} centraliza 𝔞, donde está contido em 𝔨. Como 𝔷(𝔥) ∩ 𝔤_{+} também centraliza 𝔱, vemos que o mesmo está contido em 𝔱. Também 𝔷(𝔥) ∩ 𝔤_{−} centraliza 𝔞, donde está contido em 𝔞.

Vemos então que 𝔥 é abeliana maximal em 𝔤 e segue facilmente então que 𝔥^{c} é abeliana maximal em 𝔤^{c}. Resta mostrar que ad_{X} é diagonalizável em 𝔤^{c} para X ∈ 𝔥^{c}. Usaremos o corolário do lema 3.1.3.

Defina um produto interno em 𝔤 declarando que 𝔤_{+} e 𝔤_{−} sejam ortogonais, que sua restrição a 𝔤_{+} seja −K e que sua restrição a 𝔤_{−} seja B (segue do lema 3.3.2 que temos de fato um produto interno). Daí ad_{X} é antisimétrico em 𝔤 para X ∈ 𝔤_{+} (e em particular para X ∈ 𝔱). Esse produto interno se estende a um produto hermiteano de 𝔤^{c} no qual ad_{X} será anti-hermiteano e portanto diagonalizável (a saber, com autovalores imaginários puros).

Se 𝔤 é de tipo compacto temos que −K é um produto interno em 𝔤 invariante pela sua própria representação adjunta. Daí ad_{X} é antisimétrico para todo X ∈ 𝔤 (e em particular para X ∈ 𝔞) donde fazendo as extensões a 𝔤^{c} concluímos novamente que ad_{X} é diagonalizável (com autovalores imaginários puros). Se 𝔤 é de tipo não-compacto, é fácil ver que a expressão:

⟨X, Y ⟩ = −K(X, s(Y)), X, Y ∈ 𝔤,

define um produto interno em 𝔤 que torna ad_{X} simétrica para X ∈ 𝔤_{−} (e em particular para X ∈ 𝔞), donde ad_{X} é diagonalizável em 𝔤 e portanto também em 𝔤^{c} (com autovalores reais).

Em geral, usamos o lema 3.3.7 para escrever 𝔤 = 𝔤^{1} ⊕ ⋯ ⊕ 𝔤^{n} como soma direta de ideais onde cada (𝔤^{i}, s^{i}, B^{i}) é uma ALIO irredutível e portanto de tipo compacto ou não-compacto, pelo lema 3.3.6. Seja π^{i}: 𝔤 → 𝔤^{i} a projeção. Escrevendo 𝔞^{i} = π^{i}(𝔞), temos que 𝔞^{1} ⊕ ⋯ ⊕ 𝔞^{n} é uma subálgebra abeliana de 𝔤_{−} que contém 𝔞, donde deve coincidir com 𝔞. Observe então que 𝔞^{i} = 𝔤^{i} ∩ 𝔞. Temos então 𝔤^{c} = (𝔤^{1})^{c} ⊕ ⋯ ⊕ (𝔤^{n})^{c} e se X ∈ 𝔞^{i}, mostramos como antes que ad_{X} é diagonalizável em (𝔤^{i})^{c} e como ad_{X} se anula em (𝔤^{j})^{c} para j ≠ i, segue que ad_{X} é diagonalizável em 𝔤^{c}. Como 𝔱 ∪ 𝔞^{1} ∪ … ∪ 𝔞^{n} gera 𝔥^{c} (sobre ℂ), o resultado segue do corolário do lema 3.1.3.

A partir de agora trabalharemos sempre com a notação e as hipóteses do lema 3.3.8. Podemos agora considerar a decomposição de Cartan de 𝔤^{c}:

𝔤^{c} = 𝔥^{c} ⊕ ⨁_{α∈Δ} 𝔤_{α}^{c} = 𝔱^{c} ⊕ 𝔞^{c} ⊕ ⨁_{α∈Δ} 𝔤_{α}^{c}.

A demonstração acima nos diz as imagens de α_{|𝔱} e α_{|𝔞} para α ∈ Δ.

Corolário (da demonstração). Nas condições do lema, seja Δ o conjunto das raízes da álgebra de Lie complexa semi-simples 𝔤^{c} em relação à subálgebra de Cartan 𝔥^{c}. Se α ∈ Δ então α(𝔱) ⊂ iℝ e α(𝔞) ⊂ ℝ ou α(𝔞) ⊂ iℝ.

Demonstração. Se H ∈ 𝔥^{c} então α(H) é um autovalor de ad_{H} (qualquer elemento não nulo de 𝔤_{α}^{c} é um autovetor). Segue da demonstração do lema que α(𝔱) ⊂ iℝ e α(𝔞^{j}) ⊂ iℝ (quando 𝔤^{j} é de tipo compacto) ou α(𝔞^{j}) ⊂ ℝ (quando 𝔤^{j} é de tipo não-compacto), para j = 1, 2, …, n.

Escrevendo 𝔥^{j} = π^{j}(𝔥) então 𝔥^{1}⊕⋯⊕𝔥^{n} é uma subálgebra abeliana de 𝔤 que contém 𝔥 e portanto coincide com 𝔥. Observe então que 𝔥^{j} = 𝔤^{j} ∩𝔥. A demonstração ficará completa quando mostrarmos que existe exatamente um índice j = 1, 2, …, n com α_{|𝔥^{j}} ≠ 0.

Como α ≠ 0, existe um índice j com α_{|𝔥^{j}} ≠ 0. Mostremos que 𝔤_{α}^{c} ⊂ (𝔤^{j})^{c}. De fato, se X ∈ 𝔤_{α}^{c} escolhemos H ∈ 𝔥^{j} com α(H) ≠ 0. Daí [H, X] = α(H)X pertence a (𝔤^{j})^{c} (pois (𝔤^{j})^{c} é um ideal de 𝔤^{c}) e logo X ∈ (𝔤^{j})^{c}.

Concluímos que 𝔤_{α}^{c} ⊂ (𝔤^{j})^{c} e portanto α(H) = 0 para H ∈ 𝔥^{k}, k ≠ j.

Observe que o automorfismo s de 𝔤 se estende a um automorfismo involutivo (ℂ-linear) s^{c} de 𝔤^{c} com autoespaços 𝔤_{+}^{c} e 𝔤_{−}^{c}. Por simplicidade, continuaremos escrevendo s em vez de s^{c}. Também escreveremos apenas K para a forma de Killing K^{c} de 𝔤^{c}. Para X ∈ 𝔤^{c} denotamos por X̄ o seu conjugado em relação à forma real 𝔤. Denotaremos por 𝔥_{ℝ} a forma real de 𝔥^{c} gerada pelos vetores H_{α} com α ∈ Δ. Note que as formas reais 𝔥 e 𝔥_{ℝ} de 𝔥^{c} não coincidem (por exemplo, as raízes de 𝔤^{c} assumem valores reais em 𝔥_{ℝ}, mas assumem valores imaginários puros em 𝔱 ⊂ 𝔥). A conjugação será sempre feita em relação à forma real 𝔥, a menos de menção explícita em contrário.

Recorde que para α ∈ 𝔥^{c}^{∗} definimos ᾱ ∈ 𝔥^{c}^{∗} fazendo ᾱ(H) = \overline{α(H̄)}, para H ∈ 𝔥^{c}. Note também que como 𝔥^{c} é s-invariante podemos considerar α ∘ s ∈ 𝔥^{c}^{∗}. Para H ∈ 𝔥^{c} e X ∈ 𝔤_{α}^{c} temos as identidades:

[H, s(X)] = s[s(H), X] = α(s(H))s(X) e [H, X̄] = \overline{[H̄, X]} = ᾱ(H)X̄,

que mostram que s(𝔤_{α}^{c}) ⊂ 𝔤_{α∘s}^{c} e \overline{𝔤_{α}^{c}} ⊂ 𝔤c ; ᾱ. Aplicando essas inclusões para α ∘ s e ᾱ no lugar de α, respectivamente, obtemos as inclusões opostas e portanto as igualdades. Temos então que α ∈ Δ implica ᾱ ∈ Δ, α ∘ s ∈ Δ e:

s(𝔤_{α}^{c}) = 𝔤_{α∘s}^{c} e \overline{𝔤_{α}^{c}} = 𝔤c ; ᾱ.  (3.3.1)

Observe agora que para α ∈ (𝔥^{c})^{∗} temos um vetor H_{α} ∈ 𝔥^{c} correspondente pelo isomorfismo H ↦ K(H, ·). Daí para H ∈ 𝔥^{c} temos:

K(s(H_{α}), H) = K(H_{α}, s(H)) = α(s(H)) e K(H̄_{α}, H) = \overline{K(H_{α}, H̄)} = ᾱ(H),

donde segue que:

s(H_{α}) = H_{α∘s} e H̄_{α} = Hᾱ.  (3.3.2)

Note que 𝔥^{c} = 𝔱^{c} ⊕ 𝔞^{c}, donde para α ∈ (𝔥^{c})^{∗} o vetor H_{α} se decompõe de modo único como H_{α} = T_{α} + A_{α}, onde T_{α} ∈ 𝔱^{c} e A_{α} ∈ 𝔞^{c}. Segue de (3.3.2) que a forma real 𝔥_{ℝ} é s-invariante, donde:

𝔥_{ℝ} = (𝔥_{ℝ} ∩ 𝔤_{+}^{c}) ⊕ (𝔥_{ℝ} ∩ 𝔤_{−}^{c}).  (3.3.3)

Observação 3.3.3. Segue de (3.3.3) que para α ∈ Δ temos T_{α}, A_{α} ∈ 𝔥_{ℝ}. Em particular, como K é definida positiva em 𝔥_{ℝ} segue que para α ∈ Δ temos K(A_{α}, A_{α}) ≥ 0 (respectivamente, K(T_{α}, T_{α}) ≥ 0), valendo a igualdade se e somente se A_{α} = 0 (respectivamente, T_{α} = 0).

Temos o seguinte lema descrevendo 𝔨 em termos da decomposição de Cartan.

Lema 3.3.9. Sob a notação e as hipóteses do lema 3.3.8 temos:

𝔨^{c} = 𝔱^{c} ⊕ ⨁_{{α∈Δ \atop α_{|𝔞}=0}} 𝔤_{α}^{c}.

Demonstração. Seja α ∈ Δ com α_{|𝔞} = 0. Mostremos que 𝔤_{α}^{c} ⊂ 𝔤_{+}^{c}. De fato, se α_{|𝔞} = 0 então α ∘ s = α donde 𝔤_{α}^{c} é s-invariante, por (3.3.1). Basta mostrar então que 𝔤_{α}^{c} ∩ 𝔤_{−}^{c} = 0. Mas 𝔤_{α}^{c} está contido no centralizador de 𝔞 donde sua interseção com 𝔤_{−}^{c} está contida em 𝔞^{c}. Mas 𝔞^{c} ⊂ 𝔥^{c} e 𝔥^{c} ∩ 𝔤_{α}^{c} = 0.

Como 𝔞 ⊂ 𝔥^{c}, segue de (3.2.1) que o centralizador de 𝔞 em 𝔤^{c} é dado por:

𝔷(𝔞) = 𝔥^{c} ⊕ ⨁_{{α∈Δ \atop α_{|𝔞}=0}} 𝔤_{α}^{c} = 𝔱^{c} ⊕ 𝔞^{c} ⊕ ⨁_{{α∈Δ \atop α_{|𝔞}=0}} 𝔤_{α}^{c},

onde o primeiro e o terceiro termos estão contidos em 𝔤_{+}^{c} e o segundo está contido em 𝔤_{−}^{c}. Segue que o primeiro e o terceiro termos formam o centralizador de 𝔞 em 𝔤_{+}^{c}, ou seja, 𝔨^{c}.

4. O teorema fundamental de regularidade de curvas minimizantes.

O objetivo desta seção é o de descrever uma classe de variedades sub-Riemannianas homogêneas (mais precisamente, com distribuição homogênea e métrica arbitrária) nas quais conseguimos demonstrar que toda curva minimizante pca (parametrizada por comprimento de arco) é diferenciável (i.e., de classe C^{∞}). Esse objetivo será atingido no teorema 4.4.

Começamos recordando alguns fatos básicos sobre distribuições involutivas, relacionados ao teorema de Frobenius, que serão necessários na demonstração do teorema fundamental. As demonstrações podem ser encontradas em [Wn].

Sejam M uma variedade e D uma distribuição em M. Dizemos que D é involutiva quando o colchete de Lie de dois campos vetoriais a valores em D também toma valores em D. Uma subvariedade integral de D é uma subvariedade imersa N ⊂ M (i.e., N ⊂ M é uma variedade tal que a inclusão é uma imersão, mas que não necessariamente possui a topologia induzida de M) tal que T_{n}N = D_{n} para todo n ∈ N. Dizemos que D é integrável se para todo m ∈ M existe uma subvariedade integral N de D com m ∈ N (na verdade, trocando N por um aberto de N, se necessário, podemos supor sempre que N é mergulhada, i.e., possui a topologia induzida de M).

O teorema de Frobenius nos diz que D é involutiva se e somente se D é integrável, donde usaremos os dois termos indistintamente.

Seja D uma distribuição integrável na variedade M e seja N ⊂ M uma subvariedade (imersa) integral de D. Temos que uma função a valores em M com imagem contida em N tem sua regularidade preservada quando seu contra-domínio é considerado em N (isso é um fato geral para subvariedades mergulhadas, mas não para subvariedades imersas quaisquer). Mais precisamente, se f: P → M é uma função de classe C^{k} (onde P é uma outra variedade qualquer) com f(P) ⊂ N então f: P → N também é de classe C^{k}. Também é verdade que se γ: [a, b] → M é uma curva absolutamente contínua com γ([a, b]) ⊂ N então γ: [a, b] → N também o é. Segue em particular que se P ⊂ M é uma outra subvariedade integral de D com P ⊂ N então P é um aberto de N (pois a inclusão de P em N é diferenciável e daí segue do teorema da função inversa que a mesma é um difeomorfismo sobre um aberto).

Seja novamente D uma distribuição integrável em M e considere o conjunto das subvariedades integrais conexas de D ordenado por inclusão (dizemos que uma subvariedade imersa N ⊂ M é conexa quando o for na sua própria topologia. Como a inclusão em M é contínua, seguirá também que N é conexa na topologia induzida de M). Os elementos maximais desse conjunto serão chamados subvariedades integrais maximais de D. O teorema de Frobenius nos diz também que para todo m ∈ M existe uma única subvariedade integral maximal N de D com m ∈ N (essa, em muitos exemplos, não é mergulhada). Vale que se f: P → N é uma função de classe C^{1} (onde P é uma variedade conexa) tal que df_{p}(T_{p}P) ⊂ D_{f(p)} para todo p ∈ P e tal que f(P) ∩ N ≠ ϕ então f(P) ⊂ N. Vale também que se γ: [a, b] → M é uma curva absolutamente contínua com γ̇(t) ∈ D_{γ(t)} para quase todo t ∈ [a, b] e γ([a, b]) ∩ N ≠ ϕ então γ([a, b]) ⊂ N. Temos o seguinte lema.

Lema 4.1. Seja D uma distribuição numa variedade M. Se escrevermos M como uma reunião disjunta M = ⋃_{λ∈L} M_{λ} de subvariedades integrais conexas de D então (D é integrável e) M_{λ} é uma subvariedade integral maximal de D para todo λ ∈ L.

Demonstração. Sabemos que D é integrável pois possui uma subvariedade integral passando por cada ponto de M. Seja λ ∈ L e seja m ∈ M_{λ}. Sabemos que existe uma subvariedade integral maximal N de D com m ∈ N. Daí para cada μ ∈ L temos M_{μ} ⊂ N ou M_{μ} ∩ N = ϕ, pois M_{μ} é conexa. Escrevemos então a variedade conexa N como reunião disjunta dos abertos não vazios M_{μ} ⊂ N com μ percorrendo um subconjunto de L que contém λ. Como N é conexa segue que essa reunião possui um único termo, ou seja, N = M_{λ}.

A partir de agora retomamos as notações da seção 2 a respeito de quocientes G/K de um grupo de Lie por um subgrupo fechado. Recorde que se temos uma ação G × M → M de um grupo de Lie G numa variedade M então a órbita G(m) = { g · m : g ∈ G } de um ponto m ∈ M é uma subvariedade imersa de M. De fato, se K é o subgrupo (fechado) de isotropia de m então a aplicação f: G → M dada por f(g) = g · m passa ao quociente e define uma imersão injetora de G/K em M cuja imagem é G(m). Em particular, para g ∈ G o espaço tangente a G(m) no ponto g · m é a imagem de df_{g}.

Corolário. Seja G um grupo de Lie e K ⊂ G um subgrupo fechado. Seja G′ ⊂ G um subgrupo de Lie conexo cuja álgebra de Lie 𝔤′ é invariante pela representação adjunta Ad_{|K} de K em 𝔤. Seja D a distribuição G-invariante em G/K tal que D_{1K} = π̄(𝔤′). Então D é integrável e para todo g ∈ G temos que π(gG′) é uma subvariedade integral maximal de D.

Demonstração. Em primeiro lugar, temos que π̄(𝔤′) é invariante pela representação \overline{Ad} de K em 𝔤/𝔨, donde a distribuição D realmente é bem definida. Temos que π(G′) é uma subvariedade imersa de G/K, pois é a órbita do ponto 1K pela ação de G′ em G/K por translação à esquerda. Pela observação que precede o corolário, vemos que o espaço tangente a π(G′) no ponto 1K é a imagem de d(π_{|G′})_{1}, ou seja, π̄(𝔤′) = D_{1K}. Para g ∈ G′ temos que o difeomorfismo l̄_{g} de G/K preserva D e π(G′), donde o espaço tangente a π(G′) no ponto gK coincide com D_{gK}, i.e., π(G′) é uma subvariedade integral de D. Agora, para todo g ∈ G o difeomorfismo l̄_{g} de G/K preserva D donde l̄_{g}(π(G′)) = π(gG′) é uma subvariedade integral de D também. Como G′ é conexo segue que π(gG′) também o é.

Para aplicarmos o lema, resta ver que para g, h ∈ G temos π(gG′) ∩ π(hG′) = ϕ ou π(gG′) = π(hG′). Observe que para k ∈ K temos Ad_{k}(𝔤′) = 𝔤′ e como G′ é conexo segue I_{k}(G′) = kG′k^{−1} = G′. Se π(gG′) ∩ π(hG′) ≠ ϕ então existem g′_{1}, g′_{2} ∈ G′, k ∈ K com gg′_{1} = hg′_{2}k, donde:

g = hg′_{2}kg′_{1}^{−1} = hg′k,

com g′ = g′_{2}kg′_{1}^{−1}k^{−1} ∈ G′. Daí:

π(gG′) = π(hg′kG′) = π(hg′G′k) = π(hG′),

pois kG′ = G′k. Observação 4.1. Se K é conexo então a invariância de 𝔤′ por Ad_{|K} é equivalente à invariância de 𝔤′ por ad_{|𝔨}, i.e., equivalente a [𝔨, 𝔤′] ⊂ 𝔤′.

Seja M uma variedade sub-Riemanniana. Diremos que M possui a propriedade dos minimizantes regulares (pmr) quando toda curva minimizante pca (parametrizada por comprimento de arco) em M for diferenciável (i.e., de classe C^{∞}).

O corolário do lema 1.4 nos diz que quando D é fortemente geradora por colchetes (em particular, se D é de contato) então M possui pmr. O teorema 1.5 nos fornece ainda mais exemplos de variedades sub-Riemannianas que possuem pmr (note que todas as variedades com distribuição homogênea de codimensão 1 possuem pmr, pelo teorema 1.5). O teorema principal da seção (teorema 4.4) nos fornece ainda mais uma família de exemplos. Precisamos de mais alguns lemas preparatórios.

Lema 4.2. Seja M uma variedade sub-Riemanniana e seja U ⊂ M um aberto. Dado p ∈ U existe um número r > 0 tal que toda curva horizontal γ: [a, b] → M com γ(a) = p e L(γ) < r satisfaz γ([a, b]) ⊂ U.

Demonstração. Comparamos a métrica sub-Riemanniana g com a métrica euclideana num sistema de coordenadas em torno de p. Seja φ: V → Ṽ um sistema de coordenadas em M com p ∈ V ⊂ U. Seja B ⊂ V a imagem inversa por φ de uma bola fechada B[φ(p); s] ⊂ Ṽ, para algum s > 0. Para v ∈ T_{m}M com m ∈ V denote por ∥v∥_{e} a norma euclideana do vetor dφ_{m}(v). O conjunto dos vetores v ∈ D, tangentes em pontos do compacto B e tais que ∥v∥_{e} = 1, formam um subconjunto compacto de D no qual a função contínua v ↦ g(v, v)^{1/2} = ∥v∥ assume um mínimo k > 0. Observe que para todo v ∈ D, tangente num ponto de B, temos ∥v∥ ≥ k∥v∥_{e}.

Tome r = ks > 0. Se γ: [a, b] → M é uma curva horizontal com γ(a) = p e γ([a, b]) ⊄ U então existe c ∈ (a, b) com γ([a, c]) ⊂ B e γ(c) ∈ ∂B (tome c como sendo o mínimo do conjunto fechado γ^{−1}(∂B) ≠ ϕ). Daí:

L(γ) ≥ L(γ_{|[a,c]}) ≥ kL_{e}(φ ∘ γ_{|[a,c]}) ≥ ks = r,

onde L_{e} denota o comprimento euclideano de uma curva.

Observamos que se M é uma variedade sub-Riemanniana então todo aberto U ⊂ M possui uma estrutura sub-Riemanniana natural, restringindo D e g.

Corolário 1. Seja M uma variedade sub-Riemanniana. Se M possui pmr então todo aberto de M possui pmr e se M puder ser escrita como reunião de abertos que possuem pmr então M possui pmr (i.e., pmr é uma propriedade local).

Demonstração. Suponha que M possui pmr e seja U ⊂ M um aberto. Seja γ: [a, b] → U uma curva minimizante (em U) pca. Seja t_{0} ∈ [a, b]. Mostremos que γ é diferenciável numa vizinhança de t_{0}. Seja p = γ(t_{0}) ∈ U e seja r > 0 como no lema.

A continuidade da aplicação t ↦ ∫_{t_{0}}^{t} ∥γ̇(s)∥ds nos mostra que existe um intervalo fechado I ⊂ [a, b] que contém t_{0} no seu interior (relativo a [a, b]) tal que L(γ_{|I}) < r/2. Daí γ_{|I} é minimizante (pca) em M. De fato, uma curva mais curta que γ_{|I} (ligando suas extremidades) estaria contida em U e nos permitiria encurtar γ em U. Como M possui pmr o resultado segue.

Reciprocamente, se escrevermos M = ⋃_{λ∈L} U_{λ} onde cada aberto U_{λ} ⊂ M possui pmr então dada uma curva minimizante pca γ: [a, b] → M escolhemos t_{0} ∈ [a, b] e restringimos γ a um intervalo I contendo t_{0} no seu interior (relativo a [a, b]) de modo que γ(I) ⊂ U_{λ} para algum λ ∈ L. É claro que γ_{|I} é minimizante pca em U_{λ} e portanto é diferenciável.

É claro que se M e N são isométricas então M possui pmr se e somente se N possui pmr. Na verdade temos o seguinte.

Corolário 2. Seja f: M → N uma isometria local entre variedades sub-Riemannianas M e N. Se N possui pmr então M também possui pmr e se f é sobrejetora vale a recíproca, i.e., se M possui pmr então N também possui pmr.

Demonstração. Se N possui pmr então todo aberto de N também possui pmr e M pode ser coberta por abertos isométricos a abertos de N. Se f é sobrejetora e M possui pmr então (todo aberto de M possui pmr e) N pode ser coberta por abertos isométricos a abertos de M. O resultado segue do corolário 1.

Lema 4.3. Sejam (M, D, g) uma variedade sub-Riemanniana e f: N → M uma imersão de uma variedade N. Para cada n ∈ N, seja D′_{n} a imagem inversa de D_{f(n)} pela aplicação linear df_{n}. Suponha que a dimensão de D′_{n} não depende de n ∈ N. Defina um produto interno g′_{n} em D′_{n} fazendo g′_{n}(v, w) = g_{f(n)}(df_{n}(v), df_{n}(w)). Então (N, D′, g′) é uma variedade sub-Riemanniana (i.e., D′ e g′ são diferenciáveis).

Demonstração. Seja n ∈ N e seja θ^{1}, …, θ^{n−k} um referencial de D^{0} numa vizinhança aberta U de f(n) em M. Daí as 1-formas f^{∗}θ^{1}, …, f^{∗}θ^{n−k} em f^{−1}(U) ⊂ N geram o anulador de D′ em cada ponto. Segue da observação 1.5 que D′ é uma distribuição em N.

Agora, se X^{1}, …, X^{c} é um referencial de D′ então as funções g′(X^{i}, X^{j}) são dadas por g(df ∘ X^{i}, df ∘ X^{j}) e portanto são diferenciáveis, donde g′ é diferenciável.

Corolário. Sejam (M, D, g) uma variedade sub-Riemanniana e N ⊂ M uma subvariedade imersa. Suponha que a dimensão de D′_{n} = D_{n} ∩ T_{n}N não depende de n ∈ N. Defina um produto interno g′_{n} em D′_{n} por restrição de g_{n}. Então (N, D′, g′) é uma variedade sub-Riemanniana. Além do mais, se uma curva minimizante pca γ: [a, b] → M tem imagem em N e é absolutamente contínua em N então γ também é minimizante pca em N. Em particular, se N possui pmr então γ é diferenciável.

Demonstração. Se tomarmos f como sendo a inclusão de N em M, no lema, concluímos que (N, D′, g′) é uma variedade sub-Riemanniana. Observe agora que toda curva horizontal em N é também horizontal em M e que seu comprimento relativo a N e a M é o mesmo. Segue facilmente daí que γ é minimizante pca em N. Observação 4.2. Como já foi observado, se N é apenas uma subvariedade imersa de M então γ: [a, b] → M absolutamente contínua e γ([a, b]) ⊂ N em geral não implica γ: [a, b] → N absolutamente contínua. Por isso supusemos no corolário que γ fosse absolutamente contínua em N, explicitamente. Por outro lado, se N for uma subvariedade integral de alguma distribuição integrável então, como já foi observado, basta supor que γ seja absolutamente contínua em M.

Teorema 4.4. Seja M uma variedade sub-Riemanniana e seja dada uma ação transitiva de um grupo de Lie G em M de modo que a distribuição D seja G-invariante. Suponha que a álgebra de Lie 𝔤 de G seja semi-simples e admita uma estrutura de ALIO (𝔤, s, B). Defina 𝔞 e 𝔨 como no enunciado do lema 3.3.8. Suponha que tenhamos um ponto x_{0} ∈ M cujo grupo de isotropia K possui 𝔨 como álgebra de Lie. Seja 𝔡 o complemento K-ortogonal de 𝔨 ⊕ 𝔞 em 𝔤, onde K denota a forma de Killing de 𝔤. Suponha que a diferencial da aplicação g ∈ G ↦ g · x_{0} ∈ M no ponto 1 ∈ G leve 𝔡 sobre D_{x_{0}}. Então M possui pmr.

Demonstração. A demonstração será feita por indução na dimensão do grupo de Lie G. A base é trivial, pode ser feita com dim G = 0. Fixamos então M e G como no enunciado do teorema e supomos o teorema válido para variedades onde o grupo de Lie que aparece no enunciado pode ser escolhido com dimensão menor que a de G.

Podemos identificar M com G/K através do difeomorfismo gK ↦ g · x_{0} e obtemos uma única estrutura sub-Riemanniana em G/K que o torna uma isometria. Consideramos então G/K com uma distribuição G-invariante D tal que D_{1K} = π̄(𝔡) e com uma métrica arbitrária (que foi induzida de M). Se K^{0} é a componente conexa de 1 em K então temos um difeomorfismo local sobrejetor f: G/K^{0} → G/K dado por f(gK^{0}) = gK. Definimos uma estrutura sub-Riemanniana em G/K^{0} que torna f uma isometria local. Pelo corolário 2 do lema 4.2, basta mostrar que G/K^{0} possui pmr.

Suporemos então que K é conexo e que temos uma distribuição G-invariante D em G/K com D_{1K} = π̄(𝔡), com uma métrica arbitrária e demonstraremos que G/K possui pmr.

Seja γ: [a, b] → G/K uma curva minimizante pca. Basta mostrar que γ é diferenciável numa vizinhança de cada t ∈ [a, b]. Como toda restrição de γ é minimizante pca, podemos supor sem perda de generalidade que existe uma seção local s: U ⊂ G/K → G tal que γ([a, b]) ⊂ U. Pelo teorema 1.1 temos que γ é um extremal normal ou anormal. Se γ é um extremal normal então γ é diferenciável. Suponha então que γ é um extremal anormal. Seja 𝔪 o complemento K-ortogonal de 𝔨 em 𝔤 (segue dos lemas 3.3.2 e 3.1.1 que 𝔤 = 𝔨⊕𝔪). Note que 𝔡 ⊂ 𝔪. Identificamos a partir de agora 𝔪 com 𝔤/𝔨 através de π̄ e daí D_{1K} fica identificada com 𝔡.

Como no corolário do teorema 2.1 definimos μ e μ̂. Sabemos então que μ(t) ∈ 𝔡 para quase todo t ∈ [a, b] e que existe uma curva absolutamente contínua que nunca se anula λ: [a, b] → 𝔡^{0} ⊂ 𝔪^{∗} tal que:

λ̇(t) = (π_{𝔪} ∘ ad_{μ̂(t)} ∘i_{𝔪})^{∗}λ(t),

para quase todo t ∈ [a, b]. Recorde também que (vide observação 2.5):

μ(t) = s(γ(t))^{−1}γ̇(t).  (4.4.1)

Observe que 𝔡 é simplesmente o complemento K-ortogonal de 𝔞 em 𝔪. Temos que a forma de Killing K é não degenerada em 𝔞 (pois segue do lema 3.3.8 que K é não degenerada em 𝔥^{c} e portanto não degenerada em 𝔥. Basta observar então que a decomposição 𝔥 = 𝔱⊕𝔞 é K-ortogonal). Concluímos então do lema 3.1.1 que 𝔪 = 𝔡 ⊕ 𝔞.

Temos que a forma de Killing K é não degenerada em 𝔪 (pois K é não degenerada em 𝔤 e a decomposição 𝔤 = 𝔨⊕𝔪 é K-ortogonal), donde obtemos um isomorfismo X ↦ K(X, ·) entre 𝔪 e 𝔪^{∗}. Identificamos então 𝔪 com 𝔪^{∗} e 𝔡^{0} ⊂ 𝔪^{∗} com 𝔞 ⊂ 𝔪. Observando que para X ∈ 𝔤 o operador linear π_{𝔪} ∘ ad_{X} ∘i_{𝔪} em 𝔪 é K-antisimétrico vem:

λ̇(t) = −π_{𝔪}([μ̂(t), λ(t)]),  (4.4.2)

para quase todo t ∈ [a, b]. Como μ = π_{𝔪} ∘μ̂ segue que μ(t) e μ̂(t) diferem por um elemento de 𝔨. Como λ(t) ∈ 𝔞 e [𝔨, 𝔞] = 0 podemos trocar μ̂(t) por μ(t) em (4.4.2). Note também que [𝔞, 𝔡] ⊂ 𝔡, pois [𝔞, 𝔨 + 𝔞] = 0 e 𝔡 é o complemento K-ortogonal de 𝔨 + 𝔞. Como 𝔡 ⊂ 𝔪 podemos desconsiderar a projeção π_{𝔪} em (4.4.2) e obtemos:

λ̇(t) = −[μ(t), λ(t)],  (4.4.3)

para quase todo t ∈ [a, b].

O lado esquerdo em (4.4.3) pertence a 𝔞 e o lado direito pertence a 𝔡. Concluímos então que λ̇ = 0 quase sempre, i.e., λ é um vetor constante não nulo em 𝔞 e μ(t) pertence ao centralizador de λ quase sempre.

Seja Δ o conjunto das raízes da álgebra de Lie complexa semi-simples 𝔤^{c} em relação à subálgebra de Cartan 𝔥^{c} (vide lema 3.3.8). Seja Δ′ o conjunto das raízes α ∈ Δ tais que α(λ) = 0. Note que Δ′ ≠ Δ (pois caso contrário λ ≠ 0 estaria no centro de 𝔤^{c}). Considere o subespaço complexo de 𝔤^{c} gerado pelos vetores H_{α} ∈ 𝔥^{c} e pelos subespaços 𝔤_{α}^{c} com α ∈ Δ′. Utilizando (3.3.1) e (3.3.2), vemos que se α ∈ Δ′ então ᾱ ∈ Δ′ e α ∘ s ∈ Δ′, donde esse subespaço é invariante pelo automorfismo s e pela conjugação. Segue que o mesmo é a complexificação de um subespaço real s-invariante 𝔤′ de 𝔤. Temos:

𝔤′^{c} = ∑_{α∈Δ′} ℂH_{α} ⊕ ⨁_{α∈Δ′} 𝔤_{α}^{c}.

As relações [𝔤_{α}^{c}, 𝔤_{β}^{c}] ⊂ 𝔤_{α+β}^{c} e [𝔤_{α}^{c}, 𝔤_{−α}^{c}] ⊂ ℂH_{α} mostram que 𝔤′^{c} é uma subálgebra (complexa) de 𝔤^{c} e portanto 𝔤′ é uma subálgebra (real) de 𝔤. De (3.2.1) vem:

𝔷_{𝔤^{c}}(λ) = 𝔥^{c} ⊕ ⨁_{α∈Δ′} 𝔤_{α}^{c},  (4.4.4)

e como μ toma valores em 𝔡, segue que μ toma valores no segundo termo da soma direta (4.4.4) (note que 𝔡 é K-ortogonal a 𝔥 e que os dois termos em (4.4.4) são mutuamente K-ortogonais também). Em particular, temos que μ toma valores em 𝔤′. Observe que 𝔤′ tem dimensão estritamente menor que a de 𝔤, pois Δ′ ≠ Δ.

Segue facilmente do lema 3.3.9 e das relações de comutação usuais entre os espaços 𝔤_{α}^{c} que [𝔨^{c}, 𝔤′^{c}] ⊂ 𝔤′^{c} e portanto [𝔨, 𝔤′] ⊂ 𝔤′ (observe que se α ∈ Δ satisfaz α_{|𝔞} = 0 então α ∈ Δ′). Seja G′ o subgrupo de Lie conexo de G associado à álgebra de Lie 𝔤′. Como K é conexo, podemos usar o corolário do lema 4.1 (e a observação 4.1) para concluir que a distribuição G-invariante D′ em G/K tal que D′_{1K} = π̄(𝔤′) é involutiva e que suas subvariedades integrais maximais são π(gG′) para g ∈ G.

De (4.4.1) segue que γ̇(t) pertence a D′ quase sempre e portanto γ tem imagem inteiramente contida em alguma subvariedade π(gG′). Pelo corolário do lema 4.3 (e pela observação 4.2) concluímos que γ é minimizante pca em π(gG′) (a hipótese de dimensão constante que aparece no corolário segue do fato que π(gG′) é subvariedade integral de uma distribuição G-invariante e que D também é G-invariante). Basta mostrar então que π(gG′) possui pmr. Observe que π(gG′) é isométrica a π(G′) através de l̄_{g}, se for escolhida uma métrica conveniente em π(G′).

Considere então π(G′) com uma distribuição G′-invariante cujo valor no ponto 1K é π̄(𝔤′) ∩ π̄(𝔡) (recorde que o espaço tangente a π(G′) no ponto 1K é π̄(𝔤′)). Considere essa distribuição munida de uma métrica qualquer. A demonstração ficará completa se demonstrarmos que π(G′) possui pmr. Utilizaremos a hipótese de indução.

Já observamos que 𝔤′ é s-invariante. Podemos escrever então 𝔤′ = 𝔤′_{+} ⊕ 𝔤′_{−}, onde 𝔤′_{+} = 𝔤′ ∩ 𝔤_{+} e 𝔤′_{−} = 𝔤′ ∩ 𝔤_{−}. Podemos considerar em 𝔤′_{−} o produto interno dado pela restrição de B que é obviamente invariante pela representação adjunta de 𝔤′_{+}.

Considere a ação de G′ em π(G′) por translação à esquerda. Seja K′ = G′ ∩ K o subgrupo de isotropia de 1K e seja N ⊂ G′ o subgrupo que age trivialmente em π(G′), i.e., a interseção dos grupos de isotropia de todos os pontos de π(G′). Daí N é normal e fechado em G′ e N ⊂ K′. Podemos então considerar o grupo de Lie Ḡ = G′/N com álgebra de Lie 𝔤̄ = 𝔤′/𝔫, onde 𝔫 ⊂ 𝔤′ é a álgebra de Lie de N (que é um ideal de 𝔤′). A ação de G′ em π(G′) passa ao quociente e define uma ação de Ḡ em π(G′) que é efetiva. A isotropia do ponto 1K é K̄ = K′/N. Se 𝔨′ e 𝔨̄ denotam as álgebras de Lie de K′ e K̄ respectivamente então 𝔫 ⊂ 𝔨′ e 𝔨̄ = 𝔨′/𝔫.

É fácil ver que 𝔨′ = 𝔤′ ∩ 𝔨 (observe que dado X ∈ 𝔤′ então X ∈ 𝔨′ se e somente se exp(tX) ∈ K′ para todo t ∈ ℝ. Mas isso ocorre se e somente se exp(tX) ∈ K para todo t ∈ ℝ, i.e., se e somente se X ∈ 𝔨). Como 𝔫 ⊂ 𝔨′, segue que 𝔫 ⊂ 𝔤′_{+}, donde s(𝔫) = 𝔫 e podemos definir um automorfismo involutivo s̄ de ḡ por passagem ao quociente, i.e., s̄∘ q = q ∘ s, onde q: 𝔤′ → 𝔤̄ é a aplicação quociente. Como 𝔫 ⊂ 𝔤′_{+} segue que 𝔤̄ = 𝔤̄_{+} ⊕ 𝔤̄_{−}, com 𝔤̄_{+} = q(𝔤′_{+}) e 𝔤̄_{−} = q(𝔤′_{−}). Essa é a decomposição de 𝔤̄ em autoespaços de s̄. Podemos identificar 𝔤′_{−} com 𝔤̄_{−} através de q e obtemos então um produto interno B em 𝔤̄_{−} que é visivelmente invariante pela representação adjunta de 𝔤̄_{+}.

Temos então uma ação transitiva do grupo de Lie Ḡ na variedade sub-Riemanniana π(G′), de modo que a distribuição é Ḡ-invariante. A isotropia do ponto 1K é K̄. A idéia agora é verificar que (𝔤̄, s̄, B) é uma ALIO com ḡ semi-simples e verificar que a distribuição de π(G′) no ponto 1K, i.e., π̄(𝔤′) ∩ π̄(𝔡) satisfaz as hipóteses do teorema. Seguirá então da hipótese de indução que π(G′) possui pmr, já que dim Ḡ ≤ dim G′ < dim G. Isso completará a demonstração.

Considere a seguinte decomposição de 𝔤^{c}:

𝔤^{c} = 𝔱^{c} ⊕ 𝔞^{c} ⊕ ⨁_{{α∈Δ \atop α_{|𝔞}=0}} 𝔤_{α}^{c} ⊕ ⨁_{{α∈Δ \atop α_{|𝔞}≠0}} 𝔤_{α}^{c}.  (4.4.5)

Observe que os quatro termos da soma direta acima são mutuamente K-ortogonais (recorde que 𝔤_{α}^{c} é K-ortogonal a 𝔤_{β}^{c} para β ≠ −α e que 𝔤_{+}^{c} é K-ortogonal a 𝔤_{−}^{c}). Pelo lema 3.3.9 temos que 𝔨^{c} corresponde aos primeiro e terceiro termos em (4.4.5). Segue que 𝔪^{c} corresponde aos segundo e quarto termos e que 𝔡^{c} corresponde somente ao quarto termo.

Como 𝔤′^{c} é s-invariante, temos que T_{α}, A_{α} ∈ 𝔤′^{c} para α ∈ Δ′. Obtemos então uma decomposição:

𝔤′^{c} = ∑_{α∈Δ′} ℂT_{α} ⊕ ∑_{α∈Δ′} ℂA_{α} ⊕ ⨁_{{α∈Δ \atop α_{|𝔞}=0}} 𝔤_{α}^{c} ⊕ ⨁_{{α∈Δ′ \atop α_{|𝔞}≠0}} 𝔤_{α}^{c},  (4.4.6)

onde cada termo em (4.4.6) está contido no termo correspondente em (4.4.5). Escreva 𝔪′ = 𝔤′ ∩ 𝔪 e 𝔡′ = 𝔤′ ∩ 𝔡. Segue que 𝔨′^{c} corresponde aos primeiro e terceiro termos em (4.4.6), 𝔪′^{c} corresponde aos segundo e quarto termos e 𝔡′^{c} é apenas o quarto termo. Escrevemos também 𝔱′ = 𝔤′ ∩𝔱 e 𝔞′ = 𝔤′ ∩𝔞 e é claro que 𝔱′^{c} e 𝔞′^{c} correspondem ao primeiro e ao segundo termo em (4.4.6), respectivamente. Podemos também definir 𝔥′ = 𝔤′ ∩ 𝔥. Daí 𝔥′ = 𝔱′ ⊕ 𝔞′ e 𝔥′^{c} = ∑_{α∈Δ′} ℂH_{α}.

Analisando as decomposições (4.4.5) e (4.4.6) é fácil ver que (𝔤′ + 𝔨) ∩ (𝔡 + 𝔨) = 𝔡′ + 𝔨 (verifique a igualdade para as complexificações dos espaços correspondentes). Segue daí que π̄(𝔤′) ∩ π̄(𝔡) = π̄(𝔡′), i.e., a distribuição de π(G′) no ponto 1K é simplesmente π̄(𝔡′).

Vamos verificar agora que 𝔞′ é abeliana maximal em 𝔤′_{−} e que o centralizador de 𝔞′ em 𝔤′_{+} é 𝔨′. Seja α ∈ Δ′. Temos que α se anula em 𝔞 se e somente se α se anula em 𝔞′. De fato, se α se anula em 𝔞 então obviamente α se anula em 𝔞′ e se α se anula em 𝔞′ então em particular α(A_{α}) = 0 (pois α ∈ Δ′). Daí K(H_{α}, A_{α}) = K(A_{α}, A_{α}) = 0 e logo A_{α} = 0 (vide observação 3.3.3). Daí H_{α} ∈ 𝔱^{c} e logo α = K(H_{α}, ·) se anula em 𝔞.

É fácil ver que o centralizador de 𝔞′ em 𝔤′^{c} é dado por:

𝔷_{𝔤′}^{c}(𝔞′) = 𝔱′^{c} ⊕ 𝔞′^{c} ⊕ ⨁_{{α∈Δ′ \atop α_{|𝔞′} =0}} 𝔤_{α}^{c} = 𝔱′^{c} ⊕ 𝔞′^{c} ⊕ ⨁_{{α∈Δ \atop α_{|𝔞}=0}} 𝔤_{α}^{c},

onde o primeiro e o terceiro termos estão contidos em 𝔤′_{+}^{c} (formando 𝔨′^{c}) e o segundo está contido em 𝔤′_{−}^{c}. Segue o resultado desejado.

Seja 𝔫^{⊥} o complemento K-ortogonal de 𝔫 em 𝔤′. É fácil ver que 𝔫^{⊥} também é um ideal de 𝔤′. Além do mais, como K é definida negativa em 𝔫 (observe que 𝔫 ⊂ 𝔤_{+} e use o lema 3.3.2), segue do lema 3.1.1 que 𝔤′ = 𝔫 ⊕ 𝔫^{⊥} (soma direta de ideais). Defina 𝔞̄ = q(𝔞′) e 𝔡̄ = q(𝔡′) (recorde que já definimos 𝔨̄ como sendo a álgebra de Lie de K̄, que coincide com q(𝔨′)).

Para X, Y ∈ 𝔤′_{−} temos sempre [X, Y] ∈ 𝔫^{⊥} (pois 𝔤′_{−} está contido em 𝔫^{⊥}). Em particular [q(X), q(Y)] = 0 em 𝔤̄ se e somente se [X, Y] = 0. Segue que 𝔞̄ é abeliana maximal em 𝔤̄_{−}. Do mesmo modo, para X ∈ 𝔤′_{+} e Y ∈ 𝔤′_{−} temos sempre [X, Y] ∈ 𝔤′_{−} (com 𝔤′_{−} ∩ 𝔫 = 0), donde [q(X), q(Y)] = 0 se e somente se [X, Y] = 0. Segue que o centralizador de 𝔞̄ em 𝔤̄_{+} é 𝔨̄. As decomposições (4.4.5) e (4.4.6) mostram que 𝔤′ = 𝔨′ ⊕ 𝔪′ e 𝔪′ = 𝔡′ ⊕ 𝔞′. Segue facilmente que 𝔤̄ = 𝔨̄ ⊕ 𝔪̄ e 𝔪̄ = 𝔡̄ ⊕ 𝔞̄ (use que 𝔫 ⊂ 𝔨′).

Para terminar a demonstração de que (𝔤̄, s̄, B) é uma ALIO, resta ver que 𝔤̄_{+} não contém ideais não nulos de 𝔤̄. Seja 𝔦 ⊂ 𝔤̄_{+} um ideal de 𝔤̄. Por um lado temos [𝔦, 𝔤̄_{−}] ⊂ 𝔦 ⊂ 𝔤̄_{+}, pois 𝔦 é um ideal. Por outro lado [𝔦, 𝔤̄_{−}] ⊂ 𝔤̄_{−}, donde [𝔦, 𝔤̄_{−}] = 0. Daí para X ∈ q^{−1}(𝔦) ⊂ 𝔤′_{+} e para Y ∈ 𝔤′_{−} temos [X, Y] ∈ 𝔫 e [X, Y] ∈ 𝔤′_{−} donde [X, Y] = 0. Daí q^{−1}(𝔦) ⊂ 𝔤′_{+} centraliza 𝔤′_{−} e em particular centraliza 𝔞′, donde q^{−1}(𝔦) ⊂ 𝔨′ e 𝔦 ⊂ 𝔨̄. Segue do lema 3.3.3 que 𝔦 = 0 se considerarmos a ação transitiva e efetiva de Ḡ em π(G′) (notando que a álgebra de Lie da isotropia K̄ do ponto 1K é 𝔨̄).

O próximo passo é provar que 𝔤̄ é semi-simples. Pelo lema 3.3.5, basta mostrar que se X ∈ 𝔤̄_{−} centraliza 𝔤̄_{−} então X = 0. Como já observamos, [𝔤′_{−}, 𝔤′_{−}] ⊂ 𝔫^{⊥}, donde basta mostrar que se X ∈ 𝔤′_{−} centraliza 𝔤′_{−} então X = 0.

Seja então X ∈ 𝔤′_{−} e suponha que X centraliza 𝔤′_{−}. Seja L a subálgebra de Lie complexa gerada por 𝔤′_{−} em 𝔤^{c}. Como 𝔷_{𝔤^{c}}(X) é uma subálgebra complexa, segue que X centraliza L. Seja α ∈ Δ′ com α_{|𝔞} ≠ 0. Mostremos que 𝔤_{α}^{c} ⊂ L. Já mostramos acima que se α ∈ Δ′ e α_{|𝔞} ≠ 0 então na verdade α_{|𝔞′} ≠ 0. Podemos então escolher H ∈ 𝔞′^{c} ⊂ L com α(H) = 1. Seja Y ∈ 𝔤_{α}^{c}. Mostremos que Y ∈ L. Como α ∈ Δ′ temos Y ∈ 𝔤′^{c} e portanto Y − s(Y) ∈ 𝔤′_{−}^{c} ⊂ L. Mas:

[H, Y − s(Y)] = Y + s(Y) ∈ L,

lembrando que s(Y) ∈ 𝔤_{α∘s}^{c} e s(H) = −H. De Y − s(Y) ∈ L e Y + s(Y) ∈ L vem Y ∈ L.

Como X ∈ 𝔤′_{−} centraliza 𝔞′ temos X ∈ 𝔞′. Daí para toda raiz α ∈ Δ′ temos α(X) = 0 (se α_{|𝔞} ≠ 0 então basta notar que X centraliza 𝔤_{α}^{c} e se α_{|𝔞} = 0 é claro que α(X) = 0). Mas daí K(H_{α}, X) = 0 sempre que α ∈ Δ′ e segue que X ∈ 𝔥′ é K-ortogonal a 𝔥′. Como K é não degenerada em 𝔥′ segue que X = 0 (observe que ∑_{α∈Δ′} ℝH_{α} é uma forma real de 𝔥′^{c} onde K é definida positiva).

Sejam agora K′ e K̄ as formas de Killing de 𝔤′ e 𝔤̄, respectivamente (e também de 𝔤′^{c} e 𝔤̄^{c}, respectivamente). Note que K′ em geral não é a restrição de K. Resta apenas mostrar que 𝔡̄ é o complemento K̄-ortogonal de 𝔨̄ ⊕ 𝔞̄ em 𝔤̄. Começamos estudando as relações de K′-ortogonalidade em 𝔤′.

Sejam α, β ∈ Δ′ tais que α + β não se anula identicamente em 𝔥′. Daí 𝔤_{α}^{c} e 𝔤_{β}^{c} são K′-ortogonais. De fato, fixe H ∈ 𝔥′ com (α + β)(H) ≠ 0 e escolha X ∈ 𝔤_{α}^{c}, Y ∈ 𝔤_{β}^{c}. Temos:

K′([H, X], Y) + K′(X, [H, Y]) = 0 ⇒ (α + β)(H)K′(X, Y) = 0.

O raciocínio acima mostra também que 𝔥′^{c} é K′-ortogonal a 𝔤_{α}^{c} para α ∈ Δ′ (escolha X ∈ 𝔥′^{c}, Y ∈ 𝔤_{α}^{c} e fixe H = H_{α} ∈ 𝔥′^{c}. Note que então α(H) > 0).

Temos que s se restringe a um automorfismo de 𝔤′, donde K′(s(X), s(Y)) = K′(X, Y) para X, Y ∈ 𝔤′. Fazendo X ∈ 𝔤′_{+} e Y ∈ 𝔤′_{−} vemos que 𝔤′_{+} é K′-ortogonal a 𝔤′_{−}. As considerações feitas até agora sobre K′ mostram que os quatro termos na decomposição (4.4.6) são dois a dois K′-ortogonais (recorde novamente que uma raiz em Δ′ que não é nula em 𝔞 também não é nula em 𝔞′).

Concluímos que as decomposições 𝔤′ = 𝔨′ ⊕ 𝔪′ e 𝔪′ = 𝔡′ ⊕ 𝔞′ são K′-ortogonais. Observe agora que a aplicação quociente q se restringe a um isomorfismo entre as álgebras de Lie 𝔫^{⊥} e 𝔤̄. Como 𝔫^{⊥} é um ideal de 𝔤′, segue que sua forma de Killing é simplesmente a restrição de K′. Daí K̄(q(X), q(Y)) = K′(X, Y), desde que os representantes X e Y das classes q(X) e q(Y) sejam escolhidos em 𝔫^{⊥}. Não é difícil ver agora que as decomposições 𝔤̄ = 𝔨̄ ⊕ 𝔪̄ e 𝔪̄ = 𝔡̄ ⊕ 𝔞̄ são K̄-ortogonais (note que 𝔫 ⊂ 𝔨′ e 𝔪′ ⊂ 𝔫^{⊥}).

Temos agora uma decomposição K̄-ortogonal 𝔤̄ = 𝔨̄⊕ 𝔞̄ ⊕ 𝔡̄. Como K̄ é não degenerada em 𝔨̄ ⊕ 𝔞̄ (isso é um fato geral para ALIOs semi-simples), segue que 𝔡̄ é o complemento K̄-ortogonal de 𝔨̄ ⊕ 𝔞̄.

O teorema 4.4 nos fornece uma família de exemplos de variedades que possuem pmr. Para construir um tal exemplo procedemos da seguinte forma. Começamos com uma ALIO (𝔤, s, B) com 𝔤 semi-simples. Tais ALIOs estão completamente classificadas em [W]. Definimos 𝔞 e 𝔨 como no enunciado do lema 3.3.8 e consideramos 𝔡 como sendo o complemento K-ortogonal de 𝔨 + 𝔞 em 𝔤 (temos então 𝔤 = 𝔨 ⊕ 𝔡 ⊕ 𝔞, como foi visto na demonstração do teorema 4.4).

Considere um grupo de Lie G qualquer cuja álgebra de Lie é 𝔤. Seja K ⊂ G o subgrupo conexo associado à subálgebra 𝔨 ⊂ 𝔤. Mostraremos no lema 4.5 que K é fechado em G e portanto podemos considerar a variedade M = G/K. Seja D a única distribuição G-invariante em M tal que D_{1K} = π̄(𝔡) ⊂ 𝔤/𝔨. Tal distribuição sempre existe, já que é fácil ver que [𝔨, 𝔡] ⊂ 𝔡.

Na verdade, podemos também considerar um subgrupo de Lie desconexo K ⊂ G com álgebra de Lie 𝔨, mas daí a existência de D, i.e., o fato que π̄(𝔡) é invariante pela representação isotrópica \overline{Ad} de K em 𝔤/𝔨 não segue simplesmente de [𝔨, 𝔡] ⊂ 𝔡 e deve ser verificado diretamente em cada exemplo. Quando K tem apenas um número finito de componentes conexas, seguirá automaticamente que K é fechado em G, mas quando tivermos infinitas componentes conexas em K, também será necessário verificar diretamente se K é fechado em G.

Finalmente, consideramos qualquer métrica sub-Riemanniana g em (M, D) e o teorema 4.4 nos diz que essa variedade possui pmr. É claro que (a menos de isometrias) construímos assim todos os exemplos nos quais o teorema 4.4 se aplica. Observe que o produto interno B que aparece na ALIO (𝔤, s, B) não tem nenhuma relevância, apenas sua existência é importante para que possamos usar a teoria de ALIOs. Mostramos agora que o subgrupo K é de fato fechado em G. Observação 4.3. Seja G um grupo de Lie e H ⊂ G um subgrupo de Lie. Sejam 𝔤, 𝔥 suas álgebras de Lie, respectivamente. Dado X ∈ 𝔤, temos X ∈ 𝔥 se e somente se exp(tX) ∈ H para todo t ∈ ℝ. Essa técnica de calcular álgebras de Lie nos fornece os dois seguintes resultados que serão usados no lema seguinte. Se f: G → H é um homomorfismo de grupos de Lie e se K ⊂ H é um subgrupo fechado então f^{−1}(K) ⊂ G é um subgrupo fechado cuja álgebra de Lie é df_{1}^{−1}(𝔨), onde 𝔨 é a álgebra de Lie de K. Também, se f: G → G é um homomorfismo então seu conjunto de pontos fixos é um subgrupo fechado de G cuja álgebra de Lie é o conjunto de pontos fixos de df_{1}.

Lema 4.5. Seja G um grupo de Lie cuja álgebra de Lie possui uma estrutura de ALIO (𝔤, s, B). Suponha que 𝔤 é semi-simples e defina 𝔨 e 𝔞 como no enunciado do lema 3.3.8. Seja K ⊂ G o subgrupo de Lie conexo associado à subálgebra 𝔨 ⊂ 𝔤. Então K é fechado em G.

Demonstração. Seja G_{+} ⊂ G o subgrupo de Lie conexo associado à subálgebra 𝔤_{+}. Considere o homomorfismo de G_{+} em GL(𝔤) dado pela restrição da representação adjunta Ad de G em 𝔤. O conjunto dos elementos de GL(𝔤) que fixam os pontos de 𝔞 é um subgrupo fechado de GL(𝔤) cuja álgebra de Lie é formada pelos elementos de L(𝔤) que se anulam em 𝔞. Segue da observação 4.3 que o conjunto:

K′ = {g ∈ G_{+} : (Ad_{g})_{|𝔞} = Id }

é um subgrupo fechado de G_{+} cuja álgebra de Lie é o centralizador de 𝔞 em 𝔤_{+}, ou seja, 𝔨. Daí K é a componente conexa de 1 de K′ e portanto também é fechado em G_{+}.

Resta mostrar que G_{+} é fechado em G. Como G_{+} é conexo, segue que o mesmo está contido na componente conexa de 1 de G e portanto podemos supor sem perda de generalidade que G é conexo. Seja q: G̃ → G o recobrimento universal de G. Seja N = Ker q. Daí N é um subgrupo normal e discreto de G̃ e portanto está contido no centro Z(G̃) de G̃. Como 𝔤 é semi-simples segue que 𝔷(𝔤) = 0 e portanto Z(G̃) é um subgrupo (normal, fechado e) discreto de G̃. Considere o grupo de Lie Ĝ = G̃/Z(G̃). Seja q′: G → Ĝ a aplicação quociente.

Como N está contido em Z(G̃), vemos que q′ passa ao quociente e define um homomorfismo f: G → Ĝ tal que f ∘ q = q′. Note que G̃, G e Ĝ todos possuem álgebra de Lie 𝔤 e que df_{1} = Id.

Como G̃ é simplesmente conexo, o automorfismo s de 𝔤 se integra a um automorfismo S de G̃ tal que dS_{1} = s. É claro que S(Z(G̃)) = Z(G̃) e portanto S passa ao quociente e define um automorfismo Ŝ de Ĝ tal que Ŝ∘q′ = q′ ∘S. Daí dŜ_{1} = s. Seja Ĝ_{+} a componente conexa de 1 do conjunto de pontos fixos de Ŝ. Pela observação 4.3, Ĝ_{+} é um subgrupo fechado de Ĝ com álgebra de Lie 𝔤_{+}. Novamente pela observação 4.3, segue que G_{+} é a componente conexa de 1 de f^{−1}(Ĝ_{+}) e portanto é fechado em G. Exemplo 4.1. Seja 𝔤 = sl(n, ℝ) a álgebra de Lie de matrizes reais n × n de traço zero. Seja s ∈ Aut(𝔤) dado por s(A) = −A^{t}. Então s é um automorfismo involutivo de 𝔤. Temos 𝔤_{+} = so(n, ℝ) (matrizes reais antisimétricas n × n) e 𝔤_{−} é o subespaço das matrizes reais simétricas n × n de traço zero. Defina o produto interno B em 𝔤_{−} fazendo B(X, Y) = tr(XY). Daí (𝔤, s, B) é uma ALIO (vide observação 3.3.1 para mostrar que 𝔤_{+} não contém ideais não nulos de 𝔤) e 𝔤 é semi-simples.

Seja 𝔞 ⊂ 𝔤_{−} a subálgebra abeliana formada pelas matrizes diagonais (de traço zero). Daí 𝔞 é abeliana maximal em 𝔤_{−}. O centralizador de 𝔞 em 𝔤_{+} é 𝔨 = 0. A forma de Killing de 𝔤 é dada por K(X, Y) = 2n tr(XY). Segue que 𝔡 ⊂ 𝔤 é o subespaço formado pelas matrizes com zeros na diagonal principal.

Seja G = SL(n, ℝ) o grupo de Lie de matrizes reais n × n de determinante 1. Daí G é um grupo de Lie com álgebra de Lie 𝔤. Tomamos K = {Id} e daí M = G. Temos que D é simplesmente a distribuição invariante à esquerda tal que D_{1} = 𝔡. O teorema 4.4 nos diz que (M, D) possui pmr (para qualquer métrica sub-Riemanniana). Observamos que um resultado desse tipo foi mostrado em [Mg3] para grupos de Lie compactos semi-simples, mas aqui G não é compacto.

Seguindo as construções do lema 3.3.8, temos que 𝔱 = 0 é uma subálgebra abeliana maximal de 𝔨 = 0 e 𝔥 = 𝔱 + 𝔞 = 𝔞. Agora 𝔤^{c} = sl(n, ℂ) (matrizes complexas n × n de traço zero) é uma álgebra de Lie complexa semi-simples e 𝔥^{c} é a subálgebra de matrizes diagonais complexas (de traço zero). Daí 𝔥^{c} é uma subálgebra de Cartan de 𝔤^{c}.

Para i, j = 1, …, n, seja E_{ij} a matriz com entrada 1 na linha i, coluna j, e zeros nas outras entradas. As matrizes E_{ij} para i ≠ j e E_{ii} − E_{nn} para i < n formam uma base de 𝔤 (e de 𝔤^{c}). As matrizes E_{ii} − E_{nn}, i < n, formam uma base de 𝔥 (e de 𝔥^{c}). Seja θ_{i} ∈ 𝔥^{c}^{∗} o funcional dado por θ_{i}(H) = H_{ii}. Daí θ_{1}, …, θ_{n−1} formam uma base de 𝔥^{c}^{∗} e ∑_{i=1}^{n} θ_{i} = 0.

Se H ∈ 𝔥^{c} então [H, E_{ij}] = (H_{ii} − H_{jj})E_{ij}, para i ≠ j. Isso mostra que α = θ_{i} − θ_{j} é uma raiz de 𝔤^{c} e que 𝔤_{α}^{c} é gerado por E_{ij}. Temos:

Δ = { θ_{i} − θ_{j} : i, j = 1, …, n, i ≠ j }.

Também:

𝔤^{c} = 𝔥^{c} ⊕ ⨁_{α∈Δ} 𝔤_{α}^{c},

o que mostra realmente que Δ é o conjunto das raízes de 𝔤^{c} em relação a 𝔥^{c}.

Observe que 𝔥 é uma forma real de 𝔥^{c} onde as raízes assumem valores reais e portanto 𝔥 = 𝔥_{ℝ}. Observe também que para α = θ_{i} − θ_{j} temos H_{α} = \frac{1}{2n}(E_{ii} − E_{jj}).

Podemos determinar concretamente neste exemplo a subálgebra 𝔤′ ⊂ 𝔤 e o subgrupo G′ ⊂ G que aparecem na demonstração do teorema 4.4. Como nesse exemplo K é trivial, teremos também que N é trivial e Ḡ = G′, i.e., (𝔤′, s, B) é uma ALIO (não há necessidade de fazer um quociente para eliminar os ideais de 𝔤′ contidos em 𝔤′_{+}).

Seja λ ∈ 𝔞, λ ≠ 0. Para c_{1}, …, c_{n} ∈ ℂ denotamos por Diag(c_{1}, …, c_{n}) a matriz ∑_{i=1}^{n} c_{i}E_{ii}. Mudando de base, se necessário, podemos supor que:

λ = Diag(\underbrace{λ_{1}, …, λ_{1}}_{n_{1} vezes}, …, \underbrace{λ_{r}, …, λ_{r}}_{n_{r} vezes}),

onde λ_{1}, …, λ_{r} ∈ ℂ são distintos, ∑_{i=1}^{r} n_{i} = n e ∑_{i=1}^{r} n_{i}λ_{i} = 0.

Não é difícil ver que 𝔤′ = sl(n_{1}, ℝ) ⊕ ⋯ ⊕ sl(n_{r}, ℝ) (i.e., r matrizes de traço zero emendadas ao longo da diagonal principal) e que G′ = SL(n_{1}, ℝ) × ⋯ × SL(n_{r}, ℝ) (i.e., r matrizes de determinante 1 emendadas ao longo da diagonal principal). Temos que todo extremal anormal de M = G tem imagem contida numa classe à esquerda de algum subgrupo desse tipo (i.e., para valores apropriados de n_{1}, …, n_{r}).

Durante o processo indutivo, refinamos cada vez mais a divisão de SL(n, ℝ) em blocos emendados pela diagonal principal, até que a curva minimizante pca com a qual começamos torne-se um extremal normal da subvariedade em questão. O processo para também quando os blocos em questão tem lado 1, o que implica que a curva considerada é constante. Isso ilustra a demonstração do teorema 4.4.

Em geral, variedades sub-Riemannianas onde D não é geradora por colchetes são consideradas “pouco interessantes” (vide observação 1.1). Queremos mostrar agora que todos os exemplos de variedades sub-Riemannianas que possuem pmr produzidos pelo teorema 4.4 possuem distribuição geradora por colchetes. Precisaremos de uma maneira de determinar quando uma distribuição G-invariante D em G/K é geradora por colchetes, através do subespaço D_{1K} ⊂ 𝔤/𝔨. Começamos olhando mais de perto a definição de distribuição geradora por colchetes.

Vamos introduzir alguma terminologia. Se 𝔤 é uma álgebra de Lie (possivelmente de dimensão infinita) e se 𝔰 ⊂ 𝔤 é um subespaço então definimos indutivamente uma seqüência 𝔰^{i} de subespaços de 𝔤 fazendo 𝔰^{1} = 𝔰 e, supondo 𝔰^{i} definido, tomamos 𝔰^{i+1} como sendo o subespaço gerado por 𝔰^{i} e pelos colchetes [X, Y] com X ∈ 𝔰^{i} e Y ∈ 𝔰. É claro que a seqüência (𝔰_{i})_{i∈ℕ} de subespaços de 𝔤 é crescente.

Temos que [X, Y] ∈ 𝔰^{i+j} quando X ∈ 𝔰^{i} e Y ∈ 𝔰^{j}, ou abreviadamente, [𝔰^{i}, 𝔰^{j}] ⊂ 𝔰^{i+j}. Isso segue facilmente por indução usando a identidade de Jacobi (mostra-se por indução em i que [𝔰^{i}, 𝔰^{j}] ⊂ 𝔰^{i+j} para todo j ∈ ℕ). Denotamos por [𝔰] a subálgebra de Lie de 𝔤 gerada por 𝔰. Segue então que [𝔰] = ⋃_{i∈ℕ} 𝔰^{i}.

Seja M uma variedade. Denotamos por Γ(T M) a álgebra de Lie dos campos vetoriais em M. Se D ⊂ T M é um subconjunto tal que D_{m} = D ∩ T_{m}M é um subespaço de T_{m}M para todo m ∈ M então denotamos por Γ(D) o subespaço de Γ(T M) formado pelos campos vetoriais em M cuja imagem está contida em D. Denotamos por C^{∞}(M) o anel de funções f: M → ℝ. Observação 4.4. Temos que Γ(T M) é um módulo sobre C^{∞}(M), mas o colchete de Lie não é bilinear sobre C^{∞}(M), donde sempre consideramos Γ(T M) como álgebra de Lie sobre ℝ. Recorde que o colchete de Lie [X, Y] coincide com a derivada de Lie 𝕃_{X}Y e que a derivada de Lie 𝕃_{X} satisfaz a regra de Leibniz sobre derivação de um produto. Daí [X, fY] = X(f)Y + f[X, Y], para f ∈ C^{∞}(M) e X, Y ∈ Γ(T M). Mais geralmente, temos:

[fX, gY] = fX(g)Y − gY (f)X + fg[X, Y],  (4.1)

para f, g ∈ C^{∞}(M), X, Y ∈ Γ(T M).

Seja agora D uma distribuição em M. Temos um subespaço Γ(D) da álgebra de Lie Γ(T M) e podemos considerar então a seqüência crescente (Γ(D)^{i})_{i∈ℕ} de subespaços de Γ(T M). Para cada m ∈ M e cada i ∈ ℕ denotamos por D_{m}^{i} a imagem da aplicação X ∈ Γ(D)^{i} ↦ X_{m}. Seja D^{i} = ⋃_{m∈M} D_{m}^{i}. É claro que Γ(D)^{i} ⊂ Γ(D^{i}), mas em geral temos uma inclusão própria. É claro também que D^{i} ⊂ D^{i+1} para i ∈ ℕ. Note que D^{1} = D, mas em geral D^{i} não é uma distribuição em M para i > 1 (a dimensão de D_{m}^{i} em geral depende de m ∈ M. Vide por exemplo a observação 4.5).

Temos que D é geradora por colchetes (vide observação 1.1) se e somente se a união ⋃_{i∈ℕ} D_{m}^{i} coincide com T_{m}M para todo m ∈ M. Como T_{m}M tem dimensão finita, isso equivale a dizer que para todo m ∈ M existe i ∈ ℕ tal que D_{m}^{i} = T_{m}M (em geral, o valor de i ∈ ℕ não pode ser escolhido independentemente de m ∈ M). A seqüência (dim D_{m}^{i})_{i∈ℕ} é chamada o vetor de crescimento da distribuição D no ponto m ∈ M. A distribuição D é geradora por colchetes se e somente se para todo m ∈ M o vetor de crescimento eventualmente atinge a dimensão de M.

O lema a seguir (mais precisamente, sua técnica de demonstração e seu corolário 1) nos mostram como calcular na prática os subespaços D_{m}^{i} de T_{m}M.

Lema 4.6. Seja m ∈ M. Então existe uma vizinhança aberta U ⊂ M de m tal que dado i ∈ ℕ existem campos X^{1}, …, X^{r} ∈ Γ(D)^{i} tais que qualquer outro campo X ∈ Γ(D)^{i} é tal que sua restrição X_{|U} se escreve como combinação linear de X_{|U}^{1}, …, X_{|U}^{r} com coeficientes em C^{∞}(U).

Demonstração. Seja m ∈ M e seja U ⊂ M uma vizinhança aberta de m tal que existem campos Y^{1}, …, Y^{k} ∈ Γ(D) tais que Y_{|U}^{1}, …, Y_{|U}^{k} é um referencial de D sobre U. Mostramos o resultado por indução em i. Para i = 1 simplesmente tomamos r = k e X^{j} = Y^{j} para j = 1, …, r.

Sejam X^{1}, …, X^{r} ∈ Γ(D)^{i} tais que todo X ∈ Γ(D)^{i} é tal que X_{|U} é combinação linear dos campos X_{|U}^{j} com coeficientes em C^{∞}(U). Daí os campos X^{j}, Y^{l} e [X^{j}, Y^{l}] para j = 1, …, r, l = 1, …, k estão em Γ(D)^{i+1} e todo X ∈ Γ(D)^{i+1} é tal que X_{|U} se escreve como combinação linear (das restrições a U) de tais campos com coeficientes em C^{∞}(U), o que segue facilmente de (4.1) (vide observação 4.4).

Corolário 1. Seja m ∈ M. Então existe uma vizinhança aberta U ⊂ M de m tal que dado i ∈ ℕ existem campos X^{1}, …, X^{r} ∈ Γ(D)^{i} tais que os vetores X_{x}^{1}, …, X_{x}^{r} geram D_{x}^{i} para todo x ∈ U.

Demonstração. Basta escolher o aberto U e os campos X^{j} como no lema.

Corolário 2. Seja i ∈ ℕ. Se a dimensão de D_{m}^{i} não depende de m ∈ M então D^{i} é uma distribuição (diferenciável) e numa vizinhança aberta de cada m ∈ M existe um referencial de D^{i} formado por (restrições de) elementos de Γ(D)^{i}.

Demonstração. Seja i ∈ ℕ. Seja m ∈ M. Pelo corolário 1, podemos encontrar uma vizinhança aberta U ⊂ M de m e X^{1}, …, X^{r} ∈ Γ(D)^{i}, tais que X_{x}^{1}, …, X_{x}^{r} geram D_{x}^{i} para todo x ∈ U. Reordenando, se necessário, podemos supor que X_{m}^{1}, …, X_{m}^{s} é uma base de D_{m}^{i} para algum s ≤ r. Por continuidade, os vetores X_{x}^{1}, …, X_{x}^{s} são ainda linearmente independentes para x numa vizinhança de m e como D_{x}^{i} tem dimensão constante, segue que os mesmos formam uma base de D_{x}^{i}.

Corolário 3. Seja i ∈ ℕ. Se a dimensão de D_{m}^{i} não depende de m ∈ M então dados campos vetoriais X, Y num aberto V de M tais que X toma valores em D^{i} e Y toma valores em D, segue que [X, Y] toma valores em D^{i+1}.

Demonstração. Seja m ∈ V. Pelo corolário 2, podemos encontrar X^{1}, …, X^{r} ∈ Γ(D)^{i} e Y^{1}, …, Y^{k} ∈ Γ(D) tais que as restrições dos campos X^{j} a uma vizinhança aberta U ⊂ V de m formam um referencial de D^{i} e as restrições a U dos campos Y^{l} formam um referencial de D. Observe que o campo [X^{j}, Y^{l}] ∈ Γ(D)^{i+1} toma valores em D^{i+1}. Os campos X_{|U} e Y_{|U} se escrevem como combinação linear dos campos X_{|U}^{j} e Y_{|U}^{l}, respectivamente, com coeficientes em C^{∞}(U). O resultado segue de (4.1) (vide observação 4.4). Observação 4.5. O corolário acima não é válido sem a hipótese que D_{m}^{i} tenha dimensão constante. Por exemplo, seja M = ℝ^{3} e seja D a distribuição de posto 2 gerada pelos campos \frac{∂}{∂y} e \frac{∂}{∂x} + y^{3} \frac{∂}{∂z}. Daí, para m = (x, y, z), temos que D_{m}^{2} = ℝ^{3} quando y ≠ 0 e D_{m}^{2} é o plano gerado por \frac{∂}{∂x} e \frac{∂}{∂y} quando y = 0. Também D^{3} = D^{2} e D^{4} = T ℝ^{3}. Note que o campo y \frac{∂}{∂z} toma valores em D^{2} e o campo \frac{∂}{∂y} toma valores em D, mas o colchete de Lie [\frac{∂}{∂y} , y \frac{∂}{∂z}] = \frac{∂}{∂z} não toma valores em D^{3}.

Relacionamos agora o colchete de Lie em 𝔤 com o colchete de Lie de certos campos vetoriais na variedade G/K. Observação 4.6. Se 𝔪 é um subespaço complementar de 𝔨 em 𝔤 então sempre existem seções locais s: U ⊂ G/K → G com 1K ∈ U, s(1K) = 1 e tal que a imagem de ds_{1K} seja 𝔪. Podemos, por exemplo, considerar a inversa da restrição de π à imagem pela exponencial de uma vizinhança aberta suficientemente pequena de 0 em 𝔪.

Lema 4.7. Sejam G um grupo de Lie e K ⊂ G um subgrupo fechado, com álgebras de Lie 𝔤 e 𝔨 respectivamente. Seja 𝔪 ⊂ 𝔤 um subespaço complementar de 𝔨 em 𝔤 e seja s: U ⊂ G/K → G uma seção local tal que 1K ∈ U, s(1K) = 1 e tal que a imagem de ds_{1K} seja 𝔪. Para X ∈ 𝔤 defina um campo vetorial X⃗ em U fazendo X⃗(gK) = s(gK)π̄(X).

Daí, para X, Y ∈ 𝔪 temos [X⃗, Y⃗]_{1K} = \overrightarrow{[X, Y]}_{1K}.

Demonstração. Seja gK ∈ U e suponha g = s(gK). Diferenciando a identidade π∘l_{g} = l̄_{g}∘π no ponto 1 e aplicando sobre um vetor X ∈ 𝔤 concluímos que:

X⃗_{gK} = dπ_{g}(X_{g}^{L}),  (4.7.1)

onde X^{L} é o campo vetorial invariante à esquerda tal que X_{1}^{L} = X.

Seja f: U → ℝ uma função. Basta mostrar que [X⃗, Y⃗]_{1K} e \overrightarrow{[X, Y]}_{1K} = π̄([X, Y]) coincidem quando aplicados sobre f (como derivadas direcionais). Segue de (4.7.1) que:

X⃗(f) = X^{L}(f ∘ π) ∘ s.  (4.7.2)

Como π̄ ∘ ds_{1K} = Id e Y ∈ 𝔪 temos ds_{1K} ∘ π̄(Y) = Y. Aplicando o vetor Y⃗_{1K} = π̄(Y) nos dois lados de (4.7.2) vem:

Y⃗ X⃗(f)_{1K} = Y^{L}X^{L}(f ∘ π)_{1}.  (4.7.3)

Trocando os papéis de X e Y em (4.7.3) e subtraindo as duas equações obtidas segue o resultado desejado.

Seja f: M → M um difeomorfismo. Para X ∈ Γ(T M) definimos o pull-back f^{∗}X de X por f fazendo (f^{∗}X)_{m} = df_{m}^{−1}(X_{f(m)}). Temos que f^{∗} é um automorfismo da álgebra de Lie Γ(T M). Se D é uma distribuição em M e f preserva D então f^{∗} deixa o subespaço Γ(D) invariante. Segue que f^{∗} deixa Γ(D)^{i} invariante para todo i ∈ ℕ. Segue daí que D_{f(m)}^{i} = df_{m}(D_{m}^{i}) para todo m ∈ M e todo i ∈ ℕ.

Se temos um grupo de Lie G agindo transitivamente em M e se D é G-invariante então D^{i} é uma distribuição G-invariante para todo i ∈ ℕ (segue do corolário 2 do lema 4.6 que D^{i} é de fato uma distribuição).

Considere agora uma distribuição G-invariante D em M = G/K, onde G é um grupo de Lie e K ⊂ G é um subgrupo fechado. Seja 𝔪 um subespaço complementar de 𝔨 em 𝔤 e seja 𝔡 o subespaço de 𝔪 tal que π̄(𝔡) = D_{1K}. Segue por indução, usando a identidade de Jacobi, que [𝔨, 𝔡^{i}] ⊂ 𝔨+𝔡^{i} (o caso i = 1 segue da G-invariância de D. Vide observação 2.2). Segue agora, por indução também, que (𝔨 + 𝔡)^{i} = 𝔨 + 𝔡^{i}. Em particular, [𝔨 + 𝔡] = 𝔨 + [𝔡]. Temos finalmente o seguinte teorema.

Teorema 4.8. Sejam G um grupo de Lie e K ⊂ G um subgrupo fechado, com álgebras de Lie 𝔤 e 𝔨 respectivamente. Seja 𝔪 ⊂ 𝔤 um subespaço complementar de 𝔨 em 𝔤 e seja D uma distribuição G-invariante em G/K. Seja 𝔡 ⊂ 𝔪 o subespaço tal que π̄(𝔡) = D_{1K}. Então π̄(𝔡^{i}) = π̄((𝔨 + 𝔡)^{i}) = D_{1K}^{i} para todo i ∈ ℕ.

Demonstração. Seja s: U ⊂ G/K → G uma seção local tal que 1K ∈ U, s(1K) = 1 e tal que a imagem de ds_{1K} seja 𝔪 (vide observação 4.6). Para X ∈ 𝔤 definimos X⃗ como no enunciado do lema 4.7.

Mostramos o resultado por indução em i. O caso i = 1 é trivial, já que 𝔡^{1} = 𝔡 e D^{1} = D. Suponha que π̄(𝔡^{i}) = D_{1K}^{i}.

Mostremos primeiramente que π̄(𝔡^{i+1}) ⊂ D_{1K}^{i+1}. Basta ver que π̄([X, Y]) ∈ D_{1K}^{i+1} sempre que X ∈ 𝔡^{i} e Y ∈ 𝔡. Escreva X = X_{1} + X_{2} com X_{1} ∈ 𝔨 e X_{2} ∈ 𝔪. Temos:

π̄([X, Y]) = π̄([X_{1}, Y]) + π̄([X_{2}, Y]),

onde o primeiro termo pertence a π̄(𝔡) = D_{1K}. Resta ver que π̄([X_{2}, Y]) ∈ D_{1K}^{i+1}. Como X_{2}, Y ∈ 𝔪, podemos usar o lema 4.7 e obtemos:

π̄([X_{2}, Y]) = \overrightarrow{[X_{2}, Y]}_{1K} = [X⃗_{2}, Y⃗]_{1K}.

Mas X⃗_{2} toma valores em D^{i} e Y⃗ toma valores em D, donde pelo corolário 3 do lema 4.6, vemos que [X⃗_{2}, Y⃗] toma valores em D^{i+1}.

Resta mostrar que D_{1K}^{i+1} ⊂ π̄(𝔡^{i+1}). Seja 𝔡′ ⊂ 𝔪 o subespaço tal que π̄(𝔡′) = D_{1K}^{i}. Seja X^{1}, …, X^{r} uma base de 𝔡′ e seja Y^{1}, …, Y^{k} uma base de 𝔡. Daí os campos X⃗^{j}, j = 1, …, r formam um referencial de D^{i} e os campos Y⃗^{l}, l = 1, …, k formam um referencial de D. Pelo lema 4.7 temos:

π̄([X^{j}, Y^{l}]) = \overrightarrow{[X^{j}, Y^{l}]}_{1K} = [X⃗^{j}, Y⃗^{l}]_{1K},

para j = 1, …, r e l = 1, …, k. Note que X^{j} ∈ 𝔨 + 𝔡^{i}, donde [X^{j}, Y^{l}] ∈ 𝔨 + 𝔡^{i+1}. Concluímos que [X⃗^{j}, Y⃗^{l}]_{1K} ∈ π̄(𝔡^{i+1}).

Segue agora de (4.1) (vide observação 4.4) que se X ∈ Γ(D^{i}), Y ∈ Γ(D) então [X, Y]_{1K} ∈ π̄(𝔡^{i+1}). Mas Γ(D)^{i+1} é gerado por Γ(D)^{i} e por colchetes de elementos de Γ(D)^{i} por elementos de Γ(D). Como obviamente Γ(D)^{i} ⊂ Γ(D^{i}) segue que Z_{1K} ∈ π̄(𝔡^{i+1}) sempre que Z ∈ Γ(D)^{i+1}. O resultado segue.

Corolário. Nas condições do teorema, temos que D é geradora por colchetes se e somente se 𝔨 + 𝔡 = π̄^{−1}(D_{1K}) gera 𝔤 como álgebra de Lie, i.e., se e somente se 𝔨 + [𝔡] = [𝔨 + 𝔡] = 𝔤.

Demonstração. Segue diretamente do teorema.

Aplicamos agora o corolário acima para as variedades que aparecem no teroema 4.4. Temos o seguinte.

Teorema 4.9. Nas condições do teorema 4.4, temos que D é uma distribuição geradora por colchetes.

Demonstração. Podemos identificar M com G/K da maneira usual e daí o corolário do teorema 4.8 nos diz que basta mostrar que 𝔨 + 𝔡 gera 𝔤 como álgebra de Lie. Observe que a subálgebra de Lie complexa de 𝔤^{c} gerada por um subespaço real 𝔰 ⊂ 𝔤 coincide com a complexificação da subálgebra de Lie real gerada por 𝔰 em 𝔤.

Basta mostrar então que 𝔨 + 𝔡 gera 𝔤^{c} como subálgebra de Lie complexa. Resta então ver que tal subálgebra gerada contém 𝔞. Mas para α ∈ Δ temos 𝔤_{α}^{c} ⊂ 𝔨^{c} + 𝔡^{c} (vide decomposição (4.4.5)) e fazendo colchetes de Lie de elementos de 𝔤_{α}^{c} com elementos de 𝔤_{−α}^{c} obtemos ℂH_{α} (vide observação 3.2.1). Os vetores H_{α} geram 𝔥^{c} e 𝔞^{c} ⊂ 𝔥^{c}.

Analisamos agora sob que condições a distribuição que aparece no teorema 4.4 é fortemente geradora por colchetes (ou de contato). Observe que quando a distribuição é fortemente geradora por colchetes, a variedade sub-Riemmanniana trivialmente possui pmr (vide corolário do lema 1.4). Como mostraremos a seguir, isso em geral não ocorre nos exemplos produzidos pelo teorema 4.4.

Teorema 4.10. Nas condições do teorema 4.4, temos que D é de contato quando 𝔞 tem dimensão 1 e quando dim 𝔞 > 1 a distribuição D não é fortemente geradora por colchetes.

Demonstração. Observando que a dimensão de 𝔞 é exatamente a codimensão de D (na demonstração do teorema 4.4 foi observado que 𝔤 = 𝔨 ⊕ 𝔡 ⊕ 𝔞) e recordando que quando D tem codimensão 1 então D é de contato se e somente se D é fortemente geradora por colchetes, vemos que o teorema se reduz a mostrar que D é fortemente geradora por colchetes se e somente se 𝔞 tem dimensão 1.

Utilizamos o lema 1.4. Devemos então estudar o núcleo de ω_{|D^{0}} fora da seção nula de D^{0}. Utilizamos então o teorema 2.1 e fixamos 𝔪 igual ao complemento K-ortogonal de 𝔨 em 𝔤 (que é de fato um subespaço complementar de 𝔨, como já foi observado na demonstração do teorema 4.4). Temos então que um vetor (v, ζ) ∈ T_{gK}(G/K) × 𝔡^{0} pertence ao núcleo de (f^{∗}ω)_{|U×𝔡^{0}} no ponto (gK, λ) ∈ U × 𝔡^{0} se e somente se:

w ∈ 𝔡 e ζ = (π_{𝔪} ∘ adv̂ ∘i_{𝔪})^{∗}λ,  (4.10.1)

com v̂ = s(gK)^{−1}ds_{gK}(v), w = π_{𝔪}(v̂) = s(gK)^{−1}v (vide observação 2.4). Repetimos agora alguns argumentos da demonstração do teorema 4.4.

Podemos identificar 𝔪 com 𝔪^{∗} através do isomorfismo X ↦ K(X, ·) e daí 𝔡^{0} fica identificado com 𝔞. Como π_{𝔪} ∘ adv̂ ∘i_{𝔪} é K-antisimétrica vemos que (4.10.1) equivale a:

w ∈ 𝔡 e ζ = −π_{𝔪}([v̂, λ]).  (4.10.2)

Como v̂ − w ∈ 𝔨 e λ ∈ 𝔞, vemos que podemos trocar v̂ por w em (4.10.2). Mas w ∈ 𝔡 e [𝔞, 𝔡] ⊂ 𝔡 ⊂ 𝔪, donde a projeção π_{𝔪} pode ser desprezada. Daí (4.10.2) equivale a:

w ∈ 𝔡 e ζ = −[w, λ].

Mas [w, λ] ∈ 𝔡 e ζ ∈ 𝔞, donde ζ = [w, λ] = 0. Segue que o núcleo de (f^{∗}ω)_{|U×𝔡^{0}} no ponto (gK, λ) (ou o núcleo de ω_{|D^{0}} no ponto f(gK, λ)) é trivial se e somente se 𝔷(λ) ∩ 𝔡 = 0, i.e., λ não comuta com elementos não nulos de 𝔡.

Segue que D é fortemente geradora por colchetes se e somente se 𝔷(λ) ∩ 𝔡 = 0 para todo λ ∈ 𝔞, λ ≠ 0. Observe que 𝔷(λ) ∩ 𝔡 = 0 é equivalente a 𝔷_{𝔤^{c}}(λ) ∩ 𝔡^{c} = 0 e que 𝔷_{𝔤^{c}}(λ) é dado como em (4.4.4). Utilizando a decomposição (4.4.5) vemos que 𝔷(λ) ∩ 𝔡 = 0 se e somente se não existe α ∈ Δ com α_{|𝔞} ≠ 0 e α(λ) = 0.

Concluímos que D é fortemente geradora por colchetes se e somente se para todo α ∈ Δ temos α_{|𝔞} = 0 ou Ker α_{|𝔞} = 0. Como a imagem de α_{|𝔞} tem dimensão (real) menor ou igual a 1 (vide corolário do lema 3.3.8), segue que isso ocorre se e somente se dim 𝔞 = 1 (não é possível que α_{|𝔞} = 0 para todo α ∈ Δ, pois isso implicaria que 𝔞 está contido no centro de 𝔤).

Bibliografia.

[B] C. Bär. Carnot Caratheodory Metriken. Diplomarbeit, Bonn, 1988.

[Fe] P. J. Fernandez. Medida e Integração. Rio de Janeiro, Instituto de Matemática Pura e Aplicada, CNPq, 1976 (projeto Euclides).

[FG] E. Falbel e C. Gorodski. Sub-Riemannian homogeneous spaces in dimensions 3 and 4. Geometriae Dedicata, 1996.

[GK] C. Golé e R. Karidi. A note on Carnot geodesics in nilpotent Lie groups. J. Dyn. and Control Syst., Vol. 1, No. 4, 1995, 535-549.

[Hm] U. Hamenstädt. Some regularity theorems for Carnot-Carathéodory metrics. J. of Diff. Geometry 32 (1990), pp. 819-850.

[KN] S. Kobayashi e K. Nomizu. Foundations of differential geometry. Vol. 1. New York, Interscience, 1963.

[Kp] I. Kupka. Géométrie sous-Riemanniene. In Séminaire Bourbaki, número 817, 1995-96.

[Kp2] I. Kupka. Abnormal extremals, preprint, 1992.

[LS] W. Liu e H. J. Sussmann. Shortest Paths for Sub-Riemannian Metrics on Rank-2 Distributions. Memoirs of the AMS. Number 564, Vol. 118, November, 1995.

[Mg] R. Montgomery. A survey of singular curves in sub-Riemannian geometry. J. Dyn. and Control Syst., 1:1:49-90, 1995.

[Mg2] R. Montgomery. Abnormal minimizers, to appear in SIAM J. Control and Opt.

[Mg3] R. Montgomery. Singular extremals on Lie groups. Math. Control Signals Systems (1994) 7:217-234.

[Sm] H. J. Sussmann. A weak regularity theorem for real analytic optimal control problems. Rev. Mat. Iberoamer., 2(3)(1986), 307-317.

[St] R. Strichartz. Sub-Riemannian geometry. J. Diff. Geometry 24 (1986), pp. 221-263.

[VG] A. M. Vershik e V. Ya. Gershkovich. Non-holonomic Dynamical Systems, Geometry of Distributions and Variational Problems, volume 16 da Encyclopaedia of Mathematical Sciences series, páginas 1-81. Springer-Verlag, 1994. Original russo 1987.

[Vj] V. S. Varadarajan. Lie groups, Lie algebras and their representations. Prentice-Hall series in modern analysis, 1974, New Jersey.

[W] J. A. Wolf. Spaces of constant curvature. New York, Mc-Graw-Hill, 1967.

[Wn] F. W. Warner. Foundations of differentiable manifolds and Lie groups. Glenview, Scott, 1971.