Proyecciones Ortogonales y Proceso de Gram-Schmidt

Departamento de Matemáticas, CCIR/ITESM

9 de febrero de 2011

Índice
22.1. Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
22.2. Ortogonalidad a un espacio . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
22.3. Proyección ortogonal . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
22.4. Proceso de ortogonalización de Gram-Schmidt . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3

22.1. Introducción
En esta lectura veremos el proceso para ortogonalizar un conjunto de vectores. Este proceso es conocido
como el proceso de Gram-Schmidt.

22.2. Ortogonalidad a un espacio

Teorema

Sea V un espacio vectorial con producto interno •. El vector u es ortogonal a todo vector de
W = Gen{v1 , . . . , vk } si y sólo si

u • vi = 0, para todo i = 1, 2 . . . , k

Demostración
Si u es ortogonal a todo W , entonces es ortogonal a todo elemento de W . Los elementos vi son también
elementos de W . Por tanto, para cada i = 1, 2, . . . , k se cumple u • vi = 0.
Supongamos que para cada i = 1, 2, . . . , k se cumpla u • vi = 0, y sea v un elemento cualquiera de W . Como
W está generado por los vi , deben existir ci tales que:

v = c1 v1 + · · · + ck vk

Haciendo el producto interno con u:

u • v = c1 u • v1 + · · · + ck u • vk
= c1 · 0 + · · · + ck · 0 = 0

por tanto, u es ortogonal a todo elemento de W .

22.3. Proyección ortogonal

Nuestro principal resultado referente a ortoginalidad es el siguiente.
Teorema
 Suponga que V es un espacio vectorial con producto interno. Y sea b un vector de V y W un
subespacio lineal de V . Si W posee una base ortogonal, entonces

1. Existe z ∈ W tal que b − z ⊥ W .

2. El vector z que cumple lo anterior es único.
3. Para todo y de W : d(z, b) ≤ d(y, b).

Demostración

Sea B = {a1 , a2 , . . . , ak } una base ortogonal para W . Definamos

     
b • a1 b • a2 b • ak
z= a1 + a2 + · · · + ak
a 1 • a1 a2 • a2 ak • a k

Por conveniencia representaremos

b • ai
fi =
ai • ai
Veamos que z cumple el requisito 1. De acuerdo al resultado previo debemos probar que (b − z) • ai = 0 para
cada i = 1, 2, . . . , k. Si utilizamos las propiedades del producto interno y la ortogonalidad de B tenemos:
 
b − kj=1 fj aj • ai
P
(b − z) • ai =
P 
k
= b • ai − j=1 f j a j • ai
Pk
= b • ai − j=1 fj aj • ai
= b • a i − fi a i • ai
= b • ai − ab•a i
i •ai
ai • ai
= b • a i − b • ai = 0

Por lo anterior y el teorema previo concluimos que b − z ⊥ W .

Supongamos que el vector y de W también cumple la condición 1. Es decir, que b − y es ortogonal a todo
vector de W . Para probar que y = z, veamos que la magnitud de y − z es cero.

(y − z) • (y − z) = (y − z + b − b) • (y − z)
= (−(b − y) + (b − z)) • (y − z)
= −(b − y) • (y − z) + (b − z) • (y − z)

Como z y y son elementos de W y W es un subespacio lineal, y − z está en W . y como los vectores b − z y

b − y son perpendicuales a todo vector de W se obtiene que:

(b − y) • (y − z) = 0 y (b − z) • (y − z) = 0

de esta manera tenemos que (y − z)•(y − z) = 0. Por tanto ky − zk2 = 0. Y ası́ y−z = 0; de donde concluimos
que y = z.
Ahora, sea y un vector cualquiera de W , ası́:

(b − y) • (b − y) = (b − y + z − z) • (b − y + z − z)
= ((b − z) + (z − y)) • ((b − z) + (z − y))
= (b − z) • (b − z) + (b − z) • (z − y)+
(z − y) • (b − z) + (z − y) • (z − y)
= (b − z) • (b − z) + (z − y) • (z − y)

2
Por tanto
d(y, b)2 = d(z, b)2 + d(y, z)2
De donde concluimos que d(x, b) ≤ d(y, b) para todo y de W .

Definición 22.1
Sea V un espacio vectorial con producto interno. Sea u un vector y sea W un subespacio con una base ortogonal
B = {v1 , . . . , vk }. Entonces, la proyección ortogonal de u sobre W es el vector
u • v1 u • vk
upr = v1 + · · · + vk
v1 • v1 vk • vk
La diferencia uc = u − up r se llama la componente de u ortogonal a W .
u • v1 u • vk
uc = u − v1 − · · · − vk
v1 • v1 vk • vk
u = upr + uc
El vector upr es el vector de W lo más cercano a u y la distancia de u a W es la magnitud del vector uc .

22.4. Proceso de ortogonalización de Gram-Schmidt

Sea V un espacio vectorial con producto interno. Todo subespacio W con una base tiene al menos una base
′
ortogonal y una base ortonormal. Si B = {v1 , . . . , vk } es cualquier base de V , entonces B = {u1 , . . . , uk } es
una base ortogonal, donde

u1 = v 1
u2 = v2 − uv21 •u
•u1 u1
1

v3 • u1 v3 • u2
u3 = v 3 − u1 • u 1 u1 − u2 • u2 u2
..
.
vk • u1 vk • u2 v2 • uk−1
uk = v k − u 1 • u 1 u1 − u 2 • u 2 u2 − ··· − uk−1 • uk−1 uk−1

y
Gen{v1 , . . . , vi } = Gen{u1 , . . . , ui }, i = 1, . . . , k
′′ ′
Una Base ortonormal B se obtiene normalizando B .
 
′′ u1 uk
B = ,...,
ku1 k kuk k

El proceso anterior es conocido como proceso de Gram-Schmidt.

Ejemplo 22.1
Determine una base ortogonal y una ortonormal de R3 aplicando el proceso de Gram-Schmidt a la base
B = {v1 , v2 , v3 } , en la cual
     
1 −2 1
v1 =  −1  , v2 =  3  , v3 =  2 
1 −1 −4

Solución Por razones de conveniencia, definamos

v j • ui
xij = (1)
ui • uj

3
 Figura 1: Captura de los vectores del ejemplo 1.

Se toma u1 = v1 . Como v2 • u1 = −6 y u1 • u1 = 3 se tiene x12 = −6/3 y por tanto se tiene:

u2 = v2 − x12 u1
   
−2   1
6
=  3 − −  −1 
3
−1 1
 
0
=  1 
1

Ya que v3 • u1 = −5, v3 • u2 = −2, y u2 • u2 = 2, se tiene que x13 = −5/3 y x23 = −1 y entonces

u3 = v3 − x13 u1 − x23 u2
     
1   1 0
−5
=  2 −  −1  − (−1)  1 
3
−4 1 1
 8 
3
4
=  3

− 34

Ası́, la base ortogonal es B ′ = {u1 , u2 , u3 } donde

     8 
1 0 3
u1 =  −1  , u2 =  1  , u3 =  43 
1 1 − 43

Por último, normalizamos para obtener una base ortonormal B ′′ :

1 2
   
√ 0 √
   
 
3 6
 
  1  

    

 − √1   √   √  1
  
′′
B =  , 2 ,
3 6 

    1  
1 1 
 
  √ 
√ − √
 
2

 

3 6
Los cálculos anteriores pueden llevarse a cabo en la TI 89 o Voyage. La figura 1 contiene la captura de los
vectores. Las figuras 2 y 3 contienen los pasos del algoritmo sobre el conjunto de vectores inicial. Las figuras
3 y 4 contienen la normalización de los vectores resultantes del proceso de Gram-Schmidt. La figura 5

4
 Figura 2: Seguimiento del algoritmo en el ejemplo 1.

Figura 3: Conclusión del algoritmo GS e inicio del ortonormalización.

Figura 4: Ortonormalización del conjunto.

Figura 5: Resultado del ejemplo 1.

5
 Figura 6: Formación de la matriz para el ejemplo 1.

Figura 7: QR en el ejemplo 1.

contiene la matriz cuyas columnas son el resultado del proceso del ortonormalización completo. El proceso de
Gram-Schmidt combinado con el de ortonormalización está implementado en la TI mediante la rutina llamada
factorización QR. El conjunto de entrada debe estar en las columnas de una matriz. En la figura 6 se ilustra
la formación de la matriz cuyas columnas son el conjunto inicial. Note en ella, el uso de la función augment
con punto y coma para la separación de los vectores y el uso de la transpuesta debido a que ellos inicialmente
fueron definidos como vectores renglón. En la figura 7 se ilustra el uso del comando QR. Note que no se usan
paréntesis debido a que es una rutina y no una función. El primer argumento es la matriz y el segundo y tercero
son variables dónde se depositarán los cálculos. Note que la matriz q resultante contiene en sus columnas el
mismo resultado de nuestro proceso completo.
Ejemplo 22.2
Determine la mı́nima distancia de v3 al espacio V que generan v1 y v2 con los datos del problema anterior.
Solución
Para este cálculo debemos cambiar a {v1 , v2 } por una base ortogonal y poder utilizar el resultado sobre la
descomposición. Por los resultados del problema previo tenemos que una base ortonormal es: B ′ = {u1 , u2 }
donde    
1 0
u1 =  −1  , u2 =  1 
1 1
Ya que v3 • u1 = −5, v3 • u2 = −2, y u2 • u2 = 2, entonces
   
v 3 · u1 v 3 · u2
v3c = v3 − u1 − u2
u1 · u1 u2 · u2
     
1   1   0
−5 −2
=  2 −  −1  −  1 
3 2
−4 1 1
 8 
3
4
=  3

− 43

6
 Figura 8: Datos y ortonormalización del ejemplo 2.

Figura 9: Cálculos finales del ejemplo 2.

Por lo tanto la distancia de v3 a V es

p 4√
||v3c || = (8/3)2 + (4/3)2 + (−4/3)2 = 6
3
En la figura 8 se ilustra la forma de realizar los cálculos del ejemplo 2 en la TI. Note que el vector v3 se
definió como renglón, y por ello el uso de v3 T . Aplicando el concepto de multiplicación de una matriz por un
vector,

la expresión qT v3 T calculará < u1 • v3 , u2 • v3 > (Recuerde que ui • ui = 1).

la expresión q qT v3 T calculará

pr = (u1 • v3 ) u1 + (u2 • v3 ) u2

En la figura 9 se obtiene la distancia mı́nima de v3 al espacio generado por v1 y v2 :

4√
r
32
d = kv3 − prk = = 6
3 3

Ejemplo 22.3
Calcule una base ortogonal y una ortonormal de R3 aplicando el proceso de Gram-Schmidt a la base B , en
la cual
     
 2 0 1 
B =  −1  ,  3  ,  2 
1 −1 0
 

Solución
Utilizando      
2 0 1
v1 =  −1  , v2 =  3  , v3 =  2 
1 −1 0

7
Iniciemos con u1 = v1 . Como v2 • u1 = −4 y u1 • u1 = 6 en ese caso
v 2 • u1
u2 = v 2 − u1
u1 • u1
   
0   2
−4 
=  3 − −1 
6
−1 1
 4 
3
7
=  3

− 31
22
Ya que v3 • u1 = 1, v3 • u2 = 6, y u2 • u2 = 3 , entonces
v 3 • u1 v 3 • u2
u3 = v 3 − u1 − u2
u1 • u1 u2 • u2

4
    ! 
1   2
1  −6 3
7
=  2 − −1  − 22

3

6
0 1 3 − 13
 14 
− 33
17 
= 
66
7
− 66
Ası́ la base ortogonal es B ′ = {u1 , u2 , u3 } donde
   4   14 
2 3 − 33
u1 =  −1  , u2 =  73  , u3 =  17
66

1 7
1 −3 66

O sea    4   14 
 2 3 − 33 
′ 7   17 
B =  −1 ,
 
3 , 66
1 7
1 −3
 
66

Por último normalizamos para obtener una base ortonormal B ′′ :


1
  √4   − √ 28 
66 1122
 
 2 
′′
1 7 17
B =  −4  ,  √ , √
   
66   1122 
1
− √166 7
− √1122

 

4

Ejemplo 22.4
Calcule una base ortogonal y una ortonormal de R3 aplicando el proceso de Gram-Schmidt a la base B , en
la cual
      
 1 4 1 
B = v1 =  −2  , v2 =  3  , v3 =  2 
1 −5 3
 

8
 Solución
Iniciamos con u1 = v1 . Como v2 • u1 = −7 y u1 • u1 = 6 en ese caso

u2 = v2 − uv21 ·· uu11 u1
   
4
1
=  3  − −7 6
 −2 
−5 1
 31 
6
2
=  3

− 23
6

13 251
Ya que v3 • u1 = 0, v3 • u2 = 2 , y u2 • u2 = 6 , entonces
v 3 • u1 v 3 • u2
u3 = v 3 − u1 − u2
u1 • u1 u2 • u2
     31 
1 1  13  6
0 2 


=  2 − 6
 −2  − 251
2 
3
6 23
3 1 −6
 99 
502
476
=  251

1805
502

Ası́ la base ortogonal es B ′ = {u1 , u2 , u3 } donde

7 99
     
 1 6 502 
2 476
B ′ =  −2  ,  3
, 
251

1 1805
1
 
6 502

Por último, normalizamos para obtener una base ortonormal B ′′ :


1
  √7  
√ 99

66 3494402
 
 4 
B ′′ =  − 21  ,  √266  , √ 952
   
 3494402 
1
√1 √ 1805

 

4 66 3494402