Professional Documents
Culture Documents
Optimización Continua
Erik Papa Quiroz
erikpapa@gmail.com
minerva
f (x̄) = 0.
minerva
Método
f (x̄) = 0.
Método
El Método de Newton genera una sucesión x k tal que
x 0 ∈ R (dado),
f (x k −1 )
x k = x k −1 − .
f ′ (x k −1 )
minerva
Ejemplo
Encontrar la raı́z de
f (x) = x − e−x .
Solución.
1 f (0) = −1 < 0 y f (1) > 0, entonces en [0, 1] existe la raı́z
x̄.
2 Tomando x 0 = 0.5 tenemos
x k −1 − exp(−x k −1 )
x k = x k −1 −
1 + exp(−x k −1 )
minerva
Ejemplo (continuación)
1 los iterados son:
x 1 = 0.566311
x 2 = 0.567143165, f (x 2 ) = −1.9651 × 10−7
x 3 = 0.5671432904, f (x 3 ) = −1.53 × 10−11
x 4 = 0.5671431904, f (x 4 ) ≈ 0.
minerva
minerva
Iteraciones
1 Paso 1: k = 1
2 Paso 2: Mientras k ≤ N0 , hacer los paso 3 a 5
3 Paso 3:
f (x k −1 )
x k = x k −1 − .
f ′ (x k −1 )
4 Paso 4: Si x k − x k −1 < ǫ o |f (x k )| < epsilon, parar.
5 Paso 5: hacer k = k + 1.
6 Paso 6: Si k > N0 , entonces proceso sin éxito.
minerva
Propiedades de convergencia
Sea f ∈ C 2 ([a, b]) y existe x̄ ∈ [a, b] tal que
f (x̄) = 0,
f ′ (x̄) 6= 0.
Entonces, existe δ > 0 tal que para cualquier
x 0 ∈ [x̄ − δ, x̄ + δ] , la sucesión generada por el método de
Newton converge a x̄ y
2
k +1
x − x̄ ≤ C x k − x̄ .
minerva
Propiedades de convergencia
Si f ∈ C 2 (R) es cresciente, convexa y tiene una raı́z, entonces
la raı́z es única y la iteración generada por el método converge
para cualquier punto inicial.
minerva
Sistema No Lineal
Dado una función F : Rn → Rn , encontrar x̄ ∈ Rn tal que
F (x̄) = 0.
minerva
Método
Dado una función F : Rn → Rn continuamente diferenciable y
x 0 ∈ Rn , en cada iteración k resolver
J(x k )d k = −F (x k ),
y hacer
x k +1 = x k + d k
minerva
Ejemplo
Considere
x 0 = (1, 5).
Ejemplo (Continuación)
Primera iteración: Resolver
J(x 0 )d 0 = −F (x 0 ),
obteniendose
−13 −11
d0 = , .
8 8
Ası́,
x 1 = x 0 + d 0 = (−0.625, 3.625).
minerva
Ejemplo (Continuación)
Segunda iteración: Resolver
J(x 1 )d 1 = −F (x 1 ),
obteniendose
1 145 −145
d = , .
272 272
Ası́,
x 1 = x 0 + d 0 = (−0.092, 3.096).
Se observa que el método trabaja bien.
minerva
Observación
La convergencia del método de Newton depende del punto
inicial. En efecto, considere
minerva
Desventajas
En general no se tiene la convergencia global
Requiere el conocimiento de J(x k ) en cada iteración
Cada iteración requiere la solución de un sistema lineal
que puede ser singular o mal condicionada.
minerva
Teorema
Sea F : Rn → Rn una función continuamente diferenciable en
D convexo y abierto. Asuma que existe x ∗ ∈ Rn tal que
F (x ∗ ) = 0, y existen r , β > 0 tal que B(x ∗ , r ) ⊂ D, J(x ∗ )−1
existe con ||J(x ∗ )−1 || ≤ β, y J ∈ Lipγ (B(x ∗ , r )). Entonces existe
ǫ > 0 tal que para todo x 0 ∈ B(x ∗ , ǫ) la sucesión generada por
x k +1 = x k − (J(x k ))−1 F (x k ),
Teorema de Kantorovich
Sea r > 0, x 0 ∈ Rn , F : Rn → Rn una función continuamente
diferenciable en B(x 0 , r ). Asumase que J ∈ Lipγ (B(x 0 , r )), con
J(x 0 ) no singular y que existe constantes β, η ≥ 0 tal que
Defina γR = βγ, α = γR η.
minerva
minerva
y
k η
||x k − x ∗ || ≤ (2α)2 .
α
minerva
min{f (x) : x ∈ Rn }
minerva
x k +1 = x k − λk (∇2 f (x k ))−1 ∇f (x k ),
minerva
Regla de Armijo
Dados los escalares s, β, σ con 0 < β < 1 y 0 < σ < 1, definir
λk = sβ mk ,
f (x k ) − f (x k + sβ m d k ) ≥ −σβ m s∇f (x k )T d k .
minerva
Ejemplos N1
Considere el problema
Consideraremos
x 0 = (1, −2)
1
β= , s = 1, σ = 0.1
2
minerva
Ejemplo N2
Considere el problema
Consideraremos
x 0 = (1, −2, 3, −4, 5)
β = 0.5, s = 1, σ = 0.1
minerva
Aplicaciones
Métodos de Puntos Interiores
minerva
Optimizacion Lineal
minc T x
s.a
(p)
Ax =b
x ≥0
L(x, λ, s) = c T x − λT (Ax − b) − sT x
minerva
Optimizacion Lineal
KKT: t
A λ+s =c
Ax = b
xi si = 0
xi ≥ 0
si ≥ 0
minerva
Optimizacion Lineal
Encontrar: (x̄, λ̄, s̄) tal que
(x̄, s̄) ≥ 0
minerva
minerva