Professional Documents
Culture Documents
Processus Stochastiques
Definition. Caractrisation d'ordre N. Moments. Stationnarit. Ergodicit.
Processus Gaussiens. Processus Markoviens. Thorme de Mercer,
reprsentation de Karhunen-Love. Reprsentation spectrale. Processus blancs.
Modles paramtriques (AR, MA, ARMA). Modles d'tat. Dcomposition de
Wold.
1. Dfinition et proprits
1.1 Dfinition
Un processus alatoire (ou stochastique) (p.s.) peut tre dfini de deux faons:
Les deux dfinitions sont quivalentes, et on utilisera une et l'autre selon le problme en tude.
Exemple
Dans cet exemple on considre un processus alatoire dfini partir d'une seule variable alatoire
uniformment distribue en [0,1], de la faon suivante:
- 29 -
s (1, ) ( )
s ( k 1, ) ( s ( k , ) ) 1 , k 2 , 3, 4 ,...
o ( a ) b est le rsultat de la division entire de a par b, et est un nombre irrationnel.
La figure suivante illustre une des ralisations possibles de ce processus.
Le caractre alatoire du processus est plus clairement mis en vidence par la figure suivante, o sont
reprsentes trois ralisations du processus, obtenues partir de trois conditions initiales diffrentes:
Exemple
Dans cet exemple, on prsente un processus qui est plus naturellement modlis comme un ensemble de
variables alatoires indexes.
Considrons le procssus alatoire discret s( k ), k 1,...
s (1) 0,
s ( k 1) s ( k ) ( k ), k 2 , 3,...
o les variables alatoires ( k ) sont iid, gaussiennes, de moyenne nulle et variance 2.
La figure suivante illustre quelques ralisations de ce processus.
- 30 -
1.3 Moments
Moment d'ordre 1 (moyenne)
mx (t ) E x (t ) xt p xt ( xt )dxt
On notera que la moyenne d'un processus alatoire, dfinie comme la valeur moyenne de
chacune des variables alatoires qui constituent le processus, est une fonction dterministe de
variable relle.
Proprits
1. Une fonction dauto-corrlation est dfinie non-ngative, cest dire,
- 31 -
4. Fermeture
Si R(t,s) et P(t,s) sont des fonctions dauto-corrlation, alors
R(t,s)+P(t,s) est aussi une fonction dauto-corrlation
R(t,s)P(t,s) est aussi une fonction dauto-corrlation
Si a,b>0, alors aR(t,s)+bP(t,s) est encore une fonction dauto-corrlation
Formes bilinaires
Pour toute fonction f(t), R(t,s) =f(t)f(s) est une fonction dautocorrlation.
On dfini encore le coefficient de corrlation, qui est une mesure normalise de la corrlation
statistique entre les variables correspondantes aux deux instants du temps, t et u:
Kx (t , u)
Cx ( t , u )
Kx (t , t ) Kx (u, u)
Le module du coefficient de corrlation est toujours infrieur 1 (vrifier cette affirmation).
On remarque que les trois fonctions qu'on vient de dfinir sont des fonctions relles
(dterministes) de deux variables relles.
Exercice: Dterminer la caractrisation partielle d'ordre deux du procssus de l'exemple de la page 29.
La corrlation croise des processus x ( t ) et y ( t ) est le moment crois (non-centr) d'un pair
de variables prises chacune dans un des processus alatoires:
Rxy ( t , u ) E x ( t ) y ( u )
K xy (t , u) E x(t ) mx (t ) y(u) my (u)
1.3.2 Processus Orthogonaux
On dit que deux processus sont orthogonaux quand leur fonction de corrlation est
identiquement nulle:
Rxy ( t , u ) 0, t , u T
On tabli par la suite l'analogie entre cette notion d'orthogonalit (statistique) et la notion gomtrique
d'orthogonalit de vecteurs dans un espace Euclidean de dimension finie. Soient x et y deux vecteurs en
Rn, et reprsentons leur produit scalaire (ou produit interne) par <x,y>. On dit que les vecteurs sont
orthogonaux (au sens gomtrique, c'est dire qu'ils forment entre eux un angle de 90o) si leur produit
interne est nul:
n
x , y x T y xi yi 0 .
i 1
x (t ) a1 , a2 ,..., a nx
y (u) b1 , b2 ,..., bny
et soit p ( ai , b j ) Pr( x ( t ) ai , y ( u) b j ), i 1,..., nx ; j 1,..., n y la probabilit
conjointe des deux processus. Alors la valeur moyenne de l'quation antrieure peut s'crire
nx n y
R xy ( t , u ) ai b j p ( ai , b j ) 0 .
i 1 j 1
Admettons que l'on fait N tirages au sort des variables alatoires x ( t ) et y ( u ) et construisons deux
vecteurs alatoires X et Y, de dimension N:
X x1L x N , Y y1L y N ,
o ( xi , yi ) est la paire de valeurs obtenues dans le i-imme tirage.
Selon la loi des grands nombres, on doit avoir x ( t ) ai et y ( u ) b j un nombre de fois gal
Np ( ai , b j ) . La somme de l'expression antrieure est donc gale a
N
Rxy ( t , u ) X T Y xi yi
i 1
qui est bien l'expression du produit interne des deux vecteurs, reliant ainsi les notions de orthogonalit
statistique et de orthogonalit gomtrique.
Notons que non-corrlation n'implique pas, en gnral, orthogonalit. On peut dmontrer que
K xy ( t , u ) Rxy ( t , u ) mx ( t ) my ( u ) .
On peut donc avoir corrlation nulle sans que les processus soient orthogonaux. Cependant, pour des
processus de moyenne zro, les deux conditions sont, videmment, quivalentes.
Exemple.
Considrer le processus dfini dans la page 28. Montrer qu'il s'agit d'un processus stationnaire.
Processus cyclo-stationnaires
Un processus est cyclo-stationnaire au sens strict si ses statistiques sont des fonctions
priodiques du temps (de priode T).
Thorme
Si x ( t ) est un processus cyclo-stationnaire au sens strict et est une variable alatoire
uniforme en 0,T , alors x ( t ) x ( t ) est un processus stationnaire au sens strict.
Un processus est cyclo-stationnaire au sens large si ses moments d'ordre 1 et 2 sont des
fonctions priodiques :
mx ( t kT ) mx ( t )
R x ( t kT , u kT ) R x ( t , u )
Thorme
- 34 -
1.6 Ergodicit
La proprit d'rgodicit lie les moyennes statistiques (effectues sur l'espace des ralisations
sous-jacent la dfinition des variables alatoires qui constituent le processus) et les
moyennes temporelles (effectues sur les fonctions du temps qui sont les ralisations du
processus).
Un processus alatoire est ergodique si ses moments peuvent tre obtenus comme des
moyennes partir d'une seule de ses ralisations. Ceci doit tre vrai en particulier pour
les moments d'ordre 1 et 2:
1
T T
x(t , )dt T m x (t )
1
T T
x(t , ) x(t , )dt T
R x (t , t )
1
T T
x(t , ) x(t , )dt T
R x ( )
On peu donc affirmer que pour qu'un processus soit rgodique, il doit ncessairement
tre stationnaire:
ergodicit stationnarit
L'affirmation contraire est fausse, comme le montre l'exercice suivant.
Exercice. Soient X et Y deux processus stationnaires et ergodiques. A partir de ces deux processus on
construit un troisime processus de la faon suivante. On lance une pice et si le rsultat est face on
observe le processus X : z (k ) x( k ) ; en cas contraire on observe le processus Y: z (k ) y (k ) .
Montrer que le processus Z est stationnaire, mais pas ergodique.
Exercice. Montrer que le processus introduit dans l'exemple 1 est ergodique. Vrifier ceci en comparant
(utiliser Matlab) l'histogramme d'une ralisation x (1, 1 ), x ( 2, 1 ),L x ( N , 1 ) (utiliser plusieurs
valeurs de N) avec la densit d'ordre 1 obtenue thoriquement.
1 T
T
2T
T
x(t )dt .
On peut conclure facilement que la valeur moyenne de la variable alatoire T est aussi zro:
1 1
E T E Ex(t )dt 0
T T
2T
T
x / t )dt
2T T
T
2
E T E 4T1
2
2 T
T T
T
x / t )dt x(u )du
Ex(t ) x(u )dtdu
1 T T
4T 2 T T
1 T T
4T 2 T T
K (t u )dtdu
L'intgrale de l'quation prcdante peut tre simplifie. Si on dfinie t u , on voit que la fonction
qui est intgre est constante selon les lignes indiques sur la figure suivante:
u
t-u=0
T
-2T
-T T t
-T 2T
(1 / 2T )
2T
2
(1 ( / T )) e d
T 2 T
1 e 2 T
(1 / T ) 2 2 T 2
La limite quand T de cette expression est 0, et donc la variable alatoire T -- la valeur moyenne
temporelle -- tend en probabilit vers la valeur moyenne statistique, ce qui montre que le processus est
ergodique pour la moyenne.
- 36 -
Cet exemple montre que l'ergodicit pour la moyenne correspond une condition sur le moment d'ordre
deux du processus. On peut vrifier facilement que l'ergodicit pour l'auto-correlation conduit une
condition sur un moment d'ordre quatre du processus.
Un p.s. est Gaussien si toute combinaison linaire (de coefficients qui ne sont pas
identiquement nuls) est une variable alatoire gaussienne.
Un p.s. est Gaussien si ses densits d'ordre n sont conjointement gaussiennes, pour
toutes valeurs de n.
Exercice.
Un p.s. discret, x (1), x ( 2 ),... , est Gaussien, de moyenne nulle. Soit ij E x ( i ) x ( j ) . Montrer
que le processus est stationnaire ssi ij dpend uniquement de i j .
Dfinition.
Un processus x ( t ), t T est de Markov si
p( x(k 1) | x(k ) x(k 1) x(k 2) ) p( x(k 1) | x(k )) .
L'quation prcdente dcrit de faon formelle la proprit suivante: le futur et le pass sont
conditionnellement indpendants, tant donn le prsent.
Exemple
Soient Y1 , Y2 , des variables alatoires iid, et S le processus dfini par ses sommes partielles
k
S ( k ) y (i ) .
i 1
Montrer que S est un processus de Markov (noter que ce processus a t introduit dans l'exemple de la
page 29).
Quand les variables alatoires x (k ) sont discrtes, dfinies dans un mme ensemble
dnombrable , on appelle le processus de Markov une chaine de Markov. Le processus
- 37 -
S n tudi dans lappendix du Chapitre 1 est un exemple dune chaine de Markov, qui prend
des valeurs dans les entiers. Ces processus sont compltement caractriss par
la distribution de leur valeur initiale
Prx(0) ai pi0 , ai
lensemble de probabilits conditionnelles
Prx(k ) ai | x(k 1) a j pij (k ), ai , a j
On doit avoir, videmment,
pi
0
i 1 pi
ij (k ) 1, j, k 1,2,...
La probabilit pour que la chaine prenne la valeur x(k ) ai linstant k, sachant que sa
valeur linstant n est x ( n) a j est donne par
pij (k , m) Prx(k ) ai | x(n) a j piq (k , r ) p qj (r , n)
q
o r est un instant quelconque pris entre k et n. Cette formule est connue par le nom
dquation de Chapman Kolmogorov, et joue un rle fondamentale dans ltude des processus
Markov.
Pour des chaines avec des transitions stationnaires, la probabilit dpend uniquement de la
distance entre les deux instants considrs :
pij (k n) Prx(k ) ai | x(n) a j piq (k r ) p qj (r n)
q
Considrons maintenant le cas o lensemble de valeurs prises par la chaine est fini, cest
dire # M . Soit P la matrice MxM dont les entres sont les valeurs de la probabilit de
transition de la chaine
p11 pM 1
P
p1M p MM
Alors, on peut montrer que la densit de transition en n steps, P (n ) , forme par les valeurs de
la probabilit de transition en n steps, est donne par le puissance n de la matrice P :
P (n) P n
Notons que les quations prcdantes permettent le calcul de la loi de probabilit pour
nimporte quel instant du temps :
pi( k ) Prx(k ) ai Pi( n ) p (j0)
et si on dfini p (k ) comme le vecteur
- 38 -
p1( k )
p (k )
p M( k )
on a lquation
p ( k ) P ( k ) p ( 0) P n p ( 0)
Dfinition
Un sous-ensemble C de lespace dtats est ferm si aucun tat en dehors de C peut tre
atteint partit dun tat dans C. Soit B un sous-ensemble arbitraire de . On appelle
fermeture de B le plus petit sous-ensemble de contenant B qui est ferm. Si la fermeture
dun lment a i de coincide avec a i , alors on dit que ltat a i est absorbant.
Une chaine de Markov est irrductible si le seul sous-ensemble ferm de est .
Il est vident que C est ferm si et seulement si pij 0, ai C, a j C . Dans ce cas, on peut
liminer toutes les lignes et colonnes correspondantes aux tats en dehors de C, et la matrice
rsultante est encore une probabilit de transition pour une chane rduite, qui a pour espace
dtats .
Exemple
Considrons une chane avec la matrice de transition suivante
0 0 0 .5 0 0 0 0 .7
0 .3 .3 0 .3 0 0 0 0
0 0 0 0 0 0 0 1. 0
1. 0 0 0 0 0 0 0 0
P 0 0 0 0 .7 0 0 0 0
0 .5 0 0 0 0 0 0 0
0 .2 0 0 0 1. 1. 0 0
0 0 .7 0 0 0 0 0 0
0 0 .3
0 0 .5 0 0 0
Remarquons dabord que ltat 7 ne peut conduire qu lui mme. Il sagit donc dun tat absorbant : si la
chane rentre dans cet tat, elle y restera toujours.
Ltat 6 peut conduire lui mme o a ltat 7. Donc, C1 e6 , e7 est un ensemble ferm.
On remarque aussi que ltat 1 ne peut conduire qu ltat 4, et que celui-ci ne peut conduire qu 1 de
nouveau ou 9. Finalement, ltat 9 peut de nouveau conduire 1 ou rester dans le mme tat.
Lensemble C 2 e1 , e4 , e9 constitue donc un ensemble ferm.
Ltat 2 ne peut conduire quaux tats 6 ou 7. C 3 e2 , e6 , e7 est donc aussi un ensemble ferm.
On reconnaitera facilement les autres ensembles ferms de cette chaine : C 4 e2 , e3 , e6 , e7 , e8 ,
C5 e2 , e5 , e6 , e7 .
Notez quune renumrotation des tats (6,7,2,5,3,8,1,4,9) permet dcrire la matrice de transition de cette
chane de la forme suivante :
- 39 -
1. 1. .2 0 0 0 0 0 0
0 0 .5 0 0 0 0 0 0
0 0 .3 .3 .3 0 0 0 0
0 0 0 .7 0 0 0 0 0
P 0 0 0 0 0 1. 0 0 0
0 0 0 0 .7 0 0 0 0
0 0 0 0 0 0 0 .5 .7
0 0 0 0 0 0 1. 0 0
0 .3
0 0 0 0 0 0 .5
Ceci indique quon peut tudier sparemment lvolution des tats dans un ensemble ferm et
dans son complment.
Dfinition
Un tat a i a priode t>1 si p ii( n ) 0, n kt , et t est le plus grand entier avec cette proprit.
Dfinitions
Soit f ij(n ) la probabilit pour que depuis ltat i le premier retour ltat j soit obtenu aprs n
steps. Par dfinition, f ij( 0) 0 . Alors, la probabilit pour que la chane retourne i aprs avoir
pass par j est donne par
f ij f ij( n )
n 1
et le nombre moyen de steps ncessaires (temps moyen de recurrence) pour y retourner est
ij nf ij( n )
n 1
Dfinition
Un tat a i est persistant si f ij =1 et transitoire si f ij <1. Un tat persistant est dit nul si son
temps moyen de recurrence est infini. Un tat apriodique persistant et non-nul est dit
ergodique.
- 40 -
On rappelle encore que les coefficients f i sont donns par le produit interne
f i f (t )i (t ) dt .
T
La reprsentation de Karhunen Love est une reprsentation de ce type, mais o les fonctions
i ( t ) sont choisies de faon ce que les coefficients de la reprsentation soient des variables
alatoires non-correles.
Soit x ( t ) un processus de moyenne nulle et de fonction de corrlation Rx ( t , u) , et soit
i (t ) i 1,... un ensemble complet ortho-norm de fonctions. Dfinissons l'ensemble
dnombrable de variables alatoires que l'on obtient en faisant le produit interne de x(t) par
chacune des ces fonctions:
xi x(t )i (t ) dt .
T
dt i (t )E x (t ) x ( s) j ( s) ds
T T
dt i (t ) Rx (t , s) j ( s) ds
T T
E xi x j dt i (t ) j (t )
T
j (t ) Rx (t , s) j ( s) ds
T
jpip ji
p
E xi x j i2 ij
T
Rx (t , s)i ( s) ds i2i (t ) .
Le processus x ( t ) peut lui-mme tre reprsent l'aide des coefficients xi ainsi obtenus:
x(t ) l.i.m. xi i (t )
N i
o la convergence de la srie est prise au sens de la convergence en erreur quadratique
moyenne:
- 42 -
N
x(t ) l.im.z N (t ) E x(t ) z N (t ) N 0
2
2.2 Spectre de Puissance de Signaux Stationnaires
Dans cette section on considre la caractrisation spectrale de processus stationnaires en sens
large. On commence par noncer quelques proprits des moments d'ordre 1 et 2 de processus
stationnaires rels.
Proprits
1. R ( ) R ( )
2. z ( t ) x ( t ) y ( t ) Rz ( ) Rx ( ) Ry ( ) Rxy ( ) Ryx ( )
3. R ( ) R ( 0 )
Dm.:
E x (t ) x (t ) 0 2 R(0) R( ) 0 R( ) R(0)
2
E x (t ) x (t ) 0 2 R(0) R( ) 0 R( ) R(0)
2
4. R xy 2 ( ) R x ( 0) R y ( 0)
Dm.: considrer la valeur quadratique moyenne de la somme x ( t ) ay( t ) , pour des valeurs
arbitraires de a.
La symtrie de la fonction dauto-corrlation implique que S ( ) est une fonction relle. Pour
des signaux alatoires rels, la densit spectrale (encore appele spectre) est aussi une
fonction paire.
c'est dire, la surface totale du spectre du signal est gale sa puissance moyenne ( part le
facteur 2 ).
- 43 -
x(t ) R( ) S ( )
ax( t ) 2 2
a R( ) a S ( )
dx ( t )
d 2 R() 2 S ( )
dt
d 2
d n x(t )
( 1) n
d 2n R ( ) 2n S ( )
dt n d 2 n
x ( t ) e j i t R( )e j i S ( i )
Exemple
Soit n(t) le nombre d'vnements d'un processus de Poisson de paramtre dans l'intervalle 0,t , de
faon que
Prn(t ) k
e t ( t ) k
k! ,
et le nombre d'vnements observs dans des intervalles disjoints sont indpendants.
Bas sur n(t), on construit le processus x(t) de la faon suivante
1, si n(t ) est paire
x (t )
- 1, si n(t ) est impaire
La probabilit d'avoir un nombre paire d'vnements est
Pr x (t ) 1 e t 1 ( t ) 2
2!
( t ) 4
4!
e t cosh( t )
et, de la mme faon, on obtient,
Pr x (t ) 1 e t t ( t ) 3
3!
( t ) 5
5!
e t sinh( t )
On peut facilement, en ce moment, calculer le premier moment du processus x(t):
E x(t ) Pr x(t ) 1 Pr x(t ) 1 e t (cosh(t ) sinh(t )) e 2t .
La valeur moyenne n'est pas constante, et donc on peut dj conclure que x(t) n'est pas stationnaire.
On calcule maintenant sa fonction d'auto-corrlation:
R(t 1 , t 2 ) E x (t 1 ) x (t 2 )
1. Pr x (t1 ) 1, x (t 2 ) 1 Pr x (t1 ) 1, x (t 2 ) 1
1. Pr x (t1 ) 1, x (t 2 ) 1 Pr x (t1 ) 1, x (t 2 ) 1
Le calcul des probabilits conjointes (d'ordre 2) ncessaire pour dterminer la fonction d'auto-
corrlation est simple si on considre les probabilits conditionnelles correspondantes. Par exemple,
supposons que t1 t 2 t1 t 2 0 et calculons
Pr x (t 1 ) 1, x (t 2 ) 1 Pr x (t 1 ) 1| x (t 2 ) 1 Pr x (t 2 ) 1 .
Mais, Pr x (t 1 ) 1| x (t 2 ) 1 est la probabilit d'occurrence d'un nombre paire de points dans
l'intervalle t 2 , t 1 :
Pr x (t 1 ) 1, x (t 2 ) 1 e cosh( )e t2 sinh( t 2 )
Pr x (t 1 ) 1, x (t 2 ) 1 e sinh( )e t2 cosh( t 2 )
Pr x (t 1 ) 1, x (t 2 ) 1 e sinh( )e t2 sinh( t 2 )
et finalement
R ( t1 , t 2 ) e 2 ( t1 t 2 ) , t1 t 2.
Si on change les rles de t 1 et de t 2 , on obtient que lauto-corrlation de x(t) est
2 t1 t 2
R ( t1 , t 2 ) e .
Exemple
A partir du processus de l'exemple antrieur, on va construire un processus stationnaire, et dterminer
sa densit spectrale de puissance.
Soit a une variable alatoire, indpendante du processus x(t), et qui prend les valeurs 1 avec gale
probabilit:
Pr a 1 Pr a 1 0.5
On obtient facilement
E a 0 , E a 2 1.
Soit y(t) le processus dfini par
y ( t ) ax( t )
On a, avec gale probabilit, y ( t ) x ( t ) ou y ( t ) x ( t ) .
De l'indpendance statistique de a et x(t),
E y(t ) Eax(t ) Ea E x (t ) 0
R y ( t 1 , t 2 ) E a 2 x ( t 1 ) x ( t 2 ) R x ( t 1 , t 2 )
et que y(t) est stationnaire au sens large.
Sa densit spectrale de puissance est, par dfinition, la transforme de Fourier de sa fonction d'auto-
corrlation:
R y ( ) e S y ( ) e e j d 4
4 2 2
Thorme
Etant donne une densit spectrale de puissance (fonction positive, symtrique et relle) S ( ) ,
on peut toujours trouver un processus x(t) dont S ( ) est le spectre.
Dmonstration
Soit a la constante
a
1
S ( ) d
et une variable alatoire de densit de probabilit
f () S () .
a 2
Soit le processus
x ( t ) a cos( t )
o est une autre variable alatoire, indpendante de et uniforme en , . Alors, le spectre de
x(t) est S ( ) , comme on le dmontrera.
La moyenne de x(t) est
E a cos(t ) a E cos(t ) a E E cos(t )|
a E E cos(t ) cos( ) sin(t ) sin( )|
On constate facilement que les deux moyennes sur sont nulles, et donc que
E x(t ) 0.
On dtermine la fonction dauto-corrlation,
R x (t , t ) E a 2 cos(t ) cos(t )
a2
2 E cos( ) cos(2t 2 )
E cos( )
2
a
2
f ( ) cos( ) d
2
a
2
Le spectre de x(t) est donn par la transforme de Fourier de la fonction d'auto-corrlation
S x ( ' )
R x ( ) e j ' d
a2
2 f ( ) cos( ) d e j ' d
a2
2
f ( ) cos( ) e j ' d d
f ( ) ( ' ) ( ' )d a 2 f ( ' ) a 2
S ( ')
a2
2 a 2
S ( ' )
o on a utilis la transforme de Fourier du cos(.) et la symtrie de la densit spectrale originale.
Exercice
Dire si les fonctions suivante sont dfinies non-ngatives
1 t s , t s 1
(a) R(t , s)
0, t s 1
t s
(b) R(t , s) e , t, s
t s
(c) R(t , s) e
1, t s 1
(d) R(t , s)
0, t s 1
Bruit Blanc
On appelle bruit blanc un processus qui a une densit spectrale de puissance constante, ou,
d'une faon quivalente, une fonction d'auto-corrlation qui est nulle en dehors de l'origine.
Sn ( ) n 2 Rn ( ) n 2 ( ) .
Cela veut dire que toutes les variables alatoires distinctes qui peuvent tre dfinies sont non-
correles.
u( k ) y( k )
Un modle dynamique discret gnral (linaire et invariant) peut tre dcrit par
- 46 -
y ( k ) h(n)u( k n)
n
o y ( k ) est la sortie l'instant k, u ( k ) est l'entre l'instant k, et h ( k ) est la rponse
impulsionnelle du systme. Pour des systmes causaux, la sortie y ( k ) ne dpendent que des
valeurs de l'entre u ( n ) pour des instants de temps n k , c'est dire,
h( n) 0, n 0 .
Exercices.
Dmontrer les relations suivantes entre les moments du signal d'entre et de sortie:
(a) m y ( k ) h ( n ) mu ( k n )
n
(b) R y ( ) h ( n ) h ( m ) Ru ( n m )
n m
(c) S y ( ) S x ( ) H ( ) 2
o H ( ) est la fonction de transfer du systme, c.a.d., la transforme de Fourier de la rponse
impulsionelle
Admettons maintenant que H ( q 1 ) peut est l'inverse d'un polynme d'ordre finie q:
b0
H ( q 1 ) .
1 a1q L a p q p
1
Ceci implique que chaque chantillon du signal y ( k ) peut tre exprim en fonction de l'entre
et des valeurs de y ( n ) pour n k :
y ( k ) a1x ( k 1) L a p x ( k p ) b0u ( k ) .
On dit dans ce cas qu'il s'agit d'un signal du type Auto-Regressive, et on reprsente cette classe
de signaux par AR(p), o p indique l'ordre de la rgression.
B ( q 1 )
H ( q 1 )
A ( q 1 )
ce qui conduit une quation aux diffrences du type
y ( k ) a1x ( k 1) L a p x ( k p) b0u( k ) b1u( k 1) L bn u( k n ) .
Ce type de signaux est reprsent par ARMA( p,n).
Usuellement, le signal que l'on souhaite modliser est soumis des perturbations
(typiquement, un bruit). Pour modliser ces perturbations au modle nominal entre-sortie, on
ajoute l'quation un deuxime terme:
y ( k ) H ( q 1 ) u ( k ) v ( k )
Cette classe de signaux est plus gnrale que la prcdante (elle dcrit des systmes que ne
sont pas invariants, ce qui est indiqu par la dpendance en k de F , G et H ) et est bien
adapte la modlisation de signaux non stationnaires.
On peut, de la mme faon que pour le modle entre-sortie, introduire des perturbations
alatoires:
x ( k 1) F ( k ) x ( k ) G ( k ) u ( k ) w( k )
y ( k ) H ( k ) x ( k ) e( k )
Controlabilit et Observabilit
Soit le modle dtat
x k 1 A x k B u k
y k C x k nk
o le vecteur dtat a dimension n .
Um modle dtat est contrlable partir de x 0 en si, pour tout x n il existe un t x,t0 t 0
et une sequence dentrs ui i x,tt00 qui menent ltat x en t x ,t0 .
t
Si le systme est contrlable partir de tout x 0 n , alors on dit quil est contrlable en t 0 ,
et sil est contrlable pour tout t 0 , on dit simplement qiil est contollable.
- 48 -
Le modle est observable ssi le rang de la matrice O est gal n. Le modle est contrlable
ssi le rang de C est gal n.
Ces deux proprits garantissent que le systme a un comportement normal . En particulier,
si le systme est observable, il existent des estimateurs consistents de ltat tant donnes les
observations de sa sortie.1
En fait, on peut crire les sorties jusqu linstant k en fonction dun sous-bloc de la matrice
dobservabilit O, et de la valeur initiale de ltat
y0 C H 0 0 0 0 u 0 n 0
y CA H H0 0 0 u1 n1
Yk 1 x0 1 Ok x 0 N k
0
k
y k CA H k H k 1 H 0 u k nk
o H i CA i B et la dfinition du vecteur N k qui ne dpend que des u k et des n k est vidente.
On verra par la suite que pour des modles dobservation de cette forme, on peut dfinir des
estimateurs consistents, non-biaiss et efficaces du vecteur x 0 tant donnes les observations
Yk , ssi loprateur dobservation Ok a un rang gal la dimension du vecteur estimer. Donc,
si le systme est observable, on pourra toujours trouver des estimateurs consistents de ltat.
Si un systme est contrlable, pour tout point de n , on peut toujours trouver une squence
dentres qui mne ltat dans ce point. En particulier, cela veut dire que les ensembles de
probabilit nulle de lespace dtats ont une mesure (de Lebesgue) nulle.
Ceci est facilement vrifi partir de lquation
u1
k
x k A x0 A B AB B
k 1
u k 1
Ak x C U
0 k k
uk
o les dfinitions de C k et de U k sont videntes.
On peut donc voir que le si C k nest pas de rang complet, il peuvent toujours exister des
valeurs de ltat qui ne seront pas atteints.
1
Note : Comme on le verra dans un Chapitre ultrieur, on dit quun estimateur est consistent sil converge (avec
probabilit un) vers la vraie valeur du paramtre estim quand le nombre dobservations tend vers .
- 49 -
Le passage d'un modle entre sortie la forme d'un modle d'tat peut tre fait de plusieurs
manires (il n'existe pas un modle d'tat unique qui correspond un modle entre-sortie
donn). Une des reprsentations possibles est connue par la forme canonique observable, et
fait correspondre un modle entre-sortie
A(q 1 ) y(k ) B(q 1 )u (k ) e(k )
l'quation d'tat suivante:
a1 1 0 0
a 0 1 0 b1
x ( k 1) x ( k ) u( k )
2
bn
n a 0 0 0
y ( k ) 1 0 0 x ( k ) e( k )
Dans cette quation, les paramtres ai et bi sont les coefficients des polynmes qui
dfinissent le modle entre-sortie:
A ( q 1 ) 1 a1q 1 L a n q .n
B ( q 1 ) b1q 1 L bn q n
Le nom de ce modle est d au fait que le signal observ est la premire composante du
vecteur d'tat.
Exemple
Cet exemple illustre le fait que la reprsentation dtat nest pas unique.
Considrons le model AR(2)
y k 1.2 y k 1 0.35 y k 2 u k
Etudions sa conversion en modle dtat.
Soit
y
k k 1
yk
On peut vrifier que le modle
- 50 -
0
k 1 A k u k 1
1
yk 0 1 k
o la matrice A est dfinie comme
0 1
A
0.35 1.2
est quivalent au modle original.
Le choix
y k 1
k
y k u
conduit un modle o la dfinition de la matrice A est la mme, mais
1
k 1 A k u k 1
5
yk 0 1 k u k
2.6 Dcomposition de Wold : innovations
x
i 1
i ti
Exemple
Soit x n le processus dfini par
xn xn 1 en , n 1,2,....
en est une squence blanche stationnaire, Een 2
2
o
Alors
x n i e n i
i 0
- 51 -
Soit
N
x n i e n i H
N
i 0
Pour tout M<N
2 2 ( M 1)
N N
2
E i en i 2 2i
M 2
xn xn
N
i M 1 i M 1 1 2
et est donc une squence de Cauchy, qui converge vers la variable alatoire x n H .
x
Exercice
Soit x un processus stationnaire au sens large de moyenne nulle, et {H n , n Z } la squence emboite de
x
Lide de base est la suivante. Admettons que x n appartient lespace H nx et quil nest pas
contenu dans un sous-epace propre H nx 1 de H nx . Soit x n 1 ( x n | H nx 1 ) . Alors,
xn x n1 e nx , x n1 H nx 1 , e nx H nx 1
La mme procdure peut tre applique x n 1 par projection dans H nx 2 H nx 1 , pour obtenir
xn x n2 enx1 enx , x n2 H nx2 , enx enx1H nx2 .
Par application rpte de cette procdure on crit x n comme la somme de variables alatoires
{enx p , p Z } non-correls (squence blanche).
On nonce quelques proprits des espaces de Hilbert qui nous seront utiles par la suite.
1. Si M M n o les M n forment une famille emboite de sous-espaces,
nZ
M n 1 M n , n , alors, h H
(h | M ) lim (h | M n ) .
n
2. Soit M M n . Alors
nZ
(h | M ) lim(h | M n )
n
3. Soit {ek , k Z } une squence stationnaire au sens large, blanche, dans lespace de Hilbert
H et soit E n Sp{e0 ,...., en1 , en }, E E n . Soit h une autre variable dans H. Alors,
nz
(h | E ) Ak ek
k 0
o Ak satisfait
Ak ek h, ek
La reprsentation est unique si
E (e n2 ) 0 .
Dfinition
Le processus dfini par
en xn ( xn | H n1 ), n Z
est appel les innovations (linaires) du processus x. Si Een 0, n , on dit que le processus
2
Soit N n Sp{ek , k n} , cest dire, lespace de Hilbert engendr par les innovations jusqu
linstant n. Alors
1. H n H m Sp{em1 ,..., en }, n m
2. H m Sp{em1 ,..., en }, n m
3. H n H N n , H N , N {0}
Thorme de Wold
Soit x un processus stationnaire au sens large, et en son processus dinnovations. Alors,
(i) xn u n vn o u n ( xn | N n ), vn ( xn | H ) et u n v n , n .
(ii) le processus u est stationnaire au sens large et a la reprsentation
- 53 -
u n Ak ek
k 0
0 Ak Ax , E x0 ek E u 0 ek Ak ek
A0 A0
Si le processus x a range complet, alors la squence A est unique, et A0 1.
(iii) v est un processus purement dterministe stationnaire et H Sp...., vn1 , vn .
En conclusion, ce thorme nous permet de crire un processus stationnaire au sens large dans
la forme
x n Ak en k v n
k 0
Exercices
1. Soit w une variable alatoire uniforme en [0,1], et X(t) le signal alatoire dfini par
X t ( w) tw, 0 t 1
(a) Dterminer les charactrisations dordre 1 et 2 de ce processus.
(b) Dterminer la moyenne et la fonction de covariance de ce processus.
est une variable alatoire, et sa valeur dans une exprience particulire est la surface sous la
courbe x ( t ) dans l'intervalle a , b . Dterminer la moyenne et la variance de s.
5. Dmontrer les deux thormes sur les procssus cyclo-stationnaires nonces dans ce
chapitre.
Thorme
Si x ( t ) est un processus cyclostationnaire au sens strict et est une variable alatoire
uniforme en 0,T , alors x ( t ) x ( t ) est un processus stationnaire au sens strict.
Thore
Si x ( t ) est un processus cyclo-stationnaire au sens large et est une variable alatoire
uniforme en 0,T , alors x ( t ) x ( t ) est un processus stationnaire au sens large, et
1
mx (t ) mx mx (t ) dt
T T
1
Rx ( ) Rx (t , t ) dt
T T
6. Admettre qu'un processus prend avec gale probabilit les valeurs 1 dans chaque
intervalle ( n 1) T , nT de longueur T, et que ses valeurs dans des intervalles disjoints sont
indpendantes.
i) dterminer la fonction d'auto-corrlation de x ( t ) .
ii) dterminer l'auto-corrlation du processus dcal x ( t ) o est une variable alatoire
uniformment distribue en T / 2 , T / 2 . Dterminer son spectre.
7. Monter que si x ( t ) est strictement stationnaire et est une variable alatoire indpendante
de x ( t ) alors x ( t ) est strictement stationnaire.
- 55 -
8. Montrer que si l'entre d'un systme causal est blanche, de spectre S ( ) , la valeur
quadratique moyenne de la sortie est
E y 2 (t ) h 2 (t ) dt
10. Soit
1 t s , 0 t s 1
R(t , s)
0, t s 1
Dterminer les valeurs propres et un ensemble ortho-norm de fonctions pour
1/ 2
0
R(t , s) ( s) ds (t ), 0 t 1 / 2
2 R(t , s)
Sugestion : 2 (t s), 0 t , s 1 / 2
t 2
(ii) Quelle est la dimension de lespace de Hilbert engendr par r, H r , comme sous-
ensemble de L2 (, B,P ) ?
(iii) Considrez que lon observe la superposition de r avec un bruit blanc :
z rn
o n est un vecteur alatoire indpendant de r. Quelle est la dimension de H z ,
lensemble de toutes les statistiques linaires scalaires de z ?
s h T z, h N
(iv) Admettez que lon ne connait pas le modle du signal de transmission, sachant
uniquement quil sagit dune modulation PAM, et que lon observe M symboles
(observations bruites). Sans rien savoir de plus, comment peut-on reconstruire la
squence transmise ?
(v) Simulez le comportement de lalina prcdante, en considrant du bruit blanc.