Introduction to Probability Theory for Engineers

Introduction
Espace de probabilité
Intégration
Cas ⌦ fini ou dénombrable
Cours de Mathématiques - partie Probabilités
Séance 1
CentraleSupélec - Cursus centralien
26 septembre 2017
1/30
Séance 1 Cours de Mathématiques - partie Probabilités
Introduction Evénements, probabilités
Espace de probabilité Propriétés
Intégration Probabilités conditionnelles élémentaires
Cas ⌦ fini ou dénombrable Indépendance entre événements
Introduction : Explosion des mathématiques de l’aléatoire

Une branche jeune des mathématiques
Formalisme moderne (Kolmogorov,
Lévy,... milieu du XXème), martingales
(Doob, Meyer, Feller, Neveu,... 1950-60),
étude théorique du mouvement brownien,
développement du calcul stochastique
(Ito, 1970-80... Malliavin, Yor,...), etc.
2/30

Une branche jeune des mathématiques
Formalisme moderne (Kolmogorov,
Lévy,... milieu du XXème), martingales
(Doob, Meyer, Feller, Neveu,... 1950-60),
étude théorique du mouvement brownien,
développement du calcul stochastique
(Ito, 1970-80... Malliavin, Yor,...), etc.
Au centre de nombreux travaux
de recherche académique
(4 médailles Fields en 2006,
2010 et 2014,
2 prix Abel en 2007 et 2014).
A l’interface avec de nombreuses
disciplines scientifiques.
Reconnaissance internationale de l’école française de probabilités.
2/30
L’ingénieur face à l’aléatoire : nouveaux défis de la modélisation
3/30

Simulation numérique ; Conception robuste
Processus d’optimisation multiphysique
Prise en compte des incertitudes sur les paramètres
Enjeu : maı̂trise des risques dans les prises de décision
Stade émergent
Cadre probabiliste adapté
3/30

Fiabilité, maintenance
Démonstration de robustesse de systèmes
Optimisation d’un processus de maintenance
Optimisation de choix technologiques
3/30

Phénomènes physiques fluctuants
Exemples : turbulence, acoustique, ...
Ajout de termes stochastiques dans les EDP classiques
Conditions limites mal connues
Résolution d’EDP classiques par des méthodes probabilistes
3/30

Modélisation financière
Proche de la modélisation physique
Bénéficie des développements théoriques récents
Introduction des math. de pointe ; Performance économique
3/30

Traitement du signal et de l’image
Cadre probabiliste ; Méthodes efficaces
Débruitage, détection de contours, filtrage, ...
3/30

Biologie et médecine
Secteur de pointe où interviennent les points précédents
Pharmacodynamique, ...
3/30

Biologie et médecine
La connaissance des concepts de base de l’aléatoire est

désormais indispensable à l’ingénieur confronté aux systèmes
complexes
3/30
Une brève histoire des probabilités...
Définition fréquentiste / combinatoire

des probabilités
Jeux de hasard - problème des partis
Correspondance entre Pascal et Fermat,
XVII-ième siècle
Si xk est la k-ième réalisation de X , qui prend

les valeurs {ai ; i 2 }, on définit
#{k  n : xk = ai }
Probabilité : pi ⇡ ,
n
pour n grand.
+1
X
Espérance : E[X ] = ai pi .
i=0
4/30
Une brève histoire des probabilités...
Vers une théorie des probabilités

Plusieurs limites importantes de la définition fréquentiste
Paradoxes (de Bertrand, aiguille de

Bu↵on, etc.)
Variables aléatoires continues ⌦ !
Phénomènes aléatoires qui évoluent dans
le temps ou varient en fonction de l’espace
(t, !) 7! Xt (!). Processus stochastiques.
Développement (par Kolmogorov en 1933) d’une

axiomatique basée sur la récente théorie de la
mesure (Borel, Lebesgue).
5/30
Retour sur la théorie de la mesure... (cours d’Analyse)
Définition 1.1.2 (Tribu sur un ensemble)

Une famille de parties F de ⌦ est appelée tribu ou -algèbre si
1 ; 2 F et ⌦ 2 F ;
2 F est stable par complémentation : si A 2 F alors
Ac = ⌦ \ A 2 F ;
3 F est stable par intersections et unions finies ou
n 2 F pour tout n
dénombrables : si AT S2 T fini ou
dénombrable, alors n2T An 2 F et n2T An 2 F.
Tout élément de la tribu F est appelé événement.
F est stable par di↵érence : A, B 2 F ) A \ B 2 F
6/30
Définition 1.1.4 (Mesure de probabilité)

On appelle mesure de probabilité sur l’espace mesurable (⌦, F)
toute application P : F ! [0, 1] telle que
1 P(;) = 0 et P(⌦) = 1 ;
2 P est -additif, i. e. pour toute suite dénombrable (An )n2
d’éléments 2 à 2 disjoints a de F, on a
! 1
[ X
P An = P(An ).
n2 n=1
a. 2 à 2 disjoints signifie : i 6= j ) Ai \ Aj = ;
7/30
Deux exemples importants :

1 Mesure de comptage sur ⌦ = {!1 , . . . , !n }, tribu F = P(⌦).
P : P(⌦) ! [0, 1]
1 X Card(A)
A 7! A (!) = .
Card(⌦) Card(⌦)
!2⌦
2 Mesure de Dirac en a 2 ⌦ quelconque, tribu F.
a :F ! [0, 1]
⇢
1 si a 2 A
A !
7
0 sinon.
ATTENTION à la tribu sur laquelle la mesure est définie !
8/30
Propriétés des mesures de probabilité

Cas particulier du cours d’Analyse.
Définition 1.1.5
Un événement A d’un espace de probabilité (⌦, F, P) est dit
P-presque sûr (ou simplement presque sûr) si P(A) = 1.
9/30

Cas particulier du cours d’Analyse.
Définition 1.1.5
Un événement A d’un espace de probabilité (⌦, F, P) est dit
P-presque sûr (ou simplement presque sûr) si P(A) = 1.
Proposition 1.1.6
Supposons A, B 2 F. Les propriétés suivantes sont vérifiées
P(Ac ) = 1 P(A)
B ⇢ A ) P(A \ B) = P(A) P(B)

P(A [ B) = P(A) + P(B) P(A \ B)
9/30
Proposition 1.1.7
Si (An )n2 est une suite croissante dans F alors
!
[
P An = lim P(An ).
n!1
n2
Si (An )n2 est une suite décroissante dans F alors

!
\
P An = lim P(An ).
n!1
n2
10/30
Définition 1.1.8
Soit (⌦, F, P) un espace probabilisé et B 2 F tel que P(B) 6= 0.
On définit la probabilité conditionnelle de A 2 F sachant B par
P(A \ B)
P(A | B) = .
P(B)
11/30
Théorème 1.1.10 (Equation de partition)

Soit (En )n une partition finie ou dénombrable de l’espace
probabilisé (⌦, F, P).
Alors, pour tout événement A 2 F,
X
P(A) = P(A | En )P(En ).
n
Théorème 1.1.11 (de Bayes)

Soit (En )n une partition finie ou dénombrable de l’espace
probabilisé (⌦, F, P).
Alors, pour tout événement A 2 F tel que P(A) > 0,
P(A | En )P(En )
8n 2 , P(En | A) = P .
m P(A | Em )P(Em )
12/30
Définition 1.1.13
Deux événements A et B d’un espace de probabilité (⌦, F, P) sont
dits indépendants si
P(A \ B) = P(A)P(B).
13/30
Définition 1.1.13
Deux événements A et B d’un espace de probabilité (⌦, F, P) sont
dits indépendants si
P(A \ B) = P(A)P(B).
Définition 1.1.14
Des événements (Ai )i2I d’un espace probabilisé (⌦, F, P) sont dits
indépendants si pour toute partie finie J ⇢ I
!
\ Y
P Ai = P(Ai ).
i2J i2J
13/30
Proposition 1.1.16
Si A et B sont des événements d’un espace probabilisé (⌦, F, P),
avec P(B) > 0, alors A et B sont indépendants si et seulement si
P(A | B) = P(A).
14/30
Introduction
Rappel de théorie de la mesure
Cas particuliers
Intégration
Mesures discrètes
Z
Construction de Iµ (f ) = f (!) µ(d!), pour une fonction
⌦
mesurable f : (⌦, F) ! ( , B( )) et une mesure µ définie sur F.
15/30
Introduction
Cas particuliers
Intégration
Mesures discrètes
Z
⌦
Pn
Pour f = i=1 ↵i 1Ai , où Ai 2 F et ↵i 2 pour tout 1  i  n,
Z Xn
Iµ (f ) = f (!) µ(d!) = ↵i µ(Ai ).
⌦ i=1
15/30
Introduction
Cas particuliers
Intégration
Mesures discrètes
Z
⌦
Pn
Z Xn
Iµ (f ) = f (!) µ(d!) = ↵i µ(Ai ).
⌦ i=1
Pour tout f : (⌦, F) ! ( , B( )) mesurable positive,

Iµ (f ) = sup {Iµ ('); ' étagée telle que '  f } .
15/30
Introduction
Cas particuliers
Intégration
Mesures discrètes
Z
⌦
Pn
Z Xn
Iµ (f ) = f (!) µ(d!) = ↵i µ(Ai ).
⌦ i=1
Pour tout f : (⌦, F) ! ( , B( )) mesurable positive,

Iµ (f ) = sup {Iµ ('); ' étagée telle que '  f } .
Pour tout f : (⌦, F) ! ( , B( )) mesurable,

f 2 L1 (⌦, µ) , Iµ (|f |) < +1.
On pose Iµ (f ) = Iµ (f + ) Iµ (f ), où f + = max(f , 0) et
f = min(f , 0).
15/30
Introduction
Cas particuliers
Intégration
Mesures discrètes
Intégration par rapport à la mesure de Dirac P = a pour

a 2 ⌦, tribu F telle que {a} 2 F
Z
f (!) P(d!) = f (a).
⌦
16/30
Introduction
Cas particuliers
Intégration
Mesures discrètes
Intégration par rapport à la mesure de Dirac P = a pour

a 2 ⌦, tribu F telle que {a} 2 F
Z
f (!) P(d!) = f (a).
⌦
Intégration par rapport à la mesure de comptage P définie

sur ⌦ = {!1 , . . . , !n }, tribu F = P(⌦)
Z n
1X
f (!) P(d!) = f (!i ).
⌦ n
i=1
16/30
Introduction
Cas particuliers
Intégration
Mesures discrètes
Définition
Une mesure µ est dite discrète s’il existe une suite (an )n2
(éventuellement finie) telle que µ {an ; n 2 }c = 0.
Dans le cas où F contient tous Ples singletons de ⌦, la mesure µ

est discrète si elle s’écrit µ = 1
n=0 ↵n an , où
(an )n2 est une suite (éventuellement finie) dans ⌦ ;
(↵n )n2 est une suite (éventuellement finie) dans +;
an est la mesure de Dirac en an , pour tout n 2 .
Si les an sont distincts 2 à 2, on a ↵n = µ({an }) pour tout n 2 .
17/30
Introduction
Cas particuliers
Intégration
Mesures discrètes
P
On considère une mesure discrète µ = 1 n=0 ↵n an .
Pour tout n 2 , on a
Z
I an (f ) = f (!) an (d!) = f (an ).
⌦
Lorsque les an sont 2 à 2 distincts, on en déduit

Z 1
X
f (!) µ(d!) = f (an ) µ {an } .
⌦ n=0
Remarque : Cette expression est la même P1que celle de l’intégrale

d’une fonction discrète de la forme f = i=1 ↵i 1{ai } , par rapport
à une mesure quelconque (vérification laissée en exercice).
18/30
Introduction Probabilité sur un espace fini ou dénombrable
Espace de probabilité Variables aléatoires sur un espace discret
Intégration Moments d’une variable aléatoire sur ⌦ discret
Cas ⌦ fini ou dénombrable Exemples de lois discrètes
Théorème 1.3.1
Dans l’espace probabilisé dénombrable (⌦, F = P(⌦), P), la
mesure de probabilité P est caractérisée par ses valeurs sur les
atomes : p! = P({!}), ! 2 ⌦.
19/30
Théorème 1.3.1
Dans l’espace probabilisé dénombrable (⌦, F = P(⌦), P), la
mesure de probabilité P est caractérisée par ses valeurs sur les
atomes : p! = P({!}), ! 2 ⌦.
Réciproquement, soit ⌦ = {!n ; n 2 } un ensemble
dénombrable et (pn )n2 une suite de réels.
Alors, il existe une probabilité P telle que P({!n }) = pn (8n)
si et seulement si
8n 2 ; pn 0
1
X
et pn = 1.
n=0
La probabilité P est alors unique.
19/30
Définition 1.3.2
Soient (⌦, F, P) un espace probabilisé fini ou dénombrable et E un
ensemble muni de la tribu P(E ).
On appelle variable aléatoire (v. a.) à valeurs dans E , toute
application mesurable X : (⌦, F) ! (E , P(E )).
20/30
Définition 1.3.2
Soient (⌦, F, P) un espace probabilisé fini ou dénombrable et E un
ensemble muni de la tribu P(E ).
On appelle variable aléatoire (v. a.) à valeurs dans E , toute
application mesurable X : (⌦, F) ! (E , P(E )).
Si E est fini ou dénombrable, X est une v.a. si

1
8e 2 E ; X ({e}) 2 F.
20/30
Définition 1.3.4 (Loi d’une variable aléatoire)

Pour toute variable aléatoire X : ⌦ ! E sur (⌦, F, P) discret,
l’application PX : P(E ) ! [0, 1] telle que
1
8A 2 P(E ); PX (A) = P({! : X (!) 2 A}) = P(X (A))
définit une mesure de probabilité sur l’espace (E , P(E )), appelée

mesure image de P par X .
On note P(X 2 A) = PX (A). La mesure de probabilité PX est
appelée distribution ou loi de X .
21/30
Définition 1.3.5
Soit X une variable aléatoire à valeurs réelles, définie sur (⌦, F, P)
discret.
P
Si !2⌦ |X (!)|P({!}) < 1, on dit que X admet un moment
d’ordre 1, et on pose
X
E[X ] = X (!)P({!}).
!2⌦
La quantité E[X ] est appelée espérance (ou moyenne) de X .
Remarque : Comme la mesure P est discrète, on a

X Z
E[X ] = X (!)P({!}) = X (!)P(d!).
!2⌦ ⌦
22/30
Définition 1.3.6
Soit X une variable aléatoire discrète à valeurs réelles. On note
{xi ; i 2 } l’ensemble des valeurs prises par X et pi = P(X = xi )
P tout i 2 ).
(pour
Si i |xi |pi < 1, on dit que X admet un moment d’ordre 1, et on
pose X
E[X ] = xi p i .
i
La quantité E[X ] est appelée espérance (ou moyenne) de X .
Remarque : Comme la fonction X : ⌦ ! est discrète, on a

X Z
E[X ] = xi PX ({xi }) = x PX (dx).
i
23/30
Définition 1.3.7
Si X admet un moment d’ordre 2, alors X admet également un
moment d’ordre 1. On peut alors définir la variance de X par
Var(X ) = E[(X E[X ])2 ] = E[X 2 ] (E[X ])2 .

p
La quantité (X ) = Var(X ) est appelée alors écart-type de X .
24/30
Définition 1.3.7
Si X admet un moment d’ordre 2, alors X admet également un
moment d’ordre 1. On peut alors définir la variance de X par
Var(X ) = E[(X E[X ])2 ] = E[X 2 ] (E[X ])2 .

p
La quantité (X ) = Var(X ) est appelée alors écart-type de X .
Proposition 1.3.8
P
Si i |g (xi )|pi < 1, alors la variable aléatoire g X notée g (X )
admet un moment d’ordre 1,
X
E[g (X )] = g (xi )pi .
i
24/30
Loi uniforme sur {1, 2, . . . , n}

X suit une loi uniforme sur {1, 2, . . . , n}
si 8! 2 ⌦, X (!) 2 {1, 2, . . . , n} et
1
8k 2 {1, . . . , n}, P(X = k) = .
n
n+1
On a alors E[X ] = .
2
25/30
Loi uniforme sur {1, 2, . . . , n}

X suit une loi uniforme sur {1, 2, . . . , n}
si 8! 2 ⌦, X (!) 2 {1, 2, . . . , n} et
1
8k 2 {1, . . . , n}, P(X = k) = .
n
n+1
On a alors E[X ] = .
2
Loi de Bernoulli
X suit une loi de Bernoulli de paramètre p 2 [0, 1]
si 8! 2 ⌦, X (!) 2 {0, 1} et
P(X = 1) = p; P(X = 0) = 1 p.
On a alors E[X ] = p et Var(X ) = p(1 p).

25/30
Loi binomiale
N suit une loi binomiale B(n, p) où n 2 ⇤ et p 2 [0, 1]
si 8! 2 ⌦, N(!) 2 {0, 1, . . . , n} et
8k 2 {0, 1, . . . , n}, P(N = k) = Cnk p k (1 p)n k

.
N est le nombre de succès d’une certaine expérience aléatoire de

probabilité de succès p, répétée n fois de manière indépendante.
Remarquons que
N = X1 + X2 + · · · + Xn ,
où les Xi sont des v.a. de Bernoulli indépendantes, représentant le

succès ou l’échec de chaque expérience i.
On en déduit E[N] = np et Var(N) = np(1 p).
26/30
Loi géométrique
N suit une loi géométrique de paramètre p 2 [0, 1]
si 8! 2 ⌦, N(!) 2 et
8n 2 , P(N = n) = p n (1 p).
p p
On a alors E[N] = et Var(N) = .
1 p (1 p)2
27/30
Loi géométrique
N suit une loi géométrique de paramètre p 2 [0, 1]
si 8! 2 ⌦, N(!) 2 et
8n 2 , P(N = n) = p n (1 p).
p p
On a alors E[N] = et Var(N) = .
1 p (1 p)2
Distribution de Poisson
X suit une loi de Poisson de paramètre >0
si 8! 2 ⌦, X (!) 2 et
n
8n 2 , P(X = n) = e .
n!
On a alors E[X ] = et Var(X ) = .
27/30
Contenu du cours de probabilités

Les probabilités dites “combinatoires” ne suffisent plus
La vision moderne des probabilités nécessite les concepts d’un
cours d’Analyse poussé (théorie de la mesure, transformations
intégrales, analyse hilbertienne)
Les chapitres du cours en 1ère année
1 Axiomatique, espaces de probabilité discrets
2 Probabilités et variables aléatoires
3 Probabilités sur et fonctions caractéristiques
4 Vecteurs gaussiens
5 Suites et séries de variables aléatoires
6 Espérance conditionnelle
28/30
Format pédagogique
Le cours est dense : Amphi, Polycopié et TD sont complémentaires
Le cours en amphi met en relief les concepts, illustrés par des

exemples et certaines démonstrations
Le polycopié est le document de référence du cours
Les exercices de TD visent une alternance entre manipulations des
concepts et mises en situation concrète.
Des questionnaires en ligne (sur Claroline) permettent de

s’auto-évaluer sur la compréhension du cours.
Séances HELP, organisées par les élèves du Club Scientifique
29/30
Travaux dirigés en amphi
5 chargés de TD : enseignant-chercheurs en probabilités et

ingénieurs spécialistes de l’utilisation concrète des proba. / stat.
3 groupes de niveau standard (H. Moutarde, I. Muni Toke,
P. Nonclercq),
1 groupe de niveau modéré (P. Lafitte),
1 groupe de niveau avancé (A. Richard).
La séparation entre le cours et le TD permet de travailler le TD à

l’avance.
Les corrigés de 2 exercices sont mis en ligne avant le TD.
Le début de chaque TD sera consacré aux questions relatives
à ces exercices (pédagogie inversée).
Le reste de la séance sera consacré à la résolution détaillée
d’autres exercices. 30/30

Introduction to Probability Theory for Engineers

Uploaded by

Document Information

Original Description:

Original Title

Copyright

Available Formats

Share this document

Share or Embed Document

Sharing Options

Did you find this document useful?

Is this content inappropriate?

Copyright:

Available Formats

Introduction to Probability Theory for Engineers

Uploaded by

Copyright:

Available Formats

Introduction

Cours de Mathématiques - partie Probabilités

CentraleSupélec - Cursus centralien

Introduction : Explosion des mathématiques de l’aléatoire

Introduction : Explosion des mathématiques de l’aléatoire

Introduction : Explosion des mathématiques de l’aléatoire

L’ingénieur face à l’aléatoire : nouveaux défis de la modélisation

Introduction : Explosion des mathématiques de l’aléatoire

Introduction : Explosion des mathématiques de l’aléatoire

Introduction : Explosion des mathématiques de l’aléatoire

Introduction : Explosion des mathématiques de l’aléatoire

Introduction : Explosion des mathématiques de l’aléatoire

Introduction : Explosion des mathématiques de l’aléatoire

Introduction : Explosion des mathématiques de l’aléatoire

L’ingénieur face à l’aléatoire : nouveaux défis de la modélisation

La connaissance des concepts de base de l’aléatoire est

Une brève histoire des probabilités...

Définition fréquentiste / combinatoire

Si xk est la k-ième réalisation de X , qui prend

Une brève histoire des probabilités...

Vers une théorie des probabilités

Paradoxes (de Bertrand, aiguille de

Développement (par Kolmogorov en 1933) d’une

Retour sur la théorie de la mesure... (cours d’Analyse)

Définition 1.1.2 (Tribu sur un ensemble)

F est stable par di↵érence : A, B 2 F ) A \ B 2 F

Définition 1.1.4 (Mesure de probabilité)

Deux exemples importants :

2 Mesure de Dirac en a 2 ⌦ quelconque, tribu F.

ATTENTION à la tribu sur laquelle la mesure est définie !

Propriétés des mesures de probabilité

Propriétés des mesures de probabilité

B ⇢ A ) P(A \ B) = P(A) P(B)

Propriétés des mesures de probabilité

Si (An )n2 est une suite décroissante dans F alors

Théorème 1.1.10 (Equation de partition)

Théorème 1.1.11 (de Bayes)

Pour tout f : (⌦, F) ! ( , B( )) mesurable positive,

Pour tout f : (⌦, F) ! ( , B( )) mesurable positive,

Pour tout f : (⌦, F) ! ( , B( )) mesurable,

Intégration par rapport à la mesure de Dirac P = a pour

Intégration par rapport à la mesure de Dirac P = a pour

Intégration par rapport à la mesure de comptage P définie

Dans le cas où F contient tous Ples singletons de ⌦, la mesure µ

an est la mesure de Dirac en an , pour tout n 2 .

Si les an sont distincts 2 à 2, on a ↵n = µ({an }) pour tout n 2 .

Lorsque les an sont 2 à 2 distincts, on en déduit

Remarque : Cette expression est la même P1que celle de l’intégrale

Si E est fini ou dénombrable, X est une v.a. si

Définition 1.3.4 (Loi d’une variable aléatoire)

définit une mesure de probabilité sur l’espace (E , P(E )), appelée

La quantité E[X ] est appelée espérance (ou moyenne) de X .

Remarque : Comme la mesure P est discrète, on a

La quantité E[X ] est appelée espérance (ou moyenne) de X .

Remarque : Comme la fonction X : ⌦ ! est discrète, on a

Var(X ) = E[(X E[X ])2 ] = E[X 2 ] (E[X ])2 .

Var(X ) = E[(X E[X ])2 ] = E[X 2 ] (E[X ])2 .

Loi uniforme sur {1, 2, . . . , n}

Loi uniforme sur {1, 2, . . . , n}

On a alors E[X ] = p et Var(X ) = p(1 p).

8k 2 {0, 1, . . . , n}, P(N = k) = Cnk p k (1 p)n k

N est le nombre de succès d’une certaine expérience aléatoire de