Modelagem Estocástica e Quantificação de Incertezas Rubens Sampaio
[email protected]
Roberta de Queiroz Lima
[email protected]
Departamento de Engenharia Mecânica
DINCON 2015 PUC-Rio: DEM
Organização do curso 1a aula:
1
Probabilidade básica − Variáveis aleatórias (discretas e contínuas) − Vetores aleatórios − Independência
2
Função de variavéis aleatórias: − Soma de variáveis aleatórias independentes − Soma de variáveis aleatórias dependentes
3
Geração de amostras de variáveis e vetores aleatórios − Método da Transformada Inversa − Método da Rejeição − Condicionamento: regra da cadeia PUC-Rio: DEM
Organização do curso 2a aula:
1
Método de Monte Carlo − Lei dos Grandes Números − Teorema do Limite Central − Aproximação de integrais
2
Processos estocásticos (discretos e contínuos) − Processo de Bernoulli − Processo de Poisson − Processo uniforme − Processo exponencial
3
Modelagem estocástica de sistema dinâmico não linear: stick-slip. PUC-Rio: DEM
Probabilidade básica
Seja (Ω, F, Pr) o espaço de probabilidade.
Ω é um conjunto não vazio chamado de espaço amostral que contém todas as possibilidades de resultados; F é uma σ -álgebra sobre Ω; Pr é uma medida de probabilidade sobre (Ω, F).
PUC-Rio: DEM
Probabilidade básica F é uma σ -álgebra sobre Ω: F é uma coleção de subconjuntos do espaço amostral Ω. Cada subconjunto é um evento e:
1 2
3
F é não vazio; A ∈ F e Ω \ A ∈ F; A1 , A2 , · · · ∈ F e
∞ [
i=1
Ai ∈ F.
Consequência dos axiomas 1 e 3: F contém o conjunto vazio, ∅, e contém o espaço amostral, Ω.
PUC-Rio: DEM
Probabilidade básica
Experimento simples: lançamento de um dado de 6 faces.
1
2
3
Todos os possíveis resultados:
Ω = {1, 2, 3, 4, 5, 6}
Exemplo de uma possível σ -álgebra sobre Ω: F1 = {∅, Ω, {1, 2} , {3, 4, 5, 6} } Exemplo de um conjunto que não é σ -álgebra sobre Ω: F2 = {∅, Ω, {1, 3} , {2, 4, 5, 6} , {1, 2, 3} {4, 5, 6} }
PUC-Rio: DEM
Independência
Eventos independentes: Dois eventos A e B são independentes quando: Pr(A ∩ B) = Pr(A)Pr(B).
PUC-Rio: DEM
Independência Exemplo 1: retirar 1 carta de um baralho com 52 cartas. A = {carta é dama}
=⇒
B = {carta é copas}
=⇒
A ∩ B = {dama de copas}
=⇒
4 52 13 Pr(A) = 52
Pr(A) =
Pr(A ∩ B) =
4 13 1 = 52 52 52
A e B são eventos independentes. PUC-Rio: DEM
Independência Exemplo 2: retirar 1 carta de um baralho viciado com 52 cartas. 1 2 1 1 1 Prv (outra carta 6= valete de paus) = = 2 51 102
Prv (valete de paus) =
1 Prv (A ∩ B) = Prv (dama de copas) = 102 13 1 1 Prv (A)Prv (B) = 4 2 51 102
A e B não são eventos independentes no baralho viciado. PUC-Rio: DEM
Variável aleatória discreta
Uma variável aleatória discreta real, X, em (Ω, F, Pr), é uma função real: X :
Ω −→ R w 7−→ X(w) ,
tal que: sua imagem, X(Ω), é um subconjunto discreto de R; X −1 (x) = {w ∈ Ω : X(w) = x} ∈ F, ∀x ∈ R.
PUC-Rio: DEM
Variável aleatória discreta
Exemplo: Seja (Ω, F , Pr) um espaço de probabilidade no qual: Ω = {1, 2, 3, 4, 5, 6} ,
F = {0, / {2, 4, 6} , {1, 3, 5} , Ω},
e sejam V e W funções em Ω definidas por:
V(w) =
1, 0,
se w é par , se w é ímpar
W(w) = w2 ,
para todo w ∈ Ω. Determine quais dessas funções são variáveis aleatórias discretas no espaço de probabilidade (Ω, F, Pr).
PUC-Rio: DEM
Variável aleatória discreta Exemplo:
V(w) =
1, 0,
se w é par se w é ímpar
1a condição: V(Ω) é um subconjunto discreto de R? V(Ω) = {0, 1} =⇒ Sim! 2a condição: V −1 (x) = {w ∈ Ω : V(w) = x} ∈ F, ∀x ∈ R? V −1 (0) = {1, 3, 5} ∈ F V −1 (1) = {2, 4, 6} ∈ F =⇒ Sim! V −1 (R \ {0, 1}) = ∅ ∈ F
A função V é uma variável aleatória discreta. PUC-Rio: DEM
Variável aleatória discreta Exemplo:
W(w) = w2
1a condição: W(Ω) é um subconjunto discreto de R? W(Ω) = {1, 4, 9, 16, 25, 36} =⇒ Sim! 2a condição: W −1 (x) = {w ∈ Ω : W(w) = x} ∈ F, ∀x ∈ R? V −1 (9) = {3} ∈ / F =⇒ Não!
A função W não é uma variável aleatória discreta. PUC-Rio: DEM
Variável aleatória discreta A função de probabilidade, também chamada de função de massa, pX , de uma variável aleatória discreta, X, é: pX :
R −→ [0, 1] . x 7−→ pX (x) = Pr({w ∈ Ω : X(w) = x})
Note que pX (x) é a probabilidade de X ter o valor x. Além disso: (i) pX (x) = 0, ∀ x ∈ / X(Ω);
(ii)
∑
x∈X(Ω)
pX (x) = Pr
[
x∈X(Ω)
{w ∈ Ω : X(w) = x} = Pr(Ω) = 1.
PUC-Rio: DEM
Variável aleatória discreta
A probabilidade de X assumir um valor menor ou igual a x ∈ R é calculada través da função distribuição de probabilidade cumulativa de X, PX : PX :
R −→ [0, 1] x 7−→ PX (x) = Pr({w ∈ Ω : X(w) ≤ x}) .
É usual utilizar a notação simplificada: Pr({w ∈ Ω : X(w) ≤ x}) = Pr(X ≤ x) .
PUC-Rio: DEM
Variável aleatória discreta
Dado que X assume n valores distintos x1 , · · · , xn com probabilidades p1 , · · · , pn : n
média ou valor esperado de X:
µX = E[X] = ∑ xi pi ; i=1
n
variância de X:
var(X) = E[(X − µX )2 ] = ∑ (xi − µ )2 pi ; i=1
desvio padrão de X:
σX =
p
var(X).
PUC-Rio: DEM
Variável aleatória discreta
Dado uma função (mensurável) h : R → R, então Y = h(X) é também uma variável aleatória real discreta e: n
E[h(X)] = ∑ h(xi )pi . i=1
O operador média é linear. Sejam X e Y duas variáveis aleatórias reais discretas e sejam α e β constantes reais: E[α X + β Y] = α E[X] + β E[Y] .
PUC-Rio: DEM
Variável aleatória discreta
Dado um número real, p, tal que 0 < p < 1, o p-quantil de X é um valor x ∈ R tal que: Pr(X ≤ x) = p . Exemplo: sendo p = 1/2, o 1/2-quantil de X é um valor x ∈ R tal que Pr(X ≤ x) =
1 . 2
PUC-Rio: DEM
Variável aleatória discreta Exemplo: Lançamento de uma moeda: cara (prob. w) coroa (prob. 1 − w) Podemos definir várias variáveis aleatórias discretas diferentes: Repetindo o experimento n vezes de forma independente: 1 binomial: N → número de caras obtidas. Repetindo o experimento infinitas vezes de forma independente: 1 geometrica: W → número de lançamentos até obter-se a primeira cara. 2
binomial negativa: Wr → número de lançamentos até obter-se r caras. PUC-Rio: DEM
Variável aleatória discreta Binomial N representa o número de caras obtidas.
suporte discreto: {0, 1, · · · , n} densidade: n k n! Pr(N = k) = pN (k) = w (1−w)n−k = wk (1−w)n−k k k!(n − k)! média: nw variância: n w(1 − w) PUC-Rio: DEM
Variável aleatória discreta Exemplo: Binomial 0.2
n = 20 n = 40
pN
0.15 0.1 0.05 0 0
10
20
k
30
40
Figura: Função de massa da variável aleatória binomial N para diferentes números de lançamentos n, considerando-se w = 0.6.
PUC-Rio: DEM
Variável aleatória discreta Exemplo: Geométrica W representa o número de lançamentos até obter-se o primeiro resultado cara.
suporte discreto: n = {1, 2, 3, · · · } densidade: Pr(W = n) = pW (n) = (1 − w)n−1 w média:
1 w
variância:
1−w w2 PUC-Rio: DEM
Variável aleatória discreta Exemplo: Geométrica 0.8
w = 0.2 w = 0.5 w = 0.8
pW
0.6 0.4 0.2 0
1
5
n
10
Figura: Função de massa da variável aleatória geométrica W para diferentes valores de probabilidade w.
PUC-Rio: DEM
Variável aleatória discreta Exemplo: Binomial negativa Wr representa número de lançamentos necessários até obter-se r sucessos (caras).
suporte discreto: n = {r, r + 1, r + 2, · · · } r n−r densidade: pWr (n) = n−1 r−1 w (1 − w) média:
r w
variância:
r(1−w) w2
PUC-Rio: DEM
Variável aleatória discreta Exemplo: Binomial negativa Gráficos da função de massa de W3 e W5 para diferentes valores de probabilidade w.
W3
W5
0.8
0.4 0.2
w = 0.2 w = 0.5 w = 0.8
0.3
pW5
pW3
0.6
0 0
0.4
w = 0.2 w = 0.5 w = 0.8
0.2 0.1
10
n
20
30
0
1
5
10
PUC-Rio: DEM
n
Variável aleatória discreta Exemplo: Chegada de pessoas em um banco no intervalo de tempo [0, T]:
Poisson
Y representa o número de pessoas que chegam em [0, T].
suporte discreto: y = {0, 1, 2, · · · } densidade: pY (y) =
λ y e−λ y!
média: λ −→ número médio de chegadas em [0, T] variância: λ PUC-Rio: DEM
Variável aleatória discreta Exemplo: Poisson Gráficos da função de massa de Y para diferentes valores de λ . 0.4
λ=1 λ=4 λ = 10
pY
0.3 0.2 0.1 0
1
5
10
y
PUC-Rio: DEM
Variável aleatória contínua Uma variável aleatória contínua real, X, no espaço de probabilidade (Ω, F, Pr) é uma função real:
X :
Ω −→ R w 7−→ X(w)
tal que X −1 (x) = {w ∈ Ω : X(w) ≤ x} ∈ F, ∀x ∈ R. PUC-Rio: DEM
Variável aleatória contínua
A distribuição de probabilidade cumulativa, PX , de X, é: PX :
R −→ [0, 1] x 7−→ PX (x) = Pr({w ∈ Ω : X(w) ≤ x})
É usual utilizar a notação simplificada: Pr({w ∈ Ω : X(w) ≤ x}) = Pr(X ≤ x) .
PUC-Rio: DEM
Variável aleatória contínua
Se PX puder ser escrita na forma: PX (x) = Pr(X ≤ x) =
Z x
−∞
pX (u) du
então, pX é chamada de função densidade de probabilidade de X e, satisfaz:
pX (x) ≥ 0 ,
∀x ∈ R
Z ∞
−∞
PUC-Rio: DEM
pX (x) dx = 1
Variável aleatória contínua
Algumas estatísticas de X:
média ou valor esperado: variância:
µX = E[X] =
Z ∞
−∞
x pX (x) dx
σX2 = var(X) = E[(X − µX )2 ] = E[X 2 ] − (E[X])2
desvio padrão:
σX =
p var(X)
PUC-Rio: DEM
Variável aleatória contínua Exemplo: densidade de probabilidade uniforme 2
suporte: [1, 2] suporte: [0.5, 2.5]
pX
1.5
suporte: [a, b]
1
0.5
densidade: pX (x) = 1[a,b] (x) média:
0 0
1 b−a
a+b 2
1
2
x
2
3
suporte: [1, 2] suporte: [0.5, 2.5]
variância:
(b−a)2 12
PX
1.5
1
0.5
0 0
PUC-Rio: DEM
1
x
2
3
Variável aleatória contínua Exemplo: densidade de probabilidade normal 1
µ = 0, σ2 = 0.2 µ = 0, σ2 = 1.0 µ = 0, σ2 = 5.0
0.8
µ = 2, σ2 = 0.5
√1 σ 2π
0.4 0.2
densidade: pX (x) = 1(−∞,∞) (x)
pX
suporte: (−∞, ∞)
0.6
0 −6
−4
−2
0
x
2
4
6
2 − (x−µ2) 2σ
e
1
média: µ
0.8
PX
0.6
variância: σ 2
0.4 0.2 0 −6
PUC-Rio: DEM
−4
−2
0
x
2
4
6
Variável aleatória contínua Exemplo: densidade de probabilidade Gama 2
1.5
pX
suporte: (0, ∞) densidade:
δ2
= 0.2 = 1.0 = 5.0 = 0.5
1
0.5
0 0
pX (x) = 1[0,∞) (x)× 1 1 −1 1 δ2 x δ2 exp δ 2xµ × 11 µ δ2 µ Γ(
σ2 σ2 σ2 σ2
µ = 1, µ = 2, µ = 2, µ = 3,
)
2
x
4
6
4
6
1 0.8
variância: σ 2
0.6
PX
média: µ
0.4 0.2 0 0
PUC-Rio: DEM
2
x
Variável aleatória contínua Exemplo: densidade de probabilidade exponencial 1.5
λ = 0.5 λ = 1.0 λ = 1.5
suporte: (0, ∞)
pX
1
0.5
densidade:
0 0
pX (x) = λ ? exp −λ x
média:
1 λ
1
2
1
2
x
3
4
5
3
4
5
1 0.8
1 λ2
0.6
PX
variância:
0.4 0.2 0 0
PUC-Rio: DEM
x
Vetor aleatório
O vetor aleatório {X} é uma função real: {X} : Ω −→ Rn w 7−→ {X(w)} = {x}
tal que {X}−1 ({x}) = {w ∈ Ω : X1 (w) ≤ x1 , · · · , Xn (w) ≤ xn } ∈ F, ∀ {x} ∈ Rn .
PUC-Rio: DEM
Vetor aleatório
Um vetor aleatório real, {X}, de dimensão n, é composto por n variáveis aleatórias, X1 , · · · , Xj , · · · , Xn .
X1 .. . T {X} = Xj = (X1 · · · Xj · · · Xn ) .. . Xn
PUC-Rio: DEM
Vetor aleatório
A função distribuição de probabilidade cumulativa associada a {X} é a função: P{X} : Rn −→ [0, 1] {x} 7−→ P{X} ({x}) = Pr({w ∈ Ω : X1 (w) ≤ x1 , · · · , Xn (w) ≤ xn }) onde {x} ∈ Rn . É usual utilizar a notação simplificada: P{X} ({x}) = Pr(X1 ≤ x1 , X2 ≤ x2 , · · · , Xn ≤ xn )
PUC-Rio: DEM
Vetor aleatório A função densidade de probabilidade, p{X} , de {X} é: p{X} ({x}) =
∂n P ({x}) , ∂ x1 ∂ x2 · · · ∂ xn {X}
chamado também de densidade de probabilidade conjunta de X1 , · · · , Xn . A função densidade de probabilidade marginal de cada Xj , j = 1, · · · , n, é calculada por: pXj (xj ) =
Z
Rn−1
p{X} ({x}) dx1 · · · dxj−1 dxj+1 · · · dxn .
PUC-Rio: DEM
Vetor aleatório Independência Quando X1 , · · · , Xn são variáveis aleatórias independentes: p{X} ({x}) = pX1 (x1 ) × · · · × pXn (xn ) . Note que: p{X} =⇒ pX1 , · · · , pXn . pX1 , · · · , pXn =⇒ p{X} , se e somente se X1 , · · · , Xn são independentes.
PUC-Rio: DEM
Vetor aleatório Exemplo: Seja {X} ∈ R2 um vetor aleatório com suporte k = [0, ∞) × [0, ∞) ⊂ R2 e função densidade de probabilidade conjunta:
p{X} ({x}) = 1k ({x}) 2e−x1 −x2
PUC-Rio: DEM
Vetor aleatório Exemplo: As funções densidades de probabilidade marginais de X1 e X2 são: pX1 (x1 ) =
Z
p{X} ({x}) dx2 = 1[0,∞) (x1 )2e−x1
pX2 (x2 ) =
Z
p{X} ({x}) dx1 = 1[0,∞) (x)2e−x2
R
R
pX1 (x1 ) × pX2 (x2 ) 6= p{X} ({x})
As variáveis X1 e X2 não são independentes. PUC-Rio: DEM
Vetor aleatório
Algumas estatísticas de {X}: µX1 média: E[{X}] = {µX } = ... µXn 2 σ 2 .X1 variância: σX = ..
σX2n
PUC-Rio: DEM
Vetor aleatório A matriz de covariância de {X} ∈ Rn é a matriz n × n:
[C] =
E[(X1 − µX1 )2 ] · · · E[(X1 − µX1 )(Xn − µXn )] E[(X2 − µX2 )(X1 − µX1 )] · · · E[(X2 − µX2 )(Xn − µXn )] .. .. .. . . . E[(Xn − µXn )2 ] E[(Xn − µXn )(X1 − µX1 )] · · ·
Os elementos na diagonal são:
Cjj = σX2j
j = 1, · · · , n.
Note que: X1 , · · · , Xn são independentes ⇐⇒ [C] é matriz diagonal. PUC-Rio: DEM
Conceitos importantes
Diz-se que X Y são variáveis aleatórias independentes quando: pXY (x, y) = pX (x) × pY (y) . Fórmula de Leibnitz Seja f (x, θ ) uma função tal que d dθ
Z
b(θ )
a(θ )
f (x, θ ) dx =
Z b(θ ) a(θ )
∂ f (x,θ ) ∂θ
exista e seja contínua.
∂θ f (x, θ ) dx
+ f b(θ ), θ · b′ (θ ) − f a(θ ), θ · a′ (θ ) .
PUC-Rio: DEM
Função de variável aleatória
Soma de variáveis aleatórias Sejam X e Y duas variáveis aleatórias com densidade de probabilidade conjunta pX,Y . Determine a densidade de probabilidade da soma Z = X + Y.
Propagação de incertezas
PUC-Rio: DEM
Soma de variáveis aleatórias Escreve-se a distribuição cumulativa de Z = X + Y como a integral:
Pr(Z ≤ z) = Pr(X + Y ≤ z) = =
Z ∞Z z
−∞ −∞
Z ∞ Z z−y −∞ −∞
pX,Y (x, y)dxdy
pX,Y (v − y, y)dvdy
onde foi feita a substituição x = v − y. Mudando a ordem de integração e derivando:
Pr(Z ≤ z) = pZ (z) =
Z ∞Z z
−∞ −∞
Z z
−∞
pX,Y (v − y, y)dydv
pX,Y (v − y, y)dy PUC-Rio: DEM
Soma de variáveis aleatórias
pZ (z) =
Z z
−∞
pX,Y (v − y, y)dy
Caso X e Y sejam independentes: pX,Y (x, y) = pX (x) pY (y). pZ (z) =
Z z
−∞
pX (v−y)pY (y)dy
=⇒ Convolução das marginais!
Caso X e Y não sejam independentes: pZ (z) =
Z z
−∞
pX,Y (v − y, y)dy
=⇒ Densidade conjunta!
PUC-Rio: DEM
Exemplo Sejam X eY duas variáveis aleatórias independentes, N (0, 1). |Y| se X ≥ 0 . Seja Z = −|Y| se X < 0 Vamos calcular a distribuição de Z: Caso z < 0 PZ (z) = Pr(Z ≤ z) = Pr(X < 0, −|Y| ≤ z)
= Pr(X < 0)[Pr(Y ≤ z) + Pr(Y ≥ −z)] 1 = [2 Pr(Y ≤ z)] = Pr(Y ≤ z) = PY (Y ≤ z) 2
Caso z ≥ 0
PZ (z) = Pr(Z ≤ z) = Pr(X ≥ 0, |Y| ≤ z)
= Pr(X ≥ 0)[Pr(Y ≤ z) + Pr(Y ≥ −z)] 1 = [2 Pr(Y ≤ z)] = Pr(Y ≤ z) = PY (Y ≤ z) 2 PUC-Rio: DEM
Exemplo
A distribuição de Z é a mesma que a de Y, pois as probabilidades conjuntas coincidem ∀z ∈ R.
X, Y, Z têm a mesma densidade de probabilidade, N (0, 1). Porém X e Z não são independentes já que têm sempre o mesmo sinal.
PUC-Rio: DEM
Exemplo Histogramas contruidos com 10, 000 amostras de X, Y e Z. X
0.5
Y
0.5
N (0, 1)
0.4
0.4
0.3
0.3
0.2
0.2
0.1
0.1
0
N (0, 1)
0 −5
0 x
5
−5
0 y
Z
0.5
N (0, 1)
0.4 0.3 0.2 0.1 0 −5
0 z
5
PUC-Rio: DEM
5
Exemplo Scatter plot das amostras de X e Z.
4
z
2 0
−2 −4 −4
−2
0 x PUC-Rio: DEM
2
4
Exemplo Soma das variáveis aleatórias: X +Y
0.4
X +Z
N (0, 2)
0.25 0.2
0.3
0.15 0.2 0.1 0.1
0.05
0
0 −5
0 x+y
5
−5
PUC-Rio: DEM
0 x+z
5
Sequências de variáveis aleatórias
Seja {Xn }n∈N uma sequência de variáveis aleatórias independentes. O conceito de convergência de sequências de variáveis aleatórias não é único. Convergência em média quadrática Convergência em média Convergência em probabilidade Convergência quase-certa Convergência em distribuição
PUC-Rio: DEM
Sequências de variáveis aleatórias Convergência em média quadrática Sendo L2 (Ω, Pr) um espaço de Hilbert, a norma de X ∈ L2 (Ω, Pr) é: q kXk = E[X 2 ] .
A sequência {Xn }n∈N converge para a variável aleatória X em média quadrática se e somente se: kXn − Xk −→ 0
quando
n −→ +∞.
PUC-Rio: DEM
Sequências de variáveis aleatórias
Convergência em probabilidade A sequência {Xn }n∈N converge para a variável aleatória X em probabilidade se e somente se:
∀ε > 0 : Pr(|Xn − X| ≥ ε ) −→ 0 quando n −→ +∞.
PUC-Rio: DEM
Sequências de variáveis aleatórias
Exemplo 1: Seja {Xn }i∈N uma sequência de variáveis aleatórias discretas.
Assumem os valores 1 e 2. Cada uma delas tem densidade: 1 se x = 1 n pXn (x) = 1 1− se x = 2 . n
PUC-Rio: DEM
Sequências de variáveis aleatórias Exemplo 1: Essa sequência {Xn }n∈N converge para a variável aleatória constante X = 2 em média quadrática. 1a etapa: determinar a densidade de Xn − X. 1 − 2 = −1 com probabilidade 1 n (Xn − X)(w) = 1 2−2 = 0 com probabilidade 1 − . n
2a etapa: Calcular a norma de Xn − X. s r h r i 1 1 1 2 2 2 kXn − Xk = E (Xn − X) = (−1) + (0) 1 − = n n n
Logo, kXn − Xk −→ 0
quando
n −→ +∞.
PUC-Rio: DEM
Sequências de variáveis aleatórias Exemplo 2: Seja {Xn }i∈N uma sequência de variáveis aleatórias discretas.
Cada Xn assume os valores n e −1.
Cada uma delas tem densidade: n com probabilidade 1/n2 Xn (w) = 0 com probabilidade 1 − 1/n2 . Tem-se que {Xn }n∈N converge para a variável aleatória X constante igual a 0 em probabilidade, porém não converge em média quadrática.
PUC-Rio: DEM
Sequências de variáveis aleatórias Exemplo 2: Verificando a convergência em probabilidade: 1a etapa: verificar que Xn − X = Xn − 0 = Xn 2a etapa: calcular a probabilidade ∀ε > 0 , Pr(|Xn − X| ≥ ε ) = Pr(|Xn | ≥ ε ) =
1 . n2
Logo, ∀ε > 0 : Pr(|Xn − X| ≥ ε ) −→ 0 quando n −→ +∞. PUC-Rio: DEM
Sequências de variáveis aleatórias Exemplo 2: Verificando que não converge em média quadrática 1a etapa: determinar a densidade de Xn − X. n com probabilidade 1/n2 Xn (w) = 0 com probabilidade 1 − 1/n2 . 2a etapa: Calcular a norma de Xn − X. s r h i √ 1 1 2 2 2 kXn − Xk = E (Xn − X) = (n) 2 + (0) 1 − 2 = 1 n n
Logo, kXn − Xk não converge a zero quando n −→ +∞. PUC-Rio: DEM
Método de Monte Carlo: propagação de incertezas
PUC-Rio: DEM
Geradores de Amostras
O método tipicamente envolve a geração de observações de objetos estocásticos. Assim, é indispensável estudar geração de amostras de:
variáveis e vetores aleatórios; processos e campos estocásticos
para poder-se trabalhar com o método Monte Carlo.
PUC-Rio: DEM
Requisitos de um Gerador O computador é um dispositivo determinístico: as amostras são geradas através de algoritmos determinísticos.
Amostras ’pseudo-aleatórias’ Espera-se que o gerador: 1
seja rápido - em suas aplicações pode ser necessário gerar milhões de amostras;
2
seja repetível;
3
tenha um longo período p;
4
seja aparentemente aleatório para a aplicação a qual é destinado. PUC-Rio: DEM
Variáveis e Parâmetros dos Geradores Os geradores produzem uma sequência de amostras x(1) , · · · , x(i) , · · · com x(i) ∈ R, ∀i ∈ N na qual o termo x(i) é definido como: x(i) = f (variáveis, parâmetros)
Geralmente, os parâmetros são valores fixos, e o que muda de amostra para amostra são as variáveis. Elas podem ser valores: Externos ao computador Internos =⇒ Sementes Muitos geradores utilizam como semente para x(i) o valor anterior, x(i−1) .
PUC-Rio: DEM
Geradores
Métodos de gerar amostras de variáveis e vetores diferentes da uniforme:
Método da transformada Inversa Método da Rejeição Condicionamento: regra da cadeia
PUC-Rio: DEM
Método da Transformada Inversa
No caso univariado, amostras de uma variável aleatória X (tendo função de distribuição de probabilidade cumulativa P) são obtidas por: x(i) = P−1 (u(i) )
onde u(i) é uma amostra de uma variável aleatória distribuída uniformemente no intervalo [0, 1].
PUC-Rio: DEM
Método da Transformada Inversa Algumas distribuições usuais: pdf
Inversa
Distribuição
p(x)
P−1 (γ )
Uniforme U (a, b)
1 b−a
a + (b − a)γ
Exponencial E (λ )
λ e−λ x
− λ1 ln (1 − γ )
Beta B(α , 1)
α xα −1
γα
e−(x−α )/β 2 β [1+e−(x−α )/β ]
α + β ln[γ /(1 − γ )]
a≤x≤b
λ > 0; x ≥ 0
α > 0; 0 ≤ x ≤ 1 Logística L (α , β )
β > 0; −∞ < x; α < ∞
PUC-Rio: DEM
1
Método da Transformada Inversa Exemplo: gerar amostras de X com uma função densidade p:
p(x) =
2x
0
, ,
0≤x≤1, x < 0 ou x > 1 .
A função distribuição cumulativa de probabilidade P será:
P(x) =
0 R
,
x 0 2y
1
,
x1.
PUC-Rio: DEM
Método da Transformada Inversa
Exemplo: Aplicando o Método da Transformada Inversa, cada amostra x(i) de X é obtida por: p ∀i ∈ N , x(i) = P−1 (u(i) ) = u(i) , onde cada u(i) é uma amostra de uma variável aleatória uniforme em [0, 1].
PUC-Rio: DEM
Método da Transformada Inversa 2
Histograma pdf
p(x)
1.5
1
0.5
0 0
0.2
0.4
x
0.6
0.8
1
Figura: (a) Histograma normalizado construído a partir de 104 amostras de X. (b) Gráfico da função densidade de probabilidade p.
PUC-Rio: DEM
Método da Transformada Inversa Desvantagens do método:
calcular a integral analítica de p para obter a distribuição de probabilidade P; inverter P, ou seja determinar P−1 .
Em casos em que P é não inversível (ex: função densidade de probabilidade conjunta), a geração é feita através de outros métodos.
Método da Rejeição PUC-Rio: DEM
Método da Rejeição
Vetor aleatório: gera amostras de {X} com densidade p a partir de amostras de {Y} função distribuição de probabilidade h, tal que:
1
2
em cada iteração do algoritmo é gerado um candidato a {x}(i) chamado {y}(j) ;
cada {y}(i) é aceito ou rejeitado como {x}(i) de acordo com um critério;
PUC-Rio: DEM
Método da Rejeição
Seja c uma constante real tal que:
p(x) ≤ 1 , ∀x ∈ k . c h(x)
Etapas para gerar x(i) de X: 1
2
3
gere uma amostra y(j) de Y com densidade de probabilidade h; gere uma amostra u(j) de uma variável aleatória U com densidade de probabilidade uniforme em [0, 1]; se u(j) ≤
p(y(j) ) , aceite x(i) = y(j) . c h(y(j) )
PUC-Rio: DEM
Método da Rejeição
Exemplo: Gerar amostras de {X} = (X1 X2 )T com suporte k = [0, 1] × [0, 1] ⊂ R2 e função densidade de probabilidade conjunta: p({x}) = 1k ({x}) 2.5e−x1 −x2 .
através de amostras de {Y} = (Y1 Y2 )T , com Y1 e Y2 independentes e densidade de probabilidade conjunta: h({x}) = 1[0,1] (x1 ) × 1[0,1] (x2 ) = 1k ({x}) .
PUC-Rio: DEM
Método da Rejeição Exemplo: funções p e 2.5 h:
PUC-Rio: DEM
Método da Rejeição Exemplo: foi implementado em MATLAB para o caso de m = 2 × 105 amostras de {X}.
PUC-Rio: DEM
Geração através do condicionamento Vetor aleatório: gerar amostras de {X} = (X1 . . . Xn )T com densidade de probabilidade p{X} . Ideia: Transformar o problema de geração de multivariada em um problema de geração de univariadas.
O produto das condicionais é igual à densidade de probabilidade conjunta do vetor.
p({x}) = pX1 (x1 )×pX2 |X1 (x2 |x1 )×· · ·×pXn |X1 ,X2 ···Xn−1 (xn |x1 , x2 · · · xn−1 ) .
PUC-Rio: DEM
Geração através do condicionamento
Etapas para gerar uma amostra {x}(i) = (x1 , x2 , · · · , xn )(i) : pX1 (i)
x1
⇒
pX2 |X1 (i)
(i)
x1 , x2
⇒
pX3 |X1 ,X2 (i)
(i)
(i)
x1 , x2 , x3
⇒ ··· ⇒
pXn |X1 ,X2 ,··· ,Xn−1
···
x1 , x2 , · · · , xn
PUC-Rio: DEM
(i)
(i)
(i)
Geração através do condicionamento As densidades de probabilidade condicionais são definidas por:
pX1 (x1 ) =
Z
Rn−1
p{X} ({x})dx2 · · · dxn
pX ,X (x1 , x2 ) pX2 |X1 (x2 |x1 ) = 1 2 = pX1 (x1 )
pX3 |X1 ,X2 (x3 |x1 , x2 ) =
Z
Rn−2
p{X} ({x})dx3 · · · dxn pX1 (x1 )
pX1 ,X2 ,X3 (x1 , x2 , x3 ) = pX1 ,X2 (x1 , x2 )
pXn |X1 ,···Xn−1 (xn |x1 , · · · xn−1 ) =
Z
Rn−3
p{X} ({x})dx4 · · · dxn pX1 ,X2 (x1 , x2 )
p{X} ({x}) pX1 ,···Xn−1 (x1 , · · · xn−1 ) PUC-Rio: DEM
Geração usando condicionamento Exemplo: gerar amostras de um vetor aleatório {X} = (X1 X2 )T com densidade de probabilidade uniforme no círculo de raio unitário: p{X} ({x}) = 1C2
1 . π
A densidade marginal pX1 e a densidade condicional pX2 |X1 são: Z √1−x2 q 1 1 2 pX1 (x1 ) = √ dx2 = 1[−1,1] (x1 ) 1 − x12 2 π π − 1−x1 pX2 |X1 (x2 |x1 ) =
pX1 ,X2 (x1 , x2 ) = pX1 (x1 )
1 1/π q = q 2 1 − x12 2 1 − x12 π
PUC-Rio: DEM
Geração usando condicionamento
Exemplo: Para gerar cada amostra {x}(i) = (x1 , x2 )(i) : (i)
1
Gera-se x1 (amostra de X1 com densidade marginal pX1 ).
2
Dado x1 , gera-se x2 (amostra de X2 com densidade condicional pX2 |X1 ).
(i)
(i)
PUC-Rio: DEM
Geração usando condicionamento Exemplo: foi implementado em MATLAB para o caso de m = 2 × 105 amostras de {X}.
0.5
0 −1
1 −0.5
0.5 0
0 0.5
x1
−0.5 1 −1
x2
PUC-Rio: DEM
Livros publicados / em preparação
2012
2013
2014
PUC-Rio: DEM
2016
Modelagem Estocástica e Quantificação de Incertezas Rubens Sampaio
[email protected]
Roberta de Queiroz Lima
[email protected]
Departamento de Engenharia Mecânica
DINCON 2015 PUC-Rio: DEM
