Proces stochastyczny

Kurs akcji Telekom Austria 20.11.2000 - 17.03.2006 jest przykładem niestacjonarnego procesu stochastycznego.

Symulowana komputerowo realizacja procesu Wienera (ruchu Browna) na powierzchni kuli. Proces Wienera należy do najważniejszych i najlepiej zbadanych procesów stochastycznych.

Dźwięki licznika Geigera, rejestrującego kolejne cząstki $\alpha$ wskazują na losowość emisji cząstek. To przykład procesu Poissona, dyskretnego procesu stochastycznego.

Proces stochastyczny, proces losowy (gr. στοχαστικός (stochastikós) 'będący wynikiem domysłu') – rodzina zmiennych losowych, określonych na pewnej przestrzeni probabilistycznej o wartościach w pewnej przestrzeni mierzalnej. Najczęściej jest to rodzina zmiennych losowych, która opisuje ewolucję zjawiska losowego w czasie. Rozpatruje się również procesy indeksowane punktami przestrzeni; nazywa się je polami losowymi.

Przykłady procesów stochastycznych

• zapis drgań środka ciężkości samochodu w zależności od czasu,
• rejestracja prądów EKG i EEG pacjenta, zmian jego ciśnienia krwi czy temperatury ciała,
• ruchy Browna cząstki umieszczonej w płynie,
• ruch cząsteczki w gazie lub cieczy,
• rejestracja cząstek wpadających do licznika Geigera w zależności od czasu,
• fluktuacje kursu euro na giełdzie.

Przy powtórzeniu powyższych doświadczeń otrzyma się na ogół inny ich przebieg; są to procesy losowe, niedeterministyczne.

Definicje

Niech $T$ będzie niepustym podzbiorem osi rzeczywistej. Dowolny element $t$ ze zbioru $T$ nazywa się umownie chwilą.

Def. 1 Procesem stochastycznym $\{X_{t}:t\in T\}$ nazywa się funkcję, która każdej chwili $t$ przyporządkowuje pewną zmienną losową $X_{t}$ określoną na ustalonej przestrzeni probabilistycznej $(\Omega ,{\mathcal {F}},{\mathsf {P}})$.

Dla procesu $\{X_{t}:t\in T\}$ stosuje się również oznaczenie $(X_{t})_{t\in T}.$

Def. 2 Wartością procesu w chwili $t$ nazywa się zmienną losową $X_{t}.$

Def. 3 Realizacją (trajektorią) procesu nazywa się funkcję rzeczywistą $x(t)=X_{t}(\omega )$ zmiennej $t\in T$, przy ustalonym zdarzeniu elementarnym $\omega \in \Omega$.

Każdemu zdarzeniu elementarnemu $\omega \in \Omega$ odpowiada jedna trajektoria.

Def. 4 Przestrzenią stanów procesu $\{X_{t}:t\in T\}$ nazywa się zbiór wszystkich możliwych wartości, jakie mogą przyjmować zmienne $X_{t}(\omega )$ dla dowolnych$\omega \in \Omega$ oraz $t\in T$.

Def. 5 Procesem z czasem dyskretnym lub ciągiem czasowym nazywa się procesy o przeliczalnym zbiorze $T=\{t_{0},t_{1},t_{2},\dots \}$. W niektórych źródłach takie procesy nazywa się szeregami czasowymi, choć zwykle termin ten odnosi się do realizacji takiego procesu.

Def. 6 Procesem z czasem ciągłym nazywa się proces, w których $T$ jest przedziałem zbioru liczb rzeczywistych.

Def. 7 Łańcuchem Markowa nazywa się spełniający własność Markowa („brak pamięci”) proces stochastyczny, w którym zarówno $X_{t}$ jak i czas $t$ przyjmują wartości dyskretne.

Przykłady

Błądzenie losowe. Cząstka rozpoczyna ruch w punkcie $0$ osi liczbowej i wykonuje skok w prawo o jednostkę z prawdopodobieństwem $p$ albo wykonuje skok w lewo z prawdopodobieństwem $1-p$ w każdej chwili $t=0,1,2,\dots$ niezależnie od poprzednich położeń. Proces $(X_{t})_{t=0}^{\infty }$, gdzie $X_{t}$ oznacza pozycję cząstki w chwili $t$, nazywa się błądzeniem losowym.

Dyskretny biały szum. Jeżeli ciąg $(X_{t})_{t=0}^{\infty }$ jest złożony z niezależnych zmiennych losowych $X_{t}$ o wartości oczekiwanej równej zero i wariancji równej $\sigma ^{2}$, to nazywa się go białym szumem. Proces taki może opisywać np. zakłócenia, nakładające się na sygnał podczas transmisji.

Procesy stacjonarne

Def. 8 Proces stochastyczny $X(t)$ nazywamy procesem stacjonarnym w węższym sensie, jeżeli dla każdego $t_{1},t_{2},\dots ,t_{n}\in T$ łączny rozkład

$\{X(t_{1}+t_{0}),X(t_{2}+t_{0}),\dots ,X(t_{n}+t_{0})\}$

nie zależy od $t_{0}.$ Innymi słowy, właściwości takiego procesu nie zmieniają się przy przesunięciu osi czasu.

Def. 9 Proces stochastyczny $X(t)$ nazywamy procesem stacjonarnym w szerszym sensie, jeżeli:

1. wartość oczekiwana jest stała, tj. nie zależy od $t$

$E{X(t)}=\mu$,

2. dla każdego $t\in T$

$E{X^{2}(t)}<\infty ,$

co oznacza, że wariancja ma skończoną wartość,

3. funkcja kowariancji zmiennych losowych $X(t)$ oraz $X(s)$ dla dowolnych chwil $s,t$

$Cov(X(t),X(s))=E[(X(t)-\mu )(X(s)-\mu )]$

zależy wyłącznie od różnicy $t\!-\!s$, tzn. istnieje funkcja $R$ taka że

${\text{Cov}}(X(t),X(s))=R(t-s)$

Funkcję $R$ nazywa się funkcją korelacyjną.

Tw. 1 Każdy proces stacjonarny w węższym sensie i posiadający funkcję korelacji jest stacjonarny w szerszym sensie, ale nie odwrotnie. Jednak w klasie procesów gaussowskich oba pojęcia są równoważne.

Modyfikacje procesów stochastycznych

Def. 10 Procesy stochastyczne $X=(X_{t})_{t\in T}$ oraz $Y=(Y_{t})_{t\in T}$ nazywamy wzajemnymi modyfikacjami, gdy dla każdego $t\in T{:}$

${\mathsf {P}}(\{\omega \in \Omega \colon X_{t}(\omega )\neq Y_{t}(\omega )\})=0.$

Def. 11 Modyfikację $Y$ procesu $X$ nazywamy ciągłą, gdy dla każdego $\omega \in \Omega$ trajektoria

$T\ni t\mapsto Y_{t}(\omega )$

jest ciągła.

Konstruowanie procesów stochastycznych

W aksjomatyzacji teorii prawdopodobieństwa środkami teorii miary, podstawowym zadaniem jest konstrukcja sigma-algebry zbiorów mierzalnych w przestrzeni wszystkich funkcji i zbudowanie na niej skończonej miary. W tym celu tradycyjnie używa się metody zwanej rozszerzeniem Kołmogorowa.

Rozszerzenie Kołmogorowa

Rozszerzenie Kołmogorowa przebiega według następującego schematu: zakładając, że miara prawdopodobieństwa na przestrzeni wszystkich funkcji $f\colon X\to Y$ istnieje, może być ona użyta do zdefiniowania rozkładu prawdopodobieństwa dla skończenie-wymiarowych zmiennych losowych $[f(x_{1}),\dots ,f(x_{n})].$ Teraz, z tego $n$-wymiarowego rozkładu prawdopodobieństwa możemy uzyskać $(n-1)$-wymiarowe rozkład brzegowy dla $[f(x_{1}),\dots ,f(x_{n-1})].$ Istnieje oczywisty warunek zastosowania metody, mianowicie taki, że ten rozkład brzegowy musi być taki sam jak ten uzyskany z w pełni rozwiniętego procesu stochastycznego. Kiedy wyrazimy ten warunek w kategoriach gęstości rozkładów, rezultatem będzie równanie Chapmana-Kołmogorowa-Smoluchowskiego.

Twierdzenie o rozszerzeniu Kołmogorowa gwarantuje istnienie procesu stochastycznego z daną rodziną skończenie-wymiarowych rozkładów prawdopodobieństwa spełniających warunek Chapmana-Kołmogorowa.

Czego rozszerzenie Kołmogorowa nie obejmuje

W aksjomatyzacji Kołmogorowa, zbiory mierzalne są zbiorami, które mają prawdopodobieństwo, innymi słowy, zbiorami dla których pytania tak/nie mają probabilistyczną odpowiedź.

Rozszerzenie Kołmogorowa zaczyna się deklaracją, że mierzalne są wszystkie zbiory funkcji, gdzie skończenie wiele współrzędnych $[f(x_{1}),\dots ,f(x_{n})]$ leży w mierzalnych podzbiorach $Y^{n}.$ Innymi słowy, jeśli na pytania tak/nie o $f$ można uzyskać odpowiedź, biorąc co najwyżej skończoną liczbę współrzędnych, wtedy pytanie ma probabilistyczną odpowiedź.

W teorii miary, jeśli mamy przeliczalną rodzinę mierzalnych zbiorów, wtedy suma i przecięcia wszystkich tych zbiorów jest zbiorem mierzalnym. Dla naszych celów oznacza to, że te pytania tak/nie, które zależą od przeliczalnie wielu współrzędnych, mają probabilistyczną odpowiedź.

Rozszerzenie Kołmogorowa umożliwia konstruowanie procesów stochastycznych z ustalonymi skończenie-wymiarowymi rozkładami. Każde pytanie, które można zadać na temat ciągu, ma także probabilistyczną odpowiedź dla ciągów losowych. Z drugiej strony, pewne pytania o funkcje określone na ciągłej dziedzinie nie mają probabilistycznej odpowiedzi. Niestety większość problemów analizy matematycznej należy do tej kategorii, w szczególności:

1. ograniczoność,
2. ciągłość,
3. różniczkowalność.

Wszystkie wymagają znajomości nieprzeliczalnie wielu wartości funkcji.

Jednym z rozwiązań jest zdefiniowanie procesu stochastycznego jako rozkładalnego. Innymi słowy, że istnieje policzalny zbiór współrzędnych $\{f(x_{i})\}$ którego wartości definiują całą funkcję losową $f.$

Najważniejsze typy procesów stochastycznych

• procesy Bernoulliego
• procesy Wienera
• procesy Markowa, gdzie stany w bezpośredniej przyszłości zależą tylko od stanu aktualnego
• procesy Poissona
• procesy stacjonarne
• procesy homogeniczne: procesy, gdzie dziedzina posiada pewną symetrię oraz skończenie-wymiarowe rozkłady prawdopodobieństwa także mają tę symetrię; specjalny przypadek obejmuje proces stacjonarny
• procesy o przyrostach niezależnych: procesy, gdzie dziedzina jest przynajmniej częściowo uporządkowana i jeśli $x_{1}<\dots <x_{n},$ to wszystkie zmienne $f(x_{k+1})-f(x_{k})$ są niezależne
• procesy punktowe: losowe ustawienia punktów w przestrzeni $S$
• procesy gaussowskie: procesy utworzone za pomocą kombinacji liniowych zmiennych losowych, z których każda ma rozkład normalny
• martyngały
• procesy Galtona-Watsona
• procesy gałązkowe
• ruchy Browna

• błądzenie losowe

Zobacz też

• rozkład prawdopodobieństwa
• funkcja gęstości prawdopodobieństwa
• ciągły rozkład prawdopodobieństwa
• dyskretny rozkład prawdopodobieństwa
• papuga stochastyczna

Bibliografia

• Lesław Gajek, Marek Kałuszka, Wnioskowanie statystyczne Modele i metody, Wydawnictwa Naukowo-Techniczne, Warszawa 1993, str. 116-141 (Rozdział 6 Procesy stochastyczne), str. 142-160 (Rozdział 7 Zadanie estymacji procesów stochastycznych).
• Lech T. Kubik, Andrzej Krupowicz, Wprowadzenie do rachunku prawdopodobieństwa i jego zastosowań, Warszawa 1982, Państwowe Wydawnictwo Naukowe, str. 403-454.
• Donald A. McQuarrie, Matematyka dla przyrodników i inżynierów, tom 3, Wydawnictwo Naukowe PWN, Warszawa 2006, str. 191-211.

Linki zewnętrzne

• Informacje o procesach stochastycznych podane w przystępny sposób