提交所有LaTeX文件。
This commit is contained in:
34
随机过程/作业/mypreamble.tex
Normal file
34
随机过程/作业/mypreamble.tex
Normal file
@@ -0,0 +1,34 @@
|
||||
\usepackage{booktabs}
|
||||
\usepackage{diagbox}
|
||||
\usepackage{multicol}
|
||||
|
||||
\usepackage{fancyhdr}
|
||||
\usepackage{enumitem}
|
||||
\usepackage{titlesec}
|
||||
\usepackage{amssymb, amsfonts, amstext, amsmath, amsopn, amsthm}
|
||||
\usepackage{bm}
|
||||
\usepackage{extarrows}
|
||||
\usepackage{hyperref}
|
||||
\usepackage{totpages}
|
||||
\usepackage{mylatex}
|
||||
\usepackage{subfiles}
|
||||
|
||||
\fancyfoot[C]{第 \thepage 页\quad 共 \ref{TotPages} 页}
|
||||
\renewcommand\thesection{\thechapter.\arabic{section}}
|
||||
\renewcommand \thesubsection {\arabic{subsection}}
|
||||
\renewcommand{\labelenumii}{(\arabic{enumii})}
|
||||
\title{《随机过程》作业}
|
||||
\author{岳锦鹏}
|
||||
\newcommand{\mysignature}{10213903403 岳锦鹏}
|
||||
\date{2024年2月27日——2024年6月18日}
|
||||
\setlist[1]{listparindent=\parindent}
|
||||
\setlist[2]{listparindent=\parindent}
|
||||
\titlelabel{} % 去除序号，但是在主文件中不去除
|
||||
\definecolor{shadecolor}{RGB}{204,232,207}
|
||||
|
||||
\def\myitem#1#2{
|
||||
\item \text{#1}
|
||||
\begin{enumerate}
|
||||
#2
|
||||
\end{enumerate}
|
||||
}
|
||||
6
随机过程/作业/mysubpreamble.tex
Normal file
6
随机过程/作业/mysubpreamble.tex
Normal file
@@ -0,0 +1,6 @@
|
||||
|
||||
\pagestyle{fancyplain}
|
||||
\fancyhead{}
|
||||
\fancyhead[C]{\mysignature}
|
||||
\fancyfoot[C]{第 \thepage 页\quad 共 \ref{TotPages} 页}
|
||||
\definecolor{shadecolor}{named}{white}
|
||||
26
随机过程/作业/全部作业.tex
Normal file
26
随机过程/作业/全部作业.tex
Normal file
@@ -0,0 +1,26 @@
|
||||
\documentclass[a4paper]{ctexbook}
|
||||
\input{mypreamble}
|
||||
\begin{document}
|
||||
\maketitle
|
||||
\tableofcontents
|
||||
\chapter{概率论复习}
|
||||
\subfile{第一周作业}
|
||||
\subfile{第二周作业}
|
||||
\chapter{简单随机模型}
|
||||
\subfile{第三周作业}
|
||||
\subfile{第四周作业}
|
||||
\subfile{第五周作业}
|
||||
\chapter{离散时间马尔可夫链}
|
||||
\subfile{第六周作业}
|
||||
\subfile{第七周作业}
|
||||
\subfile{第九周作业}
|
||||
\subfile{第十周作业}
|
||||
\chapter{马氏链应用模型}
|
||||
\subfile{第十一周作业}
|
||||
\subfile{第十二周作业}
|
||||
\subfile{第十三周作业}
|
||||
\setcounter{chapter}{5}
|
||||
\chapter{布朗运动}
|
||||
\subfile{第十四周作业}
|
||||
\subfile{第十五周作业}
|
||||
\end{document}
|
||||
161
随机过程/作业/第一周作业.tex
Normal file
161
随机过程/作业/第一周作业.tex
Normal file
@@ -0,0 +1,161 @@
|
||||
\documentclass[全部作业]{subfiles}
|
||||
\input{mysubpreamble}
|
||||
\begin{document}
|
||||
\section{《随机过程》2月26日作业}
|
||||
\begin{enumerate}
|
||||
\questionandanswer[]{
|
||||
设$X$为$k$阶矩存在的非负连续型随机变量（$k\in \mathbb{Z}^{+}$），证明：
|
||||
$$
|
||||
E(X^{k})=\int_{0}^{+\infty} kx^{k-1}P(X>x) \mathrm{d}x
|
||||
$$
|
||||
试推广一下该结论。
|
||||
}{
|
||||
\begin{proof}
|
||||
|
||||
设$X$的概率密度函数为$p(x), x\in (-\infty,+\infty)$
|
||||
|
||||
根据数学期望的定义，同时注意到$X$是非负连续型随机变量，可知
|
||||
$$
|
||||
E(X^{k})=\int_{0}^{+\infty} x^{k}p(x) \mathrm{d}x=\int_{0}^{+\infty} \left( \int_{0}^{x} ku^{k-1} \mathrm{d}u \right) p(x) \mathrm{d}x=\int_{0}^{+\infty} \int_{0}^{x} ku^{k-1}p(x) \mathrm{d}u \mathrm{d}x
|
||||
$$
|
||||
交换积分次序，
|
||||
$$
|
||||
E(X^{k})=\int_{0}^{+\infty} \int_{u}^{+\infty} ku^{k-1}p(x) \mathrm{d}x \mathrm{d}u=\int_{0}^{+\infty} ku^{k-1}P(X>u) \mathrm{d}u=\int_{0}^{+\infty} kx^{k-1}P(X>x) \mathrm{d}x
|
||||
$$
|
||||
\end{proof}
|
||||
推广该结论可得：设$f(X)$为数学期望存在的非负连续型随机变量，且$f(x)$存在导函数$f'(x)$，则
|
||||
$$
|
||||
E(f(X))=\int_{0}^{+\infty} f'(x)P(X>x) \mathrm{d}x
|
||||
$$
|
||||
}
|
||||
\questionandanswer[]{
|
||||
若连续型随机变量$X$与$Y$相互独立，其概率密度函数分别为$p_{X}(\cdot )$和$P_{Y}(\cdot )$，证明：
|
||||
$$
|
||||
E(\Phi(X,Y)|X)=\int_{\mathbb{R}}\Phi(X,y)p_{Y}(y)\mathrm{d}y
|
||||
$$
|
||||
}{
|
||||
\begin{proof}
|
||||
|
||||
直接根据定义，在$X=x$的条件下对$Y$求数学期望即可：
|
||||
$$
|
||||
E(\Phi(x,Y)|X=x)=\int_{-\infty}^{+\infty} \Phi(x,y)p_{Y}(y) \mathrm{d}y
|
||||
$$
|
||||
所以
|
||||
$$
|
||||
E(\Phi(X,Y)|X)=\int_{\mathbb{R}}\Phi(X,y)p_{Y}(y)\mathrm{d}y
|
||||
$$
|
||||
\end{proof}
|
||||
}
|
||||
\questionandanswer[]{
|
||||
从1到9中有放回地抽取数字，每次抽一个，直到奇数和偶数都被抽到时位置。求该过程中抽到奇数的次数在全部抽取次数中占比的期望（结果保留4位有效数字）。
|
||||
}{
|
||||
\begin{proof}[解]
|
||||
|
||||
设随机变量$X$表示首次抽到奇数时的总次数，则$X\sim \operatorname{Ge}(\frac{5}{9})$；
|
||||
设随机变量$Y$表示首次抽到偶数时的总次数，则$Y\sim \operatorname{Ge}(\frac{4}{9})$。
|
||||
设随机变量$Z$表示该过程中抽到奇数的次数在全部抽取次数中的占比，则$EZ$为所求的期望。
|
||||
|
||||
根据几何分布的数学期望可知，$EX=\frac{1}{\frac{5}{9}}=\frac{9}{5}$, $EY=\frac{1}{\frac{4}{9}}=\frac{9}{4}$。
|
||||
|
||||
根据重期望公式，$EZ = E(E(Z|X))$，下面计算$E(Z|X)$
|
||||
$$
|
||||
E(Z|X=x)=\begin{cases}
|
||||
\frac{EY}{EY+1}=\frac{\frac{9}{4}}{\frac{9}{4}+1} = \frac{9}{13},\quad & x=1 \\
|
||||
\frac{1}{EX}=\frac{1}{\frac{9}{5}}=\frac{5}{9},\quad & x>1 \\
|
||||
\end{cases}
|
||||
$$
|
||||
再对$X$求期望，
|
||||
$$
|
||||
EZ = E(E(Z|X))=\frac{9}{13}\times \frac{5}{9}+\frac{5}{9}\times (1-\frac{5}{9}) = \frac{665}{1053} \approx 0.6315
|
||||
$$
|
||||
\end{proof}
|
||||
}
|
||||
\questionandanswerSolution[]{
|
||||
设闯入果园的猩猩数$X$服从参数为$\lambda(>0)$的Poisson分布，每只猩猩独立地以概率$p(\in (0,1))$成功地抢到香蕉，而以概率$q=1-p$没有抢到。请分别求闯入果园且成功抢到香蕉的猩猩数$Y$和闯入果园但没抢到香蕉的猩猩数$Z$的分布，并判断$Y$和$Z$是否独立。
|
||||
}{
|
||||
$X$的分布列为$\displaystyle P(X=k)=\frac{\lambda^{k}}{k!}e^{-\lambda}$；
|
||||
|
||||
所以$Y$的分布列为$\displaystyle P(Y=k)=\frac{\lambda^{k}}{k!}e^{-\lambda} \sum_{n=k}^{\infty}C_{n}^{k}p^{k}(1-p)^{n-k}$；\\
|
||||
$Z$的分布列为$\displaystyle P(Z=k)=\frac{\lambda^{k}}{k!}e^{-\lambda} \sum_{n=k}^{\infty}C_{n}^{k}(1-p)^{k}p^{n-k}$
|
||||
|
||||
取$k=0$时来验证$Y$和$Z$是否独立。（已知$p \in (0,1)$）
|
||||
$$
|
||||
P(Y=0) = e^{-\lambda} \sum_{n=0}^{\infty}(1-p)^{n} = e^{-\lambda} \cdot \frac{1}{p}
|
||||
$$
|
||||
$$
|
||||
P(Z=0)=e^{-\lambda} \sum_{n=0}^{\infty}p^{n} = e^{-\lambda} \cdot \frac{1}{1-p}
|
||||
$$
|
||||
$$
|
||||
P(Y=0, Z=0)=P(X=0)=e^{-\lambda}
|
||||
$$
|
||||
所以
|
||||
$$
|
||||
P(Y=0)\cdot P(Z=0) \neq P(Y=0,Z=0)
|
||||
$$
|
||||
因此$Y$和$Z$不独立。
|
||||
}
|
||||
% $$
|
||||
% \sum_{i=1}^{n} s^{i} p^{i-1}(1-p) = \begin{cases} (1 - p) \sum_{i=1}^{n} s^{i} (\frac{1}{s})^{i - 1} & \text{for}\: p = \frac{1}{s} \\- \frac{s (p - 1) (p^{n} s^{n} - 1)}{p s - 1} & \text{otherwise} \end{cases}
|
||||
% $$
|
||||
\questionandanswerSolution[]{
|
||||
重复抛一枚硬币,假设每次试验是相互独立的,出现正面的概率为$p(\in (0,1))$。令$T_n$是首次出现连续$n$次正面的时刻。求$T_n$的概率母函数。
|
||||
}{
|
||||
设$Y$表示首次出现反面的时刻，则$Y\sim \operatorname{Ge}(1-p)$。
|
||||
则$T_n$的概率母函数为：
|
||||
$$
|
||||
\begin{aligned}
|
||||
\phi_{T_n}(s) = E(s^{T_n})&= s^{n} \sum_{i=n+1}^{\infty} P(Y=i) + \sum_{i=1}^{n}E(s^{i+T_n}) P(Y=i) \\
|
||||
&=s^{n}P(Y\geqslant n+1)+\sum_{i=1}^{n}s^{i}E(s^{T_n})P(Y=i) \\
|
||||
&=s^{n} p^{n} + E(s^{T_n})E(s^{Y}) \\
|
||||
\end{aligned}
|
||||
$$
|
||||
即可解得
|
||||
$$
|
||||
E(s^{T_n})=\frac{s^{n}p^{n}}{1-E(s^{Y})}
|
||||
$$
|
||||
由于$s \in [-1,1],\ p \in (-1,1)$，所以$ps \neq 1$，因此
|
||||
$$
|
||||
E(s^{Y}) =\sum_{i=1}^{n}s^{i}P(Y=i)= \sum_{i=1}^{n} s^{i} p^{i-1}(1-p) = - \frac{s (p - 1) (p^{n} s^{n} - 1)}{p s - 1}
|
||||
$$
|
||||
所以
|
||||
$$
|
||||
E(s^{T_n})= \frac{s^{n}p^{n}}{1+ \frac{s (p - 1) (p^{n} s^{n} - 1)}{p s - 1} } = \frac{p^{n} s^{n} (p s - 1)}{- p^{n} s^{n + 1} + p^{n + 1} s^{n + 1} + s - 1}
|
||||
$$
|
||||
% $$
|
||||
% - p p^{n} s^{n + 1} + p^{n} s^{n + 1} - s + 1 = p^{n} s^{n + 1} - p^{n + 1} s^{n + 1} - s + 1= p^{n} s^{n + 1} \cdot (1 - p) - s + 1
|
||||
% $$
|
||||
}
|
||||
\questionandanswerSolution[]{
|
||||
设$X_1,X_2, \cdots $ 为独立同分布的非负整数值随机变量序列，其中$X_1$的特征函数、Laplace变换和概率母函数分别为$\Psi_{X}(t)$、$L_{X}(\theta)$和$\phi_{X}(s)$。而$N$是与之独立的非负整数值随机变量，其特征函数、Laplace变换和概率母函数分别为$\Psi_{N}(t)$、$L_{N}(\theta)$和$\phi_{N}(s)$。令$\displaystyle Z=\sum_{n=1}^{N}X_n$，请分别计算$Z$的特征函数、Laplace变换和概率母函数。
|
||||
}{
|
||||
使用重期望公式，$Z$的特征函数可转化为
|
||||
$$
|
||||
E e^{itZ}=E(E(e^{itZ}|N))
|
||||
$$
|
||||
而
|
||||
$$
|
||||
E(e^{itZ}|N=k)=E\left( e^{it \sum_{n=1}^{k}X_n} \right) =E\left( \prod_{n=1}^{k} e^{it X_n} \right)
|
||||
$$
|
||||
因为$X_1,X_2, \cdots $独立同分布，所以
|
||||
$$
|
||||
\text{上式}=\prod_{n=1}^{k} E(e^{it X_n})=\prod_{n=1}^{k} \Psi_{X}(t)=\left[ \Psi_{X}(t) \right] ^{k}
|
||||
$$
|
||||
根据概率母函数的反演公式，
|
||||
$$
|
||||
\forall n \in \mathbb{Z}^{+}, \forall k \in \mathbb{Z}^{+}, P(N=k)=\frac{\phi_{N}^{(k)}(0)}{k!}
|
||||
$$
|
||||
所以$Z$的特征函数为
|
||||
$$
|
||||
\Psi_{Z}(t)=Ee^{itZ}=E(E(e^{itZ}|N))=\sum_{k=1}^{\infty}E(e^{itZ}|N=k)P(N=k)=\sum_{k=1}^{\infty}[\Psi_{X}(t)]^{k} \cdot \frac{\phi_{N}^{(k)}(0)}{k!}
|
||||
$$
|
||||
同理，$Z$的Laplace变换为
|
||||
$$
|
||||
L_{Z}(\theta)=E(e^{-\theta Z})=\sum_{k=1}^{\infty}[L_{X}(\theta)]^{k}\cdot \frac{\phi_{N}^{(k)}(0)}{k!}
|
||||
$$
|
||||
$Z$的概率母函数为
|
||||
$$
|
||||
\phi_{Z}(s)=E(s^{Z})=\sum_{k=1}^{\infty}[\phi_{X}(s)]^{k}\cdot \frac{\phi_{N}^{(k)}(0)}{k!}
|
||||
$$
|
||||
}
|
||||
\end{enumerate}
|
||||
\end{document}
|
||||
132
随机过程/作业/第七周作业.tex
Normal file
132
随机过程/作业/第七周作业.tex
Normal file
@@ -0,0 +1,132 @@
|
||||
\documentclass[全部作业]{subfiles}
|
||||
\input{mysubpreamble}
|
||||
\begin{document}
|
||||
\setcounter{chapter}{3}
|
||||
\section{《随机过程》4月8日作业}
|
||||
\begin{enumerate}
|
||||
\questionandanswerSolution[]{
|
||||
设马氏链$X$的状态空间为$S=\{ 0,1,2,3,4 \}$，一步转移概率矩阵为
|
||||
$$
|
||||
\begin{bmatrix}
|
||||
\frac{1}{3} & \frac{2}{3} & 0 & 0 & 0 \\
|
||||
0 & \frac{1}{3} & \frac{1}{3} & \frac{1}{3} & 0 \\
|
||||
\frac{3}{4} & \frac{1}{4} & 0 & 0 & 0 \\
|
||||
0 & 0 & 0 & 0 & 1 \\
|
||||
0 & 0 & 0 & \frac{1}{2} & \frac{1}{2} \\
|
||||
\end{bmatrix}
|
||||
$$
|
||||
试写出状态空间$S$中的所有互通类，判断它们是否是本质类，并说明理由。
|
||||
}{
|
||||
\begin{multicols}{2}
|
||||
\includexopp[1.5]{7.1.1}
|
||||
首先画出示意图，之后即可看出互通类为
|
||||
$$
|
||||
\{ 0,1,2 \}, \{ 3,4 \}
|
||||
$$
|
||||
|
||||
其中由于$1 \to 3$而$3 \not \to 1$，所以$\{ 0,1,2 \}$不是本质类。
|
||||
|
||||
而$3 \to 4$且$4 \to 3$，所以$\{ 3,4 \}$是本质类。
|
||||
\end{multicols}
|
||||
}
|
||||
\questionandanswerProof[]{
|
||||
在马氏链中，假设$i \leftrightarrow j$且它们的周期为$d$。证明：若$p_{ij}^{(n)}>0$且$p_{ij}^{(m)}>0$，则必有$d | (n-m)$。
|
||||
}{
|
||||
由于$i \leftrightarrow j$，则可设$p_{ji}^{(x)}>0$，所以
|
||||
$$
|
||||
p_{ii}^{(n+x)}\geqslant p_{ij}^{(n)}p_{ji}^{(x)}>0, \quad p_{ii}^{(m+x)}\geqslant p_{ij}^{(m)}p_{ji}^{(x)}>0
|
||||
$$
|
||||
又由于$i$的周期为$d$，所以$d|(n+x)$, $d|(m+x)$，则根据整除的性质，有$d|(n-m)$。
|
||||
}
|
||||
\questionandanswerProof[]{
|
||||
证明：在马氏链中，若状态$j$非常返，则对任意状态$i$，有$\displaystyle \lim_{n \to \infty} p_{ij}^{(n)}=0$。
|
||||
}{
|
||||
设状态空间为$S$。因为状态$j$非常返，所以$\displaystyle \sum_{n=1}^{\infty} p_{ii}^{(n)}<\infty$。
|
||||
|
||||
若$j \to i$，则$\exists m >0, \ \ \text{s.t.} \ p_{ji}^{(m)}>0$，所以
|
||||
$$
|
||||
\infty > \sum_{n=1}^{\infty} p_{jj}^{(n)} \geqslant \sum_{n=m}^{\infty} p_{jj}^{(n)} = \sum_{n=m}^{\infty} \sum_{k\in S}^{n} p_{jk}^{(m)}p_{kj}^{(n-m)} \geqslant \sum_{n=m}^{\infty} p_{ji}^{(m)}p_{ij}^{(n-m)} = p_{ji}^{(m)} \sum_{n=m}^{\infty} p_{ij}^{(n-m)}
|
||||
$$
|
||||
因为$p_{ji}^{(m)}>0$，所以上式可化为$\displaystyle \sum_{n=m}^{\infty} p_{ij}^{(n-m)} = \sum_{n=0}^{\infty} p_{ij}^{(n)}<\infty$。
|
||||
从而级数$\displaystyle \sum_{n=0}^{\infty} p_{ij}^{(n)}$收敛 $\implies \displaystyle \lim_{n \to \infty} p_{ij}^{(n)}=0$
|
||||
|
||||
若$j \not \to i$，则不会了。
|
||||
}
|
||||
\questionandanswerProof[]{
|
||||
证明：在马氏链中，若状态$j$为吸收态，则对任意状态$i$，有$\displaystyle \lim_{n \to \infty}p_{ij}^{(n)}=f_{ij}$。
|
||||
}{
|
||||
由于$j$为吸收态，所以$\forall i=1,2, \cdots ,n,\ p_{jj}^{(i)}=1$，所以
|
||||
$$
|
||||
\lim_{n \to \infty} p_{ij}^{(n)} = \lim_{n \to \infty} \sum_{k=1}^{n} p_{jj}^{(n-k)} f_{ij}^{(k)} = \lim_{n \to \infty} \sum_{k=1}^{n} f_{ij}^{(k)} = \sum_{k=1}^{\infty} f_{ij}^{(k)} = f_{ij}
|
||||
$$
|
||||
}
|
||||
\questionandanswerProof[]{
|
||||
证明：元素有限的本质类必是常返类。
|
||||
}{
|
||||
设本质类$S = \{ s_1,s_2, \cdots ,s_n \}$，则对于$\forall i=1,2, \cdots ,n$，令$S_i = \{ s_j\ :\ p_{s_i s_j}^{(1)}>0 \}$（即把所有$s_i$一步可达的$s_j$都取出来组成$S_i$）。由于$S$是本质类，所以当$s_i \to s_j$时有$s_j \to s_i$，设$s_j \to s_i$的首次到达需要的步数为$m_j$则
|
||||
$$
|
||||
\sum_{n=1}^{\infty} p_{s_i s_i}^{(n)} \geqslant \sum_{n=1}^{\infty} \sum_{s_j\in S_i} p_{s_i s_j}^{(1)} p_{s_j s_i}^{(m_j)}
|
||||
$$
|
||||
由于 $\displaystyle \sum_{s_j\in S_i} p_{s_i s_j}^{(1)} p_{s_j s_i}^{(m_j)}$有限且为定值，可以设为$\varepsilon$ ($\varepsilon>0$)，则
|
||||
$$
|
||||
\sum_{n=1}^{\infty} p_{s_i s_i}^{(n)} \geqslant \lim_{n \to \infty}n \varepsilon =\infty
|
||||
$$
|
||||
所以$S$是常返类。
|
||||
}
|
||||
\questionandanswerProof[]{
|
||||
证明：平面格点上的简单对称随机游动（指每一步向四个方向挪动的概率都是$\dfrac{1}{4}$，且各步独立）常返。
|
||||
}{
|
||||
设$\uparrow, \downarrow, \leftarrow, \rightarrow$分别表示向上下左右挪动一步，对于任意状态$i$（即任意一个格点），
|
||||
$$
|
||||
\begin{aligned}
|
||||
p_{ii}^{(4n+2)}&=p_{\uparrow}^{(1)}p_{\downarrow}^{(4n+1)} +p_{\rightarrow}^{(1)}p_{\leftarrow}^{(4n+1)} +p_{\downarrow}^{(1)}p_{\uparrow}^{(4n+1)}+p_{\leftarrow}^{(1)}p_{\rightarrow}^{(4n+1)} \\
|
||||
&=\frac{1}{4} p_{\downarrow}^{(4n+1)}+\frac{1}{4}p_{\leftarrow}^{(4n+1)} + \frac{1}{4}p_{\uparrow}^{(4n+1)}+\frac{1}{4}p_{\rightarrow}^{(4n+1)} \\
|
||||
\end{aligned}
|
||||
$$
|
||||
对于$p_{\downarrow}^{(4n+1)}$，可以理解为向下挪动了$n+1$步，向其它三个方向挪动了$n$步，所以$p_{\downarrow}^{(4n+1)}=\mathrm{C}_{4n+1}^{n}\mathrm{C}_{3n+1}^{n}\mathrm{C}_{2n+1}^{n} \left( \frac{1}{4} \right) ^{4n+1}$。
|
||||
$p_{\leftarrow}^{(4n+1)}, p_{\uparrow}^{(4n+1)}, p_{\rightarrow}^{(4n+1)}$同理。因此
|
||||
$$
|
||||
\text{上式}=\frac{1}{4} \times 4\left( \mathrm{C}_{4n+1}^{n}\mathrm{C}_{3n+1}^{n}\mathrm{C}_{2n+1}^{n} \left( \frac{1}{4} \right) ^{4n+1} \right)
|
||||
$$
|
||||
所以
|
||||
$$
|
||||
\sum_{n=1}^{\infty} p_{ii}^{(n)} \geqslant \sum_{n=1}^{\infty} p_{ii}^{(4n+1)} = \sum_{n=1}^{\infty} \mathrm{C}_{4n+1}^{n}\mathrm{C}_{3n+1}^{n}\mathrm{C}_{2n+1}^{n} \left( \frac{1}{4} \right) ^{4n+1} =\infty
|
||||
$$
|
||||
% $$
|
||||
% \binom{4n+1}{n}\binom{3n+1}{n}\binom{2n+1}{n} \left( \frac{1}{4} \right) ^{4n+1} = \frac{2^{- 8 n} \Gamma(4 n + 2)}{4 \Gamma^{3}(n + 1) \Gamma(n + 2)}
|
||||
% $$
|
||||
% $$
|
||||
% \left\{ \frac{2}{0}2/4\ \middle|\ \right\}
|
||||
% \sum_{n=1}^{\infty} (\binom{4n+1}{n}\binom{3n+1}{n}\binom{2n+1}{n} \left( \frac{1}{4} \right) ^{4n+1}) = \frac{{{}_{3}F_{2}(\begin{matrix} \frac{1}{2}, \frac{3}{4}, \frac{5}{4} \\ 1, 2 \end{matrix}\middle| {1})}}{4} - \frac{1}{4}
|
||||
% $$
|
||||
所以状态$i$常返，从而任意一个格点均常返。
|
||||
}
|
||||
\questionandanswerProof[]{
|
||||
设$X=\{ X_n\ :\ n \in \mathbb{N} \}$是不可约常返马氏链。对$j\in S$，定义$\tau_j^{(0)}=0$，并对$k\in \mathbb{Z}^{+}$递归定义$\tau_j^{(k)}=\inf \left\{ n>\tau_j^{(k-1)}\ :\ X_n=j \right\}$。然后对$k\in \mathbb{Z}^{+}$定义$W_j^{(k)}=\tau_j^{(k)}-\tau_j^{(k-1)}$。证明：$\left\{ W_j^{(k)}\ :\ k\in \mathbb{Z}^{+} \right\}$相互独立，且当$k\geqslant 2$时分布相同。
|
||||
}{
|
||||
设初始状态为$i$，对于$\forall k\geqslant 2$，
|
||||
$$
|
||||
\begin{aligned}
|
||||
&P\left( W_j^{(k)}=y \right) = P\left( \tau_j^{(k)}-\tau_j^{(k-1)}=y \right) \\
|
||||
&=\sum_{x=0}^{\infty} P\left(\tau_j^{(k)}=x+y, \tau_j^{(k-1)}=x\right) \\
|
||||
&=\sum_{x=0}^{\infty} P\left( \tau_j^{(k)}=x+y \middle| \tau_j^{(k-1)}=x \right) P\left( \tau_j^{(k-1)}=x \right) \\
|
||||
&=\sum_{x=0}^{\infty} f_{jj}^{(y)} \sum_{x_1+x_2+ \cdots +x_{k-1}=x} f_{ij}^{(x_1)} f_{jj}^{(x_2)}\cdots f_{jj}^{(x_{k-1})} \\
|
||||
&=\sum_{x=0}^{\infty} \sum_{x_1+x_2+ \cdots +x_{k-1}=x} f_{ij}^{(x_1)}f_{jj}^{(x_2)}\cdots f_{jj}^{(x_{k-1})}f_{jj}^{(y)} \\
|
||||
\end{aligned}
|
||||
$$
|
||||
后面不会了。
|
||||
}
|
||||
\questionandanswerProof[]{
|
||||
证明：在马氏链中，对任意$i,j,k \in S$，有$f_{ik}\geqslant f_{ij}f_{jk}$。
|
||||
}{
|
||||
对任意$i,j,k \in S$，
|
||||
$$
|
||||
f_{ik}=\sum_{n=1}^{\infty} f_{ik}^{(n)}=\sum_{n=1}^{\infty} \sum_{a\in S} \sum_{b=1}^{n} p_{ia}^{(b)}f_{ak}^{(n-b)}
|
||||
$$
|
||||
$$
|
||||
f_{ij}f_{jk} = \left( \sum_{n=1}^{\infty} f_{ij}^{(n)} \right) \left( \sum_{n=1}^{\infty} f_{jk}^{(n)} \right) =\left( \sum_{n=1}^{\infty} \sum_{a\in S} \sum_{b=1}^{n} p_{ia}^{(b)}f_{aj}^{(n-b)} \right) \left( \sum_{n=1}^{\infty} \sum_{a\in S} \sum_{b=1}^{n} f_{ja}^{(b)}f_{ak}^{(n-b)} \right)
|
||||
$$
|
||||
实在是不会了。
|
||||
}
|
||||
\end{enumerate}
|
||||
\end{document}
|
||||
63
随机过程/作业/第三周作业.tex
Normal file
63
随机过程/作业/第三周作业.tex
Normal file
@@ -0,0 +1,63 @@
|
||||
\documentclass[全部作业]{subfiles}
|
||||
\input{mysubpreamble}
|
||||
\begin{document}
|
||||
\setcounter{chapter}{2}
|
||||
\section{《随机过程》第三周作业}
|
||||
\subsection{练习题\thechapter.\thesubsection}
|
||||
\begin{enumerate}
|
||||
\questionandanswer[1]{
|
||||
试解释对离散参数随机过程而言,“不可区分”与“修正”等价。
|
||||
}{
|
||||
由于“不可区分”能推出“修正”，所以这里只需要说明对离散参数随机过程能从“修正”推出“不可区分”。
|
||||
|
||||
设$X=\{ X_t; t\in T \}, Y=\{ Y_t; t \in T \}$都是概率空间$(\Omega, \mathfrak{F}, P)$上的随机过程。
|
||||
|
||||
“修正”的原始定义为对$\forall t\in T, P(X_t=Y_t)=1$，将概率进行定义展开可得：$\forall t\in T, \exists A_t \in \mathfrak{F}$使得$P(A)=1$而且$\forall \omega\in A, X_t(\omega)=Y_t(\omega)$。
|
||||
|
||||
“不可区分”的定义为$\exists A\in \mathfrak{F}$，使得$P(A)=1$而且$\forall t\in T, \forall \omega\in A, X_t(\omega)=Y_t(\omega)$。
|
||||
|
||||
比较这两个定义可知在“修正”的定义中$A_t$的取法与$t$有关，而在“不可区分”的定义中$A$的取法与$t$无关。
|
||||
|
||||
所以若$T$为离散参数集，且$X$与$Y$互为修正，则对每一个$t\in T$都能找到一个$A_t\in \mathfrak{F}$满足$P(A_t)=1, \forall \omega\in A_t, X_t(\omega)=Y_t(\omega)$。则$P(\overline{A_t})=0$，取$A=\displaystyle \bigcap_{t\in T} (A_t)$，则
|
||||
$$
|
||||
P(A)=P\left( \bigcap_{t\in T} A_t \right) =P\left( \overline{\bigcup_{t\in T} \overline{A_t}} \right) =1-P\left( \bigcup_{t\in T} \overline{A_t} \right)
|
||||
$$
|
||||
由于$T$是离散集合，可列个零测集的并仍然是零测集，所以$\displaystyle P\left(\bigcup_{t\in T} \overline{A_t}\right)=0$，所以$P(A)=1$。而且$\forall \omega\in A, X_t(\omega)=Y_t(\omega)$，即$X$与$Y$不可区分。
|
||||
}
|
||||
\questionandanswerProof[5]{
|
||||
已知$\{ X(t)\ ;\ t\in [0,+\infty) \}$为平稳独立增量过程。对任意$s>0$，令$Y(t)=X(s+t)-X(s)$，证明$\{ Y(t)\ ;\ t\in [0,+\infty) \}$也是平稳独立增量过程。
|
||||
}{
|
||||
对于$\forall n\in \mathbb{Z}^{+},\forall t_1,t_2, \cdots ,t_n\in [0,+\infty), \forall i \in \{ 1,2, \cdots ,n-1 \}, $
|
||||
$$
|
||||
Y(t_{i+1}) - Y(t_i)=[X(s+t_{i+1})-X(s)]-[X(s+t_i)-X(s)]=X(s+t_{i+1})-X(s+t_i)
|
||||
$$
|
||||
因为$s>0$，所以$s+t_{i+1},s+t_i \in [0,+\infty)$，由$\{ X(t)\ ;\ t\in [0,+\infty) \}$是独立增量过程可知，$\{ X(s+t_{i+1})-X(s+t_i)\ ;\ i\in 1,2, \cdots ,n-1 \}$相互独立，即$\{ Y(t_{i+1})-Y(t_i)\ ;\ i\in 1,2, \cdots ,n-1 \}$相互独立，所以$\{ Y(t)\ ;\ t\in [0,+\infty) \}$是独立增量过程。下证“平稳”：
|
||||
|
||||
对于$\forall t, t+h, w, w+h\in [0,+\infty)$，
|
||||
$$
|
||||
Y(t+h)-Y(t)=[X(s+t+h)-X(s)]-[X(s+t)-X(s)]=X(s+t+h)-X(s+t)
|
||||
$$
|
||||
同理，$Y(w+h)-Y(w)=X(s+w+h)-X(s+w)$。由于$s+t,s+t+h,\ s+w, s+w+h\in [0,+\infty)$，且$\{ X(t)\ ;\ t\in [0,+\infty) \}$是平稳独立增量过程，所以$X(s+t+h)-x(s+t)$与$X(s+w+h)-X(s+w)$的分布相同，即$Y(t+h)-Y(t)$与$Y(w+h)-Y(w)$的分布相同，所以$\{ Y(t)\ ;\ t\in [0,+\infty) \}$是平稳独立增量过程。
|
||||
}
|
||||
\questionandanswerProof[6]{
|
||||
证明伯努利过程不是独立增量过程。
|
||||
}{
|
||||
设随机过程$X=\{ X_n\ ;\ n\in \mathbb{Z}_{+} \}$是伯努利过程，则$\{ X_n\ ;\ n\in \mathbb{Z}_{+} \}$是独立同分布的随机变量序列，而且
|
||||
$$
|
||||
P(X_n=1)=p, \qquad P(X_n=0)=q=1-p, \quad 0<p<1
|
||||
$$
|
||||
则$X_1-X_0$的分布列为：
|
||||
\begin{tabular}{|c|c|c|c|}
|
||||
\hline
|
||||
$X_1-X_0$ & $-1$ & $0$ & $1$ \\
|
||||
\hline
|
||||
$P$ & $pq$ & $p^{2}+q^{2}$ & $qp$ \\
|
||||
\hline
|
||||
\end{tabular}
|
||||
|
||||
所以$P(X_0=1)=p,\ P(X_1-X_0=1)=qp$，
|
||||
而$P(X_0=1,X_1-X_0=1)=0$。
|
||||
显然$P(X_0=1)P(X_1-X_0=1)\neq P(X_0=1,X_1-X_0=1)$，因此$X_0$与$X_1-X_0$不独立，从而伯努利过程不是独立增量过程。
|
||||
}
|
||||
\end{enumerate}
|
||||
\end{document}
|
||||
290
随机过程/作业/第九周作业.tex
Normal file
290
随机过程/作业/第九周作业.tex
Normal file
@@ -0,0 +1,290 @@
|
||||
\documentclass[全部作业]{subfiles}
|
||||
\input{mysubpreamble}
|
||||
\begin{document}
|
||||
\setcounter{chapter}{3}
|
||||
\setcounter{section}{2}
|
||||
\section{练习题\thesection}
|
||||
\begin{enumerate}
|
||||
\questionandanswerSolution[1]{
|
||||
设$X$的状态空间为$\{ 1,2,3 \}$，转移概率矩阵为$\begin{pmatrix}
|
||||
0 & \frac{1}{2} & \frac{1}{2} \\
|
||||
\frac{1}{2} & 0 & \frac{1}{2} \\
|
||||
0 & \frac{1}{3} & \frac{2}{3} \\
|
||||
\end{pmatrix}$，对任意$n\geqslant 1$，求$f_{1,2}^{(n)}$。
|
||||
}{
|
||||
$$
|
||||
\begin{cases}
|
||||
F_{12}(u)=p_{12}u+p_{11}uF_{12}(u)+p_{13}uF_{32}(u)\quad \mycircle{1} \\
|
||||
F_{22}(u)=p_{22}u+p_{21}uF_{12}(u)+p_{23}uF_{32}(u) \quad \mycircle{2} \\
|
||||
F_{32}(u)=p_{32}u+p_{31}uF_{12}(u)+p_{33}uF_{32}(u) \quad \mycircle{3} \\
|
||||
\end{cases}
|
||||
$$
|
||||
由\mycircle{1}和\mycircle{3}可得
|
||||
$$
|
||||
\begin{cases}
|
||||
F_{12}(u)=\frac{1}{2}u+\frac{1}{2}uF_{32}(u) \\
|
||||
F_{32}(u)=\frac{1}{2}u+\frac{2}{3}uF_{32}(u) \\
|
||||
\end{cases}
|
||||
$$
|
||||
解得
|
||||
$$
|
||||
\begin{cases}
|
||||
F_{32}(u)=\frac{\frac{1}{2}u}{1-\frac{2}{3}u} \\
|
||||
F_{12}(u)=\frac{1}{2}u+\frac{\frac{1}{4}u^{2}}{1-\frac{2}{3}u} \\
|
||||
\end{cases}
|
||||
$$
|
||||
所以
|
||||
$$
|
||||
F_{12}(u)=\frac{1}{2}u+\sum_{n=1}^{\infty} \frac{1}{4}u^{2}\left( \frac{2}{3}u \right) ^{n-1} = \frac{1}{2}u+\sum_{n=1}^{\infty} \frac{1}{4} \left( \frac{2}{3} \right) ^{n-1} u^{n+1} = \frac{1}{2}u+ \sum_{n=2}^{\infty} \frac{1}{2} \left( \frac{2}{3} \right) ^{n-2} u^{n}
|
||||
$$
|
||||
综上，$\displaystyle f_{12}^{(1)}=\frac{1}{2}u, \quad f_{12}^{(n)}=\frac{1}{2}\left( \frac{2}{3} \right) ^{n-2}(n\geqslant 2)$。
|
||||
}
|
||||
\questionandanswerSolution[2]{
|
||||
一个盗窃犯长期在$A=1,B=2,C=3$三地流传作案,治安部门调查后发现他每年作案次数服从强度为$3$的泊松分布,而连续两次作案的地点变化服从转移概率矩阵$\begin{pmatrix}
|
||||
0 & 0 & 1 \\
|
||||
\frac{1}{2} & \frac{1}{2} & 0 \\
|
||||
0 & 1 & 0 \\
|
||||
\end{pmatrix}$，并且作案次数与作案地点无关。已知此人刚刚在$A$地作案，试估计一年内他在$A$地再作案的概率。
|
||||
}{
|
||||
由题意可知，作案地点的变化为时齐马氏链，从而所求的概率为$\displaystyle E_{k\sim \operatorname{Poi}(3)}f_{11}^{(k)}$。
|
||||
% 这里有个问题，如果$p_{21}=1,p_{22}=0$的话，那方程组中就没有$\frac{1}{2}u$这一项，那么$F_{21}(u)=0$？
|
||||
$$
|
||||
\begin{cases}
|
||||
F_{11}(u)=uF_{31}(u) & \mycircle{1} \\
|
||||
F_{21}(u)=\frac{1}{2}uF_{11}(u)+\frac{1}{2}u &\mycircle{2} \\
|
||||
F_{31}(u)=uF_{21}(u) &\mycircle{3} \\
|
||||
\end{cases}
|
||||
$$
|
||||
由\mycircle{1}\mycircle{3}得$F_{11}(u)=u^{2}F_{21}(u)$，代入\mycircle{2}可得$F_{21}(u)=\frac{1}{2}u^{3}F_{21}(u)+\frac{1}{2}u$，解得$\displaystyle F_{21}(u)=\frac{\frac{1}{2}u}{1-\frac{1}{2}u^{3}}$，所以
|
||||
$$
|
||||
F_{11}(u)=\frac{\frac{1}{2}u^{3}}{1-\frac{1}{2}u^{3}}=\sum_{n=1}^{\infty} \frac{1}{2}u^{3} \left( \frac{1}{2}u^{3} \right) ^{n-1}=\sum_{n=1}^{\infty} \left( \frac{1}{2} \right) ^{n} u^{3n}
|
||||
$$
|
||||
令$k=3n$，则$f_{11}^{(k)}=\begin{cases}
|
||||
\left( \frac{1}{2} \right) ^{\frac{k}{3}},\quad & k=3n \\
|
||||
0,\quad & k\neq 3n \\
|
||||
\end{cases}\ ,n\in \mathbb{Z}^{+}, k\in \mathbb{Z}^{+}$，所以
|
||||
$$
|
||||
E_{k\sim \operatorname{Poi}(3)}f_{11}^{(k)}=\sum_{n=1}^{\infty} \left( \frac{1}{2} \right) ^{n} \cdot \frac{3^{3n}}{(3n)!}e^{-3} = \sum_{n=1}^{\infty} \frac{\left( 3 \sqrt[3]{\frac{1}{2}} \right) ^{3n}}{(3n)!} e^{-3}=e^{3 \sqrt[3]{\frac{1}{2}}} e^{-3} = e^{\frac{3}{\sqrt[3]{2}}-3}
|
||||
$$
|
||||
}
|
||||
\questionandanswerSolution[3]{
|
||||
设$X$的状态空间为$\{ 1,2,3 \}$，转移概率矩阵为$\begin{pmatrix}
|
||||
\frac{1}{2} & \frac{1}{2} & 0 \\
|
||||
\frac{2}{3} & \frac{1}{3} & 0 \\
|
||||
0 & \frac{1}{3} & \frac{2}{3} \\
|
||||
\end{pmatrix}$。求$f_{3,2}$和$m_{3,2}$。
|
||||
}{
|
||||
$$
|
||||
\begin{cases}
|
||||
f_{32}=\frac{1}{3}+\frac{2}{3}f_{32},\quad & \mycircle{1} \\
|
||||
f_{12}=\frac{1}{2}+\frac{1}{2}f_{12},\quad & \mycircle{2} \\
|
||||
f_{22}=\frac{1}{3}+\frac{2}{3}f_{12},\quad & \mycircle{3} \\
|
||||
\end{cases}\qquad \begin{cases}
|
||||
m_{32}=f_{32}+\frac{2}{3}m_{32},\quad & \mycircle{4} \\
|
||||
m_{12}=f_{12}+\frac{1}{2}m_{22},\quad & \mycircle{5} \\
|
||||
m_{22}=f_{22}+\frac{2}{3}m_{12},\quad & \mycircle{6} \\
|
||||
\end{cases}
|
||||
$$
|
||||
由\mycircle{1}可得$f_{32}=1$，代入\mycircle{4}可得$m_{32}=3$。
|
||||
}
|
||||
\questionandanswerSolution[4]{
|
||||
若一篇文稿有$n$个错误,每次校阅至少能发现一个,但留下来的错误数在$0$到$n-1$之间等可能存在.设原稿共有$a$个错误,问为了改正全部错误平均需要校阅几次?
|
||||
}{
|
||||
设随机过程$X$表示在某个时刻留下来的错误数，则$X$是时齐马氏链，状态空间为$\{1, 2, \cdots ,n-1\}$。$X$的转移概率矩阵为
|
||||
$$
|
||||
\begin{pmatrix}
|
||||
1 & 0 & 0 & \cdots & 0 \\
|
||||
1 & 0 & 0 & \cdots & 0 \\
|
||||
\frac{1}{2} & \frac{1}{2} & 0 & \cdots & 0 \\
|
||||
\vdots & \vdots & \vdots & \ddots & \vdots \\
|
||||
\frac{1}{n} & \frac{1}{n} & \frac{1}{n} & \cdots & 0 \\
|
||||
\end{pmatrix}_{n\times n}
|
||||
$$
|
||||
所以
|
||||
$$
|
||||
\begin{cases}
|
||||
f_{10}=1 \\
|
||||
f_{20}=\frac{1}{2}+\frac{1}{2}f_{10}=1 \\
|
||||
f_{30}=\frac{1}{3}+\frac{1}{3}f_{10}+\frac{1}{3}f_{20}=1 \\
|
||||
\cdots \\
|
||||
f_{n0}=\frac{1}{n}+\sum_{i=1}^{n} f_{i0}=1 \\
|
||||
\end{cases} \quad
|
||||
\begin{cases}
|
||||
m_{10}=f_{10} \\
|
||||
m_{20}=f_{20}+\frac{1}{2}m_{10}=1+\frac{1}{2}\times 1=\frac{3}{2} \\
|
||||
m_{30}=f_{30}+\frac{1}{3}m_{10}+\frac{1}{3}m_{20}=1+\frac{1}{3}\times 1+\frac{1}{3}\times \frac{3}{2}=\frac{11}{6} \\
|
||||
\cdots \\
|
||||
m_{n0}=f_{n0}+\sum_{i=1}^{n-1} \frac{1}{n} m_{i0} \\
|
||||
\end{cases}
|
||||
$$
|
||||
根据递推公式算出$m_{n0}$（不会算通项公式了），将$a$代入，则可知为了改正全部错误平均需要校阅$m_{a0}$次。
|
||||
}
|
||||
\questionandanswerSolution[6]{
|
||||
（Ehrenfest 模型）设一个坛子内装有红白两色共$N$个球，每次随机地从坛子中抽出一个球，把它换成另一种颜色后放回。以$X_n$表示经$n$次抽放后坛中的红球数，那么$X=\{ X_n\ ;\ n\geqslant 0 \}$为时齐马氏链。若开始时坛内只有一个红球，问平均要抽放多少次才能使坛内全是白球？
|
||||
}{
|
||||
可以观察到$X$类似带反射壁的随机游动，但向中间收敛的概率更大，转移概率矩阵为
|
||||
$$
|
||||
\begin{pmatrix}
|
||||
0 & 1 & 0 & \cdots & 0 & 0 \\
|
||||
\frac{1}{N} & 0 & \frac{N-1}{N} & \cdots & 0 & 0 \\
|
||||
0 & \frac{2}{N} & 0 & \cdots & 0 & 0 \\
|
||||
\vdots & \vdots & \vdots & \ddots & \vdots & \vdots \\
|
||||
0 & 0 & 0 & \cdots & 0 & \frac{1}{N} \\
|
||||
0 & 0 & 0 & \cdots & 1 & 0 \\
|
||||
\end{pmatrix}
|
||||
$$
|
||||
|
||||
开始时坛内只有一个红球，那么$X_0=1$，使坛内全是白球即$X_{?}=0$，所以所求的平均抽放次数为$m_{10}$。
|
||||
|
||||
由于这是元素有限的本质类，从而一定是常返类，所以$\forall i,j \in \{ 1,2, \cdots N \}, f_{ij}=1$，所以可以直接列出$m_{ij}$的方程组。
|
||||
$$
|
||||
\begin{cases}
|
||||
m_{00}&=1+m_{10} \\
|
||||
m_{10}&=1+\frac{N-1}{N}m_{20}+\frac{1}{N}m_{00} \\
|
||||
m_{20}&=1+\frac{2}{N}m_{10}+\frac{N-2}{N}m_{30} \\
|
||||
\cdots \\
|
||||
m_{n-1,0}&=1+\frac{N-1}{N}m_{n-2,0}+\frac{1}{N}m_{n0} \\
|
||||
m_{n0}&=1+m_{n-1,0} \\
|
||||
\end{cases}
|
||||
$$
|
||||
写成矩阵的形式为
|
||||
$$
|
||||
\begin{bmatrix}
|
||||
1 & -1 & 0 & \cdots & 0 & 0 \\
|
||||
-\frac{1}{N} & 1 & -\frac{N-1}{N} & \cdots & 0 & 0 \\
|
||||
0 & -\frac{2}{N} & 1 & \cdots & 0 & 0 \\
|
||||
\vdots & \vdots & \vdots & \ddots & \vdots & \vdots \\
|
||||
0 & 0 & 0 & \cdots & 1 & -\frac{1}{N} \\
|
||||
0 & 0 & 0 & \cdots & -1 & 1 \\
|
||||
\end{bmatrix}
|
||||
\begin{bmatrix}
|
||||
m_{00} \\
|
||||
m_{10} \\
|
||||
m_{20} \\
|
||||
\vdots \\
|
||||
m_{n-1,0} \\
|
||||
m_{n0} \\
|
||||
\end{bmatrix}
|
||||
= \begin{bmatrix}
|
||||
1 \\
|
||||
1 \\
|
||||
1 \\
|
||||
\vdots \\
|
||||
1 \\
|
||||
1 \\
|
||||
\end{bmatrix}
|
||||
$$
|
||||
解得$m_{10}=\left( \begin{bmatrix}
|
||||
1 & -1 & \cdots & 0 \\
|
||||
-\frac{1}{N} & 1 & \cdots & 0 \\
|
||||
\vdots & \vdots & \ddots & \vdots \\
|
||||
0 & 0 & \cdots & 1 \\
|
||||
\end{bmatrix} ^{-1} \begin{bmatrix}
|
||||
1 \\
|
||||
1 \\
|
||||
\vdots \\
|
||||
1 \\
|
||||
\end{bmatrix}\right)(1, 0)$即为使坛内全是白球的平均抽放次数。
|
||||
}
|
||||
\begin{shaded}
|
||||
\item[\textbf{补}]
|
||||
（“赌徒输光模型”）考虑$\{ 0,1, \cdots ,N \}(N\geqslant 2)$上的$(q,p)$-简单随机游动（$0<p,q<1,p+q=1$），其中两个端点是“完全吸收壁”（即$p_{00}=p_{NN}=1$。对$i \in \{ 1, \cdots ,N-1 \}$，计算$f_{i0}$（即初始状态为$i$时的“输光”概率）。
|
||||
\end{shaded}
|
||||
{
|
||||
\begin{solution}\kaishu
|
||||
由题意可知转移概率矩阵为
|
||||
$$
|
||||
\begin{bmatrix}
|
||||
1 & 0 & 0 & \cdots & 0 & 0 \\
|
||||
q & 0 & p & \cdots & 0 & 0 \\
|
||||
0 & q & 0 & \cdots & 0 & 0 \\
|
||||
\vdots & \vdots & \vdots & \ddots & \vdots & \vdots \\
|
||||
0 & 0 & 0 & \cdots & 0 & p \\
|
||||
0 & 0 & 0 & \cdots & 0 & 1 \\
|
||||
\end{bmatrix}_{(N+1)\times (N+1)}
|
||||
$$
|
||||
则可以列出关于$f_{i0}$的方程组
|
||||
$$
|
||||
\begin{cases}
|
||||
f_{00}=1 \\
|
||||
f_{10}=qf_{00}+pf_{20} \\
|
||||
f_{20}=qf_{10}+pf_{30} \\
|
||||
\cdots \\
|
||||
f_{n-2,0}=qf_{n-3,0}+pf_{n-1,0} \\
|
||||
f_{n-1,0}=qf_{n-2,0}+pf_{n0} \\
|
||||
f_{n_0}=f_{n_0} & \text{（这一条方程可以去除，因为$f_{n0}=0$）}\\
|
||||
\end{cases}
|
||||
$$
|
||||
写成矩阵的形式为
|
||||
$$
|
||||
\begin{bmatrix}
|
||||
1 & 0 & 0 & \cdots & 0 & 0 \\
|
||||
q & -1 & p & \cdots & 0 & 0 \\
|
||||
0 & q & -1 & \cdots & 0 & 0 \\
|
||||
\vdots & \vdots & \vdots & \ddots & \vdots & \vdots \\
|
||||
0 & 0 & 0 & \cdots & -1 & p \\
|
||||
0 & 0 & 0 & \cdots & q & -1 \\
|
||||
\end{bmatrix}
|
||||
\begin{bmatrix}
|
||||
f_{00} \\
|
||||
f_{10} \\
|
||||
f_{20} \\
|
||||
\vdots \\
|
||||
f_{n-2,0} \\
|
||||
f_{n-1,0} \\
|
||||
\end{bmatrix}
|
||||
= \begin{bmatrix}
|
||||
1 \\
|
||||
0 \\
|
||||
0 \\
|
||||
\vdots \\
|
||||
0 \\
|
||||
0 \\
|
||||
\end{bmatrix}
|
||||
$$
|
||||
解得$\begin{bmatrix}
|
||||
f_{00} & f_{10} & f_{20} & \cdots & f_{n-1,0} \\
|
||||
\end{bmatrix}^{\mathrm{T}}\oplus [f_{n0}]$即为所求的$f_{i0}$。（实在算不出来了）
|
||||
% $$
|
||||
% \begin{bmatrix}
|
||||
% 1 & 0 & 0 & 0 & 0 & 0 & 0 & 0 & 0 & 0 \\
|
||||
% q & -1 & p & 0 & 0 & 0 & 0 & 0 & 0 & 0 \\
|
||||
% 0 & q & -1 & p & 0 & 0 & 0 & 0 & 0 & 0 \\
|
||||
% 0 & 0 & q & -1 & p & 0 & 0 & 0 & 0 & 0 \\
|
||||
% 0 & 0 & 0 & q & -1 & 0 & 0 & 0 & 0 & 0 \\
|
||||
% 0 & 0 & 0 & 0 & q & -1 & p & 0 & 0 & 0 \\
|
||||
% 0 & 0 & 0 & 0 & 0 & q & -1 & p & 0 & 0 \\
|
||||
% 0 & 0 & 0 & 0 & 0 & 0 & q & -1 & p & 0 \\
|
||||
% 0 & 0 & 0 & 0 & 0 & 0 & 0 & q & -1 & p \\
|
||||
% 0 & 0 & 0 & 0 & 0 & 0 & 0 & 0 & q & -1 \\
|
||||
% \end{bmatrix}^{-1}
|
||||
% \begin{bmatrix}
|
||||
% 1 \\
|
||||
% 0 \\
|
||||
% 0 \\
|
||||
% 0 \\
|
||||
% 0 \\
|
||||
% 0 \\
|
||||
% 0 \\
|
||||
% 0 \\
|
||||
% 0 \\
|
||||
% 0 \\
|
||||
% \end{bmatrix} = \begin{bmatrix}1\\\frac{q (- 2 p q + 1)}{p^{2} q^{2} - 3 p q + 1}\\\frac{q^{2} (- p q + 1)}{p^{2} q^{2} - 3 p q + 1}\\\frac{q^{3}}{p^{2} q^{2} - 3 p q + 1}\\\frac{q^{4}}{p^{2} q^{2} - 3 p q + 1}\\\frac{q^{5}}{3 p^{2} q^{2} - 4 p q + 1}\\\frac{q^{6} (- 2 p q + 1)}{3 p^{4} q^{4} - 13 p^{3} q^{3} + 16 p^{2} q^{2} - 7 p q + 1}\\- \frac{q^{7}}{3 p^{3} q^{3} - 10 p^{2} q^{2} + 6 p q - 1}\\\frac{q^{8}}{3 p^{4} q^{4} - 13 p^{3} q^{3} + 16 p^{2} q^{2} - 7 p q + 1}\\\frac{q^{9}}{3 p^{4} q^{4} - 13 p^{3} q^{3} + 16 p^{2} q^{2} - 7 p q + 1}\end{bmatrix}
|
||||
% % = \begin{bmatrix}1\\\frac{q (- 2 p q + 1)}{p^{2} q^{2} - 3 p q + 1}\\\frac{q^{2} (- p q + 1)}{p^{2} q^{2} - 3 p q + 1}\\\frac{q^{3}}{p^{2} q^{2} - 3 p q + 1}\\\frac{q^{4}}{p^{2} q^{2} - 3 p q + 1}\end{bmatrix}
|
||||
% $$
|
||||
% $$
|
||||
% \begin{bmatrix}
|
||||
% 1 & 0 & 0 \\
|
||||
% q & -1 & p \\
|
||||
% 0 & q & -1 \\
|
||||
% \end{bmatrix}^{-1}
|
||||
% \begin{bmatrix}
|
||||
% 1 \\
|
||||
% 0 \\
|
||||
% 0 \\
|
||||
% \end{bmatrix} = \begin{bmatrix}1\\- \frac{q}{p q - 1}\\- \frac{q^{2}}{p q - 1}\end{bmatrix}
|
||||
% $$
|
||||
\end{solution}
|
||||
}
|
||||
\end{enumerate}
|
||||
\end{document}
|
||||
187
随机过程/作业/第二周作业.tex
Normal file
187
随机过程/作业/第二周作业.tex
Normal file
@@ -0,0 +1,187 @@
|
||||
\documentclass[全部作业]{subfiles}
|
||||
\input{mysubpreamble}
|
||||
\begin{document}
|
||||
\setcounter{chapter}{1}
|
||||
\section{《随机过程》第二周作业}
|
||||
\setcounter{subsection}{2}
|
||||
\subsection{练习题\thechapter.\thesubsection}
|
||||
\begin{enumerate}
|
||||
\questionandanswerProof[1]{
|
||||
设$X$是连续型非负随机变量，证明$L_{X}(t)$在$[0,+\infty)$内是一致连续的。
|
||||
}{
|
||||
% 注意到$f(t)=e^{-t}$在$[0,+\infty)$内是一致连续的，即$\forall \varepsilon>0, \exists \delta_0 >0, \forall t_1,t_2 \in [0,+\infty)$，且$\left\vert t_1-t_2 \right\vert <\delta_0$，都有$\left\vert e^{-t_1}-e^{-t_2} \right\vert <\dfrac{\varepsilon}{Ee^{X}}$，所以$Ee^{X}\left\vert e^{-t_1}-e^{-t_2} \right\vert <\varepsilon$，即$\left\vert Ee^{-t_1X}-Ee^{-t_2X} \right\vert =Ee^{-t_1X}(1-e^{(t_1-t_2)X})$
|
||||
设$X$的概率密度函数为$p(x)$。使用点列式等价定义，$\forall t_{1n}, t_{2n}\in [0,+\infty)$且$\left\vert t_{1n}-t_{2n} \right\vert \to 0$
|
||||
$$
|
||||
\begin{aligned}
|
||||
&\left\vert L_{X}(t_{1n})-L_{X}(t_{2n}) \right\vert = \left\vert Ee^{-t_{1n}X}-Ee^{-t_{2n}X} \right\vert =\left\vert E(e^{-t_{1n}X}-e^{-t_{2n}X}) \right\vert \\
|
||||
&=\left\vert \int_{0}^{+\infty} (e^{-t_{1n}x}-e^{-t_{2n}x})p(x) \mathrm{d}x \right\vert =\left\vert \int_{0}^{+\infty} e^{-t_{1n}x}(1-e^{(t_{1n}-t_{2n})x}) p(x)\mathrm{d}x \right\vert \\
|
||||
&\leqslant \left\vert \int_{0}^{+\infty} (1-e^{(t_{1n}-t_{2n})x}) p(x)\mathrm{d}x \right\vert \\
|
||||
\end{aligned}
|
||||
$$
|
||||
根据积分中值定理，$\exists \xi \in [0,+\infty) $，使得
|
||||
$$
|
||||
\left\vert \int_{0}^{+\infty} (1-e^{(t_{1n}-t_{2n})x})p(x) \mathrm{d}x \right\vert =(1-e^{(t_{1n}-t_{2n})\xi}) \int_{0}^{+\infty} p(x) \mathrm{d}x=1-e^{(t_{1n}-t_{2n})x}
|
||||
$$
|
||||
|
||||
因为$\left\vert t_{1n}-t_{2n} \right\vert \to 0$，所以$1-e^{(t_{1n}-t_{2n})x} \to 0$，因此$\left\vert L_{X}(t_{1n}-t_{2n}) \right\vert \to 0$，从而$L_{X}(t)$在$[0,+\infty)$内是一致收敛的。
|
||||
|
||||
}
|
||||
\questionandanswer[5]{
|
||||
设独立同分布的标准正态分布随机变量簇$W_m,m>1$与$\{ N(n),n\geqslant 1 \}$独立，其中$N(n)$服从泊松分布$P(n)$。令$Y_n=\sum_{k=1}^{N(n)}W_k$。求$Y_n$的特征函数，并证明$n \to +\infty$时$\dfrac{Y_n}{\sqrt{n}}$依分布收敛到一个服从标准正态分布的随机变量。
|
||||
}{
|
||||
\begin{solution}
|
||||
|
||||
$Y_n$的特征函数为
|
||||
$$
|
||||
\begin{aligned}
|
||||
\psi_{Y_n}(t)=E e^{it Y_n}=Ee^{it \sum_{k=1}^{N(n)}W_k}=E e^{\sum_{k=1}^{N(n)}it W_k}=E \prod_{k=1}^{N(n)} e^{it W_k}
|
||||
\end{aligned}
|
||||
$$
|
||||
根据重期望公式，
|
||||
$$
|
||||
\text{上式}=E\left( E \left(\left. \prod_{k=1}^{N(n)} e^{it W_k} \right| N(n)=p \right) \right)
|
||||
$$
|
||||
由于$W_k$独立同分布且服从标准正态分布，所以
|
||||
$$
|
||||
E\left( \left. \prod_{k=1}^{N(n)} e^{it W_k} \right|N(n)=p \right) =\prod_{k=1}^{p} E e^{it W_k}= \prod_{k=1}^{p} \psi_{W_1}(t)= \left[ \psi_{W_1}(t) \right] ^{p}=\left[ e^{-\frac{t^{2}}{2}} \right] ^{p}=e^{-\frac{p t^{2}}{2}}
|
||||
$$
|
||||
所以
|
||||
% = e^{- n} \sum_{k=1}^{\infty} \frac{n^{k} e^{- \frac{k t^{2}}{2}}}{\Gamma(k + 1)}
|
||||
$$
|
||||
\psi_{Y_n}(t)=E \left( e^{-\frac{t^{2}N(n)}{2}} \right) = \sum_{k=1}^{\infty}e^{- \frac{t^{2}k}{2}} \frac{n^{k}}{k!}e^{-n}
|
||||
% = e^{- \frac{nt^{2}}{2}}
|
||||
$$
|
||||
\end{solution}
|
||||
\begin{proof}
|
||||
|
||||
根据特征函数的性质，
|
||||
$$
|
||||
\psi_{\frac{Y_n}{\sqrt{n}}}(t)=\psi_{Y_n}\left( \frac{t}{\sqrt{n}} \right)
|
||||
% =e^{-\frac{n \left( \frac{t}{\sqrt{n}} \right) ^{2}}{2}}=e^{-\frac{t^{2}}{2}}
|
||||
= \sum_{k=1}^{\infty}e^{-\frac{\left( \frac{t}{\sqrt{n}} \right) ^{2} \cdot k}{2}} \frac{n^{k}}{k!}e^{-n} = e^{- n} \sum_{k=1}^{\infty} \frac{n^{k} e^{- \frac{k t^{2}}{2 n}}}{k!}
|
||||
$$
|
||||
当$n \to +\infty$时上式$\to e^{-\frac{t^{2}}{2}}$，即$\frac{Y_n}{\sqrt{n}}$的特征函数收敛到标准正态分布的特征函数。根据特征函数的唯一性，则$n \to +\infty$时$\frac{Y_n}{\sqrt{n}}$依分布收敛到一个服从标准正态分布的随机变量。
|
||||
|
||||
\end{proof}
|
||||
}
|
||||
\questionandanswerSolution[7]{
|
||||
若随机变量$X$的分布列为$P(X=n)=\frac{n}{2^{n+1}},n\geqslant 1$，求$X$的概率母函数$\phi(s)$。
|
||||
}{
|
||||
$$
|
||||
\phi(s)=E s^{X}=\sum_{n=1}^{\infty}s^{n} \cdot \frac{n}{2^{n+1}} = \frac{s}{(s - 2)^{2}}\ , \quad s \in [-1,1]
|
||||
$$
|
||||
}
|
||||
\questionandanswerSolution[8]{
|
||||
已知概率母函数$\phi(s)=s+ \frac{1}{1+\gamma}(1-s)^{1+\gamma}, \gamma\in (0,1]$，求对应的概率分布列。
|
||||
}{
|
||||
$$
|
||||
P(X=k)=\frac{\phi^{(k)}(0)}{k!}
|
||||
$$
|
||||
\begin{minipage}{0.6\linewidth}
|
||||
对$\phi(s)$求各阶导数：
|
||||
$$
|
||||
\phi^{(k)}(x)=\begin{cases}
|
||||
s+ \frac{1}{1+\gamma}(1-s)^{1+\gamma},\quad & k=0 \\
|
||||
1-(1-s)^{\gamma},\quad & k=1 \\
|
||||
\displaystyle (-1)^{k}(1-s)^{\gamma-k+1} \prod_{i=0}^{k-2} (\gamma-i),\quad & k\geqslant 2 \\
|
||||
\end{cases};
|
||||
$$
|
||||
\end{minipage}
|
||||
\begin{minipage}{0.4\linewidth}
|
||||
所以
|
||||
$$
|
||||
\phi^{(k)}(0)=\begin{cases}
|
||||
\frac{1}{1+\gamma},\quad & k=0 \\
|
||||
0,\quad & k=1 \\
|
||||
\displaystyle (-1)^{k}\prod_{i=0}^{k-2} (\gamma-i),\quad & k\geqslant 2 \\
|
||||
\end{cases}
|
||||
$$
|
||||
\end{minipage}
|
||||
|
||||
所以对应的概率分布列为
|
||||
$$
|
||||
P(X=k)=\begin{cases}
|
||||
\frac{1}{1+\gamma},\quad & k=0 \\
|
||||
0,\quad & k=1 \\
|
||||
\displaystyle \frac{(-1)^{k}}{k!}\prod_{i=0}^{k-2}(\gamma-i) ,\quad & k\geqslant 2 \\
|
||||
\end{cases}
|
||||
$$
|
||||
}
|
||||
\end{enumerate}
|
||||
\pagebreak[4] % 不知道为什么这行如果强度改成4会导致页码问题
|
||||
\subsection{练习题\thechapter.\thesubsection}
|
||||
\begin{enumerate}
|
||||
\questionandanswerProof[1]{
|
||||
若存在随机变量$X$使得随机序列$\dfrac{S_n}{n}\xlongrightarrow{a.s.}X$成立，而且非负整数值随机序列$N_n \xlongrightarrow{a.s.}\infty$成立。证明$\dfrac{S_{N_n}}{N_n}\xlongrightarrow{a.s.}X$。
|
||||
}{
|
||||
对于$\forall \varepsilon>0$，由$\frac{S_n}{n} \xlongrightarrow{a.s.} X$的等价定义，$\exists A \in \Omega$满足$P(A)=0$，对$\forall \omega \in \Omega A$以及$\forall \varepsilon>0$，$\exists N=N(\varepsilon,\omega)$，使得当$n>N$时$\left\vert \frac{S_n(\omega)}{n}-X(\omega) \right\vert <\varepsilon$
|
||||
|
||||
对于上述的$N$，由$N_n\xlongrightarrow{a.s.}\infty$的等价定义，$\exists A'\in \Omega$满足$P(A')=0$，对$\forall \omega' \in \Omega A$，$\exists M=M(\varepsilon,\omega)$，使得当$n>M$时$N_n(\omega')> N$，再由上述叙述可知$\left\vert \displaystyle \frac{S_{N_n(\omega')}(\omega)}{N_n(\omega')}-X(\omega) \right\vert <\varepsilon$
|
||||
|
||||
因此$\displaystyle \frac{S_{N_n}}{N_n}\xlongrightarrow{a.s.}X$
|
||||
}
|
||||
\questionandanswer[2]{
|
||||
证明：若对任意$\varepsilon>0$，存在$N$使得当$ n>N$时$P(\left\vert X_n-X \right\vert <\varepsilon)=1$，那么$X_n\xlongrightarrow{a.s.}X$。举例说明逆命题不成立。
|
||||
}{
|
||||
|
||||
\begin{proof}
|
||||
|
||||
由于$P(\left\vert X_n-X \right\vert <\varepsilon)=1 \Rightarrow P(\left\vert X_n-X \right\vert \geqslant \varepsilon)=0$，
|
||||
题中条件可转换为
|
||||
$$
|
||||
\text{对}\forall \varepsilon>0, P\left( \bigcap_{N=1} ^{\infty}\bigcup_{n=N} ^{\infty}\{ \left\vert X_n-X \right\vert \geqslant \varepsilon \}\right)=0
|
||||
$$
|
||||
所以$X_n\xlongrightarrow{a.s.}X$。
|
||||
|
||||
\end{proof}
|
||||
当$P(\left\vert X_n-X \right\vert \geqslant \varepsilon)=0$但$P(\left\vert X_n-X \right\vert <\varepsilon)\neq 1$时，逆命题不成立。
|
||||
}
|
||||
\questionandanswerProof[4]{
|
||||
设$f(x)$在$[0,+\infty)$上连续有界，单调上升且$f(0)=0$，证明随机变量$X_n$依概率收敛于0当且仅当$\displaystyle \lim_{n \to \infty}E(f(\left\vert X_n \right\vert ))=0$。
|
||||
}{
|
||||
若$X_n \xrightarrow{P} 0$，则$\forall \varepsilon>0, P(\left\vert X_n \right\vert >\varepsilon) \to 0$，由于$f(x)$的单调性，$P(f(\left\vert X_n \right\vert )>f(\varepsilon)) \to 0$。
|
||||
令$\varepsilon \to 0$，则$f(\varepsilon)\to f(0)=0$，所以$P(f(\left\vert X_n \right\vert )>0)\to 0$。
|
||||
|
||||
因为$\left\vert X_n \right\vert \geqslant 0$，且$f(x)$单调上升且$f(0)=0$，所以$f(\left\vert X_n \right\vert )\geqslant 0$，因此$P(f(\left\vert X_n \right\vert )=0)\to 1$。
|
||||
|
||||
$f(\left\vert X_n \right\vert )$在0处的概率趋向于1，所以$\displaystyle \lim_{n \to \infty}E(f\left\vert X_n \right\vert )=0$。
|
||||
|
||||
另一方向：
|
||||
|
||||
若$\displaystyle \lim_{n \to \infty}E(f(\left\vert X_n \right\vert ))=0$，由于$f(\left\vert X_n \right\vert )$是非负随机变量，所以期望为0等价于在0处的概率为1，即$\displaystyle \lim_{n \to \infty}P(f(\left\vert X_n \right\vert )=0)=1$，即$P(f(\left\vert X_n \right\vert )=0)\to 1$。
|
||||
|
||||
由于$f(\left\vert X_n \right\vert )\geqslant 0$，所以$P(f(\left\vert X_n \right\vert )>0)\to 0$。
|
||||
|
||||
再根据$f(x)$的单调性，$P(\left\vert X_n \right\vert >0) \to 0$。
|
||||
|
||||
因此$\forall \varepsilon>0, P(\left\vert X_n \right\vert >\varepsilon) \to 0$，即$X_n$依概率收敛于0。
|
||||
}
|
||||
\questionandanswerProof[5]{
|
||||
设$\{ X_k;k\geqslant 1 \}$为一列相互独立随机变量，而且对任意$k\geqslant 1$，$E(X_k)=0$，$\operatorname{Var}(X_k)=k$。对任意$n\geqslant 1$，令$\displaystyle Y_n=\sum_{k=1}^{n}\frac{X_k}{k}$。
|
||||
证明对任意$r>\dfrac{1}{2}$，当$n \to \infty$时$\dfrac{Y_n}{n^{r}}$几乎必然收敛到0。
|
||||
}{
|
||||
要证$\dfrac{Y_n}{n^{r}}\xrightarrow{a.s.}0$，即证$\forall \varepsilon>0, \displaystyle \sum_{n=1}^{\infty}P\left( \left\vert \frac{Y_n}{n^{r}}\right\vert>\varepsilon \right) <\infty $。
|
||||
|
||||
由马尔可夫不等式，
|
||||
$$
|
||||
\displaystyle P\left( \left\vert \frac{Y_n}{n^{r}} \right\vert >\varepsilon \right) <\frac{E\left\vert \frac{Y_n}{n^{r}} \right\vert }{\varepsilon}=\frac{E\left\vert \displaystyle \sum_{k=1}^{n}\frac{X_k}{k} \right\vert }{n^{r}\varepsilon}
|
||||
$$
|
||||
|
||||
由于$\operatorname{Var}(X_k)=k, std(X_k)=\sqrt{k}$且$E(X_k)=0$，所以$std(\frac{X_k}{k})=\frac{1}{\sqrt{k}}$，所以$\operatorname{Var}(\frac{X_k}{k})=\frac{1}{k}$。
|
||||
|
||||
$$
|
||||
E\left\vert \sum_{k=1}^{n}\frac{X_k}{k} \right\vert \leqslant \left\vert \sum_{k=1}^{n}\frac{1}{\sqrt{k}} \right\vert \leqslant \left\vert \sum_{k=1}^{n}\frac{1}{\sqrt{n}} \right\vert = \frac{n}{\sqrt{n}}=\sqrt{n}
|
||||
$$
|
||||
所以
|
||||
$$
|
||||
P\left( \left\vert \frac{Y_n}{n^{r}} \right\vert >\varepsilon \right) < \frac{\sqrt{n}}{n^{r}\varepsilon}=n^{\frac{1}{2}-r}\varepsilon
|
||||
$$
|
||||
|
||||
对$\forall r>\frac{1}{2}$，当$n \to \infty$时$n^{\frac{1}{2}-r} \to 0$。
|
||||
所以$\forall \varepsilon>0, \displaystyle \sum_{n=1}^{\infty}P\left( \left\vert \frac{Y_n}{n^{r}} \right\vert >\varepsilon \right) $收敛。
|
||||
|
||||
因此$\forall r>\frac{1}{2}$，当$n \to \infty$时$\displaystyle \frac{Y_n}{n^{r}}$几乎必然收敛到0。
|
||||
|
||||
}
|
||||
\end{enumerate}
|
||||
\end{document}
|
||||
113
随机过程/作业/第五周作业.tex
Normal file
113
随机过程/作业/第五周作业.tex
Normal file
@@ -0,0 +1,113 @@
|
||||
\documentclass[全部作业]{subfiles}
|
||||
\input{mysubpreamble}
|
||||
\begin{document}
|
||||
\setcounter{chapter}{2}
|
||||
\section{《随机过程》3月25日作业}
|
||||
（以下总假设$N=\{ N(t)\ ;\ t\geqslant 0 \}$是强度为$\lambda$的Poisson过程。）
|
||||
\begin{enumerate}
|
||||
\questionandanswerSolution[]{
|
||||
已知$T$服从参数为$\mu$的指数分布，且与过程$N$相互独立。求$N(T)$的分布列。
|
||||
}{
|
||||
$T$的概率密度函数为$P(T=t)=\mu e^{-\mu t}$，$N(t)$的分布列为$P(N(t)=k)=\displaystyle \frac{(\lambda t)^{k}}{k!} e^{-\lambda t}$，所以$N(T)$的分布列为
|
||||
$$
|
||||
\begin{aligned}
|
||||
P(N(T)=k)&= \int_{0}^{+\infty} P(N(t)=k)P(T=t) \mathrm{d}t=\int_{0}^{+\infty} \frac{(\lambda t)^{k}}{k!}e^{-\lambda t} \mu e^{-\mu t} \mathrm{d}t \\
|
||||
&=\frac{\mu\lambda^{k}}{(\lambda+\mu)^{k+1}} \int_{0}^{+\infty} \frac{(\lambda+\mu)^{k+1}}{\Gamma (k+1)} t^{k} e^{-(\lambda+\mu)t} \mathrm{d}t \\
|
||||
&=\frac{\mu \lambda^{k}}{(\lambda+\mu)^{k+1}} \\
|
||||
\end{aligned}
|
||||
$$
|
||||
}
|
||||
\questionandanswerSolution[]{
|
||||
对任意$0<s<t$，求条件概率$P(N(s)=k|N(t)=n)$（其中$0\leqslant k\leqslant n$为整数），并给出所求结果的直观解释。
|
||||
}{
|
||||
$$
|
||||
P(N(s)=k|N(t)=n)=\frac{P(N(s)=k,N(t)=n)}{P(N(t)=n)} = \frac{P(N(s)=k,N(t)-N(s)=n-k)}{P(N(t)=n)}
|
||||
$$
|
||||
由于泊松过程是初值为0的平稳独立增量过程，所以
|
||||
$$
|
||||
\text{上式}=\frac{P(N(s)=k)P(N(t)-N(s)=n-k)}{P(N(t)=n)}=\frac{P(N(s)=k)P(N(t-s)=n-k)}{P(N(t)=n)}
|
||||
$$
|
||||
由于$N(t)$服从强度为$\lambda t$的泊松分布，所以
|
||||
$$
|
||||
\begin{aligned}
|
||||
\text{上式}&=\frac{\frac{(\lambda s)^{k}}{k!}e^{-\lambda s} \cdot \frac{(\lambda (t-s))^{n-k}}{(n-k)!} e^{-\lambda(t-s)}}{\frac{(\lambda t)^{n}}{n!}e^{-\lambda t}} \\
|
||||
&=\frac{\lambda^{k}s^{k}\lambda^{n-k}(t-s)^{n-k}n!e^{-\lambda s}e^{-\lambda t + \lambda s}}{k!(n-k)! \lambda^{n} t^{n}e^{-\lambda t}} \\
|
||||
&=\frac{n!}{k!(n-k)!}\cdot \frac{s^{k}(t-s)^{n-k}}{t^{n}} \\
|
||||
&=\mathrm{C}_{n}^{k} \left( \frac{s}{t} \right) ^{k}\left( 1-\frac{s}{t} \right) ^{n-k} \\
|
||||
\end{aligned}
|
||||
$$
|
||||
可以看到这是二项分布$\displaystyle b\left( n, \frac{s}{t} \right) $的分布列，那么所求结果的直观解释也就很明显了：
|
||||
|
||||
所求的条件概率为，已知在$t$时刻计数到$n$，求在$s$时刻计数到$k$的概率。也就是已知在时间$[0,t]$中发生了$n$次事件，求其中$k$次发生在时间$[0,s]$的概率。记发生在时间$[0,s]$为“成功”，那么也就是$n$次试验，求成功$k$次的概率。可以认为一次事件等概率落在区间中任何一个点，那么一次试验成功的概率就是区间长度的比值，也就是$\frac{s}{t}$。因此所求的条件概率为二项分布$b(n, \frac{s}{t})$的分布列。
|
||||
}
|
||||
\questionandanswerProof[]{
|
||||
对$s,t>0$，证明$N(t+s)-N(s)\sim \mathrm{Poi}(\lambda t)$，且与$N(s)$独立。
|
||||
}{
|
||||
因为$N(t)$是平稳独立增量过程，所以$N(t+s)-N(s)$与$N(t)-N(0)$同分布，又由于$N(0)=0$，$N(t)-N(0)=N(t)\sim \mathrm{Poi}(\lambda t)$，所以$N(t+s)-N(s)\sim \mathrm{Poi}(\lambda t)$。
|
||||
|
||||
同样，因为$N(t)$是平稳独立增量过程，所以$N(t+s)-N(s)$与$N(s)$独立。
|
||||
}
|
||||
\questionandanswer[]{
|
||||
已知到达某航运公司办公室的客户服从平均速率为每小时3个的Poisson过程。公司职员应当早晨8点开始办公，但是David睡过了头，早晨10点才到办公室。问:
|
||||
}{}
|
||||
\begin{enumerate}
|
||||
\questionandanswerSolution[]{
|
||||
在这两个小时期间没有客户到达的概率是多少?
|
||||
}{
|
||||
设$N=\{ N(t)\ ;\ t\geqslant 0 \}$表示在$t+8$时到达某航运公司办公室的客户数量，则$N$为强度$\lambda = 3$的泊松过程。（$t$以小时为单位）
|
||||
|
||||
因为
|
||||
$$
|
||||
P(N(t)=k)=\frac{(\lambda t)^{k}}{k!}e^{-\lambda }
|
||||
$$
|
||||
所以所求概率为
|
||||
$$
|
||||
P(N(2)=0)=\frac{(3\times 2)^{0}}{0!}e^{- 3\times 2}=e^{-6}
|
||||
$$
|
||||
|
||||
也可以用$T$来刻画，已知$T_n\sim \operatorname{Ga}(n,\lambda)$，从而$P(T_1=t)=\lambda e^{-\lambda t}$，所以
|
||||
$$
|
||||
P(T_1\geqslant 2)=\int_{2}^{+\infty} P(T_1=t) \mathrm{d}t=\int_{2}^{+\infty} 3e^{-3t} \mathrm{d}t = e^{-6}
|
||||
$$
|
||||
同样可以得到结果$e^{-6}$。
|
||||
}
|
||||
\questionandanswerSolution[]{
|
||||
直到他的第一个客户到达，David需要等待时间的分布是什么?
|
||||
}{
|
||||
即$T_1\sim \operatorname{Ga}(1,\lambda)$，即$W_1 \sim \operatorname{Exp}(\lambda)$，也就是需要等待的时间服从参数为$\lambda$的指数分布。
|
||||
}
|
||||
\end{enumerate}
|
||||
\questionandanswer[]{
|
||||
对$t\geqslant 0$，定义$A(t)=t-T_{N(t)}$, $R(t)=T_{N(t)+1}-t$, $L(t)=T_{N(t)+1}-T_{N(t)}$，其中$T_k=\inf\{ t\geqslant 0\ ;\ N(t)\geqslant k \} (k\in \mathbb{N})$。
|
||||
}{}
|
||||
\begin{enumerate}
|
||||
\questionandanswerSolution[]{
|
||||
求$(A(t),R(t))$的联合分布函数与各个分量的边际分布函数，并判断$A(t)$与$R(t)$是否相互独立；
|
||||
}{
|
||||
可以从定义看出$A(t)$表示当前时刻与上一次发生事件的时刻之差，而$R(t)$表示下一次发生新的事件的时刻与当前时刻之差。$L(t)$表示下一次发生新的事件的时刻与上一次发生事件的时刻之差。$(A(t),R(t))$的联合分布函数涉及到随机变量的嵌套，较为复杂，$A(t)$与$R(t)$应该不相互独立。
|
||||
}
|
||||
\questionandanswerSolution[]{
|
||||
对任意$x>0$，计算$P(L(t)>x)$，并说明其严格大于$P(W_1>x)$。
|
||||
}{
|
||||
比较定义可知$L(t)=W_{N(t)+1}$，所以$P(L(t)>x)=P(W_{N(t)+1}>x)>P(W_1>x)$。
|
||||
}
|
||||
\end{enumerate}
|
||||
\questionandanswerProof[]{
|
||||
（\textbf{Poisson过程的强大数定律}）证明：当$t \to \infty$时有$\dfrac{N(t)}{t} \xrightarrow{a.s.} \lambda$。
|
||||
}{
|
||||
由于$N(t)$服从强度为$\lambda t$的泊松分布，所以
|
||||
$$
|
||||
P(N(t)=k)=\frac{(\lambda t)^{k}}{k!}e^{-\lambda t}
|
||||
$$
|
||||
所以
|
||||
$$
|
||||
P\left(\frac{N(t)}{t}=\frac{k}{t}\right)= \frac{(\lambda t)^{t\cdot \frac{k}{t}}}{\left( t \cdot \frac{k}{t} \right) !}e^{-\lambda t}
|
||||
$$
|
||||
令$n=\dfrac{k}{t}$，则
|
||||
$$
|
||||
P\left( \frac{N(t)}{t}=n \right) =\frac{(\lambda t)^{tn}}{(tn)!}e^{-\lambda t}
|
||||
$$
|
||||
当$t \to \infty$时，应该能据此证明$\displaystyle P\left( \frac{N(t)}{t} \to \lambda \right) =1 $，从而$\displaystyle \frac{N(t)}{t} \xrightarrow{a.s.} \lambda$。
|
||||
}
|
||||
\end{enumerate}
|
||||
\end{document}
|
||||
268
随机过程/作业/第六周作业.tex
Normal file
268
随机过程/作业/第六周作业.tex
Normal file
@@ -0,0 +1,268 @@
|
||||
\documentclass[全部作业]{subfiles}
|
||||
\input{mysubpreamble}
|
||||
\begin{document}
|
||||
\setcounter{chapter}{3}
|
||||
\section{《随机过程》4月1日作业}
|
||||
\begin{enumerate}
|
||||
\questionandanswerSolution[]{
|
||||
假设$N=\{ N(t)\ :\ t\geqslant 0 \}$是强度为$\lambda$的Poisson过程，且$T_k=\inf\{ t\geqslant 0\ :\ N(t)\geqslant k \} (k\in \mathbb{N})$。分别计算条件期望$E(T_{2024}|N(2024)=2024)$和$E(T_{2025}|N(2024)=2024)$。
|
||||
}{
|
||||
由于$N(2024)=2024 \iff T_{2024}\leqslant 2024<T_{2025}$，所以所求的条件期望中只涉及到$T_{2024}$和$T_{2025}$这两个随机变量，因此可以先求$(T_{2024},T_{2025})$的联合分布。设$(T_{2024},T_{2025})$的联合概率密度函数为$p(x,y)$。
|
||||
|
||||
由于$T_{2025}=T_{2024}+W_{2025}$，所以可以先求$(T_{2024},W_{2025})$的联合概率密度函数。已知$T_{2024}\sim \operatorname{Ga}(2024,\lambda), W_{2025}\sim \operatorname{Exp}(\lambda)$，且$T_{2024}$与$W_{2025}$相互独立，因此
|
||||
$$
|
||||
p_{(T_{2024},W_{2025})}(u,v)=\frac{\lambda^{2024}}{\Gamma(2024)} u^{2024-1} e^{-\lambda u} \cdot \lambda e^{-\lambda v} = \frac{\lambda^{2025} u^{2023} e^{- \lambda (u + v)}}{\Gamma{(2024)}}
|
||||
$$
|
||||
|
||||
由于$\left\vert \frac{\partial (x,y)}{\partial (u,v)} \right\vert =1$，所以
|
||||
$$
|
||||
p(x,y)=p_{(T_{2024},T_{2025})}(x,y)=p_{(T_{2024},W_{2025})}(x, y-x)=\frac{\lambda^{2025}x^{2023}e^{-\lambda y}}{\Gamma(2024)}
|
||||
$$
|
||||
所以
|
||||
$$
|
||||
\begin{aligned}
|
||||
E(T_{2024}|N(2024)=2024)&=E(T_{2024}|T_{2024}\leqslant 2024<T_{2025}) \\
|
||||
&= \iint\limits_{(-\infty,2024]\times [2024,+\infty)} x p(x,y) \mathrm{d}x\mathrm{d}y \\
|
||||
&=\int_{-\infty}^{2024} \int_{2024}^{+\infty} \frac{\lambda^{2025}x^{2024}e^{-\lambda y}}{\Gamma(2024)} \mathrm{d}y \mathrm{d}x \\
|
||||
&=\frac{\lambda^{2025}}{\Gamma(2024)} \int_{-\infty}^{2024} x^{2024} \mathrm{d}x \int_{2024}^{+\infty} e^{-\lambda y} \mathrm{d}y \\
|
||||
% =\int_{-\infty}^{2024} \left( \int_{2024}^{+\infty} x^{2024}e^{-\lambda y} \mathrm{d}y \right) \mathrm{d}x
|
||||
\end{aligned}
|
||||
$$
|
||||
同理
|
||||
$$
|
||||
\begin{aligned}
|
||||
E(T_{2025}|N(2024)=2024)&=\iint\limits_{(-\infty,2024]\times [2024,+\infty)} yp(x,y) \mathrm{d}d \mathrm{d}y \\
|
||||
&=\frac{\lambda^{2025}}{\Gamma(2024)}\int_{-\infty}^{2024} x^{2023} \mathrm{d}x \int_{2024}^{+\infty} ye^{-\lambda y} \mathrm{d}y \\
|
||||
\end{aligned}
|
||||
$$
|
||||
计算到这里实在计算不下去了。
|
||||
}
|
||||
\questionandanswerSolution[]{
|
||||
考虑一个从底层起动（不是启动？）上升的电梯。以$N_i$记在第$i$层进入电梯的人数。假定各$N_i$相互独立，且$N_i\sim \operatorname{Poi}(\lambda_i)(\forall i)$。在第$i$层进入电梯的各个人相互独立地以概率$p_{ij}$在第$j$层$(j>i)$离开电梯，$\displaystyle \sum_{j>i} p_{ij}=1$。用$O_j$表示在第$j$层离开电梯的人数。求$O_j$的分布列。
|
||||
}{
|
||||
在第$i$层进入电梯的人数为$N_i$且各个人相互独立地一概率$p_{ij}$在第$j$层$(j>i)$离开电梯，因此在第$j$层离开电梯的人数的期望为
|
||||
$
|
||||
\displaystyle \sum_{i=1}^{j} N_i p_{ij} =O_j
|
||||
$
|
||||
|
||||
根据泊松过程的性质，$N_ip_{ij}\sim \operatorname{Poi}(\lambda_ip_{ij})$，$\displaystyle \sum_{i=1}^{j} N_ip_{ij}=O_j\sim \operatorname{Poi}\left(\sum_{i=1}^{j} \lambda_ip_{ij}\right)$。
|
||||
|
||||
所以$O_j$的分布列为
|
||||
$$
|
||||
P(O_j=k)=\frac{\lambda^{\sum_{i=1}^{j} \lambda_ip_{ij}}}{k!}e^{-\sum_{i=1}^{j} \lambda_ip_{ij}}
|
||||
$$
|
||||
}
|
||||
\questionandanswerSolution[]{
|
||||
（冲击模型）记$X(t)$为某系统截至时刻$t$受到的冲击次数。$X=\{ X(t)\ :\ t\geqslant 0 \}$是强度为$\lambda$的Poisson过程。设$Y_k$为第$k$次冲击对系统的损害值，满足$Y_1,Y_2, \cdots \overset{\text{i.i.d.}}{\sim}\operatorname{Exp}(\mu)$。以$Z(t)$记截至时刻$t$系统所受到的总损害值。当总损害超过一定的指标$\alpha$时系统不能运行下去，寿命终止。记$T$为系统寿命，求$E(T)$。
|
||||
}{
|
||||
% 总损害值是每次损害值求和
|
||||
% $$
|
||||
% Z(t)=\sum_{i=1}^{X(t)} Y_i
|
||||
% $$
|
||||
% 这是随机个随机变量求和，由于$X(t)\sim \operatorname{Poi}(\lambda)$且$Y_1,Y_2, \cdots \overset{\text{i.i.d.}}{\sim}\operatorname{Exp}(\mu)$，所以
|
||||
% $$
|
||||
% Z(t)\sim \operatorname{Ga}(\lambda t, \mu)
|
||||
% $$
|
||||
由于泊松过程本身和它的停时有良好的互转关系，所以可以按照如下方式转化原问题：注意到此问题中有三个指标：时刻、冲击次数、损害值，于是
|
||||
|
||||
设$A_k$表示第$k$次冲击后系统所受到的总损害值，由于$Y_1,Y_2, \cdots \overset{\text{i.i.d.}}{\sim}\operatorname{Exp}(\mu)$，则
|
||||
$$
|
||||
A_k=\sum_{i=1}^{k} Y_k \sim \operatorname{Ga}(k,\mu)
|
||||
$$
|
||||
与之对应，设$B(x)$表示总损害值为$x$时受到的冲击次数，则
|
||||
$$
|
||||
B(x)\sim \operatorname{Poi}(\mu)
|
||||
$$
|
||||
再设$C_k$表示冲击次数为$k$时的时刻，由于$X(t)\sim \operatorname{Poi}(\lambda)$，所以
|
||||
$$
|
||||
C_k\sim \operatorname{Ga}(k,\lambda)
|
||||
$$
|
||||
所以所求的$E(T)$可以表述为总损害值为$\alpha$时对应的冲击次数对应的时刻，使用重期望公式可得
|
||||
$$
|
||||
E(T)=E(C_{B(\alpha)})=E(E(C_{B(\alpha)}|B(\alpha)))
|
||||
$$
|
||||
由于$E(C_{B(\alpha)}|B(\alpha)=k)=E(C_{k})=\frac{k}{\lambda}$，所以
|
||||
$$
|
||||
E(T)=E\left( \frac{B(\alpha)}{\lambda} \right) =\frac{1}{\lambda}E(B(\alpha))=\frac{\alpha \mu}{\lambda}
|
||||
$$
|
||||
}
|
||||
\questionandanswerSolution[]{
|
||||
考虑速率函数为$\lambda(t)>0(\forall t\geqslant 0)$的非齐次Poisson过程$X=\{ X(t)\ :\ t\geqslant 0 \}$。令
|
||||
$$
|
||||
m(t)=\int_{0}^{t} \lambda(u) \mathrm{d}u \qquad (t\geqslant 0),
|
||||
$$
|
||||
$m(t)$的反函数记为$l(t)$。对$t\geqslant 0$，记$Y(t)=X(l(t))$。证明$Y=\{ Y(t)\ :\ t\geqslant 0 \}$是经典Poisson过程，并求它的强度。
|
||||
}{
|
||||
由题意可知$X(t)\sim \operatorname{Poi}(m(t))$，又知$m(t)$和$l(t)$互为反函数，所以
|
||||
$$
|
||||
Y(t)=X(l(t))\sim \operatorname{Poi}(m(l(t)))=\operatorname{Poi}(t)
|
||||
$$
|
||||
所以$T=\{ Y(t)\ :\ t\geqslant 0 \}$是经典Poisson过程，它的强度为1。
|
||||
}
|
||||
\questionandanswerSolution[]{
|
||||
重复地抛掷一枚均匀硬币，抛掷结果为$Y_0,Y_1,Y_2, \cdots $，它们取值为1（表示正面）或0（表示反面）的概率均为$\frac{1}{2}$。用$X_n=Y_{n-1}+Y_n$表示第$n-1$次和第$n$次抛掷出正面的总次数$(n\geqslant 1)$。问$X=\{ X_n\ :\ n\in \mathbb{Z}^{+} \}$是否是马氏链？并说明理由。
|
||||
}{
|
||||
$
|
||||
\forall n\in \mathbb{Z}^{+},\forall i_1, \cdots ,i_{n-1},i,j\in S=\{ 0,1 \}
|
||||
$，
|
||||
$$
|
||||
\begin{aligned}
|
||||
&P(X_{n+1}=j|X_n=i,X_{n-1}=i_{n-1}, \cdots ,X_{1}=i_1) \\
|
||||
=&P(Y_n+Y_{n+1}=j|Y_{n-1}+Y_n=i, \cdots ,Y_0+Y_1=i_1) \\
|
||||
\end{aligned}
|
||||
$$
|
||||
因为$Y_0,Y_1,Y_2, \cdots $相互独立，所以条件概率中与$Y_n$和$Y_{n+1}$无关的条件都可以不考虑，即
|
||||
$$
|
||||
\text{上式}=P(Y_n+Y_{n+1}=j|Y_{n-1}+Y_n=i)=P(X_{n+1}=j|X_n=i)
|
||||
$$
|
||||
所以$X=\{ X_n\ :\ n\in \mathbb{Z}^{+} \}$是马氏链。
|
||||
}
|
||||
\questionandanswerSolution[]{
|
||||
一个出租车司机在机场、宾馆A、宾馆B之间按照如下方式行车:如果他在机场,那
|
||||
么下一时刻他将以等概率到达两个宾馆中的任意一个;如果他在其中一个宾馆,那么下
|
||||
一时刻他将以概率3/4返回到机场,而以概率1/4开往另一个宾馆. 假设在时刻0时
|
||||
司机在机场,求在时刻3时他在宾馆A的概率。
|
||||
}{
|
||||
设机场、宾馆A、宾馆B分别用0、1、2表示，设一步转移概率矩阵为A，则
|
||||
$$
|
||||
A=\begin{bmatrix}
|
||||
0 & \frac{1}{2} & \frac{1}{2} \\
|
||||
\frac{3}{4} & 0 & \frac{1}{4} \\
|
||||
\frac{3}{4} & \frac{1}{4} & 0 \\
|
||||
\end{bmatrix}\qquad
|
||||
A^{3} = \begin{bmatrix}\frac{3}{16} & \frac{13}{32} & \frac{13}{32}\\\frac{39}{64} & \frac{3}{16} & \frac{13}{64}\\\frac{39}{64} & \frac{13}{64} & \frac{3}{16}\end{bmatrix}
|
||||
$$
|
||||
所求的概率为经过3个时刻（时间齐次）从机场到宾馆A的概率，即$\dfrac{13}{32} = 0.40625$。
|
||||
}
|
||||
\questionandanswer[]{
|
||||
（天气链）已知当昨天和前天都晴天时，今天将下雨的概率是$0.3$；而当昨天和前天中至少有一天下雨时，今天将下雨的概率是$0.6$。用$W_n$表示第$n$天的天气，它取值为$R$（表示下雨）或$S$（表示晴天）。尽管$W=\{ W_n\ :\ n\in \mathbb{N} \}$不是一个马氏链，但由$X_n=(W_{n-1},W_n)$定义的$X=\{ X_n\ :\ n\in \mathbb{Z}^{+} \}$是一个时齐马氏链，其状态空间为$\{RR, RS, SR, SS\}$。
|
||||
}{}
|
||||
\begin{enumerate}
|
||||
\questionandanswerSolution[]{
|
||||
写出$X$的一步转移概率矩阵。
|
||||
}{
|
||||
% 将$RR, RS, SR, SS$分别用$0,1,2,3$表示，则
|
||||
\begin{tabular}{c|cccc}
|
||||
% \hline
|
||||
\diagbox{昨天今天}{今天明天} & $RR$ & $RS$ & $SR$ & $SS$ \\
|
||||
\hline
|
||||
$RR$ & $0.6$ & $0.4$ & $0$ & $0$ \\
|
||||
$RS$ & $0$ & $0$ & $0.6$ & $0.4$ \\
|
||||
$SR$ & $0.6$ & $0.4$ & $0$ & $0$ \\
|
||||
$SS$ & $0$ & $0$ & $0.3$ & $0.7$ \\
|
||||
% \hline
|
||||
\end{tabular}
|
||||
|
||||
所以$X$的一步转移概率矩阵为
|
||||
$$
|
||||
\begin{bmatrix}
|
||||
0.6 & 0.4 & 0 & 0 \\
|
||||
0 & 0 & 0.6 & 0.4 \\
|
||||
0.6 & 0.4 & 0 & 0 \\
|
||||
0 & 0 & 0.3 & 0.7 \\
|
||||
\end{bmatrix}
|
||||
$$
|
||||
}
|
||||
\questionandanswerSolution[]{
|
||||
求当给定某周的周一和周二都晴天的条件下，该周周四下雨的概率。
|
||||
}{
|
||||
题意也就是经过两步从$SS$转移到$RR$或$SR$的概率，
|
||||
$$
|
||||
\begin{bmatrix}
|
||||
0.6 & 0.4 & 0 & 0 \\
|
||||
0 & 0 & 0.6 & 0.4 \\
|
||||
0.6 & 0.4 & 0 & 0 \\
|
||||
0 & 0 & 0.3 & 0.7 \\
|
||||
\end{bmatrix}^{2} = \begin{bmatrix}0.36 & 0.24 & 0.24 & 0.16\\0.36 & 0.24 & 0.12 & 0.28\\0.36 & 0.24 & 0.24 & 0.16\\0.18 & 0.12 & 0.21 & 0.49\end{bmatrix}
|
||||
$$
|
||||
所以该周周四下雨的概率为$0.18+0.21 = 0.39$。
|
||||
}
|
||||
\end{enumerate}
|
||||
\questionandanswer[]{
|
||||
(信号传递之“愚人节说谎版”)设在愚人节这天,姚老师以40\%的可能性把“下周的课考试”的消息(以60\%的可能性把“下周的课不考试”的消息)传给路上偶遇的陈雨杭同学,之后的每位同学(从陈雨杭开始)逐次以70\%的可能性把刚听到的消息(以30\%的可能性把刚听到的消息的对立面)传给遇到的下一位同学(每次只传给一位同学).假设第20位收到消息的是曾凡晔同学.
|
||||
}{}
|
||||
\begin{enumerate}
|
||||
\questionandanswerSolution[]{
|
||||
计算条件概率
|
||||
$$
|
||||
P(\text{姚老师一开始说“下周的课考试”}|\ \text{曾凡晔收到“下周的课考试”的消息}).
|
||||
$$
|
||||
}{
|
||||
\begin{table}
|
||||
\centering
|
||||
\begin{tabular}{c|cc}
|
||||
\diagbox{初始}{传出} & 考试 & 不考试 \\
|
||||
\hline
|
||||
未知 & 0.4 & 0.6 \\
|
||||
\end{tabular}
|
||||
\hfil
|
||||
\begin{tabular}{c|cc}
|
||||
\diagbox{收到}{传出} & 考试 & 不考试 \\
|
||||
\hline
|
||||
考试 & 0.7 & 0.3 \\
|
||||
不考试 & 0.3 & 0.7 \\
|
||||
\end{tabular}
|
||||
\caption{左：第一次消息传递；右：后续消息传递}
|
||||
\end{table}
|
||||
根据贝叶斯公式，
|
||||
$$
|
||||
\begin{aligned}
|
||||
&P(\text{姚老师一开始说“下周的课考试”}|\ \text{曾凡晔收到“下周的课考试”的消息}) \\
|
||||
&=\frac{
|
||||
\begin{split}
|
||||
P(\text{曾凡晔收到“下周的课考试”的消息}|\ \text{姚老师一开始说“下周的课考试”})\\
|
||||
\times P(\text{姚老师一开始说“下周的课考试”})
|
||||
\end{split}
|
||||
}{P(\text{曾凡晔收到“下周的课考试”的消息})} \\
|
||||
\end{aligned}
|
||||
$$
|
||||
从第1位同学到第20位同学，经过了19次信号传递，所以19步概率转移矩阵为
|
||||
$$
|
||||
\begin{bmatrix}
|
||||
0.7 & 0.3 \\
|
||||
0.3 & 0.7 \\
|
||||
\end{bmatrix}^{19} = \begin{bmatrix}0.500000013743895 & 0.499999986256105\\0.499999986256105 & 0.500000013743895\end{bmatrix}
|
||||
\approx \begin{bmatrix}
|
||||
0.5 & 0.5 \\
|
||||
0.5 & 0.5 \\
|
||||
\end{bmatrix}
|
||||
$$
|
||||
所以
|
||||
$$
|
||||
P(\text{曾凡晔收到“下周的课考试”的消息}|\ \text{姚老师一开始说“下周的课考试”})=0.5
|
||||
$$
|
||||
$$
|
||||
P(\text{曾凡晔收到“下周的课考试”的消息})=0.4\times 0.5+0.6\times 0.5 = 0.5
|
||||
$$
|
||||
所以
|
||||
$$
|
||||
P(\text{姚老师一开始说“下周的课考试”}|\ \text{曾凡晔收到“下周的课考试”的消息})=\frac{0.5\times 0.4}{0.5} = 0.4000
|
||||
$$
|
||||
}
|
||||
\questionandanswerSolution[]{
|
||||
又设在上述传递消息的过程中,第10位收到消息的是李墨涵同学,计算条件概率
|
||||
$$
|
||||
P(\text{姚老师一开始说“下周的课考试”}|\ \text{上述三位同学全都传出“下周的课考试”的消息}).
|
||||
$$
|
||||
}{
|
||||
设$A_i$表示事件“第$i$位同学传出‘下周的课考试’的消息”，$A_0$表示事件“姚老师一开始说‘下周的课考试’”，再根据贝叶斯公式和条件概率的性质，则所求的问题可转换为
|
||||
$$
|
||||
\begin{aligned}
|
||||
P(A_0|A_1, A_{10}, A_{20})&=\frac{P(A_1 , A_{10}, A_{20}|A_0)\times P(A_0)}{P(A_1, A_{10}, A_{20})} \\
|
||||
&=\frac{P(A_{20}|A_{10},A_1,A_0)P(A_{10}|A_1,A_0)P(A_1|A_0)P(A_0)}{P(A_{20}|A_{10},A_1)P(A_{10}|A_1)P(A_1)} \\
|
||||
\end{aligned}
|
||||
$$
|
||||
显然此模型是马氏链，所以根据马氏链的性质，
|
||||
$$
|
||||
\begin{aligned}
|
||||
\text{上式}&=\frac{P(A_{20}|A_{10})P(A_{10}|A_1)P(A_1|A_0)P(A_0)}{P(A_{20}|A_{10})P(A_{10}|A_1)P(A_1)} \\
|
||||
&=\frac{P(A_1|A_0)P(A_0)}{P(A_1)} \qquad (=P(A_0|A_1)) \\
|
||||
&=\frac{0.7\times 0.4}{0.4\times 0.7+0.6\times 0.3} \\
|
||||
&= \frac{14}{23} \approx 0.6087 \\
|
||||
\end{aligned}
|
||||
$$
|
||||
}
|
||||
\end{enumerate}
|
||||
\end{enumerate}
|
||||
(要求答案均保留四位有效数字.提示:方阵的幂可用数学软件如Matlab计算.)
|
||||
\end{document}
|
||||
144
随机过程/作业/第十一周作业.tex
Normal file
144
随机过程/作业/第十一周作业.tex
Normal file
@@ -0,0 +1,144 @@
|
||||
\documentclass[全部作业]{subfiles}
|
||||
\input{mysubpreamble}
|
||||
\begin{document}
|
||||
\setcounter{chapter}{4}
|
||||
\section{练习题\thesection}
|
||||
\begin{enumerate}
|
||||
\questionandanswerSolution[2]{
|
||||
总共$m$个白球和$m$个黑球分别放在A,B两个坛子中，每个坛子有$m$个球，每次从这两个坛子中各随机地取一个球并把它们交换后放回。以$X_n$表示经过$n$次后A坛中黑球个数。求$X_n$的平稳分布。
|
||||
}{
|
||||
当$X=i$时，此时的球的数量为 \qquad
|
||||
\begin{tabular}{ccc}
|
||||
\toprule
|
||||
& A & B \\
|
||||
\midrule
|
||||
黑 & $i$ & $m-i$ \\
|
||||
白 & $m-i$ & $i$ \\
|
||||
\bottomrule
|
||||
\end{tabular}
|
||||
|
||||
则下一时刻的情况为
|
||||
\begin{center}
|
||||
\begin{tabular}{ccccc}
|
||||
\toprule
|
||||
& A黑B黑 & A白B白 & A黑B白 & A白B黑 \\
|
||||
\midrule
|
||||
概率 & $\frac{i(m-i)}{m^{2}}$ & $\frac{i(m-i)}{m^{2}}$ & $\frac{i^{2}}{m^{2}}$ & $\frac{(m-i)^{2}}{m^{2}}$ \\
|
||||
$X$的变化 & $0$ & $0$ & $-1$ & $+1$ \\
|
||||
\bottomrule
|
||||
\end{tabular}
|
||||
\end{center}
|
||||
|
||||
所以一步转移概率为 $p_{i,i-1}=\frac{i^{2}}{m^{2}}$, $p_{i,i+1}=\frac{(m-i)^{2}}{m^{2}}$, $p_{ii} = \frac{2i(m-i)}{m^{2}}$。
|
||||
|
||||
根据细致平衡条件，$\pi_i p_{i,i-1} = \pi_{i-1} p_{i-1, i}$，可得 $\pi_i \frac{i^{2}}{m^{2}}=\frac{(m-i+1)^{2}}{m^{2}} \pi_{i-1}$，所以$\frac{\pi_i}{\pi_{i-1}} = \frac{(m-i+1)^{2}}{i^{2}}$。所以
|
||||
$$
|
||||
\pi_j = \pi_0 \prod_{i=0}^{j} \frac{\pi_i}{\pi_{i-1}} = \pi_0 \prod_{i=0}^{j} \frac{(m-i+1)^{2}}{i^{2}} = \pi_0 \left( \mathrm{C}_{m}^{j} \right) ^{2}
|
||||
$$
|
||||
根据
|
||||
$$
|
||||
\sum_{j=0}^{m} \left( \mathrm{C}_{m}^{j} \right) ^{2} \pi_0 = 1
|
||||
$$
|
||||
可得$\pi_0 = \frac{1}{\sum_{j=0}^{m} \left( \mathrm{C}_{m}^{j} \right) ^{2}}$，所以$\pi_j = \frac{(\mathrm{C}_{m}^{j})^{2}}{\sum_{j=0}^{m} (\mathrm{C}_{m}^{j})^{2}}$。所以$X_n$的平稳分布为
|
||||
$$
|
||||
\left\{ \frac{\left( \mathrm{C}_{m}^{j} \right) ^{2}}{\sum_{j=0}^{m} \left( \mathrm{C}_{m}^{j} \right) ^{2}}\ \middle|\ j=0,1, \cdots ,m \right\}
|
||||
$$
|
||||
}
|
||||
\questionandanswerProof[3]{
|
||||
证明当$q>p$时带一个反射壁的简单随机游动是可逆的，并由此求$m_{00}$。
|
||||
}{
|
||||
题目中只交代了带一个反射壁，没说反射壁在左侧还是右侧，根据后面要求的$m_{00}$来看，这里就认为在$0$的左侧吧。
|
||||
首先写出转移概率$p_{01} = 1$, $\forall i \in \mathbb{N}^{+}$, $p_{i,i+1}=p$, $p_{i, i-1}=p$。根据细致平衡条件，$\pi_{i}p_{i,i+1}=\pi_{i+1}p_{i+1,i}$，所以
|
||||
$$
|
||||
\pi_1 q = \pi_0 \cdot 1, \qquad \forall i \in \mathbb{N}^{+}, \pi_i p =\pi_{i+1}q
|
||||
$$
|
||||
所以
|
||||
$$
|
||||
\pi_0 = \pi_1 q, \qquad \forall i \in \mathbb{N}^{+}, \pi_{i+1} = \frac{p}{q} \pi_i
|
||||
$$
|
||||
所以$\displaystyle \forall j \in \mathbb{N}^{+}, \pi_j = \pi_1\prod_{i=1}^{j-1} \frac{p}{q}$，再根据$\displaystyle \sum_{j=0}^{\infty} \pi_j = 1$可得
|
||||
$$
|
||||
1 = \left( \sum_{j=1}^{\infty} \left( \frac{p}{q} \right)^{j-1} +q \right) \pi_1 = \left( \frac{1}{1-\frac{p}{q}} + q\right) \pi_1 = \frac{q^{2}-pq+q}{q-p} \pi_1
|
||||
$$
|
||||
所以$\displaystyle \pi_1 = \frac{q-p}{q^{2}-qp+q}$，$\displaystyle \pi_0 = \pi_1q = \frac{q-p}{q-p+1}$。
|
||||
所以
|
||||
$\displaystyle m_{00} = \frac{1}{\pi_0} = \frac{q-p+1}{q-p}$。
|
||||
}
|
||||
\questionandanswerProof[4]{
|
||||
若$X$的转移概率矩阵为$(p_{i,j})$，$\pi=(\pi_i, i \in S)$是$X$的可逆分布。证明对任意$n\geqslant 1$，$\pi_i p_{ij}^{(n)} = \pi_j p_{ji}^{(n)}$。
|
||||
}{
|
||||
对$n$进行数学归纳法，当$n=1$时，由于$pi$是$X$的可逆分布，根据可逆分布的定义可知成立。
|
||||
|
||||
当$n > 1$时，假设$n-1$时结论成立，即$\pi_i p_{ij}^{(n-1)} = \pi_j p_{ji}^{(n-1)}$，则对于$n$，
|
||||
$$
|
||||
\begin{aligned}
|
||||
\pi_i p_{ij}^{(n)} &= \pi_i \sum_{k \in S} p_{ik}^{(n-1)} p_{kj} = \sum_{k \in S} \pi_i p_{ik}^{(n-1)} p_{kj} = \sum_{k \in S} \pi_k p_{ki}^{(n-1)} p_{kj} \\
|
||||
&=\sum_{k \in S} \pi_k p_{kj} p_{ki}^{(n-1)} = \sum_{k \in S} \pi_j p_{jk} p_{ki}^{(n-1)} = \pi_j p_{ji}^{(n)} \\
|
||||
\end{aligned}
|
||||
$$
|
||||
所以对任意$n \geqslant 1$，$\pi_i p_{ij}^{(n)} =\pi_j p_{ji}^{(n)}$。
|
||||
}
|
||||
\questionandanswer[5]{
|
||||
设不可约马氏链$X$的转移概率矩阵$\textbf{P}$是双随机的，即每行元素之和为1，每列元素之和也为1。证明
|
||||
}{}
|
||||
\begin{enumerate}
|
||||
\questionandanswerProof[]{
|
||||
$X$是正常返的当且仅当$X$是有限状态马氏链；
|
||||
}{
|
||||
“$\impliedby $”：由于$P$是双随机的，且状态有限，所以离散均匀分布为$X$的平稳分布，又因为$X$不可约，所以$X$是正常返的。
|
||||
|
||||
“$\implies $”：由于$X$是正常返的，所以$X$存在唯一的平稳分布。由于$P$是双随机的，所以$(1,1,1, \cdots )$是一个不变测度。又因为平稳分布是不变测度的倍数且唯一，即$\exists a>0, \ \ \text{s.t.} \ (a,a,a, \cdots )$是平稳分布，所以$a+a+a+ \cdots =1$，所以$X$一定是有限状态马氏链。
|
||||
}
|
||||
\questionandanswerProof[]{
|
||||
$X$是可逆的当且仅当$\textbf{P}$是有限阶的对称矩阵。
|
||||
}{
|
||||
“$\impliedby $”：由于$P$是有限阶的对称矩阵，设为$n$阶，即$P = (p_{ij})_{n\times n}$，则$\forall i,j =1,2, \cdots ,n$，$p_{ij} =p_{ji}$，所以当$\pi = (\frac{1}{n},\frac{1}{n}, \cdots , \frac{1}{n})$时，$\pi_i p_{ij} = \pi_j p_{ji}$，即$\pi$满足细致平衡条件，从而$\pi$是$X$的可逆分布，所以$X$是可逆的。
|
||||
|
||||
“$\implies $”：因为$X$是可逆的且不可约，所以$X$正常返，根据上一小题的结论，$X$状态有限（设为$n$个状态），且平稳分布为$\pi=(\frac{1}{n},\frac{1}{n}, \cdots ,\frac{1}{n})$。根据细致平衡条件有$\forall i, j = 1,2, \cdots , \pi_i p_{ij} = \pi_j p_{ji}$，又因为$\pi_i =\pi_j$，所以$p_{ij}=p_{ji}$，即$P$是有限阶的对称矩阵。
|
||||
}
|
||||
\end{enumerate}
|
||||
\questionandanswerProof[6]{
|
||||
若对任意$i, j \in S$，$p_{ij}>0$，那么以$\left( p_{i,j} \right) _{i,j \in S}$为转移概率矩阵的正常返马氏链是可逆的当且仅当对任意的$i,j,k \in S$，$p_{ij} p_{jk} p_{ki} = p_{ik} p_{kj} p_{ji}$。
|
||||
}{
|
||||
“$\implies $”：根据定理4.1.4，从任意一状态触发回到改状态的路径与它的反向路径有相同的概率，所以$p_{ij} p_{jk} p_{ki} = p_{ik} p_{kj} p_{ji}$。
|
||||
|
||||
“$\impliedby $”：
|
||||
}
|
||||
\questionandanswer[8]{
|
||||
给定整数$N>1$。设$X=\{ X_n\ :\ n=0,1, \cdots ,N \}$是转移概率矩阵为$P=\left( p_{ij} \right) _{i,j \in S}$的时齐马氏链。对任意$n = 0,1, \cdots ,N$，定义$Y_n = X_{N-n}$。
|
||||
}{}
|
||||
\begin{enumerate}
|
||||
\questionandanswerProof[]{
|
||||
证明：$Y=\{ Y_n\ :\ n=0,1, \cdots ,N \}$是马氏链，但未必时齐。
|
||||
}{
|
||||
$$
|
||||
\begin{aligned}
|
||||
&\forall n = 0,1, \cdots ,N-1,\quad i_0, i_1, \cdots i_{N} \in S, \\
|
||||
&P(Y_{n+1}=i_{n+1}|Y_n=i_{n}, \cdots , Y_0=0) \\
|
||||
=&P(X_{N-n-1}=i_{n+1}|X_{N-n}=n, \cdots , X_{N}=0) \\
|
||||
=& \frac{P(X_{N-n-1}=i_{n+1}, X_{N-n}=i_n, \cdots , X_{N}=0)}{P(X_{N-n}=i_n, \cdots ,X_{N}=0)} \\
|
||||
=& \frac{P(X_{N-n-1}=i_{n+1}) P(X_{N-n}=i_n|X_{N-n-1}=i_{n+1})\cdots P(X_{N}=i_0|X_{N-1}=i_1)}{P(X_{N-n}=i_{N-n})P(X_{N-n+1} =i_{n-1}|X_{N-n}=i_{n})\cdots P(X_{N}=i_0| X_{N-1}=i_1)} \\
|
||||
=&\frac{P(X_{N-n-1}=i_{n+1})P(X_{N-n}=i_{n}|X_{N-n-1}=i_{n+1})}{P(X_{N-n}=i_{n})} \\
|
||||
=&P(X_{N-n-1}=i_{n+1}|X_{N-n}=i_{n}) \\
|
||||
=&P(Y_{n+1}=i_{n+1}|Y_{n}=i_{n}) \\
|
||||
\end{aligned}
|
||||
$$
|
||||
所以$Y$是马氏链，但未必时齐。
|
||||
}
|
||||
\questionandanswerProof[]{
|
||||
证明：当$X$的初始分布是$X$的平稳分布时，$Y$是时齐马氏链。并写出$Y$的一步转移概率。
|
||||
}{
|
||||
设$X$的平稳分布为$\pi=\{ \pi_i\ ;\ i \in S \}$，则
|
||||
$$
|
||||
p'_{ij} = P(Y_{n+1}=j|Y_{n}=i) = \frac{P(X_{N-n-1}=j)P(X_{N-n}=i|X_{N-n-1}=j)}{P(X_{N-n}=i)} = \frac{\pi_{j} p_{ji}}{\pi_{i}}
|
||||
$$
|
||||
这就是$Y$的一步转移概率，并且与$n$无关，所以$Y$是时齐马氏链。
|
||||
}
|
||||
\questionandanswerProof[]{
|
||||
证明：当$X$的初始分布是$X$的可逆分布时，两个过程$X$与$Y$同分布。
|
||||
}{
|
||||
设$X$的初始分布是$\mu$，也是$X$的可逆分布。由于$X$的可逆分布必定是$X$的平稳分布，所以由上一小题，$\displaystyle p'_{ij} = \frac{\mu_j p_{ji}}{\mu_i} = \frac{\mu_i p_{ij}}{\mu_{i}} = p_{ij}$，所以$Y$的一步转移概率与$X$相同，所以$X$与$Y$同分布。
|
||||
}
|
||||
\end{enumerate}
|
||||
\end{enumerate}
|
||||
\end{document}
|
||||
102
随机过程/作业/第十三周作业.tex
Normal file
102
随机过程/作业/第十三周作业.tex
Normal file
@@ -0,0 +1,102 @@
|
||||
\documentclass[全部作业]{subfiles}
|
||||
\input{mysubpreamble}
|
||||
\begin{document}
|
||||
\setcounter{chapter}{4}
|
||||
\setcounter{section}{2}
|
||||
\section{练习题\thesection}
|
||||
\begin{enumerate}
|
||||
\questionandanswerProof[2]{
|
||||
证明，只要$\eta_1<1$，Galton-Watson过程所有非零状态都是非常返的。
|
||||
}{
|
||||
根据$\eta_0$的情况分类讨论，当$\eta_0>0$时，则对于任意状态$i \in \mathbb{N}^{+}$，$i \to 0$但$0 \not \to i$（$0$是吸收态），所以$i$非常返。
|
||||
|
||||
当$\eta_0=0$时，则$\forall n \in \mathbb{N}$，$X_{n+1}\geqslant X_n$（所有个体都至少产生一个后代），则当$j > i$时$p_{ji}=0, \ f_{ji}=0$，所以对于状态$i\in \mathbb{N}^{+}$，
|
||||
$$
|
||||
f_{ii}=p_{ii} + \sum_{j=i+1}^{\infty} p_{ij} f_{ji} = p_{ii}
|
||||
$$
|
||||
设$Y_{k}$表示服从后代分布的随机变量，则
|
||||
$$
|
||||
p_{ii} = P\left( \sum_{k=1}^{i} Y_k =i \right) = P(Y_{k}=1,\ k=1,2, \cdots ,i) = (\eta_1)^{i} < 1
|
||||
$$
|
||||
所以$f_{ii}<1$，即$i$非常返。
|
||||
}
|
||||
\questionandanswer[3]{
|
||||
假设在红细胞培养试验中红细胞的生存时间是1分钟，一个红细胞死亡时以1/4的概率生成两个红细胞，以2/3的概率产生一个红细胞一个白细胞，以1/12的概率产生两个白细胞，白细胞死亡后不会再生。再生的红细胞又按前面的概率再生，且彼此互不干扰。初始时只有一个红细胞。
|
||||
}{}
|
||||
\begin{enumerate}
|
||||
\questionandanswerSolution[]{
|
||||
求在$n+0.5$分钟的培养过程中都没有白细胞的概率。
|
||||
}{
|
||||
设$X = \{ X_n\ ;\ n \geqslant 0 \}$为在第$n+0.5$分钟的时刻红细胞的数量，则$X$是G-W分支过程，后代分布为$\eta = (\eta_0=\frac{1}{12}, \eta_1=\frac{2}{3}, \eta_2=\frac{1}{4})$。因为每一时刻的白细胞都由上一时刻的红细胞产生，所以在$n+0.5$分钟的培养过程中都没有白细胞也即在$n-1+0.5$分钟的培养过程中产生的所有红细胞死亡时都没有产生白细胞，那么这些红细胞死亡时都产生了两个红细胞，所以所求的概率为
|
||||
$$
|
||||
\prod_{k=1}^{n-1} \left( \frac{1}{4} \right) ^{\left( 2^{k} \right) } = 2^{4 - 2^{n + 1}}
|
||||
$$
|
||||
}
|
||||
\questionandanswerSolution[]{
|
||||
在整个细胞培养过程中，细胞最终灭绝。求该现象发生的概率。
|
||||
}{
|
||||
由于白细胞死亡后不会再生，所以只需要考虑红细胞的灭绝概率，即分支过程$X$的灭绝概率。后代分布的概率母函数为$\eta(s)=\frac{1}{4}s ^{2}+\frac{2}{3}s+\frac{1}{12}$，解$\eta(s)=s$得：$s_1=\frac{1}{3},s_2=1$。所以该分支过程的灭绝概率为$\bm{\frac{1}{3}}$。
|
||||
}
|
||||
\end{enumerate}
|
||||
\questionandanswerSolution[4]{
|
||||
假设分支过程$X$的初值为$m\geqslant 1$，后代分布的概率母函数为$\eta(s)=1-p+ps$，其中$0<p<1$，求该分支过程灭绝时间的分布。
|
||||
}{
|
||||
初值为1时，$\forall n \in \mathbb{N}$，设$X_n$的概率母函数为$\Phi_{n}$，则$\Phi_{n+1}(s)=1-p+p \Phi_{n}(s)$，所以$\Phi_{n+1}(s)-1 = p(\Phi_{n}(s)-1)$，$\Phi(s)=\eta(s)=1-p+ps$。
|
||||
所以
|
||||
$
|
||||
\Phi_{n}(s) = p^{n} (s-1) + 1
|
||||
$。
|
||||
|
||||
初值为$m\geqslant 1$时，由于初始分布中的个体互相独立，所以整个分支过程灭绝相当于初始的每个个体所在的分支都灭绝，则$P_m(\tau_0\leqslant k)=[P_1(\tau_0\leqslant k)]^{m}=[\Phi_{k}(0)]^{m}$
|
||||
，从而
|
||||
$$
|
||||
\bm{\forall k\geqslant 1, \ P_{m}(\tau_0=k)}=P_m(\tau_0\leqslant k)-P_m(\tau_0\leqslant k-1)\bm{=\left( 1-p^{k} \right) ^{m}-\left( 1-p^{k-1} \right) ^{m}}
|
||||
$$
|
||||
此即为该分支过程灭绝时间的分布。
|
||||
}
|
||||
\questionandanswerSolution[5]{
|
||||
已知分支过程$X$的后代分布概率母函数$\eta(s)=1/(3-2s)$，而且$X_0=k$，求在过程灭绝条件下存活过的粒子平均数。
|
||||
}{
|
||||
当$X_0=1$时在过程灭绝条件下存活过的粒子平均数为$\frac{1}{1-\eta'(q)}$，那么当$X_0=k$时，由于各初始个体互相独立地产生后代，所以在过程灭绝条件下存活过的粒子平均数为$\frac{k}{1-\eta'(q)}$。
|
||||
|
||||
由$\eta(s)=\frac{1}{3-2s}=s$可解得$s_1=\frac{1}{2},\ s_2=1$，所以灭绝概率$q=\frac{1}{2}$，所以$\eta'(q)= \frac{2}{(3-2q)^{2}}= \frac{1}{2}$，所以在过程灭绝条件下存活过的粒子平均数为
|
||||
$$
|
||||
E\left( \sum_{i=0}^{\infty} X_i \middle| \tau_0<\infty\right) =\frac{k}{1-\eta'(q)}= \frac{k}{1-\frac{1}{2}} = \bm{2 k}
|
||||
$$
|
||||
}
|
||||
\questionandanswerSolution[6]{
|
||||
假设$X$是初值为1的Galton-Watson分支过程。后代分布的概率母函数为
|
||||
$$
|
||||
g(s)=\frac{1}{2}+\frac{1}{3}s+\frac{1}{6}s ^{2}
|
||||
$$
|
||||
以$M$表示该过程存活过但没有后代的粒子数量，求$E(M)$。
|
||||
}{
|
||||
先求灭绝概率，$g(s)=\frac{1}{2}+\frac{1}{3}s+\frac{1}{6} s^{2} = s$解得$s_1=1,\ s_2=3$，所以灭绝概率$q = 1$，所以$m = g'(1)=\frac{1}{3}+\frac{1}{6}\times 2 = \frac{2}{3}$，则该过程存活过的粒子平均数为
|
||||
$$
|
||||
E\left( \sum_{k=0}^{\infty} X_k \right) = \frac{1}{1-g'(1)} = \frac{1}{1-\frac{2}{3}} = 3
|
||||
$$
|
||||
从后代分布的概率母函数可知每个粒子没有后代的概率为$\frac{1}{2}$，所以
|
||||
$$
|
||||
\bm{E(M)} = \frac{1}{2} E\left( \sum_{k=0}^{\infty} X_k \right) \bm{ = \frac{3}{2}}
|
||||
$$
|
||||
}
|
||||
% \vspace{-2em}
|
||||
% \linespread{0}
|
||||
% \setlength{\parskip}{0em}
|
||||
\questionandanswerProof[7]{
|
||||
设$X$为G-W分支过程，$\tau_0$是灭绝时间。证明$E_k\left( s^{\tau_0} \right) \geqslant \left[ E_1\left( s^{\tau_0} \right) \right] ^{k}$。
|
||||
}{
|
||||
% \vspace{-2em}
|
||||
% \hspace{1em} 实在是不会了。
|
||||
设$\tau_0^{(i)}$表示初始第$i$个个体所在分支的灭绝时间，则
|
||||
$$
|
||||
E_k(s^{\tau_0})=E(s^{\tau_0}| X_0=k)=E\left(s^{\max \left\{ \tau_0^{(1)}, \cdots \tau_0^{(k)} \right\}}\right)
|
||||
$$
|
||||
因为$0\leqslant s\leqslant 1$且$\max \{ \tau_0^{(1)}, \cdots \tau_0^{(k)} \} \leqslant \sum_{i=1}^{k} \tau_0^{(i)}$，所以
|
||||
$$
|
||||
\text{上式} \geqslant E\left( s^{\sum_{i=1}^{k} \tau_0^{(i)}} \right) =E\left( \prod_{i=1}^{k} s^{\tau_0^{(i)}} \right) \xlongequal{\tau_0^{(i)}\text{独立}}\prod_{i=1}^{k} E\left( s^{\tau_0^{(i)}} \right) =\left[ E_1\left( s^{\tau_0} \right) \right] ^{k}
|
||||
$$
|
||||
所以$E_k\left( s^{\tau_0} \right) \geqslant \left[ E_1\left( s^{\tau_0} \right) \right] ^{k}$。
|
||||
}
|
||||
\end{enumerate}
|
||||
\end{document}
|
||||
175
随机过程/作业/第十二周作业.tex
Normal file
175
随机过程/作业/第十二周作业.tex
Normal file
@@ -0,0 +1,175 @@
|
||||
\documentclass[全部作业]{subfiles}
|
||||
\input{mysubpreamble}
|
||||
\begin{document}
|
||||
\setcounter{chapter}{4}
|
||||
\setcounter{section}{1}
|
||||
\section{练习题\thesection}
|
||||
\begin{enumerate}
|
||||
\questionandanswerProof[1]{
|
||||
设$\{ (X_n,Y_n)\ ;\ n\geqslant 0 \}$是隐马氏链，其中$\{ X_n\ ;\ n\geqslant 0 \}$, $\{ Y_n\ ;\ n\geqslant 0 \}$分别是状态序列和观察序列，证明对任意$n\geqslant 0， m\geqslant 1$，
|
||||
$$
|
||||
\begin{aligned}
|
||||
&P\left( Y_{n+k}=j_{n+k}, 1\leqslant k\leqslant m|X_n=i, Y_l=j_l , 0\leqslant l\leqslant n \right) \\
|
||||
=&P\left( Y_{n+k}=j_{n+k}, 1\leqslant k\leqslant m | X_n=i \right) \\
|
||||
\end{aligned}
|
||||
$$
|
||||
}{
|
||||
设状态空间为$S$，转移概率矩阵为$(p_{ij})$，观测概率矩阵为$(q_{jk})$，则
|
||||
$$
|
||||
\begin{aligned}
|
||||
&P\left( Y_{n+k}=j_{n+k}, 1\leqslant k\leqslant m|X_n=i, Y_l=j_l , 0\leqslant l\leqslant n \right) \\
|
||||
=&\sum_{x \in S} p_{i, x}^{(k)} q_{x, j_{n+k}} \\
|
||||
=&P\left( Y_{n+k}=j_{n+k}, 1\leqslant k\leqslant m | X_n=i \right) \\
|
||||
\end{aligned}
|
||||
$$
|
||||
}
|
||||
\questionandanswerSolution[2]{
|
||||
假设例4.2.1中产品的质量分为1（合格）和0（不合格）。在机器状态为1时，产品质量为0,1的概率分别为0.05,0.95，而在机器状态为2时，产品质量为0,1的概率分别为0.5,0.5。假设在产品检测的间隔时间内机器状态转移概率为
|
||||
$$
|
||||
p_{1,1} = 0.9, \ p_{1,2}=0.1,\ p_{2,1} =0, p_{2,2}=1
|
||||
$$
|
||||
若初始机器状态为1，求第4次检测才首次检测到不合格产品的概率并在此条件下计算第5次抽到合格品的概率。
|
||||
}{
|
||||
设状态序列为$X$，观测序列为$Y$，则$Z=(X,Y)$构成隐马尔科夫过程，初始状态$X_0=1$。由题意可得
|
||||
$$
|
||||
\begin{tabular}{c|cc}
|
||||
P & 1 & 2 \\
|
||||
\hline
|
||||
1 & 0.9 & 0.1 \\
|
||||
2 & 0 & 1 \\
|
||||
\end{tabular}
|
||||
\qquad
|
||||
\begin{tabular}{c|cc}
|
||||
Q & 0 & 1 \\
|
||||
\hline
|
||||
1 & 0.05 & 0.95 \\
|
||||
2 & 0.5 & 0.5 \\
|
||||
\end{tabular}
|
||||
\qquad
|
||||
\begin{tabular}{c|cc}
|
||||
\pi & 1 & 2 \\
|
||||
\hline
|
||||
P & 0.9 & 0.1 \\
|
||||
\end{tabular}
|
||||
$$
|
||||
|
||||
第4次检测才首次检测到不合格产品即观测序列为1110。由于$p_{2,1}=0$，所以可以直接不考虑状态序列的2后跟着1的情况。所以计算的概率如下表所示：
|
||||
$$
|
||||
\begin{tabular}{cc}
|
||||
\toprule
|
||||
\diagbox{X}{Y} & 1110 \\
|
||||
\midrule
|
||||
1111 & 0.9\times 0.95\times 0.9\times 0.95\times 0.9\times 0.95\times 0.9\times 0.05 = 0.028126186875 \\
|
||||
1112 & 0.9\times 0.95\times 0.9\times 0.95\times 0.9\times 0.95\times 0.1\times 0.5 = 0.03125131875\\
|
||||
1122 & 0.9\times 0.95\times 0.9\times 0.95\times 0.1\times 0.5\times 1\times 0.5 = 0.018275625\\
|
||||
1222 & 0.9\times 0.95\times 0.1\times 0.5\times 1\times 0.5\times 1\times 0.5 = 0.0106875\\
|
||||
2222 & 0.1\times 0.5\times 1\times 0.5\times 1\times 0.5\times 1\times 0.5 = 0.00625\\
|
||||
\midrule
|
||||
\sum & 0.028126186875+0.03125131875+0.018275625+0.0106875+0.00625 = 0.094590630625 \\
|
||||
\bottomrule
|
||||
\end{tabular}
|
||||
$$
|
||||
|
||||
所以第4次检测才首次检测到不合格产品的概率为$\mathbf{0.094590630625}$。
|
||||
|
||||
在此条件下计算第5次抽到合格品的概率，则根据马氏链的性质，先计算
|
||||
$$
|
||||
P(X_4=1) = 0.028126186875
|
||||
$$
|
||||
$$
|
||||
P(X_4=2) = 0.03125131875+0.018275625+0.0106875+0.00625 = 0.06646444375
|
||||
$$
|
||||
|
||||
则从第4次开始计算，初始分布变为
|
||||
$$
|
||||
\begin{tabular}{c|cc}
|
||||
\pi & 1 & 2 \\
|
||||
\hline
|
||||
P & 0.028126186875 & 0.06646444375 \\
|
||||
\end{tabular}
|
||||
$$
|
||||
所以可以继续计算第4和第5步的概率（由于已经确定了$Y_4=0$，所以不需要乘$q_{1,0}$或$q_{2,0}$）：
|
||||
$$
|
||||
\begin{tabular}{cc}
|
||||
\toprule
|
||||
\diagbox{X}{Y} & 01 \\
|
||||
\midrule
|
||||
11 & 0.028126186875\times 0.9\times 0.95 = 0.024047889778125 \\
|
||||
12 & 0.028126186875\times 0.1\times 0.5 = 0.00140630934375 \\
|
||||
22 & 0.06646444375\times 1\times 0.5 = 0.033232221875 \\
|
||||
\midrule
|
||||
\sum & 0.024047889778125 + 0.00140630934375 + 0.033232221875 = 0.058686420996875 \\
|
||||
\bottomrule
|
||||
\end{tabular}
|
||||
$$
|
||||
所以在此条件下第5次抽到合格品的概率为$\mathbf{0.058686420996875}$。
|
||||
}
|
||||
\questionandanswerSolution[4]{
|
||||
在例4.2.5设定下，若前3天价格波动恰为$Y_0=1, Y_1=0, Y_2=-1$，求$X_2$的分布，并预测$X_3$最可能的取值。
|
||||
}{
|
||||
已知$Z_n=(X_n,Y_n)$为隐马氏链，
|
||||
$$
|
||||
\begin{tabular}{c|cc}
|
||||
P & -1 & 1 \\
|
||||
\hline
|
||||
-1 & 0.75 & 0.25 \\
|
||||
1 & 0.2 & 0.8 \\
|
||||
\end{tabular}
|
||||
\qquad
|
||||
\begin{tabular}{c|ccc}
|
||||
Q & -1 & 0 & 1 \\
|
||||
\hline
|
||||
-1 & 0.6 & 0.2 & 0.2 \\
|
||||
1 & 0.2 & 0.3 & 0.5 \\
|
||||
\end{tabular}
|
||||
\qquad
|
||||
\begin{tabular}{c|cc}
|
||||
\pi & -1 & 1 \\
|
||||
\hline
|
||||
P & 0.2 & 0.1 \\
|
||||
\end{tabular}
|
||||
$$
|
||||
将$X_0,X_1,X_2$的取值分情况讨论，得下表：
|
||||
$$
|
||||
\begin{tabular}{c|c}
|
||||
(a,b,c) & P(X_0=a,Y_0=1,X_1=b,Y_1=0,X_2=c,Y_2=-1) \\
|
||||
\hline
|
||||
(1,1,1) & 0.8\times 0.5\times 0.8\times 0.3\times 0.8\times 0.2 = 0.01536 \\
|
||||
(1,1,-1) & 0.8\times 0.5\times 0.8\times 0.3\times 0.2\times 0.6 = 0.01152 \\
|
||||
(1,-1,1) & 0.8\times 0.5\times 0.2\times 0.2\times 0.25\times 0.2 = 0.0008 \\
|
||||
(1,-1,-1) & 0.8\times 0.5\times 0.2\times 0.2\times 0.75\times 0.6 = 0.0072 \\
|
||||
(-1,1,1) & 0.2\times 0.2\times 0.25\times 0.3\times 0.8\times 0.2 = 0.00048 \\
|
||||
(-1,1,-1) & 0.2\times 0.2\times 0.25\times 0.3\times 0.2\times 0.6 = 0.00036 \\
|
||||
(-1,-1,1) & 0.2\times 0.2\times 0.75\times 0.2\times 0.25\times 0.2 = 0.0003 \\
|
||||
(-1,-1,-1) & 0.2\times 0.2\times 0.75\times 0.2\times 0.75\times 0.6 = 0.0027 \\
|
||||
\end{tabular}
|
||||
$$
|
||||
|
||||
将$X_2$的情况提取出来可以计算得
|
||||
$$
|
||||
P(Y_0=1,Y_1=0,X_2=1,Y_2=-1)=0.01536+0.0008+0.00048+0.0003 = 0.01694
|
||||
$$
|
||||
$$
|
||||
P(Y_0=1,Y_1=0,X_2=-1,Y_2=-1)=0.01152+0.0072+0.00036+0.0027 = 0.02178
|
||||
$$
|
||||
所以
|
||||
$$
|
||||
\begin{aligned}
|
||||
&P(\mathbf{X_2=1}|Y_0=-1,Y_1=0,Y_2=-1) = \frac{P(Y_0=1,Y_1=0,X_2=1,Y_2=-1)}{P(Y_0=-1,Y_1=0,Y_2=-1)} \\
|
||||
&=\frac{0.01694}{0.01694+0.02178} = \mathbf{0.4375} \\
|
||||
\end{aligned}
|
||||
$$
|
||||
所以$P(\mathbf{X_2=-1}|Y_0=1,Y_1=0,Y_2=-1)=1-0.4375 = \mathbf{0.5625}$。\\
|
||||
即为$X_2$的分布。
|
||||
|
||||
令$P'(\cdot )=P(\cdot |Y_0=1,Y_1=0,Y_2=-1)$，则由于$X_n$是马氏链，可得
|
||||
$$
|
||||
P'(X_3=1)=P'(X_2=1)p_{1,1}+P'(X_2=-1)p_{-1,1} = 0.4375\times 0.8+0.5625\times 0.25 = 0.490625
|
||||
$$
|
||||
$$
|
||||
P'(X_3=-1)=P'(X_2=1)p_{1,-1}P'(X_2=-1)p_{-1,-1}=0.4375\times 0.2+0.5625\times 0.75 = 0.509375
|
||||
$$
|
||||
所以$X_3$最可能的取值为$\mathbf{-1}$。
|
||||
}
|
||||
\end{enumerate}
|
||||
\end{document}
|
||||
81
随机过程/作业/第十五周作业.tex
Normal file
81
随机过程/作业/第十五周作业.tex
Normal file
@@ -0,0 +1,81 @@
|
||||
\documentclass[全部作业]{subfiles}
|
||||
\input{mysubpreamble}
|
||||
\begin{document}
|
||||
\setcounter{chapter}{6}
|
||||
\section{反射原理与极值分布}
|
||||
\subsection{练习题\thesection}
|
||||
\begin{enumerate}
|
||||
\questionandanswerSolution[1]{
|
||||
求$B(t)=x$条件下$B^{*}(t)$的分布函数与概率密度函数。
|
||||
}{
|
||||
$(B^{*}(t),B(t))$的联合密度函数为$h(z,x) = \displaystyle \frac{2(2z-x)}{\sqrt{2 \pi t^{3}}} e^{- \frac{(2z - x)^{2}}{2t}}$($z\geqslant x, x\leqslant z$)，$B(t)$的边际密度函数为$p(x)=\frac{1}{\sqrt{2\pi t}} e^{- \frac{x^{2}}{2t}} (x \in \mathbb{R})$，所以在$B(t)=t$的条件下，$B^{*}(t)$的条件密度函数为
|
||||
$$
|
||||
p_{B^{*}(t)|B(t)} (z|x) = \frac{h(z,x)}{p(x)} = \frac{2(2z-x)}{t} e^{- \frac{2(z^{2}-xz)}{t}} (z\geqslant x \lor 0)
|
||||
$$
|
||||
所以$B^{*}(t)$的条件分布函数为
|
||||
$$
|
||||
F_{B^{*}(t)|B(t)}(z|x)=\begin{cases}
|
||||
\left. -e^{-\frac{2(u^{2}-xu)}{t}} \right|_{u=x \lor 0}^{z}=1-e^{- \frac{2(z^{2}-xz)}{t}},\quad & 当z\geqslant x\lor 0时 \\
|
||||
0,\quad & 当z < x \lor 0 时 \\
|
||||
\end{cases}
|
||||
$$
|
||||
}
|
||||
\questionandanswerSolution[2]{
|
||||
求$B^{*}(t)-B(t)$的概率密度函数。
|
||||
}{
|
||||
因为$B^{*}(t)-B(t) = \displaystyle \max_{0\leqslant u\leqslant t} [B(t-u)-B(t)]$，且$\{ B(t-u)-B(t)\ ;\ u \in [0,t] \}$为标准布朗运动，所以
|
||||
$$
|
||||
B^{*}(t) - B(t) \xlongequal{d} \max_{0\leqslant u\leqslant t} B(u) = B^{*}(t) \xlongequal{d} [B(t)]
|
||||
$$
|
||||
从而$B^{*}(t)-B(t)$的概率密度函数为$ \displaystyle \sqrt{\frac{2}{\pi t}}e^{- \frac{u^{2}}{2t}} (u\geqslant 0)$。
|
||||
}
|
||||
\questionandanswerSolution[3]{
|
||||
求$P(B(1)\leqslant x | B(u)\geqslant 0, 0\leqslant u\leqslant 1)$。
|
||||
}{
|
||||
根据对称性，
|
||||
$$
|
||||
\begin{aligned}
|
||||
P(B(1)\leqslant x|B(u)\geqslant 0, 0\leqslant u\leqslant 1) & = P(B(1)\geqslant x |B(u)\leqslant 0, 0\leqslant u\leqslant 1) \\
|
||||
& = P(B(1)\geqslant -x | B^{*}(1)=0) \\
|
||||
\end{aligned}
|
||||
$$ \\
|
||||
$(B^{*}(1),B(1))$的联合密度函数为
|
||||
$$
|
||||
h(z,x)=\frac{2(2z-x)}{\sqrt{2 \pi}} e^{- \frac{(2z-x)^{2}}{2}}\quad (z\geqslant x \lor 0)
|
||||
$$
|
||||
$B^{*}(1)$的边际密度函数为 $\displaystyle p(z) = \sqrt{\frac{2}{\pi}} e^{- \frac{x^{2}}{2}} (z\geqslant 0)$，所以
|
||||
$$
|
||||
\text{原式}=\begin{cases}
|
||||
- \int_{-x}^{0} u e^{- \frac{u^{2}}{2}} \mathrm{d}u = 1-e^{- \frac{x^{2}}{2}},\quad & 当 x\geqslant 0 时 \\
|
||||
0,\quad & 当 x<0 时 \\
|
||||
\end{cases}
|
||||
$$
|
||||
}
|
||||
\questionandanswerProof[4]{
|
||||
证明对任意$z\geqslant 0$，$\tau_z$与$\tau_{-z}$同分布。
|
||||
}{
|
||||
对任意$t\geqslant 0$，有
|
||||
$$
|
||||
P(\tau_{-z}> t) = P(B(u)>-z, 0\leqslant u\leqslant t) \xlongequal{对称性}P(B(u)<z, 0\leqslant u\leqslant t) = P(\tau_z>t)
|
||||
$$
|
||||
即$\tau_z$与$\tau_{-z}$同分布。
|
||||
}
|
||||
\questionandanswerProof[6]{
|
||||
证明当$0<z \to \infty$时，$\tau_z \xrightarrow{a.s.} \infty$。
|
||||
}{
|
||||
因为对任意$t>0$和$z>0$有
|
||||
$$
|
||||
0\leqslant P(\tau_z\leqslant t) = \int_{0}^{t} \frac{z}{\sqrt{2 \pi s^{3}}} e^{- \frac{z^{2}}{2s}} \mathrm{d}s \xlongequal{\text{令} s=\frac{z^{2}}{u^{2}}} \sqrt{\frac{2}{\pi}} \int_{\frac{z}{\sqrt{t}}}^{+\infty} e^{- \frac{u^{2}}{s}} \mathrm{d}u \xrightarrow{z \to +\infty} 0
|
||||
$$
|
||||
所以 $\displaystyle \lim_{z \to +\infty} P(\tau_z\leqslant t)=0 (\forall t>0)$，又因为$\tau_z$关于$z$单调增，所以事件$\{ \tau_z\leqslant t \}$关于$z$单调减，从而对任意$t >0$有
|
||||
$$
|
||||
0 = \lim_{n \to \infty} P(\tau_n\leqslant t) = P\left( \bigcap_{n = 1} ^{\infty} \{ \tau_n\leqslant t \} \right) =P\left( \lim_{n \to \infty} \tau_n\leqslant t \right) =P\left( \lim_{z \to +\infty} \tau_z\leqslant t \right)
|
||||
$$
|
||||
进而由
|
||||
$$
|
||||
0\leqslant P\left( \lim_{n \to +\infty} \tau_z<+\infty \right) =P\left( \bigcup_{m=1} ^{\infty} \left\{ \lim_{z \to +\infty} \tau_z\leqslant m \right\} \right) \leqslant \sum_{m=1}^{\infty} P \left( \lim_{z \to +\infty} \tau_z\leqslant m \right) =0
|
||||
$$
|
||||
知$\displaystyle P\left( \lim_{z \to +\infty} \tau_z = +\infty \right) =1$，于是当$z \to +\infty$时有$\tau_z \xrightarrow{a.s.} +\infty$。
|
||||
}
|
||||
\end{enumerate}
|
||||
\end{document}
|
||||
248
随机过程/作业/第十周作业.tex
Normal file
248
随机过程/作业/第十周作业.tex
Normal file
@@ -0,0 +1,248 @@
|
||||
\documentclass[全部作业]{subfiles}
|
||||
\input{mysubpreamble}
|
||||
\begin{document}
|
||||
\setcounter{chapter}{3}
|
||||
\setcounter{section}{3}
|
||||
\section{练习题\thesection}
|
||||
\begin{enumerate}
|
||||
\questionandanswerProof[1]{
|
||||
对有限状态马氏链$X$，证明 (1) $X$没有状态零常返，(2)若$X$不可约，那么$X$是正常返的。
|
||||
}{
|
||||
假设状态$i$零常返，则$f_{ii}=1, m_{ii}=+\infty$，又由于$m_{ii}=f_{ii}+\sum_{j\neq i} p_{ij} f_{ji}$。根据性质3.2.19，因为$i$常返且$i \to j$，所以$f_{ji} =1$，从而$+\infty = 1+\sum_{j\neq i} p_{ij}$，而$\sum_{j\neq i} p_{ij} $为有限个有限的数求和，所以不可能为$+\infty$，产生矛盾，所以状态$i$不是零常返，即$X$没有状态零常返。
|
||||
|
||||
若$X$不可约，则$X$是本质类，又因为$X$的状态有限，所以$X$是常返类；又因为$X$没有状态零常返，所以$X$是正常返的。
|
||||
}
|
||||
\questionandanswerSolution[3]{
|
||||
设$X$是一个不可约非常返的马氏链，令
|
||||
$$
|
||||
l_j = \sup \{ n\geqslant 0, X_n=j, X_k \neq j, k>n \},
|
||||
$$
|
||||
即$l_j$是$X$最后一次到达状态$j$的时间。假定$X$从$j$出发，求$l_j$的分布和均值。
|
||||
}{
|
||||
$$
|
||||
P(l_j = n) = P_j(X_n=j, X_k \neq j, \forall k>n) = p_{jj}^{(n)} \cdot \sum_{k\neq j} e_{jk}
|
||||
$$
|
||||
$$
|
||||
E(l_j) = \sum_{n=1}^{\infty} n P(l_j=n) = \sum_{n=1}^{\infty} n p_{jj}^{(n)} \sum_{k\neq j} e_{jk}
|
||||
$$
|
||||
}
|
||||
\questionandanswerSolution[4]{
|
||||
设$X$的转移概率矩阵为$\begin{bmatrix}
|
||||
0 & 1 & 0 \\
|
||||
\frac{1}{4} & \frac{1}{2} & \frac{1}{4} \\
|
||||
0 & 1 & 0 \\
|
||||
\end{bmatrix}$，求$X$的平稳分布。
|
||||
}{
|
||||
设$M = (\pi_1, \pi_2, \pi_3)$，$P$为转移概率矩阵，则根据$M=MP$以及$\pi_1+\pi_2+\pi_3=1$可以列出方程组如下：
|
||||
$$
|
||||
\begin{cases}
|
||||
\pi_1=\frac{1}{4}\pi_2 \\
|
||||
\pi_2=\pi_1+\frac{1}{2}\pi_2+\pi_3 \\
|
||||
\pi_3=\frac{1}{4}\pi_2 \\
|
||||
\pi_1+\pi_2+\pi_3=1 \\
|
||||
\end{cases}
|
||||
$$
|
||||
解得$(\pi_1,\pi_2,\pi_3)=\left(\frac{1}{6},\frac{2}{3},\frac{1}{6}\right)$，此即为$X$的平稳分布。
|
||||
}
|
||||
\questionandanswerSolution[5]{
|
||||
一个月后小明有两天假期,他就打算只要假期里有一天的天气晴朗就出去
|
||||
旅行. 为此他查阅了气象资料,发现每日天气晴朗(0)与非晴朗(1)之间的
|
||||
变化可以近似用时齐马氏链来刻画,转移概率矩阵为$\begin{pmatrix}
|
||||
\frac{1}{2} & \frac{1}{2} \\
|
||||
\frac{1}{4} & \frac{3}{4} \\
|
||||
\end{pmatrix}$。试估计小明能出去旅行的概率。
|
||||
}{
|
||||
设这两天假期的天气为$X_0$和$X_1$，状态空间为$S=\{ 0,1 \}$，则小明能出去旅行的概率为
|
||||
$$
|
||||
\begin{aligned}
|
||||
P(X_0=0)+P(X_0=1, X_1=0) & = P(X_0=0)+P(X_0=1)P(X_1=0|X_0=1) \\
|
||||
& = P(X_0=0)+P(X_0=1)p_{10} \\
|
||||
\end{aligned}
|
||||
$$
|
||||
|
||||
由于每日天气之间的变化可以近似用时齐马氏链来刻画，且天气是一个稳定的系统，所以可以认为天气的初始分布为平稳分布，即$P(X_0=0)$和$P(X_0=1)$可以使用平稳分布的概率来计算。
|
||||
|
||||
设$M=(\pi_1,\pi_2)$，$P$为转移概率矩阵，则根据$M=MP$以及$\pi_1+\pi_2=1$可以列出方程组如下：
|
||||
$$
|
||||
\begin{cases}
|
||||
\pi_0=\frac{1}{2}\pi_0+\frac{1}{4}\pi_1 \\
|
||||
\pi_1=\frac{1}{2}\pi_0+\frac{3}{4}\pi_1 \\
|
||||
\pi_0+\pi_1=1 \\
|
||||
\end{cases}
|
||||
$$
|
||||
解得$(\pi_0,\pi_1)=\left( \frac{1}{3},\frac{2}{3} \right) $，此即为天气的平稳分布，所以$P(X_0=0)=\frac{1}{3}$, $P(X_0=1)=\frac{2}{3}$，所以小明能出去旅行的概率为$\displaystyle \frac{1}{3}+\frac{2}{3}\times \frac{1}{4} = \frac{1}{2}$。
|
||||
}
|
||||
\questionandanswerSolution[6]{
|
||||
某人有$M$把伞并在办公室和家之间往返：出门上班时下雨并家里有伞就
|
||||
带把伞去办公室；下班回家时下雨且办公室有伞就带把伞回家。其它时候
|
||||
都不带伞。假设每天上下班时是否下雨是独立同分布的，下雨的概率为$p$，
|
||||
不下雨的概率为$1-p$，问此人出门上班时碰到下雨且没有雨伞的概率。
|
||||
}{
|
||||
设$X=\{ X_i\ :\ i \in \mathbb{Z} \}$表示某天上班之前家里的伞的数量，则显然$X$是时齐马氏链。为了求出转移概率矩阵，可以梳理出下表：
|
||||
\begin{center}
|
||||
\begin{tabular}{ccccc}
|
||||
\toprule
|
||||
上班 & \multicolumn{2}{c}{下雨} & \multicolumn{2}{c}{不下雨} \\
|
||||
\midrule
|
||||
下班 & 下雨 & 不下雨 & 下雨 & 不下雨 \\
|
||||
\midrule
|
||||
概率 & $p^{2}$ & $p(1-p)$ & $p(1-p)$ & $(1-p)^{2}$ \\
|
||||
$X$的变化 & $0$ & $-1$ & $+1$ & $0$ \\
|
||||
\bottomrule
|
||||
\end{tabular}
|
||||
\end{center}
|
||||
需要注意的是，$0$和$M$为$X$的边界，即当$X=0$时不能再减少，当$X=M$时不能再增加，所以转移概率矩阵为：
|
||||
$$
|
||||
P = \begin{bmatrix}
|
||||
1-p+p^{2} & p(1-p) & 0 & \cdots & 0 & 0 & 0 \\
|
||||
p(1-p) & p^{2}+(1-p)^{2} & p(1-p) & \cdots & 0 & 0 & 0 \\
|
||||
0 & p(1-p) & p^{2}+(1-p)^{2} & \cdots & 0 & 0 & 0 \\
|
||||
\vdots & \vdots & \vdots & \ddots & \vdots & \vdots & \vdots \\
|
||||
0 & 0 & 0 & \cdots & p^{2}+(1-p)^{2} & p(1-p) & 0 \\
|
||||
0 & 0 & 0 & \cdots & p(1-p) & p^{2}+(1-p)^{2} & p(1-p) \\
|
||||
0 & 0 & 0 & \cdots & 0 & p(1-p) & 1-p+p^{2} \\
|
||||
\end{bmatrix}
|
||||
$$
|
||||
根据$\begin{bmatrix}
|
||||
\pi_0 & \pi_1 & \cdots & \pi_{M} \\
|
||||
\end{bmatrix}P = \begin{bmatrix}
|
||||
\pi_0 & \pi_1 & \cdots & \pi_{M} \\
|
||||
\end{bmatrix}$以及$\pi_0+\pi_1+ \cdots +\pi_{M}=1$可以解得
|
||||
$$
|
||||
\pi_0=\pi_1=\cdots=\pi_{M}=\frac{1}{M+1}
|
||||
$$
|
||||
（直观上这么复杂的一个系统，竟然处于任何一个状态的概率都是相同的！）
|
||||
|
||||
此即为$X$的平稳分布，所以$P(X=0) = \dfrac{1}{M+1}$。
|
||||
$$
|
||||
P(\text{此人出门上班时碰到下雨且没有雨伞}) = p P(X=0) = \frac{p}{M+1}
|
||||
$$
|
||||
}
|
||||
\questionandanswer[7]{
|
||||
设$X$的状态空间$S=\mathbb{N}$，对任意$n\geqslant 0$，转移概率$p_{n,n+1}=p_{n}$, $p_{n,0}=1-p_n$，其中$p_n\in (0,1)$。求
|
||||
}{}
|
||||
\begin{enumerate}
|
||||
\questionandanswerSolution[]{
|
||||
能保证$0$是常返状态的条件；
|
||||
}{
|
||||
只需要考虑$f_{00} = \sum_{n=1}^{\infty} f_{00}^{(n)}=1$的条件。由于
|
||||
$$
|
||||
\begin{cases}
|
||||
f_{00}^{(1)}=p_{00}=1-p_0 \\
|
||||
f_{00}^{(2)}=p_{01} p_{10} = p_0(1-p_1)=p_0-p_0p_1 \\
|
||||
f_{00}^{(3)}=p_{01}p_{12}p_{20}=p_0p_1(1-p_2)=p_0p_1-p_0p_1p_2 \\
|
||||
\cdots \\
|
||||
\end{cases}
|
||||
$$
|
||||
所以 $\displaystyle \sum_{n=0}^{m} f_{00}^{(n)}=1-\prod_{n=0}^{m-1} p_{i}$, \quad $\displaystyle \sum_{n=0}^{\infty} f_{00}^{(n)}= \lim_{m \to \infty} \sum_{n=0}^{m} f_{00}^{(n)}=\lim_{m \to \infty}\left( 1- \prod_{n=0}^{m-1} p_{i} \right) = 1$，所以能保证$0$是常返状态的条件为
|
||||
$$
|
||||
\prod_{n=0}^{\infty} p_i = 0, \quad \text{即}\ p_0p_1p_2\cdots = 0
|
||||
$$
|
||||
}
|
||||
\questionandanswerSolution[]{
|
||||
能保证$0$是正常返状态的条件；
|
||||
}{
|
||||
$0$是正常返状态即$m_{00}<\infty$，所以
|
||||
$$
|
||||
\begin{cases}
|
||||
m_{00} = 1+p_0 m_{10} <\infty \implies p_0 = 0 \text{或} m_{10}<\infty \\
|
||||
m_{10} = 1+p_1m_{20}<\infty \implies p_1=0\text{或} m_{20}<\infty \\
|
||||
m_{20}=1+p_2m_{30}<\infty \implies p_2=0 \text{或}m_{30}<\infty \\
|
||||
\cdots \\
|
||||
\end{cases}
|
||||
$$
|
||||
所以能保证$0$是正常返状态的条件为$\exists n_0 \in \mathbb{N}, \ \ \text{s.t.} \ p_{n_0}=0$。也就是当$p_0, p_1,p_2, \cdots $中首次出现$0$的时候，在这个$0$前面的部分构成有限状态的本质类，从而构成正常返类，从而$0$是正常返状态。
|
||||
}
|
||||
\questionandanswerSolution[]{
|
||||
平稳分布。
|
||||
}{
|
||||
转移概率矩阵为
|
||||
$$
|
||||
P = \begin{bmatrix}
|
||||
1-p_0 & p_0 & 0 & 0 & \cdots \\
|
||||
1-p_1 & 0 & p_1 & 0 & \cdots \\
|
||||
1-p_2 & 0 & 0 & p_2 & \cdots \\
|
||||
\vdots & \vdots & \vdots & \vdots & \ddots \\
|
||||
\end{bmatrix}
|
||||
$$
|
||||
根据$\begin{bmatrix}
|
||||
\pi_0 & \pi_1 & \pi_2 & \cdots \\
|
||||
\end{bmatrix} P = \begin{bmatrix}
|
||||
\pi_0 & \pi_1 & \pi_2 & \cdots \\
|
||||
\end{bmatrix}$以及$\pi_0+\pi_1+\pi_2+ \cdots =1$可以解得
|
||||
$$
|
||||
\begin{cases}
|
||||
\pi_0=\frac{1}{1+p_0+p_0p_1+p_0p_1p_2+ \cdots } \\
|
||||
\pi_1=\frac{p_0}{1+p_0+p_0p_1+p_0p_1p_2+ \cdots } \\
|
||||
\pi_2=\frac{p_0p_1}{1+p_0+p_0p_1+p_0p_1p_2+ \cdots } \\
|
||||
\cdots \\
|
||||
\end{cases}
|
||||
$$
|
||||
即 $\forall i\in \mathbb{N}, \ \displaystyle \pi_i = \frac{\prod_{j=1}^{i} p_i}{\sum_{n=1}^{\infty} \prod_{j=1}^{n} p_i}$，此即为$X$的平稳分布。
|
||||
}
|
||||
\end{enumerate}
|
||||
\questionandanswer[8]{
|
||||
设$X$的转移概率满足：对任意$i,j \in S=\mathbb{N}, p_{i,i}=\lambda_i+(1-\lambda_i)u_i$；而$i\neq j$时，$p_{i,j}=(1-\lambda_i)u_j$，其中$u_j>0$，$\displaystyle \sum_{j=0}^{\infty} u_j=1, 0<\lambda_i<1$。证明
|
||||
}{}
|
||||
\begin{enumerate}
|
||||
\questionandanswerProof[]{
|
||||
$X$是常返的；
|
||||
}{
|
||||
首先写出转移概率矩阵：
|
||||
$$
|
||||
P=\begin{bmatrix}
|
||||
\lambda_0+(1-\lambda_0)u_0 & (1-\lambda_0)u_1 & (1-\lambda_0)u_2 & \cdots \\
|
||||
(1-\lambda_1)u_0 & \lambda_1+(1-\lambda_1)u_1 & (1-\lambda_1)u_2 & \cdots \\
|
||||
(1-\lambda_2)u_0 & (1-\lambda_2)u_1 & \lambda_2+(1-\lambda_2)u_2 & \cdots \\
|
||||
\vdots & \vdots & \vdots & \vdots \\
|
||||
\end{bmatrix}
|
||||
$$
|
||||
观察后可以发现
|
||||
$$
|
||||
P=\begin{bmatrix}
|
||||
1-\lambda_0 \\
|
||||
1-\lambda_1 \\
|
||||
1-\lambda_2 \\
|
||||
\vdots \\
|
||||
\end{bmatrix} \begin{bmatrix}
|
||||
u_0 & u_1 & u_2 & \cdots \\
|
||||
\end{bmatrix} + \operatorname{diag}(\lambda_0,\lambda_1,\lambda_2, \cdots )
|
||||
$$
|
||||
所以$\forall i \in \mathbb{N}, p_{ii}^{(n)}=P^{n}(i, i)$，计算后可以发现$n \to \infty$时，$p_{ii}^{(n)}$不以$0$为极限，所以$i$常返，从而$X$是常返的。
|
||||
}
|
||||
\questionandanswerProof[]{
|
||||
$X$是正常返当且仅当$\displaystyle \sum_{i=0}^{\infty} \frac{u_i}{1-\lambda_i}<\infty$。
|
||||
}{
|
||||
$\forall i \in \mathbb{N}$，由于$X$常返，所以$f_{ii}=1$，从而有
|
||||
$$
|
||||
\begin{aligned}
|
||||
X_i \text{正常返} &\iff m_{ii}=f_{ii}+\sum_{j\neq i} p_{ij} m_{ji} = 1+\sum_{j\neq i} (1-\lambda_i)u_j m_{ji}<\infty \\
|
||||
&\iff\forall j \in \mathbb{N}, (1-\lambda_i)u_j <\infty \\
|
||||
\end{aligned}
|
||||
$$
|
||||
对$i$求和可知上式$\iff \displaystyle \sum_{i=0}^{\infty} \frac{u_i}{1-\lambda_i}<\infty$，因此$X$是正常返当且仅当$\displaystyle \sum_{i=0}^{\infty} \frac{u_i}{1-\lambda_i}<\infty$。
|
||||
}
|
||||
\end{enumerate}
|
||||
\questionandanswerProof[10]{
|
||||
设不可约正常返马氏链$X$的转移概率矩阵为$(p_{i,j})_{i,j \in S}$，$\pi=(\pi_i, i \in S)$为平稳分布。令$Y_n=(X_n,X_{n+1})$。证明$Y=\{ Y_n\ ;\ n\geqslant 0 \}$是状态空间为$\mathcal{M} = \{ (i,j)\ ;\ i,j \in S, p_{i,j} >0 \}$的不可约正常返马氏链，平稳分布为$(\pi_i p_{i,j}, (i,j) \in \mathcal{M})$。
|
||||
}{
|
||||
因为$X$是不可约正常返马氏链，所以$\forall i,j,k,l \in S \text{且满足} p_{ij}>0, p_{kl}>0$（即 $\forall (i,j), (k,l) \in \mathcal{M}$）， $\exists n_0 \in \mathbb{N}, \ \ \text{s.t.} \ p_{ik}^{(n_0)} >0$，从而
|
||||
$$
|
||||
p_{(i,j)(k,l)}^{(n_0)} = p_{ik}^{(n_0)} p_{kl}>0
|
||||
$$
|
||||
即$Y$的任意两个状态都可互通，所以$Y$是不可约的。
|
||||
|
||||
因为$X$是正常返的，所以对于$\forall (i,j)\in \mathcal{M}$， $\sum_{n=1}^{\infty} p_{ii}^{(n)}<\infty$，所以
|
||||
$$
|
||||
p_{(i,j)(i,j)}^{(n)} = p_{ii}^{(n)} p_{ij} \implies \sum_{n=1}^{\infty} p_{(i,j)(i,j)}^{(n)} = \sum_{n=1}^{\infty} p_{ii}^{(n)} p_{ij} <\infty
|
||||
$$
|
||||
所以$Y$是正常返的。
|
||||
|
||||
因为$\pi=(\pi_i, i \in S)$为$X$的平稳分布，所以对于$\forall (i,j), (j,k)\in \mathcal{M}$，$\pi_i p_{ij} = \pi_j$，所以
|
||||
$$
|
||||
\pi_i p_{ij} p_{(i,j)(j,k)} = \pi_i p_{ij} p_{jk} = \pi_j p_{jk}
|
||||
$$
|
||||
所以$(\pi_i p_{ij}, (i,j) \in \mathcal{M})$为$Y$的平稳分布。
|
||||
}
|
||||
\end{enumerate}
|
||||
\end{document}
|
||||
258
随机过程/作业/第十四周作业.tex
Normal file
258
随机过程/作业/第十四周作业.tex
Normal file
@@ -0,0 +1,258 @@
|
||||
\documentclass[全部作业]{subfiles}
|
||||
\input{mysubpreamble}
|
||||
\begin{document}
|
||||
\setcounter{chapter}{6}
|
||||
\section{布朗运动及其分布}
|
||||
\subsection{练习题\thesection}
|
||||
（\textcolor{red}{若无特别说明}，以下总设$B=\{ B(t)\ ;\ t\geqslant 0 \}$为标准布朗运动。）
|
||||
\begin{enumerate}
|
||||
\questionandanswerSolution[2]{
|
||||
对任意$0<s<t$，求$B(s)+B(t)$的概率密度函数。
|
||||
}{
|
||||
首先，$B(s)$与$B(t)$不独立，所以需要进行变换，$B(s)+B(t)=2 B(s) + B(t)-B(s)$，而$B(s)$与$B(t)-B(s)$是独立的，且$B(s)\sim N(0,s)$, $B(t)-B(s)\sim N(0,t-s)$，所以
|
||||
$$
|
||||
B(s)+B(t)=2 B(s) + (B(t)-B(s)) \sim N(0, 4s+t-s)=N(0, 3s+t)
|
||||
$$
|
||||
所以$B(s)+B(t)$的概率密度函数为
|
||||
$$
|
||||
p(x) = \frac{1}{\sqrt{2\pi (3s+t)}} e^{- \frac{x^{2}}{3s+t}}
|
||||
$$
|
||||
}
|
||||
\questionandanswer[3]{
|
||||
在例6.1.9假设下，（例6.1.9：记$\mu=(1,2,3)^{\mathrm{T}}$, $\mathrm{D} = \begin{pmatrix}
|
||||
1 & 1 & 1 \\
|
||||
1 & 4 & 2 \\
|
||||
1 & 2 & 9 \\
|
||||
\end{pmatrix}$，$(X_1,X_2,X_3) \sim N(\mu, \mathrm{D})$）
|
||||
}{}
|
||||
\begin{enumerate}
|
||||
\questionandanswer[]{
|
||||
求$X_2=2$时$(X_1,X_3)$的条件联合分布；
|
||||
}{
|
||||
交换$X_2$与$X_3$的位置，$\displaystyle (X_1,X_3,X_2) \sim N\left( \begin{bmatrix}
|
||||
1 \\
|
||||
3 \\
|
||||
2 \\
|
||||
\end{bmatrix}, \begin{bmatrix}
|
||||
1 & 1 & 1 \\
|
||||
1 & 9 & 2 \\
|
||||
1 & 2 & 4 \\
|
||||
\end{bmatrix} \right) $，则$\tilde{\mu}=\begin{bmatrix}
|
||||
1 \\
|
||||
3 \\
|
||||
\end{bmatrix}, v=2$, $A=\begin{bmatrix}
|
||||
1 & 1 \\
|
||||
1 & 9 \\
|
||||
\end{bmatrix}, B = \begin{bmatrix}
|
||||
1 \\
|
||||
2 \\
|
||||
\end{bmatrix}, C=4$，
|
||||
$$
|
||||
\begin{aligned}
|
||||
(X_1,X_3)\sim &N(\tilde{\mu}+BC^{-1}(2-v), A-BC^{-1}B^{\mathrm{T}}) \\
|
||||
&=N\left( \begin{bmatrix}
|
||||
1 \\
|
||||
3 \\
|
||||
\end{bmatrix}, \begin{bmatrix}
|
||||
1 & 1 \\
|
||||
1 & 9 \\
|
||||
\end{bmatrix}-\begin{bmatrix}
|
||||
1 \\
|
||||
2 \\
|
||||
\end{bmatrix} \frac{1}{4} \begin{bmatrix}
|
||||
1 & 2 \\
|
||||
\end{bmatrix} \right) = N\left( \begin{bmatrix}
|
||||
1 \\
|
||||
3 \\
|
||||
\end{bmatrix}, \begin{bmatrix}0.75 & 0.5\\0.5 & 8.0\end{bmatrix} \right) \\
|
||||
\end{aligned}
|
||||
$$
|
||||
}
|
||||
\questionandanswer[]{
|
||||
求$X_2=2, X_3=3$时$X_1$的条件分布。
|
||||
}{
|
||||
$\tilde{\mu} = 1, \bar{y}=\begin{bmatrix}
|
||||
2 \\
|
||||
3 \\
|
||||
\end{bmatrix}, v=\begin{bmatrix}
|
||||
2 \\
|
||||
3 \\
|
||||
\end{bmatrix}$, $A=1, B=\begin{bmatrix}
|
||||
1 & 1 \\
|
||||
\end{bmatrix}, C=\begin{bmatrix}
|
||||
9 & 2 \\
|
||||
2 & 4 \\
|
||||
\end{bmatrix}$，
|
||||
$$
|
||||
\begin{aligned}
|
||||
X_1 \sim &N\left( \tilde{\mu}+BC^{-1}(\bar{y}-v), A-BC^{-1}B^{\mathrm{T}} \right) \\
|
||||
&=N\left( 1, 1-\begin{bmatrix}
|
||||
1 & 1 \\
|
||||
\end{bmatrix} \begin{bmatrix}
|
||||
9 & 2 \\
|
||||
2 & 4 \\
|
||||
\end{bmatrix}^{-1} \begin{bmatrix}
|
||||
1 \\
|
||||
1 \\
|
||||
\end{bmatrix} \right) =N\left( 1, \frac{23}{32} \right) \\
|
||||
\end{aligned}
|
||||
$$
|
||||
}
|
||||
\end{enumerate}
|
||||
\questionandanswer[4]{
|
||||
已知$B(1)=x$，对任意$0\leqslant s_1<s_2\leqslant s_3<s_4\leqslant 1$，证明
|
||||
}{}
|
||||
\begin{enumerate}
|
||||
\questionandanswerProof[]{
|
||||
$E((B(s_4)-B(s_3))(B(s_2)-B(s_1)))=(s_4-s_3)(s_2-s_1)(x^{2}-1)$,
|
||||
}{
|
||||
$$
|
||||
\begin{aligned}
|
||||
&E((B(s_4)-B(s_3))(B(s_2)-B(s_1))) \\
|
||||
&=\operatorname{Cov}(B(s_4)-B(s_3), B(s_2)-B(s_1)) + E(B(s_4)-B(s_3)) \cdot E(B(s_2)-B(s_1)) \\
|
||||
&=\operatorname{Cov}(B(s_4),B(s_2))-\operatorname{Cov}(B(s_4), B(s_1)) - \operatorname{Cov}(B(s_3), B(s_2))+\operatorname{Cov}(B(s_3), B(s_1)) \\ & + (E(B(s_4)) - E(B(s_3)))(E(B(s_2))-E(B(s_1))) \\
|
||||
\end{aligned}
|
||||
$$
|
||||
根据推论6.1.10，当$i<j$时，$\operatorname{Cov}(B(s_i),B(s_j))= s_i - s_i s_j$，$E(B(s_i))=s_i x$，所以
|
||||
$$
|
||||
\begin{aligned}
|
||||
&\text{上式}=s_2-s_2s_4 - s_1+s_1s_4-s_2+s_2s_3+s_1-s_1s_3 + (s_4 x-s_3x)(s_2x-s_1x) \\
|
||||
&= - s_{1} s_{3} + s_{1} s_{4} + s_{2} s_{3} - s_{2} s_{4} + x^{2} (s_{1} - s_{2}) (s_{3} - s_{4}) \\
|
||||
&=(s_4-s_3)(s_1-s_2)(x^{2}-1) \\
|
||||
\end{aligned}
|
||||
$$
|
||||
}
|
||||
\questionandanswerProof[]{
|
||||
$E\left[ (B(s_4)-B(s_1))^{2} \right] =(s_4-s_1)+(s_4-s_1)^{2}(x^{2}-1)$。
|
||||
}{
|
||||
仍然根据推论6.1.10，
|
||||
$$
|
||||
\begin{aligned}
|
||||
&E\left[ (B(s_4)-B(s_1))^{2} \right] =\operatorname{Var}[B(s_4)-B(s_1)]+[E(B(s_4)-B(s_1))]^{2} \\
|
||||
&=\operatorname{Var}[B(s_4)]+\operatorname{Var}[B(s_1)]-2\operatorname{Cov}(B(s_4),B(s_1))+[E(B(s_4))-E(B(s_1))]^{2} \\
|
||||
&=s_4-s_4^{2}+s_1-s_1^{2}-2(s_1+s_1s_4)+(s_4 x-s_1x)^{2} \\
|
||||
&=s_4-s_1+2s_1s_4-s_1^{2}-s_4^{2}+x^{2}(s_4-s_1) \\
|
||||
&=(s_4-s_1)+(s_4-s_1)(x^{2}-1) \\
|
||||
\end{aligned}
|
||||
$$
|
||||
}
|
||||
\end{enumerate}
|
||||
\questionandanswerSolution[5]{
|
||||
设$B$是方差参数$\sigma^{2}=3$的布朗运动，已知$B(1)=1,B(4)=4$，求$E(B(2)B(3))$和$E(B(3)B(5))$。
|
||||
}{
|
||||
由于$(B(1),B(2),B(3),B(4),B(5)) \sim N(\overrightarrow{0}, (i \land j)_{i,j=1,2,3,4})$，所以
|
||||
$$
|
||||
(B(2),B(3),B(5),B(1),B(4)) \sim N \left( \begin{bmatrix}
|
||||
0 \\
|
||||
0 \\
|
||||
0 \\
|
||||
0 \\
|
||||
0 \\
|
||||
\end{bmatrix}, 3\begin{bmatrix}
|
||||
2 & 2 & 2 & 1 & 2 \\
|
||||
2 & 3 & 3 & 1 & 3 \\
|
||||
2 & 3 & 5 & 1 & 4 \\
|
||||
1 & 1 & 1 & 1 & 1 \\
|
||||
2 & 3 & 4 & 1 & 4 \\
|
||||
\end{bmatrix} \right)
|
||||
$$
|
||||
由于$B(1)=1,B(4)=4$，所以
|
||||
$$
|
||||
\begin{aligned}
|
||||
(B(2),B(3))\sim &N (\tilde{\mu}+ BC^{-1}(\bar{y}-v), A-BC^{-1}B^{\mathrm{T}}) \\
|
||||
&=N\left( \begin{bmatrix}
|
||||
0 \\
|
||||
0 \\
|
||||
\end{bmatrix}+ \begin{bmatrix}
|
||||
1 & 2 \\
|
||||
1 & 3 \\
|
||||
\end{bmatrix} \begin{bmatrix}
|
||||
1 & 1 \\
|
||||
1 & 4 \\
|
||||
\end{bmatrix}^{-1} \left( \begin{bmatrix}
|
||||
1 \\
|
||||
4 \\
|
||||
\end{bmatrix}-\begin{bmatrix}
|
||||
0 \\
|
||||
0 \\
|
||||
\end{bmatrix} \right) , 3 \left(\begin{bmatrix}
|
||||
2 & 2 \\
|
||||
2 & 3 \\
|
||||
\end{bmatrix} - \begin{bmatrix}
|
||||
1 & 2 \\
|
||||
1 & 3 \\
|
||||
\end{bmatrix} \begin{bmatrix}
|
||||
1 & 1 \\
|
||||
1 & 4 \\
|
||||
\end{bmatrix}^{-1} \begin{bmatrix}
|
||||
1 & 2 \\
|
||||
1 & 3 \\
|
||||
\end{bmatrix} ^{\mathrm{T}} \right) \right) \\
|
||||
&=N\left( \begin{bmatrix}2\\3\end{bmatrix} , \begin{bmatrix}2 & 1\\1 & 2\end{bmatrix} \right) \\
|
||||
\end{aligned}
|
||||
$$
|
||||
所以
|
||||
$$
|
||||
\bm{E(B(2)B(3))} = \operatorname{Cov}(B(2),B(3))+E(B(2))E(B(3)) = 1 + 2 \times 3 \bm{=7}
|
||||
$$
|
||||
同理，
|
||||
$$
|
||||
\begin{aligned}
|
||||
(B(3),B(5)) \sim &N(\tilde{\mu}+BC^{-1}(\bar{y}-v), A-BC^{-1}B^{\mathrm{T}}) \\
|
||||
&=N\left( \begin{bmatrix}
|
||||
0 \\
|
||||
0 \\
|
||||
\end{bmatrix}+\begin{bmatrix}
|
||||
1 & 3 \\
|
||||
1 & 4 \\
|
||||
\end{bmatrix} \begin{bmatrix}
|
||||
1 & 1 \\
|
||||
1 & 4 \\
|
||||
\end{bmatrix}^{-1}\left( \begin{bmatrix}
|
||||
1 \\
|
||||
4 \\
|
||||
\end{bmatrix}-\begin{bmatrix}
|
||||
0 \\
|
||||
0 \\
|
||||
\end{bmatrix} \right) , 3 \left(\begin{bmatrix}
|
||||
3 & 3 \\
|
||||
3 & 5 \\
|
||||
\end{bmatrix}- \begin{bmatrix}
|
||||
1 & 3 \\
|
||||
1 & 4 \\
|
||||
\end{bmatrix} \begin{bmatrix}
|
||||
1 & 1 \\
|
||||
1 & 4 \\
|
||||
\end{bmatrix}^{-1} \begin{bmatrix}
|
||||
1 & 1 \\
|
||||
3 & 4 \\
|
||||
\end{bmatrix} \right) \right) \\
|
||||
&=N\left( \begin{bmatrix}3\\4\end{bmatrix} , \begin{bmatrix}2 & 0\\0 & 3\end{bmatrix} \right) \\
|
||||
\end{aligned}
|
||||
$$
|
||||
所以
|
||||
$$
|
||||
\bm{E(B(3)B(5))} = \operatorname{Cov}(B(3),B(5))+E(B(3))E(B(5) ) =0 + 3\times 4 \bm{= 12}
|
||||
$$
|
||||
}
|
||||
\questionandanswerProof[7]{
|
||||
令$Y(t)=B^{2}(t)-t$, $R(t)=e^{c B(t)-c^{2}t /2}$，其中$c >0$为常数。证明对任意$0\leqslant t<s$，$E(Y(s)|B(t))=Y(t)$ 以及 $E(R(s)|B(t))=R(t)$。
|
||||
}{
|
||||
根据推论6.1.10，由于$t<s$，所以$E(B(s)|B(t))=B(t), \operatorname{Var}(B(s)|B(t))=s-t$，所以
|
||||
$$
|
||||
\begin{aligned}
|
||||
&\bm{E(Y(s)|B(t))}=E(B^{2}(s)-s|B(t)) = E(B^{2}(s)|B(t)) - E(s|B(t)) \\
|
||||
=&\operatorname{Var}(B(s)|B(t))+\left( E(B(s)|B(t)) \right) ^{2} - s \\
|
||||
=&s-t+(B(t))^{2}-s = B^{2}(t) - t \bm{=T(t)} \\
|
||||
\end{aligned}
|
||||
$$
|
||||
$$
|
||||
\begin{aligned}
|
||||
&\bm{E(R(s)|B(t))} = E\left( e^{c B(s)-\frac{c^{2} s}{2}} \middle| B(t) \right) = E\left( e^{c B(s)}\middle| B(t) \right) E\left( e^{- \frac{c^{2}s}{2}} \middle| B(t) \right) \\
|
||||
=& E\left( e^{cB(t)}\ \middle|\ B(t) \right) E\left( e^{c(B(s) - B(t))} \middle| B(t) \right) E\left(e^{- \frac{c^{2}s}{2}}\ \middle|\ B(t)\right) \\
|
||||
=&e^{cB(t)} e^{\frac{c^{2}(s-t)}{2}} e^{-\frac{c^{2}s}{2}} =e^{cB(t) - \frac{c^{2} t}{2}} \bm{= R(t)} \\
|
||||
\end{aligned}
|
||||
$$
|
||||
}
|
||||
\end{enumerate}
|
||||
\end{document}
|
||||
192
随机过程/作业/第四周作业.tex
Normal file
192
随机过程/作业/第四周作业.tex
Normal file
@@ -0,0 +1,192 @@
|
||||
\documentclass[全部作业]{subfiles}
|
||||
\input{mysubpreamble}
|
||||
\begin{document}
|
||||
\setcounter{chapter}{2}
|
||||
\section{《随机过程》第四周作业}
|
||||
\setcounter{subsection}{1}
|
||||
\subsection{练习题\thechapter.\thesubsection}
|
||||
\begin{enumerate}
|
||||
\questionandanswer[]{
|
||||
已知$W$是初值为$0$的随机游动，步长分布为
|
||||
$$
|
||||
P(X_n=-2)=P(X_n=-1)=P(X_n=1)=\frac{1}{3}
|
||||
$$
|
||||
}{}
|
||||
\begin{enumerate}
|
||||
\questionandanswerSolution[]{
|
||||
求概率$P(W_3=-2)$，
|
||||
}{
|
||||
设$m,n,k$分别为选择$-2,-1,1$的次数，那么
|
||||
$$
|
||||
\begin{cases}
|
||||
m+n+k=3 \\
|
||||
-2m-n+k=-2 \\
|
||||
\end{cases}
|
||||
$$
|
||||
由此可得$3m+2n=5$。由于$m,n,k$均为非负整数，因此
|
||||
$$
|
||||
(m,n,k)=(1,1,1)
|
||||
$$
|
||||
所以
|
||||
$$
|
||||
P(W_3=-2)=p_3(0,-2)=C_{3}^{1}C_{2}^{1} \left( \frac{1}{3} \right) ^{3}=\frac{2}{9}
|
||||
$$
|
||||
}
|
||||
\questionandanswerSolution[]{
|
||||
求概率$P(W_3=-2,W_7=0)$。
|
||||
}{
|
||||
$$
|
||||
P(W_3=-2,W_7=0)=p_3(0,-2)p_4(-2,0)=p_3(0,-2)p_4(0,2)
|
||||
$$
|
||||
继续同上方法
|
||||
$$
|
||||
\begin{cases}
|
||||
m+n+k=4 \\
|
||||
-2m-n+k=2 \\
|
||||
\end{cases} \Longrightarrow (m,n,k)=(0,1,3)
|
||||
$$
|
||||
$$
|
||||
p_4(0,2)=\mathrm{C}_{4}^{1}\left( \frac{1}{3} \right) ^{4} = \frac{4}{81}
|
||||
$$
|
||||
所以
|
||||
$$
|
||||
P(W_3=-2,W_7=0)=\frac{2}{9}\times \frac{4}{81} = \frac{8}{729}
|
||||
$$
|
||||
}
|
||||
\questionandanswerSolution[]{
|
||||
求概率$P(W_1>0,W_2>0, \cdots ,W_5>0,W_6=2)$。
|
||||
}{
|
||||
% $$
|
||||
% \frac{\mathrm{d}}{\mathrm{d}x}\frac{\mathrm{d}}{\mathrm{d}x}\frac{\mathrm{d}}{\mathrm{d}x}\frac{\mathrm{d}}{\mathrm{d}x}\frac{\mathrm{d}}{\mathrm{d}x}(x^{3}+x+1)^{5} = 360360 x^{10} + 772200 x^{8} + 475200 x^{7} + 554400 x^{6} + 604800 x^{5} + 302400 x^{4} + 201600 x^{3} + 88200 x^{2} + 21600 x + 3720
|
||||
% $$
|
||||
根据反射原理，
|
||||
$$
|
||||
\begin{aligned}
|
||||
&P(W_1>0,W_2>0, \cdots ,W_5>0,W_6=2) \\
|
||||
=&P(W_1=1)P(W_2>0, \cdots ,W_5>0,W_6=2) \\
|
||||
=&P(W_1=1)P(W_2>0, \cdots ,W_5>0,W_6=2) \\
|
||||
=&P(W_1=1)p_5(-1,2) = P(W_1=1)p_5(0,3) \\
|
||||
\end{aligned}
|
||||
$$
|
||||
继续同上方法
|
||||
$$
|
||||
\begin{cases}
|
||||
m+n+k=5 \\
|
||||
-2m-n+k=3 \\
|
||||
\end{cases} \Longrightarrow (m,n,k)=(0,1,4)
|
||||
$$
|
||||
$$
|
||||
p_5(0,3)=\mathrm{C}_{5}^{1}\left( \frac{1}{3} \right) ^{5} = \frac{5}{243}
|
||||
$$
|
||||
所以
|
||||
$$
|
||||
\text{原式}=P(W_1=1)p_5(0,3)=\frac{1}{3}\times \frac{5}{243} = \frac{5}{729}
|
||||
$$
|
||||
}
|
||||
\end{enumerate}
|
||||
\questionandanswerSolution[5]{
|
||||
分别记甲乙两种药物对某种疾病的治愈率为$p_1,p_2$。为了比较它们的治愈率
|
||||
大小, 安排了一系列如下的临床对比试验: 每次试验同时治疗两个病人,一
|
||||
个接受甲药治疗，另一个接受乙药治疗。观察每次治疗效果。假设每次试验
|
||||
是独立的; 病人对药物的疗效无本质影响。试用恰当的整数值随机游动模型
|
||||
对这样一系列的试验中治愈病人数差异的变化建模。 对任意$x\in \mathbb{Z}$,试写该
|
||||
模型的一步转移概率$p(x)$。
|
||||
}{
|
||||
设随机变量$X_0=1$，随机变量序列$\{ X_n\ ;\ n\geqslant 1 \}$表示每次试验增加的治愈病人数，而随机过程$W=\{ \sum_{k=0}^{n} X_k\ ;\ n\geqslant 0 \}$表示这样一系列的试验中总治愈病人数，则$\{ X_n\ ;\ n\geqslant 0 \}$相互独立且只能取整数值，且对$\forall n\geqslant 1$，$X_n$的分布相同，从而$W$是整数值的随机游动。则该模型的一步转移概率为
|
||||
$$
|
||||
p(x)=\begin{cases}
|
||||
(1-p_1)(1-p_2),\quad & x=0 \\
|
||||
p_1(1-p_2)+p_2(1-p_1),\quad & x=1 \\
|
||||
p_1p_2,\quad & x=2 \\
|
||||
\end{cases}\quad =\begin{cases}
|
||||
1-p_1-p_2+p_1p_2,\quad & x=0 \\
|
||||
p_1+p_2-2p_1p_2,\quad & x=1 \\
|
||||
p_1p_2,\quad & x=2 \\
|
||||
\end{cases}
|
||||
$$
|
||||
}
|
||||
% $$
|
||||
% 1-\sum_{i=1}^{n} \frac{1}{2i-1}\binom{2i}{i}\left( \frac{1}{2} \right) ^{2i} - \binom{2n}{n}\left( \frac{1}{2} \right) ^{2n} = 0 = = - \frac{\Gamma(n + \frac{1}{2})}{\sqrt{\pi} \Gamma(n + 1)} + 1
|
||||
% $$
|
||||
\questionandanswer[6]{
|
||||
对初值为$0$的简单对称随机游动$W$,
|
||||
}{}
|
||||
\begin{enumerate}
|
||||
\questionandanswerProof[]{
|
||||
对任意$n\geqslant 1$，证明$P(W_1\neq 0, W_2\neq 0, \cdots ,W_{2n}\neq 0)=P(W_{2n}=0)$。
|
||||
}{
|
||||
$$
|
||||
\text{左边}=P(\tau_0>2n), \quad \text{右边}=\mathrm{C}_{2n}^{n}\left( \frac{1}{2} \right) ^{n}\left( \frac{1}{2} \right) ^{n}
|
||||
$$
|
||||
$$
|
||||
\begin{aligned}
|
||||
P(\tau_0>2n)=1-P(\tau_0\leqslant 2n)=1-\sum_{m=1}^{2n} P(\tau_0=m)
|
||||
\end{aligned}
|
||||
$$
|
||||
由于$P(\tau_0 \text{为奇数})=0$，所以
|
||||
$$
|
||||
\begin{aligned}
|
||||
P(\tau_0>2n)=1-\sum_{i=1}^{n} P(\tau_0=2i)=1-\sum_{i=1}^{n} \frac{1}{2i-1}\mathrm{C}_{2i}^{i} \left( \frac{1}{2} \right) ^{2i} =\frac{\Gamma(n + \frac{1}{2})}{\sqrt{\pi} \Gamma(n + 1)}
|
||||
\end{aligned}
|
||||
$$
|
||||
使用Python计算可得
|
||||
$$
|
||||
\frac{\Gamma(n + \frac{1}{2})}{\sqrt{\pi} \Gamma(n + 1)} - \binom{2n}{n}\left( \frac{1}{2} \right) ^{2n} = 0
|
||||
$$
|
||||
即
|
||||
$$
|
||||
P(\tau_0>2n)=\frac{\Gamma(n + \frac{1}{2})}{\sqrt{\pi} \Gamma(n + 1)} = \binom{2n}{n}\left( \frac{1}{2} \right) ^{2n} = \mathrm{C}_{2n}^{n}\left( \frac{1}{2} \right) ^{n}\left( \frac{1}{2} \right) ^{n}
|
||||
$$
|
||||
因此
|
||||
$$
|
||||
\text{左边}=\text{}右边
|
||||
$$
|
||||
}
|
||||
\questionandanswerSolution[]{
|
||||
令$F_1(s)=\sum_{k=1}^{\infty} P(\tau_1=k|W_0=0)s^{k}$，其中$\left\vert s \right\vert <1$，求$F_1(s)$。
|
||||
}{
|
||||
% $$
|
||||
% \sum_{k=1}^{\infty} \binom{k}{\frac{k-1}{2}}\left( \frac{1}{2} \right) ^{2k} s^{k} = \frac{\sum_{k=1}^{\infty} \frac{2^{- k} s^{k} \Gamma(\frac{k}{2} + 1)}{\Gamma(\frac{k + 3}{2})}}{\sqrt{\pi}}
|
||||
% $$
|
||||
$$
|
||||
\begin{aligned}
|
||||
F_1(s)&=\sum_{k=1}^{\infty} P_0(\tau_1=k)s^{k}=\sum_{k=1}^{\infty} P(\tau_1=k,W_k=1)s^{k} \\
|
||||
&=\sum_{k=1}^{\infty} P(\tau_1=k|W_k=1)P(W_k=1)s^{k} \\
|
||||
\end{aligned}
|
||||
$$
|
||||
根据对称原理，从$0$经过$k$步到$1$中间不碰$1$，相当于从$0$经过$k$步到$1$中间不碰$0$。
|
||||
$$
|
||||
\begin{aligned}
|
||||
\text{上式}&=\sum_{k=1}^{\infty} P(\tau_0>k|W_k=1)P(W_k=1)s^{k} \\
|
||||
&=\sum_{k=1}^{\infty}\frac{1}{k}\mathrm{C}_{k}^{\frac{k-1}{2}} \left( \frac{1}{2} \right) ^{2k} s^{k} \\
|
||||
&=\sum_{k=1}^{\infty}\frac{1}{k}\left( \frac{1}{2} \right) ^{2k} \frac{k!s^{k}}{\frac{k+1}{2}! \frac{k-1}{2}!}\\
|
||||
\end{aligned}
|
||||
$$
|
||||
而$\sqrt{1-x}$在$x=0$点的幂级数展开为
|
||||
$$
|
||||
\sqrt{1-x}=\sum_{n=1}^{\infty} (-1)^{n}\left( \frac{1}{2} \right) ^{n}n!
|
||||
$$
|
||||
所以
|
||||
$$
|
||||
F_1(s) = \frac{\sum_{k=1}^{\infty} \frac{2^{- k} s^{k} \Gamma(\frac{k}{2})}{\Gamma(\frac{k + 3}{2})}}{2 \sqrt{\pi}}
|
||||
$$
|
||||
}
|
||||
\end{enumerate}
|
||||
\questionandanswerProof[7]{
|
||||
对初值为$0$的简单随机游动$W$，证明：对任意正整数$N$以及与$N$同奇偶的整数$a\in [-N,N]$，
|
||||
$$
|
||||
P(W_k<k,k=1, \cdots ,N-1|W_N=a)=\frac{N-a}{2N}
|
||||
$$
|
||||
}{
|
||||
设$W$是$(q,p)$简单随机游动
|
||||
$$
|
||||
\begin{aligned}
|
||||
&P(W_k<k,k=1, \cdots ,N-1|W_N=a)=\frac{P(W_k<k,k=1, \cdots ,N-1, W_N=a)}{P(W_N=a)} \\
|
||||
=&\frac{q \cdot P(W_N=a|W_1=-1)}{P(W_N=a|W_0=0)} = \frac{q\cdot P(W_{N-1}=a+1|W_0=0)}{P(W_N=a|W_0=0)} \\
|
||||
=&\frac{q\cdot \mathrm{C}_{N-1}^{\frac{N+a}{2}}p^{\frac{N+a}{2}}q^{\frac{N-a}{2}-1}}{\mathrm{C}_{N}^{\frac{N+a}{2}}p^{\frac{N+a}{2}}q^{\frac{N-a}{2}}} = \frac{\mathrm{C}_{N-1}^{\frac{N+a}{2}}}{\mathrm{C}_{N}^{\frac{N+a}{2}}} = \frac{\frac{(N-1)!}{(\frac{N+a}{2})!(\frac{N-a}{2}-1)!}}{\frac{N!}{(\frac{N+a}{2})!(\frac{N-a}{2})!}}=\frac{\frac{1}{1}}{\frac{N}{\frac{N-a}{2}}}=\frac{\frac{N-a}{2}}{N} \\
|
||||
=&\frac{N-a}{2N} \\
|
||||
\end{aligned}
|
||||
$$
|
||||
}
|
||||
\end{enumerate}
|
||||
\end{document}
|
||||
Reference in New Issue
Block a user