第一章概率论基础

随机过程

专业领域课 必修课，考试课 48学时，3学分

1

参 考 教 材

汪荣鑫,《随机过程》(第2版) 西安交通大学出版社 刘次华,《随机过程》(第4版) 华中科技大学出版社 赵淑清，郑薇，《随机信号分析》(第2版) 电子工业出版社

2

第一章 概率论基础

1.1 概率空间 随机试验的三个特性 (1)可以在相同条件下重复进行； (2)每次试验的结果不止一个，但预先知道试验的 所有可能的结果； (3)每次试验前不能确定哪个结果会出现。 用E表示随机试验

3

第一章 概率论基础 1.1 概率空间

随机试验的所有可能出现的结果构成一个集合， 称为样本空间或基本事件空间，记为 。而把每 一可能出现的试验结果称为一个基本事件或样本 为 中的元素。 的子集A称为事 点，记为  ， 件，样本空间  称为必然事件，空集  称为不可 能事件。

4

5

6

第一章 概率论基础

1.2 随机变量及其分布

分布函数说明随机变量在某一区间内取值的概率

7

分布函数的性质

1、F ( x )是x的单调非减函数 ，对于 x 2  x1，有 : F ( x 2 )  F ( x1 )

2、F ( x )非负 ，且取值满足

0  F ( x)  1

:

3、 随机变量在 x 1 , x 2 区间内的概率为 P ( x1  X  x 2 )  F ( x 2 )  F ( x1 )

4、F ( x ) 右连续 ， 即 : F ( x  )  F ( x )

8

离散型随机变量

9

连续型随机变量

10

11

n维随机变量及其概率分布

定义1.6

( )

( )

( )

( )

( )

( ) ( ) ( )



( )

12

13

14

15

则有：

则有：

16

 X  cos  二维随机变量( X , Y )满足  Y  sin  式中, 是在[0,2 ]上均匀分布的随机 变量, 讨论X , Y的独立性.

X Y 1

2 2

X , Y不是互相独立的

1.3 随机变量的数字特征

18

对于离散随机变量有：

D [ X ]  E {( X  E [ X ]) } 

2



i 1



( x i  E [ X ]) 2 p i

对于连续随机变量有：

D [ X ]  E {( X  E [ X ]) } 

2







( x  E [ X ]) 2 f X ( x ) dx

2 D[ X ]   X

19

均方差或标准差： X 

矩函数

随机变量 X 的 n 阶原点矩： 原点矩 集中特性

mn  E[ X n ]

对于离散随机变量：



n  1,2, 

m n   x in pi

i 1

n  1,2, 

对于连续随机变量：

m n   x n f X ( x )d x





n  1,2,

20

随机变量 X 的 n 阶中心矩： 中心矩

离散特性

 n  E {( X  E[ X ]) }

n

n  1,2, 

对于离散随机变量：

 n   ( x i  E[ X ]) pi

n i 1



n  1,2, 

对于连续随机变量：

 n   ( x  E [ X ]) f X ( x )dx

n 



n  1,2, 

21

二维随机变量 X 和 Y 的 n+k 阶联合原点矩： 联合原点矩

m nk  E[ X Y ]

n k

对于离散随机变量：

m nk   x y pij

i 1 j 1 n i k j





pij  P ( X  x i ,

Y  y j )

对于连续随机变量：

m nk  



 





x y f XY ( x , y )dxdy

22

n

k

二维随机变量 X 和 Y 的 n+k 阶联合中心矩： 联合中心矩

 nk  E {( X  E[ X ]) (Y  E[Y ]) }

n k

对于离散随机变量：

 nk   ( x i  E[ X ]) ( y j  E[Y ]) pij

n k i 1 j 1





对于连续随机变量：

nk  



 





( x  E[ X ]) ( y  E[Y ]) f XY ( x, y )dxdy

n k

23

二维随机变量 X 和 Y 的相关矩： 相关矩

R XY  E [ XY ]  m 11 ( 二阶联合原点矩 )

B XY  R XY  E[ X ]E[Y ]

24

( EXY ) 2

25

1.4 随机变量的函数变换

1、一维变换 设随机变量X和Y满足 Y   ( X ) ，如果X、Y之间的 关系是单调的，并且存在反函数 X   1 (Y )  h (Y )

f Y ( y )dy

P ( x  X  x  dx)  P( y  Y  y  dy )

f X ( x)dx  fY ( y )dy

f X ( x)dx

26

dx fY ( y )  f X ( x) dy

X   1 (Y )  h(Y )

dx fY ( y )  f X ( x) dy

f Y ( y )  f X ( h ( y )) h( y )

 X 1  h1 (Y )   X 2  h2 (Y )

f Y ( y ) dy  f X ( x1 ) dx1  f X ( x2 ) dx 2

' f Y ( y )  f X ( h1 ( y )) h1' ( y )  f X ( h2 ( y )) h2 ( y)

27

随机变量 X和 Y满足线性关系 Y  aX  b, X为高斯变量 , a , b为常数 , 求 Y的概率密度 .

f X ( x)  1 2  X

 ( xmX )2

2 2 X

e

Y b X  h(Y )  a

fY ( y )  f X (h( y )) h( y ) 

 1  e 2 a  X

1 2  X

e

y b mX )2  a 2 2 X (

1 a

( y  am X b ) 2

2 2 a 2 X

mY  am X  b

2 2 Y  a 2 X

28

1 0  x  1 设随机变量 X的概率密度为 : f X ( x )   0 其它 求随机变量函数 Y  3 X  1 的概率密度 .

f Y ( y )  f X ( h( y )) h( y )

Y 1 X  h(Y )  3

1 h' ( y )  3

y 1  1 1  1 1 0   3 fY ( y )    3 3   其它 0 0

1 y  4 其它

29

2、二维变换

已知二维随机变量 ( X 1 , X 2 )的联合概率密度 f X ( x1 , x2 ),以及 二维随机变量 (Y1 , Y2 )与( X 1 , X 2 )之间的函数关系为 : Y1  1 ( X 1 , X 2 )  X 1  h1 (Y1 , Y2 ) 它们的反函数为 :   Y2   2 ( X 1 , X 2 )  X 2  h2 (Y1 , Y2 ) 那么随机变量 (Y1 , Y2 )的联合概率密度 f Y ( y1 , y2 )由下式给出 :

fY ( y1 , y2 )  J f X ( x1 , x2 )  J f X (h1 ( y1 , y2 ), h2 ( y1 , y2 ))

30

Y1  1 ( X 1 , X 2 )  X 1  h1 (Y1 , Y2 ) 它们的反函数为 :   Y2   2 ( X 1 , X 2 )  X 2  h2 (Y1 , Y2 )

fY ( y1 , y2 )  J f X ( x1 , x2 )  J f X (h1 ( y1 , y2 ), h2 ( y1 , y2 ))

x1 y1 J x2 y1 x1 y2 x2 y2

J  雅可比行列式

31

已知二维随机变量 ( X 1 , X 2 )的联合概率密度 f X ( x1 , x2 ), 求 X 1 , X 2之和 Y  X 1  X 2的概率密度 .

Y1  X 1 设 只要求出 f Y2 ( y 2 ) Y2  X 1  X 2

fY2 ( y

2 )   fY ( y1 , y2 )dy1

 

fY ( y1 , y2 )  J f X ( x1 , x2 )  J f X (h1 ( y1 , y2 ), h2 ( y1 , y2 ))

 X 1  h1 (Y1 , Y2 )  Y1   X 2  h2 (Y1 , Y2 )  Y2  Y1

x1 y1 J x2 y1

x1 1 0 y2  1 x2  1 1 y2

32

已知二维随机变量 ( X 1 , X 2 )的联合概率密度 f X ( x1 , x2 ), 求 X 1 , X 2之和 Y  X 1  X 2的概率密度 .

fY ( y1 , y2 )  J f X ( x1 , x2 )  J f X (h1 ( y1 , y2 ), h2 ( y1 , y2 ))

 X 1  h1 (Y1 , Y2 )  Y1   X 2  h2 (Y1 , Y2 )  Y2  Y1

fY ( y1 , y2 )  f X ( y1 , y2  y1 )

fY2 ( y2 )   f X ( y1 , y2  y1 )dy1

 

J 1

用Y代替Y2

fY ( y )  





f X ( y1 , y  y1 ) dy1

33

已知二维随机变量 ( X 1 , X 2 )的联合概率密度 f X ( x1 , x2 ), 求 X 1 , X 2之和 Y  X 1  X 2的概率密度 .

fY ( y )   f X ( y1 , y  y1 )dy1





如果X 1 , X 2 互相独立, 则有 : f X ( x1 , x2 )  f X 1 ( x1 ) f X 2 ( x2 )

fY ( y )   f X 1 ( y1 )  f X 2 ( y  y1 )dy1  f X 1 ( y )  f X 2 ( y )

 

两个互相独立随机变量之和的概率密度等 于两个随机变量各自概率密度的卷积积分

34

任选两个标有阻值 20 K 的电阻 R1和 R2串联 , 两个 电阻的误差都在  5% 之内, 并且在误差之内它们 是均匀分布的 .求 R1和 R2串联后误差不超过  2.5% 的概率有多大 ?

(1) R1和R2 应在19 ~ 21K内均匀分布 (2) R1和R2 互相独立, 串联后的R  R1  R2 (3) R应在38  42 K之间, 求R取39 ~ 41K的概率

P ( 39  R  41 ) 



41

39

f R ( r ) dr

0.5 19  r  21 f R1 (r )  f R2 (r )    0 r为其它

35

f R (r )  f R1 (r )  f R2 (r )

任选两个标有阻值 20 K 的电阻 R1和 R2串联 , 两个 电阻的误差都在  5% 之内, 并且在误差之内它们 是均匀分布的 .求 R1和 R2串联后误差不超过  2.5% 的概率有多大 ?

P ( 39  R  41 ) 

 0.25(r  38) 38  r  40  f R (r )  0.25(42  r ) 40  r  42  0 r为其它值 

40



41

39

f R ( r ) dr

概率为0.75

41 42  r r  38 3 3 3 P (39  R  41)   dr   dr    39 40 4 4 8 8 4

36

1.5 随机变量的特征函数

37

38

特征函数的性质

性质1 :  (t )   (0)  1

39

特征函数的性质

性质5 : 若Y  aX  b, a和b为常数 ,  X (t )为 X的特征函数 , 则Y的特征函数为 :

Y (t )  e itb X ( at )

性质6 : 互相独立随机变量之和 的特征函数等于各随机 变量 特征函数之积 ,即 : 若Y   X n , X n之间相互独立 ,

n 1 N

则 : Y (t )  E[eitY ]   X n (t )

n 1

40

N

特征函数的性质

i ( t t ( t  t ) z z  E [ e   l k l k 

l

n

n

n

n

k

)X

l 1 k 1

l 1 k 1

] zl z k

2

 E[ e itl X e it k X zl z k ]  E  e itl X zl  0

l 1 k 1 l 1

41

n

n

n

 X (t )   f ( x)eitx dx





 X (t )  F (t )

t  u

FT [ f ( x)]  F (t )   f ( x)e itx dx





1 f ( x)  2









F (t )e dt

iux

itx

1  2







F (u )e iux du

1  2





 X (u )e

du

1  2







 X (t )e dt

itx

42

 X (t )   f ( x)eitx dx





1 f ( x)  2







 X (t )e dt

itx

 X (t )  F (t )

 X (t )  F (t )

特征函数与概率密度之间的关系与 傅里叶变换略有不同，指数项差一 负号。

随机变量X 1 , X 2为互相独立的高斯变量, 数学期望 为零, 方差为 1. 求Y  X 1  X 2的概率密度.

f X ( x) 

1 e 2

x2  2

fY ( y )  f X1 ( y )  f X 2 ( y )

2 Y (t )   X (t )   X (t )   X (t )

1 2

 X (t )  e

 x2 2 2

t2  2

 X (t )  FT [ f X ( x)]

FT [e

]   2 e



 2t 2

2

44

随机变量X 1 , X 2为互相独立的高斯变量, 数学期望 为零, 方差为 1. 求Y  X 1  X 2的概率密度.

 Y (t )   (t )

2 X

X (t )  e X (t )  e

ity

2 2 t t   2 2

Y (t )  e

t 2

1 fY ( y )  2

 x2 2 2







Y (t )  e

 2t 2

2

1 dt  2







e e ity dt

y2  4

t 2

FT [e

]   2 e



1 2 fY ( y )   e 2 2



1 2 

45

e

y2  4

已知随机变量X服从柯西分布f X ( x)  求它的特征函数.

1

  x

2





2

,

解 :  X (t )  



1



  x

2





2

e dx

t

itx

1  2 itx    e dx e 2   2  x 2

FT [ e

 x

2 ] 2 2  t

 X (t )  e

 t

46

1 x 求概率密度为 f X ( x )  e 的随机变量 X的特征函数 . 2

1  x itx e e dx 解 :  X (t )   f X ( x)e dx     2 0 1 1 (1 it ) x ( 1 it ) x  e dx   e dx 0 2  2 1 1 1 1 1      2 2 1  it 2  1  it 1  t

 itx 

另一种解法：

2  x FT [ e ] 2 2  t

1   XX(( tt))  FT [ f X ( x)]  2 1 t

47





48

1.6 n维正态分布

如果n个独立随机变量的分布是相同的,并且 具有有限的数学期望和方差,当n无穷大时， 它们之和的分布趋近于高斯分布。即使n个 独立随机变量不是相同分布的，当n无穷大 时，如果满足任意一个随机变量都不占优势 或对和的影响足够小，那么它们之和的分布 仍然趋于高斯分布。 （中心极限定理）

49

高斯变量的线性组合仍为高斯变量

若X i为高斯变量 , 其数学期望和方差为 mi 和 , Y   X i ,

2 i i 1 n n

则Y也是高斯变量 , 其数学期望和方差分别 为 : mY   mi

i 1

 Y2    i2  2 ri

j i j

i 1 i j

n

rij 是X i与X j 之间的相关系数

n

若 X i 之间是互相独立的 , 则上面的方差应修正为 :     i2

2 Y i 1

50

对于高斯变量来说，不相关和统计独立是等阶的。

归一化高斯变量Y的特征函数为 : Y (t )  e

X m

t2  2

Y

X  Y  m



 X (t )  e Y (t )  e

itm

itm 

 2t 2

2

51

两个高斯变量X 1和X 2 , 数学期望分别为m1和m2 , 方差分别

2 为 12和 2 , 它们的联合概率密度为 :

f X ( x1 , x2 ) 

1 2 1 2 1   2

e



1 2 (1  2 )

( x1  m1 ) 2 2  ( x1  m1 )( x2  m2 ) ( x2  m2 ) 2   [ ] 2 2

1

 1 2

2

若 X 1和 X 2 是互相独立的 , 则上式简化为 : f X ( x1 , x2 )  f X 1 ( x1 ) f X 2 ( x2 )  1 2 1 2 e

1 ( x1  m1 ) 2 ( x 2  m 2 ) 2 ]  [  2 2 2 1 2

52

二维高斯变量联合特征函数的一般形式为 :

 X (t1 , t 2 )  e

1 2 2 2 2  ( 1 t1  2  1 2t1t 2  2 t2 ) i ( m1t1  m2t 2 ) 2

e

当X 1和X 2的数学期望都为零时, 有 :

 X (t1 , t 2 )  e

1 2 2 2 2  ( 1 t1  2  1 2t1t 2  2 t2 ) 2

进一步,当X 1和X 2相互独立时, 有 :  X (t1 , t 2 )  e

1 2 2 2 2  ( 1 t1  2 t2 ) 2

53

54

55

1.7 条件数学期望

56

57

58

证明：假设X与Y都是离散型随机变量

59

性质1 :  (t )   (0)  1

 (t )   f ( x)eitx dx





f ( x)  0, 且 eitX  1

f ( x ) e dx  

itx 

 (t ) 







f ( x ) e dx  

itx







f ( x ) e itx dx  1

 (t )  1

 (0)   f ( x)dx  1





 (t )   (0)  1

60

设随机变量 X的概率密度为 f X ( x), 其特征函数为 :

 X (t )   f X ( x)e itx dx





  d X (t ) d itx   f X ( x)( e )dx   f X ( x)(ix) eitx dx   dt dt

 d X (t )   f X ( x)(ix) dx  iE[ X ] dt t 0 

d X (t ) E[ X ]  i dt t 0

d  X (t ) n itx  f ( x )( ix ) e dx X n   dt

n 

n d  X (t ) n n E[ X ]  (i ) dt n t 0

61

若Y  aX  b, a和b为常数,  X (t )为X的特征函数, 则Y的特征函数为 : Y (t )  e itb X (at )

 Y ( t )  E [ e itY ]  E [ e it ( aX  b ) ]

 E [e

itb itb

itb

e

itaX

]

 e E[e  e E[e

itb

itaX

] ]

i ( at ) X

 e  X ( at )

62

互相独立随机变量之和 的特征函数等于各随机 变量 特征函数之积, 即 : 若Y   X n , X n 之间相互独立,

n 1 N

则 :  Y (t )  E [ e ]    X n (t )

itY n 1

N

 Y (t )  E[e itY ]  E[e

it  X n

n 1

N

]  E[ e itX n ]

n 1

N

Y (t )   E[e

n 1

N

itX n

]    X n (t )

n 1

63

N

随机过程

专业领域课 必修课，考试课 48学时，3学分

1

参 考 教 材

汪荣鑫,《随机过程》(第2版) 西安交通大学出版社 刘次华,《随机过程》(第4版) 华中科技大学出版社 赵淑清，郑薇，《随机信号分析》(第2版) 电子工业出版社

2

第一章 概率论基础

1.1 概率空间 随机试验的三个特性 (1)可以在相同条件下重复进行； (2)每次试验的结果不止一个，但预先知道试验的 所有可能的结果； (3)每次试验前不能确定哪个结果会出现。 用E表示随机试验

3

第一章 概率论基础 1.1 概率空间

随机试验的所有可能出现的结果构成一个集合， 称为样本空间或基本事件空间，记为 。而把每 一可能出现的试验结果称为一个基本事件或样本 为 中的元素。 的子集A称为事 点，记为  ， 件，样本空间  称为必然事件，空集  称为不可 能事件。

4

5

6

第一章 概率论基础

1.2 随机变量及其分布

分布函数说明随机变量在某一区间内取值的概率

7

分布函数的性质

1、F ( x )是x的单调非减函数 ，对于 x 2  x1，有 : F ( x 2 )  F ( x1 )

2、F ( x )非负 ，且取值满足

0  F ( x)  1

:

3、 随机变量在 x 1 , x 2 区间内的概率为 P ( x1  X  x 2 )  F ( x 2 )  F ( x1 )

4、F ( x ) 右连续 ， 即 : F ( x  )  F ( x )

8

离散型随机变量

9

连续型随机变量

10

11

n维随机变量及其概率分布

定义1.6

( )

( )

( )

( )

( )

( ) ( ) ( )



( )

12

13

14

15

则有：

则有：

16

 X  cos  二维随机变量( X , Y )满足  Y  sin  式中, 是在[0,2 ]上均匀分布的随机 变量, 讨论X , Y的独立性.

X Y 1

2 2

X , Y不是互相独立的

1.3 随机变量的数字特征

18

对于离散随机变量有：

D [ X ]  E {( X  E [ X ]) } 

2



i 1



( x i  E [ X ]) 2 p i

对于连续随机变量有：

D [ X ]  E {( X  E [ X ]) } 

2







( x  E [ X ]) 2 f X ( x ) dx

2 D[ X ]   X

19

均方差或标准差： X 

矩函数

随机变量 X 的 n 阶原点矩： 原点矩 集中特性

mn  E[ X n ]

对于离散随机变量：



n  1,2, 

m n   x in pi

i 1

n  1,2, 

对于连续随机变量：

m n   x n f X ( x )d x





n  1,2,

20

随机变量 X 的 n 阶中心矩： 中心矩

离散特性

 n  E {( X  E[ X ]) }

n

n  1,2, 

对于离散随机变量：

 n   ( x i  E[ X ]) pi

n i 1



n  1,2, 

对于连续随机变量：

 n   ( x  E [ X ]) f X ( x )dx

n 



n  1,2, 

21

二维随机变量 X 和 Y 的 n+k 阶联合原点矩： 联合原点矩

m nk  E[ X Y ]

n k

对于离散随机变量：

m nk   x y pij

i 1 j 1 n i k j





pij  P ( X  x i ,

Y  y j )

对于连续随机变量：

m nk  



 





x y f XY ( x , y )dxdy

22

n

k

二维随机变量 X 和 Y 的 n+k 阶联合中心矩： 联合中心矩

 nk  E {( X  E[ X ]) (Y  E[Y ]) }

n k

对于离散随机变量：

 nk   ( x i  E[ X ]) ( y j  E[Y ]) pij

n k i 1 j 1





对于连续随机变量：

nk  



 





( x  E[ X ]) ( y  E[Y ]) f XY ( x, y )dxdy

n k

23

二维随机变量 X 和 Y 的相关矩： 相关矩

R XY  E [ XY ]  m 11 ( 二阶联合原点矩 )

B XY  R XY  E[ X ]E[Y ]

24

( EXY ) 2

25

1.4 随机变量的函数变换

1、一维变换 设随机变量X和Y满足 Y   ( X ) ，如果X、Y之间的 关系是单调的，并且存在反函数 X   1 (Y )  h (Y )

f Y ( y )dy

P ( x  X  x  dx)  P( y  Y  y  dy )

f X ( x)dx  fY ( y )dy

f X ( x)dx

26

dx fY ( y )  f X ( x) dy

X   1 (Y )  h(Y )

dx fY ( y )  f X ( x) dy

f Y ( y )  f X ( h ( y )) h( y )

 X 1  h1 (Y )   X 2  h2 (Y )

f Y ( y ) dy  f X ( x1 ) dx1  f X ( x2 ) dx 2

' f Y ( y )  f X ( h1 ( y )) h1' ( y )  f X ( h2 ( y )) h2 ( y)

27

随机变量 X和 Y满足线性关系 Y  aX  b, X为高斯变量 , a , b为常数 , 求 Y的概率密度 .

f X ( x)  1 2  X

 ( xmX )2

2 2 X

e

Y b X  h(Y )  a

fY ( y )  f X (h( y )) h( y ) 

 1  e 2 a  X

1 2  X

e

y b mX )2  a 2 2 X (

1 a

( y  am X b ) 2

2 2 a 2 X

mY  am X  b

2 2 Y  a 2 X

28

1 0  x  1 设随机变量 X的概率密度为 : f X ( x )   0 其它 求随机变量函数 Y  3 X  1 的概率密度 .

f Y ( y )  f X ( h( y )) h( y )

Y 1 X  h(Y )  3

1 h' ( y )  3

y 1  1 1  1 1 0   3 fY ( y )    3 3   其它 0 0

1 y  4 其它

29

2、二维变换

已知二维随机变量 ( X 1 , X 2 )的联合概率密度 f X ( x1 , x2 ),以及 二维随机变量 (Y1 , Y2 )与( X 1 , X 2 )之间的函数关系为 : Y1  1 ( X 1 , X 2 )  X 1  h1 (Y1 , Y2 ) 它们的反函数为 :   Y2   2 ( X 1 , X 2 )  X 2  h2 (Y1 , Y2 ) 那么随机变量 (Y1 , Y2 )的联合概率密度 f Y ( y1 , y2 )由下式给出 :

fY ( y1 , y2 )  J f X ( x1 , x2 )  J f X (h1 ( y1 , y2 ), h2 ( y1 , y2 ))

30

Y1  1 ( X 1 , X 2 )  X 1  h1 (Y1 , Y2 ) 它们的反函数为 :   Y2   2 ( X 1 , X 2 )  X 2  h2 (Y1 , Y2 )

fY ( y1 , y2 )  J f X ( x1 , x2 )  J f X (h1 ( y1 , y2 ), h2 ( y1 , y2 ))

x1 y1 J x2 y1 x1 y2 x2 y2

J  雅可比行列式

31

已知二维随机变量 ( X 1 , X 2 )的联合概率密度 f X ( x1 , x2 ), 求 X 1 , X 2之和 Y  X 1  X 2的概率密度 .

Y1  X 1 设 只要求出 f Y2 ( y 2 ) Y2  X 1  X 2

fY2 ( y

2 )   fY ( y1 , y2 )dy1

 

fY ( y1 , y2 )  J f X ( x1 , x2 )  J f X (h1 ( y1 , y2 ), h2 ( y1 , y2 ))

 X 1  h1 (Y1 , Y2 )  Y1   X 2  h2 (Y1 , Y2 )  Y2  Y1

x1 y1 J x2 y1

x1 1 0 y2  1 x2  1 1 y2

32

已知二维随机变量 ( X 1 , X 2 )的联合概率密度 f X ( x1 , x2 ), 求 X 1 , X 2之和 Y  X 1  X 2的概率密度 .

fY ( y1 , y2 )  J f X ( x1 , x2 )  J f X (h1 ( y1 , y2 ), h2 ( y1 , y2 ))

 X 1  h1 (Y1 , Y2 )  Y1   X 2  h2 (Y1 , Y2 )  Y2  Y1

fY ( y1 , y2 )  f X ( y1 , y2  y1 )

fY2 ( y2 )   f X ( y1 , y2  y1 )dy1

 

J 1

用Y代替Y2

fY ( y )  





f X ( y1 , y  y1 ) dy1

33

已知二维随机变量 ( X 1 , X 2 )的联合概率密度 f X ( x1 , x2 ), 求 X 1 , X 2之和 Y  X 1  X 2的概率密度 .

fY ( y )   f X ( y1 , y  y1 )dy1





如果X 1 , X 2 互相独立, 则有 : f X ( x1 , x2 )  f X 1 ( x1 ) f X 2 ( x2 )

fY ( y )   f X 1 ( y1 )  f X 2 ( y  y1 )dy1  f X 1 ( y )  f X 2 ( y )

 

两个互相独立随机变量之和的概率密度等 于两个随机变量各自概率密度的卷积积分

34

任选两个标有阻值 20 K 的电阻 R1和 R2串联 , 两个 电阻的误差都在  5% 之内, 并且在误差之内它们 是均匀分布的 .求 R1和 R2串联后误差不超过  2.5% 的概率有多大 ?

(1) R1和R2 应在19 ~ 21K内均匀分布 (2) R1和R2 互相独立, 串联后的R  R1  R2 (3) R应在38  42 K之间, 求R取39 ~ 41K的概率

P ( 39  R  41 ) 



41

39

f R ( r ) dr

0.5 19  r  21 f R1 (r )  f R2 (r )    0 r为其它

35

f R (r )  f R1 (r )  f R2 (r )

任选两个标有阻值 20 K 的电阻 R1和 R2串联 , 两个 电阻的误差都在  5% 之内, 并且在误差之内它们 是均匀分布的 .求 R1和 R2串联后误差不超过  2.5% 的概率有多大 ?

P ( 39  R  41 ) 

 0.25(r  38) 38  r  40  f R (r )  0.25(42  r ) 40  r  42  0 r为其它值 

40



41

39

f R ( r ) dr

概率为0.75

41 42  r r  38 3 3 3 P (39  R  41)   dr   dr    39 40 4 4 8 8 4

36

1.5 随机变量的特征函数

37

38

特征函数的性质

性质1 :  (t )   (0)  1

39

特征函数的性质

性质5 : 若Y  aX  b, a和b为常数 ,  X (t )为 X的特征函数 , 则Y的特征函数为 :

Y (t )  e itb X ( at )

性质6 : 互相独立随机变量之和 的特征函数等于各随机 变量 特征函数之积 ,即 : 若Y   X n , X n之间相互独立 ,

n 1 N

则 : Y (t )  E[eitY ]   X n (t )

n 1

40

N

特征函数的性质

i ( t t ( t  t ) z z  E [ e   l k l k 

l

n

n

n

n

k

)X

l 1 k 1

l 1 k 1

] zl z k

2

 E[ e itl X e it k X zl z k ]  E  e itl X zl  0

l 1 k 1 l 1

41

n

n

n

 X (t )   f ( x)eitx dx





 X (t )  F (t )

t  u

FT [ f ( x)]  F (t )   f ( x)e itx dx





1 f ( x)  2









F (t )e dt

iux

itx

1  2







F (u )e iux du

1  2





 X (u )e

du

1  2







 X (t )e dt

itx

42

 X (t )   f ( x)eitx dx





1 f ( x)  2







 X (t )e dt

itx

 X (t )  F (t )

 X (t )  F (t )

特征函数与概率密度之间的关系与 傅里叶变换略有不同，指数项差一 负号。

随机变量X 1 , X 2为互相独立的高斯变量, 数学期望 为零, 方差为 1. 求Y  X 1  X 2的概率密度.

f X ( x) 

1 e 2

x2  2

fY ( y )  f X1 ( y )  f X 2 ( y )

2 Y (t )   X (t )   X (t )   X (t )

1 2

 X (t )  e

 x2 2 2

t2  2

 X (t )  FT [ f X ( x)]

FT [e

]   2 e



 2t 2

2

44

随机变量X 1 , X 2为互相独立的高斯变量, 数学期望 为零, 方差为 1. 求Y  X 1  X 2的概率密度.

 Y (t )   (t )

2 X

X (t )  e X (t )  e

ity

2 2 t t   2 2

Y (t )  e

t 2

1 fY ( y )  2

 x2 2 2







Y (t )  e

 2t 2

2

1 dt  2







e e ity dt

y2  4

t 2

FT [e

]   2 e



1 2 fY ( y )   e 2 2



1 2 

45

e

y2  4

已知随机变量X服从柯西分布f X ( x)  求它的特征函数.

1

  x

2





2

,

解 :  X (t )  



1



  x

2





2

e dx

t

itx

1  2 itx    e dx e 2   2  x 2

FT [ e

 x

2 ] 2 2  t

 X (t )  e

 t

46

1 x 求概率密度为 f X ( x )  e 的随机变量 X的特征函数 . 2

1  x itx e e dx 解 :  X (t )   f X ( x)e dx     2 0 1 1 (1 it ) x ( 1 it ) x  e dx   e dx 0 2  2 1 1 1 1 1      2 2 1  it 2  1  it 1  t

 itx 

另一种解法：

2  x FT [ e ] 2 2  t

1   XX(( tt))  FT [ f X ( x)]  2 1 t

47





48

1.6 n维正态分布

如果n个独立随机变量的分布是相同的,并且 具有有限的数学期望和方差,当n无穷大时， 它们之和的分布趋近于高斯分布。即使n个 独立随机变量不是相同分布的，当n无穷大 时，如果满足任意一个随机变量都不占优势 或对和的影响足够小，那么它们之和的分布 仍然趋于高斯分布。 （中心极限定理）

49

高斯变量的线性组合仍为高斯变量

若X i为高斯变量 , 其数学期望和方差为 mi 和 , Y   X i ,

2 i i 1 n n

则Y也是高斯变量 , 其数学期望和方差分别 为 : mY   mi

i 1

 Y2    i2  2 ri

j i j

i 1 i j

n

rij 是X i与X j 之间的相关系数

n

若 X i 之间是互相独立的 , 则上面的方差应修正为 :     i2

2 Y i 1

50

对于高斯变量来说，不相关和统计独立是等阶的。

归一化高斯变量Y的特征函数为 : Y (t )  e

X m

t2  2

Y

X  Y  m



 X (t )  e Y (t )  e

itm

itm 

 2t 2

2

51

两个高斯变量X 1和X 2 , 数学期望分别为m1和m2 , 方差分别

2 为 12和 2 , 它们的联合概率密度为 :

f X ( x1 , x2 ) 

1 2 1 2 1   2

e



1 2 (1  2 )

( x1  m1 ) 2 2  ( x1  m1 )( x2  m2 ) ( x2  m2 ) 2   [ ] 2 2

1

 1 2

2

若 X 1和 X 2 是互相独立的 , 则上式简化为 : f X ( x1 , x2 )  f X 1 ( x1 ) f X 2 ( x2 )  1 2 1 2 e

1 ( x1  m1 ) 2 ( x 2  m 2 ) 2 ]  [  2 2 2 1 2

52

二维高斯变量联合特征函数的一般形式为 :

 X (t1 , t 2 )  e

1 2 2 2 2  ( 1 t1  2  1 2t1t 2  2 t2 ) i ( m1t1  m2t 2 ) 2

e

当X 1和X 2的数学期望都为零时, 有 :

 X (t1 , t 2 )  e

1 2 2 2 2  ( 1 t1  2  1 2t1t 2  2 t2 ) 2

进一步,当X 1和X 2相互独立时, 有 :  X (t1 , t 2 )  e

1 2 2 2 2  ( 1 t1  2 t2 ) 2

53

54

55

1.7 条件数学期望

56

57

58

证明：假设X与Y都是离散型随机变量

59

性质1 :  (t )   (0)  1

 (t )   f ( x)eitx dx





f ( x)  0, 且 eitX  1

f ( x ) e dx  

itx 

 (t ) 







f ( x ) e dx  

itx







f ( x ) e itx dx  1

 (t )  1

 (0)   f ( x)dx  1





 (t )   (0)  1

60

设随机变量 X的概率密度为 f X ( x), 其特征函数为 :

 X (t )   f X ( x)e itx dx





  d X (t ) d itx   f X ( x)( e )dx   f X ( x)(ix) eitx dx   dt dt

 d X (t )   f X ( x)(ix) dx  iE[ X ] dt t 0 

d X (t ) E[ X ]  i dt t 0

d  X (t ) n itx  f ( x )( ix ) e dx X n   dt

n 

n d  X (t ) n n E[ X ]  (i ) dt n t 0

61

若Y  aX  b, a和b为常数,  X (t )为X的特征函数, 则Y的特征函数为 : Y (t )  e itb X (at )

 Y ( t )  E [ e itY ]  E [ e it ( aX  b ) ]

 E [e

itb itb

itb

e

itaX

]

 e E[e  e E[e

itb

itaX

] ]

i ( at ) X

 e  X ( at )

62

互相独立随机变量之和 的特征函数等于各随机 变量 特征函数之积, 即 : 若Y   X n , X n 之间相互独立,

n 1 N

则 :  Y (t )  E [ e ]    X n (t )

itY n 1

N

 Y (t )  E[e itY ]  E[e

it  X n

n 1

N

]  E[ e itX n ]

n 1

N

Y (t )   E[e

n 1

N

itX n

]    X n (t )

n 1

63

N