Proof: E(C*zi)=c^22, where c is a constant, Z~N(0,1), i=1 2 3...

这样简化是不对的……

显然由于期望函数的线性性质，E(CZi)=CE(Zi)=0(因为EZ=0)

其实原题的左边就是随机变量的矩母函数（moment generating function）的定义啊，正态的矩母函数超重要的。

证明：

E(exp(CZi))=将{exp(-05x^2+cx)/根号(2pai)}dx从负无穷到无穷

=将{exp(-05(x-c)^2+05c^2)/根号(2pai)}dx从负无穷到无穷

=将{exp(-05(x-c)^2+05c^2)/根号(2pai)}d(x-c)从负无穷到无穷(变量代换)

=将{exp(-05y^2+05c^2)/根号(2pai)}dy从负无穷到无穷

=[将{exp(-05y^2)/根号(2pai)}dy从负无穷到无穷]exp(05c^2)(积分里面是标准正态的密度函数)

=exp(05c^2)

设正态分布概率密度函数是f(x)=[1/(√2π)t]e^[-(x-u)^2/2(t^2)]，就是均值是u,方差是t^2。

于是：

∫e^[-(x-u)^2/2(t^2)]dx=(√2π)t（）

积分区域是从负无穷到正无穷,下面出现的积分也都是这个区域。

（1）求均值

对（）式两边对u求导：

∫{e^[-(x-u)^2/2(t^2)][2(u-x)/2(t^2)]dx=0

约去常数,再两边同乘以1/(√2π)t得：

∫[1/(√2π)t]e^[-(x-u)^2/2(t^2)](u-x)dx=0

把(u-x)拆开,再移项：

∫x[1/(√2π)t]e^[-(x-u)^2/2(t^2)]dx=u∫[1/(√2π)t]e^[-(x-u)^2/2(t^2)]dx

也就是

∫xf(x)dx=u1=u

这样就正好凑出了均值的定义式,证明了均值就是u

(2)方差

对()式两边对t求导：

∫[(x-u)^2/t^3]e^[-(x-u)^2/2(t^2)]dx=√2π

移项：

∫[(x-u)^2][1/(√2π)t]e^[-(x-u)^2/2(t^2)]dx=t^2

也就是

∫(x-u)^2f(x)dx=t^2

正好凑出了方差的定义式,从而结论得证。

扩展资料：

二重积分的现实(物理)含义：面积 × 物理量 = 二重积分值。

举例说明：二重积分的现实(物理)含义：

1、二重积分计算平面面积，即：面积 × 1 = 平面面积。

2、二重积分计算立体体积，即：底面积 × 高 = 立体体积。

3、二重积分计算平面薄皮质量，即：面积 × 面密度 = 平面薄皮质量。

二重积分的定义式：

其中

xxx与yyy叫做积分变量，f(x,y)f(x,y)f(x,y)叫做被积函数，dσd\sigmadσ叫做面积元素，DDD叫做积分区域。

--二重积分

林德伯格中心极限定理的证明

中心极限定理：概率论中关于独立的随机变量序列的部分和的分布渐近于正态分布的一类定理，是概率论中最重要的一类定理，有广泛的实际应用背景，常见的是关于独立同分布随机变量之和的中心极限定理，即林德伯格列维定理。

林德伯格列维定理: 设为独立同分布的随机变量序列，且。令=，那么当时，随机变量依分布收敛于服从标准正态分布的随机变量，即

引理（特征函数的定义及性质）

随机变量的特征函数；

独立随机变量和的特征函数等于每个随机变量特征函数的乘积。

证明：用特征函数来证明。

令，于是有：独立同分布，且。

设的特征函数为 (正态随机变量的概率密度函数)，则的特征函数为，当，有，则可以将在点附近泰勒展开。

，对于，易知，，所以代入上式，得然后令，有

，由于正好是服从标准正态分布的随机变量的特征函数，即的特征函数收敛于标准正态分布随机变量的特征函数，所以由特征函数理论可得知，的分布函数弱收敛于（依分布收敛于）标准正态分布随机变量的分布函数，即

随机变量

证毕。

过程进行了简要描述;

一）首次获得的矩母函数的X ^ 2：MX ^ 2（T）

MX ^ 2（t）的=∫进出口（JTX ^ 2）F0（X） DX =（1 2JT）^（1/2）F0（x）是标准正态分布的密度函数

B）的矩母函数的SD：MSD（T）= [MX ^ 2（T）] ^ D =（1-2JT）^（D / 2）

C）的

MF（T确定生成函数伽玛分布的时刻，当a = 1/2 V = D / 2 :) =∫ EXP（JTX）函数f（x）dx的（1-2JT）^（D / 2）F（X）的的伽玛分布密度函数

时刻生成功能，从上面的MF（T）= MSD （T）

SD服从时，= 1/2 V = D / 2伽玛分布，也就是自由e卡方分布的程度。

S'd SD是相同的，d是独立的标准正态分布的平方和服从卡方分布。

注：以上积分区间（ - ∞到+∞）

四大收敛：

1依 收敛（Convergence in ）

    令 ，又令随机变量序列 满足 ，并令随机变量 满足

    若

    则称 依 收敛于 ，记为

2依分布收敛（Convergence in Distribution）

    令随机变量序列 对应的分布函数序列为 ，随机变量 对应的分布函数为

    若对于每个连续点 ，有

    则称 依分布收敛于 ，记为

3依概率收敛（Convergence in Probability）

    令随机变量序列 和随机变量

    若 ，有

    则称 依概率收敛于 ，记为

4几乎处处收敛（Almost Sure Convergence）

    令随机变量序列 和随机变量

    若 ，有

    则称 几乎处处收敛于 ，记为

三个大数定律（仅列出简化版本）：

1弱大数定律（Weak Law of Large Numbers，WLLN）

    令独立同分布（iid）随机变量序列 满足 和

    定义 ，则对 ，有

    即 依概率收敛于

2强大数定律（Strong Law of Large Numbers，SLLN）

    令独立同分布（iid）随机变量序列 满足 和

    定义

    则 几乎处处收敛于

3中心极限定理（Central Limit Theorem，CLT）

    令独立同分布（iid）随机变量序列 满足 和

    定义 ，有标准化样本

    则 依分布收敛于正态分布

引理1相互推导关系

11

12

13

引理2两个不等式

21马尔可夫不等式

    设 为一随机变量， 为一非负函数，则对 ，有

22波恩斯坦不等式

    令独立同分布（iid）随机变量序列 满足零均值且有界支撑

     ，有 ；令 ，有

    则对 ，有

引理3连续性质

31若 为连续函数，则

32若 为连续函数，则

33若 为连续函数，则

引理4等价性质

41渐进等价性（Asymptotic Equivalence）

42Slutsky

    假设 且 为常数，则

    1）

    2）

集合、概率、随机变量（三元集）：

事件：全空间 的子集

事件集：由 的子集构成的 代数

随机变量：Borel可测映射

随机变量取值的概率：

        对应几乎处处连续的分布函数CDF：

事件就是集合，随机变量的取值对应着某个事件，随机变量取值的概率对应着集合的测度

不可能事件、零概率事件、或然事件、全概率事件、必然事件    

集合的上下极限：

         事件 至少发生一个

         上限事件，发生次数为无限次的事件

         事件 同时发生

         下限事件，不发生次数为有限次的事件

德·摩根律：

         即

         即

博雷尔·康特立引理：

    （1）若 满足 ，则 且

    （2）若 相互独立，则 等价于 且

噶依克·瑞尼不等式：

     为独立随机变量序列， ， 为正的非增常数序列

     ，有

柯尔莫哥洛夫不等式：

     为独立随机变量序列，

     ，有

Declare：

凡是四大收敛的定义法证明，几乎都可以归结为集合的交并补运算

数学期望与高阶矩的本质：积分

矩母函数的定义：

    设 为随机变量， ，有 存在，则

矩母函数与高阶矩的关系：

特征函数的定义：

    设 为随机变量， ，有 必存在，则

特征函数与高阶矩的关系：

特征函数与分布函数的关系：一一对应

1逆转公式

    分布函数 的特征函数为 ，又 是 的连续点，则有

2唯一性定理

    分布函数 由特征函数 唯一确定，即令 ，得

3海莱第一定理

    任意一个一致有界的非降函数列 中必有一子序列 ，其弱收敛于某一有界的非降函数

4海莱第二定理及其推广

     ，且 是 上弱收敛于 的一致有界非降函数序列，且 和 为 的连续点，则

    可推广至

5正极限定理

    若分布函数列 弱收敛于 ，则特征函数列 逐点收敛于 ，且在 的任一有限区间内一致收敛

6逆极限定理

    若特征函数列 收敛于 ，且 在 处连续

    则相应 弱收敛于 ，且 为 的特征函数

四大收敛与特征函数的关系

1 收敛与特征函数

    考虑到

2依分布收敛与特征函数

     逐点收敛于 ，且在 的任一有限区间内一致收敛

3依概率收敛&几乎处处收敛与特征函数

     逐点收敛于 ，且在 内一致收敛

    积分运算使得函数的部分信息丧失，进而无法由特征函数直接区分这两种收敛

渐进等价性引理的证明（By 特征函数）

    引理两个函数列之和在 内一致收敛，其中一个函数列在 的任一有限区间内一致收敛，则另一个函数列在 的任一有限区间内一致收敛

Slutsky定理的证明（By 集合）

    将依概率收敛 中的集合 不等式打开

渐进等价性引理与Slutsky定理的关系：

    一个依概率收敛，两个依分布收敛->本质相同，表述不同

博赫纳尔-辛钦定理：

     是特征函数 非负定、连续且

        随机变量唯一确定集合映射关系，唯一确定分布函数，唯一确定特征函数

        随机变量是三元集，分布函数性质较差，而特征函数性质堪称完美

        故应当以集合&特征函数的视角研究随机变量与概率论

        进入玄学范围，概率的问题，随机变量的问题，在其三元集上讨论，这一做法极其愚蠢

        将概率论与卡巴拉生命之树相联系，那么：

        <集合>对应于<王座>

        <特征函数>对应于<王冠>

        若是无视了<集合>这一王座，未曾见<特征函数>这一王冠

        只见粗干，甚至于一叶障目

        那么概率论到最后也不过是白学了，毫无卵用

        书中写遍概率符号

        然而在我眼中只有<集合><特征函数>罢了

最后附上CLT&WLLN&SLLN的证明梗概，需要详细证明可以查阅相关书籍或者私戳我：

        CLT的证明有三种套路：

1特征函数&海莱定理

2林德伯格-莱维条件

3特殊情况下的代数变换

        WLLN的证明有两种套路：

1特征函数的泰勒展开

2马尔可夫不等式&波恩斯坦不等式&一般化

        SLLN的证明有两种套路：

1特征函数的泰勒展开

2博雷尔康特立引理&噶依克·瑞尼不等式