设函数
亦即
逐点可导:若函数
在点
复合函数求导:设函数
在
设二元函数
为含参变量常义积分,其中
若积分限也依赖于参变量,有变限含参常义积分
如果函数
即可以交换求导运算与积分运算的顺序,或称在积分号下求导;
如果函数
狄利克雷(Dirichlet)积分
概率积分
拉普拉斯(Laplace)积分
菲涅耳(Fresnel)积分
定义:
连续性:
递推公式:
当
余元公式:
定义:
称为
连续性:
递推公式:
勒让德(Legendre)加倍公式:
特别地,有
一些基本概念:
概率(probability),又称或然率、几率,是表示某个事件出现的可能性大小的一种数量指标,介于
和 之间. 赌博问题中的赢率(odds).
定义1.1 随机试验
定义1.2 样本空间与事件
随机事件(简称 事件),用英文大写字母
表示; 样本空间(sample space):随机试验中所有基本事件构成的集合,用
或 表示; 样本点:样本空间的元素,即基本事件,用
表示.
一个随机试验的样本空间
是由该试验所有可能结果所组成的集合. 根据样本空间
的大小,可以将其分为三类:
有限样本空间(仅含有有限个样本点);
可数无穷样本空间(含有无穷且可数个样本点);
不可数样本空间(含有无穷且不可数个样本点).
对事件
定义1.3 必然事件和不可能事件
习惯上,将必然事件发生的概率设置为
,将不可能事件发生的概率设置为 . 但发生概率为
的事件未必是必然事件,发生概率为 的时间未必是不可能事件.
定义事件运算中的几个基本概念.
定义1.4 事件的和
事件
和事件 中至少有一个发生,称为 与 的和,记为 . 下面的维恩图(Venn diagram)中阴影部分表示了
.
定义1.5 事件的差
事件
发生而事件 不发生,称为 与 的差,记为 或 .
定义1.6 事件的积
事件
和事件 同时发生,称为 与 的积,记为 , 或 .
定义1.7 不相容事件
事件
和事件 不能同时发生(即 ),称为事件 和事件 不相容(incompatible)或互斥(mutually exclusive).
特别,当事件两两不相容时,可以把“并”运算符号改写为通常的加号.
定义1.8 对立事件
这一事件称为 的对立事件(或余事件),记为 或 .
事件运算的公式
, ;
;
;
; 德摩根(A. De Morgan)对偶法则
;
.
证明两个事件
, 相同: ; .
定义1.9 概率的直观定义
概率是事件的函数,也可以视为是集合的函数. 设
为一个事件,用 表示事件 发生的概率,则由概率定义,
;、
;
.
在有限性和等可能性下定义概率的模型称为古典概型.
一般涉及排列、组合的知识,以及事件的运算. 常用的排列、组合知识归纳如下.
加法原理
乘法原理
结论:
从
从
种,称为选排列. 特别,当
从
从
这个数称为重复组合数
结论:
球可辨,每个盒子中不限球的个数. 此为重复排列,不同的放法个数为
球可辨,每个盒子中至多放一个球,此为选排列,不同的放法个数为
球不可辨,每个盒中不限球的个数. 隔板法(
球不可辨,每个盒子中至多放一个球. 此为一般的组合,不同的放法个数为
几何概型:对古典概型去掉有限性、保留基本事件的等可能性.
几何概型相当于把样本空间视为一块质量为
的均匀木块,事件 视为木块中的某部分,则 就是该部分的质量.
(去掉等可能性,保留有限性,从另一个角度定义概率)
定义1.10 概率的统计定义
意义:
提供了一种估计概率的方法(如:得出
的近似值,破译密码); 提供了理论是否正确的标准(如:验证硬币均匀性).
人们常常用一个数字去估计某些概率的大小,而心目中并不把它与频率相连,这种概率称为主观概率.
定义1.11 主观概率定义
作用:
管理科学(经济投资决策);
数据分析,尤其是人工智能的算法(贝叶斯(T. Bayes)学派,与传统的统计学派即频率学派区别)
研究主观概率,以这种观点来处理统计问题,有着非常重要的现实意义.
定义1.12 概率的公理化定义
由概率的公理化定义得到概率的一些性质. 以下讨论的事件均为同一样本空间
中的可测事件.
(有限可加性)若
两两不相容,则 (可减性)若
,则 ; (单调性)若
,则 ;
; (加法原理/容斥原理(inclusion-exclusion principle))对任意的事件
,有
例:
(次可加性)对任意的事件列
,有 *(下连续性) 若事件列满足
,则 *(上连续性) 若事件列满足
,则
条件概率,指在试验中在附加一定条件下,感兴趣事件发生的概率,其形式总可归结为“事件
定义1.13 条件概率
某部分的概率就是该部分面积与总面积的比值,图中总面积(
的面积)为一个单位. 现在知道 发生了,只考虑 而不考虑 ,则 就是 在 中的面积 与 的面积 的比值,即
定理1.1 乘法公式
; 若
,则 (不依赖脚标顺序).
定义1.14 完备事件群
设
是样本空间 中的一组概率大于 的事件,满足
,
, 则称
是样本空间 的一个完备事件群(划分(partition)).
定理1.2 全概率公式(law of total probability)
设
是样本空间 的一个划分, 为 中任一事件,则
定理1.3 贝叶斯公式
设
是样本空间 的一个划分, 为 中任一事件, ,则 特别,以
和 构成划分,则
如果把条件视为“原因”,事件
定义1.15 两个事件相互独立
如果事件
和事件 的发生互不影响,那么两事件是独立的.
推论1.1
两个事件
, 相互独立,实质是一个事件发生的概率与另外一个事件是否发生没有关系,但这并不意味着事件 , 本身完全无关.
定理1.4
设
和 是样本空间 中的两个事件,则下述四个陈述相互等价:
与 独立;
与 相互独立;
与 相互独立;
与 相互独立.
定义1.16
个事件相互独立
个事件的相互独立蕴涵了其中任意一部分事件相互独立; 即使其中任意
个事件都相互独立,也不能保证 个事件在整体上相互独立. 定义1.17 等价定义
小概率原理:即使事件
是小概率事件,即事件 在一次试验中不易发生,但是随着实验次数 的增加,事件 发生的概率接近于 .
定义1.18
个事件两两独立
相互独立的事件列一定是两两独立的,反之则未必.
定义1.19 独立事件列
取一个样本空间到直线
直观上,随机变量是取值随实验结果而定且有一定概率分布的变量;
数学角度上的严格定义(定义2.1 随机变量):
通常我们用大写的英文字母
等表示随机变量,而用小写的字母 等表示实数.
随机变量取哪些值以及取这些值的概率,称为随机变量的分布(distribution).
离散型随机变量,就是取值为离散值的随机变量.