粒子滤波所要做的就是估计感兴趣的信号，与传统的估计方法不同，它主要针对非线性系统或者乘性噪音这类传统估计无法解决的问题，其核心方法是蒙特卡洛法，它基于随机信号的概率建模。因此我们先回顾概率统计部分的知识。
随机变量
用 x 表示随机变量，用 \Omega 表示概率空间
离散随机变量
离散随机变量从有限可数的集合 \Omega = \{x_i \mid i \in I\subset \mathbb{Z}\} 中取值，它的统计特性由概率分布给出。
我们用 p_i 来表示取到第几个 x_i ，即:
每个离散元素概率取值和等于1，即:
数学期望
方差
连续随机变量
我们有一个连续的概率密度函数，在某点 x0 的概率密度值定义为：
其统计特性由概率密度函数 p(x) 来刻画，具体表现为:
- 概率密度函数值一定为正
- 区间概率等于区间积分
- 概率密度函数的总积分为 1
- 分布函数 F(x) 定义为
数学期望
方差
对于高斯概率密度函数分布，约有95%的变量取值落在 E[X] 的两侧 2\sigma 的范围内，即 [E[X]-2\sigma, E[X]+2\sigma] 区间之中。
现在我们分别探讨完了连续和离散随机变量的公式，我们想做的是，用一种相同的形式来同时表示离散和连续随机变量的分布律
假设我们有一个离散随机变量 X，其可能取值为 x_1, x_2, ..., x_n，概率简化为 p_i = P[X = x_i]。则它的离散的概率分布可以表示为：
我们下面给出证明
补充知识，狄拉克 δ 函数的特性是：
特别地，当我们对某一区间 J 积分时，有：
这一性质表明，狄拉克函数可以挑选出 x_i
推导过程:
对于离散随机变量 X，如果 \{x_1, x_2, ..., x_n\} 是 X 的所有可能取值，那么
对于任意集合（或区间） J，X 落入其中的概率为 在这个集合中 x_i 概率的累加
在连续型分布中，概率密度函数 p(x) 满足：
我们想用连续型分布公式来类比离散情况的形式，因此引入狄拉克函数
未完成
对于离散变量，我们对其区间取一部分，然后计算 x 落在这个区间 J 的概率为:
然后我们用连续方式来写出区间概率公式:
将上面的离散分布形式代入
由于概率是具体的数值，所以可以提到积分外，交换顺序：
∫_J δ(x - x_i) dx 的值取决于 x_i 是否在集合 J 中:
因此:
这与离散随机变量的基本定义完全一致。当 X 的取值在集合 J 内时，其概率就是落在该集合内的点的所有概率质量之和。