摘要
本文对信念函数理论进行了系统介绍。信念函数是一种处理不确定性信息的数学框架,与传统概率方法不同,能够考虑多种不同形式的不确定性。本文涵盖了信念函数的理论基础,包括基本置信分配、组合规则和决策框架,并讨论了其在图像处理、定位问题和深度学习中的应用。
关键词:信念函数,Dempster-Shafer理论,信息融合,不确定性,质量函数
一、引言
1.1 信息融合的动机与挑战
信息融合任务可分为两类:低层任务直接处理传感器数据(目标检测、跟踪、分类),高层任务涉及认知决策层面(身份识别、威胁评估、态势评估)[1]。
进行信息融合的原因在于:现实中不存在完美的数据源,没有任何单一信息源能够让我们确定地做出正确决策。融合可以利用源的部分冗余性和互补性,细化分类结果、降低整体不确定性[2]。然而有效融合有一个核心挑战:必须正确建模每个数据源的各种不完美性,而这种不确定性不一定只是概率意义上的。
1.2 不确定性的分类
Klir和Yuan(1995)提出的分类框架区分了四种不确定性类型:模糊性指类别边界不清晰,无法做出细微的区分;歧义性指一个观测可能对应多种解释;非特异性指存在多个未被明确指定的备选方案;不一致性指不同证据支持不同结论,导致存在分歧。
信息质量包含五个维度:特异性(精确程度)、一致性(内部是否矛盾)、正确性(与真实情况的符合程度)、可信度(表面上是否令人信服)、相关性(对当前任务的有用程度)。
1.3 理论发展历程
1968年,Dempster发表"A generalization of Bayesian inference"[8],从统计推断角度提出多值映射下的概率推理方法。1976年,Shafer出版专著"A Mathematical Theory of Evidence",从认识论不确定性角度系统阐述了理论框架。两项工作共同奠定了Dempster-Shafer证据理论的基础。1994年,Smets提出可转移置信模型(TBM),为信念函数提供不依赖概率解释的理论基础。
经过数十年发展,信念函数理论在理论层面发展了各种推理工具(组合规则、冲突分析、图模型表示等),在应用层面已广泛应用于分类、回归、计算机视觉、滤波跟踪等领域。
1.4 核心思想与数学本质
信念函数理论能够表示模糊、不精确且可能存在不确定性的信息。传统概率论要求对每个可能结果给出精确概率值,而信念函数允许显式表示未知的认知状态。
从数学性质看,信念函数是非加性测度。传统概率满足 P(A) + P(\bar{A}) = 1,而信念函数打破这一约束,允许 Bel(A) + Bel(\bar{A}) < 1,差额部分代表对 A 和 \bar{A} 都没有明确支持的不确定性。
二、证据的表示方法
2.1 辨识框架与幂集
辨识框架 \Omega 定义了问题所涉及的所有可能假设的集合,在离散情况下:
各假设必须满足互斥性。封闭世界假设下,真实答案必属于 \Omega 中某元素;开放世界假设下,\Omega 可能非穷尽,真实答案可能不在预定义的假设集合中。
信念函数在幂集 2^\Omega 上操作,幂集定义为:
该集合包含 2^{|\Omega|} 个元素。幂集元素分为两类:单元素假设(基数为1)表示精确判断,析取假设(基数大于1)表示不精确判断。
2.2 基本置信分配
基本置信分配(BBA)通过质量函数 m^\Omega 定义,满足:
概率分布定义在 \Omega 上,而质量函数定义在 2^\Omega 上,可以将置信度直接分配给包含多个元素的集合,从而显式表示不精确性。m^\Omega(A) 表示分配给假设集合 A 的置信度,支持"真实答案在 A 中"但无法在 A 内部进一步区分。
焦点元素定义为获得非零质量分配的假设集合:
2.3 应用案例:盗窃调查
以盗窃调查为例说明如何构建质量函数。辨识框架 \Omega = \{A, B, C\}(Arthur、Bastien、Chloé),其中A、B为男性。三个证人提供证词:T_1 称小偷是男性(80%可靠),T_2 称Arthur有不在场证明(50%概率说谎),T_3 有90%把握认为不是Bastien。
转化为质量函数:
不可靠时剩余质量归于 \Omega(无知状态),说谎时质量转移到原假设的补集。构建质量函数后,下一步是使用组合规则(如第三节介绍的Dempster规则或Smets合取组合)将三个证人的证词融合,得到综合的质量函数。最后,通过第四节介绍的决策方法(如Pignistic变换或基于信任集合的准则)来判断谁最可能是小偷。
2.4 等价表示形式
可信度函数累加所有被 A 包含的非空焦点元素的质量,给出支持程度的下界估计:
似然度函数累加所有与 A 有交集的焦点元素的质量,给出支持程度的上界估计:
对于正规BBA,pl^\Omega(A) = 1 - bel^\Omega(\overline{A})。可信度和似然度共同界定支持程度的区间 [bel^\Omega(A), pl^\Omega(A)]。
共同度函数定义为:
各函数间存在一一对应关系,可通过Möbius变换相互转换。
2.5 条件化与去条件化
当获知真实解必在 A 中时,需要对质量函数进行条件化。条件质量函数定义为:
每个焦点元素的质量被转移到其与 A 的交集上。条件化需满足:m^\Omega[A] 是 m^\Omega 的特化,pl[A](\overline{A}) = 0,在满足上述条件的解中承诺程度最低。
逆操作称为去条件化,满足:
条件化在滤波和跟踪应用中尤为重要,当获得新的约束信息时,可以通过条件化更新当前的置信状态。
三、证据的组合
3.1 Smets合取组合
当融合来自两个独立信息源的证据时[9],Smets合取组合规则是最常用的方法。设 m_1^\Omega 和 m_2^\Omega 是两个质量函数,其合取组合定义为:
在共同度函数表示下,合取组合有更简洁的形式:
去组合是组合的逆操作:q_{1 \oslash 2}^\Omega(A) = q_{1 \cap 2}^\Omega(A) / q_2^\Omega(A)。
3.2 Dempster规则
Smets合取组合可能产生次正规的质量函数,即 m_{1 \cap 2}^\Omega(\emptyset) > 0。这是因为不兼容的 B 和 C 的交集为空。Dempster规则通过归一化处理得到正规的质量函数。定义冲突因子:
当 K < 1 时,Dempster规则定义为:
Dempster规则将空集的质量重置为0,通过除以 (1-K) 对所有质量进行归一化。Smets规则的意义在于:不自动归一化,可以观察空集上的质量来判断是否存在建模错误。
Dempster规则满足交换律、结合律,空泛型质量函数 m_\Omega^\Omega 是中性元素。冲突因子 K \in [0, 1] 度量冲突程度,K = 0 表示完全一致,K = 1 表示完全冲突。
3.3 析取组合
析取组合规则适用于知道至少有一个信息源可靠但不知道具体是哪个的情况[9]:
析取组合满足交换律、结合律,中性元素是空集上的范畴型质量函数。
3.4 Zadeh悖论
设 \Omega = \{\omega_1, \omega_2, \omega_3\},两个高度冲突的质量函数:m_1^\Omega(\omega_1) = 0.9,m_1^\Omega(\omega_3) = 0.1,m_2^\Omega(\omega_2) = 0.9,m_2^\Omega(\omega_3) = 0.1。
Smets合取组合产生 m(\emptyset) = 0.99,m(\omega_3) = 0.01。Dempster规则归一化后 m(\omega_3) = 1,这导致悖论:尽管两个信息源都只是弱支持 \omega_3,但组合结果却将所有置信度分配给 \omega_3。这个悖论凸显了谨慎处理高度冲突证据的重要性。
四、基于置信函数的决策
4.1 贝叶斯决策框架
决策问题的基本设定是从动作集合 \mathscr{A} = \{a_1, \ldots, a_n\} 中选择最优动作。设 \lambda(a_i, \omega_j) 为在真实假设为 \omega_j 时采取动作 a_i 所产生的代价,贝叶斯最优决策选择使期望代价最小的动作:
若用效用 u(a_i, \omega_j) 替代代价,则选择使期望效用最大的动作。
4.2 质量函数到概率的转换
贝叶斯决策需要概率分布,而置信函数框架下只有质量函数,因此需要定义转换方法。
Smets(2005)提出的Pignistic变换定义为:
核心思想是将复合假设的质量均匀分配给其包含的各单元素假设。对于焦点元素 A,其质量 m^\Omega(A) 被平均分配给 A 中的 |A| 个元素。
Cobb和Shenoy(2006)提出的似然度变换[6]基于似然度定义:
该变换与合取组合和去组合操作可交换。
4.3 基于信任集合的决策
与其选择特定转换方法,可考虑与置信函数相容的所有概率分布构成的信任集合:
由于存在多个相容概率分布,期望效用成为区间。下界和上界分别为:
Maximin准则(悲观)选择使期望效用下界最大的动作。Maximax准则(乐观)选择使期望效用上界最大的动作。Hurwicz准则通过参数 \gamma \in [0, 1] 在两者间折中:
4.4 分类问题中的0-1效用
在分类问题中,动作 a_i 表示决策为类别 \omega_i,效用函数为 u(a_i, \omega) = \mathbb{1}[\omega = \omega_i]。因此期望效用的下界和上界分别等于可信度和似然度:
最大化 \underline{\mathbb{E}} 等价于最大化可信度(悲观策略),最大化 \overline{\mathbb{E}} 等价于最大化似然度(乐观策略)。
五、应用概述
5.1 图像处理应用
图像处理中的典型问题包括特征检测、图像分割和语义分割[2][3]。在像素级别,每个像素 p 需要在辨识框架 \Omega 上做出决策。每个像素对应一个质量函数 m^\Omega,整幅图像对应一个质量函数场。当存在多个信息源时,每个像素的最终质量函数通过组合各源质量函数得到。
在图像分割中,邻域像素的标签配置构成一个信息源。如果邻居大多属于某类别,该像素也很可能属于该类别。这种空间上下文信息通过邻域质量函数 m_N^\Omega 建模。
Bloch(2008)提出使用数学形态学算子确定复合假设上的置信度[4]。似然度函数与可信度函数之间的对偶关系对应于腐蚀与膨胀操作之间的对偶关系。腐蚀操作缩小高置信区域,被腐蚀掉的质量转移到复合假设上,表示边界处不确定性增加。
5.2 定位问题应用
GNSS定位在城市峡谷等受约束环境中面临挑战[7]。信号分为直视信号和多径信号,障碍物影响信号传播时间测量导致定位误差,非直视信号和多径信号被视为异常值。
Drevelle和Bonnifait(2011)提出的q-松弛方法[7]基于假设:在 N 个信息源中,只有 r 个源需要被排除作为异常值。对于 N 元组 \boldsymbol{A} = \{A_1, A_2, \ldots, A_N\},q = N - r 松弛结果提供了对异常值的容忍性。
证据RANSAC方法[5]考虑观测的不精确性以调节权重,通过质量函数表示待组合的观测。使用一致性度量或冲突度量及先验阈值估计解,通过图遍历在解空间中子采样。
5.3 深度学习应用
证据神经网络将置信函数理论与深度学习结合,输出质量函数而非传统概率分布。证据CNN分类器在标准CNN骨干网络后添加Dempster-Shafer层和效用层。CNN骨干网络提取特征向量,Dempster-Shafer层将其转换为质量函数,效用层基于质量函数进行决策。
效用层使用效用矩阵进行不精确决策。核心思想是:预测一个不精确但正确的标签优于预测一个精确但错误的标签。例如,若真实标签为"猫",预测 \{\text{猫}, \text{狗}\} 优于预测 \{\text{狗}\}。
深度学习需要大规模高质量标注数据集,但现实数据集中标签噪声比例通常在8%到38%之间。基于置信函数处理噪声标签的方法包括:鲁棒架构设计、损失函数调整、样本评估与选择。
六、结论
本文系统介绍了信念函数理论,涵盖其理论基础和实际应用。该理论为处理各种形式的不确定性提供了灵活的框架,包括模糊性、歧义性、非特异性和不一致性。通过Dempster规则和Smets合取规则等组合规则,可以有效融合来自多个信息源的证据。基于信任集合的决策框架为分类和其他任务提供了鲁棒的方法。在图像处理、定位和深度学习中的应用展示了信念函数理论在实际场景中的多功能性和有效性。
参考文献
[1] C. André, S. Le Hégarat-Mascle, and R. Reynaud, "Evidential framework for data fusion in a multi-sensor surveillance system," Engineering Applications of Artificial Intelligence, vol. 43, pp. 166-180, 2015.
[2] A. Bendjebbour, Y. Delignon, L. Fouque, V. Samson, and W. Pieczynski, "Multisensor image segmentation using Dempster-Shafer fusion in Markov fields context," IEEE Trans. on Geoscience and Remote Sensing, vol. 39, no. 8, pp. 1789-1798, 2001.
[3] I. Bloch, "Some aspects of Dempster-Shafer evidence theory for classification of multi-modality medical images taking partial volume effect into account," Pattern Recognition Letter, vol. 17, no. 8, pp. 905-919, 1996.
[4] I. Bloch, "Defining belief functions using mathematical morphology-application to image fusion under imprecision," Int. J. of Approximate Reasoning, vol. 48, no. 2, pp. 437-465, 2008.
[5] S. Choi, T. Kim, and W. Yu, "Performance evaluation of RANSAC family," J. of Computer Vision, vol. 24, no. 3, pp. 271-300, 1997.
[6] B. R. Cobb and P. P. Shenoy, "On the plausibility transformation method for translating belief function models to probability models," Int. J. of Approximate Reasoning, vol. 41, no. 3, pp. 314-330, 2006.
[7] V. Drevelle and P. Bonnifait, "A set-membership approach for high integrity height-aided satellite positioning," GPS solutions, vol. 15, no. 4, pp. 357-368, 2011.
[8] A. P. Dempster, "A generalization of Bayesian inference," J. of the Royal Statistical Society: Series B (Methodological), vol. 30, no. 2, pp. 205-232, 1968.
[9] T. Denœux, "Conjunctive and disjunctive combination of belief functions induced by nondistinct bodies of evidence," Artificial Intelligence, vol. 172, no. 2-3, pp. 234-264, 2008.