Administrator
发布于 2024-11-11 / 0 阅读
0
0

傅里叶综合

初步说明:复矩阵。 如果 M 是一个复元素的矩阵,那么 M^\dagger 表示它的共轭转置:M^\dagger = (M^{\top})^\ast = (M^\ast)^{\top}。当 M = M^\dagger 时,我们称 M 为厄米特对称矩阵。如果 M 的元素都是实数,则有 M^\dagger = M^{\top}

初步结果:梯度和 Hessian 矩阵。M 是一个 N \times N 的厄米特对称方阵,m 是一个大小为 N 的向量。定义从 \mathbb{C}^N\mathbb{R} 的映射 \varphi\psi,对于任意 u \in \mathbb{C}^N

\varphi(u) = u^\dagger M u \quad \text{和} \quad \psi(u) = m^\dagger u + u^\dagger m

它们都是二次可微的。它们的梯度分别为:

\frac{\partial}{\partial u} \varphi(u) = 2 M u \quad \text{和} \quad \frac{\partial}{\partial u} \psi(u) = 2 m

它们的 Hessian 矩阵分别为:

\frac{\partial^2}{\partial u^2} \varphi(u) = 2 M \quad \text{和} \quad \frac{\partial^2}{\partial u^2} \psi(u) = 0

核磁共振成像(MRI)是一种现代医学成像技术,能够提供高分辨率的图像。从图像重建所涉及的数据处理角度来看,该问题属于“傅里叶综合”(FS)问题的范畴:观测数据集代表了未知对象的不完整(且受噪声污染)的傅里叶变换系数集。

MRI 图像重建问题是一个病态问题

MRI 图像重建问题是病态的,因为我们无法获得目标对象的完整傅里叶变换系数集。由于噪声和实际操作的限制,我们只能获取有限且不完整的频率信息,这意味着在频率域中,特别是高频部分的信息缺失。

因此,在尝试通过反卷积重建图像时,可能存在多个可能的解,解的唯一性无法保证。这使得问题变得病态。

频率的不均匀观测在重建图像中的体现

频率的不均匀观测导致重建图像中缺失某些频率成分。如果低频信息缺失,图像的整体结构信息会丢失;如果高频成分缺失,图像会变得模糊。此外,这可能导致图像中亮度和对比度的不均匀,或者产生伪影和失真。

一维傅立叶综合问题描述

在实践中,FS 问题是在二维或三维域上提出的。然而,我们在一维域上处理它。数学上,我们可以将问题表述为:

y = T F x + e, \quad (4)

其中:

  • y \in \mathbb{C}^M 是包含 M 个观测数据的向量,x \in \mathbb{C}^N 是包含 N 个未知数的向量,e \in \mathbb{C}^M 是包含 M 个测量误差的向量。
  • F 是归一化的 DFT(离散傅里叶变换)矩阵:F^\dagger F = F F^\dagger = I,其中 I 是大小为 N 的单位矩阵。此外,它是一个对称矩阵,F^{\top} = F
  • T 是截断矩阵:它从 F x 中提取被观测到的傅里叶系数,丢弃未被观测到的。例如,如果 N = 8M = 3,系统只观测第 1、第 2 和第 4 个系数,那么有:
T = \begin{bmatrix} 1 & 0 & 0 & 0 & 0 & 0 & 0 & 0 \\\\ 0 & 1 & 0 & 0 & 0 & 0 & 0 & 0 \\\\ 0 & 0 & 0 & 1 & 0 & 0 & 0 & 0 \\\\ \end{bmatrix}

不同情况下的讨论

如果所有系数都被观测到或者只观测到每两个系数中的一个,对应矩阵 T 的表达式如下:

(1) 如果所有 N 个傅里叶系数都被观测到,那么 M = N。因此,矩阵 T 是一个 N \times N 的单位矩阵 I_N

T = I = \begin{bmatrix} 1 & 0 & \cdots & 0 \\\\ 0 & 1 & \cdots & 0 \\\\ \vdots & \vdots & \ddots & \vdots \\\\ 0 & 0 & \cdots & 1 \\\\ \end{bmatrix}

(2) 如果只观测到每两个系数中的一个(即观测位置为 1, 3, 5, \dots 的系数),那么 M = \frac{N}{2}(假设 N 为偶数),T 是一个 \frac{N}{2} \times N 的矩阵,在对应于被观测到的傅里叶系数的位置上为 1,其余为 0:

T = \begin{bmatrix} 1 & 0 & 0 & 0 & \cdots & 0 \\\\ 0 & 0 & 1 & 0 & \cdots & 0 \\\\ \vdots & \vdots & \vdots & \vdots & \ddots & \vdots \\\\ 0 & 0 & 0 & 0 & \cdots & 1 \\\\ \end{bmatrix}

前置计算

接下来我们计算矩阵 T^{\top} TT T^{\top} 和向量 \bar{y} = T^{\top} y

N = 8M = 3,观测位置在第 1、第 2 和第 4 个系数为例:

T = \begin{bmatrix} 1 & 0 & 0 & 0 & 0 & 0 & 0 & 0 \\\\ 0 & 1 & 0 & 0 & 0 & 0 & 0 & 0 \\\\ 0 & 0 & 0 & 1 & 0 & 0 & 0 & 0 \\\\ \end{bmatrix}

则有:

T^{\top} = \begin{bmatrix} 1 & 0 & 0 \\\\ 0 & 1 & 0 \\\\ 0 & 0 & 0 \\\\ 0 & 0 & 1 \\\\ 0 & 0 & 0 \\\\ 0 & 0 & 0 \\\\ 0 & 0 & 0 \\\\ 0 & 0 & 0 \\\\ \end{bmatrix}

矩阵 T^{\top} T 为:

T^{\top} T = \begin{bmatrix} 1 & 0 & 0 & 0 & 0 & 0 & 0 & 0 \\\\ 0 & 1 & 0 & 0 & 0 & 0 & 0 & 0 \\\\ 0 & 0 & 0 & 0 & 0 & 0 & 0 & 0 \\\\ 0 & 0 & 0 & 1 & 0 & 0 & 0 & 0 \\\\ 0 & 0 & 0 & 0 & 0 & 0 & 0 & 0 \\\\ 0 & 0 & 0 & 0 & 0 & 0 & 0 & 0 \\\\ 0 & 0 & 0 & 0 & 0 & 0 & 0 & 0 \\\\ 0 & 0 & 0 & 0 & 0 & 0 & 0 & 0 \\\\ \end{bmatrix}

矩阵 T T^{\top} 是一个 3 \times 3 的单位矩阵 I

T T^{\top} = I_{3 \times 3}

向量 \bar{y} 为:

\bar{y} = T^{\top} y

这实际上是在对应于被观测到的傅里叶系数的位置上放置观测数据,其余位置为零。

现在我们令 x_0 \in \mathbb{C}^N 为一种特殊情况, x = F^\dagger (I - T^{\top} T) F x_0。对于此 x,我们给出包含观测数据的 y 的表达式:

首先,计算 F x

F x = F F^\dagger (I - T^{\top} T) F x_0 = (I)(I - T^{\top} T) F x_0 = (I - T^{\top} T) F x_0

然后,

y = T F x + e = T (I - T^{\top} T) F x_0 + e = (T - T T^{\top} T) F x_0 + e

由于 T T^{\top} = I,因此:

y = (T - T) F x_0 + e = e

因此,观测数据 y 仅包含噪声 e,我们无法从 y 中获取关于 x_0 的任何信息。这表明在这种特殊情况下,无法使用观测数据 y 重建 x_0

傅里叶综合、内插-外推 和卷积

我们借助变量替换 \overset{\circ}{x} = F x,来证明 FS 问题 的确可以被表述为一个“内插-外推”问题。

首先使用替换 \overset{\circ}{x} = F x,则有:

y = T \overset{\circ}{x} + e

由于我们只观测到了部分傅里叶系数(内插),任务是估计完整的傅里叶系数集(外推)。这涉及对未知的傅里叶系数进行插值和外推,即在给定某些点的值的情况下,估计其他点的值,这是一个插值问题的本质。

然后我们再令 \tilde{x} = F^\dagger \bar{y}。并计算出 \tilde{x}x 之间的关系,以此来推导出 FS 问题也可以被表述为一个反卷积问题。

首先,\bar{y} = T^{\top} y,因此:

\tilde{x} = F^\dagger \bar{y} = F^\dagger T^{\top} y

由于 y = T F x + e,代入得:

\tilde{x} = F^\dagger T^{\top} T F x + F^\dagger T^{\top} e

因为 F^\dagger T^{\top} T F 是一个线性算子作用于 x,所以可以写成:

\tilde{x} = (F^\dagger T^{\top} T F) x + \tilde{e}

其中 \tilde{e} = F^\dagger T^{\top} e

这表明傅里叶综合问题也可以被视为一个反卷积问题,其中 F^\dagger T^{\top} T F 充当卷积矩阵。

因此反卷积任务 是从被模糊的信号 \tilde{x} 中恢复原始信号 x,其中模糊是由系统函数 F^\dagger T^{\top} T F 引起的。

经验估计

针对以上问题,我们提出一个 x 的经验估计量 \hat{x}_E,可以定义为:

\hat{x}_E = \tilde{x} = F^\dagger \bar{y}

即将未观测到的傅里叶系数设为零,用 \bar{y} 替换完整的傅里叶系数集,然后通过逆傅里叶变换获得 x 的估计。

我们让 \overset{\circ}{x}_E = F \hat{x}_E

\overset{\circ}{x}_E = F \hat{x}_E = F F^\dagger \bar{y} = \bar{y} = T^{\top} y

由于 \hat{x}_E\tilde{x},其表达式为:

\overset{\circ}{x}_E = \tilde{x} = (F^\dagger T^{\top} T F) x + F^\dagger T^{\top} e

这解释了为什么它可以被视为一个反卷积问题。在这种情况下,卷积导致图像模糊,细节丢失,分辨率下降。因此,由于傅里叶系数的不完整,经验估计量导致图像分辨率较低。

最小二乘估计方法

我们尝试使用最小二乘(LS)方法估计 x。我们从公式 (4) 引入一个准则 J_{\text{LS}}

J_{\text{LS}}(x) = (y - T F x)^\dagger (y - T F x) = \| y - T F x \|^2

J_{\text{LS}} 没有唯一的极小值点

注意

证明

J_{\text{LS}}(x) 求导:

\frac{\partial J_{\text{LS}}}{\partial x} = -2 F^\dagger T^{\top} (y - T F x) = 0

解得:

F^\dagger T^{\top} T F \hat{x} = F^\dagger T^{\top} y

即:

T F \hat{x} = y

由于 T 只观测部分傅里叶系数,这意味着矩阵 T F 是秩亏的。因此,方程 T F x = y 没有唯一解。这表明仅使用最小二乘方法无法获得 x 的唯一估计,需要引入正则化项以改善解的唯一性。

我们再计算 J_{\text{LS}}(\tilde{x})

由于 \tilde{x} = F^\dagger \bar{y} = F^\dagger T^{\top} y,则:

J_{\text{LS}}(\tilde{x}) = \| y - T F \tilde{x} \|^2 = \| y - T F F^\dagger T^{\top} y \|^2 = \| y - y \|^2 = 0

准则达到最小值 0,但这并不意味着 \tilde{x} 是原始信号的正确重建,表明仅使用最小二乘方法无法获得正确的唯一解。

带惩罚的最小二乘估计方法

现在我们尝试使用带惩罚的最小二乘(PLS)方法估计 x。我们引入一个惩罚项 P,考虑到 x 的连续样本之间的差异(在循环情况下,即 x_{N+1} = x_1

P(x) = \sum_{n=1}^{N} |x_{n+1} - x_n|^2 = x^\dagger D^\dagger D x

首先构建相应的 PLS 准则 J_{\text{PLS}}

J_{\text{PLS}}(x) = \| y - T F x \|^2 + \mu P(x) = \| y - T F x \|^2 + \mu x^\dagger D^\dagger D x

其中 \mu 是正则化参数,控制惩罚项的权重。

矩阵 D 的形式为:

D = \begin{bmatrix} -1 & 1 & 0 & 0 & \dots & 0 \\\\ 0 & -1 & 1 & 0 & \dots & 0 \\\\ \vdots & \vdots & \vdots & \ddots & \ddots & \vdots \\\\ 0 & 0 & 0 & \dots & -1 & 1 \\\\ 1 & 0 & 0 & \dots & 0 & -1 \\\\ \end{bmatrix}

D 是一个 N \times N 的循环差分矩阵,用于计算 x 中相邻元素的差值。

\mu 控制数据拟合项和平滑惩罚项之间的平衡:

  • \mu 较大时,惩罚项权重较高,更多地抑制高频噪声,但可能使图像细节模糊。
  • \mu 较小时,更侧重于数据拟合,但可能过度拟合噪声。

最小化 J_{\text{PLS}}(x),有:

\hat{x}_{\text{PLS}} = \arg \min_x \left( \| y - T F x \|^2 + \mu x^\dagger D^\dagger D x \right)

x 求导并令导数为零:

\frac{\partial J_{\text{PLS}}}{\partial x} = -2 F^\dagger T^{\top} \left( y - T F \hat{x}_{\text{PLS}} \right) + 2 \mu D^\dagger D \hat{x}_{\text{PLS}} = 0

解得:

\left( F^\dagger T^{\top} T F + \mu D^\dagger D \right) \hat{x}_{\text{PLS}} = F^\dagger T^{\top} y

因此,

\hat{x}_{\text{PLS}} = \left( F^\dagger T^{\top} T F + \mu D^\dagger D \right)^{-1} F^\dagger T^{\top} y

我们令 \overset{\circ}{x} _{\text{PLS}} = F \hat{x} _{\text{PLS}}

\overset{\circ}{x}_{\text{PLS}} = F \hat{x}_{\text{PLS}} = F \left( F^\dagger T^{\top} T F + \mu D^\dagger D \right)^{-1} F^\dagger T^{\top} y

由于 F F^\dagger = I,并且 F D F^\dagger 可以对角化 D,因此有:

\overset{\circ}{x}_{\text{PLS}} = \left( T^{\top} T + \mu F D^\dagger D F^\dagger \right)^{-1} T^{\top} y

因为 D 是循环差分矩阵,F D F^\dagger 会产生一个对角矩阵 \Lambda,所以:

F D^\dagger D F^\dagger = \Lambda^\dagger \Lambda = |\Lambda|^2

因此,

\overset{\circ}{x}_{\text{PLS}} = \left( T^{\top} T + \mu |\Lambda|^2 \right)^{-1} T^{\top} y
  • \mu \rightarrow 0 时,正则化项的影响消失,回到最小二乘准则。此时,解可能不唯一,且容易受到噪声影响。
  • \mu \rightarrow +\infty 时,惩罚项的权重极大,所有的频率成分都被抑制,分辨率极低,图像过于平滑,细节完全丢失。

时代不一样了,现在都用深度学习的方法,如卷积神经网络CNN,来自动提取数据特征,从而重建高分辨率的图像。缺点是训练数据要多,学习从不完整或受噪声污染的数据中恢复细节的能力,显著提高图像的分辨率和质量。


评论