1. 基本信息

  • 标题: Fourier Convolution Block with global receptive field for MRI reconstruction (具有全局感受野的傅里叶卷积块用于MRI重建)

  • 论文来源:https://www.sciencedirect.com/science/article/abs/pii/S1361841524002743

2. 核心创新点

  1. 提出傅里叶卷积块 (FCB): 设计了一个即插即用的傅里叶卷积算子,通过在频域进行操作,以较低的计算成本实现了与图像大小相同的全局感受野,有效解决了传统CNN在MRI重建中感受野受限的问题。

  2. 优化FCB以适用深度网络: 将FCB与深度可分离卷积(depth separable convolution)结合,显著减少了FCB的参数量和内存需求,使其能够高效地嵌入到现代深度CNN架构中。

  3. 创新的两阶段训练策略: 提出一种新颖的重参数化(re-parameterization)训练方法。网络首先使用标准3x3卷积进行训练以捕获局部特征,然后将训练好的卷积核重参数化为傅里叶卷积核并进行微调,从而稳定地融合局部与全局信息。

➔➔➔➔点击查看原文,获取本文及其他精选即插即用模块集合https://mp.weixin.qq.com/s/z6eFOuyB9cA-ibgB3r9dlA

3. 方法详解

整体结构概述

该方法的核心是提出一个即插即用的傅里叶卷积块(FCB),用于替换CNN模型中传统的空间卷积层。FCB通过将特征图变换到频域,与一个可学习的频域核进行逐元素相乘,再通过逆变换返回空间域,从而实现全局卷积。为了在深度网络中高效应用,FCB被整合到深度可分离卷积结构中,并采用一种特殊的重参数化训练策略。

展示传统卷积核与等效的FCB频域核的对比

展示传统卷积核与等效的FCB频域核的对比

步骤分解

  1. 傅里叶卷积:

    • 与传统卷积在空间域进行局部操作不同,傅里叶卷积在频域执行。输入特征图 x 首先通过快速傅里叶变换(FFT)转换到频域。

    • 在频域中,特征图的频谱与一个可学习的、与特征图大小相同的频域核 W 进行逐元素相乘。

    • 最后,通过逆快速傅里叶变换(IFFT)将结果转换回空间域,得到输出 y

    • 该过程的数学公式为:

    • 此操作在理论上等效于一次与图像大小相同的全局空间卷积,因此能够捕获长距离依赖关系,这对于消除MRI欠采样造成的全局混叠伪影至关重要。

  2. 深度可分离结构:

    • 为了解决全局频域核带来的巨大参数量问题,FCB被用作深度可分离卷积中的深度卷积(Depth-wise, DW)层。

    • 原始的卷积块被替换为一个包含FCB (DW)逐点卷积 (Point-wise, PW)恒等快捷连接 (Identity Shortcut) 的新模块。

    • 由于深度可分离卷积的主要参数集中在1x1的逐点卷积上,这种设计使得FCB能够在不引入过多参数的情况下被集成到深层网络中。

展示基线模型(如UNet, MoDL)的架构以及如何将标准卷积块替换为包含FCB的深度可分离卷积块

展示基线模型(如UNet, MoDL)的架构以及如何将标准卷积块替换为包含FCB的深度可分离卷积块

  1. 重参数化训练策略:
    • 第一阶段(局部特征学习): 网络首先使用传统的3x3空间卷积(配合循环填充)进行训练,直到收敛。这一步旨在让网络充分学习图像的局部模式和纹理。

    • 第二阶段(全局感受野微调): 第一阶段训练好的3x3卷积核通过零填充和离散傅里叶变换,被重参数化(转换)为FCB所需的频域核 W,作为第二阶段训练的初始权重。

    • 其转换公式为:

    • 随后,整个网络以较小的学习率进行微调。这一策略使得模型能够平滑地从学习局部特征过渡到融合全局信息,避免了直接训练大感受野模型可能带来的优化难题。

4. 即插即用模块作用

适用场景

该FCB模块可广泛应用于各种基于CNN的MRI重建任务中,包括但不限于:

  • 不同网络架构: 可作为即插即用模块嵌入端到端模型 (如 U-Net) 和基于模型的展开网络 (如 MoDL, VS-Net)。

  • 不同加速率: 在8倍和12倍等高加速率下均表现出色。

  • 不同采样模式: 适用于随机泊松采样笛卡尔采样径向采样等多种k空间采样模式。

  • 噪声鲁棒性: 在含高斯噪声的数据上仍能保持稳健的重建性能。

  • 多模态/多对比度数据: 适用于脑部(T1, T2, FLAIR等)和膝关节(PD加权)等不同身体部位和对比度的MRI数据。

主要作用

  • 增强全局信息捕获能力: 替代了传统CNN的局部卷积,通过全局感受野有效消除由k空间欠采样引起的全局分布的混叠伪影。

  • 提升重建细节与纹理: 相比基线模型,能恢复更多精细的图像细节和纹理,减少伪影和错误的纹理生成,重建结果更接近“金标准”。

  • 降低计算成本: 相较于通过堆叠大尺寸卷积核来扩大感受野的方法,FCB在实现全局感受野的同时,计算开销更低,运行时间更短。

  • 提升模型性能: 在PSNR和SSIM等客观指标上全面超越了使用传统卷积的基线模型,并且性能优于ViT等同样具有大感受野的主流模型。

总结

FCB是一个高效、低成本的“全局视野插件”,它通过傅里叶变换赋予标准CNN捕捉全局信息的能力,专为解决MRI重建中的全局伪影问题而设计,显著提升了重建图像的质量与细节。

➔➔➔➔点击查看原文,获取本文及其他精选即插即用模块集合https://mp.weixin.qq.com/s/z6eFOuyB9cA-ibgB3r9dlA

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐