随着高维、多模态数据的爆炸式增长,传统特征处理方法已难以应对复杂的数据结构。

特征提取:旨在从原始数据(如图像光谱、医疗信号)中挖掘潜在模式,转化为可被模型识别的特征向量;

特征选择:则通过过滤策略去除冗余信息,提升模型效率与泛化能力,如在海量基因数据中识别关键致病因子;

特征融合:聚焦于多模态数据的协同建模,例如将自动驾驶中的激光雷达与视觉信息结合,增强语义理解。

从工业故障预测到跨语言翻译,特征工程正驱动机器学习迈向“知识增强”新阶段。本文将结合最新研究,探讨其在高维函数数据、复值信号、多模态视频生成等领域的创新应用,揭示特征工程如何强化智能系统的底层表征能力。

为助力论文选题,我整理了相关文献合集工72篇,包含特征提取、特征选择、特征融合以及交叉方向如多尺度、时空特征融合等等,欢迎参考!

【论文1:特征选择】A New Computationally Efficient Algorithm to solve Feature Selection for Functional Data Classification in High-dimensional Spaces

On the left, a sample of 50 curves from the first feature of the design matrix X (top) and the 10 non-zero B coefficients (bottom) are displayed for the given scenario with n = 300, p = 800, p0 = 10. On the right, the SHARE project timeline is depicted

On the left, a sample of 50 curves from the first feature of the design matrix X (top) and the 10 non-zero B coefficients (bottom) are displayed for the given scenario with n = 300, p = 800, p0 = 10. On the right, the SHARE project timeline is depicted

研究方法

Algorithm DAL Method

Algorithm DAL Method

在高维空间中进行功能数据分类的特征选择研究时,该论文提出了 FSFC 方法。此方法先构建包含逻辑损失和功能特征的优化问题,再借助功能主成分(FPC)简化特征复杂度并保留纵向特征,同时运用自适应双增强拉格朗日(DAL)算法求解优化问题,实现特征选择与分类 。

创新点

Simulation results

Experiment 1 (upper panel) and Experiment 2 (lower panel) SHARE results.

  1. 联合解决问题:能够同时对多变量纵向数据进行特征选择和分类,打破了传统方法难以在多变量功能数据框架下同时处理这两个任务的局限。

  2. 降低问题维度:有效识别关键变量,减少问题维度,特别适用于特征数量远超统计单元数量的高维场景,有助于缓解模型过拟合问题。

  3. 提高计算效率:利用FPC和创新的自适应DAL算法,充分发挥问题的稀疏结构,使计算效率大幅提升,可处理大规模特征数据,且计算成本不依赖于总特征数,仅与活跃特征数有关。

  4. 增强模型性能:FSFC既可以单独作为有效的分析工具,也能作为预处理步骤提升其他机器学习和深度学习方法的性能,在多种场景下都展现出良好的效果。

论文链接:https://arxiv.org/abs/2401.05765

【论文2:特征提取】TOPS-speed complex-valued convolutional accelerator for feature extraction and inference

Illustration of the complex-valued convolution process.

Illustration of the complex-valued convolution process.

研究方法

Operation principle of the CVOCA

Operation principle of the CVOCA

这篇论文提出了一种复杂值光学卷积加速器(CVOCA)用于特征提取。其研究理论方法是,通过 “合成波长” 方法构建复值权重,利用复值电光调制器(CVEOM)对输入数据和内核权重进行电光调制,通过时间 - 波长交织实现高速卷积计算。

创新点

Experimental results of CVOCA with input data Xa

Experimental results of CVOCA with input data Xb. a

  1. 创新数据映射技术实现特征提取:采用创新的数据映射技术,如CVEOM和波长合成技术,能够快速将幅度和相位信息编码到模拟物理硬件上,实现对复值数据或波的特征提取,为实时处理相关数据提供可能。

  2. 优化性能提升计算速度:在推理任务中实现了更高的单核计算速度,得益于复值运算带来的数据速率提升和额外并行性,在手写数字识别任务中的计算速度远超先前工作。

  3. 应对复杂任务强化实际应用:不仅在基准数据集任务中得到验证,还能处理卫星捕获的复值SAR图像这种复杂任务,展示了在地球观测和遥感等实际应用中的实用性。 

论文链接:https://www.nature.com/articles/s41467-024-55321-8

【论文3:特征融合】ECHOVIDEO: IDENTITY-PRESERVING HUMAN VIDEO GENERATION BY MULTIMODAL FEATURE FUSION

Sampling results of EchoVideo.

Sampling results of EchoVideo.

研究方法

Overall architecture of EchoVideo

Illustration of facial information injection methods

论文提出 EchoVideo 模型,基于扩散 Transformer(DiT)框架,通过多模态特征融合模块 IITF整合输入人脸图像的高层语义特征(如面部结构、身份细节)与文本提示语义,过滤遮挡、光照等无关信息;采用两阶段训练策略,第一阶段利用 IITF 学习高层身份特征,第二阶段随机引入浅层面部视觉信息(VAE 编码特征),平衡细节保真度与对浅层信息的依赖,实现面部身份与全身特征的一致生成。

创新点

Qualitative results

Qualitative results

  1. 多模态特征融合模块IITF:首次融合文本语义、图像语义与面部身份特征,通过面部特征对齐(映射局部细节特征至高层语义空间)和条件特征对齐(统一文本与面部特征的语义引导),解决模态间语义冲突,生成身份一致的视频内容。

  2. 两阶段训练策略:通过随机丢弃浅层面部视觉信息,迫使模型优先学习高层语义特征,避免“复制-粘贴”伪影,同时在训练后期引入浅层信息增强细节保真度,提升面部表情自然度与多视角一致性。

  3. 端到端身份保持框架:无需额外姿势控制信息,仅通过文本提示即可保留输入图像中的全身特征(如服装、发型),扩展身份保持范围至全身,降低用户操作门槛。

论文链接:https://arxiv.org/pdf/2501.13452

 

 

 

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐