微表情是一种短暂的、微弱的、无意识的面部微表情,持续时间往往在0.5s内,能够揭示人类试图隐藏的真实情绪。微表情识别的研究旨在让机器有足够的智能,能够从人脸视频序列中识别人类的真实情绪。然而由于微表情持续时间短、面部肌肉运动强度低,对其进行准确的表征与识别是一项极具挑战性的任务。为了促进心理学领域和计算机视觉领域针对微表情的进一步研究,由中国图象图形学学会(CSIG)和中国科学院心理研究所举办、CSIG机器视觉专业委员会、CSIG情感计算与理解专业委员会和中科院青促会心理所小组联合承办,中国科学院心理研究所的王甦菁博士组织一系列云上微表情的学术活动。
第四十四期云上微表情于2023年09月27日晚上7点进行,由中国科学院心理研究所王甦菁老师团队的李婧婷博士主持。此次讲座的主题为“图神经网络之于微表情检测与识别”,邀请到来自中国科学技术大学陈恩红教授团队的在读博士生殷述康和张一鸣对相关工作进行介绍。
殷述康,中国科学技术大学大数据学院在读博士生,导师为陈恩红教授,主要研究方向:智能情感交互,多模态模型。
报告题目:AU-aware graph convolutional network for Macro- and Micro-expression spotting
报告摘要:
在长视频中进行自动微表情检测是微表情分析中的一个关键步骤。然而由于微表情的关键特性:持续时间短暂、强度低,微表情检测任务具有很大挑战性。在解决该问题时,先前的工作通常疏于考虑人脸的结构、表情与相关面部肌肉之间的对应关系。为了提高微表情检测的性能,本文试图通过建模面部感兴趣区域(ROIs)之间的关系来提取更精细的空间特征。具体来说,我们提出了一种基于图卷积的网络,称为动作单元(AU)感知图卷积网络(AUW-GCN)。此外,为了解决小规模数据集的问题,我们将AU相关统计信息编码到网络中,从而注入先验信息。实验表明,我们的结果优于基线方法,并在两个基准数据集CAS(ME)2和SAMM-LV中实现了新的SOTA性能。相关代码已开源。
参考文献:
Yin, S., Wu, S., Xu, T., Liu, S., Zhao, S., & Chen, E. (2023, July). AU-aware graph convolutional network for Macro- and Micro-expression spotting. In 2023 IEEE International Conference on Multimedia and Expo (ICME) (pp. 228-233). IEEE.
张一鸣,中国科学技术大学大数据学院在读博士生,师从陈恩红教授。主要研究方向为多模态微情感分析、情感人机交互。
报告题目:Adaptive Graph Attention Network with Temporal Fusion for Micro-Expressions Recognition
报告摘要:
微表情识别(MER)在微反应分析以及心理学领域都有着广阔的应用前景。目前,基于图神经网络的模型由于其在区域化分析人脸方面的优势,已成为MER的一类重要方法。然而,如何从微表情视频中构建一个图还有待研究。为了解决这个问题,我们设计了一个具有时间融合的自适应图注意力网络来对面部感兴趣区域之间的动态关系进行建模。具体来说,我们采用基于光流的特征而非低层次的像素信息作为图神经网络的输入。我们提出了一个自适应图注意力网络来从微表情视频中建立可学习的空间图。在SMIC-HS、CASME II和SAMM数据集上的大量实验已经证明了我们所提出方法的有效性,并且它成为目前第一个在CASME II上的3类MER测试中,UF1和UAR都超过0.90的基于图的MER模型。
参考文献:
Zhang, Y., Wang, H., Xu, Y., Mao, X., Xu, T., Zhao, S., & Chen, E. (2023, July). Adaptive Graph Attention Network with Temporal Fusion for Micro-Expressions Recognition. In 2023 IEEE International Conference on Multimedia and Expo (ICME) (pp. 1391-1396). IEEE.