专利交易市场

本发明公开了一种基于神经网络敏感性分析的微表情识别方法。本发明首先构造一个基础的深度神经网络并在ImageNet数据集上进行预训练，再在宏表情数据集CK+上进行微调。接着，使用神经网络敏感性分析工具TCAV量化地分析该模型在表情判别过程时，人脸感兴趣区域在各层的敏感性。本发明提取TCAV分数最高层的输出，采用特征融合技术设计新的网络结构，并在微表情数据集上进行迁移学习，得到针对微表情识别的网络模型。本发明能有效提高微表情种类识别的性能。

本发明涉及一种基于双流卷积神经网络的虚拟学习环境微表情识别与交互方法，包括以下步骤：S1：微表情数据的预处理：对微表情视频进行欧拉视频放大并抽取图像序列，对图像序列进行人脸定位并裁剪，得到微表情的RGB数据；将欧拉视频放大后的数据提取光流信息，得到微表情的光流图像；S2：将预处理后的数据分为训练集和测试集两部分并使用迁移学习的方法构建双流卷积神经网络，以学习到微表情的空间与时域信息；S3：将双流卷积神经网络的输出进行最大值融合，以增强识别准确率，得到最终的微表情识别模型；S4：使用微表情识别模型创建虚拟学习环境交互系统，并通过Kinect获取用户面部图像序列进行微表情识别任务。