一种基于多模态的驾驶员情绪检测的方法与流程
技术特征：
1.一种基于多模态的驾驶员情绪检测的方法，其特征在于，包括如下步骤：
2.根据权利要求1所述的一种基于多模态的驾驶员情绪检测的方法，其特征在于，所述s1具体包括：
3.根据权利要求1所述的一种基于多模态的驾驶员情绪检测的方法，其特征在于，所述s2具体包括：
4.根据权利要求1所述的一种基于多模态的驾驶员情绪检测的方法，其特征在于，所述s22具体包括：
5.根据权利要求1所述的一种基于多模态的驾驶员情绪检测的方法，其特征在于，所述s23具体包括：
6.根据权利要求1所述的一种基于多模态的驾驶员情绪检测的方法，其特征在于，所述s3具体包括：
7.根据权利要求1所述的一种基于多模态的驾驶员情绪检测的方法，其特征在于，所述s32具体包括：
8.根据权利要求1所述的一种基于多模态的驾驶员情绪检测的方法，其特征在于，所述s33具体包括：
9.其中，fbn为批量归一化后的特征，fdropout为应用dropout后的特征，p为dropout的保留概率。
技术总结
本发明公开了一种基于多模态的驾驶员情绪检测的方法，包括如下步骤：S1、通过摄像头和麦克风实时采集驾驶员的面部视频和语音数据；S2、利用mediapipe提取面部视频中的关键点，并且计算面部皮肤区域的RGB均值，通过POS模型计算心率变异值，利用散射变换方法处理信号，提取心率变异特征，使用mediapipe进行面部检测，提取面部区域图像，将面部区域图像resize到resnet18模型所需的大小，利用resnet18模型提取面部表情特征，利用opensmile框架提取语音特征，使用config/is09‑13/IS09_emotion.conf配置文件；S3、将生理特征、面部表情特征和语音情绪特征输入多模态融合模型，评估驾驶员的情绪状态。本发明设计驾驶员在驾驶过程中的情绪状态检测，特别是利用了人工智能对驾驶员面部、语音以及生理指标变化的情绪检测方法。
技术研发人员：檀春节
受保护的技术使用者：数据空间研究院
技术研发日：
技术公布日：2024/11/18
文档序号 :
【 40048397 】
技术研发人员：檀春节
技术所有人：数据空间研究院
备 注：该技术已申请专利，仅供学习研究，如用于商业用途，请联系技术所有人。
声 明 ：此信息收集于网络，如果你是此专利的发明人不想本网站收录此信息请联系我们，我们会在第一时间删除
技术研发人员：檀春节
技术所有人：数据空间研究院
备 注：该技术已申请专利，仅供学习研究，如用于商业用途，请联系技术所有人。
声 明 ：此信息收集于网络，如果你是此专利的发明人不想本网站收录此信息请联系我们，我们会在第一时间删除