基于多模态信息融合的违规行为检测方法、装置及终端与流程
技术特征:
1.一种基于多模态信息融合的违规行为检测方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述采集客服与客户聊天过程的聊天数据,包括:
3.根据权利要求2所述的方法,其特征在于,所述基于滑动窗口对所述聊天长图片进行切片操作,得到图片切片数据,包括:
4.根据权利要求3所述的方法,其特征在于,所述基于所述聊天文字信息、所述聊天长图片及所述图片切片数据生成训练样本,包括:
5.根据权利要求4所述的方法,其特征在于,所述基于所述训练样本对人工智能模型进行训练,得到多模态信息融合模型,包括:
6.根据权利要求5所述的方法,其特征在于,所述获取待检测的客服聊天内容,将所述待检测的客服聊天内容输入所述多模态信息融合模型,包括:
7.根据权利要求6所述的方法,其特征在于,所述获取所述多模态信息融合模型输出的违规行为结果,包括:
8.一种基于多模态信息融合的违规行为检测装置,其特征在于,所述装置包括:
9.一种终端,其特征在于,所述终端包括至少一个处理器;以及,
10.一种非易失性计算机可读存储介质,其特征在于,所述非易失性计算机可读存储介质存储有计算机可执行指令,该计算机可执行指令被一个或多个处理器执行时,可使得所述一个或多个处理器执行权利要求1-7任一项所述的基于多模态信息融合的违规行为检测方法。
技术总结
本发明公开了一种基于多模态信息融合的违规行为检测方法、装置及终端,方法包括:采集客服与客户聊天过程的聊天数据,聊天内容包括聊天文字信息和聊天长图片;基于滑动窗口对聊天长图片进行切片操作,得到图片切片数据;基于聊天文字信息、聊天长图片及图片切片数据生成训练样本,基于训练样本对人工智能模型进行训练,得到多模态信息融合模型,获取待检测的客服聊天内容,将待检测的客服聊天内容输入多模态信息融合模型,获取多模态信息融合模型输出的违规行为检测结果。本发明实施例引入了大模型和多分辨和多切片图文信息融合,从特征空间入手融合了一种多级图文特征融合,提高了客服违规行为检测的准确性。
技术研发人员:洪振厚,王健宗,瞿晓阳
受保护的技术使用者:平安科技(深圳)有限公司
技术研发日:
技术公布日:2024/11/18
文档序号 :
【 40049398 】
技术研发人员:洪振厚,王健宗,瞿晓阳
技术所有人:平安科技(深圳)有限公司
备 注:该技术已申请专利,仅供学习研究,如用于商业用途,请联系技术所有人。
声 明 :此信息收集于网络,如果你是此专利的发明人不想本网站收录此信息请联系我们,我们会在第一时间删除
技术研发人员:洪振厚,王健宗,瞿晓阳
技术所有人:平安科技(深圳)有限公司
备 注:该技术已申请专利,仅供学习研究,如用于商业用途,请联系技术所有人。
声 明 :此信息收集于网络,如果你是此专利的发明人不想本网站收录此信息请联系我们,我们会在第一时间删除
