基于神经网络预训练大模型的旁路定向微调方法和系统与流程

1.一种基于神经网络预训练大模型的旁路定向微调方法，其特征在于，所述方法包括：

2.根据权利要求1所述的一种基于神经网络预训练大模型的旁路定向微调方法，其特征在于，所述的从原始问答数据集中剔除情感置信度不满足情绪阈值的数据得到剔除后的新的问答数据集，具体包括：

3.根据权利要求1所述的一种基于神经网络预训练大模型的旁路定向微调方法，其特征在于，所述的采用所述训练集在预训练大模型的旁路进行微调，同时约束模型的工程性能与情感倾向，具体包括：

4.根据权利要求3所述的一种基于神经网络预训练大模型的旁路定向微调方法，其特征在于，采用负对数似然损失函数，具体表示为：

5.根据权利要求4所述的一种基于神经网络预训练大模型的旁路定向微调方法，其特征在于，具体表示为：

6.根据权利要求1-5任一项所述的一种基于神经网络预训练大模型的旁路定向微调方法，其特征在于，所述预训练大模型采用chatgpt或llama。

7.一种基于神经网络预训练大模型的旁路定向微调系统，其特征在于，所述系统包括：

8.根据权利要求7所述的一种基于神经网络预训练大模型的旁路定向微调系统，其特征在于，所述数据处理模块还包括：

9.根据权利要求7所述的一种基于神经网络预训练大模型的旁路定向微调系统，其特征在于，所述迭代训练模块在所述预训练大模型的旁路引入低秩矩阵来修改所述预训练模型的权重矩阵，具体表示为：

10.根据权利要求9所述的一种基于神经网络预训练大模型的旁路定向微调系统，其特征在于，采用负对数似然损失函数，具体表示为：