一种大语言模型安全优化方法、装置、设备及介质

1.一种大语言模型安全优化方法，其特征在于，所述方法包括：

2.根据权利要求1所述的方法，其特征在于，所述获取攻击任务数据集；其中，所述攻击任务数据集包括至少一种攻击任务类型和所述攻击任务类型下的多个恶意指令数据，包括：

3.根据权利要求1所述的方法，其特征在于，所述根据所述恶意指令数据生成所述攻击任务类型对应的通用词级对抗后缀，包括：

4.根据权利要求3所述的方法，其特征在于，所述根据目标候选token集构建词级对抗后缀集，并对所述词级对抗后缀集中的词级对抗后缀进行攻击评估，根据攻击评估结果确定所述攻击任务类型对应的所述通用词级对抗后缀，包括：

5.根据权利要求1所述的方法，其特征在于，所述根据所述通用词级对抗后缀生成所述恶意指令数据对应的目标词级对抗后缀，包括：

6.根据权利要求1所述的方法，其特征在于，所述目标语义级对抗提示的获取方式包括：

7.根据权利要求1所述的方法，其特征在于，所述第一次微调和/或所述第二次微调采用参数高效微调peft技术。

8.一种大语言模型安全优化装置，其特征在于，所述装置包括：

9.一种计算机设备，其特征在于，包括：

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机指令，所述计算机指令用于使计算机执行权利要求1至7中任一项所述的大语言模型安全优化方法。