对抗性提示词允许模型生成抵抗某些类型的攻击或偏见的文本。 这种技术可用于训练更为稳健和抵抗某些类型攻击或偏见的模型。
要在ChatGPT中使用对抗性提示,
示例1:用于文本分类的对抗性 提示任务:生成被分类为特定标签的文本 说明:生成的文本应难以分类为特定标签 提示公式:“生成难以分类为[插入标签]的文本“