评估大型语言模型的可信度：DecodingTrust 研究成果

一个由多所大学和研究机构组成的团队最近发布了一个综合评估大型语言模型(LLMs)可信度的平台。这项研究旨在全面评估生成式预训练transformer模型(GPT)的可靠性。

研究发现了一些之前未被公开的与可信度相关的漏洞。例如，GPT模型容易产生有害和偏见的输出，并可能泄露训练数据和对话历史中的隐私信息。虽然在标准基准测试中GPT-4通常比GPT-3.5更可靠,但在面对恶意设计的提示时,GPT-4反而更容易受到攻击。这可能是因为GPT-4更严格地遵循了误导性指令。

研究团队从八个不同角度对GPT模型进行了全面评估,包括模型在对抗性环境中的表现。例如,他们评估了模型对文本对抗攻击的鲁棒性,使用了标准基准和自行设计的挑战性数据集。

研究还发现,GPT模型在某些情况下可能被误导产生有偏见的内容,特别是在面对精心设计的误导性系统提示时。模型的偏见程度往往取决于用户提示中提到的人口群体和刻板印象主题。

在隐私方面,研究发现GPT模型可能会泄露训练数据中的敏感信息,如电子邮件地址。GPT-4在保护个人身份信息方面总体上比GPT-3.5更稳健,但两种模型在某些类型的信息上都表现良好。然而,当在对话历史中出现隐私泄露的示例时,两种模型都可能泄露所有类型的个人信息。

这项研究为评估和改进大型语言模型的可信度提供了重要见解。研究团队希望这项工作能推动更多研究,并最终帮助开发更强大、更可靠的AI模型。