評估大型語言模型的可信度：DecodingTrust 研究成果

一個由多所大學和研究機構組成的團隊最近發布了一個綜合評估大型語言模型(LLMs)可信度的平台。這項研究旨在全面評估生成式預訓練transformer模型(GPT)的可靠性。

研究發現了一些之前未被公開的與可信度相關的漏洞。例如，GPT模型容易產生有害和偏見的輸出，並可能泄露訓練數據和對話歷史中的隱私信息。雖然在標準基準測試中GPT-4通常比GPT-3.5更可靠,但在面對惡意設計的提示時,GPT-4反而更容易受到攻擊。這可能是因爲GPT-4更嚴格地遵循了誤導性指令。

研究團隊從八個不同角度對GPT模型進行了全面評估,包括模型在對抗性環境中的表現。例如,他們評估了模型對文本對抗攻擊的魯棒性,使用了標準基準和自行設計的挑戰性數據集。

研究還發現,GPT模型在某些情況下可能被誤導產生有偏見的內容,特別是在面對精心設計的誤導性系統提示時。模型的偏見程度往往取決於用戶提示中提到的人口羣體和刻板印象主題。

在隱私方面,研究發現GPT模型可能會泄露訓練數據中的敏感信息,如電子郵件地址。GPT-4在保護個人身分信息方面總體上比GPT-3.5更穩健,但兩種模型在某些類型的信息上都表現良好。然而,當在對話歷史中出現隱私泄露的示例時,兩種模型都可能泄露所有類型的個人信息。

這項研究爲評估和改進大型語言模型的可信度提供了重要見解。研究團隊希望這項工作能推動更多研究,並最終幫助開發更強大、更可靠的AI模型。