評估語言模型的可信度

研究人員最近發布了一個針對大型語言模型(LLMs)的綜合可信度評估平台,並在論文《DecodingTrust:全面評估GPT模型的可信度》中進行了介紹。

評估結果揭示了一些之前未知的與可信度相關的漏洞。研究發現GPT模型容易產生有毒和有偏見的輸出,並可能泄露訓練數據和對話歷史中的隱私信息。雖然在標準基準測試中GPT-4通常比GPT-3.5更值得信賴,但在面對惡意設計的提示時,GPT-4反而更容易受到攻擊,可能是因爲它更嚴格地遵循了誤導性指令。

這項工作對GPT模型進行了全面的可信度評估,揭示了可信度方面的差距。評估基準可公開獲取,研究團隊希望鼓勵其他研究人員在此基礎上繼續深入研究,以預防潛在的惡意利用。

評估從八個可信度角度對GPT模型進行了全面分析,包括對抗性攻擊的魯棒性、有毒性和偏見、隱私泄露等方面。例如,爲評估對文本對抗攻擊的魯棒性,研究構建了三種評估場景,包括標準基準測試、不同指導性任務說明下的測試,以及更具挑戰性的對抗性文本測試。

研究發現了一些有趣的結果。在對抗性演示方面,GPT模型不會被反事實示例誤導,但可能被反欺詐演示誤導。在有毒性和偏見方面,GPT模型在良性提示下偏差不大,但容易被誤導性提示"誘騙"同意有偏見的內容,GPT-4比GPT-3.5更容易受影響。

在隱私保護方面,GPT模型可能會泄露訓練數據中的敏感信息,如電子郵件地址。GPT-4在保護個人身分信息方面比GPT-3.5表現更好,但兩者在特定類型信息的保護上都很穩健。然而,在某些情況下GPT-4反而比GPT-3.5更容易泄露隱私,可能是因爲它更嚴格地遵循了誤導性指令。

這項研究爲大型語言模型的可信度評估提供了全面的視角,揭示了現有模型的優勢和不足。研究者希望這些發現能推動更安全、更可靠的AI模型的開發。