提示扰动对大语言模型偏见与幻觉的影响评估
原标题：Evaluating the Effects of Prompt Perturbation on Bias and Hallucination in Large Language Models
AI 摘要
该研究由坎特伯雷大学等机构的研究者开展，系统评估了提示扰动（prompt perturbation）对大语言模型在决策任务中偏见与幻觉的影响。研究发现，与以往研究相反，提示扰动在某些模型上能够减轻偏见和幻觉；Claude 3 在多数数据集任务上表现更有效，而 GPT-3.5 表现参差不齐，部分任务相当但另一些明显落后。作者强调，将 LLM 作为决策支持工具部署时需进行严格测试与验证，以确保可靠性和有效性。
正文节选
[Page 1] Impacts of Prompt Perturbation on Reducing Bias and Hallucination of Large Language Models Mamehgol Yousefi1, Ahmad Shahi2, Mos Sharifi3 Alvaro Romera3, Simon Hoermann1, and Tham Piumsomboon1 1 School of Product Design, Faculty of Engineering, University of Canterbury, Christchurch, New Zealand