WikiEdge:ArXiv-2409.17167

• 标题：StressPrompt: Does Stress Impact Large Language Models and Human Performance Similarly?
• 中文标题：压力提示：压力是否对大型语言模型和人类的表现产生相同的影响？
• 发布日期：2024-09-14 08:32:31+00:00
• 作者：Guobin Shen, Dongcheng Zhao, Aorigele Bao, Xiang He, Yiting Dong, Yi Zeng
• 分类：cs.HC, cs.AI, cs.CL
• 原文链接：http://arxiv.org/abs/2409.17167v1

摘要：人类经常会经历压力，这会显著影响他们的表现。本研究探讨大型语言模型（LLMs）是否会表现出与人类相似的压力反应，以及他们的表现在不同的压力诱导提示下是否会波动。为了调查这一点，我们开发了一套新的提示，称为StressPrompt，设计用于诱导不同程度的压力。这些提示源自已建立的心理框架，并根据人类参与者的评级进行了仔细校准。然后，我们将这些提示应用于几个LLMs，以评估他们在一系列任务中的反应，包括遵循指示、复杂推理和情绪智力。研究发现，LLMs在适度压力下的表现最佳，与Yerkes-Dodson法则一致。值得注意的是，他们在低压和高压条件下的表现都会下降。我们的分析进一步揭示，这些StressPrompts显著改变了LLMs的内部状态，导致他们的神经表征发生变化，反映了人类对压力的反应。这项研究为LLMs的操作鲁棒性和灵活性提供了关键的见解，展示了设计能够在压力普遍存在的现实世界场景中保持高性能的AI系统的重要性，如在客户服务、医疗保健和紧急响应环境中。此外，本研究通过提供一种新的视角来看待LLMs如何处理不同的场景以及他们与人类认知的相似性，为更广泛的AI研究社区做出了贡献。

问题与动机

作者的研究问题包括：

• 大型语言模型（LLMs）是否表现出与人类相似的压力反应？
• 不同的压力诱导提示对LLMs的性能有何影响？
• 压力条件下LLMs的内部状态如何变化，以及这些变化如何反映在模型的神经表征上？
• 如何设计能够适应现实世界压力环境并保持高性能的AI系统？
• LLMs在处理不同压力水平的任务时，与人类认知的相似性如何？
• 压力对LLMs在特定任务（如情感智能、偏见检测和幻觉易感性）上的性能有何影响？
• 如何通过调整压力水平来优化LLMs在特定任务上的性能？