查看“WikiEdge:ArXiv-2408.15658/background”的源代码

<div style="float: right;">[{{fullurl:WikiEdge:ArXiv-2408.15658/background|action=edit}} 编辑]</div>
这篇文献的背景主要集中在以下几个方面：
# '''大型语言模型（[[Large Language Models]]， LLMs）在[[软件工程]]任务中的进展'''：
#* 近年来，LLMs在软件工程任务，尤其是[[代码生成]]方面取得了显著进展。这些模型通过[[深度学习]]技术，能够处理和生成自然语言，展现出在生成高质量代码、理解复杂代码结构以及将自然语言规范转化为功能性代码方面的能力。
#* 然而，LLMs生成的代码常常存在不准确或[[幻觉]]（hallucinations）问题，需要外部输入进行纠正。为了解决这些问题，研究者提出了一种策略，即通过模型自身输入（自增强）来优化LLMs生成的代码。
# '''自纠正大型语言模型（[[Self-correcting LLMs]]）的概念与挑战'''：
#* 自纠正LLMs旨在通过[[反馈循环]]和[[细化过程]]迭代地改进模型自身的输出。这一过程从AI模型基于给定输入或提示生成初始代码片段开始，随后通过[[评估步骤]]识别生成代码中的错误或改进区域，并将这些反馈整合到模型的学习过程中。
#* 尽管这些方法显示出一定的潜力，但它们在处理复杂的[[调试]]场景时常常遇到困难，尤其是那些涉及微妙逻辑错误或代码内部复杂依赖的情况。
# '''链式思考（[[Chain-of-Thought]]， CoT）提示在解决编程问题中的应用'''：
#* 通过采用CoT模式，LLMs的学习过程可以模仿开发者逐步讨论和解决复杂问题的方式，而不是试图一次性解决所有问题。
#* 该研究提出了一个新的框架[[CoT-SelfEvolve]]，它结合了现有的[[SelfEvolve]]框架和CoT模式，通过从[[StackOverflow]]等开发者论坛中提取的讨论来构建领域相关的知识库，以指导LLMs。
综上所述，这篇文献的背景强调了在[[数据科学]]代码生成领域中，通过自纠正机制和链式思考提示来提高LLMs性能的重要性和挑战，以及如何通过整合外部知识库来增强模型的准确性和效率。