查看“WikiEdge:ArXiv-2407.15017/summary”的源代码

<div style="float: right;">[{{fullurl:WikiEdge:ArXiv-2407.15017/summary|action=edit}} 编辑]</div>
这篇论文是关于大型语言模型（[[LLMs]]）中[[知识机制]]的综述和展望，主要内容可以概括如下：
# '''引言'''：强调了理解[[LLMs]]中的[[知识机制]]对于发展可信的[[通用人工智能]]（[[AGI]]）至关重要。论文回顾了[[知识机制]]分析，并提出了一个新的分类法，包括[[知识利用]]和[[演化]]。
# '''预备知识'''：定义了[[知识]]的范围，并讨论了[[LLMs]]中[[知识]]的定义和架构。
# '''知识利用'''：根据布鲁姆的[[认知领域分类法]]，将[[LLMs]]中的[[知识]]表示和利用分为三个层次：记忆、理解和应用，以及创造。
# '''知识演化'''：讨论了个体和群体[[LLMs]]中[[知识]]的动态演化，包括预训练阶段的初级[[知识]]积累和后训练阶段的微调。
# '''知识机制的应用'''：探讨了如何利用[[知识机制]]分析来构建更高效和可信的模型。
# '''讨论'''：讨论了[[LLMs]]学习的[[知识]]、学习[[知识]]的脆弱性、尚未学习到的“暗知识”以及如何从跨学科的视角探索更多[[知识]]。
# '''未来方向'''：提出了参数化与非参数化[[知识]]、具体化智能和领域特定[[LLMs]]等未来研究方向。