查看“WikiEdge:MedRxiv-2024.06.18.24309113”的源代码

* '''标题'''：Analyzing Diversity in Healthcare LLM Research: A Scientometric Perspective
* '''中文标题'''：分析医疗保健大语言模型研究中的多样性：科学计量学视角
* '''发布日期'''：2024-06-19
* '''作者'''：Restrepo, D.; Wu, C.; Vasquez-Venegas, C.; Matos, J.; Gallifant, J.; Nakayama, L. F.
* '''分类'''：health informatics
*'''原文链接'''：10.1101/2024.06.18.24309113
'''摘要'''：在医疗保健中部署大型语言模型（LLMs）已经显示出增强临床决策、提高行政效率和改善患者结果的巨大潜力。然而，这些模型的开发和应用中缺乏多元化群体的代表性可能会延续偏见，导致医疗保健服务的不公平。本文对医疗保健的LLM研究进行了全面的科学计量分析，包括2021年1月1日至2024年7月1日的数据。通过分析PubMed和Dimensions的元数据，包括作者所属机构、国家和资金来源，我们评估了LLM研究的贡献者多样性。我们的发现突显出显著的性别和地理差异，主要是男性作者和来自高收入国家（HICs）的贡献。我们引入了一种基于吉尼多样性的新颖期刊多样性指数，以衡量科学出版物的包容性。我们的结果强调了需要更大的代表性，以确保LLMs在医疗保健中的公平应用。我们提出了可行的策略，以增强人工智能研究的多样性和包容性，最终目标是促进医疗保健创新的更加包容和公平的未来。

== 问题与动机 ==
作者面对的研究问题包括：
* 在大型语言模型（[[LLMs]])在[[医疗保健]]领域的研究中，参与者的多样性如何？
* 这些研究中存在的性别和地理差异有多大？
* 这些差异对于LLMs在医疗保健中的公平性和有效性有何影响？
* 如何通过提高研究的多样性和包容性来确保LLMs在全球范围内的公平应用？

== 背景介绍 ==
这篇文献的研究背景主要集中在以下几个方面：
#'''[[大型语言模型（LLMs）在医疗保健中的应用]]'''
#* [[大型语言模型]]（LLMs）在医疗保健领域展现出了显著的潜力，包括提升临床决策、优化行政效率和改善患者结果。
#* 通过[[自然语言处理]]任务，如病历分析、自动诊断和个性化治疗建议，LLMs能够理解和生成人类语言，为现代医疗保健中的一些紧迫挑战提供了解决方案。
# 然而，LLMs在医疗保健中的应用存在挑战，特别是在数据和计算资源的需求、[[机器学习]]和医疗保健社区内的代表性问题。
#* 缺乏多样性的群体在LLMs的开发和应用中可能导致偏见的延续或放大，对医疗保健的质量和公平性产生负面影响。
#* 例如，如果LLMs主要由高收入国家（HICs）的研究人员开发和训练，这些模型可能无法充分满足低收入和中等收入国家（LMICs）人群的医疗保健需求。
#* 这种代表性的缺失可能导致算法产生偏见，无法跨不同人群泛化，从而限制了[[人工智能]]驱动的医疗保健解决方案的全球适用性和公平性。
# 为了解决这些挑战，需要共同努力促进[[人工智能]]研究和开发中的多样性和包容性。
#* 通过[[科学计量学]]分析——一种涉及科学、技术和创新的定量研究方法——可以提供对科学研究成果及其全球影响的演变态势的关键见解。
#* 这种分析有助于识别当前研究格局中的空白和偏见，并为促进LLMs开发中更大多样性的战略提供信息。
# 本文通过从[[PubMed]]和[[Dimensions API]]提取数据，对2021年1月1日至2024年7月1日期间的LLM在医疗保健研究进行了科学计量综述。
#* 通过分析，旨在揭示LLM研究在医疗保健领域的贡献者多样性，并强调需要更广泛的代表性以确保LLMs在全球范围内的公平和有效应用。
#* 通过证明当前代表性的状态并提出可操作的解决方案，本研究旨在为[[人工智能]]和医疗保健中多样性的持续讨论做出贡献，最终倡导在健康技术创新中实现更具包容性和公平性的未来。

== 章节摘要 ==
这篇论文是一篇关于在[[医疗保健]]领域应用[[大型语言模型]]（LLMs）的科研论文，论文的主要内容可以概括如下：
# '''引言'''：
#* 大型语言模型（LLMs）在医疗保健中的应用展示了在[[临床决策]]、[[行政效率]]和[[患者结果]]方面的潜力。
#* 这些模型的开发和应用中缺乏[[多样性]]可能导致[[偏见]]，从而加剧[[卫生服务]]的不平等。
# '''方法'''：
#* 通过[[PubMed]]和[[Dimensions API]]提取2021年1月1日至2024年7月1日的数据，进行[[科学计量分析]]。
#* 包括作者信息、国家和资金来源的元数据分析，以评估LLM研究的[[贡献者多样性]]。
# '''结果'''：
#* 研究显示，男性作者和[[高收入国家]]（HICs）的贡献占主导地位。
#* 引入了基于[[Gini]]多样性的新期刊多样性指数，以衡量科学出版物的[[包容性]]。
#* 结果强调了需要更大的[[代表性]]，以确保LLMs在医疗保健中的公平应用。
# '''讨论'''：
#* 揭示了LLM研究中性别和地理代表性的差异，并讨论了这些差异对LLMs开发和部署的影响。
#* 强调了促进[[AI研究]]和开发中多样性和包容性的必要性。
# '''结论'''：
#* 研究强调了在医疗保健领域LLM研究中需要更大的代表性和包容性。
#* 通过促进研究贡献和资金的多样性，以及应用期刊多样性指数等强有力的措施，我们可以朝着更公平、更有效的医疗保健创新迈进。

== 研究方法 ==
这篇论文通过定量研究科学、技术与创新的[[科学计量学]]方法，对应用于[[医疗保健]]的大型语言模型（LLMs）的研究进行了全面分析。以下是该研究方法论的主要组成部分：
# '''[[数据收集]]'''
#* 利用[[PubMed]]数据库，通过系统搜索确定关注LLMs在医疗保健应用的研究文章。
#* 使用[[Dimensions API]]提取文章的详细元数据，包括作者信息、所属机构和资金来源。
# '''[[元数据提取与预处理]]'''
#* 使用[[Genderize.io API]]推断作者性别。
#* 根据[[世界银行]]2024年的收入分类，将作者国家归类为高收入国家（HIC）或中低收入国家（LMIC）。
#* 将国家按大陆分组，以进行地理分析。
# '''[[数据分析]]'''
#* 分析不同性别作者在整体、第一作者和最后作者位置上的分布。
#* 分析作者和资金来源的大陆及收入组分布，以突出LLM研究贡献的地理差异。
#* 使用[[bootstrap抽样方法]]进行灵敏度分析，验证结果的稳健性。
#* 利用基于[[基尼多样性指数]]的期刊多样性指数，量化科学出版物中的多样性。
# '''[[结果解释]]'''
#* 揭示了在LLM研究中存在的性别和地理代表性差异。
#* 强调了增加代表性的必要性，以确保LLMs在医疗保健中的公平应用。
#* 提出了增强[[人工智能]]研究中多样性和包容性的可行策略。
这篇论文的方法论分析结果表明，为了开发出公平、普遍适用且能惠及全球不同人群的[[人工智能模型]]，解决性别和地理差异至关重要。

== 研究结论 ==
根据提供的文献内容，这篇论文的主要结论可以概括如下：
* 研究揭示了在[[医疗领域]]应用[[大型语言模型]]（LLMs）的研究中存在[[性别]]和[[地理代表性]]的不均衡。
* [[女性作者]]在LLM研究中的代表性普遍较低，这可能限制了研究视角和专业知识的多样性，从而可能导致医研应用中的偏见。
* 地理分布的不均衡表明，来自[[高收入国家]]（HICs）的作者在研究中占据主导地位，这引发了对LLMs全球适用性的担忧。
* 研究资金的分配同样不均衡，大多数研究资金来自HICs的组织，这可能会加剧研究产出中的不平等，限制[[低收入和中等收入国家]]（LMICs）进行高质量LLM研究的能力。
* 引入了基于[[基尼多样性]]的新期刊多样性指数，以量化科学出版物中的多样性。
* 研究提出了一系列建议，包括支持女性参与研究的机构政策和倡议、研究资金的公平分配、建立合作研究网络和伙伴关系、科学出版物中的多样性政策，以及提供关于公平和多样性的正式培训。
* 研究存在一些局限性，包括基于作者名字信息推断性别的方法可能引入的偏见和不准确性，以及基于作者附属机构收集的国家信息可能无法准确反映其国籍或文化背景。
* 研究强调了在医疗领域LLM研究中促进多样性和包容性的重要性，这对于开发公平、普遍适用且能惠及全球不同人群的[[人工智能技术]]至关重要。

== 术语表 ==
这篇文章的术语表如下：
* [[大型语言模型]]（Large Language Models, LLMs）：在医疗保健领域，LLMs 展示了在增强临床决策、简化行政流程和改善患者结果方面的潜力。
* [[科学计量学]]（Scientometrics）：科学计量学是一种涉及科学、技术和创新的定量研究方法。
* [[性别多样性]]（Gender Diversity）：性别多样性指的是在研究和开发中包含不同性别群体的重要性。
* [[地理多样性]]（Geographic Diversity）：地理多样性指的是研究贡献者来自不同地理位置和国家。
* [[高收入国家]]（High-Income Countries, HICs）：根据世界银行的分类，高收入国家是指人均国民总收入较高的国家。
* [[中低收入国家]]（Low- and Middle-Income Countries, LMICs）：中低收入国家是指人均国民总收入较低的国家。
* [[自然语言处理]]（Natural Language Processing, NLP）：自然语言处理是人工智能和语言学领域的分支，专注于使计算机能够理解、解释和生成人类语言。
* [[性别识别]]（Gender Identification）：性别识别是指根据作者的名字、姓氏和国家信息推断其性别。
* [[国家分类]]（Country Classification）：根据世界银行的收入分类，将国家分为高收入或中低收入国家。
* [[大陆分组]]（Continent Grouping）：将国家按地理分布分为非洲、亚洲、欧洲、北美、大洋洲和南美。
* [[性别分布]]（Gender Distributions）：研究中男性和女性作者的数量和位置。
* [[收入群体分布]]（Income Group Distributions）：作者和资助来源按大陆和收入群体的分布。
* [[科学出版物的多样性指数]]（Journal Diversity Index）：基于Gini多样性指数，衡量科学出版物的包容性。
* [[资助来源分析]]（Funding Source Analysis）：分析LLM研究的资金来源及其地理分布。
* [[敏感性分析]]（Sensitivity Analysis）：使用引导抽样方法来验证研究结果的稳健性。
* [[地理分布图]]（World Map Distribution of Research Contributions）：使用地理分布图来展示研究贡献的地理分布。
* [[性别和地理代表性]]（Gender and Geographic Representation）：研究中性别和地理代表性的不平衡问题。
* [[公平性]]（Fairness）：在机器学习中，确保模型对所有人群公平，不因性别、地理位置或经济状况而有所偏差。
* [[人工智能]]（Artificial Intelligence, AI）：人工智能是计算机科学的一个分支，它试图理解智能的实质，并生产出一种新的能以人类智能相似方式做出反应并进行决策的智能机器。
* [[临床决策]]（Clinical Decision-Making）：临床决策是医疗保健专业人员在诊断和治疗患者时所做出的决策。
* [[行政效率]]（Administrative Efficiency）：行政效率是指医疗机构在管理过程中的效率。
* [[患者结果]]（Patient Outcomes）：患者结果是医疗保健服务对患者健康状态的影响。