医学成像中的人工智能可能会加剧健康不平等

医疗领域的人工智能 (AI) 技术有可能实现自动化诊断、减少医生工作量，甚至可以为农村地区或发展中国家的人们带来专业医疗服务。然而，可能性伴随着潜在的陷阱。

马里兰大学医学院 (UMSOM) 的研究人员分析了用于根据医学图像创建 AI 算法的众包数据集，发现其中大多数不包括患者人口统计数据。在 研究中，研究人员还发现算法也没有评估固有的偏差。这意味着他们无法知道这些图像是否包含具有代表性的人口样本，例如黑人、亚洲人和美国原住民。

根据研究人员的说法，美国的许多医学已经充满了对某些种族、性别、年龄或性取向的偏袒。当在这些算法中组合成百上千个这样的数据集时，单个数据集中的小偏差可能会被大大放大。

“这些深度学习模型可以诊断医生看不到的东西，例如一个人何时可能死亡或比我们已知的测试早七年发现阿尔茨海默病 - 超人的任务，”资深研究员，医学博士，诊断放射学助理教授 Paul Yi 说和 UMSOM 的核医学。他还是马里兰大学医学智能影像（UM2ii）中心主任。“因为这些人工智能机器学习技术非常善于大海捞针，它们还可以定义性别、性别和年龄，这意味着这些模型可以利用这些特征做出有偏见的决定。”

大型研究中收集的大部分数据往往来自有钱人，他们相对容易获得医疗保健。在美国，这意味着数据倾向于男性而不是女性，并且倾向于白人而不是其他种族。由于美国往往比世界其他地区进行更多的成像，因此这些数据被编译成有可能在全球范围内产生倾斜结果的算法。

对于当前的研究，研究人员选择评估数据科学竞赛中使用的数据集，在这些竞赛中，计算机科学家和医生从世界各地众包数据，并试图开发出最好、最准确的算法。这些比赛往往有排行榜，对每个算法进行排名并提供现金奖励，激励人们创造最好的算法。具体而言，研究人员研究了医学成像算法，例如评估 CT 扫描以诊断脑肿瘤或肺部血栓的算法。在分析的 23 项数据竞赛中，61% 的竞赛不包括年龄、性别或种族等人口统计数据。所有比赛都没有评估对代表性不足或弱势群体的偏见。

UM2ii 中心的项目协调员、主要作者 Sean Garin 说：“我们希望通过在这些数据竞赛中提高对这个问题的认识——如果以适当的方式应用——有解决这些偏见的巨大潜力。”

该研究的作者还鼓励未来的比赛不仅需要高精度，还需要不同人群之间的公平性。

“随着人工智能模型在医学成像和其他医学领域变得越来越普遍，重要的是要识别和解决可能加剧临床护理中现有健康不平等的潜在偏见——这是每个学术医疗机构的基本优先事项，”UMSOM 院长 Mark T 说。