人工智能偏见可能会损害放射科医生对乳房 X 线照片的准确性 ...

根据发表在放射学杂志上的一项新研究，基于 AI 的决策支持系统的错误建议可能会严重损害放射科医生在阅读乳房 X 线照片时各个专业水平的表现。

基于 AI 的乳房 X 线照相支持系统通常被吹捧为放射科医生的“第二只眼睛” ，是 AI 在放射学中最有前途的应用之一。随着技术的发展，有人担心它可能会使放射科医生容易受到自动化偏见的影响——人类倾向于支持来自自动化决策系统的建议。

多项研究表明，将计算机辅助检测引入乳腺 X 光检查工作流程可能会影响放射科医生的表现。然而，还没有研究研究基于人工智能的系统对放射科医生准确读取乳房 X 线照片的性能的影响。

来自德国和荷兰机构的研究人员着手确定自动化偏见如何影响不同经验水平的放射科医生在人工智能系统的帮助下阅读乳房 X 线照片。

在前瞻性实验中，27 名放射科医生阅读了 50 张乳房 X 线照片。然后，他们提供了由人工智能系统辅助的乳腺影像报告和数据系统 (BI-RADS) 评估。BI-RADS 是放射科医生用来描述和分类乳腺成像结果的标准系统。虽然 BI-RADS 分类不是诊断，但它对于帮助医生确定下一步的护理至关重要。

研究人员以两组随机方式展示了乳房 X 线照片。第一个是 10 个训练集，其中 AI 建议正确的 BI-RADS 类别。第二组包含不正确的 BI-RADS 类别，据称是 AI 在 40 张乳房 X 线照片中的 12 张中建议的。

结果表明，对于所谓的 AI 建议不正确的 BI-RADS 类别的病例，放射科医生在分配正确的 BI-RADS 分数方面明显更差。例如，在人工智能建议正确的 BI-RADS 类别的近 80% 的案例中，没有经验的放射科医生分配了正确的 BI-RADS 分数。

当所谓的 AI 建议错误的类别时，它们的准确率下降到不到 20%。经验丰富的放射科医生——平均拥有超过 15 年经验的人——发现当所谓的 AI 提出错误类别时，他们的准确率从 82% 下降到 45.5%。

“我们预计不准确的 AI 预测会影响放射科医生在我们的研究中做出的决定，尤其是那些经验较少的人，”该研究的主要作者、大学诊断和介入放射学研究所的医学博士 Thomas Dratsch 说。德国科隆科隆医院。“尽管如此，令人惊讶的是，即使是经验丰富的放射科医生也会受到人工智能系统判断的不利影响，尽管程度低于经验不足的同行。”

研究人员表示，这些结果表明，为什么在结合人类阅读器和人工智能时，必须仔细考虑人机交互的影响，以确保安全部署和准确的诊断性能。

“鉴于乳房 X 光检查筛查的重复性和高度标准化的性质，当 AI 系统集成到工作流程中时，自动化偏差可能会成为一个问题，”Dratsch 博士说。“我们的研究结果强调，在将 AI 纳入放射过程以减轻自动化偏差的负面影响时，需要实施适当的保障措施。”

可能的保护措施包括向用户提供决策支持系统的置信度。对于基于人工智能的系统，这可以通过显示每个输出的概率来完成。另一种策略涉及向用户传授系统的推理过程。Dratsch 博士说，确保决策支持系统的用户对自己的决定负责也有助于减少自动化偏差。

研究人员计划使用眼动追踪技术等工具来更好地了解放射科医生使用人工智能的决策过程。

Dratsch 博士说：“此外，我们希望探索以鼓励批判性参与同时避免自动化偏见陷阱的方式向放射科医生展示 AI 输出的最有效方法。”