新闻|乳房x光检查2023年5月22日|

AI偏见可能影响放射科医生在乳房x光检查准确性

人机交互的效果必须仔细考虑,以确保安全性和准确性

基于人工智能诊断系统的接口。图像显示界面外观当(A)加载一个新的乳房x光检查,执行图像评估,(B) (C)图像的显示结果评估通过的热图,和(D)图像的显示结果评价的热图关掉。

基于人工智能诊断系统的接口。图像显示界面时出现(一)加载一个新的乳房x光检查,(B)执行图像评价,(C)图像的显示结果评估通过的热图,和(D)图像的显示结果评价的热图关闭。图片由RSNA。

2023年5月22日,由一个不正确的建议吗基于ai决策支持系统可能严重损害性能的放射科医生在每个级别的专业知识阅读时乳房x光检查,根据一项新的研究发表在放射学的杂志北美放射学会(RSNA)。

经常被吹捧为放射科医生的“第二组的眼睛”,基于ai乳腺支持系统是一个最有前途的申请吗人工智能在放射学。随着技术的发展,人们担心它可能会使人类的放射科医生容易自动化的趋势有利于从自动决策系统的建议。多项研究表明,引入计算机辅助检测到乳房x光检查工作流可能影响放射科医师的性能。然而,没有研究关注基于ai系统准确的性能的影响乳房x光检查阅读由放射科医生。

德国和荷兰机构的研究人员着手确定自动化偏见如何影响放射科医生在不同程度的经验当阅读乳房x光片的协助下一个人工智能系统。

在未来的实验中,27个放射科医生读50乳房x光检查。然后他们提供他们的2022世界杯篮球预选赛赛程乳腺影像报告和数据系统(BI-RADS)评估协助下一个人工智能系统。BI-RADS是一个标准的系统使用的放射学家描述和分类胸部影像学表现。2022世界杯篮球预选赛赛程虽然BI-RADS分类不是诊断,帮助医生确定接下来的步骤是至关重要的。

研究者提出了两个随机集的乳房x光检查。首先是一个训练集的10 AI建议正确的BI-RADS类别。第二组包含不正确的BI-RADS类别,据称由AI,建议在12的40个乳房x光检查。

结果表明,放射科医生在分配正确的BI-RADS分数明显恶化的情况下,所谓的人工智能建议一个不正确的BI-RADS类别。例如,没有经验的放射科医生分配正确的BI-RADS分数在80%的情况下,人工智能建议正确的BI-RADS类别。当所谓的人工智能提出了错误的类别,其准确性下降到低于20%。radiologists-those经验超过15年的经验在average-saw精度从82%降至45.5%时所谓的人工智能显示不正确的类别。

“我们预期,人工智能预测不准确会影响决策的放射科医生在我们的研究中,尤其是那些用更少的经验,”研究报告的主要作者托马斯•Dratsch医学博士博士,从诊断和介入放射学研究所,在科隆,德国科隆大学医院。“无论如何,这是令人惊讶的发现即使非常有经验的放射科医生被AI系统的不利影响的判断,尽管一定程度上比少经验丰富的同行。”

研究人员说,研究结果表明为什么必须仔细考虑人机交互的影响,确保安全部署和准确诊断性能结合人类读者和人工智能。

“鉴于乳房x光检查筛查的重复性和高度标准化,自动化的偏见可能成为一个问题,当一个人工智能系统集成到工作流、“Dratsch博士说。“我们的研究结果强调了需要实施适当的保障措施时将AI纳入辐射过程自动化减轻负面影响的偏见。”

可能的安全措施包括展示用户的信心水平的决策支持系统。在一个基于ai系统的情况下,这可以通过显示每个输出的概率。另一个策略是教学用户对系统的推理过程。确保决策支持系统的用户感觉对自己的决定负责自动化也可以帮助减少偏见,Dratsch博士说。

研究人员计划使用工具如眼球追踪技术来更好地理解放射科医生使用人工智能的决策过程。

“此外,我们想探讨最有效的方法,提出人工智能输出放射科医生的方式鼓励批判,同时避免陷阱的自动化偏见,“Dratsch博士说。

更多信息:www.rsna.org