摘要：大多数AI诊断工具都是黑匣子，但是该方法允许医生和患者了解计算机如何进行诊断。...

人工智能可以扫描胸部X射线，并诊断出异常在肺部流体，心脏或癌症增大。阿肯色大学计算机科学与计算机工程助理教授Ngan Le说，但是正确的是不够。我们应该了解计算机如何进行诊断，但是大多数AI系统都是黑匣子，即使是创造者也无法解释的“思考过程”。

勒说：“当人们理解AI决策背后的推理过程和局限性时，他们更有可能信任和接受这项技术。”

Le和她的同事开发了一个透明且高度准确的AI框架，用于读取称为ITPCTRL-AI的胸部X射线，该框架代表着可解释和可控制的人工智能。

该团队在“ ITPCTRL-AI：端到端可解释和可控制的人工智能”中解释了他们的方法，该方法通过对放射科医生的意图进行建模”来解释。医学中的人工智能。

研究人员教计算机像放射线医生一样看一下胸部X射线。当他们审查胸部X射线时，记录了放射科医生的视线，既有看的地方，又是他们专注于特定区域的时间。由眼睛凝视数据集创建的热图显示了计算机在哪里寻找异常以及图像的哪些部分需要更少的关注。

创建一个使用清晰，透明的方法来得出结论的AI框架（在这种情况下是凝视热图）有助于研究人员调整和纠正计算机，以便可以提供更准确的结果。在医学背景下，透明度还激发了AI生成的诊断中医生和患者的信任。

Le说：“如果AI医疗助理系统诊断出病情，医生需要了解为什么决定确保其可靠并与医学专业知识保持一致。”

透明的AI框架也更加负责，这是高赌注，例如医学，自动驾驶汽车或金融市场等领域的法律和道德问题。因为医生知道ITPCTRL-AI的工作原理，所以他们可以对其诊断负责。

勒说：“如果我们不知道系统是如何做出决定的，那么确保公平，公正或与社会价值观保持一致是一项挑战。”

Le和她的团队与休斯顿的MD Anderson癌症中心合作，现在正在努力完善ITPCTRL-AI，因此可以阅读更复杂的三维CT扫描。

纸上的第一作者是Trong-Thang Pham，博士学位。 LE的人工智能和计算机视觉实验室的学生。其他作者包括研究时期的本科生雅各布·布雷希森（Jacob Brecheisen），以及阿肯色大学医学科学大学的放射科医生阿拉伯达·乔杜哈迪（Arabinda Choudhardy）。