在微小图像调整后，AI会错误地在医疗扫描中看到癌症_综合

医疗人工智能太容易破裂了。尽管AI有望通过快速分析医疗扫描来改善医疗保健，但越来越多的证据表明它看似无害的变化。

哈佛医学院的Sam Finlayson和他的同事们欺骗了三个AIS，设计用于扫描医学图像，以通过简单地更改一些像素来误导它们。

在一个例子中，团队曾经有了稍微改变了一张痣的图片，该痣首先被归类为良性，有99％的信心。然后，AI将改变的图像归类为具有100％信心的恶性，尽管这两个图像与人眼无法区分。

另外两个AI是为了检测视网膜扫描中糖尿病对眼睛的损害，并从胸部X射线检查中发现了塌陷的肺。

旋转图像可能会混淆AI，并且可以在日常练习中自然发生。即使发生这种情况的机会很低，如果医疗AIS变得广泛，也可能导致许多错误分类。

人们也可能会激励人们以这种方式对图像进行医生。Finlayson说，如果皮肤科医生仅仅是因为AI同意这是恶性的，仅因保险公司删除痣而获得报销，则可能有动力改变边缘案件以确保为更多程序付款。

并不总是清楚AI用于决策的因素，这可能会在现实世界中使用工具时引起问题。

最近的另一项研究发现，旨在检测髋部骨折的AI是使用成像装置模型和患者的年龄进行预测，而不是专注于骨折本身。

该模型非常适合某人生病，因为它可以揭示扫描仪是否使用的是便携式版本，因此，如果该人病得很重，无法去医院去医院。

Finlayson说，目前为防御攻击而设计的AI的当前努力往往会以降低准确性为代价。

左文资讯声明：未经许可，不得转载。

资讯

科技快讯

商业

科学

生活

健康动态

国际

综合

在微小图像调整后，AI会错误地在医疗扫描中看到癌症