新研究发出警告，医学成像AI软件易被愚弄

wo665451

　　  一项新研究发出警告，分析医学成像的AI软件容易被愚弄。研究人员称，深度学习神经网络在识别医学成像上的准确性得到了广泛报道，但对于其的弱点和安全问题则了解不多。德国研究人员上周报道称，AI系统比有经验的皮肤科医生能更准确的诊断皮肤癌。
  　　研究人员认为，在将AI工具整合到医疗保健系统的过程中，需要对其潜在的弱点有更多了解。他们检查了愚弄医学成像分析软件的难度。他们发现利用“对抗样本”（adversarial examples）能很容易的欺骗AI软件错误分类，这种攻击方法人类很难识破。