在日前召开的2020年世界人工智能大会上,肺炎AI影像辅助诊断产品评测结果公布。这次大会由工信部科技司指导,中国信通院、中国人工智能产业发展联盟、医学人工智能研究与验证工信部重点实验室联合举行,被誉为肺炎AI影像辅助诊断产品的“国考”。这是首次由官方举办的医疗AI影像辅助诊断产品的同台竞技。
今年2月,工信部发布《充分发挥人工智能赋能效用协力抗击新型冠状病毒感染的肺炎疫情倡议书》。在抗击新冠肺炎疫情期间,医疗AI企业纷纷发力,涌现了多种肺炎CT影像辅助诊断AI产品。为此,中国信通院发布了《关于开展肺炎人工智能影像辅助诊断产品评测的通知》,旨在通过评测树立肺炎人工智能影像辅助诊断标杆企业。
中国信通院医疗健康大数据和网络中心负责测评。通过现场测试和材料审查两种方式对参评产品的各项指标进行综合评价,严格参考国家标准、行业标准和国家药监局相关技术审评原则。
工业和信息化部科技司副司长朱秀梅表示,人工智能算法模型通过对海量肺炎患者影像的主动学习,具备了对肺炎的诊断能力,实现新冠肺炎的早期检测、随访评估、诊断分型等智能辅助诊断功能,已经在多家一线医疗机构试用,并取得积极效果,缓解了医疗诊断资源紧张的局面。
此次评测分为功能审查、性能评测、专家评审三部分,其中,功能审查主要评测肺炎AI产品的功能完备性、系统安全性、可靠性、易用性和兼容性;性能测评主要采用已标注测试数据进行客观测试,对肺炎AI产品临床诊断性能进行指标评价(准确率、灵敏度、特异度和Kappa系数);专家评审则是邀请国内权威临床专家从产品体验性、实用性、创新性、合理性等方面进行评价,同时综合考虑创新性的特殊功能评价。
中国信通院专家介绍,测试数据是此次测评的另一大亮点。此次测评使用了1000例肺炎(包括新冠肺炎和其它各种肺炎),参评的各家医疗AI企业用各自的模型(产品)测试。首先,数据全部来源于上海市公卫临床中心等7家新冠肺炎定点医疗机构,在采集过程中充分考虑了采集设备和配置、数据多样化和病例分布三个维度指标。
专家介绍,性能测试包含“是否肺炎”“是否新冠”“病灶位置”。测评结果显示,大部分企业产品都能较好地筛查出“是否肺炎”,但在新冠肺炎鉴别诊断方面,仅有3家的准确率、灵敏度、特异性在80%以上,其中部分指标在90%以上。
中国信通院透露,此次测评创新性打分普遍较低,目前产品尚需增加对临床使用有重要辅助意义的其他特色创新功能。
朱秀梅强调,此次对肺炎AI产品的评测和颁奖,是对人工智能医疗企业在抗击新冠肺炎疫情期间工作成果的肯定。医疗AI要充分考虑临床需要,医疗AI相关产品的研发要紧紧依托临床经验和需求,才能真正为疾病的早发现、早诊断提供切实有效的帮助。”
中国信通院院长刘多表示,能否满足复杂、多元医疗场景应用的需求,是决定医疗AI企业能否可持续性发展的关键。肺炎AI影像辅助诊断产品下一步要逐步开发如传染性肺炎AI预警等特色创新功能,增强面对各种重大传染病的快速识别和风险预警的能力,为我国实现重大突发公共卫生事件的“早发现、早报告、早隔离、早诊断、早治疗”作出贡献。
本次共有17家医疗AI公司参评,北京安德医智科技有限公司、杭州健培科技有限公司、平安科技(深圳)有限公司等7家企业的肺炎AI影像辅助诊断产品脱颖而出。中国人工智能产业发展联盟常务副秘书长王爱华说,此次测评中脱颖而出的国内医疗AI企业的肺炎AI产品已达到较高水平,产品功能已相对成熟和完善。
王君平