多伦多——在Advamed医疗技术会议上，美国和加拿大的医疗器械监管机构讨论了行业内备受关注的话题：人工智能。美国食品和药物管理局（FDA）已授权近1000种人工智能驱动的医疗设备，而加拿大卫生部也授权了数百种。然而，关于该技术依然存在若干未解问题，包括如何监控可以随着时间改变的算法的性能以及如何监管生成式AI工具。
FDA和加拿大卫生部的监管人员在医疗设备会议的专题讨论中分享了对这些挑战的看法，并提供了对未来法规的展望。FDA设备中心2025财年主要关注的优先事项之一是关于AI支持设备软件功能的生命周期管理和市场前推荐指南的草案。“我们所看到的问题是，人们对其能力感到非常兴奋，而不一定关注一旦产品开发并整合后的实际情况，”FDA数字健康卓越中心的主任Troy Tazbaz说。
该机构在周二发表在JAMA的一篇文章中强调了这种方法的必要性，并指出：“鉴于‘开放’模型的演化能力以及AI对环境变化的敏感性，越来越明显的是，AI性能应在其被使用的环境中进行监控。”其中一个挑战是如何监控算法的性能，以及该任务应由谁负责。例如，健康系统可以承担此角色，但其临床信息系统目前无法监控这些干预措施的持续和长期安全性及有效性，FDA写道。
由制造商进行的上市后审查的一个例子是FDA授权的首个败血症检测工具。该机构建立了一项特别控制，关注制造商Prenosis提供一份市场后性能管理计划，以显示产品在给定产品类型偏见风险下如何持续运作，FDA设备和放射健康中心数字健康副主任Jessica Paulsen说道。目前，FDA授权的所有AI/机器学习设备都是锁定的，因此未经FDA批准不能更改算法。
然而，国会在2022年授予FDA权限，可以通过名为预定变更控制计划（PCCP）的政策授权对医疗设备进行某些预先指定的变更，这些变化文件描述了对设备进行哪些修改以及如何评估这些修改。加拿大将实施AI的PCCP
加拿大的医疗设备监管机构计划在审查2023年分享的草案反馈后发布关于机器学习推动的医疗设备的指南。
加拿大医疗设备主管数字健康部经理Marc Lamoureux在会议上表示，最终指南将在“未来几个月”发布。指南涵盖了偏见、训练数据的代表性和透明性，Lamoureux说。它还包括预定变更控制计划，监管机构现在正在接受这些计划。监管者还可以对某些医疗设备的许可附加条件，以确保性能得以适当监控，以及AI模型能通用于加拿大的整体人口。
美国、加拿大和英国的医疗设备监管机构在过去对机器学习实践、透明度和PCCP等问题进行了合作。