AI 驱动的手术设备自 2021 年以来涉及超过 1400 份安全报告
自 2021 年起，美国监管机构收到了 1400 多份关于 AI 手术设备的故障报告，TruDi 导航系统等产品在集成 AI 后故障率显著上升。学术界警告，近一半的 AI 设备召回发生在其获批的首年内，凸显了监管漏洞与安全隐患。
自 2021 年以来，美国监管机构已收到超过 1400 份涉及 FDA 批准的 AI 医疗设备的报告，其中包括手术失败和软件误识人体部位等指控。目前，FDA 累计已批准至少 1357 种集成 AI 的医疗设备，这一数字是 2022 年底的两倍。
其中，Accclarent 公司（Integra LifeSciences 子公司）开发的 TruDi 导航系统备受关注。该系统于 2021 年集成了机器学习算法，旨在引导医生在患者头部进行精细手术。数据显示，在加入 AI 之前，该系统仅有 7 次故障报告；而在 2021 年更新后到 2025 年底，FDA 记录了至少 100 份故障报告，其中包括 10 起伤害事故。报告描述了系统在颈动脉等关键解剖结构附近误导外科医生的情况。在德克萨斯州的两起法律诉讼中，患者指控该 AI 组件使设备变得不可靠，甚至导致了中风。
除了 TruDi 系统，Sonio Detect 产前超声工具也被指控其算法误识胎儿结构。来自约翰霍普金斯大学、乔治城大学和耶鲁大学的联合学术评审发现，约有 60 种经 FDA 批准的 AI 设备涉及总计 182 次召回，且近一半的召回发生在获批后的一年内。这表明目前的监管审批过程可能忽视了 AI 技术在早期应用中的性能故障风险。尽管 AI 能为外科医生提供更清晰的视角，但由于许多此类设备无需进行人体临床试验，其潜在的安全隐患正引发广泛担忧。