AI在药品生产中的不当使用

1 检查发现

• 该企业使用AI代理编制了药品质量标准、SOP以及主生产和检验批记录，但是未对AI生成文件进行cGMP合规性审核，违反了21 CFR 211.22(C)。
  
  
• 企业在药品生产管理中过度依赖AI。例如：药品在上市前未按照21 CFR 211.100(a)要求完成工艺验证，对此企业给出的解释是其所使用的AI代理未提示需要执行工艺验证，导致员工未识别到工艺验证的必要性。
  
  

2 问题本质

上述问题的核心不是“用了AI”，而是用AI的时候，合规意识不足，过度依赖AI。

目前AI在制药行业的应用并不少见，例如用AI辅助编写SOP、分析偏差原因、生成培训资料等等。在这些场景中，AI可以作为效率工具，但前提是使用者具备能力判断AI输出的内容是否正确、完整、合规。

该企业的问题在于：将AI生成的文件未经审核直接用于GMP活动，在被指出未按法规要求执行工艺验证时，企业以“AI没告诉我”为由解释。这在FDA看来，该企业在法规理解和责任履行方面存在根本性缺失。

3 FDA立场

从这封警告信可以读出几个信号：

• AI是工具，不是决策者。AI可以辅助工作，但最终审核和批准需要由具备资质的人员完成。
• 以AI未告知为由不能免责。企业负责人有责任了解并遵守法规要求。
• 避免过度依赖AI。企业需具备判断AI输出正确性、合规性的能力。

4 德恩建议

企业在使用AI支持cGMP活动时，建议建立以下管控机制：

1.定义AI的预期用途与管控要求：企业应结合AI所支持的业务活动，充分识别风险并定义控制措施，例如对于判别式AI、生成式AI在支持GMP关键活动或者非关键活动时所需的风险控制措施；

2.明确使用边界：对于特定的AI，应建立AI工具使用与控制程序，在SOP中明确定义AI辅助的应用范围与控制流程，直接应用在GMP活动中的程序使用前应充分验证与确认。

3.建立审批机制：对于AI输出的结果，尤其考虑到生成式AI的特性（生成新的数据），需要建立“人”负责的机制。所有文件必须建立适当的人工审批策略，以对AI可能涉及的幻觉或者偏见进行控制。审批矩阵及审批人员资质应不低于人工编制的文件并满足相关法规要求，审批流需留痕可追溯。

4.AI模型维护：AI模型很难一次做到完美，GMP活动以及外部法规要求同样是动态的，需要实时更新。AI模型需要结合内外部的因素，进行适当的维护、更新和训练，确保AI始终符合预期用途。

5.具备判断能力：定期组织GMP基础知识及必要的专业技能培训，确保员工具备判断AI输出内容正确性、合规性的能力。

生产环境不卫生

检查官在设施内多个区域发现昆虫、污物、树叶和杂物。装卸区门在开启时会将生产区域直接暴露于外部环境，缺乏防止污染的有效隔离措施。

微生物检测缺失

该企业生产多种顺势疗法药品，但未对成品进行微生物属性检测（如总计数、指定有害微生物）即予以放行。

组分检测不充分

• 未对组分进行充分的纯度、剂量、质量和身份鉴别检测
• 依赖供应商的分析证书（COA），但未定期验证供应商检测分析的可靠性
• 未对采购的散装物料进行检测以确认其质量
• 未对存在特定污染高风险的组分在使用前进行鉴别检测

质量部门监督不足

质量部门未能确保相关程序已建立并得到遵守、未在药品放行前审核批记录、未能建立充分的生产和工艺控制。