随着人工智能（AI）在制药领域的深度应用（如自动化质检、工艺优化、异常监测等），其对患者安全、产品质量或数据可靠性的影响越来越大。为了帮助企业有效管控AI系统应用带来的潜在风险，EU制定了全球首份专门针对AI的GMP指南，并作为EU GMP附录11《计算机化系统》的补充规范，重点聚焦于监管静态、确定性输出的AI模型全生命周期管理。

本期我们将深入分析该草案的重点监管内容以及探讨企业应对这些新规的策略。

01 指南框架解析

2025年7月7日，欧盟委员会正式启动《欧盟药品法规汇编》（EudraLex）第4卷GMP指南的修订程序:

• 新增附录22《人工智能》（Artificial Intelligence）
• 修订第4章“文件”及附录11“计算机化系统”。

本草案是附录11《计算机化系统》的补充，全文共计6页，除了首页目录和尾页的术语，正文部分约4页内容。包括以下：

点击此处查看 附录22《人工智能》原文链接

1 适用范围

适用对象

• 关键GMP应用AI/ML模型：输出直接影响患者安全、产品质量或数据完整性
• 静态模型：部署后参数冻结，不进行实时学习
• 确定性输出模型：相同输入条件必产生相同输出

不适用对象

⚠️ 生成式AI/大语言模型（LLM）
⚠️ 动态模型（具备实时更新能力）
⚠️ 概率性输出模型（输出存在随机性）

2 核心原则

3 预期用途

详细规范要求

• 明确定义输入数据特征（含常见/罕见变体）
• 说明模型局限性/错误输入识别机制
• SME负责在验收测试前完成审批

子群划分依据

• 模型决策输出类型（如接受/拒绝）
• 生产线特性（如生产场地或设备）

缺陷类型

• 人机回圈（HITL）机制
• 明确操作员对模型输出的持续监控责任

4 验收标准

5 测试数据管理

数据要求
✅ 覆盖全样本空间（含极罕见变体）
✅ 采用分层抽样策略确保所有子群代表性
✅ 标签需经过多位专家验证确认准确性

禁止项
⚠️ 不建议生成式AI创建测试数据/标签（除非经科学论证并获批准）
⚠️ 数据清洗/排除操作需提供合理性论证并完整记录

6 测试数据独立性保障

隔离机制措施

• 通过技术手段（如数据分区）/管理流程确保测试数据未用于训练/验证
• 涉及物理对象时实行物理隔离（除非可证明特征独立性）

访问控制机制

• 测试数据加密存储并启用审计追踪访问记录
• 测试团队与开发团队人员分离或实施“四眼原则”监督

7 测试执行规范

测试目标
✅ 验证模型泛化能力（检测过拟合/欠拟合），确保符合预期用途

测试流程

1. 制定详细测试计划（含脚本/指标/数据引用）→需SME参与
2. 记录所有测试偏差/未达标项→调查根本原因并论证保留完整的测试文档（含原始数据/物理对象记录/审计追踪）

8 可解释性要求

特征归因分析

• 测试过程中捕获与记录影响分类或决策的关键特征
• 应用SHAP/LIME/热力图等可视化工具

特征审查依据
✅ SEM必须审查关键特征合理性

✅ 作为测试结果批准流程的必要环节

9 置信度管理

日志记录
✅ 系统自动记录每个预测输出的置信度分数

阈值管理
⚠️ 设置置信度阙值，低置信度输出标记为“未确定”状态
⚠️ 禁止不可靠输出

10 运营监控体系

02 专家看法

附录22作为GMP领域首份AI/ML主题的法规文件，即使当前处于征求意见稿阶段，它对于AI/ML产品上下游企业具有重要的意义。该文件不仅为欧盟设定了明确的监管方向，未来也将被全球其他主要监管机构（包括中国NMPA）广泛参考，用以评估AI应用对患者安全、产品质量及数据可靠性的潜在影响。

当前，使用AI技术提升生产力几乎成为各行业的必然，企业需要采取以下5大措施：

1. 密切关注AI领域发展趋势

制药工艺的相似性使得头部企业和领先供应商的技术应用成为重要风向标。积极关注这些前沿实践，是高效了解行业技术可行性与合规基准的有效途径。

2. 明确需求AI应用场景与决策

深入理解自身业务痛点与发展目标，结合行业技术成熟度，进行严谨的可行性评估（包括技术、合规、成本效益），据此做出审慎的AI引入决策。

3. 开展数据管理

数据管理贯穿模型开发、训练到落地的全流程，实施严格的数据治理（包括数据的获取、清洗、标注、存储、访问控制等），对于确保模型的准确性、可靠性和泛化能力至关重要。

4. 配备充分的人力资源

除了常规计算机化系统所需的内外部主题专家，如业务、技术、质量、验证等，还需要数据专家支持，他们的核心价值在于将业务需求转化为数据问题，并将模型输出的不确定性转化为确定、可操作的业务洞见。

5. 持续运行监控

需建立系统化的监控体系，覆盖关键维度：输入数据的质量和分布（防漂移）、模型性能指标的稳定性、系统资源状态以及用户反馈。建立明确的人工审核（HITL）触发机制和流程，是确保AI系统在长期运行中持续符合预期用途和安全要求的最后防线。

CSV专家简介

靳老师

CS合规经理

• 近15年的行业背景，专注于国际GMP合规管理和CS计算机化系统合规性。
• 80+国际GMP符合性成功案例，涵盖CS合规性、确认与验证、QMS搭建、差距分析、国际GMP审计、模拟检查等全流程服务，覆盖制药、生物技术、原料药、系统供应商、医疗器械和化妆品等领域。
• 擅长CS合规性管理、系统验证和数据完整性管理，熟悉3/4/5类软件，包括但不限于ERP、WMS、LIMS、SAP等复杂软件、大型自控系统和高度定制化软件。
• 熟悉API、高活性产品、生物制品的生产工艺、关键质量控制点及特殊合规要求。

凭借23年行业深耕与全球超5000+项目的丰富经验，德恩咨询在计算机化系统合规领域实力深厚。我们的中西方专家团队深谙中美欧、PIC/S、NMPA、TGA等GMP法规要求，并拥有服务默克、诺华、复星医药、伯乐生命医学、华熙生物等跨国药企、医疗器械、CDMO、CRO及科技公司的成功案例。

我们为您提供定制化的GAMP 5类别3/4/5计算机化系统合规服务，核心包括：

• CS管理体系
• CSV计算机化系统验证
• 软件验证
• IT基础设施确认
• 数据完整性（DI）
• CS合规审计
• CS合规培训

欢迎垂询

服务热线：400-166-2002

邮箱：info-cn@gempex.com

关于gempex德恩咨询

德恩咨询是gempex在中国的全资子公司，是具有国际影响力的GMP咨询与执行机构，致力于为全球的生命科学企业提供合规、高效及可执行的GMP解决方案。经过23年的发展，我们拥有60多位经验丰富的GMP专家，全球累计执行项目超过5000个，累计为1000多个客户提供专业服务，业务遍布20多个国家，并与众多知名药企建立了长期的合作关系。

我们的专家团队拥有丰富的行业经验，熟知NMPA、FDA、EU、WHO、ICH、PIC/S、MHRA、SWISSMEDIC、TGA等GMP法规要求，能为不同国家和地区的客户提供定制化的解决方案，服务包括全球GMP符合性、新厂房合规性、CS计算机化系统、工厂质量管理和多国MAH/MAA服务。