CRO 如何在自身质量体系内认定人工智能供应商
申办方的招标文件已经在问了。您的质量管理体系还没有答案。
在过去两个周期中的某个时点，有一个问题从"创新"页迁移到了申办方招标文件的供应商资格认定章节。措辞略有出入，但大意如下：
请说明在提供本项服务过程中所使用的人工智能或机器学习系统。请说明这些系统如何验证。请说明其输出在贵方质量管理体系内如何受控。请指明由谁对输出负责。
这不是创新问题，而是供应商资格认定问题，落在质量部门而非商务拓展部门。目前多数 CRO 的答复不外乎两种，而两种都会输掉这个项目。
两种会输的答复
第一种是否认。"我们在提供本项服务的过程中不使用人工智能系统。"十八个月前这还站得住脚。如今申办方读到这句话，要么认为不实，要么认为缺乏竞争力，因为申办方清楚其他投标方提出了什么，也清楚现代医学写作或可行性评估流程是什么样子。
**第二种是安全认证。**CRO 转发供应商的 SOC 2 报告或 ISO 27001 证书。这是一个类别错误，申办方的质量负责人一眼就能看出来。SOC 2 说明的是供应商不会丢失您的数据，完全没有说明其输出在法规申报中是否可以依赖。信息安全与计算机化系统验证是两门不同的学科，回答的是两个不同的问题，而招标文件问的是后者。
质量部门为何确实被卡住
这一点需要讲清楚，因为困难是真实存在的，不是任何人尽职不足所致。
按照 GAMP 5 的实践、也是检查员所期待的计算机化系统验证，建立在一个数十年之久且完全合理的前提之上：系统是确定性的。定义需求、规定设计、测试安装、运行与性能，并证明相同的输入产生相同的输出。可重复性是承重梁。验证包中的每一份文件、每一张追溯矩阵、每一个再确认触发条件，都压在这根梁上。
大语言模型不提供这个意义上的可重复性。相同的输入可能产生不同的输出。温度设置与随机种子固定可以降低方差，但不能把系统变成确定性系统；质量部门若写出一份声称相反情况的 PQ 方案，那就是写了一份在检查中无法辩护的文件。
因此，CRO 的质量职能被要求去验证一个其根本行为恰恰打破了验证赖以建立的框架的对象。这不是文书问题，而是结构问题。告诉质量总监"把现有 SOP 扩展一下就行"，不是答案。
申办方真正要的是什么
再读一遍这道招标题，注意它没有问什么。它没有问模型是否准确，没有索取基准测试分数。它问的是输出如何受控，以及由谁负责。
这是关于证据的问题，不是关于模型的问题。
申办方心中的法规框架，正是其日常所处的框架。依据 21 CFR Part 11 与欧盟附录 11，支持受监管决策的记录需要可归属、同步且持久的稽查轨迹。依据 ALCOA+，支持该决策的数据须可归属、清晰、同步、原始且准确。依据 ICH E6(R3)，无论由谁操作，申办方对试验实施过程中所使用的系统承担责任。这些框架没有一个在问模型是否聪明，全都在问：事后，面对怀有敌意的一方，在数年之后，您能否把过程摆出来。
下面这个转向，能解开整个问题：
您验证的不是模型。您验证的是模型产出的证据。
一个输出无法核验之断言的概率性系统，本身就是不可验证的，再多文件也无济于事。而一个在人看到之前、其输出先由独立且分离的机制加以核对的概率性系统，则完全是另一种对象。进入您质量体系的不是模型的意见，而是一份带有可追溯来源的、已核对的产出物，而已核对的产出物正是您的质量管理体系本来就会处理的东西。
把核验作为独立层
这是 NexTrial 的 Three-Gate Verification System 背后的架构原则。这里从结构而非产品卖点的角度描述，因为 CRO 的质量部门需要评估的正是结构。
**Gate 1，司法辖区。**在任何生成动作之前，先确定适用的法规要求集合。FDA 的要求不等于 ANVISA 的要求，也不等于 CDSCO 的要求；把司法辖区当作事后过滤器的系统，早已产出了错误的产出物。Gate 1 的设计意图，是让司法辖区成为输入端的约束条件，而非下游的检查环节。
**Gate 2，结构性证明。**生成的产出物，由一个独立于生成它的模型的机制，对照该司法辖区的要求结构进行核对。独立性的意义在于非相关证据：模型核对自身输出时，与被核对对象共享同样的失效模式，这正是自洽性评分与置信度数值不构成证据的原因。该结构性证明层已交付，目前正与一家申办方进行首次验证。一家申办方是很小的样本量，此处刻意如实标明为很小的样本量。
**Gate 3，人工监督。**判定结果交由具备资质的人员做出决定。这不是由人签字背书的建议，也不是由人从旁看管的自动化。决定本身仍是人的行为，证据附随其后。
基于 Lean 4 构建的形式化核验层正在开发中，尚未上线。此处不为其附加任何性能数字，因为给未交付的系统附上数字，就是编造数字。
这一结构对 CRO 尤其重要的原因在于：它产出的是一份您可以直接摆到申办方稽查员面前的产出物，而无需为模型辩护。可辩护的对象是证明，不是预测。
司法辖区层，以及它为何因地区而异
对跨境运营的 CRO 而言，有三件事同时成立，各自衍生出同一道招标题的不同版本。
在巴西，ANVISA 项下的国际申办方面对的要求结构与 FDA 确有实质差异，而承担本地执行的 CRO 正是必须证明符合性的一方。把这套结构编码进系统，而不是翻译一份美国清单，决定了申报是一次通过还是被退回。
在印度，境外申办方面向 CDSCO 的方案符合性义务，与常见的职能服务外包（而非全服务）交付模式并存，这改变了质量义务的承担方，也改变了供应商资格认定如何向上传导至申办方。
在欧洲，尚未解决的问题是：某一临床试验支持系统是否落入欧盟人工智能法案的高风险类别，以及一旦落入将触发哪些义务。就这一类工具而言，该问题尚无定论；任何供应商若告诉 CRO 此事已有定论，日后都得收回这句话。正确的姿态是：按照高风险分类所要求的标准，事先构建技术文档与日志记录，无论分类结果如何都能拿得出来。
向任何人工智能供应商提出的八个问题
以下问题，CRO 的质量部门可以发给该类别中的任何供应商，包括我们。排序上，前四个能快速淘汰对象。
- 贵方系统产生输出后，在人看到之前，由哪个独立机制对其进行核对？ 若答案是同一模型给出的置信度数值，那就不存在独立核对。
- 该核对机制与生成模型是否相关？ 共享训练数据、共享架构或共享提示上下文，意味着共享盲区。
- 贵方系统向我们的质量体系交付什么产出物，其来源记录是什么？ 您认定的是产出物，不是软件。
- 请完整展示一次决策的全程稽查轨迹。 无法按需重建的东西，撑不过一次检查。
- 应用了哪个司法辖区的要求结构，该编码在何处维护？ 把司法辖区当作翻译层来处理，就是处理错了。
- 贵方平台中哪些已交付，哪些在开发中？ 请对方用这两个词回答。答复所用的时态，会告诉您买的是什么。
- 人的决定处在贵方流程的哪个位置，是否可以被绕过？ 若在时间压力下可以绕过，就一定会被绕过。
- 贵方系统存储什么，以及永远不存储什么？ 对依合同持有申办方数据的 CRO 而言，边界比能力更重要。
能用平实语言回答完这八个问题的供应商，是您的质量部门可以认定的供应商。用基准测试分数来回答的供应商，是没有听懂问题的供应商。
商业上的要点
能向申办方交出一份验证材料包的 CRO，赢得项目。不是人工智能用得最多的那家，也不是用得最少的那家。赢的是质量部门能够毫不迟疑地答完资格认定章节的那家，因为正是这份答复，把一项创新主张转化成了可以采购的服务。
这才是真实的需求。这不是一次技术采购，而是一次证据采购。
证据，而非替代。由人决定。
常见问题
人工智能系统能否在 GAMP 5 下完成验证？
验证框架以确定性行为为前提，而大语言模型并不提供这一点。可行的做法是验证系统产出的证据而非模型本身，即在生成输出与人的决定之间，要求设置一个独立的核验机制。
SOC 2 或 ISO 27001 能否回答申办方关于人工智能的资格认定问题？
不能。这些认证针对的是信息安全。申办方的资格认定问题针对的是输出在受监管决策中是否可以依赖，那属于计算机化系统验证问题，而非安全问题。
依据 ICH E6(R3)，临床试验中人工智能输出由谁负责？
无论由谁操作，试验实施过程中所使用系统的责任仍归属申办方。正因如此，CRO 的供应商资格认定证据会一路传导至申办方自身的迎检准备。
什么是非相关证据？
由不共享生成模型的架构、训练数据或上下文的机制所产出的核验。相关性核对会复制原始错误，这正是模型自身的置信度数值不能证明其正确性的原因。
CRO 应当首先向人工智能供应商问什么？
在人看到输出之前，由哪个独立机制对其进行核对。若不存在这样的机制，其余问题都无从谈起。