Comprobadamente Correcto, No Probablemente Correcto
Comprobadamente correcto significa que una decisión de IA clínica puede reconstruirse bajo demanda: la regla exacta invocada, los valores exactos comprobados, la operación determinista que devolvió aprobación o rechazo, y un humano nombrado que la atestiguó. Probablemente correcto significa que el sistema estaba confiado. Bajo inspección, solo uno de los dos sobrevive.
Esto es una distinción de categoría, no una frase de marketing. Divide la IA clínica en dos arquitecturas que parecen idénticas en una demostración y se comportan de manera completamente distinta en el momento en que un regulador, un comité de ética o un tribunal hace la única pregunta que importa: muéstreme exactamente cómo se tomó esta decisión.
Una arquitectura responde con una probabilidad. La otra responde con una prueba.
La pregunta que ninguna probabilidad puede responder
Una inspectora entra en un centro clínico. Elige al azar un paciente incluido y dice: explíqueme paso a paso cómo determinó que este paciente era elegible.
Si la decisión no puede reconstruirse frente a ella, los datos fuente, la comprobación de inclusión y exclusión, la lógica que los conectó, eso es un hallazgo de cumplimiento del protocolo. El cumplimiento del protocolo ha estado durante años entre las categorías de deficiencia más citadas en las inspecciones de BPC de la FDA y la EMA. Es la falla más antigua y mejor comprendida del campo.
Un puntaje de confianza no le explica nada a nadie.
Todo marco regulatorio que gobierna la IA clínica descansa sobre el mismo requisito: una decisión regulada debe ser reconstruible, desde los datos fuente a través de la lógica de la decisión hasta la regla que la produjo, en el momento en que un inspector lo pide. El requisito aparece en la 21 CFR Parte 11, en ALCOA+, en ICH E6(R3), en los Artículos 11, 12, 13 y 14 del Reglamento de IA de la UE, en la Resolución CFM 2.454/2026 de Brasil y en las New Drugs and Clinical Trials Rules, 2019, de la India. La formulación varía según la jurisdicción. El requisito arquitectónico no.
Un puntaje de confianza es, por construcción, la salida de una distribución de probabilidad. No es la salida de una regla aplicada a datos fuente. Se le puede adjuntar una etiqueta regulatoria después del hecho. No se puede derivar de una.
Esa es la distinción entera, enunciada a nivel de la evidencia:
🔹 Probablemente correcto optimiza con qué frecuencia el sistema acierta.
🔹 Comprobadamente correcto optimiza si podemos probar que el sistema respetó cada restricción sobre esta decisión específica.
Ambas preguntas importan. Los paradigmas de validación existentes responden a la primera. La segunda se dejó para que los asuntos regulatorios la tradujeran por su cuenta, y no puede traducirse. Un puntaje de confianza no es un artefacto de cumplimiento. Es una señal de marketing con ropaje regulatorio.
Simular frente a probar
Hay una versión más sutil de "probablemente correcto" que merece nombrarse, porque es donde fallan los sistemas más sofisticados.
Alguna IA clínica simula al regulador. Predice lo que un inspector, un comité de ética o un revisor de agencia diría sobre una salida dada. Un modelo bien entrenado puede hacerlo de forma impresionante. Pero la predicción del juicio de un regulador es, por definición, probablemente correcta. Es una muy buena conjetura sobre un veredicto humano que nunca se emitió realmente.
Comprobadamente correcto no simula al regulador.
Prueba un conjunto acotado de propiedades estructurales de forma determinista, sin término medio probabilístico, y encamina todo juicio fuera de ese límite a un atestador humano nombrado. La máquina prueba lo que puede probarse. El humano decide lo que requiere juicio. Nada se adivina y luego se viste como veredicto.
Esa es la frase que separa las dos categorías:
Un sistema que predice lo que un regulador diría es probablemente correcto.
Un sistema que prueba propiedades acotadas y encamina el resto a un humano responsable es comprobadamente correcto.
Qué es realmente un certificado de prueba
Un certificado de prueba no es una metáfora ni un tablero. Es un artefacto concreto y estructurado, producido por el sistema en el momento de la decisión, que contiene un conjunto definido de propiedades. En su núcleo:
🔹 La regla invocada. La regla específica aplicada, por fuente, cita y versión. No "guía de la FDA". Sección 4.2.1 del protocolo, Criterio de Inclusión 7, verificado conforme a los requisitos de datos fuente de ICH E6(R3).
🔹 Los valores verificados. Los valores exactos de paciente, protocolo, centro y operativos comprobados. Enumerados, no resumidos. Atribuibles a la fuente.
🔹 La operación de verificación. El procedimiento determinista que devolvió aprobación o rechazo sobre esta decisión específica. Inspeccionable. Reproducible. Reejecutable frente al inspector.
🔹 La declaración de límite. Lo que la operación no comprobó, y los factores de juicio humano deliberadamente reservados al humano responsable.
La especificación completa extiende esto a ocho propiedades, agregando la clase de riesgo congelada de la decisión, la identidad del humano que atestiguó, el registro de anulación y escalamiento, y una declaración explícita de que la operación es evidencia presentada a un revisor, no una sustitución del juicio del revisor. El esquema completo se expone en El marco de validación regulatoria.
Sin probabilidades. Sin confianza de modelo. Sin puntaje de explicabilidad adjuntado después del hecho.
Esto es lo que la 21 CFR Parte 11 exige desde 1997. Es lo que ALCOA+ exige cada día en cada centro bajo inspección. Es lo que el Reglamento de IA de la UE ahora exige explícitamente. Y es cercano a lo que la Resolución CFM 2.454/2026 espera de la IA en la práctica médica brasileña: explicabilidad, trazabilidad de la decisión y una decisión final humana, con el énfasis en la trazabilidad de la decisión en lugar de la interpretabilidad del modelo. La resolución gobierna la práctica médica y entra en vigor en agosto de 2026; el principio que hace explícito, la trazabilidad a nivel de decisión, es lo que produce un certificado de prueba.
El estándar regulatorio ya está aquí. Buena parte de la pila de proveedores no ha alcanzado el paso.
La prueba de tres segundos
Hay una prueba que cualquier profesional de asuntos regulatorios puede aplicar hoy a cualquier sistema de IA clínica.
Pida: muéstreme el artefacto de prueba de esta decisión, regla invocada, valores fuente, operación de verificación, declaración de límite, en un solo documento. Luego cronometre la respuesta.
🔹 Si la respuesta navega a un tablero, eso es un puntaje de confianza envuelto en una interfaz.
🔹 Si la respuesta ofrece exportar un registro de auditoría, eso es una base de datos de marcas de tiempo.
🔹 Si el sistema produce, en segundos, un artefacto estructurado que porta esas propiedades, eso es un certificado de prueba.
La mayoría de la IA clínica desplegada hoy falla esta prueba. No porque los proveedores sean deshonestos, sino porque la arquitectura trata el cumplimiento como una capa agregada al final. Para entonces, la primitiva regulatoria, el rastro verificable de regla a decisión a datos fuente, ya ha sido reemplazada por una probabilidad. No se puede readaptar un certificado de prueba sobre un puntaje de confianza. El sistema tiene que construirse en torno al certificado desde la primera línea de código.
Por qué la evidencia tiene que ser no correlacionada
Hay una propiedad más que separa la prueba del desempeño, y es la que más a menudo se pasa por alto.
Un puntaje de confianza es el modelo calificando su propio trabajo. Lo genera el mismo sistema cuya salida puntúa, así que hereda los puntos ciegos de esa salida. Cuando se equivoca, tiende a equivocarse exactamente en las formas en que la salida se equivoca. Eso es evidencia correlacionada vistiendo la etiqueta de una comprobación. Buena parte de lo que se presenta en la IA clínica como control de calidad, un agente comprobando a otro agente entrenado con los mismos datos, tiene el mismo defecto.
Comprobadamente correcto exige evidencia que falle de forma diferente.
Una comprobación determinista de reglas, una prueba estructural formal y una atestación humana son tres sustratos diferentes. Es improbable que compartan una causa común de falla. Una comprobación de reglas puede equivocarse de formas que una prueba estructural detectaría. Una prueba estructural puede aprobar una determinación que un humano rechazaría. Un humano puede captar lo que ninguna operación de máquina fue alcanzada a ver. La evidencia extraída de sustratos que fallan de forma diferente es defendible de un modo que un único número autorreportado nunca lo es.
La evidencia correlacionada es confianza. La evidencia no correlacionada es prueba.
La categoría que esto define
"Comprobadamente correcto, no probablemente correcto" es el principio de diseño bajo una categoría específica de infraestructura: IA de verificación primero para decisiones clínicas reguladas. La distinción es arquitectónica antes de ser cualquier otra cosa.
🔹 Un modelo probabilístico puede participar en la tubería de decisión, pero solo porque está condicionado por una comprobación determinista que no puede eludir. El modelo propone. La prueba dispone.
🔹 Todo lo que un inspector, un comité de ética o un tribunal ve es producido por la capa de verificación determinista, no por el sustrato probabilístico que la alimentó.
🔹 La capa de verificación, no el modelo, produce el artefacto regulado.
Por eso la categoría se define por lo que puede reconstruir, no por cuán exacta afirma ser. La exactitud es una propiedad de un modelo. La admisibilidad es una propiedad de una arquitectura.
Los marcos regulatorios están convergiendo en esto desde todas las direcciones: trayectorias de inspección continua, en tiempo real, en los Estados Unidos, evaluación de conformidad de alto riesgo en la UE, explicabilidad a nivel de decisión en Brasil. Cuando la inspección se vuelve continua, la verificación tiene que ser determinista e instantánea. La verificación procedimental, que documenta la conformidad después del hecho, no puede operar a esa cadencia. La verificación arquitectónica sí puede.
El campo tendrá que elegir qué artefacto cuenta. Una probabilidad, o una prueba.
Comprobadamente correcto, no probablemente correcto. Ese es el estándar. El certificado es la prueba.
Preguntas frecuentes
¿Qué significa "comprobadamente correcto, no probablemente correcto" en la IA clínica?
Significa que una decisión de IA clínica puede reconstruirse y defenderse de forma determinista, la regla, los valores, la operación de verificación y la atestación humana exactas, en lugar de meramente ir acompañada de un puntaje de confianza que indica cuán seguro estaba el modelo. La probabilidad describe el estado interno del modelo. La prueba describe lo que se verificó realmente.
¿Por qué un puntaje de confianza no es un artefacto de cumplimiento?
Un puntaje de confianza es la salida de una distribución de probabilidad, no la salida de una regla aplicada a datos fuente. Regulaciones como la 21 CFR Parte 11, ICH E6(R3) y los Artículos 11, 12, 13 y 14 del Reglamento de IA de la UE exigen que una decisión regulada sea reconstruible bajo demanda. Un puntaje de confianza no puede reconstruirse en la regla y los valores que produjeron la decisión, así que no puede satisfacer ese requisito.
¿Qué es un certificado de prueba?
Un certificado de prueba es un artefacto estructurado producido en el momento en que se toma una decisión asistida por IA. Registra la regla invocada, los valores verificados, la operación de verificación determinista, una declaración de límite explícita sobre lo que no se comprobó, la clase de riesgo congelada, la identidad del humano que atestiguó, el registro de anulación y escalamiento, y una declaración de que la operación es evidencia, no una sustitución del juicio humano.
¿En qué se diferencia un certificado de prueba de un registro de auditoría?
Un registro de auditoría es típicamente una base de datos de marcas de tiempo que registra que algo ocurrió. Un certificado de prueba registra exactamente qué se verificó, contra qué regla y versión, con qué valores fuente, y qué se dejó deliberadamente al juicio humano, en un único artefacto reproducible que puede reejecutarse frente a un inspector.
¿La arquitectura de verificación primero reemplaza a los revisores humanos?
No. La arquitectura es explícitamente evidencia, no sustitución. La operación de verificación es evidencia aguas arriba que un humano nombrado consume antes de atestiguar la decisión. La responsabilidad permanece con el humano.
NexTrial.ai construye infraestructura de verificación primero para la activación de ensayos clínicos asistida por IA. Las capacidades aquí descritas reflejan la intención de diseño del marco. Para la arquitectura completa, ver El marco de validación regulatoria.