Nachweisbar richtig, nicht wahrscheinlich richtig
Nachweisbar richtig bedeutet, dass eine klinische KI-Entscheidung auf Anforderung rekonstruiert werden kann: die genaue angewandte Regel, die genau geprüften Werte, die deterministische Operation, die bestanden oder nicht bestanden zurückgab, und ein benannter Mensch, der sie attestiert hat. Wahrscheinlich richtig bedeutet, das System war zuversichtlich. Unter Inspektion überlebt nur eines von beiden.
Dies ist eine Kategorienunterscheidung, keine Marketingzeile. Sie teilt klinische KI in zwei Architekturen, die in einer Demo identisch aussehen und sich völlig unterschiedlich verhalten, sobald ein Regulierer, ein Ethikgremium oder ein Gericht die einzige Frage stellt, die zählt: zeigen Sie mir genau, wie diese Entscheidung getroffen wurde.
Eine Architektur antwortet mit einer Wahrscheinlichkeit. Die andere antwortet mit einem Beweis.
Die Frage, die keine Wahrscheinlichkeit beantworten kann
Eine Inspektorin betritt ein klinisches Zentrum. Sie wählt zufällig einen eingeschlossenen Patienten und sagt: erklären Sie mir Schritt für Schritt, wie Sie festgestellt haben, dass dieser Patient geeignet war.
Wenn die Entscheidung vor ihr nicht rekonstruiert werden kann, die Quelldaten, die Ein- und Ausschlussprüfung, die Logik, die sie verband, dann ist das ein Befund zur Prüfplan-Konformität. Prüfplan-Konformität zählt seit Jahren zu den am häufigsten genannten Mängelkategorien in GCP-Inspektionen von FDA und EMA. Es ist das älteste, bestverstandene Versagen des Feldes.
Ein Konfidenzwert erklärt niemandem irgendetwas.
Jeder regulatorische Rahmen, der klinische KI regelt, beruht auf derselben Anforderung: eine regulierte Entscheidung muss rekonstruierbar sein, von den Quelldaten über die Entscheidungslogik bis zur Regel, die sie erzeugt hat, in dem Moment, in dem ein Inspektor danach fragt. Die Anforderung erscheint in 21 CFR Part 11, in ALCOA+, in ICH E6(R3), in den Artikeln 11, 12, 13 und 14 der EU-KI-Verordnung, in Brasiliens CFM-Resolution 2.454/2026 und in Indiens New Drugs and Clinical Trials Rules, 2019. Die Formulierung variiert je nach Jurisdiktion. Die architektonische Anforderung nicht.
Ein Konfidenzwert ist konstruktionsbedingt die Ausgabe einer Wahrscheinlichkeitsverteilung. Er ist nicht die Ausgabe einer auf Quelldaten angewandten Regel. Man kann ihm im Nachhinein ein regulatorisches Etikett anheften. Man kann ihn nicht aus einer Regel ableiten.
Das ist die ganze Unterscheidung, auf der Ebene der Evidenz ausgedrückt:
🔹 Wahrscheinlich richtig optimiert wie oft das System korrekt ist.
🔹 Nachweisbar richtig optimiert ob wir beweisen können, dass das System jede Einschränkung bei genau dieser Entscheidung eingehalten hat.
Beide Fragen zählen. Bestehende Validierungsparadigmen beantworten die erste. Die zweite wurde den Regulatory Affairs überlassen, sie selbst zu übersetzen, und sie lässt sich nicht übersetzen. Ein Konfidenzwert ist kein Konformitätsartefakt. Er ist ein Marketingsignal in regulatorischer Kleidung.
Simulieren gegen beweisen
Es gibt eine subtilere Version von „wahrscheinlich richtig", die benannt zu werden verdient, denn dort scheitern die anspruchsvollsten Systeme.
Manche klinische KI simuliert den Regulierer. Sie sagt vorher, was ein Inspektor, ein Ethikgremium oder ein Behördenprüfer über eine gegebene Ausgabe sagen würde. Ein gut trainiertes Modell kann das eindrucksvoll gut. Aber die Vorhersage des Urteils eines Regulierers ist per Definition wahrscheinlich richtig. Sie ist eine sehr gute Vermutung über ein menschliches Urteil, das nie tatsächlich gefällt wurde.
Nachweisbar richtig simuliert den Regulierer nicht.
Es beweist eine begrenzte Menge struktureller Eigenschaften deterministisch, ohne probabilistischen Mittelweg, und leitet jedes Urteil außerhalb dieser Grenze an einen benannten menschlichen Attestierer weiter. Die Maschine beweist, was bewiesen werden kann. Der Mensch entscheidet, was Urteil erfordert. Nichts wird geraten und dann als Urteil verkleidet.
Das ist der Satz, der die beiden Kategorien trennt:
Ein System, das vorhersagt, was ein Regulierer sagen würde, ist wahrscheinlich richtig.
Ein System, das begrenzte Eigenschaften beweist und den Rest an einen verantwortlichen Menschen weiterleitet, ist nachweisbar richtig.
Was ein Beweiszertifikat wirklich ist
Ein Beweiszertifikat ist keine Metapher und kein Dashboard. Es ist ein konkretes, strukturiertes Artefakt, das das System im Moment der Entscheidung erzeugt und das eine definierte Menge an Eigenschaften enthält. Im Kern:
🔹 Die angewandte Regel. Die genaue angewandte Regel, nach Quelle, Zitat und Version. Nicht „FDA-Leitlinie". Prüfplan-Abschnitt 4.2.1, Einschlusskriterium 7, verifiziert gemäß den Quelldatenanforderungen von ICH E6(R3).
🔹 Die verifizierten Werte. Die exakten geprüften Patienten-, Prüfplan-, Zentrums- und Betriebswerte. Aufgelistet, nicht zusammengefasst. Zur Quelle attribuierbar.
🔹 Die Verifizierungsoperation. Das deterministische Verfahren, das für genau diese Entscheidung bestanden oder nicht bestanden zurückgab. Inspizierbar. Reproduzierbar. Vor dem Inspektor erneut ausführbar.
🔹 Die Grenzaussage. Was die Operation nicht prüfte und welche menschlichen Ermessensfaktoren bewusst dem verantwortlichen Menschen vorbehalten sind.
Die vollständige Spezifikation erweitert dies auf acht Eigenschaften und ergänzt die eingefrorene Risikoklasse der Entscheidung, die Identität des attestierenden Menschen, das Override- und Eskalationsprotokoll sowie eine ausdrückliche Erklärung, dass die Operation einem Prüfer vorgelegte Evidenz ist, keine Ersetzung des Urteils des Prüfers. Das vollständige Schema ist in Der regulatorische Validierungsrahmen dargelegt.
Keine Wahrscheinlichkeiten. Keine Modellkonfidenz. Kein im Nachhinein angehängter Erklärbarkeitswert.
Das ist es, was 21 CFR Part 11 seit 1997 verlangt. Es ist, was ALCOA+ jeden Tag in jedem Zentrum unter Inspektion verlangt. Es ist, was die EU-KI-Verordnung nun ausdrücklich verlangt. Und es ist nahe an dem, was die CFM-Resolution 2.454/2026 von KI in der brasilianischen medizinischen Praxis erwartet: Erklärbarkeit, Entscheidungsnachvollziehbarkeit und eine menschliche Letztentscheidung, mit dem Schwerpunkt auf der Nachvollziehbarkeit der Entscheidung statt der Interpretierbarkeit des Modells. Die Resolution regelt die medizinische Praxis und tritt im August 2026 in Kraft; das Prinzip, das sie ausdrücklich macht, Nachvollziehbarkeit auf Entscheidungsebene, ist das, was ein Beweiszertifikat erzeugt.
Der regulatorische Standard ist bereits da. Ein großer Teil des Anbieter-Stacks hat nicht aufgeholt.
Der Drei-Sekunden-Test
Es gibt einen Test, den jeder Regulatory-Affairs-Fachmann heute an jedem klinischen KI-System durchführen kann.
Bitten Sie: zeigen Sie mir das Beweisartefakt für diese Entscheidung, angewandte Regel, Quellwerte, Verifizierungsoperation, Grenzaussage, in einem einzigen Dokument. Dann stoppen Sie die Zeit der Antwort.
🔹 Navigiert die Antwort zu einem Dashboard, ist das ein in eine Oberfläche verpackter Konfidenzwert.
🔹 Bietet die Antwort an, ein Audit-Log zu exportieren, ist das eine Zeitstempel-Datenbank.
🔹 Erzeugt das System binnen Sekunden ein strukturiertes Artefakt mit diesen Eigenschaften, ist das ein Beweiszertifikat.
Die meiste heute eingesetzte klinische KI besteht diesen Test nicht. Nicht weil die Anbieter unredlich wären, sondern weil die Architektur Konformität als eine am Ende hinzugefügte Schicht behandelt. Bis dahin ist die regulatorische Primitive, die verifizierbare Spur von Regel zu Entscheidung zu Quelldaten, bereits durch eine Wahrscheinlichkeit ersetzt worden. Man kann ein Beweiszertifikat nicht nachträglich auf einen Konfidenzwert aufsetzen. Das System muss von der ersten Codezeile an um das Zertifikat herum gebaut sein.
Warum die Evidenz unkorreliert sein muss
Es gibt noch eine Eigenschaft, die Beweis von Leistung trennt, und sie wird am häufigsten übersehen.
Ein Konfidenzwert ist das Modell, das seine eigene Arbeit benotet. Er wird von demselben System erzeugt, dessen Ausgabe er bewertet, und erbt so deren blinde Flecken. Wenn er falsch liegt, liegt er meist genau auf die Weise falsch, wie die Ausgabe falsch ist. Das ist korrelierte Evidenz, die das Etikett einer Prüfung trägt. Vieles, was in der klinischen KI als Qualitätskontrolle präsentiert wird, ein Agent, der einen anderen, auf denselben Daten trainierten Agenten prüft, hat denselben Mangel.
Nachweisbar richtig erfordert Evidenz, die anders scheitert.
Eine deterministische Regelprüfung, ein formaler struktureller Beweis und ein menschliches Attest sind drei verschiedene Substrate. Es ist unwahrscheinlich, dass sie eine gemeinsame Fehlerursache teilen. Eine Regelprüfung kann sich auf eine Weise irren, die ein struktureller Beweis abfinge. Ein struktureller Beweis kann bei einer Feststellung bestehen, die ein Mensch ablehnen würde. Ein Mensch kann erfassen, was keine Maschinenoperation zu sehen ausgelegt war. Evidenz, die aus unterschiedlich scheiternden Substraten gezogen ist, ist auf eine Weise verteidigbar, wie es eine einzelne selbstberichtete Zahl niemals ist.
Korrelierte Evidenz ist Konfidenz. Unkorrelierte Evidenz ist Beweis.
Die Kategorie, die dies definiert
„Nachweisbar richtig, nicht wahrscheinlich richtig" ist das Designprinzip unter einer bestimmten Kategorie von Infrastruktur: Verifizierung-zuerst-KI für regulierte klinische Entscheidungen. Die Unterscheidung ist architektonisch, bevor sie irgendetwas anderes ist.
🔹 Ein probabilistisches Modell darf an der Entscheidungskette teilnehmen, aber nur, weil es durch eine deterministische Prüfung eingerahmt ist, die es nicht umgehen kann. Das Modell schlägt vor. Der Beweis entscheidet.
🔹 Alles, was ein Inspektor, ein Ethikgremium oder ein Gericht sieht, wird von der deterministischen Verifizierungsschicht erzeugt, nicht von dem probabilistischen Substrat, das sie speiste.
🔹 Die Verifizierungsschicht, nicht das Modell, erzeugt das regulierte Artefakt.
Deshalb ist die Kategorie durch das definiert, was sie rekonstruieren kann, nicht durch die Genauigkeit, die sie behauptet. Genauigkeit ist eine Eigenschaft eines Modells. Zulässigkeit ist eine Eigenschaft einer Architektur.
Die regulatorischen Rahmen konvergieren aus jeder Richtung darauf: kontinuierliche Echtzeit-Inspektionstrajektorien in den Vereinigten Staaten, Hochrisiko-Konformitätsbewertung in der EU, Erklärbarkeit auf Entscheidungsebene in Brasilien. Wenn Inspektion kontinuierlich wird, muss Verifizierung deterministisch und augenblicklich sein. Prozedurale Verifizierung, die Konformität im Nachhinein dokumentiert, kann in dieser Kadenz nicht arbeiten. Architektonische Verifizierung kann es.
Das Feld wird wählen müssen, welches Artefakt zählt. Eine Wahrscheinlichkeit oder ein Beweis.
Nachweisbar richtig, nicht wahrscheinlich richtig. Das ist der Standard. Das Zertifikat ist der Beweis.
Häufige Fragen
Was bedeutet „nachweisbar richtig, nicht wahrscheinlich richtig" in der klinischen KI?
Es bedeutet, dass eine klinische KI-Entscheidung deterministisch rekonstruiert und verteidigt werden kann, die genaue Regel, Werte, Verifizierungsoperation und menschliches Attest, statt lediglich von einem Konfidenzwert begleitet zu werden, der angibt, wie sicher das Modell war. Die Wahrscheinlichkeit beschreibt den inneren Zustand des Modells. Der Beweis beschreibt, was tatsächlich verifiziert wurde.
Warum ist ein Konfidenzwert kein Konformitätsartefakt?
Ein Konfidenzwert ist die Ausgabe einer Wahrscheinlichkeitsverteilung, nicht die Ausgabe einer auf Quelldaten angewandten Regel. Regulierungen wie 21 CFR Part 11, ICH E6(R3) und die Artikel 11, 12, 13 und 14 der EU-KI-Verordnung verlangen, dass eine regulierte Entscheidung auf Anforderung rekonstruierbar ist. Ein Konfidenzwert kann nicht in die Regel und die Werte rekonstruiert werden, die die Entscheidung erzeugt haben, also kann er diese Anforderung nicht erfüllen.
Was ist ein Beweiszertifikat?
Ein Beweiszertifikat ist ein strukturiertes Artefakt, das im Moment einer KI-gestützten Entscheidung erzeugt wird. Es hält die angewandte Regel, die verifizierten Werte, die deterministische Verifizierungsoperation, eine ausdrückliche Grenzaussage dessen, was nicht geprüft wurde, die eingefrorene Risikoklasse, die Identität des attestierenden Menschen, das Override- und Eskalationsprotokoll sowie eine Erklärung fest, dass die Operation Evidenz ist, keine Ersetzung des menschlichen Urteils.
Wie unterscheidet sich ein Beweiszertifikat von einem Audit-Log?
Ein Audit-Log ist typischerweise eine Zeitstempel-Datenbank, die festhält, dass etwas geschah. Ein Beweiszertifikat hält genau fest, was verifiziert wurde, gegen welche Regel und Version, mit welchen Quellwerten, und was bewusst dem menschlichen Urteil überlassen wurde, in einem einzigen reproduzierbaren Artefakt, das vor einem Inspektor erneut ausgeführt werden kann.
Ersetzt die Verifizierung-zuerst-Architektur menschliche Prüfer?
Nein. Die Architektur ist ausdrücklich Evidenz, keine Ersetzung. Die Verifizierungsoperation ist vorgelagerte Evidenz, die ein benannter Mensch aufnimmt, bevor er die Entscheidung attestiert. Die Verantwortlichkeit verbleibt beim Menschen.
NexTrial.ai baut Verifizierung-zuerst-Infrastruktur für die KI-gestützte Aktivierung klinischer Studien. Die hier beschriebenen Fähigkeiten spiegeln die Designabsicht des Rahmens wider. Für die vollständige Architektur siehe Der regulatorische Validierungsrahmen.