FDA legt Richtlinien für die Offenheit von KI in medizinischen Geräten fest

Im Jahr 2021 haben die britische Regulierungsbehörde für Arzneimittel und Gesundheitsprodukte (Medicines and Healthcare Products Regulatory Agency), die kanadische Gesundheitsbehörde (Health Canada) und die US-Gesundheitsbehörde (FDA) gemeinsam zehn Leitprinzipien für bewährte Verfahren im Bereich der künstlichen Intelligenz entwickelt. Sie enthielten jedoch keine gründliche Analyse, wie dieser Bedarf zu decken ist.

Die drei Agenturen haben nun ein zweites Papier veröffentlicht, das sich auf Offenheit konzentriert, was sie als das Ausmaß beschreiben, in dem die relevanten Zielgruppen direkte Details über ein medizinisches Gerät erhalten, das maschinelles Lernen verwendet.

Programme können eine Ausgabe produzieren, ohne anzugeben, wie sie zu ihrem Ergebnis gekommen sind, zum Beispiel eine Diagnoseempfehlung. Wenn ein Gerät die Gründe für seine Ergebnisse erklären kann, spricht man von “Erklärbarkeit”.

Die FDA erklärte, dass es wünschenswert ist, wenn diese Informationen verfügbar und leicht verständlich sind, um den Menschen den Zugang zu den Gründen für den Algorithmus zu ermöglichen. Bei Entscheidungen über die Patientenversorgung können die Nutzer die Daten nutzen, um “das Gerät und seine Ergebnisse kritisch zu analysieren”.

Die Geräteentwickler werden von der FDA und ihren Partnern aufgefordert, das Wer, Warum, Was, Wo, Wann und Wie der Offenheit zu berücksichtigen.