Lassen Sie uns über etwas Spannendes – und manchmal ein wenig Herausforderndes – sprechen: die Welt der Künstlichen Intelligenz (KI) in Medizinprodukten. Als auf UX & UI spezialisierter Ingenieur, bin ich davon überzeugt, dass es für großartige Produkte beides braucht: ein Verständnis der Technologie und fundiertes Wissen über die Nutzung / die Nutzenden.
Sobald KI in einem Medizinprodukt zum Einsatz kommt, wird das schnell interessant. Sowohl technologisch, als auch aus der Sicht der Nutzenden. Zusätzlich gibt es eine immer größere Zahl an Richtlinien (viele noch in Entwurfsform), die den Einsatz von KI in Medizinprodukten lenken.
Grund genug, diese Richtlinien einmal genauer unter die Lupe zu nehmen. Im Rahmen dieser Serie stellen wir uns die Frage: Was sind die Auswirkungen auf Usability und UI Design? Dabei untersucht jeder Teil der Serie eine Richtlinie im Detail.
In dieser Übersicht stellen wir Ihnen die Richtlinien vor, die wir bereits im Detail betrachtet haben. Stellen Sie Ihn sich zum einen als Zusammenfassung und zum anderen als Inhaltsverzeichnis vor. Da unsere Serie noch nicht abgeschlossen ist, lohnt es sich, immer wieder nachzusehen ob sich Teile ändern oder neue ergänzt werden. Alternativ können Sie auch mit unserem Newsletter auf dem aktuellsten Stand bleiben.
Los geht’s!
Teil 1: Good Machine Learning Practice for Medical Device Development – Guiding Principles
Der erste Teil der Serie fokussiert auf die Good Machine Learning Practice (GMLP) Guiding Principles des IMDRF. Der Entwurf stellt 10 Prinzipien vor, die aus Ausgangspunkt für die Entwicklung von KI-gestützten Medizinprodukten fungieren. Aber was bedeuten sie für die Usability?
Die Usability von KI-basierten Medizinprodukten muss von Anfang an systematisch integriert werden, da Regulierungsbehörden erwarten, dass diese nahtlos in klinische Workflows passen und verständlich nutzbar sind. Besonders die Mensch-KI-Zusammenarbeit, die Transparenz von KI-Entscheidungen und die multidisziplinäre Entwicklung spielen eine zentrale Rolle. Zudem müssen Sicherheitsaspekte, wie fehlervermeidende Authentifizierungsprozesse, benutzerfreundlich umgesetzt und klar kommuniziert werden.
Teil 2: Artificial Intelligence-Enabled Device Software Functions: Lifecycle Management and Marketing Submission Recommendations
Der zweite Teil der Serie beleuchtet die FDA-Leitlinie „Artificial Intelligence-Enabled Device Software Functions: Lifecycle Management and Marketing Submission Recommendations“. Der Entwurf legt fest, wie KI-gestützte Medizinprodukte über ihren gesamten Lebenszyklus hinweg sicher und transparent gestaltet werden müssen.
Die Usability rückt dabei verstärkt in den Fokus der Regulierungsbehörden: Nutzer müssen nicht nur die Ergebnisse verstehen, sondern auch nachvollziehen können, wie diese zustande kommen. Mensch-KI-Zusammenarbeit, Risikoanalyse und dynamische Entscheidungsfindung müssen dabei transparent und benutzerfreundlich gestaltet sein. Eine klare Dokumentation und kontinuierliche Überwachung sind essenziell, um Risiken wie Missverständnisse oder fehlerhafte Entscheidungen zu minimieren.
Wie geht es weiter?
Wie bereits in der Einleitung erwähnt, wird diese Serie fortlaufend ergänzt. Dabei schauen wir zum einen, ob sich die Entwürfe weiterentwickelt haben. Zusätzlich integrieren wir weitere Richtlinien in unsere Serie. Wenn Sie eine bestimmte Richtlinie haben, die Sie hier betrachtet haben möchten, dann können Sie uns gerne schreiben.
