Mehr Infos

Summative Usability Evaluation– Diese Fallstricke sollten Sie unbedingt vermeiden!

Autor: Benjamin Franz

Lesedauer:

Mrz 2024

Bei der Durchführung einer summativen Evaluation für Medizinprodukte gibt es mehrere Fehler, die vermieden werden sollten, um die Zulassung Ihres Medizinprodukts nicht zu gefährden und in kostspielige Verzögerungen zu laufen.

Hier sind einige häufige Fehler, die vermieden werden sollten. Viel Spaß beim Lesen!

 

Fallstrick 1: Es wurden keine formativen Evaluationen gemacht

Ohne formative Evaluationen, die während des Entwicklungsprozesses durchgeführt werden, kann es schwierig sein, alle potenziellen Probleme und Risiken im Zusammenhang mit der Nutzung des Medizinprodukts zu identifizieren. Formative Evaluationen sind zwar nicht vorgeschrieben, ermöglichen es aber, frühzeitig Feedback von den Benutzern zu erhalten und das Produkt iterativ zu verbessern, bevor es auf den Markt kommt. Ohne diese Vorarbeit besteht das Risiko, dass inakzeptable Risiken übersehen werden, was für die Zulassung des Medizinprodukts unerlässlich ist. Formative Evaluationen sind daher entscheidend, um sicherzustellen, dass das Produkt den erforderlichen Sicherheits- und Leistungsstandards entspricht.

Worst Case: Ohne formative Evaluationen besteht das Risiko, dass das Medizinprodukt nicht den erforderlichen Sicherheits- und Leistungsstandards entspricht, was man dann erst in der summativen Evaluation herausfindet. Das resultiert in unnötigen Verzögerungen und aufwändigem Re-Design.

 

Fallstrick 2: Ungenügende Stichprobengröße

Eine zu kleine Stichprobe kann die Repräsentativität der Ergebnisse beeinträchtigen und möglicherweise wichtige Sicherheits- oder Leistungsprobleme übersehen lassen. Um diesen Fehler zu vermeiden, ist es wichtig, eine angemessene Stichprobengröße zu bestimmen, die eine repräsentative Auswahl der potenziellen Benutzer und Nutzungsszenarien abdeckt. Dies erfordert eine sorgfältige Planung und Berücksichtigung von statistischen Methoden, um sicherzustellen, dass die Ergebnisse zuverlässig und aussagekräftig sind.

Worst Case: Ein Worst-Case-Szenario bei unzureichender Stichprobengröße wäre, dass wichtige Sicherheits- oder Leistungsprobleme des Medizinprodukts unentdeckt bleiben. Dies könnte dazu führen, dass das Produkt auf den Markt gebracht wird, obwohl es potenziell gefährlich oder ineffektiv ist. Dies wiederum könnte zu rechtlichen Konsequenzen führen, wie Rückrufen, Schadensersatzforderungen oder sogar Gerichtsverfahren. Zusätzlich erwarten die meisten Zulassungsbehörden eine Mindestanzahl an Personen für die Testung und akzeptieren Usability Studien ggf. nicht bei weniger Teilnehmern.

 

Fallstrick 3: Unklare oder fehlende Bewertungskriterien

Es ist wichtig, klare Kriterien festzulegen, anhand derer das Medizinprodukt bewertet wird. Fehlende oder vage Kriterien können zu subjektiven oder ungenauen Bewertungen führen. Um dies zu vermeiden, sollten die Bewertungskriterien vor dem Beginn der Evaluation sorgfältig definiert und dokumentiert werden. Diese Kriterien sollten alle relevanten Aspekte des Produkts abdecken, einschließlich Sicherheit, Leistung, Benutzerfreundlichkeit und Erfüllung der Anforderungen.

Worst Case: Wenn die Bewertungskriterien unklar oder fehlend sind, könnte das Worst-Case-Szenario darin bestehen, dass das Medizinprodukt nicht angemessen bewertet wird. Dies könnte zu falschen Annahmen über seine Sicherheit, Leistungsfähigkeit oder Benutzerfreundlichkeit führen, was letztendlich zu negativen Auswirkungen auf die Patienten oder Benutzer führen könnte.

 

Fallstrick 4: Fehlende Diversität in der Teilnehmergruppe

Eine heterogene Teilnehmergruppe ist wichtig, um die Vielfalt der potenziellen Anwender und Anwendungskontexte abzudecken. Eine einseitige Gruppe kann wichtige Nutzungsszenarien ausschließen und zu einer verzerrten Bewertung führen. Um eine angemessene Diversität sicherzustellen, sollten Sie so viele Personen und Hintergründe aus einer Gruppe finden wie möglich (unterschiedliches Alter, unterschiedliche Praxiserfahrung, …).

Worst Case: Das Worst-Case-Szenario bei mangelnder Diversität in der Teilnehmergruppe wäre, dass wichtige Benutzergruppen oder Anwendungskontexte nicht angemessen berücksichtigt werden. Dies könnte zu einem Medizinprodukt führen, das für bestimmte Bevölkerungsgruppen nicht geeignet oder sicher ist, was zu ernsthaften ethischen oder rechtlichen Problemen führen könnte.

 

Fallstrick 5: Nichtrealistische Testbedingungen

Die Testumgebung und -bedingungen sollten so realistisch wie möglich sein, um zu gewährleisten, dass die Bewertungsergebnisse die tatsächliche Nutzung des Medizinprodukts widerspiegeln. Dies kann bedeuten, dass Tests in einer klinischen Umgebung durchgeführt werden oder dass spezifische Nutzungsszenarien simuliert werden, um die realen Bedingungen nachzubilden, unter denen das Produkt verwendet werden soll.

Worst Case: Das Worst-Case-Szenario bei nichtrealistischen Testbedingungen wäre, dass die Bewertungsergebnisse nicht die tatsächliche Leistungsfähigkeit oder Sicherheit des Medizinprodukts widerspiegeln. Es besteht die Gefahr, dass die Benannte Stelle bei der summativen Evaluation dies nicht gelten lassen wird und die Zulassung verweigert. Der Test muss dann unter hohen Mehrkosten neu durchgeführt werden und die Zulassung verzögert sich unter hohen Opportunitätskosten.

 

Fallstrick 6: Mangelnde Berücksichtigung von potenziellen Risiken

Es ist wichtig, potenzielle Risiken des Medizinprodukts angemessen zu berücksichtigen und in die Bewertung einzubeziehen. Dies erfordert eine gründliche Analyse der Produktfunktionen und -eigenschaften sowie eine Bewertung möglicher Auswirkungen auf die Sicherheit und Gesundheit der Benutzer.

Worst Case: Das Worst-Case-Szenario bei mangelnder Berücksichtigung von potenziellen Risiken wäre, dass das Medizinprodukt auf den Markt kommt und unerwartete Schäden oder negative Auswirkungen auf die Benutzer verursacht. Dies könnte zu schwerwiegenden Konsequenzen führen, wie etwa rechtlichen Schritten, Reputationsschäden oder sogar dem Entzug der Zulassung.

 

Fallstrick 7: Unzureichende Dokumentation

Eine umfassende Dokumentation des Bewertungsprozesses und der Ergebnisse ist wichtig, um Transparenz zu gewährleisten und die Nachverfolgung von Entscheidungen und Maßnahmen zu ermöglichen. Die Dokumentation sollte alle durchgeführten Tests, erhaltenen Ergebnisse, identifizierten Probleme sowie die daraus abgeleiteten Maßnahmen und Entscheidungen umfassen. Dies erleichtert nicht nur die interne Nachverfolgung, sondern unterstützt auch die regulatorische Einhaltung und ermöglicht es anderen Stakeholdern, den Bewertungsprozess nachzuvollziehen.

Worst Case: Das Worst-Case-Szenario bei fehlender Dokumentation wäre, dass wichtige Entscheidungen oder Ergebnisse nicht nachverfolgt oder nachgewiesen werden können und die Benannte Stelle deshalb die Zulassung verweigert.

 

Fazit

Fallstricke bei der summativen Evaluation für Medizinprodukte nicht zu vermeiden, kann Sie (vorläufig) die Zulassung kosten und eine kostspielige erneute Durchführung samt vorangehenden Überarbeitungsmaßnahmen bedeuten.

Folgender Artikel zeigt Ihnen, wie Sie die summative Evaluation richtig vorbereiten und durchführen: „Summative Evaluation für Medizinprodukte: 10 Best Practices“.

Um Ihren konkreten Fall zu betrachten und Ihren individuellen Herausforderungen gerecht zu werden, bieten wir Ihnen ein kostenloses Strategiegespräch an.

Wir freuen uns auf Sie. Nutzen Sie einfach unser Kontaktformular, um mit uns in Verbindung zu treten.  

 

0 / 5 (0)

Halten Sie sich mit unserem Newsletter auf dem Laufenden

E-Mail *
Hidden
Dieses Feld dient zur Validierung und sollte nicht verändert werden.

Das könnte Sie auch interessieren

Was bedeutet die MDR in Bezug auf Usability?

Usability Engineering wird von der MDR vorausgesetzt (wenn auch nicht explizit gefordert), um die grundlegenden Sicherheits- und Leistungsanforderungen der Verordnung einzuhalten. Die angemessene Usability eines Medizinprodukts ist also ein essenzieller Teil, der benötigt wird, um überhaupt die Zulassung für den europäischen Markt zu bekommen.

mehr lesen