Einleitung
In einer Welt, in der Technologie immer mehr in unser tägliches Leben integriert wird, spielen künstliche Intelligenz (KI) und maschinelles Lernen (ML) eine entscheidende Rolle, insbesondere im Gesundheitswesen. Eine der führenden Figuren in diesem Feld ist Marzyeh Ghassemi, eine MIT-Professorin, die daran arbeitet, sicherzustellen, dass Gesundheitsmodelle robust und fair trainiert werden.
Maschinelles Lernen und Fairness im Gesundheitswesen
Marzyeh Ghassemi und ihr Forschungsteam bei MITs Laboratory for Information and Decision Systems konzentrieren sich auf die Frage, wie ML robuster gemacht und zur Verbesserung der Sicherheit und Gerechtigkeit im Gesundheitswesen eingesetzt werden kann. In einer von Männern dominierten Techniklandschaft bringt Ghassemi als muslimische Frau und Mutter eine einzigartige Perspektive in ihre Arbeit ein – ein Aspekt, der ihrer Forschung eine besonders persönliche Bedeutung verleiht.
Ghassemi zeigt auf, wie Maschinenlernmodelle gelernt haben, Rassenmerkmale aus Röntgenbildern von Patienten zu erkennen – eine Fähigkeit, die sogar erfahrene Radiologen nicht besitzen. Tests haben gezeigt, dass Modelle, die im Durchschnitt gut abschneiden, bei Frauen und Minderheiten nicht so effektiv sind. Diese Erkenntnis hat zu einer neuen Strategie geführt, bei der Modelle trainiert werden, um demografische Unterschiede zu berücksichtigen, anstatt sich nur auf die Gesamtleistung zu konzentrieren.
Langfristige Auswirkungen von Bias in Gesundheitsdaten
Das Problem der Ungleichheit in Gesundheitsmodellen ist tief verwurzelt und beruht auf bestehenden Vorurteilen in Gesundheitsdaten sowie auf Standardpraktiken, die solche Verzerrungen in ML-Modellen fortzuführen können. Ghassemi erklärt, dass, solange Entwickler und Forscher diese Probleme nicht offen angehen und in ihre Arbeit einbeziehen, diese Ungleichheiten fortbestehen und möglicherweise verstärkt werden.
Persönlicher und beruflicher Hintergrund
Ghassemis Weg in die Technik begann in einer iranisch-amerikanischen Familie, in der sie von klein auf von weiblichen Vorbildern umgeben war, die sie in eine Karriere im MINT-Bereich führten. Als sie an der New Mexico State University studierte, motivierte der Direktor des Honors Colleges sie, eine Marshall-Stipendium bewarb, das sie schließlich an die University of Oxford führte.
Ein wesentlicher Punkt in ihrer Karriere war die Entdeckung, wie unaufmerksames Datenmanagement und algorithmische Vorurteile zu ungleichen Leistungen in ML-Modellen führen können. Durch Analysen stellten sie und ihr Team fest, dass eine voreingenommene Lernunterstützung in ML zu nachteiligen Ergebnisvorhersagen für Patienten führt, die aus verschiedenen demografischen Hintergründen stammen.
Abschließende Gedanken
Die laufende Forschung von Ghassemi zielt darauf ab, die Robustheit von ML-Modellen zu verbessern und so die Qualität und Fairness der Gesundheitspflege für große Teile der Bevölkerung, insbesondere für benachteiligte Gruppen, sicherzustellen. Ihre Arbeit ist nicht nur ein technisches Unterfangen, sondern auch ein humanitäres, da sie versucht, die Art und Weise zu ändern, wie wir über technologische Interventionen im Gesundheitswesen denken und diese umsetzen. Dieser Einsatz für eine bessere Zukunft im Gesundheitswesen unterstreicht die Wichtigkeit und den Einfluss von Fairness in der Entwicklung moderner Technologien.
