Technische Universität Berlin

Auch intelligente Maschinen brauchen Kontrolle

In der Künstlichen-Intelligenz-Forschung fehlen Frauen in Führungspositionen

Tauchen die Wörter Mathematik, Physik und Programmieren gemeinsam in einem Satz auf, ist das für die meisten Menschen ein Anlass unauffällig, aber zügig das Gesprächsthema zu wechseln. Nicht so für Dr. Marina Höhne, Nachwuchswissenschaftlerin im Fachgebiet für Maschinelles Lernen von Prof. Dr. Klaus-Robert Müller an der TU Berlin und Junior Fellow am Berlin Institute for the Foundations of Learning and Data (BIFOLD) - und Mathematikerin aus Überzeugung. Seit Februar 2020 leitet die 34-jährige Mutter eines vierjährigen Sohnes ihre eigene Forschungsgruppe „Understandable Machine Intelligence“ (UMI Lab), finanziert vom Bundesministerium für Bildung und Forschung (BMBF). 2019 veröffentlichte das  BMBF den  Call “Förderung von KI-Nachwuchswissenschaftlerinnen”. Ziel war es, den Anteil qualifizierter Frauen in Führungspositionen der deutschen KI-Forschung zu steigern und den Einfluss von Wissenschaftlerinnen auf das Themengebiet nachhaltig zu stärken.

„Der Zeitpunkt der Ausschreibung war nicht ideal für mich, da er nahezu unmittelbar an meine einjährige Elternzeit grenzte“, erinnert sich Marina Höhne, die sich trotz allem mit einem detaillierten Forschungsplan bewarb und eine Zusage erhielt. Damit stehen der Wissenschaftlerin für vier Jahre rund zwei Millionen Euro für ihre Forschung zur Verfügung. Eine Fördersumme, die in etwa einem der renommierten ERC Consolidator Grants entspricht. „Für mich ist das eine unerwartete, aber fantastische Chance, Erfahrungen in der Forschungsorganisation und -leitung zu gewinnen“.

Ihr Thema ist die erklärbare Künstliche Intelligenz: „Mein Team beschäftigt sich mit verschiedenen Aspekten des Verständnisses von KI-Modellen und deren Entscheidungen. Ein gutes Beispiel ist die Bilderkennung: Zwar können heute bereits die relevanten Bereiche in einem Bild gekennzeichnet werden, die wesentlich zu der Entscheidung eines KI-Systems beitragen, also ob es sich bei dem Bild um einen Hund oder eine Katze handelt, jedoch gibt es bis heute keine Methode, die ein ganzheitliches Verständnis des Verhaltens eines KI-Modells ermöglicht.

Um jedoch KI-Modelle in sicherheitsrelevanten Bereichen wie der Medizin oder im autonomen Fahren vertrauenswürdig nutzen zu können, braucht es transparente Modelle. Das Verhalten des Modells muss schon vor dem Einsatz bekannt sein, um das Risiko für ein Fehlverhalten zu minimieren“, erläutert Marina Höhne ihren Forschungsansatz. Dabei fokussiert sie sich unter anderem auf den Einsatz von sogenannten Bayesianischen Neuronalen Netzwerken, um Informationen über die Unsicherheiten der vom KI-System getroffenen Entscheidungen zu erhalten und diese dann im Anschluss für Menschen nachvollziehbar darzustellen.

KI-Modelle in sicherheitsrelevanten Bereichen müssen transparent sein

Zur Person:

Marina Höhne studierte Technomathematik an der FH Aachen und der Technischen Universität Berlin. 2017 promovierte sie im Bereich Maschinelles Lernen an der TU Berlin bei Prof. Dr. Klaus-Robert Müller. Seit 2020 leitet sie als Nachwuchswissenschaftlerin ihre eigene Forschungsgruppe "Understandable Machine Learning", die vom Bundesministerium für Bildung und Forschung finanziert wird. Sie ist Junior Fellow am Berlin Institute for the Foundations of Learning and Data (BIFOLD) und Associated Professor der Universität Tromsø in Norwegen.
Marina Höhne ist verheiratet und Mutter eines Sohnes.

Dazu werden viele verschiedene KI-Modelle generiert, wobei jedes dieser Modelle aufgrund von leicht unterschiedlichen Gewichtungen Entscheidungen liefert. Diese werden anschließend gezielt gebündelt und in einer sogenannten Heatmap dargestellt. Übertragen auf die Bilderkennung bedeutet das: Die Pixel eines Bildes, die in allen Modellen wesentlich zu der Entscheidung Hund oder Katze beigetragen haben, werden deutlich gekennzeichnet. Die Pixel, die nur von einigen Modellen für diese Entscheidung herangezogen wurden, sind dagegen schwach gekennzeichnet.

„Besonders in der diagnostischen Anwendung könnten sich unsere Ergebnisse als nützlich erweisen. Erklärungen mit hoher Modellsicherheit könnten beispielsweise dabei helfen, Geweberegionen mit der höchsten Krebswahrscheinlichkeit zu identifizieren und dadurch die Diagnosegeschwindigkeit verbessern. Erklärungen mit hohen Modellunsicherheiten könnten dagegen für KI-basierte Screening-Anwendungen verwendet werden, um das Risiko zu verringern, wichtige Informationen in einem Diagnoseprozess zu übersehen“ so Marina Höhne.

In ihrem Team beschäftigt die Wissenschaftlerin, die mittlerweile auch Associated Professor der Universität Tromsø  in Norwegen ist, drei Doktorand*innen und vier studentische Hilfskräfte. Das Einstellungsverfahren stellte die Wissenschaftlerin vor Hürdern der ganz eigenen Art: „Ich will gezielt eine diverse und heterogene Forschungsgruppe aufbauen, auch um der ausgeprägten Geschlechter-Disbalance im Maschinellen Lernen entgegenzuwirken. Auf meine Ausschreibung für die drei PhD-Stellen bekam ich 20 Bewerbungen - 20 männliche Bewerber. Da war ich erstmal ratlos. Um die Aufmerksamkeit qualifizierter Kandidatinnen zu erlangen, habe ich die Jobs auf Twitter gepostet. Über die Resonanz bin ich immer noch verblüfft – rund 70.000 Menschen haben diesen Tweet gelesen und er wurde sehr oft retweetet, so dass ich am Ende aus einer gut verteilten und qualifizierten Bewerberlage heraus entscheiden konnte“, erinnert sich die Wissenschaftlerin, die schließlich zwei Frauen und einen Mann einstellte. 

Ihr Ziel: Eine heterogene und diverse Arbeitsgruppe

Dass es speziell für Frauen immer noch schwierig sein kann, Forschung und Familie zu vereinen, hat sie ganz unmittelbar erfahren: Zum Zeitpunkt der Verteidigung ihrer Promotion war sie bereits im neunten Monat schwanger. „Ich habe lange damit gerungen, ob ich pausieren oder die Promotion durchziehen sollte. Am Ende habe ich mich für das Durchziehen entschieden.“ Nicht zu ihrem Nachteil: Sie schloss mit „summa cum laude“ ab - und einer geschärften Sensibilität für die Geschlechterparität in der Wissenschaft.

In welche Richtung sie in ihrem Masterstudium der Technomathematik gehen wollte, wurde Marina Höhne schon am Anfang des Studiums klar: „Die Vorlesung zum Maschinellen Lernen von Klaus-Robert Müller hatte mich sofort begeistert.“ Sie fing bereits während des Studiums im Fachgebiet als studentische Hilfskraft an und ging dann nahtlos in die Promotion über. „Das war eine Industrie-Kooperation mit der Firma Otto Bock. Dafür habe ich zwei Jahre lang in Wien gearbeitet und ein Otto Bock-Mitarbeiter zwei Jahre an der TU Berlin. Unter anderem ging es darum, einen Algorithmus zu entwickeln, der es Träger*innen von Prothesen erleichtert, diese nach jedem neuen Anziehen wieder optimal und schnell auf die Bewegungsabläufe einzustellen“, so Marina Höhne. Nach der bereichernden Erfahung direkt mit Patient*innen zusammen zu arbeiten, zog es sie zurück zu der Grundlagenforschung an der Universität. „Erklärbare Künstliche Intelligenz, kombiniert mit spannenden Anwendungsfeldern wie beispielsweise der medizinischen Diagnostik und der Klimaforschung, das ist meine Leidenschaft. Wenn ich vor meinen Programmen und Formeln sitze – dann bin ich wie im Tunnel, sehe und höre nichts anderes.“

Autorin: Katharina Jung

Kontakt