Hacker-Angriffe intelligent abwehren

Prof. Dr. Konrad Rieck startet sein mit einem ERC Consolidator Grant ausgezeichnetes Forschungsprojekt „MALFOY“ an der TU Berlin

Das Forschungsgebiet der Künstlichen Intelligenz (KI) hat in vielen Bereichen der Wissenschaft und Wirtschaft rasante Innovationen hervorgebracht. Dieses Potenzial birgt jedoch auch Raum für Missbrauch: Könnten nicht auch Hacker KI nutzen, um Computerangriffe effektiver durchzuführen? Das Forschungsprojekt „MALFOY – Machine Learning for Offensive Computer Security“ von Prof. Dr. Konrad Rieck, untersucht diese Frage. Die Forschenden um Prof. Dr. Konrad Rieck nehmen hierzu sowohl die Rollen der Angreifer als auch der Verteidiger ein und erproben, wie intelligente Angriffe entwickelt und abgewehrt werden können.

Technisch basiert das Projekt, für das er mit einem ERC Consolidator Grant ausgezeichnet wurde, auf einem neuen Paradigma zur Kombination von Lernalgorithmen mit Sicherheitssystemen. Bei diesem Paradigma erfolgt der Lernvorgang in einer rückgekoppelten Schleife mit den Techniken der offensiven Sicherheit, wie zum Beispiel Werkzeugen für die Schwachstellensuche und das Penetration-Testing. Der Lernalgorithmus operiert somit im Austausch mit den Techniken und kann sowohl Vorschläge machen als auch Feedback entgegennehmen.

Als Gegenstück zu diesen neuen Angriffen werden entsprechende Verteidigungsmechanismen konzipiert und entwickelt. Die gewonnenen Erkenntnisse fließen hierbei direkt in neue Werkzeuge zum Schutz von IT-Systemen ein. Es soll so möglich werden, unbekannte Verwundbarkeiten und Sicherheitsprobleme automatisch aufzudecken und somit lernenden Angriffen entgegenzuwirken. Trotz seines offensiven Charakters kann das Projekt MALFOY so die Sicherheit von IT-Systemen stärken und zukünftige Bedrohungen durch KI abwehren.

Prof. Dr. Konrad Rieck, der bislang am Institut für Systemsicherheit der TU Braunschweig forschte, wechselt zum 1. Januar 2023 mit seinem MALFOY-Projekt an die TU Berlin, wo er das Fachgebiet Maschinelles Lernen und Sicherheit innerhalb des Berlin Institute for the Foundations of Learning and Data (BIFOLD) leiten wird. „Ich habe mich entschieden die Forschungen an der TU Berlin durchzuführen, weil in BIFOLD ein einzigartiges Forschungsumfeld entsteht, das nach und nach alle wichtigen Themen der KI zusammenführt“, sagt der Experte für Computersicherheit und maschinelles Lernen.

Kontakt

Prof. Dr.

Konrad Rieck

Maschinelles Lernen und Sicherheit

rieck@mlsec.org

Einrichtung Berlin Institute for the Foundations of Learning and Data (BIFOLD)