Sujan Gannamaneni ist wissenschaftlicher Mitarbeiter am Fraunhofer IAIS im Bereich KI-Absicherung, mit dem Forschungsschwerpunkt auf der Entwicklung von Testmodellen für Deep Learing Modelle. Seine Forschung ist Teil von Projekte wie KI-Absicherung im Bereich des autonomes Fahrens und KIEZ4.0 im Bereich der Entwicklung zertifizierbarer ML-Techniken für Anwendungen in der Luft- und Raumfahrt.
Establishing rigorous testing and certification techniques is essential before deploying new technologies like Deep Learning (DL) in safety-critical applications. We propose a testing approach that could identify weaknesses in DL models.
Vor dem Einsatz neuer Technologien wie Deep Learning (DL) in sicherheitskritischen Anwendungen ist die Einführung strenger Test- und Zertifizierungsverfahren unerlässlich. Wir schlagen einen Testansatz vor, der Schwachstellen in DL-Modellen identifizieren könnte.
