Vor dem Einsatz neuer Technologien wie Deep Learning (DL) in sicherheitskritischen Anwendungen ist die Einführung strenger Test- und Zertifizierungsverfahren unerlässlich. Wir schlagen einen Testansatz vor, der Schwachstellen in DL-Modellen identifizieren könnte.
KI-Anwendungen kommen zunehmend in kritischen Bereichen zum Einsatz, in denen Fehlentscheidungen unter Umständen zu Personen- oder Sachschäden führen können. Der Einsatz von Unsicherheitsschätzung kann hier einen Beitrag zu erhöhter Verlässlichkeit leisten.
Die datengesteuerte Sensorinterpretation beim autonomen Fahren kann manchmal zu sehr unplausiblen Vorhersagen führen. Ein teils von Menschen entworfener, teils gelernter Regelsatz kann bestehende tiefe neuronale Netze, die Low-Level-Sensorinformationen verarbeiten, zuverlässig machen.
Feindliche Angriffe auf Vorhersagemodelle des Maschinellen Lernens, zum Beispiel beim autonomen Fahren, könnten zu großem (Personen-)Schaden führen. Mit Hilfe von Abwehrmechanismen können ML-Modelle geschützt und ihre Robustheit gegenüber Angriffen erhöht werden.
Sicherheitskritische Systeme, wie beispielsweise selbstfahrende Autos, stellen neue, hohe Anforderungen an KI-Modelle. Vielerorts wird hierzu an Lösungsansätzen geforscht, ein umfassender Überblick wurde jetzt durch ein Übersichtspapier des Konsortiums „KI-Absicherung“ geschaffen.
