Ein modellbasierter Erklärbarkeitsansatz für Punktwolken-Klassifikatoren wird zusammen mit zwei verschiedenen Bewertungsmaßstäben (lokale Treue und Plausibilität), die die Plausibilität des Ansatzes validieren, vorgeschlagen. Das Toolkit ist jetzt online verfügbar.
Der Einsatz künstlicher intelligenter Systeme erschwert es uns, Personen für Fehlentscheidungen verantwortlich zu machen. Die Einbindung menschlicher Akteure und erklärbarer KI-Systeme ermöglicht eine Verantwortungszuschreibung bei KI-gestützten Entscheidungsprozessen.
Nachvollziehbarkeit algorithmischer Entscheidungen ist längst auch über die Forschung hinaus relevant. Wir analysieren, wie Erklärbarkeitsmethoden und externes Wissen zusammenwirken können, um Maschinelles Lernen an gesellschaftliche Anforderungen anzupassen und zu verbessern.
Word-Embeddings bilden den Grundbaustein für die algorithmische Analyse und Verarbeitung von Texten, wie Textklassifizierung, Übersetzung und Textgenerierung. Interpretierbare Vektorrepräsentation von Wörtern kodieren semantische Zusammenhänge verständlich und ermöglichen Analyse von wort-übergreifenden Themen.
Sicherheitskritische Systeme, wie beispielsweise selbstfahrende Autos, stellen neue, hohe Anforderungen an KI-Modelle. Vielerorts wird hierzu an Lösungsansätzen geforscht, ein umfassender Überblick wurde jetzt durch ein Übersichtspapier des Konsortiums „KI-Absicherung“ geschaffen.
Viele Entscheidungen können heutzutage effizient, genau und automatisiert mittels maschineller Lernverfahren getroffen werden. Ebenso wichtig ist allerdings, dass transparent dargestellt und erklärt wird, warum und wie diese Entscheidungen zustande kommen.
