Technologien und Lösungen

NNR (DeepCABAC)

Neuronale Netze auf dem neuesten Stand der Technik haben Millionen von Parametern und erfordern umfangreiche Rechenressourcen. Unsere Forschung konzentriert sich auf die Entwicklung von Techniken zur Reduzierung der Komplexität, zur effizienten Kodierung und zur Steigerung der Ausführungseffizienz dieser Modelle.

Layer-wise Relevance Propagation (LRP)

Layer-wise Relevance Propagation (LRP) ist eine patentierte Technologie zur Erklärung von Vorhersagen von tiefen neuronalen Netzwerken und anderen "Black Box" Modellen. Die von LRP produzierten Erklärungen (sog. Heatmaps) erlauben es den Anwender die Vorhersagen der KI zu validieren und potentielle Fehlermodi zu identifizieren.

Weiterlesen

Spectral Relevance Analysis (SpRAy)

XAI-Methoden wie LRP zielen darauf ab, die Vorhersage von ML-Modellen transparent zu machen, indem sie ein interpretierbares Feedback zu einzelnen Vorhersagen des Modells liefern und die Wichtigkeit von Eingangsmerkmalen in Bezug auf bestimmte Stichproben bewerten. Basierend auf diesen Einzelerklärungen erlaubt SpRAy, ein allgemeines Verständnis über die Empfindlichkeiten eines KI-Modells, gelernte Merkmale und Konzeptkodierungen zu erhalten.

Weiterlesen

Class Artifact Compensation (ClArC)

Heutige KI-Modelle werden in der Regel mit extrem großen, aber nicht immer hochwertigen, Datensätzen trainiert. Unbemerkte Fehler in der Daten oder falsche Korrelationen verhindern oftmals, dass der Prädiktor eine gültige und faire Strategie zur Lösung der anstehenden Aufgabe lernt. Die ClArC-Technologie identifiziert potentielles Fehlverfahren eines Models anhand seiner (LRP) Erklärungen und retrainiert die KI gezielt, um das Problem zu lösen.

Weiterlesen