DataRobot bietet Funktionen zur Erklärung von Vorhersagemodellen an. Mit „DataRobot XAI“ sind in diesem Leitfaden diese Erklärbarkeitsfunktionen gemeint, kein gesondert bestätigtes Produkt mit eigenem Lizenzvertrag. Die aktuelle Dokumentation beschreibt unter anderem Feature Impact und Individual Prediction Explanations.
Stand: 27. Oktober 2026. Einen Überblick über Modelltraining und Betrieb gibt das DataRobot-Hauptprofil. Hier steht die Prüfung einer Erklärung im Vordergrund.
Allgemeinen Einfluss und einzelnen Fall trennen
Feature Impact zeigt, welche Merkmale im Zusammenhang mit einem Modell besonders wichtig sind. Die Dokumentation grenzt dies von der Bedeutung eines Merkmals allein anhand seiner Beziehung zur Zielvariable ab. Eine stark mit dem Ziel korrelierende Spalte muss im Zusammenspiel mit anderen Eingaben nicht dieselbe Rolle behalten.
Individual Prediction Explanations beziehen sich dagegen auf einzelne Vorhersagen. Sie schätzen Beiträge von Merkmalen im Verhältnis zu einer Referenz. Das hilft, einen bestimmten Fall zu untersuchen; es ist keine vollständige Beschreibung des gesamten Modells.
Methode und Experimenttyp beachten
Die aktuelle Dokumentation unterscheidet SHAP-basierte Erklärungen und XEMP für bestimmte nicht durch SHAP unterstützte Experimente. Verfügbarkeit und Darstellung hängen vom Experiment ab. Übertragen Sie daher eine Abbildung oder Anleitung nicht ungeprüft auf einen anderen Modelltyp.
Eine Modellerklärung beschreibt Zusammenhänge im Modell. Sie belegt nicht, dass eine Änderung desselben Merkmals in der Realität die beschriebene Wirkung verursacht. Untersuchen Sie besonders überraschende Beiträge anhand der Ausgangsdaten und der fachlichen Fragestellung.
Datenquelle und Auswahl sichtbar halten
Bei einzelnen Vorhersageerklärungen lässt sich laut Dokumentation die Datenquelle beziehungsweise Partition auswählen; auch zusätzliche Datensätze können verwendet werden. Halten Sie fest, welche Daten tatsächlich ausgewertet wurden. Ein auffälliges Muster in einer gefilterten Teilgruppe muss für andere Fälle nicht ebenso gelten.
Prüfen Sie zuerst wenige bekannte Beispiele und vergleichen Sie anschließend unterschiedliche Fälle. Achten Sie darauf, ob sich eine Erklärung auf eine korrekte oder fehlerhafte Vorhersage bezieht. Eine plausibel klingende Erklärung macht eine falsche Vorhersage nicht richtig.
Exporte nachvollziehbar dokumentieren
DataRobot beschreibt den Export einzelner Erklärungen als CSV. Dabei können angewendete Filter und Grenzen für den Ausgabeumfang eine Rolle spielen. Prüfen Sie deshalb nicht nur die Datei, sondern auch die Einstellungen, unter denen sie entstanden ist.
Notieren Sie Modellfassung, Datenstand, verwendete Methode und Auswahl der Fälle. Wenn Sie Diagramme oder Tabellen weitergeben, muss erkennbar sein, ob sie das allgemeine Modellverhalten oder bestimmte Einzelvorhersagen zeigen. Ein Export allein bestätigt keine fachliche Freigabe.
Zugang und Quellen
Die Erklärungsfunktionen gehören zum DataRobot-Umfeld. Prüfen Sie die konkrete Verfügbarkeit in Ihrem Experiment, Ihrer Plattformversion und Ihrem Vertrag. Grundlage sind die offiziellen Dokumentationen zu Feature Impact und Individual Prediction Explanations. Die Prüfhinweise sind redaktionelle Vorschläge, kein eigener Modellbenchmark.
