SHAP (SHapley Additive exPlanations) é un enfoque á teoría de xogos para explicar o resultado de calquera modelo de aprendizaxe automática. Conecta a asignación óptima de resultados, utilizando os clásicos valores de Shapley da teoría de xogos e as súas extensións relacionadas. Conta cunha licenza libre MiT.
Implementouse SHAP no paquete shap Python. Esta implementación funciona para modelos baseados en árbores na biblioteca de aprendizaxe automática scikit-learn para Python. SHAP está integrado nos marcos de reforzo de árbores xgboost e LightGBM. En R, existen os paquetes shapper e fastshap. SHAP tamén está incluído no paquete xgboost de R.
