SHAP (SHapley Additive exPlanations) es un enfoque a la teoría de juegos para explicar el resultado de cualquier modelo de aprendizaje automático. Conecta la asignación óptima de resultados, utilizando los clásicos valores de Shapley de la teoría de juegos y sus extensiones relacionadas. Cuenta con una licencia libre MiT.
Se implementó SHAP en el paquete shap Python. Esta implementación funciona para modelos basados en árboles en la biblioteca de aprendizaje automático scikit-learn para Python. SHAP está integrado en los marcos de refuerzo de árboles xgboost y LightGBM. En R, existen los paquetes shapper y fastshap. SHAP también está incluido en el paquete xgboost de R.
