선형모델의 경우 어떤 피쳐가 중요히고 타겟값에 어떤 영향을 미치는지 coefficient(상관계수)를 통해서 알 수 있다.
그러나 앙상블 모델의 경우에는 선형모델에 비해서 해석하기가 어렵다. feature importance 혹은 permutation importance등을 통해서 특성의 중요도를 파악할 수 있지만, 특성의 값에 따라서 타겟값이 증가/감소 하느냐와 같이 어떻게 영향을 미치는지 알 수 없다. 이를 해석하기 위한 것이 부분의존도그림 pdp(partial dependence plots)이다. PDP를 사용하면 관심있는 특성들이 타겟에 어떤 영향을 주는지를 그래프를 통해 살펴볼 수 있다.
2. SHAP
https://towardsdatascience.com/explain-your-model-with-the-shap-values-bc36aac4de3d
