SHAP

• Shapley Additive exPlanations
• LIME 개념 + 경제학 개념 - 노벨 경제학상을 받은 Shapley Values(게임이론)를 접목시킴
• 게임 이론이란 우리가 아는 게임을 말하는 것이 아닌 여러 주제가 서로 영향을 미치는 상황에서 서로 어떤 의사결정이나 행동을 하는지에 대해 이론화한 것을 말함
• example
  • 집 값: 300,000 유로, 공원(O), 50평 , 2층, 고양이 출입금지
  • 주변 평균 아파트 시세: 310,000 유로
  • 과연 어떤 인자가 주변 시세보다 10,000 유로를 낮게 했을까?
• **SV는 모든 가능한 연합에 대한 모든 한계 기여도의 평균임
  • 고양이 출입 금지의 SV를 계산하기 위한 모든 특성들의 조합은 아래와 같음
  • 각 연합에 대해서 고양이 출입 금지가 포함된 연합과 포함되지 않은 연합의 아파트 예측 가격을 계산하고 한계 기여도를 계산하여 차이를 구함
  • SV는 한계 기여도의 평균임 -
  • 기계학습에서 예측치를 구하기 위해 연합에 포함되지 않은 특성 값은 아파트 데이터 셋에서 무작위로 추출해서 대체함
• 실습: 12. SHAP Code