From local explanations to global understanding with explainable AI for trees

В современном машинном обучении модели, основанные на деревьях, являются самыми популярными нелинейными моделями, использующими табличные данные. Эти модели широко применяются в таких областях как медицина, финансы, маркетинг и др., где важна не только точность модели, но также и её интерпретируемость, то есть возможность понять, как модель использует те или иные признаки в предсказании. В медицине закономерности, выявленные с помощью модели, могут быть более ценными, чем сами предсказания. Однако, несмотр