One-hot для города с 3 000 значений раздул матрицу и ухудшил модель
В данных есть признак city с 3 000 значений, у половины городов меньше 20 клиентов. One-hot кодирование дало 3 000 разреженных колонок, обучение замедлилось в 10 раз, а AUC на валидации упал относительно модели без города.
Какой подход разумнее при использовании CatBoost?
- Передать city как cat_features без one-hot
- Закодировать города числами от 1 до 3000
- Удалить признак city из модели
- Оставить one-hot и увеличить глубину