极限森林
极限森林（Extremely Randomized Trees），也称为Extra-Trees，是一种集成学习方法，类似于随机森林。它在随机森林的基础上做了一些改进，以进一步增加模型的随机性。
极限森林与随机森林的主要区别在于：
特征选择的随机性：在随机森林中，每个决策树在每个节点上都会随机选择一部分特征来进行分裂。而在极限森林中，对于每个节点，不仅随机选择特征，还会随机选择分割点。换句话说，在极限森林中，决策树的节点分裂是基于随机特征和随机阈值进行的，而不是基于最佳的特征和阈值。
Bagging策略：极限森林也采用了bagging策略，即采用bootstrap采样的方式构建每个决策树的训练集。
极限森林相对于传统的随机森林，具有更高的随机性和更快的训练速度。因为节点分裂过程中不再需要计算最佳的特征和阈值，而是直接基于随机选择的特征和阈值进行分裂，这样可以大大减少计算量，提高了训练效率。
极限森林通常用于处理大规模数据集和高维数据，尤其适用于需要快速训练和预测的场景。它在实践中被广泛应用于各种机器学习任务，如分类、回归、特征选择等。s