数据科学—与其解释特征，为什么不解释超参数

来源于Srage, 作为数据科学家，我们很享受训练模型的过程，但在准备好所有特征后，调优模型的超参数时，热情往往会减退。我们常常遇到项目干系人要求添加特征或更改细节，但结果发现重新运行优化比他们想象的要耗时得多。 尽管各种模型的超参数定义很多，但将它们转化为实际意义可能是具有挑战性的。本文的目的是提供一种实际的方法和理解，说明超参数如何影响模型性能，重点介绍关键超参数及其相互作用。它还回顾了如何根据特征解释算法。 尽管每个超参数本身都很重要，因为它们有助于平衡过拟合和模型复杂性，我们需要在所有超参数之间找到平衡，希望这篇分析能帮助找到这种平衡。 方法论 我们投入生产的模型需要具备可解释性：我们需要理解每个特征如何影响整体预测。本文的主要思想是，与其解释特征，为什么不解释超参数呢？这样我们可以看到每个超参数对模型性能的影响。 其中w_1是系数，x_1是特征。如果你考虑一下，特征和模型的参数几乎是对称的。那么我们是否可以在解释模型时交换它们的角色呢？ 一种常见的模型解释方法是SHAP方法。它基于博弈论，简而言之，它说明了每个特征对每个预测的贡献。更多信息可以在这里找到。 要使用这种方法，我们首先需要建立一个机器学习模型，该模型从超参数中预测模型性能。一旦验证了该模型的预测效果非常好，我们就可以观察和学习它的SHAP总结。下面我们将看到一个示例。 更多内容在图中