超参数优化

为机器学习算法选择合适的参数是一项困难而关键的任务,它对机器学习模型结果产生很大的影响。这些参数可以通过手动或自动方式进行调整。

手动方式意味着训练和测试模型在每一步都要手动更改参数,这可能是一项非常耗时的任务,您可能永远无法找到最优的参数。另一方面,我们可以使用算法找到一组潜在的超参数,并尝试自动优化它们。

几乎所有的机器学习库和框架都包含一些自动超参数优化算法,如RandomSearch和GridSearch。

GridSearch中,关键思想是定义一组参数值,并为所有可能的组合训练模型,然后保存最好的一个。这种方法非常好,但是如果您的机器学习模型需要一些时间来训练(就像在几乎所有的深度学习模型中一样),或者如果您的超参数空间太大,这种方法就不是最好的方法,因为很耗时。

RandomSearch算法与前面提到的算法非常相似,但不是使用所有的可能组合,而是随机选择这些参数的一个子集,所以选择一个可能的参数集所需的时间会大大减少,但可能它并没有找到最优集。

贝叶斯优化

贝叶斯优化是通过构造函数的后验分布(高斯过程)来实现的,它能最好地描述要优化的函数。随着观测次数的增加,后验分布得到改善,算法更加确定了参数空间中哪些区域值得探索,哪些区域不值得探索

我们可以在下图中看到这一点

使用贝叶斯优化为您的机器学习模型找到最佳超参数

当您反复迭代时,该算法会考虑到它对目标函数的了解,平衡其探索和利用的需求。在每一步中,对已知的样本点(之前探索过的点)进行高斯过程拟合,利用后验分布结合探索策略(如UCB (Upper Confidence Bound),或EI (Expected Improvement))确定下一个应该探索的点。

使用贝叶斯优化,我们可以更智能地找到我们想要优化的参数的可能值,然后减少执行此过程所需的时间,因为可以将我们的机器学习模型定义为依赖于这些参数的函数。

使用贝叶斯优化与H2O.ai

本文使用H2O.ai和由Fernando Nogueira开发的python包bayesian-optimization(https://github.com/fmfn/BayesianOptimization)。目的是利用GBM作为机器学习算法优化回归模型的超参数。

数据集

我选择红葡萄酒质量数据集(https://www.kaggle.com/uciml/red-wine-quality-cortez-et-al-2009),因为它是一个简单的机器学习数据集,您可以用它来训练回归或分类模型。

该数据集包含一系列能够确定葡萄酒质量的特征:pH, citric acidity, sulphates, alcohol等。数据如下所示:

使用贝叶斯优化为您的机器学习模型找到最佳超参数

红葡萄酒质量数据集

我们的机器学习模型将尝试预测葡萄酒的质量。

Python代码

首先,导入h2o和贝叶斯优化,然后启动H2O的服务器:

import h2o
from h2o.estimators.gbm import H2OGradientBoostingEstimator
from bayes_opt import BayesianOptimization
h2o.init()
h2o.remove_all()

使用贝叶斯优化为您的机器学习模型找到最佳超参数

我们把数据集加载到H2O的框架中,我们要把数据集分成训练和测试,70%用来训练。H2O内部使用交叉验证,所以我们可以使用测试数据来验证我们的最终模型,我们的目标是葡萄酒的quality。

data = h2o.upload_file(“data/winequality-red.csv”)
train_cols = [x for x in data.col_names if x not in [‘quality’]]
target = "quality"
train, test = data.split_frame(ratios=[0.7])

使用贝叶斯优化为您的机器学习模型找到最佳超参数

贝叶斯优化包需要一个优化函数,并且该函数必须返回一个数字,在我们的例子中,这个数字将是我们想要最小化的度量(或成本函数)。我选择最小化均方根误差(记住,我们将训练回归模型),因此函数返回此值。

def train_model(max_depth, 
 ntrees,
 min_rows, 
 learn_rate, 
 sample_rate, 
 col_sample_rate):
 params = {
 'max_depth': int(max_depth),
 'ntrees': int(ntrees),
 'min_rows': int(min_rows),
 'learn_rate':learn_rate,
 'sample_rate':sample_rate,
 'col_sample_rate':col_sample_rate
 }
 model = H2OGradientBoostingEstimator(nfolds=5,**params)
 model.train(x=train_cols, y=target, training_frame=train)
 return -model.rmse()

使用贝叶斯优化为您的机器学习模型找到最佳超参数

这个函数返回-model.rmse(),优化器在默认情况下是为最大化函数而设计的。

现在,我们必须定义参数空间的区域,

bounds = {
 'max_depth':(5,10),
 'ntrees': (100,500),
 'min_rows':(10,30),
 'learn_rate':(0.001, 0.01),
 'sample_rate':(0.5,0.8),
 'col_sample_rate':(0.5,0.8)
}

使用贝叶斯优化为您的机器学习模型找到最佳超参数

是时候定义我们的优化器,它接收一个python函数和超参数空间。然后我们可以设置初始点的数量,以及我们想要的迭代次数,迭代次数将是我们要训练的机器学习模型数量。

optimizer = BayesianOptimization(
 f=train_model,
 pbounds=bounds,
 random_state=1,
)
optimizer.maximize(init_points=10, n_iter=50)

使用贝叶斯优化为您的机器学习模型找到最佳超参数

运行它,我们在每一步都得到一个输出

使用贝叶斯优化为您的机器学习模型找到最佳超参数

在每一步输出我们的优化

最后,我们可以为机器学习模型获得最好的超参数

optimizer.max
{'target': -0.35322220505969215,
 'params': {'col_sample_rate': 0.8,
 'learn_rate': 0.01,
 'max_depth': 10.0,
 'min_rows': 10.0,
 'ntrees': 300.0,
 'sample_rate': 0.8}}

使用贝叶斯优化为您的机器学习模型找到最佳超参数

结论

我们使用贝叶斯优化来调整模型的超参数,正如我们在示例中所看到的,我们可以使用它来优化各种黑盒问题。

我们可以将Fernando Nogueira开发的软件包与几乎所有流行的机器学习库集成在一起,如h2o,sklearn,tensorflow,XGboost,CatBoost等。