超参数优化
为机器学习算法选择合适的参数是一项困难而关键的任务,它对机器学习模型结果产生很大的影响。这些参数可以通过手动或自动方式进行调整。
手动方式意味着训练和测试模型在每一步都要手动更改参数,这可能是一项非常耗时的任务,您可能永远无法找到最优的参数。另一方面,我们可以使用算法找到一组潜在的超参数,并尝试自动优化它们。
几乎所有的机器学习库和框架都包含一些自动超参数优化算法,如RandomSearch和GridSearch。
GridSearch中,关键思想是定义一组参数值,并为所有可能的组合训练模型,然后保存最好的一个。这种方法非常好,但是如果您的机器学习模型需要一些时间来训练(就像在几乎所有的深度学习模型中一样),或者如果您的超参数空间太大,这种方法就不是最好的方法,因为很耗时。
RandomSearch算法与前面提到的算法非常相似,但不是使用所有的可能组合,而是随机选择这些参数的一个子集,所以选择一个可能的参数集所需的时间会大大减少,但可能它并没有找到最优集。
贝叶斯优化
贝叶斯优化是通过构造函数的后验分布(高斯过程)来实现的,它能最好地描述要优化的函数。随着观测次数的增加,后验分布得到改善,算法更加确定了参数空间中哪些区域值得探索,哪些区域不值得探索
我们可以在下图中看到这一点

当您反复迭代时,该算法会考虑到它对目标函数的了解,平衡其探索和利用的需求。在每一步中,对已知的样本点(之前探索过的点)进行高斯过程拟合,利用后验分布结合探索策略(如UCB (Upper Confidence Bound),或EI (Expected Improvement))确定下一个应该探索的点。
使用贝叶斯优化,我们可以更智能地找到我们想要优化的参数的可能值,然后减少执行此过程所需的时间,因为可以将我们的机器学习模型定义为依赖于这些参数的函数。
使用贝叶斯优化与H2O.ai
本文使用H2O.ai和由Fernando Nogueira开发的python包bayesian-optimization(https://github.com/fmfn/BayesianOptimization)。目的是利用GBM作为机器学习算法优化回归模型的超参数。
数据集
我选择红葡萄酒质量数据集(https://www.kaggle.com/uciml/red-wine-quality-cortez-et-al-2009),因为它是一个简单的机器学习数据集,您可以用它来训练回归或分类模型。
该数据集包含一系列能够确定葡萄酒质量的特征:pH, citric acidity, sulphates, alcohol等。数据如下所示:

红葡萄酒质量数据集
我们的机器学习模型将尝试预测葡萄酒的质量。
Python代码
首先,导入h2o和贝叶斯优化,然后启动H2O的服务器:
import h2o from h2o.estimators.gbm import H2OGradientBoostingEstimator from bayes_opt import BayesianOptimization h2o.init() h2o.remove_all()

我们把数据集加载到H2O的框架中,我们要把数据集分成训练和测试,70%用来训练。H2O内部使用交叉验证,所以我们可以使用测试数据来验证我们的最终模型,我们的目标是葡萄酒的quality。
data = h2o.upload_file(“data/winequality-red.csv”) train_cols = [x for x in data.col_names if x not in [‘quality’]] target = "quality" train, test = data.split_frame(ratios=[0.7])

贝叶斯优化包需要一个优化函数,并且该函数必须返回一个数字,在我们的例子中,这个数字将是我们想要最小化的度量(或成本函数)。我选择最小化均方根误差(记住,我们将训练回归模型),因此函数返回此值。
def train_model(max_depth,
ntrees,
min_rows,
learn_rate,
sample_rate,
col_sample_rate):
params = {
'max_depth': int(max_depth),
'ntrees': int(ntrees),
'min_rows': int(min_rows),
'learn_rate':learn_rate,
'sample_rate':sample_rate,
'col_sample_rate':col_sample_rate
}
model = H2OGradientBoostingEstimator(nfolds=5,**params)
model.train(x=train_cols, y=target, training_frame=train)
return -model.rmse()
这个函数返回-model.rmse(),优化器在默认情况下是为最大化函数而设计的。
现在,我们必须定义参数空间的区域,
bounds = {
'max_depth':(5,10),
'ntrees': (100,500),
'min_rows':(10,30),
'learn_rate':(0.001, 0.01),
'sample_rate':(0.5,0.8),
'col_sample_rate':(0.5,0.8)
}
是时候定义我们的优化器,它接收一个python函数和超参数空间。然后我们可以设置初始点的数量,以及我们想要的迭代次数,迭代次数将是我们要训练的机器学习模型数量。
optimizer = BayesianOptimization( f=train_model, pbounds=bounds, random_state=1, ) optimizer.maximize(init_points=10, n_iter=50)

运行它,我们在每一步都得到一个输出

在每一步输出我们的优化
最后,我们可以为机器学习模型获得最好的超参数
optimizer.max
{'target': -0.35322220505969215,
'params': {'col_sample_rate': 0.8,
'learn_rate': 0.01,
'max_depth': 10.0,
'min_rows': 10.0,
'ntrees': 300.0,
'sample_rate': 0.8}}
结论
我们使用贝叶斯优化来调整模型的超参数,正如我们在示例中所看到的,我们可以使用它来优化各种黑盒问题。
我们可以将Fernando Nogueira开发的软件包与几乎所有流行的机器学习库集成在一起,如h2o,sklearn,tensorflow,XGboost,CatBoost等。