超参数（Hyperparameter）
什么是超参数？
机器学习模型中⼀般有两类参数：⼀类需要从数据中学习和估计得到，称为模型参数（Parameter）---即模型本⾝的参数。⽐如，线性回归直线的加权系数（斜率）及其偏差项（截距）都是模型参数。还有⼀类则是机器学习算法中的调优参数（tuning parameters），需要⼈为设定，称为超参数（Hyperparameter）。⽐如，正则化系数λ，决策树模型中树的深度。
参数和超参数的区别：
模型参数是模型内部的配置变量，需要⽤数据估计模型参数的值；模型超参数是模型外部的配置，需要⼿动设置超参数的值。机器学习中⼀直说的“调参”，实际上不是调“参数”，⽽是调“超参数”。
正则化线性模型哪些属于超参数？
梯度下降法中的学习速率α，迭代次数epoch，批量⼤⼩batch-size，k近邻法中的k（最相近的点的个数），决策树模型中树的深度，等等。
超参数的优化：
有四种主要的策略可⽤于搜索最佳配置：
照看（babysitting，⼜叫试错）
⽹格搜索
随机搜索
贝叶斯优化

版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。