超参数调制是监督学习的关键步骤,它涉及为机器学习模型选择最佳参数。适当的调制可以大大改善模型的性能和准确性。本篇文章探讨了共同的方法,并提供了更好的理解过程的例子。

什么是超参数图宁?

超参数是制约机器学习模型培训过程的设置。 与培训过程中学到的模型参数不同, 超参数在培训开始前就被设定。 将这些参数进行调试有助于优化模型对新数据进行归纳的能力 。

高参数调试的常用方法

  • Grid Search:[] 通过培训和评价每个组合的模型,通过指定的子集超参数系统搜索.
  • 随机抽样在限定范围内进行超参数组合,往往比网格搜索更快地找到良好的参数.
  • 巴耶斯优化:[ 利用概率模型根据以往的结果选择有希望的超参数,旨在高效地找到最佳设置.

超参数图宁的例子

对于支持向量机(SVM),可以调制内核类型和正态参数(C)等超参数,在神经网络中,学习率,层数,神经元数是常用的超参数,以优化.

使用网格搜索,数据科学家可以测试内核类型和C值的不同组合,以识别最佳性能模型。 或者,随机搜索可以快速探索范围更广的参数,计算成本较低。