正则化系数的作用,正则化系数对训练结果的影响

正则化弯曲刚度系数与什么有关

刚度这东西和弯矩没有直接的关系，刚度的定义是单位变形所需的外力，一个相对的概念就是柔度，柔度指的是单位外力所引起的变形。所以，在静定结构中，刚度不影响弯矩，但是刚度决定变形。

刚度系数与刚度的关系：在力学中来说，刚度是指杆件抵抗变形的能力，有剪切刚度、弯曲刚度等。刚度系数是指由于单位支座位移引起的杆端力系数。举个最简单的例子：刚度：KL=EA（E：弹模。A：截面面积。

细杆和薄板在受侧向外力作用时刚度很小，但细杆和薄板如果组合得当，边界支持合理，使杆只承受轴向力，板只承受平面内的力，则它们也能具有较大的刚度。在自然界，动物和植物都需要有足够的刚度以维持其外形。

通过正则化解决过拟合问题

偏差-方差权衡就是通过正则化调整模型的复杂度。

简化模型参数：减少模型的参数数目，可以让模型更加简单，缓解过拟合问题。可以通过手动减少模型特征的方法，也可以通过自动化选择特征的方法来实现。

Dropout方法是一种随机失活技术。它通过在训练过程中随机关闭一些神经元来减少网络的复杂度，从而防止过拟合。这个方法适用于需要提高网络的泛化能力的情况。

避免过拟合的方法有很多：L2正则化就是在代价函数后面再加上一个正则化项：C0代表原始的代价函数，后面那一项就是L2正则化项，它是这样来的：所有参数w的平方的和，除以训练集的样本大小n。

如果训练数据不足，我们可以通过增加训练数据的方法来解决这个问题。这样能够增加模型的泛化能力，从而避免过度依赖于训练数据中的特征，提高模型的准确性。正则化是另外一种解决过拟合问题的方法。

正则化方法： 一般有L1正则与L2正则等 4）Dropout： 正则是通过在代价函数后面加上正则项来防止模型过拟合的。

正则化详解

1、L1正则化项也称为Lasso，L2正则化参数也称为Ridge。 L1范数：权值向量w中各个元素的绝对值之和，L1正则化可以产生稀疏权值矩阵，即产生一个稀疏模型，可以用于特征选择。

2、这种收缩也称之为正则化，它旨在减少方差以防止模型的过拟合。由于我们使用不同的收缩方法，有一些变量的估计将归零。因此这种方法也能执行变量的选择，将变量收缩为零最常见的技术就是 Ridge 回归和 Lasso 回归。

3、正则化主要是通过对网络权重做正则来限制过拟合，但是根据正则项在损失函数中的形式：可以看出，如果发生梯度爆炸，那么权值的范数就会变的非常大，反过来，通过限制正则化项的大小，也可以在一定程度上限制梯度爆炸的发生。