l1l2正则化原理和区别
L1正则化和L2正则化是两种常用的模型约束技术，用于降低模型的复杂程度，并从而帮助模型进行泛化。它们都可以通过加入正则化项的过程减少模型的过拟合，但也存在本质的区别，具体表现在：
一、概念不同：
    L1正则化：也叫 Lasso 正则化，将模型中参数的绝对值之和作为惩罚项，重点是排除参数的系数。
    L2正则化：也叫 Ridge 正则化，将模型参数的平方和作为惩罚项，重点是降低参数的系数。
二、优化方式不同：
    L1正则化：使用 L1-norm 来进行优化，直接应用特征选择来得到重要特征，可以施加稀疏正则化，将系数缩放为零。
    L2正则化：使用 L2-norm 来进行优化，可以限制参数的大小，但不能完全缩减参数的值到零，防止过大的参数偏移模型，模型 ada 更加稳定。
正则化的具体做法三、模型预测准确性不同：
    L1正则化：通过将参数压缩到极小值，L1正则化可以抑制对数据的过拟合，因此会大大提升模型的泛化能力，但会使模型的预测准确率下降。
    L2正则化：L2正则化不会完全抑制模型参数的系数，所以会减少模型的泛化能力，但可以提升模型的预测准确性。
四、应用不同：
    L1正则化：用于高级特征选择，特征可以设置为 0，可以帮助模型快速收敛。
    L2正则化：用于解决权重过大的问题，但会减弱模型拟合能力，用于解决过拟合问题。

版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。