正则化 归一化layer normalization翻译
层归一化。
Layer Normalization（层规范化），又称“规范化网络层”，是深度学习中一种正则化技术，用于在神经网络中加速和改善训练。它可以替代深度学习中常用的batch normalization技术，减少其参数数量，而不会降低精度。Layer Normalization相比于batch normalization的优势在于它能够允许每个神经元具有自己的参数，从而提高模型的稳定性、减少收敛时间，提高模型的准确性。Layer Normalization的思想是，将网络的每一层的输入看做一个实例的集合，为集合中的每个实例进行规范化，使每个实例的均值和方差相等。除了规范化层之外，Layer Normalization还具有增加网络深度、减少梯度消失等优点，对深度学习有着重要意义。

版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。