tensorflow2.0中损失函数的选择及使⽤
⽂章⽬录
使⽤场合tensorflow版本选择
binary_crossentropy（对数损失函数）
即 log loss，与 sigmoid 相对应的损失函数，针对于⼆分类问题。
categorical_crossentropy（多分类的对数损失函数）
与 softmax 相对应的损失函数，针对于独热化标签的多分类问题。
sparse_categorical_crossentrop（稀疏性多分类的对数损失函数）
在上⾯的多分类的对数损失函数的基础上，增加了稀疏性（即数据中多包含⼀定0数据的数据集），针对于⾮独热化标签的多分类问题。MSE（均⽅误差）
主要⽤于预测、线性回归。
Hinge Loss
主要⽤于最⼤化间隔距离、SVM⽀持向量机。
使⽤⽅法
⽅法⼀
⽤对数损失函数举例如下：
bce = tf.keras.losses.BinaryCrossentropy(from_logits=False)
loss = bce([0.,0.,1.,1.],[1.,1.,1.,0.])
print('Loss: ', np.array(loss))# Loss: 11.522857
在上⾯的代码中，bce 是对数损失函数的实例化，当模型最后⼀层没有经过激活函数时 from_logits 设置为 True，否则为 False。
因为 logits 表⽰⽹络的直接输出 。如果⽹络输出的结果经过了 sigmoid 或者 softmax 的概率化，那么 from_logits=False 就表⽰把已经概率化了的输出，重新映射回原值。如果⽹络输出的结果没经过概率化，则 from_logits=True，表⽰不进⾏任何操作。
⽅法⼆
tf.keras.losses.binary_crossentropy(y_true=[0.,0.,1.,1.],
y_pred=[1.,1.,1.,0.],
from_logits=False)

版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。