使⽤Python画ROC曲线以及AUC值
from:/2016/09/19/Machine%20Learning/AUC-Calculation-by-Python/
AUC介绍
AUC(Area Under Curve)是机器学习⼆分类模型中⾮常常⽤的评估指标,相⽐于F1-Score对项⽬的不平衡有更⼤的容忍性,⽬前常见的机器学习库中(⽐如)⼀般也都是集成该指标的计算,其计算原理可以参考这个,但是有时候模型是单独的或者⾃⼰编写的,此时想要评估训练模型的好坏就得⾃⼰搞⼀个AUC计算模块,本⽂在查询资料时发现libsvm-tools1有⼀个⾮常通俗易懂的auc计算,因此抠出来⽤作⽇后之⽤。
AUC计算
AUC的计算分为下⾯三个步骤:
1. 计算数据的准备,如果模型训练时只有训练集的话⼀般使⽤交叉验证的⽅式来计算,如果有评估集(evaluate)⼀般就可以直接计算了,数
据的格式⼀般就是需要预测得分以及其⽬标类别(注意是⽬标类别,不是预测得到的类别)
2. 根据阈值划分得到横(X:False Positive Rate)以及纵(Y:True Positive Rate)点
3. 将坐标点连成曲线之后计算其曲线下⾯积,就是AUC的值
直接上python代码
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47#! -*- coding=utf-8 -*-
import pylab as pl
from math import log,exp,sqrt
evaluate_result="you file path"
db = [] #[score,nonclk,clk]
pos, neg = 0, 0
with open(evaluate_result,'r') as fs:
for line in fs:
nonclk,clk,score = line.strip().split('\t')
nonclk = int(nonclk)
clk = int(clk)
score = float(score)
db.append([score,nonclk,clk])
pos += clk
neg += nonclk
db = sorted(db, key=lambda x:x[0], reverse=True)
#计算ROC坐标点
xy_arr = []
tp, fp = 0., 0.
for i in range(len(db)):
tp += db[i][2]
fp += db[i][1]
xy_arr.append([fp/neg,tp/pos])
#计算曲线下⾯积
auc = 0.
prev_x = 0
for x,y in xy_arr:
if x != prev_x:
auc += (x - prev_x) * y
prev_x = x
python是做什么的通俗易懂的print "the auc is %s."%auc
x = [_v[0] for _v in xy_arr]
y = [_v[1] for _v in xy_arr]
pl.title("ROC curve of %s (AUC = %.4f)" % ('svm',auc)) pl.xlabel("False Positive Rate")
pl.ylabel("True Positive Rate")
pl.plot(x, y)# use pylab to plot x and y
pl.show()# show the plot on the screen
输⼊的数据集可以参考其格式为:
nonclk \t clk \t score
其中:
1. nonclick:未点击的数据,可以看做负样本的数量
2. clk:点击的数量,可以看做正样本的数量
3. score:预测的分数,以该分数为group进⾏正负样本的预统计可以减少AUC的计算量
运⾏的结果为:
如果本机没安装pylab可以直接注释依赖以及画图部分
注意
上⾯贴的代码:
1. 只能计算⼆分类的结果(⾄于⼆分类的标签随便处理)
2. 上⾯代码中每个score都做了⼀次阈值,其实这样效率是相当低的,可以对样本进⾏采样或者在计算横轴坐标时进⾏等分计算参考
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。
发表评论