附录1：LIBSVM的简单介绍
1. LIBSVM软件包简介
LIBSVM是台湾大学林智仁(Chih-Jen Lin)博士等开发设计的一个操作简单、易于使用、快速有效的通用SVM软件包，可以解决分类问题（包括C SVC
−、SVC
ν−）、回归问题（包括SVR
ε−、SVR
ν−）以及分布估计（on e class SVM
−−）等问题，提供了线性、多项式、径向基和S形函数四种常用的核函数供选择，可以有效地解决多类问题、交叉验证选择参数、对不平衡样本加权、多类问题的概率估计等。LIBSVM是一个开源的软件包，需要者都可以免费的从作者的个人主页u.edu.tw/~cjlin/处获得。他不仅提供了LIBSVM的C++语言的算法源代码，还提供了Python、Java、R、MA TLAB、Perl、Ruby、LabVIEW 以及C#等各种语言的接口，可以方便的在Windows或UNIX平台下使用，也便于科研工作者根据自己的
需要进行改进（譬如设计使用符合自己特定问题需要的核函数等）。另外还提供了WINDOWS平台下的可视化操作工具SVM-toy，并且在进行模型参数选择时可以绘制出交叉验证精度的等高线图。
2. LIBSVM使用方法简介
LIBSVM在给出源代码的同时还提供了Windows操作系统下的可执行文件，包括：进行支持向量机训练的；根据已获得的支持向量机模型对数据集进行预测的；以及对训练数据与测试数据进行简单缩放操作的。它们都可以直接在DOS环境中使用。如果下载的包中只有C++的源代码，则也可以自己在VC等软件上编译生成可执行文件。
LIBSVM使用的一般步骤是：
1）按照LIBSVM软件包所要求的格式准备数据集；
2）对数据进行简单的缩放操作；
3）考虑选用RBF核函数
2 (,)x y
K x y eγ−−
=；
4）采用交叉验证选择最佳参数C与γ；
5）采用最佳参数C与γ对整个训练集进行训练获取支持向量机模型；
6）利用获取的模型进行测试与预测。
一. LIBSVM使用的数据格式
LIBSVM使用的训练数据和测试数据文件格式如下：
<label> <index1>：<value1> <index2>：< value2> …
其中<label> 是训练数据集的目标值，对于分类，它是标识某类的整数(支持多个类)；对于回归，是任意实数。<index> 是以1开始的整数，表示特征的序号；<value>为实数，也就是我们常说的特征值或自变量。当特征值为0时，特征序号与特征值value都可以同时省略，即index可以是不连续的自然数。<label>与第一个特征序号、前一个特征值与后一个特征序号之间用空格隔开。测试数据文件中的label只用于计算准确度或误差，如果它是未知的，只需用任意一个数填写这一栏，也可以空着不填。例如：
+1 1:0.708 2:1 3:1 4:-0.320 5:-0.105 6:-1 8:1.21
为了使用的方便，可以编写小程序，将自己常用的数据格式按照这种数据格式要求转换成这种格式供LIBSVM直接使用。例如：笔者编写的在MA TLAB中使用的格式转换函数write4libsvm如下：
function write4libsvm
% 为了使得数据满足libsvm的格式要求而进行的数据格式转换
% 原始数据保存格式为:
%            [标签第一个属性值第二个属性值...]
% 转换后文件格式为满足libsvm的格式要求，即:
%            [标签 1：第一个属性值 2：第二个属性值 3：第三个属性值 ...]
% JGRong@ustc
% 2004.6.16
[filename, pathname] = uigetfile( {'*.mat', ...
'数据文件(*.mat)';  '*.*', '所有文件 (*.*)'},    '选择数据文件');
try
S=load([pathname filename]);
fieldName = fieldnames(S);
str = cell2mat(fieldName);
B = getfield(S,str);
[m,n] = size(B);
[filename, pathname] = uiputfile({'*.txt;*.dat' ,'数据文件
(*.txt;*.dat)';'*.*','所有文件 (*.*)'},'保存数据文件');
fid = fopen([pathname filename],'w');
if(fid~=-1)
for k=1:m
fprintf(fid,'%3d',B(k,1));
for kk = 2:n
fprintf(fid,'\t%d',(kk-1));
fprintf(fid,':');
fprintf(fid,'%d',B(k,kk));
end
fprintf(fid,'\n');
end
fclose(fid);
else
msgbox('无法保存文件!');
end
catch
msgbox('文件保存过程中出错!','出错了...','error');
end
二. svmscale的用法
对数据集进行缩放的目的在于：1）避免一些特征值范围过大而另一些特征值范围过小；2）避免在训练时为了计算核函数而计算内积的时候引起数值计算
−或者是[0,1]之间。
的困难。因此，通常将数据缩放到[1,1]
用法：svmscale [-l lower] [-u upper] [-y y_lower y_upper]
[-s save_filename] [-r restore_filename] filename （缺省值：lower = -1，upper = 1，没有对y进行缩放）
其中，
-l：数据下限标记；lower：缩放后数据下限；
-u：数据上限标记；upper：缩放后数据上限；
-y：是否对目标值同时进行缩放；y_lower为下限值，y_upper为上限值；
-s save_filename：表示将缩放的规则保存为文件save_filename；
-r restore_filename：表示将缩放规则文件restore_filename载入后按此缩放；
filename：待缩放的数据文件（要求满足前面所述的格式）。
缩放规则文件可以用文本浏览器打开，看到其格式为：
lower upper
<index1> lval1 uval1
<index2> lval2 uval2
其中的lower 与upper 与使用时所设置的lower 与upper 含义相同；index 表示特征序号；lval 为该特征对应转换后下限lower 的特征值；uval 为对应于转换后上限upper 的特征值。
数据集的缩放结果在此情况下通过DOS 窗口输出，当然也可以通过DOS 的文件重定向符号“>”将结果另存为指定的文件。
使用实例：
1)  svmscale –s train3.range train3>train3.scale
表示采用缺省值（即对属性值缩放到[1,1]−的范围，对目标值不进行缩放）对数据集train3进行缩放操作，其结果缩放规则文件保存为train3.range ，缩放集的缩放结果保存为train3.scale 。
2） svmscale –r train3.range test3>test3.scale
fprintf格式表示载入缩放规则train3.range 后按照其上下限对应的特征值和上下限值线性的地对数据集test3进行缩放，结果保存为test3.scale 。
三. svmtrain 的用法
svmtrain 实现对训练数据集的训练，获得SVM 模型。
用法： svmtrain [options] training_set_file [model_file]
其中，
options （操作参数）
：可用的选项即表示的涵义如下所示 -s svm 类型：设置SVM 类型，默认值为0，可选类型有：
0 -- C SVC −
1 -- SVC ν−
2 -- on e class SVM −−
3 -- SVR ε−
4 -- SVR ν−
-t 核函数类型：设置核函数类型，默认值为2，可选类型有：
0 -- 线性核：'*u v
1 -- 多项式核：
deg (*'*0)ree u v coef γ+ 2 -- RBF 核：2()u v e γ−
3 -- sigmoid 核：tanh(*'*0)u v coef γ+
-d degree ：核函数中的degree 设置，默认值为3；
-g γ：设置核函数中的γ，默认值为1/k ；
-r 0coef ：设置核函数中的0coef ，默认值为0；
-c cos t ：设置C SVC −、SVR ε−、SVR ν−中从惩罚系数C ，默认值为1； -n ν：设置SVC ν−、on e class SVM −−与SVR ν− 中参数ν，默认值0.5； -p ε：设置SVR ν−的损失函数中的ε，默认值为0.1；
-m cachesize ：设置cache 内存大小，以MB 为单位，默认值为40；
-e  ε：设置终止准则中的可容忍偏差，默认值为0.001；
-h shrinking ：是否使用启发式，可选值为0或1，默认值为1；
-b 概率估计：是否计算SVC 或SVR 的概率估计，可选值0或1，默认0； -wi weight ：对各类样本的惩罚系数C 加权，默认值为1；
-v n ：n 折交叉验证模式。
其中-g 选项中的k 是指输入数据中的属性数。操作参数 -v 随机地将数据剖分为n 部分并计算交叉检验准确度和均方根误差。以上这些参数设置可以按照SVM 的类型和核函数所支持的参数进行任意组合，如果设置的参数在函数或SVM 类型中没有也不会产生影响，程序不会接受该参数；如果应有的参数设置不正确，参数将采用默认值。training_set_file 是要进行训练的数据集；model_file 是训练结束后产生的模型文件，该参数如果不设置将采用默认的文件名，也可以设置成自己惯用的文件名。
使用实例：
1）svmtrain train3.del
训练train3.scale ，将模型保存于文件del ，并在dos 窗口中输出如下结果：
optimization finished, #iter = 1756
nu = 0.464223
obj = -551.002342, rho = -0.337784
nSV = 604, nBSV = 557
Total nSV = 604
其中，#iter 为迭代次数，nu 与前面的操作参数-n ν相同，obj 为SVM 文件转换为的二次规划求解得到的最小值，rho 为判决函数的常数项b ，nSV 为支持向量个数，nBSV 为边界上的支持向量个数，Total nSV 为支持向量总个数。
训练后的模型保存为文件del ，用记事本等文本浏览器打开可以看

版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。