`
endual
  • 浏览: 3566777 次
  • 性别: Icon_minigender_1
  • 来自: 杭州
社区版块
存档分类
最新评论

LIBSVM简介及其使用方法

    博客分类:
  • SVM
 
阅读更多

LIBSVM简介及其使用方法(台湾大学林智仁(Lin Chih-Jen)副教授等)

libsvm 官方网站:Welcome to Chih-Jen Lin's Home Page
http://www.csie.ntu.edu.tw/~cjlin/
http://www.csie.ntu.edu.tw/~cjlin/libsvm /index.html#nuandone
可以在此网站下载 相关软件

seleced from: http://blog.csdn.net/mirror_hc/archive/2008/03/26/2221207.aspx

支持向量 机所涉及到的数学知识对一般的化学研究 者来说是比较难的,自己编程实现该算法 难度就更大了。但是现在的网络 资源非常发达,而且国际上的科学研究者把他们的研究成果已经放在网络上,免费提供给用于研究目的,这样方便大多数的研究者,不必要花费大量的时间 理解SVM算法的深奥数学原理和计算机程序 设计。目前有关SVM计算的相关软件有很多,如LIBSVM、mySVM、SVMLight等,这些软件大部分的免费下载地址 和简单介绍都可以在http: //www.kernel-machines.org/上获得。
LIBSVM是台湾大学林智仁(Lin Chih-Jen)副教授等开发 设计的一个简单、易于使用和快速有效的SVM模式识别回归 的软件包,他不但提供了编译好的可在Windows系列系统 的执行文件 ,还提供了源代码 ,方便改进、修改以及在其它操作系统上应用 ;该软件还有一个特点,就是对SVM所涉及的参数调节相对比较少,提供了很多的默认参数,利用这些默认参数就可以解决 很多问题;并且提供了交互检验(Cross Validation)的功能。该软件包可以在http://www.csie.ntu.edu.tw/~cjlin/ 免费获得。该软件可以解决C- SVM分类 、-SVM分类、-SVM回归和-SVM回归等问题,包括基于一对一算法的多类模式识别问题。在第2章中我们也介绍了该软件的一些优点,因此通过综合考虑,我们决定采用该软件作为工作软件。SVM用于模式识别或回归时,SVM方法及其参数、核函数 及其参数的选择,目前国际上还没有形成一个统一的模式,也就是说最优SVM算法参数选择还只能是凭借经验、实验对比、大范围的搜寻或者利用软件包提供的交互检验功能进行寻优。
LIBSVM使用方法
LibSVM是以源代码和可执行文件两种方式给出的。如果是Windows系列操作系统,可以直接使用软件包提供的程序,也可以进行修改编译;如果是Unix类系统,必须自己编译,软件包中提供了编译格式 文件,我们在SGI工作站(操作系统IRIX6.5)上,使用免费编译器GNU C++3.3编译通过。
LIBSVM使用的数据 格式
该软件使用的训练数据和检验数据文件格式如下:
<label> <index1>:<value1> <index2>:<value2> ...
其中<label> 是训练数据集的目标值,对于分类,它是标识某类的整数(支持多个类);对于回归,是任意实数。<index> 是以1开始的整数,可以是不连续的;<value>为实数,也就是我们常说的自变量。检验数据文件中的label只用于计算准确度或误差,如 果它是未知的,只需用一个数填写这一栏,也可以空着不填。在程序包中,还包括有一个训练数据实例:heart_scale,方便参考数据文件格式以及练习 使用软件。
可以编写小程序,将自己常用的数据格式转换成这种格式
Svmtrain和Svmpredict的用法
LIBSVM软件提供的各种功能都是DOS命令执行方式。我们主要用到两个程序,svmtrain(训练建模)和svmpredict(使用已有的模型 进行预测 ),下面分别对这两个程序的使用方法、各参数的意义以及设置方法做一个简单介绍:
Svmtrain的用法:svmtrain [options] training_set_file [model_file]
Options:可用的选项即表示的涵义如下
-s svm类型:SVM设置类型(默认0)
0 -- C-SVC
1 --v-SVC
2 – 一类SVM
3 -- e -SVR
4 -- v-SVR
-t 核函数类型:核函数设置类型(默认2)
0 – 线性:u'v
1 – 多项式:(r*u'v + coef0)^degree
2 – RBF函数:exp(-r|u-v|^2)
3 –sigmoid:tanh(r*u'v + coef0)
-d degree:核函数中的degree设置(默认3)
-g r(gama):核函数中的函数设置(默认1/ k)
-r coef0:核函数中的coef0设置(默认0)
-c cost:设置C-SVC, -SVR和-SVR的参数(默认1)
-n nu:设置-SVC,一类SVM和- SVR的参数(默认0.5)
-p e:设置 -SVR 中损失函数的值(默认0.1)
-m cachesize:设置cache内存大小,以MB为单位(默认40)
-e :设置允许的终止判据(默认0.001)
-h shrinking:是否使用启发式,0或1(默认1)
-wi weight:设置第几类的参数C为weightC(C-SVC中的C)(默认1)
-v n: n-fold交互检验模式
其中-g选项中的k是指输入数据中的属性数。option -v 随机地将数据剖分为n部分并计算交互检验准确度和均方根误差。以上这些参数设置可以按照SVM的类型和核函数所支持的参数进行任意组合,如果设置的参数在 函数或SVM类型中没有也不会产生影响,程序不会接受该参数;如果应有的参数设置不正确,参数将采用默认值。training_set_file是要进行 训练的数据集;model_file是训练结束后产生的模型文件,文件中包括支持向量样本数、支持向量样本以及lagrange系数等必须的参数;该参数 如果不设置将采用默认的文件名,也可以设置成自己惯用的文件名。
Svmpredict的用法:svmpredict test_file model_file output_file
model_file是由svmtrain产生的模型文件;test_file是要进行预测的数据文件;Output_file是svmpredict的输出文件。svm-predict没有其它的选项。
svmtrain -s 0 -c 1000 -t 1 -g 1 -r 1 -d 3 data_file
训练一个由多项式核(u'v+1)^3和C=1000组成的分类器。
svmtrain -s 1 -n 0.1 -t 2 -g 0.5 -e 0.00001 data_file
在RBF核函数exp(-0.5|u-v|^2)和终止允许限0.00001的条件下,训练一个-SVM ( = 0.1)分类器。
svmtrain -s 3 -p 0.1 -t 0 -c 10 data_file
以线性核函数u'v和C=10及损失函数= 0.1求解SVM回归。
附录1:LIBSVM的简单介绍
1. LIBSVM 软件包简介
LIBSVM 是台湾大学林智仁(Chih-Jen Lin)博士等开发设计的一个操作简单、易于使用、快速有效的通用SVM 软件包,可以解决分类问题(包括C- SVC、n - SVC )、回归问题(包括e - SVR、n - SVR )以及分布估计(one-class-SVM )等问题,提供了线性、多项式、径向基和S形函数四种常用的核函数供选择,可以有效地解决多类问题、交叉验证选择参数、对不平衡样本加权、多类问题的概率 估计等。LIBSVM 是一个开源的软件包,需要者都可以免费的从作者的个人主页http://www.csie.ntu.edu.tw/~cjlin/ 处获得。他不仅提供了LIBSVM的C++语言的算法源代码,还提供了Python、Java、R、MATLAB、Perl、Ruby、LabVIEW以 及C#.net 等各种语言的接口,可以方便的在Windows 或UNIX 平台下使用,也便于科研工作者根据自己的需要进行改进(譬如设计使用符合自己特定问题需
要的核函数等)。另外还提供了WINDOWS 平台下的可视化操作工具 SVM-toy,并且在进行模型参数选择时可以绘制出交叉验证精度的等高线图。
2. LIBSVM 使用方法简介
LIBSVM 在给出源代码的同时还提供了Windows操作系统下的可执行文件,包括:进行支持向量机 训练的svmtrain.exe;根据已获得的支持向量机模型对数据集进行预测的svmpredict.exe;以及对训练数据与测试数据进行简单缩操作的svmscale.exe。它们都可以直接在DOS 环境中使用。如果下载的包中只有C++
的源代码,则也可以自己在VC等软件上编译生成可执行文件。
LIBSVM 使用的一般步骤是:
1) 按照LIBSVM软件包所要求的格式准备数据集;
2) 对数据进行简单的缩放操作;
3) 考虑选用RBF 核函数2 K(x,y) e x y = -g - ;
4) 采用交叉验证选择最佳参数C与g ;
5) 采用最佳参数C与g 对整个训练集进行训练获取支持向量机模型;
6) 利用获取的模型进行测试与预测。
一. LIBSVM 使用的数据格式
LIBSVM使用的训练数据和测试数据文件格式如下:
: :< 2> …
其中 是训练数据集的目标值,对于分类,它是标识某类的整数(支持
多个类);对于回归,是任意实数。
是以1 开始的整数,表示特征 的序号;
为实数,也就是我们常说的特征值或自变量。当特征值为0 时,特征序号与特征值都可以同时省略,即index可以是不连续的自然数。
与第一个特征序号、前一个特征值与后一个特征序号之间用空格隔开。测试数据文件中的label 只用于计算准确度或误差,如果它是未知的,只需用任意一个数填写这一栏,也可以空着不填。例如:
+1 1:0.708 2:1 3:1 4:-0.320 5:-0.105 6:-1 8:1.21
二. svmscale 的用法
对数据集进行缩放的目的在于:
1)避免一些特征值范围过大而另一些特征值范围过小;
2)避免在训练时为了计算核函数而计算内积的时候引起数值计算的困难。因此,通常将数据缩放到[ -1,1]或者是[0,1]之间。
用法:svmscale [-l lower] [-u upper] [-y y_lower y_upper]
[-s save_filename] [-r restore_filename] filename
(缺省值: lower = -1,upper = 1,没有对y进行缩放)
其中,
-l:数据下限标记;lower:缩放后数据下限;
-u:数据上限标记;upper:缩放后数据上限;
-y:是否对目标值同时进行缩放;y_lower为下限值,y_upper为上限值;
-s save_filename:表示将缩放的规则保存为文件save_filename;
-r restore_filename:表示将缩放规则文件restore_filename载入后按此缩放;
filename:待缩放的数据文件(要求满足前面所述的格式)。
缩放规则文件可以用文本浏览器打开,看到其格式为:
lower upper
lval1 uval1
lval2 uval2
其中的lower 与upper 与使用时所设置的lower 与upper 含义相同;index 表
示特征序号;lval 为该特征对应转换后下限lower 的特征值;uval 为对应于转换后上限upper 的特征值。
数据集的缩放结果在此情况下通过DOS窗口输出,当然也可以通过DOS的
文件重定向符号“>”将结果另存为指定的文件。
使用实例:
1) svmscale –s train3.range train3>train3.scale
表示采用缺省值(即对属性值缩放到[ -1,1]的范围,对目标值不进行缩放)
对数据集train3 进行缩放操作,其结果缩放规则文件保存为train3.range,缩放集的缩放结果保存为train3.scale。
2) svmscale –r train3.range test3>test3.scale
表示载入缩放规则train3.range 后按照其上下限对应的特征值和上下限值线
性的地对数据集test3 进行缩放,结果保存为test3.scale。
三. svmtrain 的用法
svmtrain实现对训练数据集的训练,获得SVM模型。
用法: svmtrain [options] training_set_file [model_file]
其中,
options(操作参数):可用的选项即表示的涵义如下所示
-s svm类型:设置SVM 类型,默认值为0,可选类型有:
0 -- C- SVC
1 -- n - SVC
2 -- one-class-SVM
3 -- e - SVR
4 -- n - SVR
-t 核函数类型:设置核函数类型,默认值为2,可选类型有:
0 -- 线性核:u'*v
1 -- 多项式核: (g*u'*v+ coef 0)deg ree
2 -- RBF 核:e( u v 2) g -
3 -- sigmoid 核:tanh(g*u'*v+ coef 0)
-d degree:核函数中的degree设置,默认值为3; -g g :设置核函数中的g ,默认值为1/ k ;
-r coef 0:设置核函数中的coef 0,默认值为0;
-c cost:设置C- SVC、e - SVR、n - SVR中从惩罚系数C,默认值为1;
-n n :设置n - SVC、one-class-SVM 与n - SVR 中参数n ,默认值0.5;
-p e :设置n - SVR的损失函数中的e ,默认值为0.1;
-m cachesize:设置cache内存大小,以MB为单位,默认值为40;
-e e :设置终止准则中的可容忍偏差,默认值为0.001;
-h shrinking:是否使用启发式,可选值为0 或1,默认值为1;
-b 概率估计:是否计算SVC或SVR的概率估计,可选值0 或1,默认0;
-wi weight:对各类样本的惩罚系数C加权,默认值为1;
-v n:n折交叉验证模式。
其中-g选项中的k是指输入数据中的属性数。操作参数 -v 随机地将数据剖分为n 部分并计算交叉检验准确度和均方根误差。以上这些参数设置可以按照SVM 的类型和核函数所支持的参数进行任意组合,如果设置的参数在函数或SVM 类型中没有也不会产生影响,程序不会接受该参数;如果应有的参数设置不正确,参数将采用默认值。training_set_file是要进行训练的数据 集;model_file是训练结束后产生的模型文件,该参数如果不设置将采用默认的文件名,也可以设置成自己惯用的文件名。
使用实例:
1)svmtrain train3.scale train3.model
训练train3.scale,将模型保存于文件train3.model,并在dos窗口中输出如下
结果:
optimization finished, #iter = 1756
nu = 0.464223
obj = -551.002342, rho = -0.337784
nSV = 604, nBSV = 557
Total nSV = 604
其中,#iter为迭代次数,nu 与前面的操作参数-n n 相同,obj为SVM文件
转换为的二次规划求解得到的最小值,rho 为判决函数的常数项b,nSV 为支持
向量个数,nBSV为边界上的支持向量个数,Total nSV为支持向量总个数。
训练后的模型保存为文件train3.model,用记事本等文本浏览器打开可以看到其内容如下(其后“%”后内容为笔者所加注释):
svm_type c_svc % 训练所采用的svm类型,此处为C- SVC
kernel_type rbf % 训练采用的核函数类型,此处为RBF核
gamma 0.047619 % 与操作参数设置中的g 含义相同
nr_class 2 % 分类时的类别数,此处为两分类问题
total_sv 604 % 总共的支持向量个数
rho -0.337784 % 决策函数中的常数项b
label 0 1 % 类别标签
nr_sv 314 290 % 各类别标签对应的支持向量个数
SV % 以下为支持向量
1 1:-0.963808 2:0.906788 ... 19:-0.197706 20:-0.928853 21:-1
1 1:-0.885128 2:0.768219 ... 19:-0.452573 20:-0.980591 21:-1
... ... ...
1 1:-0.847359 2:0.485921 ... 19:-0.541457 20:-0.989077 21:-1
% 对于分类问题,上面的支持向量的各列含义与训练数据集相同;对于回归问题,略有不同,与训练数据中的标签label(即y值)所对应的位置在模型文件的支持向量中现在存放的是Lagrange 系数a 值,即为下面决策函数公式中的a 值:
* *
1
() ( )( ( ) ( )) ( ) ( , )
( , )
k
i i i i i i
i i sv
i i
i sv
fx a a x x b a a k x x b
ak x x b
=   = - F F + = - +
= + g
四. svmpredict 的用法
svmpredict 是根据训练获得的模型,对数据集合进行预测。
用法:svmpredict [options] test_file model_file output_file
options(操作参数):
-b probability_estimates:是否需要进行概率估计预测,可选值为0 或者1,
默认值为0。
model_file 是由svmtrain 产生的模型文件;test_file 是要进行预测的数据文
件;output_file 是svmpredict 的输出文件,表示预测的结果值。svmpredict 没有
其它的选项。
分享到:
评论

相关推荐

    6_Libsvm-FarutoGUI版本介绍与使用_LibSVM_libsvm使用手册_

    本文将详细讲解LibSVM的FarutoGUI版本及其使用方法。 首先,让我们了解什么是支持向量机(SVM)。SVM是一种二分类和多分类的监督学习模型,它的基本模型是定义在特征空间上的间隔最大的线性分类器。SVM的核心思想是...

    LIBSVM-FarutoUltimate工具箱及GUI版本介绍与使用

    LIBSVM,全称为“Library for Support Vector Machines”,是由陈嘉澍教授及其团队开发的一款开源软件,主要用于支持向量机(Support Vector Machine, SVM)的学习和预测。SVM是一种广泛应用的机器学习算法,尤其在...

    libsvm-3.24_LibSVM_SVM_

    3. **文档**:详细介绍了LibSVM的使用方法、参数说明和API接口等。 4. **工具**:可能包括用于数据预处理、参数调优、模型评估等的辅助工具。 通过阅读文档并参照示例,用户可以快速理解和应用LibSVM进行SVM模型的...

    libSVM的使用

    为了使用libSVM及其相关工具,首先需要确保以下环境配置妥当: - **Python**:推荐使用Python 3.x版本,可以从官网 (https://www.python.org/downloads/) 下载安装。 - **Gnuplot**:用于绘制图形,可从 ...

    LibSVM学习入门介绍

    #### 四、LibSVM的使用方法 - **编译示例**:虽然直接使用预编译好的执行文件已经足够满足大多数用户的需求,但对于希望深入了解LibSVM内部机制的研究人员而言,自行编译源代码是一个不错的选择。以下是在Visual ...

    libsvm32位64位

    LibSVM,全称为“Library for Support Vector Machines”,是由陈嘉澍教授及其团队开发的一款开源的、用于支持向量机(SVM)的库。它提供了丰富的数据结构和算法,适用于各种分类和回归任务,是机器学习领域广泛使用...

    libsvm-3.24_svm预测_SVM回归预测_svm回归_libsvm数据_libsvm3.24安装_源码

    了解和掌握libsvm及其使用,对于从事机器学习、数据挖掘和模式识别等领域的研究者和工程师来说是至关重要的。通过这个压缩包,用户不仅可以学习到SVM的基本概念,还能实际操作SVM模型,从而更好地理解和应用SVM回归...

    libsvm的使用及源代码

    ### libsvm的使用及源代码解析 #### 一、LibSVM概述 LibSVM是一款广泛使用的支持向量机(SVM)软件包,它能够高效地处理多种类型的机器学习问题,如分类和回归等。LibSVM的一个显著特点是其简单易用的API,以及高效...

    libsvm使用详细介绍(含有截图)

    使用方法如下: ```bash svmscale -l -1 -u 1 -s scaling_parameters_file input_file &gt; scaled_file ``` - `-l -1` 和 `-u 1` 分别指定了缩放的下限和上限。 - `-s scaling_parameters_file` 指定了保存缩放参数...

    LIBSVM FAQ

    理解并掌握如何使用LIBSVM及其相关知识,对于深入理解和应用SVM至关重要。通过阅读"LIBSVM FAQ.htm"文件,你可以找到更多关于如何使用LIBSVM的具体解答和实用技巧,从而更好地在实际项目中应用SVM。

    libsvm.zip_SVM_humanpw9_libsvm工具箱_ocsvm_集成分类器

    需要注意的是,使用libsvm工具箱前,应了解其基本原理和使用方法,熟悉相关的编程环境,如MATLAB或Python,以及如何配置和调参。 总的来说,“libsvm.zip_SVM_humanpw9_libsvm工具箱_ocsvm_集成分类器”这个资源为...

    傻瓜也会libsvm

    通过本文的介绍,您应该已经掌握了libsvm的基本使用方法。即使是没有任何编程背景或数学基础的人,也能利用libsvm轻松地进行机器学习实验。当然,这只是冰山一角,随着深入学习,您还会发现更多高级功能和技巧。希望...

    WEKA下的LIBSVM

    WEKA 3.5 及其以上版本提供了 LIBSVM 的集成支持,但需要进行一些设置和配置。在 WEKA 的分类器中,LIBSVM 是作为一个 Wrapper 调用机制,需要安装 LIBSVM 并将其添加到 WEKA 的启动路径中。 二、安装 LIBSVM 下载...

    libsvm-c++修改C

    台湾大学在机器学习领域的研究处于国际领先水平,因此,使用他们的工具和方法可以保证一定的可靠性和效率。 根据提供的压缩包子文件名称“svm_0408”和“svm_0420”,我们可以推测这可能是两个不同版本或者不同阶段...

    最新版libsvm-3.16

    **最新版libsvm-3.16** LibSVM,全称为“Library for Support Vector Machines”,是由台湾大学的林智仁教授...无论是学术研究还是工业应用,理解并掌握LibSVM的基本原理和使用方法,都能提升数据分析和建模的能力。

    LibSVM使用实例

    LibSVM的数据格式为每行一个样本,每个样本由空格分隔的特征值和目标值组成,最后一列是目标值,前面的列是特征及其对应的值。例如: ``` -1 1:0.1 2:0.2 3:0.3 1 1:0.4 2:0.5 3:0.6 ``` 在上述数据中,第一行表示...

    libsvm-3.20 版本 Windows64位系统

    它由台湾大学的林智仁教授及其团队开发的libsvm库实现了算法的核心功能。SVM通过构建一个超平面将数据集分为两类,最大化类别之间的间隔,从而实现对新样本的有效分类。 **libsvm-3.20介绍** libsvm是林智仁教授...

    libsvm.zip_LibSVM_libsvm 说明

    这个压缩包“libsvm.zip”包含了LibSVM的详细说明和编程方法,是研究和使用LibSVM的重要资源。 LibSVM的核心在于支持向量机(Support Vector Machine,SVM),这是一种二分类模型,通过寻找最大边距超平面来划分...

Global site tag (gtag.js) - Google Analytics