matlab二分类实验（使用libsvm工具包+SVMcgForClass函数）

这几天在做数据挖掘实验，实验要求在 Matlab 环境下，利用 libsvm 工具包设计一个 SVM 两类分类器。在给定的数据集上进行 2-折交叉验证，另外可以使用SVMcgForClass函数寻找最优的c和g参数。 我在做实验的过程中参考了以下网址的解释，这里详细解释了libsvm中函数的使用，并且详细说明了每个参数的含义，另外还可以下载到libsvm以及SVMcgForClass函数的源代码。 http://www.matlabsky.com/thread-10966-1-1.html（很详细）

实验代码如下：

tic; load('DATA.mat'); [N,M]=size(DATA);%N=14980,M=15 K=2; %我觉得数据本身并不适合做归一化操作，归一化之后效果反而不好了 indices=crossvalind('Kfold',N,K);%将N个数据随机分成K份，并返回对应的索引 %%第一折 TEST1=(indices==1);%测试数据的索引 TRAIN1=~TEST1;%训练数据的索引 train1_data=DATA(TRAIN1,1:M-1); train1_label=DATA(TRAIN1,M); test1_data=DATA(TEST1,1:M-1); test1_label=DATA(TEST1,M); [bestacc1,bestc1,bestg1] = SVMcgForClass(train1_label,train1_data,-8,8,-8,8,2,1,1,4.5) model1=svmtrain(train1_label,train1_data,'-c bestc1 -g bestg1' ); [label_train1, acc_train1,decision_train1] = svmpredict(train1_label,train1_data,model1); [label_test1, acc_test1,decision_test1] = svmpredict(test1_label,test1_data,model1); %%第二折 TEST2=(indices==2);%测试数据的索引 TRAIN2=~TEST2;%训练数据的索引 train2_data=DATA(TRAIN2,1:M-1); train2_label=DATA(TRAIN2,M); test2_data=DATA(TEST2,1:M-1); test2_label=DATA(TEST2,M); [bestacc2,bestc2,bestg2] = SVMcgForClass(train2_label,train2_data,-8,8,-8,8,2,1,1,4.5) model2=svmtrain(train2_label,train2_data,'-c bestc2 -g bestg2'); [label_train2, acc_train2,decision_train2] = svmpredict(train2_label,train2_data,model2); [label_test2, acc_test2,decision_test2] = svmpredict(test2_label,test2_data,model2); toc;

实验结果如下： 工作区中的结果变量： 另外，由于是二折交叉验证，每一折都会在训练集上使用SVMcgForClass函数寻找最优的参数（c和g），所以一共生成了四个结果图片，如下： 上面工作区中的结果有点奇怪啊，在找到最优的c和g之后，分别使用model1=svmtrain(train1_label, train1_data, ‘-c bestc1 -g bestg1’ )进行模型训练；使用[label_train1, acc_train1, decision_train1] = svmpredict(train1_label, train1_data, model1)对训练数据进行测试； 使用[label_test1, acc_test1, decision_test1] = svmpredict(test1_label, test1_data, model1)对测试数据进行测试; 但是model1，model2，label_train1，acc_train1, decision_train1等结果都为空，我猜想是不是训练时使用svmtrain(train1_label,train1_data,’-c bestc1 -g bestg1’ )导致的原因，于是又做了下面的实验：把svmtrain(train1_label,train1_data,’-c bestc1 -g bestg1’ )中的bestc1和bestg1直接替换成找到的最优的c和g的值（从工作区中可以看出，bestc1=4，bestg1=0.0039, bestc2=2, bestg2=0.0039），于是直接运行了这几行代码：

model1=svmtrain(train1_label,train1_data,'-c 4 -g 0.0039' ); [label_train1, acc_train1,decision_train1] = svmpredict(train1_label,train1_data,model1); [label_test1, acc_test1,decision_test1] = svmpredict(test1_label,test1_data,model1); model2=svmtrain(train2_label,train2_data,'-c 2 -g 0.0039'); [label_train2, acc_train2,decision_train2] = svmpredict(train2_label,train2_data,model2); [label_test2, acc_test2,decision_test2] = svmpredict(test2_label,test2_data,model2);

这样运行完成后，刚才没有的数据就都出现了，如下图： 实验结论： 1.从图上可以看出，第一折的训练准确率：100%，第一折测试准确率：97%；第二折的训练准确率是：100%，第二折的测试准确率：96.87% 2.使用找到的最优c和g训练我们的模型时，要写成’-c 4 -g 0.0039’，不要写成’-c bestc1 -g bestg1’ ，好像寻优函数并不知道字符串里面保存的是啥内容。