1.模型構建的理論基礎不同
支(zhi)持(chi)(chi)向(xiang)(xiang)量(liang)機(ji)(ji)回歸(SVR)基于(yu)統計學習理論，其主要思(si)想(xiang)是找(zhao)到一個(ge)超平(ping)面(mian)，使得(de)大部分數(shu)據點都在這個(ge)超平(ping)面(mian)的一定范圍內，并且離這個(ge)超平(ping)面(mian)盡可能近。而偏最(zui)小(xiao)二乘支(zhi)持(chi)(chi)向(xiang)(xiang)量(liang)機(ji)(ji)(PLS-SVM)是在支(zhi)持(chi)(chi)向(xiang)(xiang)量(liang)機(ji)(ji)的基礎上，引入了偏最(zui)小(xiao)二乘法的思(si)想(xiang)，通過最(zui)大化協方差，將高維(wei)數(shu)據進行降維(wei)處理，以解決高維(wei)數(shu)據的處理問題。
2.特征選擇與處理的方式不同
SVR通(tong)常對所有的特征(zheng)(zheng)都進(jin)行處(chu)理(li)，不(bu)會進(jin)行特征(zheng)(zheng)選擇(ze)或者(zhe)降維(wei)(wei)(wei)。而PLS-SVM在(zai)模(mo)型構(gou)建過(guo)(guo)程中(zhong)，會通(tong)過(guo)(guo)最大(da)化自變量和(he)因變量之(zhi)間(jian)的協方(fang)差，將(jiang)原始的高(gao)維(wei)(wei)(wei)特征(zheng)(zheng)轉化為(wei)低維(wei)(wei)(wei)的新特征(zheng)(zheng)，這對于處(chu)理(li)高(gao)維(wei)(wei)(wei)數據(ju)和(he)解決多重共(gong)線性(xing)問題具有優勢。
3.計算復雜度和效率不同
SVR在處理(li)高維數(shu)據(ju)時，需要求解一個(ge)復雜的優化問(wen)題，計(ji)算復雜度較(jiao)(jiao)高，尤(you)其是在數(shu)據(ju)量較(jiao)(jiao)大時。而PLS-SVM在模型構(gou)建過程(cheng)中，由(you)于進行了降維處理(li)，因此其計(ji)算復雜度和效率較(jiao)(jiao)SVR有所提高。
4.模型魯棒性不同
SVR具有(you)較(jiao)好的(de)(de)魯(lu)棒性，對于(yu)(yu)數(shu)據中的(de)(de)噪聲(sheng)和異常(chang)值有(you)較(jiao)強的(de)(de)容忍能力(li)。而PLS-SVM由于(yu)(yu)進行了(le)降(jiang)維(wei)處(chu)理，模(mo)型對數(shu)據的(de)(de)敏感(gan)性較(jiao)高，對于(yu)(yu)數(shu)據中的(de)(de)噪聲(sheng)和異常(chang)值的(de)(de)處(chu)理能力(li)略遜于(yu)(yu)SVR。
5.模型的解釋性不同
PLS-SVM由于(yu)在模(mo)型(xing)(xing)構(gou)建過(guo)程(cheng)中進行了(le)降(jiang)維處理(li)，因此在模(mo)型(xing)(xing)解釋(shi)(shi)性(xing)上可(ke)能(neng)優于(yu)SVR，可(ke)以更好地理(li)解特征(zheng)與響應之間的(de)(de)關系。而SVR雖然預測精度高(gao)，但是模(mo)型(xing)(xing)的(de)(de)解釋(shi)(shi)性(xing)相對較弱(ruo)。
延伸閱讀
回歸模型的選擇考量
在(zai)實際的(de)(de)數據(ju)(ju)(ju)分析過程中，選(xuan)擇哪種(zhong)回歸模型主要(yao)取決于(yu)數據(ju)(ju)(ju)的(de)(de)特性(xing)(xing)和分析目標。如(ru)果(guo)數據(ju)(ju)(ju)存在(zai)多重共(gong)線性(xing)(xing)，或者特征維度較高，可以選(xuan)擇PLS-SVM進行(xing)降維處(chu)理(li)。如(ru)果(guo)數據(ju)(ju)(ju)具有較強的(de)(de)非線性(xing)(xing)關系(xi)，可以選(xuan)擇SVR來捕(bu)捉這種(zhong)非線性(xing)(xing)關系(xi)。同時，也要(yao)考慮模型的(de)(de)計算復雜度，解釋性(xing)(xing)等(deng)因素。而(er)在(zai)實際應用中，往(wang)往(wang)會嘗試多種(zhong)模型，通過交叉驗證(zheng)等(deng)方法比較模型的(de)(de)預測性(xing)(xing)能，以選(xuan)擇最合(he)適(shi)的(de)(de)模型。
