創作內容

2 GP

DAY 14 支援向量機(SVM)

作者:看了感覺真可憐 廠廠│2020-08-06 00:04:53│贊助:4│人氣:54
昨天看了羅吉斯回歸,今天換另一個在機器學習領域也常用的模型叫SVM,它的原理其實跟羅吉斯回歸很像,也是用一條線將資料分類的概念,但是在以前跑模型的時候SVM往往比羅吉斯回歸的分數還要更高,但執行時間也更久,好那下面先用圖來講一下SVM的概念。


想要分類黃色跟藍色的球,可以用之前提到的羅吉斯回歸來進行分類,但是這4條線似乎都可以將黃、藍球分類出來,那應該選哪一條看起來最合理呢?



Margin指的是邊界,就是實線到虛線的垂直距離,就是離分類邊界最近的點,那一個點與分類邊緣的距離,SVM就是幫助我們找到邊界最大的那一條,能夠更加有效的區分資料,如果邊界太小,那有些微的變動就會造成影響。

SVM除了用在二維平面,也可以應用在多維度上,我們找出的那條實線叫超平面(hyperplane),超平面就是指在高維中的平面,如下圖。就能順利將藍、紅球以非線性分成兩類了。

SVM的主要目的是將有最大Margin的hyperplane之線性方程式算出來

也就是=0的那條線,那我們希望把=-1跟=1的資料落在這條線的兩側,此直線(實線)就叫分割超平面(Separating Hyperplane),此直線再往兩側延伸的兩條平行邊界(虛線)稱為支持超平面(Support Hyperplane),那兩個平行的支持超平面間的距離(Margin)越大越好。若將測試資料帶入求出的直線公式,判斷是屬於-1還是1即可。


引用網址:https://home.gamer.com.tw/TrackBack.php?sn=4873239
All rights reserved. 版權所有,保留一切權利

相關創作

留言共 0 篇留言

我要留言提醒:您尚未登入,請先登入再留言

2喜歡★paul20217 可決定是否刪除您的留言,請勿發表違反站規文字。

前一篇:DAY 13 羅吉斯回歸... 後一篇:DAY 15 決策樹(D...

追蹤私訊

作品資料夾

junezzn大家
推廣大便小說https://home.gamer.com.tw/creationCategory.php?owner=junezzn&c=463665看更多我要大聲說昨天14:25


face基於日前微軟官方表示 Internet Explorer 不再支援新的網路標準,可能無法使用新的應用程式來呈現網站內容,在瀏覽器支援度及網站安全性的雙重考量下,為了讓巴友們有更好的使用體驗,巴哈姆特即將於 2019年9月2日 停止支援 Internet Explorer 瀏覽器的頁面呈現和功能。
屆時建議您使用下述瀏覽器來瀏覽巴哈姆特:
。Google Chrome(推薦)
。Mozilla Firefox
。Microsoft Edge(Windows10以上的作業系統版本才可使用)

face我們了解您不想看到廣告的心情⋯ 若您願意支持巴哈姆特永續經營,請將 gamer.com.tw 加入廣告阻擋工具的白名單中,謝謝 !【教學】