[問題] lasso相關套件

看板R_Language作者 (為什麼會流淚)時間9年前 (2016/10/30 10:56), 9年前編輯推噓1(1016)
留言17則, 3人參與, 最新討論串1/1
文章分類提示: - 問題: 當你想要問問題時,請使用這個類別 [問題類型]: 程式諮詢(我想用R 做某件事情,但是我不知道要怎麼用R 寫出來) [軟體熟悉度]: 使用者(已經有用R 做過不少作品) [問題敘述]: 我想問,有關lasso的套件有哪些,我目前知道的是lars和glmnet 想用lasso幫我找重要變數,另外用lasso去挑出來的變數,下去做machine learning 結果一定會比較好嗎? 因為我目前用glmnet去挑,結果並沒有比較好,差距在5%以內 謝謝 [關鍵字]: lasso lars glmet -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 202.169.173.185 ※ 文章網址: https://www.ptt.cc/bbs/R_Language/M.1477796198.A.F68.html ※ 編輯: f496328mm (202.169.173.185), 10/30/2016 11:07:54

10/30 11:18, , 1F
lasso挑出來不一定比較好 因為no free lunch
10/30 11:18, 1F

10/30 11:22, , 2F
ML的結果都是by case 沒有一個方法適用全部的...
10/30 11:22, 2F

10/30 11:23, , 3F
我所知道的lasso也只有glmnet就是
10/30 11:23, 3F
我用SVM lasso選變數後 結果比較差 差一點點 所以要用其他方法降維 因為目前我用lasso做出來的效果不夠 是這樣嗎? ※ 編輯: f496328mm (202.169.173.185), 10/30/2016 11:31:29

10/30 21:36, , 4F
何不試試別的penalty,像scan,mcp
10/30 21:36, 4F

10/30 21:36, , 5F
scad
10/30 21:36, 5F

10/31 12:58, , 6F
很想點名某大大來回應這個問題XD 聽說lasso挑重要變數
10/31 12:58, 6F

10/31 13:04, , 7F
已經被證明挑不好
10/31 13:04, 7F

10/31 13:04, , 8F
但是我也只是聽說,還是以其他做相關領域的大大的意見為
10/31 13:04, 8F

10/31 13:04, , 9F
10/31 13:04, 9F

10/31 14:09, , 10F
LASSO會有BIAS的問題(FAN and Li, (2001))有類似討論!
10/31 14:09, 10F

10/31 14:10, , 11F
但在計算上相對容易許多,如真要考慮L1族
10/31 14:10, 11F

10/31 14:11, , 12F
r建議試看看Adaptive lasso(Zou, (2006))
10/31 14:11, 12F

10/31 14:13, , 13F
有段時間沒研讀這方面文章了,我只能就我以前讀過講...
10/31 14:13, 13F

10/31 14:14, , 14F
現在用PENALTY來做變數選取進展如何 我也沒辦法知道全
10/31 14:14, 14F

10/31 14:17, , 15F
Runze Li. Jianqing Fan, Tibshirani這幾位大師的網站
10/31 14:17, 15F

10/31 14:18, , 16F
可以看看 會讓您知道目前這方面的技術進展如何
10/31 14:18, 16F
感謝 其實做data mining本來就要多嘗試各種方法 各位提供的意見 , 我會去試試看 看哪些方法能用在我目前的問題上 我用lasso的好處是因為 , 他是直接抓重要變數 , 這樣比較容易知道哪個重要 其他降維方法 降了之後會不清楚哪個變數比較重要 像PCA 是去找特徵值 線性轉換等等 這要直接解釋哪個變數重要 比較困難 當然其他降維方法也會做,最多一起report ※ 編輯: f496328mm (111.70.29.240), 10/31/2016 17:16:58

10/31 19:58, , 17F
那我建議您參考下SIS 這個package,應該會有幫助!
10/31 19:58, 17F
文章代碼(AID): #1O5M5cze (R_Language)
文章代碼(AID): #1O5M5cze (R_Language)