[情報] AI 將不需要大量記憶體 Google 發表 Turb

看板PC_Shopping (個人電腦購買)作者 (小蛋)時間1小時前 (2026/03/26 21:06), 編輯推噓35(35026)
留言61則, 40人參與, 15分鐘前最新討論串1/1
https://reurl.cc/18m4VQ AI 將不需要大量記憶體 Google 發表 TurboQuant 壓縮技術 記憶體加價潮或可終結 作者 Lawton 發佈日期 2026-03-26 Google 最新發表 TurboQuant 記憶體壓縮技術,大幅降低人工智能運算所需硬件資源,觸發市場對儲存設備需求大減恐慌。美股儲存晶片類股股價周三應聲暴跌,惟多間華爾街投行看好效率提升將帶動更大規模應用,呼籲投資者趁機吸納。 壓縮技術效能驚人 Google 發表名為 TurboQuant 記憶體壓縮演算法,市場憂慮儲存硬件長期需求會大幅減少,觸發相關資產拋售潮。Google 團隊指出 TurboQuant 可在不影響準確度下,將大型語言模型執行時佔用快取記憶體減少最少 6 倍。開發團隊成功將鍵值快取無損壓縮至 3-bit,利用 Gemma 及 Mistral 等開源模型測試時,發現在 Nvidia H100 顯示卡上運作效能對比未量化 32-bit 方案最高提升 8 倍。目前人工智能軍備競賽極度依賴硬件規模擴張,任何削減實體記憶體採購量技術進步,原文出自 unwire.hk, 均足以令估值偏高晶片類股面臨沉重沽壓。此項新技術將於下月 ICLR 2026 大會上正式發表。 等等黨要勝利了? -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.140.155.127 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1774530364.A.002.html

03/26 21:10, 1小時前 , 1F
好,要上128G可以少花一點錢了
03/26 21:10, 1F

03/26 21:15, 1小時前 , 2F
爽啊~~~記憶體廠跌死你
03/26 21:15, 2F

03/26 21:15, 1小時前 , 3F
我覺得企業會賣更多…
03/26 21:15, 3F

03/26 21:16, 1小時前 , 4F
減少 6 倍那不就能跑 6 倍大的模型了嗎
03/26 21:16, 4F

03/26 21:16, 1小時前 , 5F
壓縮後可以裝的更多了
03/26 21:16, 5F

03/26 21:17, 1小時前 , 6F
記憶卡蛙...
03/26 21:17, 6F

03/26 21:17, 1小時前 , 7F
不可能 絕對不可能
03/26 21:17, 7F

03/26 21:17, 1小時前 , 8F
爽啦 記憶體本來就應該便宜
03/26 21:17, 8F

03/26 21:19, 1小時前 , 9F
google竟然能間接拯救消費市場?
03/26 21:19, 9F

03/26 21:22, 1小時前 , 10F
真假 估狗有這麼猛喔
03/26 21:22, 10F

03/26 21:22, 1小時前 , 11F
減少6倍不就代表可以裝更多了嗎?
03/26 21:22, 11F

03/26 21:27, 1小時前 , 12F
google我的神,推動地球進步的英雄
03/26 21:27, 12F

03/26 21:29, 1小時前 , 13F
哇靠 大場面來了
03/26 21:29, 13F

03/26 21:32, 1小時前 , 14F
爛美光可以重新開賣記憶體了嗎 = =
03/26 21:32, 14F

03/26 21:34, 1小時前 , 15F
的跌死你!!!
03/26 21:34, 15F

03/26 21:34, 1小時前 , 16F
可以花六倍 一樣漲
03/26 21:34, 16F

03/26 21:35, 1小時前 , 17F
語言模型受惠,那影片那些呢
03/26 21:35, 17F

03/26 21:36, 1小時前 , 18F
威剛 美光 三星 :幹
03/26 21:36, 18F

03/26 21:40, 1小時前 , 19F
多跌一些www
03/26 21:40, 19F

03/26 21:41, 1小時前 , 20F
壓縮技術是拿來跑更大的模型不是拿來降
03/26 21:41, 20F

03/26 21:41, 1小時前 , 21F
價用的
03/26 21:41, 21F

03/26 21:42, 1小時前 , 22F
顆粒廠有什麼好幹的 又沒擴廠根本不虧
03/26 21:42, 22F

03/26 21:43, 1小時前 , 23F
這個東西主要是vector search,影響有限
03/26 21:43, 23F

03/26 21:46, 1小時前 , 24F
能壓縮更多不代表可以裝更多,代表AI基
03/26 21:46, 24F

03/26 21:46, 1小時前 , 25F
建更激烈不是
03/26 21:46, 25F

03/26 21:48, 59分鐘前 , 26F
只會越用越多而已
03/26 21:48, 26F

03/26 21:48, 59分鐘前 , 27F
因為我要看雪山狐狸
03/26 21:48, 27F

03/26 21:49, 58分鐘前 , 28F
應該是覺得能跑更大模型而不是少買記憶體
03/26 21:49, 28F

03/26 21:49, 58分鐘前 , 29F
03/26 21:49, 29F

03/26 21:49, 58分鐘前 , 30F
誰跟你說這樣就不會漲了
03/26 21:49, 30F

03/26 21:50, 57分鐘前 , 31F
記憶體需求會更多,以前做不到的事,現
03/26 21:50, 31F

03/26 21:50, 57分鐘前 , 32F
在ai能做到更多事,用量會變更大
03/26 21:50, 32F

03/26 21:50, 57分鐘前 , 33F
傻傻地
03/26 21:50, 33F

03/26 21:52, 55分鐘前 , 34F
壓縮六倍=會用更多的資料訓練
03/26 21:52, 34F

03/26 21:52, 55分鐘前 , 35F
根本不會減少記憶體需求吧
03/26 21:52, 35F

03/26 21:52, 55分鐘前 , 36F
好哦,變六倍效能喔,繼續軍備競賽。
03/26 21:52, 36F

03/26 21:52, 55分鐘前 , 37F
一樣是有多少包多少
03/26 21:52, 37F

03/26 21:54, 53分鐘前 , 38F
爽啊
03/26 21:54, 38F

03/26 22:07, 40分鐘前 , 39F
這不是昨天就在說嗎
03/26 22:07, 39F

03/26 22:07, 40分鐘前 , 40F
感覺 壓根不影響 漲價XD
03/26 22:07, 40F

03/26 22:08, 39分鐘前 , 41F
減少6倍不就代表價錢還能再漲6倍以上
03/26 22:08, 41F

03/26 22:08, 39分鐘前 , 42F
兩個字 不可能
03/26 22:08, 42F

03/26 22:09, 38分鐘前 , 43F
能壓縮之後 只會越來越貪婪吧?
03/26 22:09, 43F

03/26 22:11, 36分鐘前 , 44F
還我1T1000 32G3000
03/26 22:11, 44F

03/26 22:17, 30分鐘前 , 45F
有人只是上PTT跟看水管還是插滿128G
03/26 22:17, 45F

03/26 22:17, 30分鐘前 , 46F
對有用AI的人而言,這是讓RAM更值錢,舉例
03/26 22:17, 46F

03/26 22:17, 30分鐘前 , 47F
記憶體沒在嫌多的
03/26 22:17, 47F

03/26 22:17, 30分鐘前 , 48F
來說現在大家都覺得64X4要價10萬太貴,但能
03/26 22:17, 48F

03/26 22:17, 30分鐘前 , 49F
壓縮6倍等於256G DRAM可以offload 1T等級的
03/26 22:17, 49F

03/26 22:17, 30分鐘前 , 50F
LLM,那10萬就會突然變不貴,讓跑AI的更瘋
03/26 22:17, 50F

03/26 22:17, 30分鐘前 , 51F
狂去搶RAM
03/26 22:17, 51F

03/26 22:25, 22分鐘前 , 52F
剛才看locallama subreddit又多了一
03/26 22:25, 52F

03/26 22:25, 22分鐘前 , 53F
個rotorquant,這個月的LLM發展超多
03/26 22:25, 53F

03/26 22:27, 20分鐘前 , 54F
壓縮六倍記憶體 八倍的效能
03/26 22:27, 54F

03/26 22:28, 19分鐘前 , 55F
如果是真的,價格至少還要翻3倍
03/26 22:28, 55F

03/26 22:29, 18分鐘前 , 56F
除了三星 好像都有擴廠的風聲
03/26 22:29, 56F

03/26 22:30, 17分鐘前 , 57F
沒錯 壓縮六倍只是讓他算多六倍XD
03/26 22:30, 57F

03/26 22:30, 17分鐘前 , 58F
等過半年 看看哪個是預言家
03/26 22:30, 58F

03/26 22:30, 17分鐘前 , 59F
需求還是很多,不然狐狸醬板鴨怎來的
03/26 22:30, 59F

03/26 22:31, 16分鐘前 , 60F
明天倒是可以先看看市場信心
03/26 22:31, 60F

03/26 22:32, 15分鐘前 , 61F
看看漲三倍還六倍
03/26 22:32, 61F
文章代碼(AID): #1fnIyy02 (PC_Shopping)
文章代碼(AID): #1fnIyy02 (PC_Shopping)