人工智能和對(duì)象存儲(chǔ),能擦出什么樣的火花?
NVIDIA收購SwiftStack用來做什么呢?
首先,我們來看一下做為事實(shí)上的標(biāo)準(zhǔn)的AWS S3,從骨子里說,它代表的對(duì)象存儲(chǔ),是一種在線的海量數(shù)據(jù)較低成本的存儲(chǔ)方式,適合跨地域讀寫;因此,雖然備份歸檔是對(duì)象存儲(chǔ)的使用場(chǎng)景之一,但只是做備份歸檔,其實(shí)是委屈了對(duì)象存儲(chǔ)。
其次,對(duì)象存儲(chǔ)的高并發(fā),特別適合前端呈現(xiàn)分布式負(fù)載的場(chǎng)景。AI場(chǎng)景的使用,包括AI訓(xùn)練、AI推理,是由許許多多個(gè)任務(wù)并發(fā)進(jìn)行的,任務(wù)與任務(wù)之間幾乎沒有數(shù)據(jù)的交互,因此很少考慮存儲(chǔ)通常要顧及的寫一致性。
因此,在我們看來,NVIDIA收購SwiftStack或許有如下幾個(gè)原因:
1)NVIDIA欲整合AI基礎(chǔ)架構(gòu)
NVIDIA是一個(gè)非常注重生態(tài)的公司,它的版圖里應(yīng)該不僅僅是計(jì)算以及衍生出來的各個(gè)組件,從近兩年的動(dòng)作來看,NVIDIA想整合整個(gè)AI基礎(chǔ)架構(gòu)。2019年3月11日NVIDIA以69億美元收購 Mellanox;2020年3月6日宣布收購SwiftStack。
2)SwiftStack具備數(shù)據(jù)跨云管理和高并發(fā)的優(yōu)勢(shì)
據(jù)報(bào)道:"Manuvir Das表示,NVIDIA尤其喜歡SwiftStack的1space技術(shù),該技術(shù)可以為忙于處理緩存和分層等任務(wù)的GPU助一臂之力。
SwiftStack V7于2019年發(fā)布,提供數(shù)PB的規(guī)模,可處理數(shù)千個(gè)worker節(jié)點(diǎn)同時(shí)訪問數(shù)據(jù)的任務(wù)。它提供了超過100GB /秒的吞吐速度,性能和容量都能實(shí)現(xiàn)線性擴(kuò)展。
1space是NVIDIA收購Swiftstack的主要原因,這是一種文件連接件,使云原生應(yīng)用程序可以通過S3或Swift對(duì)象API訪問本地?cái)?shù)據(jù)或AWS數(shù)據(jù),并可以確保不斷向數(shù)據(jù)提供計(jì)算資源”
我個(gè)人認(rèn)為,AI訓(xùn)練有個(gè)特點(diǎn),它一次性將原始訓(xùn)練集的數(shù)據(jù)加載到計(jì)算節(jié)點(diǎn)的內(nèi)存或者SSD后,需要經(jīng)過一段較長(zhǎng)的時(shí)間(也即計(jì)算或說訓(xùn)練),才會(huì)再次讀取存儲(chǔ)上的數(shù)據(jù)。因此,對(duì)象存儲(chǔ)的延遲可能不會(huì)構(gòu)成障礙,這一點(diǎn)可以通過高并發(fā)來彌補(bǔ)。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
10月23日火熱報(bào)名中>> 2025是德科技創(chuàng)新技術(shù)峰會(huì)
-
10月23日立即報(bào)名>> Works With 開發(fā)者大會(huì)深圳站
-
10月24日立即參評(píng)>> 【評(píng)選】維科杯·OFweek 2025(第十屆)物聯(lián)網(wǎng)行業(yè)年度評(píng)選
-
11月27日立即報(bào)名>> 【工程師系列】汽車電子技術(shù)在線大會(huì)
-
12月18日立即報(bào)名>> 【線下會(huì)議】OFweek 2025(第十屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
-
精彩回顧立即查看>> 【限時(shí)福利】TE 2025國際物聯(lián)網(wǎng)展·深圳站
推薦專題