前言:
我本身是一個資深阿宅,有個自己的儲存nas是很合理的,迷片,電影,動畫,影集,程式iso檔
並且工作多少也有再跑些linux or unix系統跑跑程式之類的,所以也有VM的需求
於是誕生了Home Lab All in one VM NAS 計畫。
因為內網1G對我已不敷使用,並且"爽度"也不夠!所以10G網卡是必須的
搜尋市面上有10G網卡和5BAY以上的機種
目前找到的款式幾乎毫無性價比,BAY數又有限制,只能說OUT!
這樣還不如自己DIY,bay數自己也可控制,性能又高,爽度一級棒!!!
當然,如果沒有時間或懶的土豪可以直接上市售的高階款,也沒差,只是貴多了,感覺不值得
題外話,在此要澄清下,我不是土豪,為什麼呢!?因為我沒車沒車貸,沒房沒房貸,沒妻沒小孩,更沒七仔要養,名牌衣服或鞋子更是少買,所以千萬不要在說我是土豪了
最終硬體如下
大部分都不是同時買的,不同時期慢慢替換疊加上來的
MB: Supermicro X10SDV-TLN4F
MEM:Samsung M393A4K40BB0-CPB 32GB DDR4-2133 x 2
HD:M.2Samsung SM951
HD:Samsung ST2000LM003 x 10
HD:Intel SSDSA2UP024G3H x 2
POWER:SilverStone 450W SFX SST-ST45SF-G
CASE:iStarUSA S-917
HBA:LSI 9211-8i
Expander :Intel RES2CV240
抽取盒:Supermicro CSE-M28SAB x 2
為什麼選這張主板呢?內建Xeon D 8核,ITX大小,以及最重要的10G網卡,相比外面市售的nas,簡直暴利
▼主板正面照

▼背面照

▼檔板,接口要自己拆

▼省略繁雜的過程,直接上機照(其實忘記拍了...

▼線自己做的,cpu線做完後才發現不用接,大4pin是輸出不是輸入,也白做了....

▼整線不只為了好看,更為了不影響散熱風道

▼上方用AB膠固定的Intel RES2CV240

▼風扇太吵用降壓線,其實2.5吋沒有很熱,或許可以在串一個上去,免得積灰塵

▼裝了個風扇在9211-8i上,電源線剛剛好,有沒有~

▼pci卡榫,9211-8i鏽的有點嚴重

▼m.2 sm951,測試因該有4x速度,但硬碟壞沒備份到圖片,等以後有機會再補了,懶了....

▼當初為了裝matx使用的壓克力板,讓power往主板反方向去,目前不用了

▼當初拍的,照不好見諒

▼正面7 X 5.25

▼bios版本為1.0c,1.0b的不支援SR-IOV,升級不知有沒有用,就有待其他人測試了

▼Xeon D-1541,新出貨因該都是這個了

▼SR-IOV Support

▼IPMI

▼支援UEFI開機,其他我都關了

▼IPMI遠端掛載ISO開機選項,有了IPMI的確省事很多

▼esxi 6正常認到nvme,5試過讀不到hdd

▼安裝

▼安裝成功

▼眼尖被我拍下

▼nvme loaded successfully

▼正常啟動

▼一開機一支有這錯誤,還以為是硬體問題,查了半天也不到資料

▼結果用英文版開就正常了

▼認不到10G網卡

安裝10G網卡教學
10G驅動,因該是目前唯一最新的版本
ixgbe-4.1.1.1-1331820-3187103.zip
下載解壓縮後傳入datastore1或自己更改的名稱裡,記得開啟ssh連入
# cp /vmfs/volumes/datastore1/net-ixgbe-4.1.1.1-1OEM.550.0.0.1331820.x86_64.vib /tmp
# cd /tmp
# esxcli software acceptance set --level=CommunitySupported
Host acceptance level changed to 'CommunitySupported'.
# esxcli software vib install -v /tmp/net-ixgbe-4.1.1.1-1OEM.550.0.0.1331820.x86_64.vib
Installation Result
Message: The update completed successfully, but the system needs to be rebooted for the changes to be effective.
Reboot Required: true
VIBs Installed: Intel_bootbank_net-ixgbe_4.1.1.1-1OEM.550.0.0.1331820
VIBs Removed: VMware_bootbank_net-ixgbe_3.7.13.7.14iov-20vmw.600.0.0.2494585
VIBs Skipped:
# reboot
▼重開機後就正常抓到了

▼為了使用SR-IOV要使用vCenter,6.0後的版本vcsa要用ISO檔掛載安裝取代之前vof樣板的方式,進入vcsa目錄

▼安裝本地程式,會叫你瀏覽器關閉

▼下一步

▼下一步

▼下一步

▼安裝

▼等待

▼完成

▼回上一頁,透過html連接安裝畫面

▼啟動應用程式

▼Allow

▼安裝

▼下一步

▼輸入esxi IP和帳密

▼是

▼VCSA名稱及密碼

▼安裝帶有內嵌式Platform Services Controller 的vCenter Server

▼建立新的SSO網域

▼SSO密碼及網域名稱

▼微小,夠用了

▼使用內嵌式資料庫

▼IP設定,紅箭頭處輸入前面的SSO網域名稱的話會失敗,好像會問DNS,沒架DNS用IP即可

▼是

▼最後確認點選完成

▼開始在esxi裡安裝VM

▼安裝完成,透過上面的網址登入vSphere Web Client

▼SR-IOV只有在這找到可以設定,搞得真麻煩,最多63個,I350也支援SR-IOV,但沒測試

▼啟用後SR-IOV狀態就會顯示已啟用,但要重開機,類似直通

▼重開機後就可以在Advanced Settings裡看到SR-IOV後的數量,這裡我嘗試用5個

▼試著新增看看,PCI Device

▼可選那5個

▼SR-IOV幾個,這裡就有幾個

▼Finish

▼類似直通

▼可重複選,但會失敗還是乖乖選不重複的

▼VM裡狀態

▼直通比較

▼型號顯示不太一樣

▼VM裡也是

後話:
軟體架構等要慢慢測試了
預計freenas ZFS跑RAID,切部分ISCSI給esxi用,再跑VM
我用iperf測10G網卡都大約只到2G,不知啥問題,其他參數就會卡住,WIN10系統
iperf -c 192.168.2.3 -w 512k -i 5 -t 600 -P 2
參考idolclub大的文章
http://www.mobile01.com/topicdetail.php?f=507&t=3341699
難倒要用ZFS來實際傳檔比較準?
要比較直通,SR-IOV或VMXNET3的效果了