• 2

Home Lab All in one VM NAS 之硬體建置基礎篇

English title : This my Home Lab All in one VM NAS plan & Implementation record

前言:
我本身是一個資深阿宅,有個自己的儲存nas是很合理的,迷片,電影,動畫,影集,程式iso檔
並且工作多少也有再跑些linux or unix系統跑跑程式之類的,所以也有VM的需求
於是誕生了Home Lab All in one VM NAS 計畫。

因為內網1G對我已不敷使用,並且"爽度"也不夠!所以10G網卡是必須的
搜尋市面上有10G網卡和5BAY以上的機種
目前找到的款式幾乎毫無性價比,BAY數又有限制,只能說OUT!
這樣還不如自己DIY,bay數自己也可控制,性能又高,爽度一級棒!!!
當然,如果沒有時間或懶的土豪可以直接上市售的高階款,也沒差,只是貴多了,感覺不值得
題外話,在此要澄清下,我不是土豪,為什麼呢!?因為我沒車沒車貸,沒房沒房貸,沒妻沒小孩,更沒七仔要養,名牌衣服或鞋子更是少買,所以千萬不要在說我是土豪了

最終硬體如下
大部分都不是同時買的,不同時期慢慢替換疊加上來的
MB: Supermicro X10SDV-TLN4F
MEM:Samsung M393A4K40BB0-CPB 32GB DDR4-2133 x 2
HD:M.2Samsung SM951
HD:Samsung ST2000LM003 x 10
HD:Intel SSDSA2UP024G3H x 2
POWER:SilverStone 450W SFX SST-ST45SF-G
CASE:iStarUSA S-917
HBA:LSI 9211-8i
Expander :Intel RES2CV240
抽取盒:Supermicro CSE-M28SAB x 2

為什麼選這張主板呢?內建Xeon D 8核,ITX大小,以及最重要的10G網卡,相比外面市售的nas,簡直暴利

▼主板正面照
Home Lab All in one VM NAS 之硬體建置基礎篇
▼背面照
Home Lab All in one VM NAS 之硬體建置基礎篇
▼檔板,接口要自己拆
Home Lab All in one VM NAS 之硬體建置基礎篇
▼省略繁雜的過程,直接上機照(其實忘記拍了...
Home Lab All in one VM NAS 之硬體建置基礎篇
▼線自己做的,cpu線做完後才發現不用接,大4pin是輸出不是輸入,也白做了....
Home Lab All in one VM NAS 之硬體建置基礎篇
▼整線不只為了好看,更為了不影響散熱風道
Home Lab All in one VM NAS 之硬體建置基礎篇
▼上方用AB膠固定的Intel RES2CV240
Home Lab All in one VM NAS 之硬體建置基礎篇
▼風扇太吵用降壓線,其實2.5吋沒有很熱,或許可以在串一個上去,免得積灰塵
Home Lab All in one VM NAS 之硬體建置基礎篇
▼裝了個風扇在9211-8i上,電源線剛剛好,有沒有~
Home Lab All in one VM NAS 之硬體建置基礎篇
▼pci卡榫,9211-8i鏽的有點嚴重
Home Lab All in one VM NAS 之硬體建置基礎篇
▼m.2 sm951,測試因該有4x速度,但硬碟壞沒備份到圖片,等以後有機會再補了,懶了....
Home Lab All in one VM NAS 之硬體建置基礎篇
▼當初為了裝matx使用的壓克力板,讓power往主板反方向去,目前不用了
Home Lab All in one VM NAS 之硬體建置基礎篇
▼當初拍的,照不好見諒
Home Lab All in one VM NAS 之硬體建置基礎篇
▼正面7 X 5.25
Home Lab All in one VM NAS 之硬體建置基礎篇
▼bios版本為1.0c,1.0b的不支援SR-IOV,升級不知有沒有用,就有待其他人測試了
Home Lab All in one VM NAS 之硬體建置基礎篇
▼Xeon D-1541,新出貨因該都是這個了
Home Lab All in one VM NAS 之硬體建置基礎篇
▼SR-IOV Support
Home Lab All in one VM NAS 之硬體建置基礎篇
▼IPMI
Home Lab All in one VM NAS 之硬體建置基礎篇
▼支援UEFI開機,其他我都關了
Home Lab All in one VM NAS 之硬體建置基礎篇
▼IPMI遠端掛載ISO開機選項,有了IPMI的確省事很多
Home Lab All in one VM NAS 之硬體建置基礎篇
▼esxi 6正常認到nvme,5試過讀不到hdd
Home Lab All in one VM NAS 之硬體建置基礎篇
▼安裝
Home Lab All in one VM NAS 之硬體建置基礎篇
▼安裝成功
Home Lab All in one VM NAS 之硬體建置基礎篇
▼眼尖被我拍下
Home Lab All in one VM NAS 之硬體建置基礎篇
▼nvme loaded successfully
Home Lab All in one VM NAS 之硬體建置基礎篇
▼正常啟動
Home Lab All in one VM NAS 之硬體建置基礎篇
▼一開機一支有這錯誤,還以為是硬體問題,查了半天也不到資料
Home Lab All in one VM NAS 之硬體建置基礎篇
▼結果用英文版開就正常了
Home Lab All in one VM NAS 之硬體建置基礎篇
▼認不到10G網卡
Home Lab All in one VM NAS 之硬體建置基礎篇
安裝10G網卡教學
10G驅動,因該是目前唯一最新的版本
ixgbe-4.1.1.1-1331820-3187103.zip
下載解壓縮後傳入datastore1或自己更改的名稱裡,記得開啟ssh連入
# cp /vmfs/volumes/datastore1/net-ixgbe-4.1.1.1-1OEM.550.0.0.1331820.x86_64.vib /tmp
# cd /tmp
# esxcli software acceptance set --level=CommunitySupported
Host acceptance level changed to 'CommunitySupported'.
# esxcli software vib install -v /tmp/net-ixgbe-4.1.1.1-1OEM.550.0.0.1331820.x86_64.vib
Installation Result
Message: The update completed successfully, but the system needs to be rebooted for the changes to be effective.
Reboot Required: true
VIBs Installed: Intel_bootbank_net-ixgbe_4.1.1.1-1OEM.550.0.0.1331820
VIBs Removed: VMware_bootbank_net-ixgbe_3.7.13.7.14iov-20vmw.600.0.0.2494585
VIBs Skipped:
# reboot


▼重開機後就正常抓到了
Home Lab All in one VM NAS 之硬體建置基礎篇
▼為了使用SR-IOV要使用vCenter,6.0後的版本vcsa要用ISO檔掛載安裝取代之前vof樣板的方式,進入vcsa目錄
Home Lab All in one VM NAS 之硬體建置基礎篇
▼安裝本地程式,會叫你瀏覽器關閉
Home Lab All in one VM NAS 之硬體建置基礎篇
▼下一步
Home Lab All in one VM NAS 之硬體建置基礎篇
▼下一步
Home Lab All in one VM NAS 之硬體建置基礎篇
▼下一步
Home Lab All in one VM NAS 之硬體建置基礎篇
▼安裝
Home Lab All in one VM NAS 之硬體建置基礎篇
▼等待
Home Lab All in one VM NAS 之硬體建置基礎篇
▼完成
Home Lab All in one VM NAS 之硬體建置基礎篇
▼回上一頁,透過html連接安裝畫面
Home Lab All in one VM NAS 之硬體建置基礎篇
▼啟動應用程式
Home Lab All in one VM NAS 之硬體建置基礎篇
▼Allow
Home Lab All in one VM NAS 之硬體建置基礎篇
▼安裝
Home Lab All in one VM NAS 之硬體建置基礎篇
▼下一步
Home Lab All in one VM NAS 之硬體建置基礎篇
▼輸入esxi IP和帳密
Home Lab All in one VM NAS 之硬體建置基礎篇
▼是
Home Lab All in one VM NAS 之硬體建置基礎篇
▼VCSA名稱及密碼
Home Lab All in one VM NAS 之硬體建置基礎篇
▼安裝帶有內嵌式Platform Services Controller 的vCenter Server
Home Lab All in one VM NAS 之硬體建置基礎篇
▼建立新的SSO網域
Home Lab All in one VM NAS 之硬體建置基礎篇
▼SSO密碼及網域名稱
Home Lab All in one VM NAS 之硬體建置基礎篇
▼微小,夠用了
Home Lab All in one VM NAS 之硬體建置基礎篇
▼使用內嵌式資料庫
Home Lab All in one VM NAS 之硬體建置基礎篇
▼IP設定,紅箭頭處輸入前面的SSO網域名稱的話會失敗,好像會問DNS,沒架DNS用IP即可
Home Lab All in one VM NAS 之硬體建置基礎篇
▼是
Home Lab All in one VM NAS 之硬體建置基礎篇
▼最後確認點選完成
Home Lab All in one VM NAS 之硬體建置基礎篇
▼開始在esxi裡安裝VM
Home Lab All in one VM NAS 之硬體建置基礎篇
▼安裝完成,透過上面的網址登入vSphere Web Client
Home Lab All in one VM NAS 之硬體建置基礎篇
▼SR-IOV只有在這找到可以設定,搞得真麻煩,最多63個,I350也支援SR-IOV,但沒測試
Home Lab All in one VM NAS 之硬體建置基礎篇
▼啟用後SR-IOV狀態就會顯示已啟用,但要重開機,類似直通
Home Lab All in one VM NAS 之硬體建置基礎篇
▼重開機後就可以在Advanced Settings裡看到SR-IOV後的數量,這裡我嘗試用5個
Home Lab All in one VM NAS 之硬體建置基礎篇
▼試著新增看看,PCI Device
Home Lab All in one VM NAS 之硬體建置基礎篇
▼可選那5個
Home Lab All in one VM NAS 之硬體建置基礎篇
▼SR-IOV幾個,這裡就有幾個
Home Lab All in one VM NAS 之硬體建置基礎篇
▼Finish
Home Lab All in one VM NAS 之硬體建置基礎篇
▼類似直通
Home Lab All in one VM NAS 之硬體建置基礎篇
▼可重複選,但會失敗還是乖乖選不重複的
Home Lab All in one VM NAS 之硬體建置基礎篇
▼VM裡狀態
Home Lab All in one VM NAS 之硬體建置基礎篇
▼直通比較
Home Lab All in one VM NAS 之硬體建置基礎篇
▼型號顯示不太一樣
Home Lab All in one VM NAS 之硬體建置基礎篇
▼VM裡也是
Home Lab All in one VM NAS 之硬體建置基礎篇


後話:
軟體架構等要慢慢測試了
預計freenas ZFS跑RAID,切部分ISCSI給esxi用,再跑VM
我用iperf測10G網卡都大約只到2G,不知啥問題,其他參數就會卡住,WIN10系統
iperf -c 192.168.2.3 -w 512k -i 5 -t 600 -P 2
參考idolclub大的文章
http://www.mobile01.com/topicdetail.php?f=507&t=3341699
難倒要用ZFS來實際傳檔比較準?
要比較直通,SR-IOV或VMXNET3的效果了
2016-03-12 3:01 發佈
文章關鍵字 硬體 基礎篇
土炮萬歲!DIY功力了得!
雖然算不上土豪..但就某方面來講也差不多了..
查了一下這張主機板要價3XXXX..

只是土豪不會去碰這種需要高技術能力的東西..
且錢花得錢還更多..用途只是上FB這樣..

你有考慮裝黑群或黑蘋果嗎?

另外問一下 買VCENTER WEB CLIENT 的費用是多少?

Kaiens wrote:
雖然算不上土豪.....(恕刪)



我的確不是土豪,我也不改車或其他奇怪的花費
只是在pc上比較講究而已
vcenter也就裝來測SR-IOV而已,沒買
黑裙或黑蘋果要裝也只是拿來測測玩玩不會真的拿來使用在日常裡
之前用5.5版的時候也很想裝vCenter Server..
知道要另外花錢買授權後..就沒在想這件事了..

看了你的文章後..也想裝來玩看看..
現在是用6.0.0 U1b ,而6.0 版開始不提供WINDOWS 版的vCenter Server
所以只能裝vCSA

但在安裝過程中倒數第三步才發現..
10台ESXi/100台VM最低需求是2 vCPU,8GB RAM,120GB HDD
開啥玩笑..我這台也不過就E3-1240V2 與 24GB RAM 而已..
上面跑的OS又都算滿吃重CPU的 (DD-WRT/VPN SERVER、黑蘋果(測試用)、NAS、工作站(跑圖用)、
動物園 (下載用)..雖然有裝SLC的SSD 去做快取..

vCSA是一台長駐(開)的LINUX BASE虛擬機,
而現存的CPU資源是否夠用?..
這問題讓我不得不先停下來..

目前考慮的結果是在裝一台養動物的PC上面裝WORKSTATION跑vCSA..
要用到下載或vCSA的時候再開機...
這部份還沒實作..所以不知道行不行..

PS:另裝一台設備可順便解決虛擬機在用百度云客戶端時造成Esxi系統崩潰的問題..
(經測試.我另加了一個虛擬網卡給虛擬機去做PPPoE撥號來連外時,大約30分~36小時就會當機,
改走DD-WRT出去就沒再發生,不知是網卡太爛還是I/O不足的關係,i82546/雙埠/PCI界面
這張網卡在之前AMD上的主機也是這樣用,卻沒有問題..)


另外請教4個問題..可以的話,請分享一下經驗..謝謝

1.若沒買授權..vCSA 60天到期後..SR-IOV還有作用嗎?

2.vCSA 在運作時實際上會吃掉多少資源? 5台ESXi / 25 台VM 大約要多少CPU資源與RAM就夠?

3.因為沒用過vCSA..我不知道有哪些重要的功能非得在vCenter Server/web client上才能使用?
網卡的SR-IOV看起來還滿吸引我的..那麼還有其他的嗎?
我查了一下..有支援SR-IOV的顯示卡..好像一張80K起跳..A牌FIREPRO S7150 或 N牌的K1、K2..

4.如果我手上管理的ESXi都是在各別的地方運作(親友家裡與辦公室,用VPN連起來,只傳檔案用),
並沒有做HA,那麼..我有必要裝vCSA嗎?


vgbjack wrote:
前言:我本身是一個...(恕刪)

Kaiens wrote:
之前用5.5版的時...(恕刪)



1.若沒買授權..vCSA 60天到期後..SR-IOV還有作用嗎?
>目前沒太深入確認,不過我設定好後就登入一般的esxi,裡面就有SR-IOV可用了,

2.vCSA 在運作時實際上會吃掉多少資源? 5台ESXi / 25 台VM 大約要多少CPU資源與RAM就夠?
>我也只會為了SR-IOV才灌VCSA,所以沒法給你切確答案


3.因為沒用過vCSA..我不知道有哪些重要的功能非得在vCenter Server/web client上才能使用?
網卡的SR-IOV看起來還滿吸引我的..那麼還有其他的嗎?
我查了一下..有支援SR-IOV的顯示卡..好像一張80K起跳..A牌FIREPRO S7150 或 N牌的K1、K2..
>vCenter 就vmware要賺錢用的,高級功能,vMotion HA等功能都是要vCenter 才能運作
http://www.intel.com.tw/content/www/tw/zh/support/network-and-i-o/ethernet-products/000005722.html
SR-IOV資訊
I350 也支援,三四千就有了吧



4.如果我手上管理的ESXi都是在各別的地方運作(親友家裡與辦公室,用VPN連起來,只傳檔案用),
並沒有做HA,那麼..我有必要裝vCSA嗎?
>沒什麼必要,雖然方便你管理,但一次被駭就全死,而且浪費你效能
>除非要用什麼高級功能在考慮


目前考慮的結果是在裝一台養動物的PC上面裝WORKSTATION跑vCSA..
要用到下載或vCSA的時候再開機...
這部份還沒實作..所以不知道行不行..
>因該是可行的,只不過要先灌到esxi裡後再移出到workstation裡
>不過養動物的有那麼多記憶體給它用?


說真的只有一台實體機器的話沒必要用到 vCenter ,一堆功能無法實作
個人用免費的 vSphere Hypervisor 就很足夠了
System Engineer
那看來..我應該是沒必要裝vCENTER了...

也好...省了不少事..

反正也不需要每台Esxi都整盯著...

vgbjack wrote:
前言:我本身是一個...(恕刪)


大大, 想請教一下你的主板用LSI RAID卡有沒有遇到甚麼問題?

mandymak wrote:
大大, 想請教一下...(恕刪)



從以前freenas實體機到現在是沒發生什麼問題
你有什麼症狀嗎?
  • 2
內文搜尋
X
評分
評分
複製連結
Mobile01提醒您
您目前瀏覽的是行動版網頁
是否切換到電腦版網頁呢?