QNap QTS-Ubuntu 雙系統 NAS TS-x53A 及 OceanKTV 同樂會 (第5頁)

EluSiOn
個人積分：351分
文章編號：58284595

351分

41樓

2015-11-21 10:17

pctine wrote:
"btrfs 好像無法做出 iscsi target" 這部份...
btrfs 應該就是一種 file system, 而 iscsi 為 protocol, 在任何 file system 上面實作出以何種 protocol 來操作並非不可能, 這跟用什麼 file system 應該無關. 可以確定的是. synology btrfs 上面可以建 iscsi LUN.

我一直沒有太多實際使用 btrfs 的經驗, 所以應該是說 https://btrfs.wiki.kernel.org/index.php/UseCases#Can_we_create_virtual_block_device_in_BTRFS.3F 這邊說明

No. Btrfs doesn't support the creation of virtual block devices or other non-btrfs filesystems within its managed pool of space.

看來 btrfs 現在可以透過其它方式作出 iscsi lun了.

pctine wrote:
至於 "btrfs 無法用 ssd 加速" 部份. 在一個 system 裡面, 要用什麼方式來加速存取, 是看 system 怎麼設計. 同樣的跟用何種 file system 關係不大.
例如我主要儲存空間是用 btrfs, 而我 ssd cache 可能用 ext4, 我把 hot data 存一份在 ssd cache, 根本就和我 main system 用 btrfs 無關...同樣的. 這只是小弟的猜測

應該是說 btrfs 本身沒有 auto-tiering 的概念. ZFS 本身有 auto-tier 的機制, 它有隱形的 RAM Disk (自動使用系統 50% 的記憶體), 所有 database 讀取的資料, zfs 會自動放到 RAM disk. 這個是它的 L1, 它的 L2 使用 SSD, 而且它拆成兩種 L2, 一個專門處理寫入數據的加速機制 (pcie-ssd), 一個處理讀取數據的加速機制 (sata-ssd 也可以 pcie-ssd 也可以). 最後的 L3, 就是普通 HDD 了.

再來如果你使用一個 ssd 給 ext4 專門做它的 journal, 它會比 btrfs 還快喲! http://raid6.com.au/posts/fs_ext4_external_journal/ 但是 xfs 跟 btrfs 沒有類似這樣子的模式.

我使用太多 storage administrator 的術語, 非常抱歉. 不過 NAS 就是 storage 呀! 我是研究企業儲存裝置太多了, 把太多觀念帶到家用市場產品了.

Oneplus 8 Pro• Thinkpad T480s• PVE6+OMV4+NextCloud

EluSiOn

EluSiOn
個人積分：351分
文章編號：58284759

351分

42樓

2015-11-21 10:35

pctine wrote:
印象中 qsirch 好像跟 Elasticsearch 有關. 只是以常理判斷, 一個全文檢索系統, 並沒有非得在那個平台才能跑的道理. 在 ubuntu 的平台上就容易被搞壞掉??

elasticsearch 的安裝文件說明

Java (JVM) version
edit

Elasticsearch is built using Java, and requires at least Java 8 in order to run. Only Oracle’s Java and the OpenJDK are supported. The same JVM version should be used on all Elasticsearch nodes and clients.

所以當不了解系統的人, 把 java 8 卸載掉了, 或是他要修改一些 java 8 的 config, 結果造成 qsirch 不能運行, 那1麼不是很頭痛嗎?, 所以它在自己的 container 裡面有自己的 java 8, 自己 java 的 config, 就不會被整個系統影響到了. 我本身有在寫 java, 有的時候有些舊的 library/app 不了解 ipv6, 所以我需要修改 config INSTALL4J_ADD_VM_PARAMS="-Djava.net.preferIPv4Stack=true, 結果就會造成一些需要使用 ipv6 的 app 不能運行. 如果是使用 container 切割開來, 各自有各自的 java config 就不會衝突了. 假設我修改記憶體優化 "-Xms32m -Xmx128m -Xss128k -Xoss128k -XX:ThreadStackSize=128" 以及配額每一個 thread 多大的資料 i/o 各自有各自的 java 反而會比較好, 有些 app 需要一開始就很大的記憶體, 但是有些簡單的 java app 跟不一開始不需要那麼大的記憶體或是那麼多個 thread..

再來有些 java program 不能是用 oracle java, 反而要使用 icedtea java... 這個時候寫程式的就更愛 container/docker 了. (打包帶走, 執行!)

題外話, 我剛剛在看, qts 的 kernel 只有 3.4.6, 基本上跟 android 兩年前手機用的kernel 相同版本.

Oneplus 8 Pro• Thinkpad T480s• PVE6+OMV4+NextCloud

pctine

pctine
個人積分：5089分
文章編號：58284856

5089分

樓主

2015-11-21 10:45

EluSiOn wrote:
應該是說 btrfs 本身沒有 auto-tiering 的概念. ZFS 本身有 auto-tier 的機制,...(恕刪)

應該有人研究過

zfs arc vs linux cache.
zfs l2arc vs ssd cache.

一個把 cache 機置built 在 file system 裡面, 另外的一種做法, 在 OS 上面建構 cache. 這兩種效能上有很大的差別嗎?

FB: Pctine

sibuzu

sibuzu
個人積分：0分
文章編號：58284875

0分

44樓

2015-11-21 10:47

剛剛看了 btrfs faq (https://btrfs.wiki.kernel.org/index.php/FAQ)，raid5/6 還是列為 experimental ，stable 是 MAYBE，看來 btrfs 還有好長的路要走。 synology 現在就推 btrfs 會不會太拼了一點。

zfs 應該比較成熟穩定，snapshot dedup compression raidz ssd-cache 功能也都有，感覺比 btrfs 強很多，有沒有 synology 不用 zfs 而要用 btrfs 的八掛。

pctine

pctine
個人積分：5089分
文章編號：58284960

5089分

樓主

2015-11-21 10:55

EluSiOn wrote:
所以當不了解系統的人, 把 java 8 卸載掉了, 或是他要修改一些 java 8 的 config, 結果造成 qsirch 不能運行, 那1麼不是很頭痛嗎?, 所以它在自己的 container 裡面有自己的 java 8, 自己 java 的 config, 就不會被整個系統影響到了....(恕刪)

套件之間的相依性是有 check 的機置. 所以安裝 Qsirch 之前必須安裝 jre.

FB: Pctine

EluSiOn

EluSiOn
個人積分：351分
文章編號：58285110

351分

46樓

2015-11-21 11:11

pctine wrote:
套件之間的相依性是...(恕刪)

有的時候還有 jre 參數 security 的問題...

Oneplus 8 Pro• Thinkpad T480s• PVE6+OMV4+NextCloud

EluSiOn

EluSiOn
個人積分：351分
文章編號：58285207

351分

47樓

2015-11-21 11:22

pctine wrote:
一個把 cache 機置built 在 file system 裡面, 另外的一種做法, 在 OS 上面建構 cache. 這兩種效能上有很大的差別嗎?

差別很大, 一個是從 OS 角度, 如何讓它開機更快, 執行程式更快. 一個是從 storage 角度, 如果增加更高的 iops, 如何增加寫入 data/讀取 data 一個明顯的例子就是 qnap 的 qtier, 它是從 https://www.qnap.com/solution/qtier-auto-tiering/en/ (它沒有中文網頁... 唉) 最重要的是最下面它說明 qtier 移動 data 從 cold 到 hot 是 Scheduled 而不是及時, 這個就是 OS 的缺陷.

而在 file system 的加速機制是及時的. 當你有大量數據在跑, 今天的有勁爆的新聞說, 周杰倫不只有小三, 還有小四小五小六, 這邊是狗腿日報記者拍到的視頻, 還等不到 OS 排程去優化時, 對不起, 你的伺服器已經被灌爆留言/分享. 而 Files 可能在第三次讀取時, 就從 HDD 移到 SDD 上了. 在被讀取第10次時, 它發現這段 data 不會被修改, 它就移到它的 RAM disk 了. 它是用次數以及及時的方式, 而不是 OS 模式, 固定時間統計, 固定排程優化.

所以如果當初江蕙演唱會的訂票系統是使用 zfs storage, 搞不好可以撐下去 (對不起, 無憑無據, 純屬博君一笑)

Oneplus 8 Pro• Thinkpad T480s• PVE6+OMV4+NextCloud

pctine

pctine
個人積分：5089分
文章編號：58285299

5089分

樓主

2015-11-21 11:31

EluSiOn wrote:
差別很大, 一個是從 OS 角度, 如何讓它開機更快, 執行程式更快. 一個是從 storage 角度, 如果增加更高的 iops, 如何增加寫入 data/讀取 data 一個明顯的例子就是 qnap 的 qtier, 它是從 https://www.qnap.com/solution/qtier-auto-tiering/en/ (它沒有中文網頁... 唉) 最重要的是最下面它說明 qtier 移動 data 從 cold 到 hot 是 Scheduled 而不是及時, 這個就是 OS 的缺陷....(恕刪)

我想E兄把 zfs arc, l2arc auto-tiering 和 Q-tier 兩者的比較是不對等的, 具體來說. zfs zrc, l2arc 應該就是一般我們指的 caching 的機置, 而你指的 qtier 排程去做 cold & hot data 在 storage 裡面的 move, 跟 zfs arc & l2arc是兩碼子事.

小弟對 zfs 完全不了解. 但一個從 file system 內部去做自我的管理, 另一個從 os 層級去做管理, 我想各有其優缺點, 可以想見的, zfs 要做到那麼多事, 它的自主性很高, 相對的它必定就比較耗費資源, 一個好的 file system, 並不是放到所有平台它都是絕對優勢的. 或許它有它的舞台.

對不起, 你的伺服器已經被灌爆留言/分享. 而 Files 可能在第三次讀取時, 就從 HDD 移到 SDD 上了. 在被讀取第10次時, 它發現這段 data 不會被修改, 它就移到它的 RAM disk 了. 它是用次數以及及時的方式, 而不是 OS 模式, 固定時間統計, 固定排程優化.

你指的 algorithm 只是指內建在 file system, 難道在 OS 層級做不到嗎? file system caching 在 RAM or SSD 不也是能如此設計?　或許早就是如此的設計了． (qnap caching)

FB: Pctine

EluSiOn

EluSiOn
個人積分：351分
文章編號：58285362

351分

49樓

2015-11-21 11:38

sibuzu wrote:
剛剛看了 btrfs faq (https://btrfs.wiki.kernel.org/index.php/FAQ)，raid5/6 還是列為 experimental ，stable 是 MAYBE，看來 btrfs 還有好長的路要走。 synology 現在就推 btrfs 會不會太拼了一點。
zfs 應該比較成熟穩定，snapshot dedup compression raidz ssd-cache 功能也都有，感覺比 btrfs 強很多，有沒有 synology 不用 zfs 而要用 btrfs 的八掛。

BTRFS 是開源軟體群體, 期待的檔案格式. 它還是很棒! 而且它現在真的穩定了. 你如果拿它去跟 ntfs/ext4 它還是有很多優點的! 它跟 xfs 算是以 ZFS 為腳本去開發的. 說實話, 它當家用 NAS 的檔案格式不會有太多問題, 而且 Synology 是非開放環境下, btrfs 與其他程式互動的不穩定的情況, 都可以被控制住.

但是我最期待的一個檔案是 ReFS . 微軟新一代的檔案格式, 最近 MS 的 CEO 拼命開源它們家的產品, 希望它把 ReFS 也開放出來吧.

Synology 選擇 btrfs 是一種賭注, 選擇 zfs 也是一種賭注, 萬一 Oracle 突然翻臉來告它要跟它收權利金, 就算是 oracle 最後敗訴, 但是 Synology 可能撐不到判決的那一天, 就敗在 Oracle 的歐美禁售令下了. 我們只是觀眾在台下看戲的, 所以常常不了解為什麼台上的演員要使用這樣的表演方式. 一切都有商業上的考量吧.

Oneplus 8 Pro• Thinkpad T480s• PVE6+OMV4+NextCloud

sibuzu

sibuzu
個人積分：0分
文章編號：58285789

0分

50樓

2015-11-21 12:28

EluSiOn wrote:
Synology 選擇 btrfs 是一種賭注, 選擇 zfs 也是一種賭注, 萬一 Oracle 突然翻臉來告它要跟它收權利金, 就算是 oracle 最後敗訴, 但是 Synology 可能撐不到判決的那一天, 就敗在 Oracle 的歐美禁售令下了. 我們只是觀眾在台下看戲的, 所以常常不了解為什麼台上的演員要使用這樣的表演方式. 一切都有商業上的考量吧.

感謝回文，只是我有一點搞混了，當初 zfs 2005 SUN 推出來時，不就一直是 open source 了，怎麼會 oracle 被告，之後 sun 被 oracle 買走了，也不能改變 zfs 是 open source 這一件事，oracle 是比 sun 小氣，但他也只能將他們新研發的 zfs version 不再公開，而目前一個 OpenZFS community 繼續新的 zfs open source 功能開發，像 zfs encryption 在 sun 時代還沒有出來， oracle 接了 zfs 後，有將 encryption 作出來，但它就不公開在 open source了，但 OpenZFS 自已也開發了 zfs encryption。