• 4

關於雲端備份 (Amazon Cloud Drive) 的使用與相關問題

EluSiOn wrote:
還是小心百度雲跟阿理...(恕刪)


我用虛擬機上傳 360云盤,看來更危險,但它的功能與介面比 Amazon Cloud Drive 強多了。那台虛擬機隨時準備犧牲報效主人。

等 Amazon Cloud Drive 正式接手雲端備份之後,大陸的雲端硬碟就可退位休息了。
uglycat wrote:
我用虛擬機上傳 36...(恕刪)


Amazon 強項是 aws (強大快速部署). 而 Amazon cloud drive 主要是給手機 pc 它們根本就沒有想到我們會來備份 nas.

EluSiOn wrote:
Amazon 強項是 aws (強大快速部署). 而 Amazon cloud drive 主要是給手機 pc 它們根本就沒有想到我們會來備份 nas....(恕刪)


Amazon Cloud Drive 官網上所列出的 App 支援列表. 就將 Synology Cloud Sync 列在其中, 怎會沒想到如此應用?
FB: Pctine
pctine wrote:
Amazon Cloud Drive 官網上所列出的 App 支援列表. 就將 Synology Cloud Sync 列在其中, 怎會沒想到如此應用?


我也還在嘗試 qnap 的版本... (好像好多可以使用) 基本上 android 部分我很早就有 firetv, 我還蠻能夠理解的, 不同的平台真的不同的感受... 我還在找 ubuntu 的版本.

At the time of asking the answer was unfortunately No, but no more! You can now easily access Amazon Cloud Drive from the terminal using an OpenSource client called adc_cli, which is written in Python (3) and runs under Windows / Linux / Mac. There still is a list of authorised apps here: https://www.amazon.com/clouddrive/apps

These are mostly "cloud-to-cloud-sync" services and absolutely not what you are looking for, though. Even the Amazon build app for Mac OS X, which actually is a stand-alone uploader, does not provide a command-line-interface and you can not upload files from the console.

The only hope is an open REST-based API that allows interaction with Amazon Cloud Drive, which is good news, as it essentially means, anybody could build a client for it.

One app called ExpanDrive also supports Amazon Cloud Drive by now due to user requests. That doesn't help much, though, since they also don't have a Linux version of their (commercial) app, yet, but they are also working on that apparently (originally to be released mid-summer 2015). There are a number of similar products such as Netdrive (only supports Windows). The (discontinued) DragonDisk already has linux command-line binaries and supports:

Amazon S3®, Google Cloud Storage®, and all cloud storage services that provides compatibility with Amazon S3 API

基本上好像 amazon S3 api 說得蠻詳細的, 是不是 s牌寫 app 寫的太陽春? https://aws.amazon.com/documentation/s3/ 很詳細, 什麼都能夠做得到.
Oneplus 8 Pro• Thinkpad T480s• PVE6+OMV4+NextCloud
EluSiOn wrote:
基本上好像 amazon S3 api 說得蠻詳細的, 是不是 s牌寫 app 寫的太陽春? https://aws.amazon.com/documentation/s3/ 很詳細, 什麼都能夠做得到....(恕刪)


願陣其詳, 不曉得E兄覺得 Synology Cloud Sync for Amazon Cloud Drive 在那部份功能做的太陽春?

ps: 不過你是不是看錯文件了? 不是 Amazon S3 API, 而應該是 Amazon Cloud Drive API.

https://developer.amazon.com/public/apis/experience/cloud-drive/
FB: Pctine
的確是看錯... 謝謝指正...

我在看 ubuntu 跟 qnap 的模式如何跟 amazon cloud drive 連接. 這兩個系統都是使用 mount 透過 fuse 的模式直接把 amazon cloud drive mount 到 mnt/rf/cd/0/241fXXXXXXXXXXXXXXXXe5 資料夾下面, 也看不出來是否使用它的 restapi 一時, 只知道是使用 (fuse)

這部分我也在摸索... 現在我是使用 rsync -avPX /share/Photo /mnt/rf/cd/0/241fXXXXXXXXXXXXXXXXe5/Pictures 在嘗試備份
Oneplus 8 Pro• Thinkpad T480s• PVE6+OMV4+NextCloud
EluSiOn wrote:
我在看 ubuntu 跟 qnap 的模式如何跟 amazon cloud drive 連接. 這兩個系統都是使用 mount 透過 fuse 的模式直接把 amazon cloud drive mount 到 mnt/rf/cd/0/241fXXXXXXXXXXXXXXXXe5 資料夾下面, 也看不出來是否使用它的 restapi 一時, 只知道是使用 (fuse). ...(恕刪)


剛看到 FUSE 這個 keyword 去查了一下. "Filesystem in Userspace"

小弟的理解是, 不是一句話 "透過 FUSE 的模式直接把 amazon cloud drive mount...." 這麼簡單. FUSE 應該只是一個 interface or method, 但怎麼透過 FUSE 去跟 Cloud Storage '溝通', 這個要自己實作, 你要負責這中間的轉換程序, 不是一個 mount 指令就解決掉了.

在 Amazon Cloud Drive API 有提到帳號處理, file & directory I/O, file & directory list.... 很多 REST API, 這中間應該都是自己要去處理的.


至於 rsync for ACD, 小弟的看法是, ACD 並不支援 rsync, 但如果你要做到這個功能, 那麼也是一樣自己去實作, 不管是找 opensource 等方法.
FB: Pctine
通常講透過 fuse... 就是代表走的是 userspace driver... 間接的說,很沒有效率, 無任何硬體/kernel加速.

qnap 上面的 mount 是透過 app "connect to cloud drive", 從 mount 指令看到它使用的driver 是 fuse, 所以一旦它變成 file system 的一個 directory 後, rsync 或是 cp 是可以執行的. 所以可以手動建立 crontab 讓它固定執行 rsync 的差異備份.

而 ubuntu 則是透過我之前說的 adc_cli, 也會把 amazon cloud drive 給 mount 到 file system 裡面. 然後從 mount 那邊去看, 也是 fuse 類別的 driver. 所以也是可以執行 rsync 或是 cp. 目前看來還沒有"善心人士" 寫出 web gui 界面的 app.

其實如果 rest api 透過 java 是可以很快寫出一個程式的... 但是... java 圖形界面真難看, 而且肥嘟嘟的.
Oneplus 8 Pro• Thinkpad T480s• PVE6+OMV4+NextCloud
EluSiOn wrote:
通常講透過 fuse... 就是代表走的是 userspace driver... 間接的說,很沒有效率, 無任何硬體加速...(恕刪)


現在大家都在談硬體加速, 就拿 cloud storage sync 的功能來說好了, 怎麼做到硬體加速? 大家都想快, 但快的了嗎? 很多方面不是 user or client 端就能解決的. 你必須在 server 端有提供必要的 API.

server side: Amazon Cloud Drive or other cloud storage service provider.
client side: NAS or PC client software.

client 端的異動, 這是 NAS or PC 可以自己掌控的, 具體來說這也是 OS level 必須提供必要的協助, file or directory change notification. 不然程式只能傻傻的去 scan 才曉得到底那些檔案異動了.

server 端的異動, 這是 server 端要能提供, 我想這在一些 Cloud Storage API 可能會做, 但也不見得所有的 server 都會處理,甚至於有可能原廠提供的程式能做, 但 API 不見得有開放出來. (Amazon Cloud Drive 有提供 Changes API 做到這點(click here))

這時候 client 端怎麼做? 只能利用現有的 API, 去 retrieve file or folder metadata, 然後逐一做比對, 這樣做當然慢.

所以E兄可能提到很多理想的東西, 但實作上不見得是工程師不去做, 是根本就快不了, 另外如果 server 或 client 離線了後來又重新 connect 上了, 這時候怎麼去比對差異? 有沒有一些運算可以丟到 server 上去做? 主控權不是握在你的手上, 巧婦難為無米之炊.

小弟不會寫程式, 但有些東西可能也不是E兄所說的那麼簡單. 想快就快, 像E兄所提的 acd_cli, 在它上面並未提到有實作 changes API 這部份, 那麼既然無法很快速的取得 server 端異動的檔案目錄狀態, 如何快速的去和 local storage 做比對及同步呢?
FB: Pctine
pctine wrote:
現在大家都在談硬體...(恕刪)

Linux Driver 背景

基本上 linux 的 driver 分成兩部分, kernel space 跟 user space 的. 如果一個 driver 是在 kernel space 運作的話, 就代表它可以擁有 硬體以及 kernel 的加速功能 (不一定是 硬體而已) 像是在 iscsi target driver 的部分, 也有分 kernelspace 跟 user space. 這部分是完全沒有硬體加速功能, 但是在 kernel space 的 iscsi target driver 如 SCST 系列就快很多. 像是 zfs 在 2012年以前在 linux 運作時, 也是在 userspace, 那個時候效能就超級糟糕. 所以長久使用 linux 的 adminsitrator, 一看到 fuse 就是先避開, 因為它代表的是有"功能"但是不一定代表有效能, 所以跟儲存有關係的部分, 特別怕使用 fuse 類別.

Cloud Storage & Restful API

當檔案讀取/刪除/增加的方式, 開始不再使用傳統的 file system, 而是使用 Restful API, 其實它已經不是我們認知的 Block Storage, 而是新的架構 Object Storage (haadop 提出, 再由openstack 將這個概念更加發揚光大) 在這部分已經有 Intel 開始提供硬體加速了. http://www.slideshare.net/LarryCover/ceph-open-source-storage-software-optimizations-on-intel-architecture-for-cloud-workloads (intel 這幾年真的提供很多特別的硬體加速方案 如 quickassist & Intel IPP libraries) 像是 object storage 的供應商 swiftstack 也有特殊的加速模式 (也是寫入 kernel space).

pctine 兄讓我更加小心我的回覆, 有時候我跳躍式的思維沒有把順序說清楚時, 或是一些背景的資訊說明白 (變成自己跟自己說話) 反而越說越不明白. 有的時候我思考是我個人可以使用時, 我會跟著一起向企業使用需要那些條件 (需求不同), 不過遲早慢慢企業應用的技術會到家用市場使用 (就像是 nas 本身就是企業應用的產品, 進入家用市場)
Oneplus 8 Pro• Thinkpad T480s• PVE6+OMV4+NextCloud
  • 4
內文搜尋
X
評分
評分
複製連結
Mobile01提醒您
您目前瀏覽的是行動版網頁
是否切換到電腦版網頁呢?