Performance

寫入速度要求:1.1GB/s 的可能性?

  • March 17, 2017

我們將有一台機器在工作,它在峰值性能下應該能夠每小時推送**50(“寫頭”)x 75GB的數據。**這是約 1100MB/s 寫入速度的峰值性能。要從機器上得到它,它需要兩條 10GBi 線。我的問題是什麼樣的伺服器+技術可以處理/儲存這樣的數據流?

目前對於數據儲存,我們使用 ZFS,儘管寫入速度從來都不是問題。(我們甚至沒有接近這些速度)ZFS(Linux 上的 zfs)會是一個選項嗎?我們還需要儲存大量數據,“IT 指南”建議總共在 50-75 TB 之間。因此,除非我們想提供我們的第一個孩子,否則它可能不會都是 SSD。

基於優秀回复的一些補充:

  • 峰值期間最大值為 50x75GB/小時,小於 24 小時(很可能 <6 小時)
  • 我們預計這不會很快發生,我們很可能會以 5-10x75GB/小時的速度執行
  • 它是一個 pre-alpha 機器,但是應該滿足要求(即使有很多問號在起作用)
  • 我們將使用NFS作為從機器到伺服器的連接
  • 佈局:生成機->儲存(這個)->(安全RAID 6)->計算集群
  • 所以讀取速度不是必需的,但是從計算集群中使用它會很好(但這完全是可選的)
  • 很可能是大數據文件(不是很多小文件)

絕對……如果架構正確,Linux 上的 ZFS 是可能的。ZFS設計差的案例很多,但是做得好,可以滿足你的要求。

所以主要的決定因素將是你如何連接到這個數據儲存系統。是 NFS 嗎?CIFS?客戶端如何連接到儲存?還是在儲存系統上進行處理等?

填寫更多詳細資訊,我們可以看看是否可以提供幫助。

例如,如果這是 NFS 並且具有同步掛載,那麼肯定可以在 Linux 上擴展 ZFS 以滿足寫入性能需求並仍然保持長期儲存容量需求。數據可壓縮嗎?每個客戶端如何連接?千兆乙太網?


編輯:

好吧,我咬一口:

這是一個大致的規格 $ 17k- $ 23k,適合 2U 機架空間。

HP ProLiant DL380 Gen9 2U Rackmount
2 x Intel E5-2620v3 or v4 CPUs (or better)
128GB RAM
2 x 900GB Enterprise SAS OS drives 
12 x 8TB Nearline SAS drives
1 or 2 x Intel P3608 1.6TB NVMe drives

此設置將使用硬體 RAID6 或 ZFS RAIDZ2 為您提供 80TB 可用空間。

由於重點是基於 NFS 的性能(假設同步寫入),我們可以使用 P3608 NVMe 驅動器(條帶化 SLOG)輕鬆吸收所有這些。它們可以容納 3GB/s 的連續寫入速度,並且具有足夠高的耐久性等級來持續處理您所描述的工作負載。在 SLOG 案例下,可以輕鬆地過度配置驅動器以添加一些保護。

通過 NFS 工作負載,寫入將被合併並刷新到旋轉磁碟。在 Linux 下,我們會將其調整為每 15-30 秒刷新一次。旋轉磁碟可以處理這個問題,如果這些數據是可壓縮的,可能會受益更多。

該伺服器可以擴展為 4 個更多開放的 PCIe 插槽和一個用於雙埠 10GbE FLR 適配器的附加埠。因此,您擁有網路靈活性。

引用自:https://serverfault.com/questions/824102