Vmware-Esxi

具有 4 路 MPIO 的 Synology 和 vmware 的 iSCSI 速度較慢

  • March 1, 2019

我正在嘗試在我的 ESX 盒子和 Synology NAS 之間實現高 iSCSI 速度。我希望達到 300-400 Mb/s 的最高速度。但到目前為止,我所達到的只是 150 - 170 MB/s。

我正在使用的主要測試是在基於 iSCSI SSD 的數據儲存中創建一個 20GB 虛擬磁碟,Think Eager Zeroed。(以及這個的變體。)

一些問題:

  1. 我假設創建此磁碟將是順序寫入?
  2. Synology 永遠不會超過 30% / 40% 的 CPU 使用率,而且記憶體幾乎用完了。我假設 Synology 能夠以這些速度在 SSD 上寫入,對嗎?
  3. 此外,ESX 是否能夠在通過 iSCSI 創建虛擬磁碟時最大限度地利用可用頻寬?
  4. 如果使用基準測試工具,你會推薦什麼,我如何確定我不會在數據發送端遇到瓶頸?我可以將此工具安裝在 SSD 數據儲存中的 VM 中,並“針對自身”執行它嗎?

這是我的設置。

我有一台帶有以下磁碟和配置的 Synology 1513+:

  1. 3 個 4TB WD 磁碟(未使用)
  2. 1三星EVO 860。(1卷,無raid)
  3. 1 三星 256GB SATA III 3D NAND。(1卷,無raid)
  4. 2 個 iSCSI 目標,每個 SSD 一個。(總共連接了 8 個 vmware iSCSI 啟動器)

網路配置:

  1. Synology 4000 Mbps 綁定。MTU 1500,全雙工。
  2. Synology 動態連結聚合 802.3ad LACP。
  3. 為 4 個 Synology 埠配置鏈路聚合的 Cisco SG350。
  4. 儲存和 iSCSI 網路在物理上與主網路分離。
  5. CAT 6 電纜。

球體:

  1. PowerEdge r610(至強 E5620 @ 2.40Ghz,64 GB 記憶體)
  2. Broadcom NetXtreme II BCM5709 1000Base-T (8 NICS)
  3. VSphere 5.5.0 1623387

VSphere 配置:

  1. 4 個 vSwitch,每個用於 iSCSI.MTU 1500 的 1 個 NIC。全雙工。
  2. iSCSI 軟體啟動器在埠組中具有 4 個 vmkernel 交換機,全部合規且路徑狀態為活動。
  3. 2 個 iSCSI 目標,每個目標具有 4 個 MPIO 路徑。所有活躍和循環

所以基本上,來自 NAS 的 4 根電纜連接到 Cisco LAG,而來自 ESX 的 4 根 iSCSI 連接到交換機上的正常埠。

我執行的測試和配置:

  1. 在所有 vmswitch、vmkernel、synology 和 cisco 上將 MTU 設置為 9000。我還嘗試了其他值,例如 2000 和 4000。
  2. 在 1/2 iSCSI 目標中創建 1 個(和 2、3 個同時)虛擬磁碟以最大化工作負載。
  3. 禁用/啟用標頭和數據摘要,延遲確認。

我已經數不清我嘗試過的所有事情了。我不確定我的瓶頸在哪裡,或者我配置錯了什麼。我附上了一些截圖。

任何幫助將非常感激!

ESX 上的 iSCSI 路徑

ESX 上的網路配置

vmkernel 配置範例

iSCSI 發起方網路配置

思科滯後配置 1

思科滯後配置 2

  1. 它可能會使用 VAAI ZERO 原語加速(我無法準確判斷您過時的 vSphere 版本)。但無論哪種方式,它都是順序寫入。我還取決於您如何創建 iSCSI 目標。預設情況下,較新的 DSM-s 創建在文件系統之上創建的高級 LUN。預設情況下,舊版本直接使用 LVM 磁碟,性能更差。
  2. ~400MB/s 應該是可以實現的
  3. 400MB/s 沒問題,如果 target 可以提供 IO
  4. 如果您正在查看純順序吞吐量,那麼 Linux 端的 dd 或 Windows 上的簡單 CrystalDiskMark 將起作用。

LAG 和 iSCSI 通常不會混合使用。在 Synology 上禁用綁定並配置為單獨的介面。在 Synology 上啟用多啟動器 iSCSI。不幸的是,我手頭沒有 Synology 以獲得確切的說明。

像這樣配置 vSphere。

  • vSphere 啟動器 –> Synology 目標 IP/埠 1
  • vSphere 啟動器 –> Synology 目標 IP/埠 2
  • vSphere 啟動器 –> Synology 目標 IP/埠 3
  • vSphere 啟動器 –> Synology 目標 IP/埠 4

禁用不必要的路徑(將一個 vSphere 源 IP 保留到一個 Synology IP),vSphere 在 iSCSI 上每個目標僅支持(未強制)8 個路徑。我不記得您是否可以在 Synology 端限制每個源的目標訪問權限,可能不會。此外,您已經有足夠的路徑來確保可靠性,並且由於頻寬可能有限,再多也無濟於事。

將策略更改為較低的值,請參見此處https://kb.vmware.com/s/article/2069356 否則 1000 IOPS 將沿著一條路徑下降,直到發生路徑更改。

繼續使用巨型幀。僅在頻寬上就可以贏得大約 5% 的勝利,而在千兆位上,您很容易變得缺乏頻寬。

引用自:https://serverfault.com/questions/955145