具有 4 路 MPIO 的 Synology 和 vmware 的 iSCSI 速度較慢
我正在嘗試在我的 ESX 盒子和 Synology NAS 之間實現高 iSCSI 速度。我希望達到 300-400 Mb/s 的最高速度。但到目前為止,我所達到的只是 150 - 170 MB/s。
我正在使用的主要測試是在基於 iSCSI SSD 的數據儲存中創建一個 20GB 虛擬磁碟,Think Eager Zeroed。(以及這個的變體。)
一些問題:
- 我假設創建此磁碟將是順序寫入?
- Synology 永遠不會超過 30% / 40% 的 CPU 使用率,而且記憶體幾乎用完了。我假設 Synology 能夠以這些速度在 SSD 上寫入,對嗎?
- 此外,ESX 是否能夠在通過 iSCSI 創建虛擬磁碟時最大限度地利用可用頻寬?
- 如果使用基準測試工具,你會推薦什麼,我如何確定我不會在數據發送端遇到瓶頸?我可以將此工具安裝在 SSD 數據儲存中的 VM 中,並“針對自身”執行它嗎?
這是我的設置。
我有一台帶有以下磁碟和配置的 Synology 1513+:
- 3 個 4TB WD 磁碟(未使用)
- 1三星EVO 860。(1卷,無raid)
- 1 三星 256GB SATA III 3D NAND。(1卷,無raid)
- 2 個 iSCSI 目標,每個 SSD 一個。(總共連接了 8 個 vmware iSCSI 啟動器)
網路配置:
- Synology 4000 Mbps 綁定。MTU 1500,全雙工。
- Synology 動態連結聚合 802.3ad LACP。
- 為 4 個 Synology 埠配置鏈路聚合的 Cisco SG350。
- 儲存和 iSCSI 網路在物理上與主網路分離。
- CAT 6 電纜。
球體:
- PowerEdge r610(至強 E5620 @ 2.40Ghz,64 GB 記憶體)
- Broadcom NetXtreme II BCM5709 1000Base-T (8 NICS)
- VSphere 5.5.0 1623387
VSphere 配置:
- 4 個 vSwitch,每個用於 iSCSI.MTU 1500 的 1 個 NIC。全雙工。
- iSCSI 軟體啟動器在埠組中具有 4 個 vmkernel 交換機,全部合規且路徑狀態為活動。
- 2 個 iSCSI 目標,每個目標具有 4 個 MPIO 路徑。所有活躍和循環
所以基本上,來自 NAS 的 4 根電纜連接到 Cisco LAG,而來自 ESX 的 4 根 iSCSI 連接到交換機上的正常埠。
我執行的測試和配置:
- 在所有 vmswitch、vmkernel、synology 和 cisco 上將 MTU 設置為 9000。我還嘗試了其他值,例如 2000 和 4000。
- 在 1/2 iSCSI 目標中創建 1 個(和 2、3 個同時)虛擬磁碟以最大化工作負載。
- 禁用/啟用標頭和數據摘要,延遲確認。
我已經數不清我嘗試過的所有事情了。我不確定我的瓶頸在哪裡,或者我配置錯了什麼。我附上了一些截圖。
任何幫助將非常感激!
- 它可能會使用 VAAI ZERO 原語加速(我無法準確判斷您過時的 vSphere 版本)。但無論哪種方式,它都是順序寫入。我還取決於您如何創建 iSCSI 目標。預設情況下,較新的 DSM-s 創建在文件系統之上創建的高級 LUN。預設情況下,舊版本直接使用 LVM 磁碟,性能更差。
- ~400MB/s 應該是可以實現的
- 400MB/s 沒問題,如果 target 可以提供 IO
- 如果您正在查看純順序吞吐量,那麼 Linux 端的 dd 或 Windows 上的簡單 CrystalDiskMark 將起作用。
LAG 和 iSCSI 通常不會混合使用。在 Synology 上禁用綁定並配置為單獨的介面。在 Synology 上啟用多啟動器 iSCSI。不幸的是,我手頭沒有 Synology 以獲得確切的說明。
像這樣配置 vSphere。
- vSphere 啟動器 –> Synology 目標 IP/埠 1
- vSphere 啟動器 –> Synology 目標 IP/埠 2
- vSphere 啟動器 –> Synology 目標 IP/埠 3
- vSphere 啟動器 –> Synology 目標 IP/埠 4
禁用不必要的路徑(將一個 vSphere 源 IP 保留到一個 Synology IP),vSphere 在 iSCSI 上每個目標僅支持(未強制)8 個路徑。我不記得您是否可以在 Synology 端限制每個源的目標訪問權限,可能不會。此外,您已經有足夠的路徑來確保可靠性,並且由於頻寬可能有限,再多也無濟於事。
將策略更改為較低的值,請參見此處https://kb.vmware.com/s/article/2069356 否則 1000 IOPS 將沿著一條路徑下降,直到發生路徑更改。
繼續使用巨型幀。僅在頻寬上就可以贏得大約 5% 的勝利,而在千兆位上,您很容易變得缺乏頻寬。