Linux
iSCSI TGTD over InfiniBand 性能
我剛剛配置了一個伺服器到伺服器的 4x SDR InfiniBand 連結,以增加我的虛擬機後端儲存的頻寬,特別是數據庫伺服器。我在 CentOS 6 上使用帶有 TGTD 的 iSCSI,在使用 iperf 進行測試時,我能夠使用 IPoIB 達到大約 6.45Gbps。
我已經設法將 iSCSI 發起程序和目標調整到可以實現大約 260MB/s 寫入 SSD 的程度。但是,這仍然不是最佳寫入速度,因為我可以在本地以大約 500-600MB/s 的速度寫入。
我目前使用的參數是:
- MaxRecvDataSegmentLength 4194304
- MaxXmitDataSegmentLength 524288
- 最大突髮長度 4194304
- 第一個突髮長度 262144
- MaxOutstandingUnexpectedPDUs=0
- MaxOutstandingR2T=1
- 最大命令=256
- 隊列深度=128
有沒有人有調整這個的經驗?是否有可能通過配置更改獲得比這更高的值?即使通過在兩台設備上執行 RAID 0,我仍然只能達到相同的頻寬,這是我預期的更高。
使用目前設置,您得到的結果是可以合理預期的。
iser
您可以通過傳輸模式獲得額外的性能增益。來自README.iser的配置提示
目標:
./tgtadm --lld iser --mode target \ --op new --tid 1 --targetname "iqn.$(hostname).t1" ./tgtadm --lld iser --mode target \ --op bind --tid 1 --initiator-address ALL ./tgtadm --lld iser --mode logicalunit \ --op new --tid 1 --lun 1 \ --backing-store /dev/sde --bstype rdwr
發起人:
iscsiadm -m discovery -t sendtargets -p $targe iscsiadm -m node -p $targetip -T $targetname --op update \ -n node.transport_name -v iser iscsiadm -m node -p $targetip -T $targetname --login
相關有用的 SF 問題:設置簡單的 Infiniband 塊儲存(SRP 或 iSER)。