Linux

iSCSI TGTD over InfiniBand 性能

  • December 25, 2013

我剛剛配置了一個伺服器到伺服器的 4x SDR InfiniBand 連結,以增加我的虛擬機後端儲存的頻寬,特別是數據庫伺服器。我在 CentOS 6 上使用帶有 TGTD 的 iSCSI,在使用 iperf 進行測試時,我能夠使用 IPoIB 達到大約 6.45Gbps。

我已經設法將 iSCSI 發起程序和目標調整到可以實現大約 260MB/s 寫入 SSD 的程度。但是,這仍然不是最佳寫入速度,因為我可以在本地以大約 500-600MB/s 的速度寫入。

我目前使用的參數是:

  • MaxRecvDataSegmentLength 4194304
  • MaxXmitDataSegmentLength 524288
  • 最大突髮長度 4194304
  • 第一個突髮長度 262144
  • MaxOutstandingUnexpectedPDUs=0
  • MaxOutstandingR2T=1
  • 最大命令=256
  • 隊列深度=128

有沒有人有調整這個的經驗?是否有可能通過配置更改獲得比這更高的值?即使通過在兩台設備上執行 RAID 0,我仍然只能達到相同的頻寬,這是我預期的更高。

使用目前設置,您得到的結果是可以合理預期的。iser您可以通過傳輸模式獲得額外的性能增益。

來自README.iser的配置提示

目標:

   ./tgtadm --lld iser --mode target \
            --op new --tid 1 --targetname "iqn.$(hostname).t1"
   ./tgtadm --lld iser --mode target \
            --op bind --tid 1 --initiator-address ALL
   ./tgtadm --lld iser --mode logicalunit \
            --op new --tid 1 --lun 1 \ --backing-store /dev/sde
            --bstype rdwr

發起人:

   iscsiadm -m discovery -t sendtargets -p $targe
   iscsiadm -m node -p $targetip -T $targetname --op update \
       -n node.transport_name -v iser
   iscsiadm -m node -p $targetip -T $targetname --login

相關有用的 SF 問題:設置簡單的 Infiniband 塊儲存(SRP 或 iSER)

引用自:https://serverfault.com/questions/563334