預測與最少連接負載平衡技術

我有一個基於 Windows 的桌面應用程序，它通過 TCP 與應用程序伺服器通信。（Windows 2003）。客戶端呼叫之間沒有粘性會話。我們正好有 2 台伺服器來進行負載平衡，並且我們正在考慮使用 F5 硬體 NLB。

應用程序是重負載類型，在服務中做的業務邏輯不多，但大多數時候檢索的數據量很大。可能在任何時候平均有 5000 到 10000 條記錄。主要用於儲存和檢索數據，無需對在伺服器端執行的數據或計算進行特殊處理。

考慮到我的服務有時需要一段時間才能返回數據，因此我傾向於“預測性”，因此跟踪回饋會產生一些更好的預測性路由。

我不確定給定的數據是否足以提出一些想法，但考慮到這些，在 Predictive 和 Least Connections 之間有什麼建議\要考慮的事情\最好？

謝謝。

我記得，F5 上下文中的預測是對服務響應時間的持續監控。當通過 BiP 傳遞的網路請求預計具有相似的響應時間時，它的效果最好。如果後端伺服器被載入，它的 TTR 將會增加，並且 BiP 將回退它發送的連接數量，直到 TTR 正常化。

如果您的服務請求具有高度可變的 TTR，則預測提供的值將不那麼重要。請記住，BiP 認為響應是響應的前沿；只要第一個回复包可靠地進來，流是 15 個包還是 50,000 個都沒有關係。如果您的服務在流式傳輸之前等到它擁有所有數據，那麼您從預測中獲得的價值就會減少。

引用自：https://serverfault.com/questions/432235