確定負載均衡器執行狀況檢查超時

您如何確定負載均衡器的合理健康檢查超時？

我的應用程序未通過負載均衡器執行狀況檢查。我使用的是 5 秒的預設執行狀況檢查超時，但我注意到 CloudWatch 上的平均延遲圖在應用程序以約 30% 的峰值執行期間（持續 2-4 小時）躍升至約 50 秒CPU 使用率。記憶體使用率和 IOP 都很低且穩定。30% 的使用率是否足以預期執行狀況檢查響應增加超過 5 秒？如果是這樣，是否有確定健康檢查超時的標準做法？

你的問題的答案一定是模糊的。問題“我如何確定正確的執行狀況檢查超時”的答案？非常類似於回答“我的應用程序仍然認為什麼延遲是健康的？’。

一般指南可以解釋如下：

1. 確定您的應用程序可接受的延遲。在您的情況下，我們可以假設 50 秒仍然是可以接受的。我會認為這是非常不正常的，但由於我不知道您的應用程序，我正在處理它。
2. 開始時將超時設置為稍微超出該值的時間，例如 55 秒。
3. 使用與生產負載相似的負載對您的應用程序進行負載測試，看看它是否適合您。
4. 根據需要對您的應用程序和健康檢查進行調整，重複直到您對結果感到滿意，然後將其投入生產。
5. 從 1 開始。

考慮您對 CPU 使用率的第二個問題：這取決於您的應用程序。執行測試，執行負載測試，找到瓶頸，移除瓶頸。

引用自：https://serverfault.com/questions/918121