Ask Vấn đề nhỏ với nhiều kết nối

[tungtangchaycode]

Chào mọi người, mình đang ở giai đoạn chuẩn bị dùng một vài kết nối/endpoint cùng lúc nhưng hơi lo nếu triển khai ồ ạt sẽ gặp lỗi hoặc có chỗ bị vấn đề. Mình muốn hỏi xem ai từng làm qua mấy bước sau thì cho mình mượn ít kinh nghiệm ạ

 

Tips

• 1 Trả lời câu hỏi giúp đỡ, sẽ được thưởng 1 MR
• 2 Khi được chọn là câu trả lời hay nhất (Chi tiết)

[ChipChipp]

M từng thử triển khai nhiều endpoint cùng lúc, tốt nhất nên giới hạn số request đồng thời, thêm retry/backoff khi có lỗi. Dùng queue hoặc batch để tránh quá tải server cũng khá hiệu quả

 

[stackoverload]

Trước khi rollout nên test qua proxy layer riêng để xem route nào ổn định hơn, tránh dính timeout hàng loạt

 

[tungtangchaycode]

M từng thử triển khai nhiều endpoint cùng lúc, tốt nhất nên giới hạn số request đồng thời, thêm retry/backoff khi có lỗi. Dùng queue hoặc batch để tránh quá tải server cũng khá hiệu quả

giới hạn request có dùng proxy pool để chia tải ko? e sợ nếu dùng IP máy e mãi nó dễ bị flag

 

[tungtangchaycode]

Trước khi rollout nên test qua proxy layer riêng để xem route nào ổn định hơn, tránh dính timeout hàng loạt

nếu cần gửi từ nhiều IP cùng lúc thì proxy có cần loại đặc biệt ko ạ