Lập trình 22/09/2026 9 phút

Fan-out WebSocket tới 10.000 client đo thật: ghi tuần tự bắt client cuối chờ 91 ms, chia 10 worker còn 31 ms, PreparedMessage bớt 2 ms, một client không đọc làm cả 10.000 client trễ 1,1 giây với ghi tuần tự, 1.000 với shard, không ai với kênh riêng

Server Go phát 40 vòng, mỗi vòng 1 KB tới 10.000 client, ghi timestamp vào payload để client đo độ trễ thật: 400.000 mẫu mỗi cách. Ghi tuần tự: client cuối nhận sau 91 ms, p99 99 ms. Chia 10 worker: 31 ms, p99 43 ms, CPU mỗi vòng tăng từ 90 lên 140 ms. PreparedMessage chỉ giảm 2 đến 3 ms vì ở 1 KB chi phí là syscall chứ không phải copy. Kênh riêng mỗi client: 31 ms nhưng thêm 10.000 goroutine và 52 MB. Lẫn vào một client không đọc với write deadline 1 giây: tuần tự kẹt cả vòng 1.105 ms nên p99 toàn bài thành 1.066 ms, shard kẹt một phần mười số client, kênh riêng không ảnh hưởng ai.

Lập trình 22/09/2026 10 phút

Reconnect WebSocket đo thật: rút cáp 3 giây giữa stream 200 sự kiện mỗi giây, cách ngây thơ mất 615 sự kiện không ai biết, seq cộng ring buffer mất 0, session cộng ack mất 0 nhưng trùng 10, và server ghi thành công 411 sự kiện vào kết nối đã chết

Server Go phát 200 sự kiện mỗi giây có số thứ tự, client ReadDeadline 1 giây nối lại mỗi 100 ms, iptables DROP cắt 3 giây. Ngây thơ: mất 615 sự kiện, dải 964 tới 1578, không trùng, không ai biết. Số thứ tự cộng ring buffer 1.000 cộng resume: mất 0, server replay 818. Ring 256 quá nhỏ: server báo gap, client biết mình thiếu 819. Session cộng ack mỗi 50 cộng resend: mất 0, trùng 10, server resend 827 và còn giữ 142 chưa ack. Trong 3 giây đứt, server ghi thành công 1.222 sự kiện vào kết nối cũ nhưng client chỉ nhận 811: 411 biến mất trong kernel.

Lập trình 22/09/2026 9 phút

Scale WebSocket ra nhiều máy bằng Redis pub/sub đo thật: thêm 0,4 ms p50 nhưng p99 tăng 10 lần, node vừa phát local vừa publish làm client nhận trùng 50%, Redis cho mọi client cùng một thứ tự, và presence bằng sự kiện sai mãi sau khi một node chết

Hai node WebSocket Go chung một kênh Redis, 100 client mỗi node, nguồn phát 200 sự kiện mỗi giây. Phát trực tiếp không qua Redis: p50 0,63 ms, p99 1,42. Qua Redis: p50 1,06 ms, p99 13,65, node khác không chậm hơn node phát. Node phát vừa gửi local vừa publish: client của nó nhận mỗi sự kiện hai lần, trùng 50%. Hai node cùng publish: 200 client thấy cùng một thứ tự, một hash duy nhất; phát local trước thì mỗi node một thứ tự. Presence bằng join/leave qua Redis: kill -9 một node, 50 user ma còn mãi tới hết bài; presence bằng SET với khoá alive EX 3 giây: đúng lại sau 3 giây.

Lập trình 22/09/2026 9 phút

Server-Sent Events đo cạnh WebSocket: Last-Event-ID nối lại mất 0 sự kiện mà không viết dòng client nào, HTTP/2 gom 300 stream vào 2 kết nối TCP, proxy đệm 4 KB giữ sự kiện 6,6 giây, và chiều ngược qua POST tốn gấp đôi một echo WebSocket

Server Go phục vụ SSE qua HTTP/1.1 và h2c, kèm hai proxy và WebSocket echo. Rút cáp 3 giây giữa stream 200 sự kiện mỗi giây: có Last-Event-ID mất 0, không có mất 704, bằng ring buffer tự viết ở phần 8. 100 stream qua HTTP/1.1 là 100 kết nối TCP và 208 goroutine, qua h2c là 1 kết nối và 110 goroutine; 300 stream h2c tự chia 2 kết nối vì Go giới hạn 250 stream mỗi kết nối. ReverseProxy của Go chuyển SSE tức thì, 0,4 ms; proxy đệm 4 KB dồn 68 sự kiện thành một cụm sau 10 giây. POST rồi nhận echo mất 0,112 ms so với 0,064 ms của WebSocket; mỗi sự kiện SSE tốn 28 byte framing so với 2 đến 6 byte.

Lập trình 22/09/2026 10 phút

Tail latency WebSocket dưới 10.000 kết nối đo thật: 50 client không đọc làm hub không deadline đứng hẳn, deadline 1 giây đẩy p99 lên 2 giây, cấp phát 1 KB mỗi client đẩy p99 từ 45 lên 115 ms dù GC chỉ dừng 2 ms, GOGC 400 làm p99.9 tệ hơn

Server Go fan-out 100 vòng 1 KB tới 10.000 client, 1.000.000 mẫu độ trễ mỗi lần chạy, đo p50, p99, p99.9, max trước và sau từng cách sửa. Nền: p99.9 59 ms. 50 client không đọc với shard không write deadline: hub đứng ở vòng 22, 1.169 mẫu trễ 20 giây. Thêm deadline 1 giây: p99 2.016 ms, max 5.039 ms. Kênh riêng từng client: p99.9 50 ms. Cấp phát bản sao 1 KB cho từng client cộng rác nền 100 MB/s: GC dừng tổng 2,3 ms nhưng p99 115 ms, p99.9 148 ms. GOGC 400: p99 71 nhưng p99.9 251 ms và RSS 870 MB. Bỏ cấp phát trong đường nóng: p99.9 49 ms. GOMAXPROCS 2: p50 34,9 thay vì 20,4 ms.

Lập trình 22/09/2026 10 phút

Tổng kết sê-ri WebSocket và realtime đo thật: khung bốn câu hỏi để chọn polling, SSE hay WebSocket, sáu thứ không được bỏ qua dù chọn gì, và checklist vận hành với từng con số đã đo trong 11 phần, từ 27 KB mỗi kết nối tới p99.9 59 ms

Phần cuối gom 11 phần thành khung bốn câu hỏi: dữ liệu đổi bao lâu một lần, chiều lên có dày không, mất một thông điệp thì sao, bao nhiêu kết nối trên bao nhiêu máy. Mỗi nhánh có số đã đo: polling 1 giây 486 ms và 8,4 KB mỗi phút, SSE và WebSocket 0,3 ms và 1,3 KB, 27 KB RSS mỗi kết nối, Redis thêm 0,4 ms, ring buffer 100 KB cho mọi client, session 83 KB mỗi client. Sáu thứ bắt buộc dù chọn gì: write deadline, cô lập goroutine ghi, ping pong, số thứ tự, không cấp phát trong đường nóng, cấu hình proxy. Checklist vận hành ba nhóm: giới hạn hệ thống, timeout và nhịp, chỉ số phải theo dõi.