Nửa dân C++ tránh exception vì sợ try/catch làm chậm, nửa kia ném vô tội vạ. Đo ra cả hai đều hiểu sai: bọc try/catch mà không ném thì tốn đúng bằng không, còn ném thật một phát tốn tận 800 nano-giây. Chi phí không nằm ở chỗ họ tưởng.
calloc một mảng nửa gig lẽ ra phải mất thời gian ghi hết 512 triệu số 0. Nhưng nó xong trong 0,003 mili-giây, nhanh hơn ghi thật cỡ 4300 lần. Không phải phép màu — hệ điều hành lười một cách tài tình, và cái giá thật thì nó khéo léo dời sang chỗ khác.
Người ta bảo muốn biết cache-miss hay branch-miss thật thì phải có perf và bộ đếm phần cứng. Máy tôi đo thì perf còn chẳng chạy — VM khóa luôn PMU. Vậy mà chỉ với một cái đồng hồ và một thí nghiệm đổi đúng một biến, branch-miss vẫn hiện ra rõ mồn một, chậm gần 7 lần.
Khép lại sê-ri 45 bài đo kiến trúc máy tính. Nếu quên hết mọi con số, chỉ cần nhớ một câu: đừng tin trực giác về hiệu năng, hãy viết một phép đo và chạy nó trên chính máy mình. Vì cùng một thao tác có thể nhanh chậm khác nhau chục đến nghìn lần, và mỗi cỗ máy lại một khác.
Cùng một phép nhân ma trận, cùng đúng 2,1 tỷ phép nhân-cộng, tôi chỉ hoán vị hai vòng lặp mà tốc độ nhảy từ 2,65 lên 8,13 GFLOP/s. Không phải phép màu — là cache. Big-O đếm số phép, nhưng cách bạn đi qua dữ liệu mới là thứ quyết định code chạy nhanh hay lết.
Ai đọc về hiệu năng cũng gặp NUMA: RAM chia thành node, đọc node của mình thì nhanh, node khác thì chậm. Nghe ghê gớm, nhưng máy tôi đo lại chẳng có NUMA nào cả — 10 lõi đọc RAM đều tăm tắp, chênh nhau vỏn vẹn 6%. Và đó là chuyện của đa số laptop, VM lẫn máy ARM.