Cloudflare Hemat 100TB RAM Lewat Optimasi DNS Cache

Telset.id – Cloudflare berhasil membebaskan sekitar 100TB RAM di seluruh jaringan globalnya tanpa mengubah konfigurasi modul memori fisik di server. Pencapaian ini diraih melalui desain ulang cara setiap entri cache DNS disusun dalam memori, di tengah harga DDR5 server yang diprediksi naik dua kali lipat secara tahunan.

Dalam sebuah blog teknis, systems engineer Cloudflare, Sebastiaan Neuteboom, memaparkan lima perubahan level Rust pada platform Big Pineapple yang menjadi tulang punggung resolver 1.1.1.1. Hasilnya, ukuran setiap entri cache menyusut dari 953 byte menjadi 420 byte. Konsekuensinya, performa cache justru meningkat dengan throughput insert naik 43 persen dan lookup latency turun 19 persen.

Memori yang berhasil direklamasi setara dengan total DDR5 yang dimiliki 130 server Gen 13 berkapasitas 768GB milik Cloudflare. Langkah ini menjadi krusial mengingat harga server-grade DDR5 sedang dalam tren kenaikan signifikan. Sebelumnya, Cloudflare juga telah menyoroti masalah trafik bot yang melonjak, menjadikan efisiensi infrastruktur sebagai prioritas utama.

Lima Perubahan Kunci di Level Rust

Cloudflare menyebut bahwa satu byte terbuang per entri saja sudah merugikan lebih dari 250GB memori armada. Hal ini menjadi signifikan karena Big Pineapple menampung lebih dari 250 miliar entri DNS cache pada satu waktu. Perubahan pertama, mengganti container Vec dan String milik Rust dengan fixed-size boxed slices, berhasil menghemat lebih dari 15TB. Penghematan ini berasal dari penghapusan kolom kapasitas yang tidak pernah digunakan data setelah proses caching selesai.

Perubahan berikutnya merombak tiga daftar record dalam setiap respons DNS menjadi satu buffer yang diindeks oleh offset 2-byte. Cloudflare juga menghapus owner names yang menduplikasi domain yang diminta, dan membangunnya kembali saat proses read time. Perubahan terakhir menyimpan data record sebagai raw wire-format bytes dengan prefiks panjang, mengakhiri pengaturan lama di mana record A 4-byte memakan ruang 144 byte yang sama dengan tipe record terbesar yang di-cache, yaitu NAPTR yang jarang terlihat.

Penyimpanan record data secara kontigu juga meningkatkan CPU cache locality. Sebagian besar tipe record kini dapat disalin langsung dari buffer yang tersimpan ke respons keluar tanpa perlu serialisasi ulang field demi field. Efisiensi semacam ini sejalan dengan upaya Cloudflare dalam mengelola gangguan internet global yang sempat terjadi sepanjang 2026.

Hasil Benchmark dan Latar Belakang Keputusan

Berdasarkan benchmark yang dipublikasikan Cloudflare, throughput insert kini mencapai 893.000 entri per detik, meningkat dari sebelumnya 625.000 entri per detik. Sementara itu, lookup latency turun dari 828 nanodetik menjadi 670 nanodetik. Selama proses peluncuran yang berlangsung dari pertengahan Mei hingga awal Juli, memori residen p99 per instance turun dari 9,3GB menjadi 5,3GB.

Server Gen 13 yang disebut Cloudflare sebagai server terkuatnya, masing-masing membawa DDR5-6400 sebesar 768GB. Keputusan konfigurasi ini diambil pada bulan Maret setelah Cloudflare mempertimbangkan opsi 1.152GB dan menolaknya, sebagian karena harga memori yang tinggi. Proyek optimasi DNS cache ini merupakan proyek reklamasi memori besar kedua yang diselesaikan Cloudflare dalam setahun terakhir, setelah rewrite FL2 pada lapisan request-handling berbasis Rust pada September lalu.

Efisiensi telah menjadi pendorong pemilihan hardware Cloudflare selama bertahun-tahun. Sebelumnya, perusahaan juga beralih ke AMD 96-core EPYC 9684X untuk server Gen 12 mereka. Meski berhasil membebaskan banyak memori, Cloudflare tidak berencana mengurangi konfigurasi memori server. RAM yang berhasil direklamasi akan dialokasikan kembali untuk memperbesar DNS cache, yang bertujuan meningkatkan hit rates dan mengurangi trafik query yang dikirim ke server otoritatif upstream.

Upaya efisiensi Cloudflare juga relevan dengan analisis mereka terhadap pola trafik Piala Dunia 2026, di mana laga malam menjadi momen paling berdampak pada infrastruktur. Dengan optimasi ini, Cloudflare memperkuat kapasitasnya menghadapi lonjakan trafik global di tengah tekanan biaya hardware yang meningkat.