
Hasilnya Cepat. Antreannya Tidak — NovaCommerce 4
Pekerjaan hasil selama 0.34 detik menunggu di belakang pekerjaan AI yang lambat. Jalur terpisah membantu, tetapi kiriman yang persisten, retry yang dibatasi, dan pemulihan worker tetap penting.
Dua ujian sungguhan, satu kesalahan scale-in, dan model perencanaan yang berguna. Tinjauan kasus akhir memisahkan observasi, ekstrapolasi, biaya operasional, dan pengujian yang masih perlu dilakukan.
Penulis
Anichur Rahaman

Pada 7 Oktober 2026, dua ujian dijalankan secara berurutan. Catatan kasus menunjukkan 661 mulai dan 638 pengiriman pada salah satunya, serta 439 mulai dan 425 pengiriman pada yang lain. Kemudian, jumlah minimum pool diturunkan di tengah ujian: sebuah simpul layanan hilang tanpa drain yang diharapkan, dan sekitar 360 permintaan gagal dalam dua menit. Hasil ini mencakup baik keberhasilan layanan maupun kegagalan tersebut.
NovaCommerce adalah platform kursus dan ujian yang dianonimkan. Bagian terakhir ini mempertahankan pengamatan yang sudah ada dari September–Oktober, menghitung ulang aritmetika yang dipublikasikan, dan menyatakan apa yang tetap belum terbukti. Ini bukan load test yang diulang atau benchmark StoreConsole.
Investigasi menemukan limiter berdasarkan kunci IP pada 25 September, kegagalan koneksi Valkey dalam pengujian pada 6 Oktober, serta CPU backend yang jenuh untuk kombinasi permintaan yang diuji. Penyebab yang berbeda membutuhkan perubahan yang berbeda. “Lebih banyak server” sesuai untuk tekanan kapasitas tertentu, tetapi tidak dapat menggantikan identitas yang benar atau layanan bersama yang berfungsi.
Catatan ini mencakup pengujian frontend dengan sekitar 356 permintaan/detik, p95 0.05 detik, dan nol error yang dilaporkan; pengujian autoscaling berbasis GET pada 5 Oktober yang mencapai sekitar 750 permintaan/detik, tanpa error server/timeout yang dilaporkan, tetapi sekitar 4% HTTP 429; serta ramp 25–500 dengan nol error aplikasi, tetapi 143 error load balancer. Pengujian tersebut memiliki komposisi dan cakupan yang berbeda. Jangan gabungkan angka terbaiknya menjadi satu klaim throughput yang berhasil.
Rollout dengan guarding kemudian menghasilkan 219 probe setiap dua detik, tanpa error. Ini adalah bukti sampel yang berguna, bukan bukti bahwa setiap permintaan, penulisan, atau koneksi panjang berhasil. Pengujian alur bisnis penuh harus memvalidasi penerimaan jawaban yang terautentikasi, bukti penerimaan yang tersimpan secara durable, percobaan ulang yang aman, dan hasil akhir, bukan hanya status HTTP atau halaman beranda yang di-cache dengan cepat.
638/661 putaran menjadi 96.5%; 425/439 menjadi 96.8%. Angka ini adalah proporsi pengiriman jawaban, bukan persentase ketersediaan. Jawaban yang tidak dikirim dapat memiliki beberapa penyebab; hitungan tersebut tidak menetapkan setiap jawaban yang hilang sebagai kegagalan teknis atau membuktikan bahwa tidak ada kehilangan data.
Kasus ini mencatat puncak backend sekitar 69 permintaan/detik dari log per menit, dibandingkan dengan 63 pada agregasi penyedia selama dua menit. CPU pool memuncak di 47% pada rata-rata yang dilaporkan, sementara satu node mencapai 86% selama satu menit. CPU MySQL maksimum 24.5%, rata-rata 13.4%; worker maksimum 46% dengan nol pekerjaan gagal yang tercatat. Tetaplah memperlihatkan jendela agregasi dan penyebutnya. Nol pekerjaan gagal tidak berarti tidak ada pekerjaan yang tertunda atau hilang.
Estimasi CPU lama adalah sekitar 59 ms/permintaan. Pada 63 permintaan/detik, berarti 3.717 detik-CPU/detik; jika dibagi delapan vCPU, sekitar 46.5%. Kedekatan angka tersebut dengan 47% merupakan pemeriksaan konsistensi berdasarkan asumsi tersebut, bukan bukti sebab-akibat atau penskalaan linear. Insiden scale-in menunjukkan mengapa readiness, beban per node, dan penghapusan node dari pool memerlukan bukti terpisah. Runbook selama jam ujian merupakan kontrol manusia, bukan larangan yang ditegakkan sistem.
Model perencanaan historis mengasumsikan 50 permintaan backend/detik per node, lalu lintas dasar 30 permintaan/detik, faktor ketidakseimbangan 1.3, 15 permintaan saat pembukaan per siswa, dan 0.025 permintaan/detik per siswa yang hadir. Perlakukan 50 sebagai hipotesis untuk komposisi permintaan yang sama dan target latensi yang disepakati, bukan sebagai batas aman universal yang telah terbukti.
Untuk N node yang sehat, anggaran siswa adalah N×50÷1.3−30 permintaan/detik. Dengan jendela bergabung 600 detik, setiap siswa berkontribusi 15÷600+0.025=0.05 permintaan/detik. Dengan 120 detik, nilainya 0.15. Untuk empat node, (4×50÷1.3−30)÷0.05≈2,477; tabel pengajar membulatkan ke bawah menjadi 2,400. Ini adalah model rata-rata yang dinamis: lonjakan, kedatangan yang tidak merata, jeda, dan korelasi tetap dapat melampauinya.
Pembagi 1.3 adalah faktor perencanaan ini, bukan klaim kapasitas cadangan 30% atau cakupan otomatis atas kegagalan node. Modelkan kehilangan satu node secara terpisah. Baris untuk jumlah node yang melampaui pengujian beberapa node yang teramati merupakan ekstrapolasi, bukan kapasitas siswa yang tercertifikasi. Unggahan PDF, antrean worker, kontensi database, dan batas penyedia berada di luar model backend ini. CPU database yang rendah tidak membuktikan adanya batas 450 permintaan/detik atau ruang headroom enam kali lipat.
| Node backend yang sehat | Anggaran permintaan/detik dari model | Bergabung selama 600 detik: jumlah siswa dibulatkan | Bergabung selama 120 detik: jumlah siswa dibulatkan |
|---|---|---|---|
| 2 | ≈77 | 900 | 300 |
| 4 | ≈154 | 2,400 | 800 |
| 6 | ≈231 | 4,000 | 1,300 |
Desain historis memiliki pool frontend/backend yang terpisah, masing-masing dengan jumlah minimum dua dan maksimum sepuluh; MySQL primary/standby; Valkey bersama; PostgreSQL/pgvector terpisah; penyimpanan objek; serta log backend di OpenSearch. Satu worker tetap menjadi rumah bagi antrean, penjadwalan, WebSocket, dan SMS. Worker tersebut tetap menjadi titik kegagalan tunggal; pengiriman log frontend dan worker standby direncanakan.
Database yang direplikasi, node web stateless, dan citra container memperbaiki jalur pemulihan tertentu. Hal tersebut tidak membuat setiap dependensi redundan atau melindungi dari kegagalan regional, deployment yang salah, akses tidak sah, atau penghapusan keliru. Uji write fencing dan pemulihan secara terpisah. Data lama yang dibekukan bukan merupakan rollback terkini setelah ada penulisan baru; rollback citra juga memerlukan skema, sesi, dan payload antrean yang kompatibel.
Item web bulanan historis yang tercantum berjumlah US$272: backend US$112 + frontend US$56 + worker US$56 + dua load balancer US$48. Data dan log berjumlah US$709: MySQL US$389 + Valkey US$240 + PostgreSQL US$60 + OpenSearch US$20. Menambahkan snapshot US$5 dan basis Spaces US$5 menghasilkan US$991 sebelum penggunaan variabel. Angka lama “sekitar US$990” merupakan pembulatan, bukan invoice persis.
Angka sebelumnya US$416 menjelaskan tier web termasuk Droplet pemulihan yang dimatikan; angka tersebut bukan biaya lama untuk stack penuh. Bandingkan US$416 dengan US$272 hanya setelah memastikan cakupan dan asumsi layanan identik, bukan dengan biaya gabungan baru US$991. Daftar ini tidak mencakup staf, dukungan, pajak, AI/SMS penyedia, penggunaan berlebih, serta kapasitas sementara untuk rollout/puncak; ini bukan total kepemilikan biaya maupun penawaran saat ini.
Periksa paket penyedia saat ini dan kelayakan akun. Perubahan MySQL Standard yang dijelaskan pada Bagian 3 membuat pasangan historis tidak lagi sesuai sebagai resep pembelian 2026 tanpa pemeriksaan. Anggaran keandalan yang lebih besar dapat bermanfaat, tetapi klaim penghematan hanya dapat didukung oleh layanan yang sebanding dan model operasi yang lengkap.
| Grup bulanan historis | Subtotal yang dicantumkan | Cakupan |
|---|---|---|
| Tier web | $272 | 2 backend + 2 frontend + worker + 2 load balancer |
| Data dan log | $709 | MySQL +Valkey +PostgreSQL +OpenSearch |
| Snapshot dan basis penyimpanan | $10 | US$5 +US$5; penggunaan tambahan |
| Basis gabungan yang dicantumkan | $991 | Sebelum penggunaan, staf, pajak, dan layanan lainnya |
Dalam catatan, masih direncanakan pengujian soak formal selama beberapa jam dan pengujian beban penuh pada jalur penulisan campuran. Pengamatan dua jam saat ujian bukan pengujian soak terkontrol. Pengamatan 24 jam tanpa penulisan lokal tidak menyingkirkan kebocoran memori, pertumbuhan koneksi, atau antrean yang membesar. Jangan dengan diam-diam melabeli celah tersebut sebagai “lulus”.
Sebelum acara besar berikutnya, sepakati ambang keberhasilan jawaban dan latensi; gunakan identitas serta pola kedatangan yang mewakili kondisi nyata; uji pengiriman duplikat dan perilaku pada batas waktu; jalankan cukup lama untuk mengamati memori, koneksi, penyimpanan, dan usia pekerjaan tertua. Sertakan kegagalan node, scale-in yang aman, sambung ulang/failover database, pemulihan worker, dan pemulihan cadangan. Catat versi alat, skrip, pengaturan sumber daya, error, dan rekonsiliasi pekerjaan yang diterima. Jalankan pengujian yang mengganggu di lingkungan representatif yang terisolasi atau dalam jendela yang disetujui dengan kriteria penghentian.
Rangkaian ini berakhir dengan loop keputusan yang dapat digunakan: ukur hasil bisnis, temukan pembatasnya, ubah lapisan yang relevan, lalu uji ulang hasil dan pemulihannya. Artefak paling bergunanya adalah daftar bukti yang dapat membedakan “teramati”, “dimodelkan”, dan “belum diuji” tanpa mencampurnya.

Ditinjau 6 November 2026. Anichur Rahaman, pendiri StoreConsole. Pengamatan historis dipertahankan; aritmetika diperiksa; ekstrapolasi dan pengujian yang direncanakan dipisahkan secara eksplisit.
Tentang Penulis
Anichur Rahaman
Lanjut Membaca