Meskipun Memorystore for Redis menyediakan metrik sisi server real-time untuk memantau throughput, pemakaian CPU, dan penggunaan memori, data ini saja mungkin tidak menjelaskan alasan aplikasi klien Anda mengalami latensi tinggi dalam sistem terdistribusi yang kompleks.
Metrik sisi klien mengatasi masalah ini dengan memberikan transparansi ke dalam siklus permintaan-respons yang lengkap. Metrik ini mengukur perintah dari saat aplikasi memulainya hingga aplikasi memproses respons. Dengan menangkap titik data ini, Anda dapat menentukan secara akurat apakah latensi berasal dari logika aplikasi, jalur jaringan, atau server Redis.
Sebelum memulai
Pastikan aplikasi klien Anda menggunakan akun layanan dan peran Identity and Access Management (IAM) berikut ditetapkan ke akun layanan tersebut:
roles/cloudtrace.agent(Cloud Trace Agent)roles/monitoring.metricWriter(Monitoring Metric Writer)
Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat panduan memulai Memberikan peran IAM menggunakan konsol Google Cloud .
Mengaktifkan Cloud Monitoring API
Untuk mengekspor metrik sisi klien ke Monitoring, aplikasi Anda mengharuskan Anda mengaktifkan Monitoring API. Dengan mengekspor dan memvisualisasikan metrik ini di Monitoring, Anda dapat menentukan penyebab utama bottleneck untuk menentukan asal latensi.
Untuk mengaktifkan Monitoring API, lakukan hal berikut:
Di konsol Google Cloud , buka halaman APIs & Services.
Pilih project tempat Anda membuat instance Memorystore for Redis.
Klik Enable APIs and services.
Telusuri
monitoring.Di hasil penelusuran, klik Cloud Monitoring API.
Jika API enabled muncul, berarti API sudah diaktifkan. Jika belum, klik Enable.
Mengaktifkan Cloud Trace API
Untuk melihat trace terdistribusi di Trace, Anda harus mengaktifkan Trace API. Kemudian, Anda dapat menggunakan Trace Explorer untuk melihat trace ini, mendiagnosis bottleneck, dan mengisolasi sumber latensi dalam aplikasi Anda.
Untuk mengaktifkan Trace API, lakukan hal berikut:
Di konsol Google Cloud , buka halaman APIs & Services.
Pilih project tempat Anda membuat instance Memorystore for Redis.
Klik Enable APIs and services.
Telusuri
trace.Di hasil penelusuran, klik Cloud Trace API.
Jika API enabled muncul, berarti API sudah diaktifkan. Jika belum, klik Enable.
Mengaktifkan Telemetry API
Untuk mengekspor metrik sisi klien menggunakan OpenTelemetry Protocol (OTLP), Anda harus mengaktifkan Telemetry API. Kemudian, Anda dapat menggunakan pengekspor OTLP standar dalam kode klien, bukan pengekspor Google Cloud khusus vendor.
Pengekspor OTLP standar mencegah kehilangan data. Alat ini juga menyederhanakan dependensi Anda dan memastikan data Anda tetap portabel di seluruh platform kemampuan observasi lainnya. Setelah menulis kode telemetri sekali, Anda dapat mengarahkan data ke salah satu platform ini dengan memperbarui konfigurasi. Anda tidak perlu menulis ulang kode dengan kumpulan library eksklusif baru untuk setiap platform.
Untuk mengaktifkan Telemetry API, lakukan hal berikut:
Di konsol Google Cloud , buka halaman APIs & Services.
Pilih project tempat Anda membuat instance Memorystore for Redis.
Klik Enable APIs and services.
Telusuri
telemetry.Di hasil penelusuran, klik Telemetry API.
Jika API enabled muncul, berarti API sudah diaktifkan. Jika belum, klik Enable.
Mengaktifkan metrik sisi klien
Untuk mengaktifkan metrik sisi klien, tambahkan SDK OpenTelemetry dan pengekspor OTLP OpenTelemetry, yang menargetkan Telemetry API, ke kode aplikasi Anda. Instrumentasi OpenTelemetry, yang berjalan langsung di dalam library klien Redis aplikasi Anda, akan mengambil metrik. Dengan demikian, aplikasi Anda dapat mencatat titik data latensi dan mengekspornya ke Monitoring dan Trace untuk visualisasi.
Untuk mengaktifkan metrik sisi klien, Anda dapat menggunakan Go, Java, Node.js, atau Python. Informasi untuk mengaktifkan metrik untuk setiap bahasa muncul di tab berikut.
Go
Untuk menginstal dependensi pengekspor OpenTelemetry dan OTLP yang diperlukan, jalankan perintah berikut di terminal Anda:
go get github.com/gomodule/redigo/redis@latest go get go.opentelemetry.io/otel go get go.opentelemetry.io/otel/sdk go get go.opentelemetry.io/otel/sdk/metric go get go.opentelemetry.io/contrib/detectors/gcp go get go.opentelemetry.io/otel/exporters/otlp/otlptrace/otlptracegrpc go get go.opentelemetry.io/otel/exporters/otlp/otlpmetric/otlpmetricgrpc go get golang.org/x/oauth2/google go get google.golang.org/grpc
Untuk mengaktifkan metrik sisi klien, buat file
main.godan tambahkan kode berikut ke dalamnya:Jalankan aplikasi Anda setidaknya selama satu menit untuk memberi pengekspor cukup waktu untuk mengelompokkan dan mengirim metrik yang dipublikasikan ke Monitoring.
Java
Untuk menginstal dependensi pengekspor OpenTelemetry dan OTLP yang diperlukan, tambahkan kode berikut ke file
pom.xmlaplikasi Anda:Untuk mengaktifkan metrik sisi klien, buat file
RedisTelemetryApp.javadan tambahkan kode berikut ke dalamnya:Jalankan aplikasi Anda setidaknya selama satu menit untuk memberi pengekspor cukup waktu untuk mengelompokkan dan mengirim metrik yang dipublikasikan ke Monitoring.
Node.js
Untuk menginstal dependensi pengekspor OpenTelemetry dan OTLP yang diperlukan, jalankan perintah berikut di terminal Anda:
npm install redis@^4.6.0 \ @grpc/grpc-js@^1.12.0 \ google-auth-library@^9.15.0 \ @opentelemetry/api@^1.9.0 \ @opentelemetry/sdk-trace-node@^2.1.0 \ @opentelemetry/sdk-trace-base@^2.1.0 \ @opentelemetry/sdk-metrics@^2.1.0 \ @opentelemetry/instrumentation@^0.205.0 \ @opentelemetry/instrumentation-redis@^0.67.0 \ @opentelemetry/exporter-trace-otlp-grpc@^0.205.0 \ @opentelemetry/exporter-metrics-otlp-grpc@^0.205.0 \ @opentelemetry/resources@^2.10.0 \ @opentelemetry/resource-detector-gcp@^0.40.0
Untuk mengaktifkan metrik sisi klien, buat file
server.jsdan tambahkan kode berikut ke dalamnya:Jalankan aplikasi Anda setidaknya selama satu menit untuk memberi pengekspor cukup waktu untuk mengelompokkan dan mengirim metrik yang dipublikasikan ke Monitoring.
Python
Untuk menginstal dependensi pengekspor OpenTelemetry dan OTLP yang diperlukan, jalankan perintah berikut di terminal Anda:
pip install redis>=5.0.0 \ opentelemetry-api==1.39.1 \ opentelemetry-sdk==1.39.1 \ opentelemetry-instrumentation-redis==0.60b1 \ opentelemetry-exporter-otlp-proto-grpc \ opentelemetry-resourcedetector-gcp \ google-auth \ requests \ grpcio
Untuk mengaktifkan metrik sisi klien, buat file
main.pydan tambahkan kode berikut ke aplikasi Anda:Jalankan aplikasi Anda setidaknya selama satu menit untuk memberi pengekspor cukup waktu untuk mengelompokkan dan mengirim metrik yang dipublikasikan ke Monitoring.
Melihat metrik di Monitoring
Setelah mengaktifkan metrik sisi klien dan menjalankan aplikasi setidaknya selama satu menit untuk memberi pengekspor cukup waktu untuk mengelompokkan dan mengirim metrik ke Monitoring, gunakan Monitoring untuk memvisualisasikan metrik, mengelompokkannya berdasarkan operasi atau instance, dan menerapkan agregator untuk memantau performa aplikasi Anda.
Untuk melihat metrik di Monitoring, lakukan hal berikut:
Di konsol Google Cloud , buka halaman Metrics explorer.
Pilih project Google Cloud Anda.
Klik Select a metric.
Telusuri
workload.googleapis.com/redis.Pilih metrik sisi klien. Kelompokkan data menurut
operationdaninstancesesuai kebutuhan, lalu pilih agregator. Untuk mempelajari opsi lainnya, lihat Memilih metrik saat menggunakan Metrics Explorer.
Melihat trace terdistribusi di Trace
Setelah aplikasi Anda mulai mengekspor data, Anda dapat menggunakan Trace untuk memvisualisasikan siklus permintaan-respons lengkap dari perintah Redis Anda. Dengan melihat trace terdistribusi di Trace, Anda dapat mendiagnosis bottleneck sehingga dapat dengan cepat mengisolasi sumber latensi yang tepat dalam aplikasi Anda.
Untuk melihat trace terdistribusi di Trace, lakukan hal berikut:
Di konsol Google Cloud , buka halaman Trace explorer.
Pilih trace terbaru yang diwakili oleh titik pada diagram sebar.
Periksa tampilan waterfall untuk mengisolasi sumber latensi dengan mengidentifikasi bottleneck berikut:
Total durasi permintaan: kolom tingkat teratas (induk) menampilkan total waktu yang harus Anda tunggu hingga operasi selesai.
Latensi jaringan dan server (RTT): batang turunan (seperti yang diberi label
GETatauSET) menunjukkan waktu yang dihabiskan perintah untuk berpindah di seluruh jaringan dan berjalan di server Memorystore for Redis.Pemblokiran koneksi klien: jika ada celah horizontal kosong yang besar sebelum span turunan Redis dimulai, thread aplikasi akan macet menunggu koneksi TCP yang tersedia dari kumpulan koneksi.
Pemblokiran penguraian aplikasi: jika ada celah horizontal kosong yang besar setelah span turunan Redis berakhir, aplikasi akan kesulitan mengurai atau memproses payload yang ditampilkan. Hal ini sering terjadi pada string JSON berukuran multi-megabyte.
Percobaan ulang: jika Anda melihat beberapa span turunan singkat untuk perintah yang sama yang terjadi secara berurutan dalam trace induk yang sama, klien Anda mungkin mengalami paket hilang jaringan dan harus memicu loop percobaan ulang exponential backoff-nya.
Memecahkan masalah
Bagian ini mencantumkan masalah performa umum yang dapat Anda identifikasi menggunakan metrik sisi klien, menjelaskan penyebab utamanya, dan memberikan panduan tentang cara memecahkan masalah tersebut.
| Masalah | Penyebab | Memecahkan masalah |
|---|---|---|
Aplikasi Anda mengalami lonjakan latensi yang tiba-tiba, tetapi Memorystore for Redis tampak sepenuhnya responsif.
|
Bottleneck hanya terjadi di dalam aplikasi Anda. Thread Anda mencoba menjalankan perintah Redis, tetapi kumpulan koneksi sudah habis sepenuhnya. redis_client_blocking_latency yang tinggi menunjukkan
waktu yang dihabiskan kode Anda untuk menunggu soket TCP yang tersedia sebelum
perintah dikirim ke jaringan. |
Untuk menangani traffic serentak yang lebih tinggi, tingkatkan batas ukuran kumpulan koneksi dalam konfigurasi klien Redis Anda (misalnya, MaxActive untuk Go, MaxTotal untuk Java, atau max_connections untuk Node.js dan Python). |
Permintaan selesai, tetapi endpoint memerlukan waktu yang jauh lebih lama dari yang diperkirakan. Tidak ada masalah yang terkait dengan kondisi jaringan atau server Anda.
|
Memorystore for Redis menjalankan perintah dan jaringan mentransfer payload dengan cepat (RTT rendah). Namun, payload yang ditampilkan berukuran besar (misalnya, string JSON 15 MB). Aplikasi Anda mengalami redis_application_blocking_latency yang tinggi karena aplikasi menggunakan resource yang berlebihan saat mengalokasikan memori dan melakukan deserialisasi string besar tersebut menjadi objek. |
Optimalkan model data Anda. Jangan menyimpan blob JSON yang sangat besar dalam satu kunci.
Uraikan data menggunakan hash Redis (HSET) dan gunakan
HGET atau HMGET untuk mengambil kolom tertentu
yang Anda perlukan saja.
|
Latensi aplikasi yang ditampilkan kepada pengguna melonjak, tetapi metrik Redis Anda melaporkan latensi server yang rendah dan checkout kumpulan koneksi yang normal.
|
Karena redis_client_rtt hanya menangkap RTT permintaan yang berhasil, metrik ini tidak mencerminkan durasi waktu tunggu paket yang gagal. Saat aplikasi Anda mengalami penurunan paket sementara atau reset TCP, logika percobaan ulang klien yang diinstrumentasikan akan meningkatkan redis_retry_count dan memicu loop backoff eksponensialnya.
Hal ini menyebabkan waktu tidur di antara upaya (misalnya,
100ms, 200ms, atau 400ms). Pengguna
mengalami latensi total yang tinggi, tetapi penyebab utamanya adalah kehilangan
paket jaringan, yang memicu penundaan tidur sisi klien. |
Periksa Log Aliran VPC Anda untuk mengetahui adanya paket yang dihapus, throttling bandwidth, atau anomali pemilihan rute lintas region. Jika Anda mengalami waktu tunggu yang agresif,
pastikan waktu tunggu koneksi klien (socket_timeout atau
connect_timeout) lebih besar dari RTT yang diharapkan untuk memperhitungkan
jitter jaringan sementara. |
Semuanya berhenti dan semua lapisan pipeline telemetri melaporkan latensi tinggi.
|
Redis adalah thread tunggal. Saat Anda menjalankan perintah kompleksitas waktu O(N)—seperti KEYS *, SMEMBERS pada set yang sangat besar, atau HGETALL pada hash dengan jutaan kolom—mesin Redis akan dijeda untuk memenuhi permintaan tersebut. Saat perintah tersebut
berjalan, setiap permintaan aplikasi lainnya akan mengantre, sehingga menyebabkan lonjakan latensi
di seluruh sistem. Karena redis_client_rtt kustom Anda cocok dengan latensi server (commands/usec_per_call), server yang menjalankan perintah adalah bottleneck. |
Buka Trace dan lihat perintah Redis pada span lambat untuk mengidentifikasi kueri yang menyebabkan pemblokiran. Ganti perintah pemblokiran dengan perintah non-pemblokiran dalam kode Anda. Untuk melakukan iterasi melalui set data besar secara bertahap tanpa mengunci thread server, gunakan |
Aplikasi Anda melaporkan latensi dasar yang konsisten dan meningkat untuk semua perintah Redis, bahkan saat traffic rendah.
|
Server Redis menjalankan perintah secara instan, tetapi aplikasi dan
instance Anda di-deploy di region yang berbeda (misalnya,
us-central1 dan us-east1). Setiap paket jaringan
harus melewati infrastruktur Google Cloud fisik di antara
pusat data geografis ini. Hal ini menghasilkan penalti latensi lintas region
kecepatan cahaya wajib untuk setiap perjalanan pulang pergi. |
Untuk mengurangi latensi, deploy aplikasi Anda agar berada di region dan zona yang sama dengan instance Anda. Untuk melihat region aplikasi dan instance Anda, gunakan konsol Google Cloud . |
Langkah berikutnya
- Pelajari metrik sisi klien lebih lanjut.
- Pelajari metrik sisi klien yang tersedia untuk Memorystore for Redis.