Mengonfigurasi perutean, batas, dan percobaan ulang antrean

Dengan Cloud Tasks, Anda dapat mengelola eksekusi tugas dengan menentukan perutean, pembatasan kapasitas pengiriman, dan perilaku percobaan ulang di tingkat antrean. Anda dapat mengonfigurasi setelan ini saat membuat antrean atau memperbarui antrean yang ada.

gcloud tasks queues create dan gcloud tasks queues update menggunakan flag yang sama untuk menetapkan parameter antrean, sedangkan gcloud tasks queues update juga mendukung flag --clear-* untuk mereset parameter ke defaultnya.

Mengonfigurasi autentikasi di tingkat antrean akan menggantikan autentikasi tingkat tugas. Untuk mengetahui informasi selengkapnya, lihat Menggunakan tugas target HTTP dengan token autentikasi.

Mengonfigurasi pemilihan rute tingkat antrean

Mengonfigurasi pemilihan rute di tingkat antrean akan menggantikan pemilihan rute yang ditetapkan di tingkat tugas. Hal ini berguna jika Anda ingin menggunakan Cloud Tasks sebagai buffer di depan layanan target, atau jika Anda perlu mengubah pemilihan rute untuk semua tugas dalam antrean.

Pemilihan rute tingkat antrean berlaku untuk:

  • Tugas yang ada dalam antrean
  • Tugas yang ditambahkan ke antrean setelah pemilihan rute tingkat antrean ditetapkan

Batasan

Pemilihan rute tingkat antrean tidak kompatibel dengan kunci enkripsi yang dikelola pelanggan (CMEK) Cloud Key Management Service (Cloud KMS). Jika CMEK diaktifkan, Anda tidak dapat melakukan hal berikut:

  • Membuat tugas di antrean yang memiliki pemilihan rute tingkat antrean
  • Menerapkan pemilihan rute tingkat antrean

Mengonfigurasi pemilihan rute tingkat antrean untuk tugas HTTP

Anda dapat mengonfigurasi antrean untuk mengganti pemilihan rute tingkat tugas saat membuat antrean atau saat memperbarui antrean. Untuk mengonfigurasi pemilihan rute tingkat antrean, tetapkan parameter uriOverride antrean ke rute pilihan Anda. Secara default (uriOverrideEnforceMode ditetapkan ke ALWAYS), pemilihan rute tingkat antrean menggantikan pemilihan rute tingkat tugas. Anda juga dapat menetapkan uriOverrideEnforceMode ke IF_NOT_EXISTS agar pemilihan rute tingkat antrean hanya berlaku jika tugas tidak menentukan komponen URI-nya sendiri.

Jika Anda menerapkan pemilihan rute tingkat antrean sebagai update pada antrean yang ada, jeda antrean sebelum menerapkan perubahan dan tunggu satu menit setelah menerapkan perubahan untuk melanjutkan antrean.

  1. Jeda antrean dengan menjalankan perintah berikut:

    gcloud tasks queues pause QUEUE_ID \
        --location=LOCATION

    Ganti kode berikut:

    • QUEUE_ID: ID antrean Anda.
    • LOCATION: lokasi antrean Anda.
  2. Memperbarui atau menghapus perutean tingkat antrean.

    • Untuk memperbarui pemilihan rute tingkat antrean, tetapkan parameter uriOverride ke rute yang diperbarui (atau teruskan flag --http-uri-override ke gcloud tasks queues update).

    • Untuk menghapus pemilihan rute tingkat antrean:

      • Google Cloud CLI: Jalankan gcloud tasks queues update dengan flag --clear-http-uri-override:
      gcloud tasks queues update QUEUE_ID \
          --location=LOCATION \
          --clear-http-uri-override
      • REST API: Kirim permintaan patch untuk antrean dengan objek JSON kosong ({}) dan parameter kueri updateMask yang ditetapkan ke httpTarget.uriOverride (atau httpTarget untuk menghapus semua setelan target HTTP tingkat antrean).

      • RPC API: Kirim UpdateQueueRequest untuk Queue dengan queue.name ditentukan, http_target.uri_override tidak ditetapkan, dan parameter update_mask ditetapkan ke http_target.uri_override (atau http_target untuk menghapus semua setelan target HTTP tingkat antrean).

    Contoh berikut menggunakan REST API untuk memperbarui host yang menjadi tujuan perutean tugas:

    curl -X PATCH -d @- -i \
      -H "Authorization: Bearer ACCESS_TOKEN" \
      -H "Content-Type: application/json" \
      "https://cloudtasks.googleapis.com/v2/projects/PROJECT_ID/locations/LOCATION/queues/QUEUE_ID?updateMask=httpTarget.uriOverride" << EOF
    {
      "httpTarget": {"uriOverride":{"host":"NEW_HOST"}}
    }
    EOF
    

    Ganti kode berikut:

    • ACCESS_TOKEN: token akses Anda. Anda bisa mendapatkannya dengan menjalankan perintah berikut di terminal:

      gcloud auth application-default login
      gcloud auth application-default print-access-token
    • PROJECT_ID: ID project Google Cloud Anda. Anda bisa mendapatkannya dengan menjalankan perintah berikut di terminal:

      gcloud config get-value project

    • LOCATION: lokasi antrean Anda.

    • NEW_HOST: host baru yang ingin Anda gunakan untuk merutekan antrean.

  3. Tunggu satu menit.

    Mungkin perlu waktu hingga satu menit agar konfigurasi baru diterapkan. Menunggu untuk melanjutkan antrean membantu mencegah tugas dikirim dengan konfigurasi lama.

  4. Lanjutkan antrean dengan menjalankan perintah berikut:

    gcloud tasks queues resume QUEUE_ID \
        --location=LOCATION
  5. Pastikan antrean Anda berhasil dikonfigurasi dengan menjalankan perintah berikut:

    gcloud tasks queues describe QUEUE_ID \
        --location=LOCATION

    Output akan berisi penggantian pemilihan rute httpTarget yang Anda tetapkan.

Mengonfigurasi pemilihan rute tingkat antrean untuk tugas App Engine

Untuk mengonfigurasi pemilihan rute tingkat antrean untuk tugas App Engine, tetapkan parameter appEngineRoutingOverride antrean ke layanan dan versi App Engine yang Anda inginkan.

  1. Siapkan pemilihan rute tingkat antrean dan ganti pemilihan rute tingkat tugas:

    gcloud tasks queues update QUEUE_ID \
        --location=LOCATION \
        --routing-override=service:SERVICE,version:VERSION

    Ganti kode berikut:

    • QUEUE_ID: ID antrean (nama pendeknya).
    • LOCATION: lokasi antrean.
    • SERVICE: layanan worker App Engine yang bertanggung jawab untuk menangani tugas.
    • VERSION: versi aplikasi.

    Misalnya, jika Anda menyiapkan layanan worker untuk menangani semua tugas dalam antrean, Anda dapat merutekan ke layanan tersebut dan versi default:

    gcloud tasks queues update QUEUE_ID \
        --location=LOCATION \
        --routing-override=service:SERVICE
  2. Pastikan antrean Anda berhasil dikonfigurasi dengan menjalankan perintah berikut:

    gcloud tasks queues describe QUEUE_ID \
        --location=LOCATION

    Outputnya akan mirip dengan berikut ini:

    appEngineRoutingOverride:
      host: SERVICE.PROJECT_ID.appspot.com
      service: SERVICE
    name: projects/PROJECT_ID/locations/LOCATION_ID/queues/QUEUE_ID
    rateLimits:
      maxBurstSize: 100
      maxConcurrentDispatches: 1000
      maxDispatchesPerSecond: 500.0
    retryConfig:
      maxAttempts: 100
      maxBackoff: 3600s
      maxDoublings: 16
      minBackoff: 0.100s
    state: RUNNING
  3. Untuk menghapus pemilihan rute tingkat antrean, jalankan perintah berikut:

    gcloud tasks queues update QUEUE_ID \
        --location=LOCATION \
        --clear-routing-override

    Saat pemilihan rute tingkat antrean dihapus, pemilihan rute tingkat tugas akan diterapkan ke tugas dalam antrean dan tugas yang ditambahkan ke antrean pada masa mendatang.

Menentukan pembatasan kapasitas

Batas kapasitas menentukan kapasitas steady-state maksimum saat tugas dapat dikirim oleh antrean aktif, terlepas dari apakah pengiriman tersebut merupakan upaya tugas pertama atau percobaan ulang.

  1. Tetapkan kecepatan maksimum dan jumlah tugas serentak yang dapat dikirim oleh antrean dengan menjalankan perintah berikut:

    gcloud tasks queues update QUEUE_ID \
        --location=LOCATION \
        --max-dispatches-per-second=DISPATCH_RATE \
        --max-concurrent-dispatches=MAX_CONCURRENT_DISPATCHES

    Ganti kode berikut:

    • QUEUE_ID: ID antrean (nama pendeknya).
    • LOCATION: lokasi antrean.
    • DISPATCH_RATE: kecepatan pengiriman. Ini adalah tingkat pembaruan token dalam bucket. Dalam kondisi di mana terdapat aliran tugas yang relatif stabil, ini setara dengan tingkat pengiriman tugas.
    • MAX_CONCURRENT_DISPATCHES: jumlah maksimum tugas dalam antrean yang dapat dijalankan sekaligus.

    Misalnya, jika Anda membuat antrean tanpa menetapkan parameter apa pun, Anda dapat memperbarui jumlah maksimum tugas serentak dengan menjalankan perintah berikut:

    gcloud tasks queues update QUEUE_ID \
        --location=LOCATION \
        --max-concurrent-dispatches=MAX_CONCURRENT_DISPATCHES
  2. Pastikan antrean Anda berhasil dikonfigurasi dengan menjalankan perintah berikut:

    gcloud tasks queues describe QUEUE_ID \
        --location=LOCATION

    Outputnya akan mirip dengan berikut ini:

    name: projects/PROJECT_ID/locations/LOCATION_ID/queues/QUEUE_ID
    rateLimits:
      maxBurstSize: 100
      maxConcurrentDispatches: MAX_CONCURRENT_DISPATCHES
      maxDispatchesPerSecond: DISPATCH_RATE
    retryConfig:
      maxAttempts: 100
      maxBackoff: 3600s
      maxDoublings: 16
      minBackoff: 0.100s
    state: RUNNING

Metode untuk menentukan kecepatan pemrosesan antrean

Anda dapat menentukan tingkat pemrosesan antrean menggunakan Cloud Tasks API atau dengan mengupload file queue.yaml. Kedua metode menghasilkan antrean yang menggunakan mekanisme dasar yang sama.

Dalam kedua kasus tersebut, antrean menggunakan algoritma token bucket untuk mengontrol laju eksekusi tugas. Setiap antrean bernama memiliki bucket yang menyimpan tokennya.

Setiap kali aplikasi Anda menjalankan sebuah tugas, token akan dihapus dari bucket. Antrean akan terus memproses tugas hingga bucket-nya kehabisan token. Sistem mengisi ulang bucket dengan token baru secara terus-menerus berdasarkan rasio max_dispatches_per_second yang Anda tentukan untuk antrean. Jika antrean Anda berisi tugas yang akan diproses, dan bucket antrean berisi token, sistem akan secara bersamaan memproses tugas sebanyak token yang ada, hingga nilai max_concurrent_dispatches yang telah Anda tetapkan.

Pada antrean aktif yang sudah dihangatkan, beban yang tidak merata dapat menyebabkan jumlah token dalam bucket bertambah secara signifikan, yang dapat menyebabkan lonjakan pemrosesan saat lonjakan permintaan tiba. Dalam hal ini, antrean aktif mungkin mengalami tingkat pengiriman aktual yang untuk sementara melebihi tingkat max_dispatches_per_second Anda, sehingga menghabiskan resource sistem dan bersaing dengan permintaan layanan pengguna. Jika Anda menggunakan antrean untuk mengelola tingkat pengiriman berdasarkan SLA yang relatif lambat untuk layanan downstream, lonjakan ini dapat menyebabkan error seperti HTTP 429 (Too Many Requests) atau HTTP 503 (Service Unavailable). Namun, jika antrean baru dibuat, baru saja dilanjutkan, atau tidak ada aktivitas selama beberapa menit, antrean akan memasuki status cold atau tidak ada aktivitas dan meningkat secara bertahap menuju max_dispatches_per_second, bukan langsung melonjak. Untuk mengetahui informasi selengkapnya tentang peningkatan antrean cold atau tidak ada aktivitas, lihat Peningkatan antrean awal.

  • Saat menggunakan metode Cloud Tasks API, Anda memiliki dua kolom untuk menentukan tingkat pengiriman antrean:

    • max_dispatches_per_second
    • max_concurrent_dispatches

    Kolom ketiga, max_burst_size, dihitung oleh sistem berdasarkan nilai yang Anda tetapkan untuk max_dispatches_per_second. Untuk mengetahui informasi selengkapnya, lihat Pesan RateLimits.

  • Saat menggunakan metode queue.yaml, Anda dapat menetapkan ketiga elemen:

    • max_concurrent_requests, yang setara dengan max_concurrent_dispatches
    • rate, yang setara dengan max_dispatches_per_second
    • bucket_size, yang setara dengan max_burst_size

Pada umumnya, menggunakan metode Cloud Tasks API dan membiarkan sistem menetapkan max_burst_size akan menghasilkan tingkat yang sangat efisien untuk mengelola lonjakan permintaan. Namun, dalam beberapa kasus, terutama saat kecepatan yang diperlukan relatif lambat, menggunakan metode queue.yaml untuk menetapkan bucket_size secara manual ke nilai kecil, atau menetapkan max_concurrent_dispatches ke nilai kecil menggunakan Cloud Tasks API, dapat memberi Anda kontrol lebih besar.

Menetapkan parameter percobaan ulang

Jika tugas tidak berhasil diselesaikan, Cloud Tasks akan mencoba kembali tugas tersebut dengan backoff eksponensial sesuai dengan parameter yang telah Anda tetapkan. Setelah berhasil dijalankan, tugas akan dihapus dari antrean. Dalam semua kasus, batas retensi tugas maksimum juga berlaku.

Secara opsional, Anda dapat menentukan konfigurasi percobaan ulang level tugas yang menggantikan konfigurasi percobaan ulang level antrean untuk tugas tersebut. Untuk mengetahui informasi selengkapnya, lihat Menetapkan parameter percobaan ulang untuk tugas.

  1. Tentukan frekuensi maksimum untuk mencoba ulang tugas yang gagal dalam antrean, tetapkan batas waktu untuk upaya percobaan ulang, dan kontrol interval antar-percobaan dengan menjalankan perintah berikut:

    gcloud tasks queues update QUEUE_ID \
        --location=LOCATION \
        --max-attempts=MAX_ATTEMPTS \
        --max-retry-duration=MAX_RETRY_DURATION \
        --min-backoff=MIN_INTERVAL \
        --max-backoff=MAX_INTERVAL \
        --max-doublings=MAX_DOUBLINGS

    Ganti kode berikut:

    • QUEUE_ID: ID antrean (nama pendeknya).
    • LOCATION: lokasi antrean.
    • MAX_ATTEMPTS: jumlah maksimum upaya untuk tugas, termasuk yang pertama. Untuk mengizinkan percobaan ulang tanpa batas, tetapkan nilai ini ke -1. MAX_RETRY_DURATION tetap berlaku meskipun MAX_ATTEMPTS tercapai atau ditetapkan ke -1.
    • MAX_RETRY_DURATION: jumlah waktu maksimum untuk mencoba kembali tugas yang gagal, yang diukur dari saat tugas pertama kali dicoba. Nilainya harus berupa string yang diakhiri dengan "s", seperti 5s. Untuk menentukan durasi tanpa batas, tetapkan ke 0s. MAX_ATTEMPTS tetap berlaku meskipun MAX_RETRY_DURATION tercapai atau ditetapkan ke 0s.
    • MIN_INTERVAL: jumlah waktu minimum untuk menunggu di antara upaya percobaan ulang. Nilai harus berupa string yang diakhiri dengan "s", seperti 5s.
    • MAX_INTERVAL: jumlah waktu maksimum untuk menunggu di antara upaya percobaan ulang. Nilai harus berupa string yang diakhiri dengan "s", seperti 5s.
    • MAX_DOUBLINGS: frekuensi maksimum interval antara percobaan ulang tugas yang gagal akan dilipatgandakan sebelum peningkatan menjadi konstan. Interval percobaan ulang tugas dimulai pada MIN_INTERVAL, lalu meningkat dua kali lipat MAX_DOUBLINGS kali, lalu meningkat secara linear, dan akhirnya dicoba ulang pada interval MAX_INTERVAL hingga MAX_ATTEMPTS kali.

      Misalnya, jika MIN_INTERVAL adalah 10s, MAX_INTERVAL adalah 300s, dan MAX_DOUBLINGS adalah 3, interval percobaan ulang akan berlipat ganda 3 kali, meningkat secara linear sebesar 2^3 * 10 dtk, lalu mencoba lagi pada interval MAX_INTERVAL hingga tugas telah dicoba MAX_ATTEMPTS kali: 10 dtk, 20 dtk, 40 dtk, 80 dtk, 160 dtk, 240 dtk, 300 dtk, 300 dtk, dan seterusnya.

Untuk mengetahui detail parameter selengkapnya, lihat referensi resource RetryConfig.

  1. Pastikan antrean Anda berhasil dikonfigurasi dengan menjalankan perintah berikut:

    gcloud tasks queues describe QUEUE_ID \
        --location=LOCATION

    Output harus berisi parameter retryConfig yang Anda tetapkan:

    retryConfig:
      maxAttempts: MAX_ATTEMPTS
      maxBackoff: MAX_INTERVAL
      maxDoublings: MAX_DOUBLINGS
      maxRetryDuration: MAX_RETRY_DURATION
      minBackoff: MIN_INTERVAL

Langkah berikutnya