Tentang inferensi model AI/ML di GKE

Halaman ini menjelaskan konsep utama, manfaat, dan langkah-langkah untuk menjalankan workload inferensi model AI/ML generatif di Google Kubernetes Engine (GKE), menggunakan kemampuan AI Generatif GKE.

Inferensi sangat penting dalam men-deploy model AI generatif Anda ke aplikasi dunia nyata. GKE menyediakan platform yang tangguh dan skalabel untuk mengelola workload dalam container, sehingga menjadikannya pilihan yang menarik untuk menyajikan model Anda dalam pengembangan atau produksi. Dengan GKE, Anda dapat menggunakan kemampuan Kubernetes untuk orkestrasi, penskalaan, dan ketersediaan tinggi guna men-deploy dan mengelola layanan inferensi secara efisien.

Menyadari tuntutan khusus inferensi AI/ML, Google Cloud telah memperkenalkan kemampuan GKE AI generatif—serangkaian fitur yang dirancang khusus untuk meningkatkan dan mengoptimalkan penyajian inferensi di GKE. Untuk mengetahui informasi selengkapnya tentang fitur tertentu, lihat Kemampuan GKE AI generatif.

Mulai menggunakan inferensi model AI/ML di GKE

Anda dapat mulai menjelajahi inferensi model AI/ML di GKE dalam hitungan menit. Anda dapat menggunakan paket gratis GKE, yang memungkinkan Anda mulai menggunakan Kubernetes tanpa dikenai biaya untuk pengelolaan cluster.

  1. Buka halaman GKE AI/ML di konsol Google Cloud

  2. Coba langkah-langkah Men-deploy Model untuk men-deploy model dan server model dalam container.
  3. Baca Ringkasan praktik terbaik inferensi di GKE, yang berisi panduan dan referensi untuk merencanakan dan menjalankan workload inferensi Anda di GKE.

Terminologi

Halaman ini menggunakan terminologi berikut yang terkait dengan inferensi di GKE:

  • Inferensi: proses menjalankan model AI generatif, seperti model bahasa besar atau model difusi, dalam cluster GKE untuk menghasilkan teks, embedding, atau output lainnya dari data input. Inferensi model di GKE memanfaatkan akselerator untuk menangani komputasi kompleks secara efisien untuk pemrosesan real-time atau batch.
  • Model: model AI generatif yang telah mempelajari pola dari data dan digunakan untuk inferensi. Model bervariasi dalam ukuran dan arsitektur, mulai dari model spesifik per domain yang lebih kecil hingga jaringan neural masif dengan miliaran parameter yang dioptimalkan untuk berbagai tugas bahasa.
  • Server model: layanan dalam container yang bertanggung jawab untuk menerima permintaan inferensi dan menampilkan inferensi. Layanan ini mungkin berupa aplikasi Python, atau solusi yang lebih kuat seperti vLLM, TensorFlow Serving, atau Triton Inference Server. Server model menangani pemuatan model ke dalam memori, dan menjalankan komputasi pada akselerator untuk menampilkan inferensi secara efisien.
  • Akselerator: hardware khusus, seperti Unit Pemrosesan Grafis (GPU) dari NVIDIA dan Tensor Processing Unit (TPU) dari Google, yang dapat dipasang ke node GKE untuk mempercepat komputasi, terutama untuk tugas pelatihan dan inferensi.
  • Kuantisasi: teknik yang digunakan untuk mengurangi ukuran model AI/ML dan meningkatkan kecepatan inferensi dengan mengonversi bobot dan aktivasi model dari jenis data presisi lebih tinggi ke jenis data presisi lebih rendah.

Manfaat GKE untuk inferensi

Inferensi yang disajikan di GKE memberikan beberapa manfaat:

  • Performa-harga yang efisien: dapatkan nilai dan kecepatan untuk kebutuhan inferensi Anda. GKE memungkinkan Anda memilih dari berbagai akselerator yang andal (GPU dan TPU), sehingga Anda hanya membayar performa yang Anda butuhkan.
  • Deployment lebih cepat: percepat waktu penyiapan produk Anda dengan praktik terbaik, kualifikasi, dan praktik terbaik yang disesuaikan dan disediakan oleh kemampuan AI Generatif GKE.
  • Performa yang skalabel: penyebaran skala performa dengan pemantauan bawaan menggunakan GKE Inference Gateway, penskalaan otomatis Pod horizontal (HPA), dan metrik kustom. Anda dapat menjalankan berbagai model terlatih atau kustom, mulai dari 8 miliar parameter hingga 671 miliar parameter.
  • Portabilitas penuh: dapatkan manfaat dari portabilitas penuh dengan standar terbuka. Google berkontribusi pada Kubernetes API utama, termasuk Gateway dan LeaderWorkerSet, dan semua API bersifat portabel dengan distribusi Kubernetes.
  • Dukungan ekosistem: bangun di ekosistem GKE yang tangguh, yang mendukung alat seperti Kueue untuk antrean dan pengelolaan resource tingkat lanjut, serta Ray untuk komputasi terdistribusi, guna memfasilitasi pelatihan dan inferensi model yang skalabel dan efisien.

Cara kerja inferensi di GKE

Bagian ini menjelaskan, secara umum, langkah-langkah untuk menggunakan GKE untuk inferensi:

  1. Memasukkan model ke dalam container: Memasukkan aplikasi ke dalam container berarti membuat image container, yang merupakan paket yang dapat dieksekusi dan mencakup semua hal yang diperlukan untuk menjalankan aplikasi: kode, runtime, alat sistem, library sistem, dan setelan. Aplikasi sederhana dapat di-container-kan sebagai satu unit, sedangkan aplikasi yang lebih kompleks dapat dipecah menjadi beberapa komponen yang di-container-kan. Men-deploy model dengan memasukkan server model (seperti vLLM) ke dalam container, dan memuat bobot model dari Cloud Storage atau repositori seperti Hugging Face. Saat Anda menggunakan Panduan Memulai Inferensi GKE, image container akan otomatis dikelola dalam manifes untuk Anda.

  2. Membuat cluster GKE: buat cluster GKE untuk menghosting deployment Anda. Pilih Autopilot untuk pengalaman terkelola atau Standard untuk penyesuaian. Konfigurasikan ukuran cluster, jenis node, dan akselerator. Untuk konfigurasi yang dioptimalkan, gunakan Panduan Memulai Inferensi.

  3. Men-deploy model sebagai Deployment Kubernetes: buat Deployment Kubernetes untuk mengelola layanan inferensi Anda. Deployment adalah objek Kubernetes API yang memungkinkan Anda menjalankan beberapa replika Pod yang didistribusikan di antara node dalam cluster. Tentukan image Docker, replika, dan setelan. Kubernetes mengambil image dan menjalankan container Anda di node cluster GKE. Konfigurasikan Pod dengan server model dan model Anda, termasuk adaptor LoRA jika diperlukan.

  4. Mengekspos layanan inferensi Anda: buat layanan inferensi Anda dapat diakses dengan membuat Kubernetes Service untuk menyediakan endpoint jaringan bagi Deployment Anda. Gunakan Inference Gateway untuk load balancing dan pemilihan rute cerdas yang disesuaikan secara khusus untuk workload inferensi AI generatif, atau lihat perbandingan strategi load balancing untuk memilih opsi terbaik sesuai kebutuhan Anda.

  5. Menangani permintaan inferensi: mengirim data dari klien aplikasi Anda ke endpoint Layanan, dalam format yang diharapkan (JSON, gRPC). Jika Anda menggunakan load balancer, load balancer akan mendistribusikan permintaan ke replika model. Server model memproses permintaan, menjalankan model, dan menampilkan inferensi.

  6. Menskalakan dan memantau deployment inferensi Anda: menskalakan inferensi dengan HPA untuk menyesuaikan replika secara otomatis berdasarkan CPU atau latensi. Horizontal Pod Autoscaler (HPA) adalah pengontrol Kubernetes yang otomatis menambah atau mengurangi jumlah Pod dalam workload (seperti Deployment) berdasarkan metrik yang diamati, seperti pemakaian CPU atau metrik kustom. Gunakan Inference Quickstart untuk mendapatkan rekomendasi penskalaan yang dibuat otomatis. Untuk melacak performa, gunakan Cloud Monitoring dan Cloud Logging dengan kemampuan observasi bawaan, termasuk dasbor untuk server model populer seperti vLLM.

Untuk contoh mendetail yang menggunakan model, server model, dan akselerator tertentu, lihat Contoh inferensi.

Kemampuan AI Generatif GKE

Anda dapat menggunakan kemampuan ini bersama-sama atau secara terpisah untuk mengatasi tantangan utama dalam menyajikan model AI generatif dan meningkatkan pemanfaatan resource dalam lingkungan GKE, tanpa biaya tambahan.

Nama Deskripsi Manfaat
Panduan Memulai Inferensi GKE

Menganalisis performa dan efisiensi biaya workload inferensi Anda. Tentukan kebutuhan bisnis Anda dan dapatkan praktik terbaik yang disesuaikan untuk kombinasi akselerator, konfigurasi penskalaan dan penyimpanan, serta server model yang paling sesuai dengan kebutuhan Anda. Anda dapat mengakses layanan ini dengan gcloud CLI dan konsol Google Cloud .

Untuk mengetahui informasi selengkapnya, lihat Menganalisis performa dan biaya penyajian model dengan Panduan Memulai Inferensi GKE.

  • Menghemat waktu dengan mengotomatiskan langkah-langkah awal dalam memilih dan mengonfigurasi infrastruktur Anda.
  • Memungkinkan Anda mempertahankan kontrol penuh atas penyiapan Kubernetes untuk penyesuaian lebih lanjut.
GKE Inference Gateway

Dapatkan pemilihan rute berdasarkan metrik, seperti pemakaian cache KV, untuk latensi yang lebih baik.

Untuk mengetahui informasi selengkapnya, lihat Tentang GKE Inference Gateway

  • Membagikan model yang telah disesuaikan yang menggunakan file LoRA, dengan pemilihan endpoint berbasis afinitas untuk efisiensi biaya.
  • Mencapai ketersediaan tinggi dengan mengakses kapasitas GPU dan TPU secara dinamis di berbagai region.
  • Tingkatkan keamanan model Anda dengan kebijakan add-on Model Armor.
Akselerator pemuatan bobot model

Akses data di Cloud Storage dengan cepat menggunakan Cloud Storage FUSE dengan caching dan download paralel. Untuk mengetahui informasi selengkapnya tentang penggunaan Cloud Storage FUSE untuk workload AI/ML, lihat arsitektur referensi.

Google Cloud Managed Lustre adalah sistem file paralel berperforma tinggi dan terkelola sepenuhnya yang dioptimalkan untuk AI yang dapat dipasang ke 10.000 Pod atau lebih. Untuk mengetahui informasi selengkapnya tentang penggunaan Managed Lustre untuk workload AI/ML, lihat arsitektur referensi.

Google Cloud Hyperdisk ML adalah disk yang terpasang ke jaringan yang dapat dipasang ke hingga 2.500 Pod.

  • Mengoptimalkan waktu mulai inferensi dengan meminimalkan latensi model pemuatan bobot di GKE.
  • Untuk deployment dengan penskalaan node terbatas, pertimbangkan untuk menggunakan Cloud Storage FUSE untuk memasang bobot model.
  • Untuk workload inferensi yang memerlukan performa penyebaran skala yang konsisten, Google Cloud Managed Lustre mendukung akses file dengan throughput tinggi dan latensi rendah dari beberapa Pod secara bersamaan.
  • Untuk skenario skala besar yang memerlukan akses latensi rendah dan konsisten ke bobot model yang besar, Google Cloud Hyperdisk ML menawarkan solusi block storage khusus.

Metrik performa inferensi

Untuk mengoptimalkan workload inferensi, penting untuk memahami cara mengukur performanya. Tabel berikut menjelaskan metrik utama untuk tolok ukur performa inferensi di GKE.

Indikator tolok ukur Metrik (satuan) Deskripsi
Latensi Waktu hingga Token Pertama (TTFT) (md) Waktu yang diperlukan untuk membuat token pertama untuk permintaan.
Waktu yang Dinormalisasi Per Token Output (NTPOT) (md) Latensi permintaan yang dinormalisasi berdasarkan jumlah token output, yang diukur sebagai request_latency / total_output_tokens.
Waktu Per Token Output (TPOT) (md) Waktu yang diperlukan untuk menghasilkan satu token output, diukur sebagai (request_latency - time_to_first_token) / (total_output_tokens - 1).
Latensi antar-token (ITL) (mdtk) Mengukur latensi antara dua pembuatan token output. Tidak seperti TPOT, yang mengukur latensi di seluruh permintaan, ITL mengukur waktu untuk menghasilkan setiap token output individual. Pengukuran individual ini kemudian digabungkan untuk menghasilkan nilai rata-rata, median, dan persentil seperti p90.
Latensi permintaan (mdtk) Waktu end-to-end untuk menyelesaikan permintaan.
Throughput Permintaan per detik Jumlah total permintaan yang Anda tayangkan per detik. Perhatikan bahwa metrik ini mungkin bukan cara yang andal untuk mengukur throughput LLM karena dapat sangat bervariasi untuk jendela konteks yang berbeda.
Token output per detik Metrik umum yang diukur sebagai total_output_tokens_generated_by_server / elapsed_time_in_seconds.
Token input per detik Diukur sebagai total_input_tokens_generated_by_server / elapsed_time_in_seconds.
Token per detik Diukur sebagai total_tokens_generated_by_server / elapsed_time_in_seconds. Metrik ini menghitung token input dan output, sehingga membantu Anda membandingkan workload dengan waktu pra-pengisian tinggi versus waktu dekode tinggi.

Merencanakan inferensi

Deployment inferensi yang berhasil memerlukan perencanaan yang cermat di beberapa area utama, termasuk efisiensi biaya, performa, dan fleksibilitas, efisiensi, serta ketersediaan kapasitas akselerator. Untuk rekomendasi mendetail tentang cara membangun platform inferensi yang skalabel, berperforma tinggi, dan hemat biaya, lihat Ringkasan praktik terbaik inferensi di GKE.

Mencoba contoh inferensi

Temukan contoh deployment GKE untuk model AI generatif, akselerator, dan server model. Jika Anda baru memulai, sebaiknya pelajari tutorial Menyajikan model terbuka Gemma menggunakan GPU di GKE dengan vLLM.

Atau, telusuri tutorial berdasarkan kata kunci:

Akselerator Server Model Tutorial
GPU vLLM Menyajikan LLM seperti DeepSeek-R1 671B atau Llama 3.1 405B di GKE
GPU vLLM Menyajikan model terbuka Gemma menggunakan GPU di GKE dengan vLLM
GPU vLLM Menyajikan LLM dengan GKE Inference Gateway
GPU vLLM Menyajikan LLM terbuka di GKE dengan arsitektur yang telah dikonfigurasi sebelumnya
GPU Ray Serve Menyajikan LLM di GPU L4 dengan Ray
GPU TGI Menyajikan LLM dengan beberapa GPU di GKE
GPU TorchServe Menyajikan T5 di GKE dengan TorchServe
TPU vLLM Menyajikan LLM menggunakan TPU Trillium di GKE dengan vLLM
TPU vLLM Menyajikan LLM menggunakan TPU di GKE dengan KubeRay
TPU MaxDiffusion Menyajikan Stable Diffusion XL (SDXL) menggunakan TPU di GKE dengan MaxDiffusion
TPU vLLM Menyajikan LLM terbuka di TPU dengan arsitektur yang telah dikonfigurasi sebelumnya

Langkah berikutnya

  • Kunjungi portal orkestrasi AI/ML di GKE untuk mempelajari panduan, tutorial, dan kasus penggunaan resmi kami untuk menjalankan workload AI/ML di GKE.
  • Pelajari contoh eksperimental untuk memanfaatkan GKE guna mempercepat inisiatif AI/ML Anda di GKE AI Labs.