Google menggunakan teknologi AI untuk menerjemahkan konten ke dalam bahasa pilihan Anda. Terjemahan AI mungkin mengandung kesalahan.
Menjalankan inferensi LLM di GPU Cloud Run dengan Hugging Face Transformers.js
Tetap teratur dengan koleksi
Simpan dan kategorikan konten berdasarkan preferensi Anda.
GPU Cloud Run memungkinkan Anda menjalankan inferensi model bahasa besar (LLM) di lingkungan yang terkelola sepenuhnya. Dalam tutorial ini, Anda akan men-deploy layanan backend yang menggunakan paket Transformers.js, yang merupakan library Python Hugging Face transformers yang setara dengan JavaScript, untuk menyajikan model Gemma 2 Google.
Untuk menyelesaikan panduan langkah demi langkah, lihat codelab untuk
Cara Menjalankan Transformers.js di GPU Cloud Run.
Kecuali dinyatakan lain, konten di halaman ini dilisensikan berdasarkan Lisensi Creative Commons Attribution 4.0, sedangkan contoh kode dilisensikan berdasarkan Lisensi Apache 2.0. Untuk mengetahui informasi selengkapnya, lihat Kebijakan Situs Google Developers. Java adalah merek dagang terdaftar dari Oracle dan/atau afiliasinya.
Terakhir diperbarui pada 2026-10-23 UTC.
[null,null,["Terakhir diperbarui pada 2026-10-23 UTC."],[],[]]
