Cloud Run ti consente di collegare GPU per eseguire il deployment di modelli aperti e gestire l'inferenza dell'AI. Puoi addestrare, ottimizzare ed eseguire modelli con prestazioni accelerate.
Se non hai familiarità con i concetti di AI, consulta GPU per l'AI. Per saperne di più sulle opzioni di configurazione, consulta Supporto GPU per servizi, job e pool di worker.
Tutorial per i servizi
- Esegui Gemma su Cloud Run
- Esegui l'inferenza LLM sulle GPU Cloud Run con Gemma e Ollama
- Esegui OpenCV su Cloud Run con accelerazione GPU
- Esegui l'inferenza LLM sulle GPU Cloud Run con Hugging Face Transformers.js