Cloud Run te permite adjuntar GPUs para implementar modelos abiertos y publicar inferencias de IA. Puedes entrenar, ajustar y ejecutar modelos con un rendimiento acelerado.
Si no conoces los conceptos de IA, consulta GPUs para IA. Para obtener más información sobre las opciones de configuración, consulta la compatibilidad con GPU para servicios, trabajos y grupos de trabajadores.
Instructivos para servicios
- Ejecuta Gemma en Cloud Run
- Ejecuta la inferencia de LLM en GPUs de Cloud Run con Gemma y Ollama
- Ejecuta OpenCV en Cloud Run con aceleración de GPU
- Ejecuta la inferencia de LLM en GPUs de Cloud Run con Hugging Face Transformers.js