Ejecuta la inferencia de LLM en GPUs de Cloud Run con Hugging Face Transformers.js

Las GPUs de Cloud Run te permiten ejecutar la inferencia de modelos de lenguaje grandes (LLM) en un entorno completamente administrado. En este instructivo, implementarás un servicio de backend que usa el paquete Transformers.js, el equivalente en JavaScript de la biblioteca de Python de Hugging Face Transformers, para entregar el modelo Gemma 2 de Google.

Para completar la guía paso a paso, consulta el codelab sobre cómo ejecutar Transformers.js en las GPUs de Cloud Run.