Mit Cloud Run können Sie GPUs anhängen, um offene Modelle bereitzustellen und KI-Inferenzen auszuführen. Sie können Modelle trainieren, feinabstimmen und mit beschleunigter Leistung ausführen.
Wenn Sie mit KI-Konzepten noch nicht vertraut sind, lesen Sie den Artikel GPUs für KI. Weitere Informationen zu den Konfigurationsoptionen finden Sie unter GPU-Unterstützung für Dienste, Jobs und Worker-Pools.
Anleitungen für Dienste
- Gemma in Cloud Run ausführen
- LLM-Inferenzen auf Cloud Run-GPUs mit Gemma und Ollama ausführen
- OpenCV in Cloud Run mit GPU-Beschleunigung ausführen
- LLM-Inferenzen auf Cloud Run-GPUs mit Hugging Face Transformers.js ausführen