Gleichzeitigkeit und Parallelität

Der Parameter concurrency steuert, wie viele Programme gleichzeitig generiert und ausgewertet werden. Dieser Parameter ist der einflussreichste Laufzeit-Hyperparameter.

  • n = 1 (Sequenzielle Kette): Ein Programm generieren, auf die Bewertung warten und dann das nächste generieren. Jede Generation sieht das vorherige Ergebnis, wodurch eine Kette von inkrementellen Verbesserungen entsteht, die sich auf ein lokales Optimum konzentriert. Dieser Ansatz führt zum langsamsten Durchsatz, aber zur gezieltesten Nutzung. Verwenden Sie diesen Modus, um absichtlich auf eine bestimmte Region zu konvergieren.

  • n = 3-12 (Sweet Spot): Dies ist der in der Praxis am häufigsten verwendete Bereich, der ein ausgewogenes Verhältnis zwischen Exploration und Exploitation bietet. Mehrere Programme werden gleichzeitig ausgeführt, sodass einige Generationen nicht die neuesten Ergebnisse sehen, was zu einer natürlichen Vielfalt führt. Die evolutionäre Datenbank sorgt für genügend Durchsatz für eine gesunde Populationsdynamik.

  • n = 13-30 (hohe Exploration): Viele Programme werden parallel ausgeführt. Die meisten Generationen sehen die Ergebnisse der anderen nicht. Dieser Modus ist nützlich für stark nicht konvexe Probleme mit vielen lokalen Optima, bei denen eine breite Exploration wichtiger ist als eine tiefe Ausnutzung.

  • n = 23-30 (gedrosselt; vermeiden): Wenn mehr als 30 Generatoren parallel ausgeführt werden, wird das LLM-Backend gedrosselt. Anfragen werden in eine Warteschlange gestellt, was die Latenz pro Generierung erhöht. Sofern Sie kein dediziertes Kontingent haben, sollten Sie unter 30 bleiben.

Empfehlungen

Die folgenden Empfehlungen dienen als Ausgangspunkt für die Konfiguration von Nebenläufigkeit und Parallelität für AlphaEvolve.

Problemtyp Gleichzeitigkeit Begründung
Gut verständlicher, bekannter Ansatz zur Abstimmung 3–5 Gezielte Ausbeutung
Allgemeine Optimierung, unbekannte Landschaft 8–12 Ausgewogene Exploration/Exploitation
Stark nicht konvex, viele lokale Optima 15–25 Breite Erkundung
Absichtliches Heranzoomen auf lokales Optimum 1 Sequenzielle Kette

Beginnen Sie mit concurrency=10 und passen Sie den Wert anhand der folgenden Indikatoren an:

  • Score-Plateau: Erhöhen Sie die Nebenläufigkeit, um lokale Optima zu vermeiden.

  • Viele fehlgeschlagene Bewertungen: Verringern Sie die Nebenläufigkeit, um die Verschwendung von Rechenleistung zu reduzieren.

  • Langsame Bewertungen (mehr als 5 Minuten): Eine höhere Nebenläufigkeit sorgt dafür, dass die Bewertungspipeline ausgelastet bleibt.

  • Schnelle Bewertungen (weniger als 10 Sekunden): Eine geringere Nebenläufigkeit ermöglicht es aufeinanderfolgenden Generationen, direkt auf den Ergebnissen der jeweils anderen aufzubauen.

Limits für Nebenläufigkeit im Vergleich zu Limits für aktive Tests

Es ist wichtig, zwischen der Nebenläufigkeit auf Programmebene und den Limits für Tests auf Projektebene zu unterscheiden:

  • Programm-Nebenläufigkeit (concurrency): Wird in runSettings (zwischen 1 und 30) konfiguriert und steuert die Anzahl der Kandidatenprogramme, die gleichzeitig in einem einzelnen Test generiert und ausgewertet werden.
  • Limit für aktive Tests: Für ein Projekt gilt eine Obergrenze von 30 gleichzeitig aktiven (STARTED oder RUNNING) Tests pro Standort. Wenn Sie versuchen, einen Test über diese Obergrenze hinaus zu starten oder fortzusetzen, wird der Fehler RESOURCE_EXHAUSTED zurückgegeben. Beenden Sie dazu vorhandene laufende Tests oder warten Sie, bis sie abgeschlossen sind, bevor Sie neue starten. Wenn Sie concurrency innerhalb eines Tests ändern, ändert sich die Anzahl der aktiven Tests nicht.