Contemporaneità e parallelismo

Il parametro concurrency controlla il numero di programmi generati e valutati contemporaneamente. Questo è l'iperparametro di runtime più importante.

  • n = 1 (catena sequenziale): genera un programma, attende la valutazione e poi genera il successivo. Ogni generazione vede il risultato precedente, creando una catena di miglioramenti incrementali che si concentra su un ottimo locale. Questo approccio comporta la velocità effettiva più lenta, ma lo sfruttamento più mirato. Utilizza questa modalità per convergere intenzionalmente su una regione specifica.

  • n = 3-12 (punto ottimale): questo è l'intervallo più utilizzato nella pratica, che bilancia esplorazione e sfruttamento. Sono in corso più programmi contemporaneamente, quindi alcune generazioni non vedono i risultati più recenti, introducendo una diversità naturale. Il database evolutivo mantiene un throughput sufficiente per una dinamica della popolazione sana.

  • n = 13-30 (Esplorazione elevata): molti programmi vengono eseguiti in parallelo. La maggior parte delle generazioni non vede i risultati delle altre. Questa modalità è utile per problemi altamente non convessi con molti ottimi locali in cui un'esplorazione ampia è più importante di uno sfruttamento approfondito.

  • n = 23-30 (Limitato; da evitare): il superamento di 30 generatori paralleli limita il backend LLM. Le richieste vengono messe in coda, aumentando la latenza per generazione. A meno che tu non abbia una quota dedicata, mantieni un valore inferiore a 30.

Consigli

I seguenti suggerimenti servono come punto di partenza per la configurazione della concorrenza e del parallelismo per AlphaEvolve.

Tipo di problema Concorrenza Rationale
Approccio di ottimizzazione ben compreso e noto 3-5 Sfruttamento mirato
Ottimizzazione generale, orizzontale sconosciuto 8-12 Esplorazione/sfruttamento equilibrati
Altamente non convessa, molti ottimi locali 15-25 Esplorazione generica
Zoom intenzionale sull'ottimo locale 1 Catena sequenziale

Inizia con concurrency=10 e regola in base ai seguenti indicatori:

  • Punteggio stabile: aumenta la concorrenza per uscire dagli ottimi locali.

  • Molte valutazioni non riuscite: riduci la contemporaneità per ridurre lo spreco di risorse di calcolo.

  • Valutazioni lente (superiori a 5 minuti): una contemporaneità più elevata mantiene occupata la pipeline di valutazione.

  • Valutazioni rapide (meno di 10 secondi): una concorrenza inferiore consente alle generazioni successive di basarsi direttamente sui risultati delle altre.

Limiti di concorrenza ed esperimenti attivi

È importante distinguere tra la contemporaneità a livello di programma e i limiti degli esperimenti a livello di progetto:

  • Concorrenza del programma (concurrency): configurata in runSettings (tra 1 e 30), controlla il numero di programmi candidati generati e valutati contemporaneamente all'interno di un singolo esperimento.
  • Limite di esperimenti attivi: Un progetto è soggetto a un limite massimo di 30 attivi contemporaneamente (STARTED ORUNNING ) esperimenti per località. Se provi ad avviare o riprendere un esperimento oltre questo limite, viene restituito un errore RESOURCE_EXHAUSTED. Per risolvere il problema, interrompi o completa gli esperimenti in corso prima di avviarne di nuovi (la modifica di concurrency all'interno di un esperimento non modifica il numero di esperimenti attivi).