評估工具實作模式

為 AlphaEvolve 評估架構設計評估指標時,請建立下列三個不同的測試層級。

第 1 級:解決方案驗證測試

這些測試會在完整執行前,驗證基本程式碼執行安全性和政策遵循情況。

  • 執行安全性:確認程式碼是否會執行。包括檢查語法、編譯時間、執行靜態分析,以及檢查基礎架構相容性。

  • 執行政策:決定是否要執行程式碼,即使程式碼可正常運作。包括 Linting、一般程式碼品質檢查、資訊安全審查、風險和法規遵循驗證,以及 API 供應鏈檢查。

注意事項:

  • 如果驗證失敗,請傳回高負分,例如 -10000 或 -100000。AlphaEvolve 會忽略這些程式。

  • 請附上失敗類型和記錄,以利除錯。雖然 AlphaEvolve 不會將這項中繼資料做為搜尋信號,但這項資料有助於事後分析失敗模式。

第 2 級:解決方案驗證測試

這些測試會使用單元和功能測試,驗證演算法的正確性,以及是否符合限制。

  • 功能準確性:使用單元和功能測試,驗證程式碼是否正常運作。

  • 限制遵循:驗證解決方案的可行性或限制滿足度。

  • 減少獎勵遭濫用:將驗證分數套用為適應度函式的負面懲罰,防止獎勵遭濫用。斷言分數為 -10000 或 -100000,可做為有效的懲罰。

注意事項:

  • 傳回通過的測試數量或百分比。這個方法會提供漸層信號;如果程式通過 5 項測試中的 4 項,系統會認定該程式比通過 0 項測試的程式更接近正確答案。

  • 將驗證視為滿足軟限制。即使是嚴格的系統限制,根據可行空間的鄰近程度將其表示為軟性處罰,也能為 AlphaEvolve 提供比二進位通過或失敗更具參考價值的搜尋信號。

第 3 級:解決方案評估測試 (效能測試)

這些測試會根據最佳化目標類型,評估客觀成效指標。

  • 直接評估:在檢測允許的情況下,直接追蹤目標。

  • 確定性估算:以分析方式計算目標,適用於傳統作業研究風格。

  • 樣本外驗證:針對涉及機器學習管道最佳化或代理駕馭系統調整的使用案例,根據驗證資料集進行測試。

  • 模擬預估:使用馬可夫鏈蒙地卡羅 (MCMC) 模擬、貝氏最佳化類型代理函式,或其他以模型為基礎的方法。

注意事項:

  • 傳回精細和匯總分數。

  • 請勿將分數計算工作交給 LLM,而是在評估工具架構中以確定性方式計算。AlphaEvolve 會根據這些預先計算的總體成效分數,進行爬山賽。

  • 部分抵免額會提供梯度信號,加速搜尋收斂。舉例來說,如果程式通過 5 項測試中的 4 項,應獲得 0.8 分,而非 None 分。傳回 None 會導致 AlphaEvolve 完全忽略程式,無法提供實用的意見回饋。0.8 分表示候選提示接近正確,且有最佳化潛力。