為 AlphaEvolve 評估架構設計評估指標時,請建立下列三個不同的測試層級。
第 1 級:解決方案驗證測試
這些測試會在完整執行前,驗證基本程式碼執行安全性和政策遵循情況。
執行安全性:確認程式碼是否執行。包括檢查語法、編譯時間、執行靜態分析,以及檢查基礎架構相容性。
執行政策:決定是否要執行程式碼,即使程式碼可正常運作。包括 Lint 檢查、一般程式碼品質檢查、資訊安全審查、風險和法規遵循驗證,以及 API 供應鏈檢查。
注意事項:
如果驗證失敗,請傳回高負分數,例如
-10000或-100000。AlphaEvolve 會忽略這些程式。請附上失敗類型和記錄,以便偵錯。雖然 AlphaEvolve 不會將這項中繼資料做為搜尋信號,但對於失敗模式的事後分析很有幫助。
第 2 級:解決方案驗證測試
這些測試會使用單元和功能測試,驗證演算法正確性及是否遵守限制。
功能準確度:使用單元和功能測試,驗證程式碼是否正常運作。
限制遵循:驗證解決方案的可行性或限制滿足度。
獎勵駭客攻擊緩解措施:將驗證分數做為負面懲罰套用至適應度函式,防止獎勵駭客攻擊。斷言分數為
-10000或-100000,可做為有效的懲罰。
注意事項:
傳回通過測試的數量或百分比。這種方法會提供梯度信號;如果程式通過 5 項測試中的 4 項,就會被視為比通過 0 項測試的程式更接近正確。
將驗證視為軟限制滿足。即使是硬性系統限制,只要根據與可行空間的接近程度,將其表示為軟性懲罰,AlphaEvolve 就能獲得比二進位通過或失敗更具操作性的搜尋信號。
第 3 級:解決方案評估測試 (效能測試)
這些測試會根據最佳化目標類型,評估客觀成效指標。
直接評估:在檢測允許的情況下,直接追蹤目標。
確定性預估:以分析方式計算傳統作業研究樣式的目標。
樣本外驗證:針對涉及機器學習管道最佳化或代理駕馭系統調整的使用案例,使用驗證資料集進行測試。
模擬預估:使用馬可夫鏈蒙地卡羅 (MCMC) 模擬、貝氏最佳化類型代理函式,或其他以模型為基礎的方法。
注意事項:
傳回精細和匯總分數。
請勿將分數計算作業交給 LLM,而是在評估工具架構中以確定性方式計算。AlphaEvolve 會根據這些預先計算的匯總成效分數,進行爬坡演算法。
部分抵免額會提供梯度信號,加快搜尋收斂速度。舉例來說,如果程式通過 5 項測試中的 4 項,應獲得
0.8分,而非None分。傳回None會導致 AlphaEvolve 完全忽略程式,無法提供實用意見回饋。分數為0.8表示候選提示接近正確,且有最佳化潛力。