評估工具實作模式

為 AlphaEvolve 評估架構設計評估指標時,請建立下列三個不同的測試層級。

第 1 級:解決方案驗證測試

這些測試會在完整執行前,驗證基本程式碼執行安全性和政策遵循情況。

  • 執行安全性:確認程式碼是否執行。包括檢查語法、編譯時間、執行靜態分析,以及檢查基礎架構相容性。

  • 執行政策:決定是否要執行程式碼,即使程式碼可正常運作。包括 Lint 檢查、一般程式碼品質檢查、資訊安全審查、風險和法規遵循驗證,以及 API 供應鏈檢查。

注意事項:

  • 如果驗證失敗,請傳回高負分數,例如 -10000 或 -100000。AlphaEvolve 會忽略這些程式。

  • 請附上失敗類型和記錄,以便偵錯。雖然 AlphaEvolve 不會將這項中繼資料做為搜尋信號,但對於失敗模式的事後分析很有幫助。

第 2 級:解決方案驗證測試

這些測試會使用單元和功能測試,驗證演算法正確性及是否遵守限制。

  • 功能準確度:使用單元和功能測試,驗證程式碼是否正常運作。

  • 限制遵循:驗證解決方案的可行性或限制滿足度。

  • 獎勵駭客攻擊緩解措施:將驗證分數做為負面懲罰套用至適應度函式,防止獎勵駭客攻擊。斷言分數為 -10000 或 -100000,可做為有效的懲罰。

注意事項:

  • 傳回通過測試的數量或百分比。這種方法會提供梯度信號;如果程式通過 5 項測試中的 4 項,就會被視為比通過 0 項測試的程式更接近正確。

  • 將驗證視為軟限制滿足。即使是硬性系統限制,只要根據與可行空間的接近程度,將其表示為軟性懲罰,AlphaEvolve 就能獲得比二進位通過或失敗更具操作性的搜尋信號。

第 3 級:解決方案評估測試 (效能測試)

這些測試會根據最佳化目標類型,評估客觀成效指標。

  • 直接評估:在檢測允許的情況下,直接追蹤目標。

  • 確定性預估:以分析方式計算傳統作業研究樣式的目標。

  • 樣本外驗證:針對涉及機器學習管道最佳化或代理駕馭系統調整的使用案例,使用驗證資料集進行測試。

  • 模擬預估:使用馬可夫鏈蒙地卡羅 (MCMC) 模擬、貝氏最佳化類型代理函式,或其他以模型為基礎的方法。

注意事項:

  • 傳回精細和匯總分數。

  • 請勿將分數計算作業交給 LLM,而是在評估工具架構中以確定性方式計算。AlphaEvolve 會根據這些預先計算的匯總成效分數,進行爬坡演算法。

  • 部分抵免額會提供梯度信號,加快搜尋收斂速度。舉例來說,如果程式通過 5 項測試中的 4 項,應獲得 0.8 分,而非 None 分。傳回 None 會導致 AlphaEvolve 完全忽略程式,無法提供實用意見回饋。分數為 0.8 表示候選提示接近正確,且有最佳化潛力。