AlphaEvolve の評価ハーネスの論理アーキテクチャ

AlphaEvolve 評価ハーネスは、決定論的な実行パイプラインを介して、候補コードの更新を体系的に処理する必要があります。ハーネスは、ソリューションを一度に実行して評価するのではなく、パイプラインを次の 3 つの段階的なテストゲートに分割します。

  1. ソリューション バリデーション

  2. ソリューションの検証

  3. ソリューション評価

評価ゲート

次の図は、候補プログラムが 3 つの異なるテスト階層を通過し、構造化されたメタデータを AlphaEvolve に返すまでの流れを示しています。

評価ハーネス内の論理フロー

ソリューション検証

評価ループは、コードのコアロジックを実行せずに、厳格な構造上の制約を適用することから始まります。ハーネスは、候補ソリューションの基本的なコンパイル時の構文の正確性、解析バグ、構造的なセキュリティ違反をチェックします。

  • 成功パス: プログラムがすべての検証チェックに合格すると、コードはソリューション検証ランタイム ループに安全に進みます。

  • 失敗パス(ショート サーキット): 検証テストが失敗すると、ハーネスは直ちに実行を中断します。リソースを大量に消費する検証とパフォーマンス テストの層を完全にバイパスして、システム インフラストラクチャを保護します。ループはフィードバックの生成に直接ドロップし、ゼロ値のパフォーマンス スコアとともに、大規模なフラット検索ペナルティ(-1e12 など)をアサートします。

ソリューションの検証

候補プログラムが構文的に健全で安全に実行できることが検証されると、ハーネスは隔離された環境内で候補プログラムを起動し、ソフトな機能制約を適用します。このフェーズでは、標準の単体テストと機能の正確性チェックを実行します。

ハーネスは、合格または不合格のバイナリ信号を出力するのではなく、合格した機能テストの正確な数または割合に基づいてプログラムを評価します。これは全体的なペナルティ スコアにカウントされ、AlphaEvolve に密な数値検索勾配を提供して、連続する世代にわたって破損したロジック構造を段階的に修正します。

ソリューション評価

候補プログラムが構文的に安全で、アルゴリズム的に正しいことが証明されると、パフォーマンス ベンチマーク レイヤに到達します。

ハーネスは、経験的テスト、直接的なプロダクト ロジック計算、分析シミュレーションを実行して、ターゲット ビジネス最適化指標(アルゴリズムの実行速度、クラウド インフラストラクチャのメモリ使用量、出力キャリブレーション境界など)を定量化します。

総合的な評価のフィードバック

実行パイプラインの最後に、ハーネスは完了したすべてのフェーズのデータを構造化されたフィードバック ペイロードに集約します。このペイロードは AlphaEvolve に直接返され、後続のミューテーションの親の選択をガイドします。

標準化されたフィードバック出力は、次の 3 つの主要なコンポーネントで構成されています。

  1. 全体的な山登りスコア: AlphaEvolve が最適化中に直接最大化するハーネスによって決定論的に計算される、単一の結合スカラー値。

  2. きめ細かい最適化スコアとペナルティ: 個々のサブ指標、実行時間、ソフト制約ペナルティの内訳。この明示的なデータ分散により、エンジンは基盤となるエンジニアリングのトレードオフを明確に推論できます。

  3. テキスト分析情報: 未加工の構造ログと障害モードの詳細が、今後のプロンプト コンテキストに渡されます。これにより、LLM は生成エラーから明示的に学習できます。