Pendekatan pemberian skor

Terapkan prinsip arsitektur berikut saat menentukan cara memberi skor, menormalisasi, dan menghukum entri kode kandidat dalam harness evaluasi Anda.

Memaksimalkan tujuan secara langsung

AlphaEvolve secara eksklusif melakukan penelusuran pemaksimalan, memperlakukan setiap target pengoptimalan sebagai tugas hill-climbing. Untuk meminimalkan metrik seperti latensi atau tingkat error, Anda harus menegasikan nilai akhir yang dihitung: score = -latency_ms # AE maximizes -> minimizes latency.

Mempertahankan monotonisitas fungsi yang ketat

Pastikan Anda hanya menerapkan fungsi penskoran monoton. Skor numerik yang ditampilkan harus meningkat secara konsisten seiring dengan peningkatan solusi kandidat. Memasukkan skor non-monotonik akan menurunkan performa penelusuran dan menimbulkan inkonsistensi logis ke dalam jalur pengoptimalan.

Memberikan metrik yang mendetail dan terperinci

Skor mendetail secara langsung meningkatkan kualitas penelusuran secara keseluruhan. Bahkan saat mengoptimalkan satu tujuan bisnis inti, menyertakan metrik sekunder atau proxy membantu AlphaEvolve menavigasi ruang penelusuran yang kompleks secara lebih efektif. Teruskan subskor individual kembali ke sistem sebagai insight terstruktur sehingga LLM dapat secara eksplisit menalar kompromi performa di seluruh generasi.

Memberikan reward untuk keberhasilan parsial daripada hasil yang jarang

Berikan reward untuk keberhasilan sebagian, bukan hanya mengandalkan hasil akhir atau biner. Selalu prioritaskan sinyal penskoran padat daripada sinyal penskoran jarang.

Tujuan biner atau beresolusi rendah (misalnya, melacak pertandingan yang dimenangkan dalam masalah game berbasis turnamen) menciptakan plateau performa yang masif, di mana beberapa kandidat seri. Perilaku ini mencegah AlphaEvolve membedakan solusi yang hampir tepat dari solusi yang buruk, sehingga menghentikan loop pemilihan induk.

Untuk mempertahankan arah gradien penelusuran:

  • Tambahkan subsinyal yang mendetail: Ukur progres inkremental menuju sasaran akhir (seperti poin individu yang dicetak dalam pertandingan) sehingga AlphaEvolve dapat memberi peringkat pada kandidat yang seri dan melakukan hill-climbing menuju ruang solusi yang menjanjikan.

  • Selaraskan bobot dan penyelarasan dengan cermat: Pastikan subsinyal diselaraskan secara monoton dengan tujuan sebenarnya dan diberi bobot dengan aman di bawahnya. Jika tidak diberi bobot dengan benar, AlphaEvolve akan mengoptimalkan metrik proxy dengan mengorbankan sasaran sebenarnya (menyebabkan reward hack).

Misalnya, buat fungsi tujuan skalar menggunakan poin sebagai penentu kemenangan yang logis: use score = matches_won + w * (points_scored / points_possible).

Konfigurasikan batasan bobot ke w < 1 sehingga kemenangan terminal tambahan selalu mengungguli akumulasi poin dalam pertandingan, sehingga memperlakukan sub-sinyal secara ketat sebagai penentu kemenangan.

Mulai dengan satu tujuan

Pertimbangkan untuk memulai penerapan Anda dengan satu fungsi tujuan. Meskipun pengoptimalan multi-tujuan dengan pelacakan batas Pareto yang komprehensif didukung sepenuhnya secara native dalam database, dengan MAP-Elites melacak program terbaik per metrik dan sistem mempertahankan batas Pareto yang berjalan di semua metrik, satu tujuan skalar jauh lebih mudah untuk dipahami dan di-debug selama deployment awal. Jika masalah Anda memerlukan beberapa tujuan, Anda dapat menggabungkannya menjadi satu skalar berbobot atau memanfaatkan alat pelacakan multi-metrik sejak awal.

Menskalakan ulang dan menormalisasi sebelum menggabungkan

Terapkan penyeimbangan skala yang ketat di seluruh metrik Anda untuk menghindari bias pengoptimalan:

  • Menskalakan ulang di seluruh rentang: Menormalkan metrik ke rentang yang sebanding sebelum menggabungkannya. Menggabungkan skor terbatas (mulai dari 0 hingga 1) dan skor tidak terbatas (mulai dari 0 hingga infinity) tanpa penskalaan ulang yang eksplisit akan menyebabkan metrik tidak terbatas mendominasi lanskap kesesuaian.

  • Lebih memilih struktur aditif daripada kombinasi multiplikatif: Tujuan multiplikatif dapat menjadi sangat sensitif terhadap variasi kecil dalam penyebut, sehingga mengorbankan akurasi dan stabilitas penelusuran. Sebagai gantinya, terapkan jumlah tertimbang aditif: w1*A - w2*L - w3*M. Format ini memungkinkan penyesuaian bobot yang mudah per parameter performa.

  • Normalisasi relatif terhadap nilai awal: Untuk mencegah perbedaan skala mendistorsi jalur penelusuran Anda, bagi setiap metrik dengan nilai dasar awal masing-masing sehingga semua metrik dimulai pada nilai dasar 1.0 sebelum Anda menerapkan bobot dan menggabungkannya.

Memperkuat perbedaan numerik minimal

Perbedaan skor numerik yang kecil mungkin tidak memberikan sinyal pengoptimalan yang berguna bagi LLM yang mendasarinya. Jika kandidat yang kuat mendapatkan skor 1e-7 dan kandidat yang lebih lemah mendapatkan skor 1e-8, LLM mungkin tidak dapat membedakan keduanya secara signifikan saat meninjau konteks. Skalakan ulang skor akhir Anda ke rentang yang jelas dan dapat dibaca manusia (seperti 0 hingga 100) sehingga peningkatan kode inkremental menjadi jelas secara numerik dalam perintah pembuatan.