Dokumen ini memberikan panduan untuk membantu Anda memilih pola desain untuk sistem AI agentic Anda. Pola desain agen adalah pendekatan arsitektur umum untuk membangun aplikasi agentic. Pola desain agen menawarkan framework yang berbeda untuk mengatur komponen sistem, mengintegrasikan model, dan mengorkestrasi satu agen atau beberapa agen untuk menyelesaikan alur kerja.
Agen AI efektif untuk aplikasi yang memecahkan masalah terbuka, yang mungkin memerlukan pengambilan keputusan otonom dan pengelolaan alur kerja multilangkah yang kompleks. Agen unggul dalam memecahkan masalah secara real-time menggunakan data eksternal dan unggul dalam mengotomatiskan tugas-tugas yang memerlukan banyak pengetahuan. Agen AI cocok digunakan saat Anda memerlukan AI untuk menyelesaikan tugas yang berfokus pada sasaran dengan tingkat otonomi tertentu. Untuk kasus penggunaan lainnya, Anda dapat menggunakan aplikasi AI generatif dan pendukung. Untuk mempelajari perbedaan antara agen AI dan aplikasi AI non-agentic, lihat Apa perbedaan antara agen AI, asisten AI, dan bot?
Panduan ini mengasumsikan bahwa Anda memiliki pengetahuan dasar tentang sistem AI agentic dan perbedaan arsitekturnya dengan sistem non-agentic, seperti sistem yang menggunakan penalaran model langsung atau retrieval-augmented generation (RAG).
Untuk ringkasan panduan pola agen, lihat bagian membandingkan pola desain nanti dalam dokumen ini.
Ringkasan proses desain
Berikut adalah langkah-langkah umum untuk memilih pola desain untuk sistem AI agentic Anda. Langkah-langkah ini dijelaskan secara mendetail nanti dalam dokumen ini.
- Tentukan persyaratan Anda: Nilai karakteristik workload Anda,termasuk kompleksitas tugas, ekspektasi latensi dan performa, anggaran biaya, dan kebutuhan akan keterlibatan manusia.
- Tinjau pola desain agen umum: Pelajari pola desain umum dalam panduan ini, yang mencakup sistem agen tunggal dan sistem multi-agen.
- Pilih pola: Pilih pola desain yang sesuai berdasarkan karakteristik workload Anda.
Proses ini bukanlah keputusan satu kali. Anda harus meninjau kembali langkah-langkah ini secara berkala untuk menyempurnakan arsitektur seiring perubahan karakteristik workload, perkembangan persyaratan, atau ketersediaan fitur Google Cloud baru.
Menentukan persyaratan Anda
Pertanyaan berikut bukan checklist lengkap untuk perencanaan. Gunakan pertanyaan ini sebagai titik awal untuk mengidentifikasi tujuan utama sistem agentic Anda dan memilih pola desain terbaik.
- Karakteristik tugas: Apakah tugas Anda dapat diselesaikan dalam langkah-langkah alur kerja yang telah ditentukan atau apakah tugas tersebut bersifat terbuka? Apakah tugas Anda perlu menggunakan model AI untuk mengorkestrasi alur kerja?
- Latensi dan performa: Apakah Anda perlu memprioritaskan respons yang cepat atau interaktif dengan mengorbankan akurasi atau respons berkualitas tinggi? Atau, dapatkah aplikasi Anda menoleransi penundaan untuk mencapai hasil yang lebih akurat atau menyeluruh?
- Biaya: Berapa anggaran Anda untuk biaya inferensi? Dapatkah Anda mendukung pola yang memerlukan beberapa panggilan ke model untuk satu permintaan?
- Keterlibatan manusia: Apakah tugas Anda melibatkan keputusan berisiko tinggi, operasi yang sangat penting bagi keselamatan, atau persetujuan subjektif yang memerlukan penilaian manusia?
Jika workload Anda dapat diprediksi atau sangat terstruktur, atau jika dapat dijalankan dengan satu panggilan ke model AI, akan lebih hemat biaya untuk mengeksplorasi solusi non-agen untuk tugas Anda. Misalnya, Anda mungkin tidak memerlukan alur kerja agentic untuk tugas seperti meringkas dokumen, menerjemahkan teks, atau mengklasifikasikan masukan pelanggan. Untuk mengetahui informasi tentang cara memilih komponen arsitektur untuk aplikasi AI generatif yang tidak memerlukan infrastruktur agentic, lihat Memilih model dan infrastruktur untuk aplikasi AI generatif Anda.
Bagian berikut menjelaskan pola desain agen umum untuk membangun sistem AI agentic yang andal dan efektif.
Sistem agen tunggal
Sistem agen tunggal menggunakan model AI, serangkaian alat yang ditentukan, dan perintah sistem yang komprehensif untuk menangani permintaan pengguna secara mandiri atau untuk menyelesaikan tugas tertentu. Dalam pola dasar ini, agen mengandalkan kemampuan penalaran model untuk menafsirkan permintaan pengguna, merencanakan urutan langkah, dan memutuskan alat mana yang akan digunakan dari kumpulan yang ditentukan. Perintah sistem membentuk perilaku agen dengan menentukan tugas inti, persona, dan operasinya, serta kondisi spesifik untuk menggunakan setiap alat.
Diagram berikut menunjukkan tampilan tingkat tinggi dari pola agen tunggal:
Sistem agen tunggal ideal untuk tugas yang memerlukan beberapa langkah dan akses ke data eksternal. Misalnya, agen dukungan pelanggan harus mengkueri database untuk menemukan status pesanan, atau asisten riset perlu memanggil API untuk meringkas berita terbaru. Sistem non-agentic tidak dapat melakukan tugas ini karena tidak dapat menggunakan alat secara mandiri atau menjalankan rencana multilangkah untuk menyintesis jawaban akhir.
Jika Anda baru memulai pengembangan agen, sebaiknya mulai dengan satu agen. Saat memulai pengembangan agen dengan sistem agen tunggal, Anda dapat berfokus untuk menyempurnakan logika inti, perintah, dan definisi alat agen sebelum menambahkan komponen arsitektur yang lebih kompleks.
Performa satu agen dapat menjadi kurang efektif jika menggunakan lebih banyak alat dan saat tugas menjadi lebih kompleks. Anda mungkin mengamati hal ini sebagai peningkatan latensi, pemilihan atau penggunaan alat yang salah, atau kegagalan dalam menyelesaikan tugas. Anda sering kali dapat mengurangi masalah ini dengan menyempurnakan proses penalaran agen menggunakan teknik seperti pola Reason and Act (ReAct). Namun, jika alur kerja Anda mengharuskan agen mengelola beberapa tanggung jawab yang berbeda, teknik ini mungkin tidak cukup. Untuk kasus ini, pertimbangkan sistem multi-agen, yang dapat meningkatkan ketahanan dan performa dengan mendelegasikan keterampilan tertentu kepada agen khusus.
Sistem multi-agen
Sistem multi-agen mengorkestrasi beberapa agen khusus untuk memecahkan masalah kompleks yang tidak dapat dikelola dengan mudah oleh satu agen. Prinsip intinya adalah menguraikan tujuan besar menjadi sub-tugas yang lebih kecil dan menetapkan setiap sub-tugas ke agen khusus dengan keterampilan tertentu. Agen-agen ini kemudian berinteraksi melalui alur kerja kolaboratif atau hierarkis untuk mencapai sasaran akhir. Pola multi-agen menyediakan desain modular yang dapat meningkatkan skalabilitas, keandalan, dan kemudahan pemeliharaan sistem secara keseluruhan dibandingkan dengan agen tunggal dengan perintah monolitik.
Dalam sistem multi-agen, setiap agen memerlukan konteks tertentu untuk menjalankan tugasnya secara efektif. Konteks dapat mencakup dokumentasi, preferensi historis, link yang relevan, histori percakapan, atau batasan operasional apa pun. Proses pengelolaan alur informasi ini disebut rekayasa konteks. Rekayasa konteks mencakup strategi seperti mengisolasi konteks untuk agen tertentu, mempertahankan informasi di beberapa langkah, atau mengompresi data dalam jumlah besar untuk meningkatkan efisiensi.
Agen AI menimbulkan risiko keamanan unik dan kritis tertentu yang mungkin tidak dapat dimitigasi secara memadai oleh praktik keamanan deterministik konvensional. Gunakan Agent Gateway untuk pemilihan rute dan keamanan traffic ingress dan egress, Agent Identity untuk autentikasi terikat workload dan kontrol akses dengan hak istimewa terendah, serta Agent Registry untuk membantu memastikan bahwa alat dan subagen yang digunakan telah diverifikasi.
Panduan di bagian ini tidak lengkap. Untuk mengetahui informasi selengkapnya tentang faktor desain dan praktik terbaik, serta rekomendasi tentang cara membangun dan men-deploy sistem AI multi-agen, lihat Sistem AI multi-agen di Google Cloud.
Pola berurutan
Pola berurutan multi-agen menjalankan serangkaian agen khusus dalam urutan linear yang telah ditentukan, dengan output dari satu agen berfungsi sebagai input langsung untuk agen berikutnya. Pola ini menggunakan agen alur kerja berurutan yang beroperasi pada logika yang telah ditentukan tanpa harus berkonsultasi dengan model AI untuk orkestrasi subagennya.
Diagram berikut menunjukkan tampilan tingkat tinggi dari pola berurutan multi-agen:
Gunakan pola berurutan untuk proses yang sangat terstruktur dan dapat diulang, dengan urutan operasi yang tidak berubah. Misalnya, pipeline pemrosesan data mungkin menggunakan pola ini untuk meminta agen ekstraksi data mengambil data mentah terlebih dahulu, lalu meneruskan data tersebut ke agen pembersihan data untuk diformat, yang kemudian meneruskan data bersih ke agen pemuatan data untuk disimpan dalam database.
Pola berurutan dapat mengurangi latensi dan biaya operasional dibandingkan dengan pola yang menggunakan model AI untuk mengatur alur kerja tugas. Namun, efisiensi ini mengorbankan fleksibilitas. Struktur pipeline yang kaku dan telah ditentukan sebelumnya membuatnya sulit untuk beradaptasi dengan kondisi dinamis atau melewati langkah-langkah yang tidak perlu, yang dapat menyebabkan pemrosesan yang tidak efisien atau menyebabkan latensi kumulatif yang lebih tinggi jika langkah yang tidak diperlukan berjalan lambat.
Pola paralel
Pola paralel multi-agen, juga dikenal sebagai pola serentak, beberapa sub-agen khusus melakukan tugas atau sub-tugas secara independen pada saat yang sama. Output sub-agen kemudian disintesis untuk menghasilkan respons gabungan akhir. Serupa dengan pola berurutan, pola paralel menggunakan agen alur kerja paralel untuk mengelola cara dan waktu agen lain berjalan tanpa harus berkonsultasi dengan model AI untuk mengorkestrasi sub-agennya.
Diagram berikut menunjukkan tampilan tingkat tinggi dari pola paralel multi-agen:
Gunakan pola paralel saat sub-tugas dapat dijalankan secara serentak untuk mengurangi latensi atau mengumpulkan beragam perspektif, seperti mengumpulkan data dari berbagai sumber atau mengevaluasi beberapa opsi sekaligus. Misalnya, untuk menganalisis masukan pelanggan, agen paralel dapat menyebarkan satu entri masukan ke empat agen khusus secara bersamaan: agen analisis sentimen, agen ekstraksi kata kunci, agen kategorisasi, dan agen deteksi urgensi. Agen terakhir mengumpulkan keempat output ini menjadi satu analisis komprehensif dari masukan tersebut.
Pola paralel dapat mengurangi latensi keseluruhan dibandingkan dengan pendekatan sekuensial karena dapat mengumpulkan beragam informasi dari beberapa sumber pada saat yang sama. Namun, pendekatan ini menimbulkan kompromi dalam hal biaya dan kompleksitas. Menjalankan beberapa agen secara paralel dapat meningkatkan pemanfaatan resource langsung dan konsumsi token, yang menyebabkan biaya operasional yang lebih tinggi. Selain itu, langkah pengumpulan memerlukan logika yang kompleks untuk menyintesis hasil yang berpotensi bertentangan, sehingga menambah beban pengembangan dan pemeliharaan sistem.
Pola loop
Pola agen loop multi-agen berulang kali menjalankan urutan subagen khusus hingga kondisi penghentian tertentu terpenuhi. Pola ini menggunakan agen alur kerja loop yang, seperti agen alur kerja lainnya, beroperasi berdasarkan logika yang telah ditentukan tanpa berkonsultasi dengan model AI untuk orkestrasi. Setelah semua sub-agen menyelesaikan tugasnya, agen loop akan mengevaluasi apakah kondisi keluar terpenuhi. Kondisi ini dapat berupa jumlah iterasi maksimum atau status kustom. Jika kondisi keluar tidak terpenuhi, agen loop akan memulai urutan sub-agen lagi. Anda dapat menerapkan pola loop yang mengevaluasi kondisi keluar di titik mana pun dalam alur. Gunakan pola loop untuk tugas yang memerlukan penyempurnaan iteratif atau koreksi mandiri, seperti membuat konten dan meminta agen pengkritik meninjaunya hingga memenuhi standar kualitas.
Diagram berikut menunjukkan tampilan umum pola loop multi-agen:
Pola agen loop menyediakan cara untuk membangun alur kerja yang kompleks dan iteratif. Hal ini memungkinkan agen menyempurnakan pekerjaan mereka sendiri dan melanjutkan pemrosesan hingga kualitas atau status tertentu tercapai. Namun, konsekuensi utama pola ini adalah risiko loop tanpa akhir. Jika kondisi penghentian tidak ditentukan dengan benar atau jika sub-agen gagal menghasilkan status yang diperlukan untuk berhenti, loop dapat berjalan tanpa batas waktu. Hal ini dapat menyebabkan biaya operasional yang berlebihan, konsumsi resource yang tinggi, dan potensi hang sistem.
Pola peninjauan dan kritik
Pola kritik dan peninjauan multi-agen, yang juga dikenal sebagai pola generator dan kritikus, meningkatkan kualitas dan keandalan konten yang dihasilkan dengan menggunakan dua agen khusus, biasanya dalam alur kerja berurutan. Pola peninjauan dan kritik adalah implementasi dari pola agen loop.
Dalam pola peninjauan dan kritik, agen generator membuat output awal, seperti blok kode atau ringkasan dokumen. Selanjutnya, agen kritik mengevaluasi output ini berdasarkan serangkaian kriteria yang telah ditentukan, seperti akurasi faktual, kepatuhan terhadap aturan pemformatan, atau pedoman keamanan. Berdasarkan evaluasi, pengkritik dapat menyetujui konten, menolaknya, atau mengembalikannya ke generator dengan masukan untuk revisi.
Diagram berikut menunjukkan tampilan tingkat tinggi dari pola ulasan dan kritik multi-agen:
Pola ini cocok untuk tugas yang outputnya harus memiliki akurasi tinggi atau harus mematuhi batasan ketat sebelum ditampilkan kepada pengguna atau digunakan dalam proses downstream. Misalnya, dalam alur kerja pembuatan kode, agen generator mungkin menulis fungsi untuk memenuhi permintaan pengguna. Kode yang dihasilkan ini kemudian diteruskan ke agen kritik yang bertindak sebagai auditor keamanan. Tugas agen kritikus adalah memeriksa kode berdasarkan serangkaian batasan, seperti memindai kerentanan keamanan atau memverifikasi bahwa kode tersebut lulus semua pengujian unit, sebelum kode tersebut disetujui untuk digunakan.
Pola peninjau dan kritik dapat meningkatkan kualitas, akurasi, dan keandalan output karena menambahkan langkah verifikasi khusus. Namun, jaminan kualitas ini berdampak langsung pada peningkatan latensi dan biaya operasional. Alur kerja ini memerlukan setidaknya satu panggilan model tambahan untuk evaluasi kritik. Jika prosesnya mencakup loop revisi, yaitu konten dikirim kembali untuk disempurnakan, latensi dan biaya akan terakumulasi pada setiap iterasi.
Pola penyempurnaan iteratif
Pola penyempurnaan iteratif menggunakan mekanisme pengulangan untuk meningkatkan output secara progresif selama beberapa siklus. Pola penyempurnaan iteratif adalah implementasi dari pola agen loop.
Dalam pola ini, satu atau beberapa agen bekerja dalam loop untuk mengubah hasil yang disimpan dalam status sesi selama setiap iterasi. Proses ini berlanjut hingga output memenuhi batas kualitas yang telah ditentukan atau mencapai jumlah iterasi maksimum, yang mencegah loop tanpa batas.
Diagram berikut menunjukkan tampilan tingkat tinggi dari pola penyempurnaan iteratif multi-agen:
Pola ini cocok untuk tugas pembuatan yang kompleks, yang output-nya sulit dicapai dalam satu langkah. Contoh tugas tersebut mencakup menulis dan men-debug bagian kode, mengembangkan rencana multi-bagian yang mendetail, atau menyusun draf dan merevisi dokumen panjang. Misalnya, dalam alur kerja penulisan kreatif, agen dapat membuat draf postingan blog, mengkritik draf tersebut terkait alur dan nadanya, lalu menulis ulang draf berdasarkan kritik tersebut. Proses ini berulang dalam loop hingga pekerjaan agen memenuhi standar kualitas yang telah ditentukan atau hingga pengulangan mencapai jumlah iterasi maksimum.
Pola penyempurnaan iteratif dapat menghasilkan output yang sangat kompleks atau sempurna yang akan sulit dicapai dalam satu langkah. Namun, mekanisme pengulangan secara langsung meningkatkan latensi dan biaya operasional pada setiap siklus. Pola ini juga menambah kompleksitas arsitektur, karena memerlukan kondisi keluar yang dirancang dengan cermat—seperti evaluasi kualitas atau batas iterasi maksimum—untuk mencegah biaya berlebih atau eksekusi yang tidak terkontrol.
Pola koordinator
Pola koordinator multi-agen menggunakan agen pusat, yaitu koordinator, untuk mengarahkan alur kerja. Koordinator menganalisis dan menguraikan permintaan pengguna menjadi sub-tugas, lalu mengirimkan setiap sub-tugas ke agen khusus untuk dieksekusi. Setiap agen khusus adalah pakar dalam fungsi tertentu, seperti mengkueri database atau memanggil API.
Perbedaan pola koordinator adalah penggunaan model AI untuk mengatur dan merutekan tugas secara dinamis. Sebaliknya, pola paralel mengandalkan alur kerja hardcode untuk mengirimkan tugas untuk eksekusi simultan tanpa memerlukan orkestrasi model AI.
Diagram berikut menunjukkan tampilan tingkat tinggi dari pola koordinator multi-agen:
Gunakan pola koordinator untuk mengotomatiskan proses bisnis terstruktur yang memerlukan perutean adaptif. Misalnya, agen layanan pelanggan dapat bertindak sebagai koordinator. Agen koordinator menganalisis permintaan untuk menentukan apakah permintaan tersebut adalah permintaan status pesanan, pengembalian produk, atau permintaan pengembalian dana. Berdasarkan jenis permintaan, koordinator merutekan tugas ke agen khusus yang sesuai.
Pola koordinator menawarkan fleksibilitas dibandingkan dengan alur kerja yang lebih kaku dan telah ditentukan sebelumnya. Dengan menggunakan model untuk merutekan tugas, koordinator dapat menangani berbagai input yang lebih luas dan menyesuaikan alur kerja saat runtime. Namun, pendekatan ini juga memiliki konsekuensi. Karena koordinator dan setiap agen khusus mengandalkan model untuk penalaran, pola ini menghasilkan lebih banyak panggilan model daripada sistem agen tunggal. Meskipun pola koordinator dapat menghasilkan penalaran yang lebih berkualitas, pola ini juga meningkatkan throughput token, biaya operasional, dan latensi keseluruhan jika dibandingkan dengan sistem agen tunggal.
Pola dekomposisi tugas hierarkis
Pola dekomposisi tugas hierarkis multi-agen mengatur agen ke dalam hierarki multi-level untuk memecahkan masalah kompleks yang memerlukan perencanaan ekstensif. Pola dekomposisi tugas hierarkis adalah implementasi dari pola koordinator. Agen induk tingkat atas, atau root, menerima tugas yang kompleks dan bertanggung jawab untuk menguraikan tugas tersebut menjadi beberapa sub-tugas yang lebih kecil dan mudah dikelola. Agen root mendelegasikan setiap subtugas ke sub-agen khusus di level yang lebih rendah. Proses ini dapat berulang melalui beberapa lapisan, dengan agen yang secara progresif menguraikan tugas yang diberikan hingga dapat dieksekusi langsung oleh agen pekerja di tingkat terendah.
Diagram berikut menunjukkan tampilan tingkat tinggi dari pola dekomposisi tugas hierarkis multi-agen:
Gunakan pola dekomposisi tugas hierarkis untuk masalah yang ambigu dan terbuka yang memerlukan penalaran multi-langkah, seperti tugas yang melibatkan riset, perencanaan, dan sintesis. Misalnya, untuk menyelesaikan project riset yang kompleks, agen koordinator menguraikan sasaran tingkat tinggi menjadi beberapa tugas seperti mengumpulkan informasi, menganalisis temuan, dan menyintesis laporan akhir. Agen koordinator kemudian mendelegasikan tugas tersebut ke subagen khusus, seperti agen untuk pengumpulan data, agen analisis, dan agen yang menulis laporan, untuk dieksekusi atau diuraikan lebih lanjut.
Pola dekomposisi tugas hierarkis ideal untuk memecahkan masalah yang sangat kompleks dan ambigu karena secara sistematis menguraikannya menjadi subtugas yang dapat dikelola. Pola ini dapat menghasilkan hasil yang lebih komprehensif dan berkualitas lebih tinggi daripada pola yang lebih sederhana. Namun, kemampuan tingkat lanjut ini menimbulkan konsekuensi yang signifikan. Struktur multi-level menambah kompleksitas arsitektur yang signifikan, sehingga sistem lebih sulit dirancang, di-debug, dan dikelola. Beberapa lapisan delegasi dan penalaran juga menghasilkan jumlah panggilan model yang tinggi, yang secara signifikan meningkatkan latensi keseluruhan dan biaya operasional dibandingkan dengan pola lainnya.
Pola gerombolan
Pola swarm multi-agen menggunakan pendekatan komunikasi kolaboratif, all-to-all. Dalam pola ini, beberapa agen khusus bekerja sama untuk secara berulang meningkatkan solusi untuk masalah yang kompleks.
Diagram berikut menunjukkan tampilan umum pola swarm multi-agen:
Pola swarm menggunakan agen dispatcher untuk mengarahkan permintaan pengguna ke grup kolaboratif agen khusus. Agen dispatcher menafsirkan permintaan dan menentukan agen mana dalam swarm yang paling cocok untuk memulai tugas. Dalam pola ini, setiap agen dapat berkomunikasi dengan agen lainnya, sehingga mereka dapat berbagi temuan, mengkritik proposal, dan saling mengembangkan pekerjaan satu sama lain untuk menyempurnakan solusi secara iteratif. Setiap agen dalam swarm dapat menyerahkan tugas kepada agen lain yang dianggap lebih cocok untuk menangani langkah berikutnya, atau dapat mengomunikasikan respons akhir kembali kepada pengguna melalui agen koordinator.
Swarm biasanya tidak memiliki supervisor pusat atau agen koordinator untuk menjaga proses tetap berjalan sesuai rencana. Agen dispatcher tidak mengorkestrasi alur kerja agentic, tidak seperti pola koordinator. Sebagai gantinya, agen dispatcher memfasilitasi komunikasi antara subagen swarm dan pengguna. Untuk memastikan swarm pada akhirnya berhenti dan menampilkan hasil, Anda harus menentukan kondisi keluar yang eksplisit. Kondisi ini sering kali berupa jumlah iterasi maksimum, batas waktu, atau pencapaian sasaran tertentu, seperti mencapai konsensus.
Gunakan pola swarm untuk masalah yang ambigu atau sangat kompleks yang memerlukan perdebatan dan penyempurnaan iteratif. Misalnya, mendesain produk baru dapat melibatkan agen periset pasar, agen engineering, dan agen pemodelan keuangan. Agen akan berbagi ide awal, memperdebatkan konsekuensi antara fitur dan biaya, dan secara kolektif menyepakati spesifikasi desain akhir yang menyeimbangkan semua persyaratan yang bersaing.
Pola swarm menyimulasikan tim pakar yang kolaboratif, sehingga dapat menghasilkan solusi yang sangat kreatif dan berkualitas tinggi. Namun, pola ini merupakan pola multi-agen yang paling kompleks dan mahal untuk diterapkan. Tidak adanya agen yang menggunakan model AI untuk melakukan orkestrasi dapat menimbulkan risiko loop yang tidak produktif atau kegagalan dalam mencapai solusi. Oleh karena itu, Anda harus mendesain logika yang canggih untuk mengelola komunikasi antar-agen yang rumit, mengontrol alur kerja iteratif, serta menangani biaya operasional dan latensi yang signifikan yang terkait dengan menjalankan percakapan dinamis dan multi-giliran antara beberapa agen.
Pola penalaran dan tindakan (ReAct)
Pola ReAct adalah pendekatan yang menggunakan model AI untuk menyusun proses pemikiran dan tindakannya sebagai urutan interaksi bahasa alami. Dalam pola ini, agen beroperasi dalam loop berulang yang terdiri dari pemikiran, tindakan, dan pengamatan hingga kondisi keluar terpenuhi.
- Thought: Model akan menalar tugas dan memutuskan tindakan yang akan dilakukan selanjutnya. Model mengevaluasi semua informasi yang telah dikumpulkannya untuk menentukan apakah permintaan pengguna telah dijawab sepenuhnya.
- Tindakan: Berdasarkan proses berpikirnya, model akan mengambil salah satu dari dua tindakan:
- Jika tugas belum selesai, agen akan memilih alat, lalu membuat kueri untuk mengumpulkan informasi lebih lanjut.
- Jika tugas selesai, agen akan merumuskan jawaban akhir untuk dikirim kepada pengguna, yang mengakhiri loop.
- Observasi: Model menerima output dari alat dan menyimpan informasi yang relevan dalam memorinya. Karena model menyimpan output yang relevan, model dapat membangun pengamatan sebelumnya, yang membantu mencegah model mengulangi dirinya sendiri atau kehilangan konteks.
Loop iteratif berakhir saat agen menemukan jawaban yang meyakinkan, mencapai jumlah iterasi maksimum yang telah ditetapkan, atau mengalami error yang mencegahnya melanjutkan. Loop berulang ini memungkinkan agen membangun rencana secara dinamis, mengumpulkan bukti, dan menyesuaikan pendekatannya saat berupaya menemukan jawaban akhir.
Diagram berikut menunjukkan tampilan umum pola ReAct:
Gunakan pola ReAct untuk tugas yang kompleks dan dinamis yang memerlukan perencanaan dan adaptasi berkelanjutan. Misalnya, pertimbangkan agen robotika yang harus membuat jalur untuk bertransisi dari status awal ke status tujuan:
- Pemikiran: Model mempertimbangkan jalur optimal untuk beralih dari statusnya saat ini ke status sasaran. Selama proses penalaran, model mengoptimalkan metrik seperti waktu atau energi.
- Tindakan: Model menjalankan langkah berikutnya dalam rencananya dengan bergerak di sepanjang segmen jalur yang dihitung.
- Pengamatan: Model mengamati dan menyimpan status baru lingkungan. Model menyimpan posisi barunya dan setiap perubahan pada lingkungan yang dirasakannya.
Loop ini memungkinkan agen mematuhi batasan dinamis, seperti menghindari rintangan baru atau mengikuti peraturan lalu lintas, dengan terus memperbarui rencananya berdasarkan pengamatan baru. Agen akan terus menjalankan loop iteratifnya hingga mencapai sasarannya atau mengalami error.
Satu agen ReAct dapat lebih sederhana dan hemat biaya untuk diterapkan dan dipelihara daripada sistem multi-agen yang kompleks. Penalaran model memberikan transkrip penalaran model, yang membantu proses debug. Namun, fleksibilitas ini memiliki konsekuensi. Sifat loop yang iteratif dan multi-langkah dapat menyebabkan latensi end-to-end yang lebih tinggi dibandingkan dengan satu kueri. Selain itu, efektivitas agen sangat bergantung pada kualitas penalaran model AI. Oleh karena itu, error atau hasil yang menyesatkan dari alat dalam satu langkah pengamatan dapat menyebar dan menyebabkan jawaban akhir menjadi salah.
Pola human-in-the-loop
Pola human-in-the-loop mengintegrasikan titik-titik untuk intervensi manusia secara langsung ke dalam alur kerja agen. Di checkpoint yang telah ditentukan, agen akan menjeda eksekusinya dan memanggil sistem eksternal untuk menunggu seseorang meninjau pekerjaannya. Pola ini memungkinkan seseorang menyetujui keputusan, memperbaiki error, atau memberikan input yang diperlukan sebelum agen dapat melanjutkan.
Diagram berikut menunjukkan tampilan umum pola human-in-the-loop:
Gunakan pola human-in-the-loop untuk tugas yang memerlukan pengawasan manusia, penilaian subjektif, atau persetujuan akhir untuk tindakan penting. Tindakan tersebut mencakup menyetujui transaksi keuangan dalam jumlah besar, memvalidasi ringkasan dokumen sensitif, atau memberikan masukan subjektif tentang konten kreatif yang dihasilkan. Misalnya, agen mungkin ditugaskan untuk menganonimkan set data pasien untuk penelitian. Agen akan otomatis mengidentifikasi dan menyamarkan semua informasi kesehatan yang dilindungi, tetapi akan berhenti di checkpoint akhir. Kemudian, agen akan menunggu petugas kepatuhan manusia untuk memvalidasi set data secara manual dan menyetujui rilisnya, yang membantu memastikan tidak ada data sensitif yang terekspos.
Pola human-in-the-loop meningkatkan keamanan dan keandalan dengan menyisipkan penilaian manusia ke dalam titik keputusan penting dalam alur kerja. Pola ini dapat menambah kompleksitas arsitektur yang signifikan karena mengharuskan Anda membangun dan memelihara sistem eksternal untuk interaksi pengguna.
Pola logika kustom
Pola logika kustom memberikan fleksibilitas maksimum dalam desain alur kerja Anda. Pendekatan ini memungkinkan Anda menerapkan logika orkestrasi tertentu yang menggunakan kode, seperti pernyataan bersyarat, untuk membuat alur kerja kompleks dengan beberapa jalur percabangan.
Diagram berikut mengilustrasikan contoh penggunaan pola logika kustom untuk menangkap proses pengembalian dana:
Dalam diagram sebelumnya, berikut adalah alur kerja agen untuk contoh agen pengembalian dana pelanggan:
- Pengguna mengirimkan kueri ke agen pengembalian dana pelanggan yang bertindak sebagai agen koordinator.
- Logika kustom koordinator pertama-tama memanggil agen pemverifikasi paralel, yang secara bersamaan mengirimkan dua sub-agen: agen pemverifikasi pembeli dan agen kelayakan pengembalian dana.
- Setelah hasilnya dikumpulkan, agen koordinator akan menjalankan alat untuk
memeriksa apakah permintaan tersebut memenuhi syarat untuk pengembalian dana.
- Jika pengguna memenuhi syarat, koordinator akan mengarahkan tugas
ke agen pemroses pengembalian dana, yang memanggil alat
process_refund. - Jika pengguna tidak memenuhi syarat, koordinator akan mengarahkan tugas ke alur berurutan yang terpisah, dimulai dengan agen saldo Store dan agen keputusan kredit proses.
- Jika pengguna memenuhi syarat, koordinator akan mengarahkan tugas
ke agen pemroses pengembalian dana, yang memanggil alat
- Hasil dari jalur mana pun yang diambil akan dikirim ke agen respons akhir untuk merumuskan jawaban bagi pengguna.
Contoh agen pengembalian dana pelanggan memerlukan solusi unik untuk orkestrasi tingkat logikanya, yang melampaui pendekatan terstruktur yang ditawarkan pola lain. Alur kerja ini menggabungkan pola karena menjalankan pemeriksaan paralel, lalu mengeksekusi cabang bersyarat kustom yang mengarah ke dua proses downstream yang sepenuhnya berbeda. Jenis alur kerja yang kompleks dan berpola campuran ini adalah kasus penggunaan yang ideal untuk pola logika kustom.
Gunakan pola logika kustom saat Anda memerlukan kontrol yang sangat detail atas eksekusi agen atau saat alur kerja Anda tidak sesuai dengan salah satu pola lain yang dijelaskan dalam dokumen ini. Namun, pendekatan ini meningkatkan kompleksitas pengembangan dan pemeliharaan. Anda bertanggung jawab untuk mendesain, mengimplementasikan, dan men-debug seluruh alur orkestrasi, yang memerlukan lebih banyak upaya pengembangan dan dapat lebih rentan terhadap error daripada menggunakan pola yang telah ditentukan sebelumnya yang didukung oleh alat seperti Agent Development Kit (ADK).
Untuk mengetahui informasi tentang agen kustom dan cara menerapkan logika kustom menggunakan ADK, lihat Agen kustom.
Membandingkan pola desain
Memilih pola agen adalah keputusan arsitektur yang mendasar. Setiap pola menawarkan kompromi yang berbeda dalam hal fleksibilitas, kompleksitas, dan performa. Untuk menentukan pola yang sesuai untuk workload Anda, pertimbangkan pola desain di bagian berikut.
Alur kerja yang bersifat deterministik
Alur kerja yang deterministik mencakup tugas yang dapat diprediksi dan berurutan, serta memiliki jalur alur kerja yang ditentukan dengan jelas dari awal hingga akhir. Langkah-langkah dalam tugas Anda diketahui sebelumnya, dan prosesnya tidak banyak berubah dari satu operasi ke operasi berikutnya.
Berikut adalah pola desain agen untuk alur kerja yang bersifat deterministik:
- Pola berurutan multi-agen
-
Gunakan pola ini jika workload Anda memiliki karakteristik berikut:
- Tugas multi-langkah yang mengikuti alur kerja yang kaku dan telah ditentukan sebelumnya.
- Tidak memerlukan orkestrasi model.
- Urutan operasi tetap. Output dari satu agen adalah input langsung dari agen berikutnya dalam urutan.
- Pola paralel multi-agen
-
Gunakan pola ini jika workload Anda memiliki karakteristik berikut:
- Tugas independen yang dapat dijalankan secara bersamaan.
- Tidak memerlukan orkestrasi model.
- Mengurangi latensi keseluruhan dengan menjalankan sub-tugas secara bersamaan.
- Pola penyempurnaan iteratif multi-agen
-
Gunakan pola ini jika workload Anda memiliki karakteristik berikut:
- Tugas pembuatan yang bersifat terbuka atau kompleks yang sulit diselesaikan dalam satu kali percobaan.
- Mengharuskan agen untuk meningkatkan output secara progresif selama beberapa siklus.
- Tidak memerlukan orkestrasi model.
- Memprioritaskan kualitas output daripada latensi.
Alur kerja yang memerlukan orkestrasi dinamis
Alur kerja yang memerlukan orkestrasi dinamis melibatkan masalah kompleks yang mengharuskan agen memutuskan cara melanjutkan. Dalam alur kerja ini, sistem AI agentic merencanakan, mendelegasikan, dan mengoordinasikan tugas secara dinamis tanpa skrip.
Berikut adalah pola desain agen untuk alur kerja yang memerlukan orkestrasi dinamis:
- Pola agen tunggal
-
Gunakan pola ini jika workload Anda memiliki karakteristik berikut:
- Tugas terstruktur dan multilangkah yang memerlukan penggunaan alat eksternal.
- Memerlukan pengembangan cepat untuk prototipe solusi sebagai bukti konsep.
- Pola koordinator multi-agen
-
Gunakan pola ini jika workload Anda memiliki karakteristik berikut:
- Memerlukan perutean dinamis ke subagen khusus yang sesuai untuk tugas terstruktur dengan input yang bervariasi.
- Latensi tinggi karena beberapa panggilan ke model AI koordinator sehingga model tersebut dapat mengarahkan tugas ke sub-agen yang sesuai.
- Dapat menimbulkan biaya tinggi karena beberapa panggilan ke agen koordinator.
- Pola dekomposisi tugas hierarkis multi-agen
-
Gunakan pola ini jika workload Anda memiliki karakteristik berikut:
- Memerlukan orkestrasi model multi-level untuk tugas yang kompleks, terbuka, dan ambigu.
- Memerlukan hasil yang komprehensif dan berkualitas tinggi, dengan penguraian ambiguitas sebagai tantangan utama.
- Latensi tinggi karena dekomposisi bertingkat dan multi-level yang menyebabkan beberapa panggilan ke model AI untuk penalaran.
- Pola swarm multi-agen
-
Gunakan pola ini jika workload Anda memiliki karakteristik berikut:
- Memerlukan debat kolaboratif dan penyempurnaan iteratif dari beberapa agen khusus untuk tugas yang sangat kompleks, terbuka, atau ambigu.
- Memprioritaskan sintesis berbagai perspektif untuk menciptakan solusi yang komprehensif atau kreatif.
- Latensi dan biaya operasional yang tinggi karena komunikasi dinamis, menyeluruh, antar-agen.
Alur kerja yang melibatkan iterasi
Alur kerja yang melibatkan iterasi mencakup tugas yang output akhirnya dicapai melalui siklus penyempurnaan, masukan, dan peningkatan.
Berikut adalah pola desain agen untuk alur kerja yang melibatkan iterasi:
- Pola ReAct
-
Gunakan pola ini jika workload Anda memiliki karakteristik berikut:
- Memerlukan agen untuk melakukan penalaran, tindakan, dan pengamatan secara iteratif guna membangun atau menyesuaikan rencana untuk tugas yang kompleks, terbuka, dan dinamis.
- Memprioritaskan hasil yang lebih akurat dan menyeluruh daripada latensi.
- Pola loop multi-agen
-
Gunakan pola ini jika workload Anda memiliki karakteristik berikut:
- Memerlukan tugas pemantauan atau polling yang mengulangi tindakan yang telah ditentukan, seperti pemeriksaan otomatis, hingga agen memenuhi kondisi keluar.
- Latensi yang tidak dapat diprediksi atau berjalan lama saat menunggu kondisi keluar terpenuhi.
- Pola peninjauan dan kritik multi-agen
-
Gunakan pola ini jika workload Anda memiliki karakteristik berikut:
- Tugas memerlukan langkah validasi yang berbeda sebelum selesai.
- Pola penyempurnaan iteratif multi-agen
-
Gunakan pola ini jika workload Anda memiliki karakteristik berikut:
- Tugas pembuatan yang bersifat terbuka atau kompleks yang sulit diselesaikan dalam satu kali percobaan.
- Mengharuskan agen untuk meningkatkan output secara progresif selama beberapa siklus.
- Tidak memerlukan orkestrasi model.
- Memprioritaskan kualitas output daripada latensi.
Alur kerja yang memiliki persyaratan khusus
Alur kerja yang memiliki persyaratan khusus mencakup tugas yang tidak mengikuti pola agentic umum. Tugas Anda dapat mencakup logika bisnis yang unik atau memerlukan penilaian dan intervensi manusia pada titik-titik penting. Dalam hal ini, sistem AI agentic Anda dibuat khusus untuk satu tujuan spesifik.
Berikut adalah pola desain agen untuk alur kerja yang memiliki persyaratan khusus:
- Pola human-in-the-loop
-
Gunakan pola ini jika workload Anda memiliki karakteristik berikut:
- Memerlukan pengawasan manusia karena tugas berisiko tinggi atau subjektif yang mungkin mencakup persyaratan keamanan, keandalan, dan kepatuhan.
- Pola logika kustom
-
Gunakan pola ini jika workload Anda memiliki karakteristik berikut:
- Logika percabangan yang kompleks dan melampaui urutan linear langsung.
- Memerlukan kontrol maksimum untuk menggabungkan aturan yang telah ditetapkan dengan penalaran model.
- Memerlukan kontrol proses yang mendetail untuk alur kerja yang tidak sesuai dengan template standar.
Langkah berikutnya
- Pelajari lebih lanjut cara membuat dan mengelola sistem multi-agen menggunakan primitif ADK.
- Pelajari cara menghosting aplikasi dan agen AI di Cloud Run.
- Pelajari lebih lanjut Pola Desain Agentic: Panduan Praktis untuk Membangun Sistem Cerdas.
- Pelajari cara membangun agen dengan ADK.
- Pelajari lebih lanjut cara membangun sistem AI multi-agen di Google Cloud.
- Untuk mengetahui lebih banyak tentang arsitektur referensi, diagram, dan praktik terbaik lainnya, jelajahi Pusat Arsitektur Cloud.
Kontributor
Penulis: Samantha He | Technical Writer
Kontributor lainnya:
- Abdul Saleh | Software Engineer
- Amina Mansour | Tech Lead, Global Developer Relations & Strategic Content
- Amit Maraj | Developer Relations Engineer
- Casey West | Architecture Advocate, Google Cloud
- Jack Wotherspoon | Developer Advocate
- Joe Fernandez | Staff Technical Writer
- Joe Shirey | Cloud Developer Relations Manager
- Karl Weinmeister | Director of Cloud Product Developer Relations
- Kumar Dhanagopal | Developer Solusi Lintas Produk
- Lisa Shen | Senior Outbound Product Manager, Google Cloud
- Mandy Grover | Head of Architecture Center
- Mark Lu | Technical Writer
- Megan O'Keefe | Developer Advocate
- Olivier Bourgeois | Developer Relations Engineer
- Shir Meir Lador | Developer Relations Engineering Manager
- Vlad Kolesnikov | Developer Relations Engineer