Infrastruktur GraphRAG untuk AI generatif menggunakan Agent Platform dan Spanner Graph

Last reviewed 2026-10-16 UTC

Dokumen ini menyediakan arsitektur referensi untuk membantu Anda mendesain infrastruktur untuk aplikasi AI generatif GraphRAG di Google Cloud. Audiens yang dituju mencakup arsitek, developer, dan administrator yang membangun dan mengelola sistem pengambilan informasi cerdas. Dokumen ini mengasumsikan pemahaman dasar tentang konsep AI, pengelolaan data grafik, dan pustaka pengetahuan. Dokumen ini tidak memberikan panduan khusus untuk mendesain dan mengembangkan aplikasi GraphRAG.

GraphRAG adalah pendekatan berbasis grafik untuk retrieval augmented generation (RAG). RAG membantu meng-grounding respons yang dihasilkan AI dengan memperkaya perintah menggunakan data yang relevan secara kontekstual yang diambil menggunakan penelusuran vektor. GraphRAG menggabungkan penelusuran vektor dengan kueri pustaka pengetahuan untuk mengambil data kontekstual yang lebih mencerminkan keterkaitan data dari berbagai sumber. Perintah yang di-augmentasi menggunakan GraphRAG dapat menghasilkan respons AI yang lebih mendetail dan relevan.

Arsitektur

Diagram berikut menunjukkan arsitektur untuk aplikasi AI generatif yang mendukung GraphRAG di Google Cloud:

Alur penyerapan dan penyaluran data dalam arsitektur.

Arsitektur dalam diagram sebelumnya terdiri dari dua subsistem: penyerapan data dan penyajian. Bagian berikut menjelaskan tujuan subsistem dan aliran data di dalam dan di seluruh subsistem.

Subsistem penyerapan data

Subsistem penyerapan data menyerap data dari sumber eksternal, lalu menyiapkan data untuk GraphRAG. Alur penyerapan dan persiapan data melibatkan langkah-langkah berikut:

  1. Data diserap ke dalam bucket Cloud Storage. Data ini dapat diupload oleh analis data, diserap dari database, atau di-streaming dari sumber mana pun.
  2. Saat data diserap, pesan akan dikirim ke topik Pub/Sub.
  3. Pub/Sub memicu fungsi Cloud Run untuk memproses data yang diupload.
  4. Fungsi Cloud Run membangun pustaka pengetahuan dari file input menggunakan Gemini API dan alat seperti LLMGraphTransformer LangChain.
  5. Fungsi ini menyimpan pustaka pengetahuan dalam database Spanner Graph.
  6. Fungsi ini menyegmentasikan konten tekstual file data menjadi unit terperinci menggunakan alat seperti RecursiveCharacterTextSplitter LangChain atau Layout Parser Document AI.
  7. Fungsi ini membuat embedding vektor segmen teks menggunakan Gemini Enterprise Agent Platform Embeddings API.
  8. Fungsi ini menyimpan embedding vektor dan node grafik terkait di Spanner Graph.

Embedding vektor berfungsi sebagai dasar untuk pengambilan semantik. Node pustaka pengetahuan memungkinkan penjelajahan dan analisis hubungan serta pola data yang rumit.

Subsistem inferensi

Subsistem inferensi mengelola siklus proses kueri-respons antara aplikasi AI generatif dan penggunanya. Alur inferensi melibatkan langkah-langkah berikut:

  1. Pengguna mengirimkan kueri bahasa alami ke agen AI, yang di-deploy di Agent Runtime di Gemini Enterprise Agent Platform.
  2. Agen memproses kueri sebagai berikut:
    1. Mengonversi kueri menjadi embedding vektor menggunakan Agent Platform Embeddings API.
    2. Mengambil node grafik yang terkait dengan kueri dengan melakukan penelusuran kemiripan vektor di database embedding.
    3. Mengambil data yang terkait dengan kueri dengan melintasi pustaka pengetahuan.
    4. Menambah perintah dengan menggabungkan kueri asli dengan data grafik yang diambil.
    5. Menggunakan Agent Search ranking API untuk memberi peringkat pada hasil, yang terdiri dari node dan edge yang diambil dari database grafik. Peringkat didasarkan pada relevansi semantik dengan kueri.
    6. Meringkas hasil dengan memanggil Gemini API.
  3. Kemudian, agen akan mengirimkan hasil ringkasan kepada pengguna.

Anda dapat menyimpan dan melihat log aktivitas kueri-respons di Cloud Logging dan menyiapkan pemantauan berbasis log menggunakan Cloud Monitoring.

Produk yang digunakan

Arsitektur referensi ini menggunakan produk dan alat Google berikut:

  • Spanner Graph: Database grafik yang menyediakan fitur skalabilitas, ketersediaan, dan konsistensi Spanner.
  • Gemini Enterprise Agent Platform: Platform komprehensif yang memungkinkan Anda membangun, menskalakan, mengatur, dan mengoptimalkan agen AI tingkat perusahaan.
  • Cloud Run Functions: Platform komputasi serverless yang memungkinkan Anda menjalankan fungsi bertujuan tunggal langsung di Google Cloud.
  • Cloud Storage: Penyimpanan objek berbiaya rendah dan tanpa batas untuk beragam jenis data. Data dapat diakses dari dalam dan luar Google Cloud, serta direplikasi di berbagai lokasi untuk redundansi.
  • Pub/Sub: Layanan pesan asinkron dan skalabel yang memisahkan layanan yang menghasilkan pesan dari layanan yang memproses pesan tersebut.
  • Cloud Logging: Sistem pengelolaan log real-time dengan penyimpanan, penelusuran, analisis, dan pemberitahuan.
  • Cloud Monitoring: Layanan yang memberikan visibilitas terkait performa, ketersediaan, dan kondisi aplikasi serta infrastruktur Anda.

Kasus penggunaan

GraphRAG memfasilitasi pengambilan data yang cerdas untuk kasus penggunaan di berbagai industri. Bagian ini menjelaskan beberapa kasus penggunaan dalam layanan kesehatan, keuangan, layanan hukum, dan manufaktur.

Kesehatan dan obat-obatan: Dukungan keputusan klinis

Dalam sistem pendukung keputusan klinis, GraphRAG mengintegrasikan data dalam jumlah besar dari literatur medis, catatan kesehatan elektronik pasien, database interaksi obat, dan hasil uji klinis ke dalam pustaka pengetahuan terpadu. Saat dokter dan peneliti mengkueri gejala dan pengobatan pasien saat ini, GraphRAG akan melintasi pustaka pengetahuan untuk mengidentifikasi kondisi yang relevan dan potensi interaksi obat. AI juga dapat menghasilkan rekomendasi perawatan yang dipersonalisasi berdasarkan data lain seperti profil genetik pasien. Jenis pengambilan informasi ini memberikan jawaban yang lebih kaya secara kontekstual dan berbasis bukti daripada pencocokan kata kunci.

Jasa keuangan: Menyatukan data keuangan

Perusahaan jasa keuangan menggunakan pustaka pengetahuan untuk memberi analis mereka tampilan data yang terpadu dan terstruktur dari berbagai sumber seperti laporan analis, telekonferensi pembahasan kinerja finansial, dan penilaian risiko. Grafik pengetahuan mengidentifikasi entity data utama seperti perusahaan dan eksekutif, serta memetakan hubungan penting antara entity tersebut. Pendekatan ini menyediakan jaringan data yang kaya dan saling terhubung, sehingga memungkinkan analisis keuangan yang lebih mendalam dan efisien. Analis dapat menemukan insight yang sebelumnya tersembunyi, seperti ketergantungan supply chain yang rumit, keanggotaan dewan yang tumpang tindih di antara para pesaing, dan eksposur terhadap risiko geopolitik yang kompleks.

Di sektor hukum, GraphRAG dapat digunakan untuk membuat rekomendasi hukum yang dipersonalisasi berdasarkan preseden, undang-undang, hukum kasus, pembaruan peraturan, dan dokumen internal. Saat mempersiapkan kasus, pengacara dapat mengajukan pertanyaan yang bernuansa tentang argumen hukum tertentu, putusan sebelumnya atas kasus serupa, atau implikasi dari undang-undang baru. GraphRAG menggunakan interkoneksi pengetahuan hukum yang tersedia untuk mengidentifikasi preseden yang relevan dan menjelaskan penerapannya. Model ini juga dapat menyarankan argumen tandingan dengan melacak hubungan antara konsep hukum, undang-undang, dan interpretasi yudisial. Dengan pendekatan ini, praktisi hukum dapat memperoleh insight yang lebih menyeluruh dan akurat dibandingkan dengan metode pengambilan pengetahuan konvensional.

Manufaktur dan supply chain: Membuka pengetahuan institusional

Operasi manufaktur dan supply chain memerlukan tingkat presisi yang tinggi. Pengetahuan yang diperlukan untuk mempertahankan tingkat presisi yang diperlukan sering kali terkubur dalam ribuan dokumen Prosedur Operasi Standar (SOP) yang padat dan statis. Saat lini produksi atau mesin di pabrik gagal, atau jika terjadi masalah logistik, engineer dan teknisi sering kali membuang waktu penting untuk menelusuri dokumen PDF yang tidak terhubung guna mendiagnosis dan memecahkan masalah. Pustaka pengetahuan dan AI percakapan dapat digabungkan untuk mengubah pengetahuan institusional yang tersembunyi menjadi partner diagnostik interaktif.

Alternatif desain

Arsitektur yang dijelaskan dalam dokumen ini bersifat modular. Anda dapat menyesuaikan komponen arsitektur tertentu untuk menggunakan produk, alat, dan teknologi alternatif, bergantung pada kebutuhan Anda.

Membangun pustaka pengetahuan

Anda dapat menggunakan alat LLMGraphTransformer LangChain untuk membangun pustaka pengetahuan dari awal. Dengan menentukan skema grafik dengan parameter LLMGraphTransformer seperti allowed_nodes, allowed_relationships, node_properties, dan relationship_properties, Anda dapat meningkatkan kualitas pustaka pengetahuan yang dihasilkan. Namun, LLMGraphTransformer mungkin mengekstrak entity dari domain umum, sehingga mungkin tidak cocok untuk domain khusus seperti layanan kesehatan atau farmasi. Selain itu, jika organisasi Anda sudah memiliki proses yang kuat untuk membangun pustaka pengetahuan, subsistem penyerapan data yang ditampilkan dalam arsitektur referensi ini bersifat opsional.

Menyimpan knowledge graph dan embedding vektor

Arsitektur dalam dokumen ini menggunakan Spanner sebagai datastore untuk pustaka pengetahuan dan embedding vektor. Jika grafik pengetahuan perusahaan Anda sudah ada di tempat lain (misalnya di platform seperti Neo4j), Anda dapat mempertimbangkan untuk menggunakan database vektor untuk embedding. Namun, pendekatan ini memerlukan upaya pengelolaan tambahan dan mungkin memerlukan biaya lebih besar. Spanner menyediakan datastore yang terkonsolidasi dan konsisten secara global untuk struktur grafik dan embedding vektor. Datastore semacam ini memungkinkan pengelolaan data terpadu, yang membantu mengoptimalkan biaya, performa, tata kelola keamanan, dan efisiensi operasional.

Agent Runtime

Dalam arsitektur referensi ini, agen di-deploy di Agent Runtime, yang menyediakan runtime terkelola untuk agen AI. Opsi lain yang dapat Anda pertimbangkan mencakup Cloud Run dan Google Kubernetes Engine (GKE). Pembahasan tentang opsi tersebut berada di luar cakupan dokumen ini.

Grounding menggunakan RAG

Seperti yang dibahas di bagian Kasus penggunaan, GraphRAG memungkinkan pengambilan data yang cerdas untuk grounding dalam banyak skenario. Namun, jika data sumber yang Anda gunakan untuk menambah perintah tidak memiliki hubungan timbal balik yang kompleks, RAG mungkin merupakan pilihan yang tepat untuk aplikasi AI generatif Anda.

Arsitektur referensi berikut menunjukkan cara membangun infrastruktur yang diperlukan untuk RAG di Google Cloud menggunakan database terkelola yang mendukung vektor atau produk penelusuran vektor khusus:

Pertimbangan desain

Bagian ini menjelaskan faktor desain, praktik terbaik, dan rekomendasi yang perlu dipertimbangkan saat Anda menggunakan arsitektur referensi ini untuk mengembangkan topologi yang memenuhi persyaratan spesifik Anda terkait keamanan, keandalan, biaya, dan performa.

Panduan di bagian ini tidak lengkap. Bergantung pada persyaratan workload Anda serta produk dan fitur Google Cloud dan pihak ketiga yang Anda gunakan, mungkin ada faktor desain dan konsekuensi tambahan yang harus Anda pertimbangkan.

Keamanan, privasi, dan kepatuhan

Bagian ini menjelaskan pertimbangan dan rekomendasi desain untuk merancang topologi di Google Cloud yang memenuhi persyaratan keamanan dan kepatuhan workload Anda.

Pertimbangan keamanan Agent Platform

Untuk membantu memastikan bahwa konfigurasi dan penggunaan Agent Platform Anda memenuhi persyaratan keamanan, pertimbangkan rekomendasi berikut:

Enkripsi data Spanner Graph

Secara default, data yang disimpan di Spanner Graph dienkripsi menggunakan Google-owned and Google-managed encryption keys. Jika perlu menggunakan kunci enkripsi yang Anda kontrol dan kelola, Anda dapat menggunakan kunci enkripsi yang dikelola pelanggan (CMEK). Untuk mengetahui informasi selengkapnya, lihat Tentang CMEK.

Pertimbangan keamanan Cloud Run Functions

Untuk membantu memastikan bahwa penerapan Cloud Run Functions Anda memenuhi persyaratan keamanan, pertimbangkan rekomendasi berikut:

  • Enkripsi data: Secara default, Cloud Run mengenkripsi data menggunakan Google-owned and Google-managed encryption keys. Untuk melindungi container menggunakan kunci yang Anda kontrol, Anda dapat menggunakan CMEK. Untuk informasi selengkapnya, lihat Menggunakan kunci enkripsi yang dikelola pelanggan.
  • Keamanan image container: Untuk membantu memastikan bahwa hanya image container yang diizinkan yang di-deploy ke Cloud Run, Anda dapat menggunakan Otorisasi Biner.
  • Residensi data: Cloud Run membantu Anda memenuhi persyaratan residensi data. Fungsi Cloud Run Anda berjalan dalam region yang dipilih.

Pertimbangan keamanan Cloud Storage

Untuk membantu memastikan bahwa konfigurasi Cloud Storage Anda memenuhi persyaratan keamanan, pertimbangkan rekomendasi berikut:

  • Enkripsi data: Secara default, data yang disimpan di Cloud Storage dienkripsi menggunakanGoogle-owned and Google-managed encryption keys. Jika diperlukan, Anda dapat menggunakan CMEK atau kunci Anda sendiri yang Anda kelola menggunakan metode pengelolaan eksternal seperti kunci enkripsi yang disediakan pelanggan (CSEK). Untuk mengetahui informasi selengkapnya, lihat Opsi enkripsi data.
  • Kontrol akses: Cloud Storage mendukung dua metode untuk memberi pengguna akses ke bucket dan objek Anda: Identity and Access Management (IAM) dan daftar kontrol akses (ACL). Dalam sebagian besar kasus, sebaiknya gunakan IAM, yang memungkinkan Anda memberikan izin di level bucket dan project. Untuk mengetahui informasi selengkapnya, lihat Ringkasan kontrol akses.
  • Perlindungan data: Data yang Anda muat ke subsistem penyerapan data melalui Cloud Storage mungkin menyertakan data sensitif. Anda dapat menggunakan Sensitive Data Protection untuk menemukan, mengklasifikasikan, dan melakukan de-identifikasi data sensitif. Untuk mengetahui informasi selengkapnya, lihat Menggunakan Sensitive Data Protection dengan Cloud Storage.
  • Residensi data: Cloud Storage membantu Anda memenuhi persyaratan residensi data. Data disimpan atau direplikasi dalam region yang Anda tentukan.

Pertimbangan keamanan Pub/Sub

Untuk membantu memastikan bahwa konfigurasi Pub/Sub Anda memenuhi persyaratan keamanan, pertimbangkan rekomendasi berikut:

  • Enkripsi data: Secara default, Pub/Sub mengenkripsi semua pesan, baik saat disimpan maupun saat dikirim, menggunakanGoogle-owned and Google-managed encryption keys. Pub/Sub mendukung penggunaan CMEK untuk enkripsi pesan di lapisan aplikasi. Untuk mengetahui informasi selengkapnya, lihat Mengonfigurasi enkripsi pesan.
  • Residensi data: Jika Anda memiliki persyaratan residensi data, untuk membantu memastikan bahwa data pesan disimpan di lokasi tertentu, Anda dapat mengonfigurasi kebijakan penyimpanan pesan.

Pertimbangan keamanan Cloud Logging

Untuk membantu memastikan bahwa konfigurasi Cloud Logging Anda memenuhi persyaratan keamanan, pertimbangkan faktor dan rekomendasi desain berikut:

  • Audit aktivitas administratif: Log audit Aktivitas Admin diaktifkan secara default untuk semua layanan Google Cloud yang digunakan dalam arsitektur referensi ini. Log ini mencatat panggilan API atau tindakan lain yang mengubah konfigurasi atau metadata resource Google Cloud .
  • Audit akses data: Untuk layanan Google Cloud yang digunakan dalam arsitektur ini, Anda dapat mengaktifkan log audit Akses Data. Log ini memungkinkan Anda melacak panggilan API yang membaca konfigurasi atau metadata resource atau permintaan pengguna untuk membuat, mengubah, atau membaca data resource yang disediakan pengguna.
  • Residensi data: Untuk membantu memenuhi persyaratan residensi data, Anda dapat mengonfigurasi Cloud Logging untuk menyimpan data log di region yang Anda tentukan. Untuk mengetahui informasi selengkapnya, lihat Meregionalkan log Anda.

Untuk prinsip dan rekomendasi keamanan yang khusus untuk workload AI dan ML, lihat Perspektif AI dan ML: Keamanan di Google Cloud Well-Architected Framework.

Keandalan

Bagian ini menjelaskan pertimbangan dan rekomendasi desain untuk membangun dan mengoperasikan infrastruktur yang andal untuk deployment Anda di Google Cloud.

Kapasitas Agent Platform dan ketersediaan endpoint

Jika jumlah permintaan Anda melebihi kapasitas yang dialokasikan, kode error 429 akan ditampilkan. Untuk workload yang penting bagi bisnis dan secara konsisten memerlukan throughput tinggi, Anda dapat memesan throughput menggunakan Throughput yang Disediakan. Jika data dapat dibagikan di beberapa region atau negara, Anda dapat menggunakan endpoint global.

Ketersediaan data dan disaster recovery Spanner Graph

Spanner dirancang untuk ketersediaan data yang tinggi dan skalabilitas global. Untuk membantu memastikan ketersediaan bahkan selama pemadaman layanan di suatu region, Spanner menawarkan konfigurasi multi-region, yang mereplikasi data di beberapa zona di beberapa region. Selain kemampuan ketahanan bawaan ini, Spanner menyediakan fitur berikut untuk mendukung strategi disaster recovery yang komprehensif:

  • Perlindungan penghapusan database
  • Kemampuan pencadangan dan pemulihan yang andal, termasuk salinan terjadwal dan lintas region
  • Pemulihan point-in-time (PITR) untuk perlindungan terhadap kerusakan data logis, error operator, atau penulisan yang tidak disengaja hingga tujuh hari

Untuk mengetahui informasi selengkapnya, lihat Ringkasan disaster recovery.

Ketahanan Cloud Run Functions terhadap pemadaman infrastruktur

Cloud Run adalah layanan regional. Data disimpan secara sinkron di beberapa zona dalam satu region. Traffic akan otomatis di-load balanced di seluruh zona. Jika terjadi pemadaman layanan zona, Cloud Run akan terus berjalan dan data tidak akan hilang. Jika terjadi pemadaman layanan di region, layanan akan berhenti berjalan hingga Google menyelesaikan pemadaman layanan tersebut.

Ketersediaan data Cloud Storage

Anda dapat membuat bucket Cloud Storage di salah satu dari tiga jenis lokasi: regional, dual-region, atau multi-region. Data yang disimpan di bucket regional direplikasi secara sinkron di beberapa zona dalam satu region. Untuk ketersediaan yang lebih tinggi, Anda dapat menggunakan bucket dual-region atau multi-region, tempat data direplikasi secara asinkron di seluruh region.

Pertimbangan keandalan Pub/Sub

Untuk membantu memastikan konfigurasi Pub/Sub Anda memenuhi persyaratan keandalan, pertimbangkan rekomendasi berikut:

  • Kontrol kapasitas: Untuk menghindari error selama periode lonjakan sementara dalam traffic pesan, Anda dapat membatasi kapasitas permintaan publikasi dengan mengonfigurasi kontrol alur di setelan penayang.
  • Penanganan kegagalan: Untuk menangani upaya publikasi yang gagal, sesuaikan variabel permintaan percobaan ulang sesuai kebutuhan. Untuk mengetahui informasi selengkapnya, lihat Mencoba ulang permintaan.

Rekomendasi keandalan untuk semua produk dalam arsitektur

Setelah men-deploy workload di Google Cloud, optimalkan lebih lanjut keandalan resource cloud Anda dengan menerapkan rekomendasi yang relevan dari Active Assist.

Untuk prinsip dan rekomendasi keandalan yang khusus untuk workload AI dan ML, lihat Perspektif AI dan ML: Keandalan dalam Well-Architected Framework.

Pengoptimalan biaya

Bagian ini berisi panduan untuk mengoptimalkan biaya penyiapan dan pengoperasian topologi Google Cloud yang Anda bangun menggunakan arsitektur referensi ini.

Pertimbangan biaya Agent Platform

Untuk membantu memastikan bahwa konfigurasi dan penggunaan Agent Platform Anda memenuhi persyaratan biaya, pertimbangkan rekomendasi berikut:

  • Analisis dan pengelolaan biaya: Untuk menganalisis dan mengelola biaya Agent Platform, sebaiknya Anda membuat dasar pengukuran kueri per detik (QPS) dan token per detik (TPS) serta memantau metrik ini setelah deployment. Baseline juga membantu perencanaan kapasitas. Misalnya, dasar pengukuran membantu Anda menentukan kapan Throughput yang Disediakan diperlukan.
  • Pemilihan model: Memilih model yang sesuai untuk aplikasi AI generatif Anda adalah keputusan penting yang secara langsung memengaruhi biaya dan performa. Untuk mengidentifikasi model yang memberikan keseimbangan optimal antara performa dan biaya untuk kasus penggunaan spesifik Anda, uji model secara iteratif. Sebaiknya Anda memulai dengan model yang paling hemat biaya dan beralih secara bertahap ke opsi yang lebih canggih.
  • Rekayasa perintah: Panjang perintah (input) dan respons yang dihasilkan (output) secara langsung memengaruhi performa dan biaya. Tulis perintah yang singkat, langsung, dan memberikan konteks yang memadai. Desain prompt Anda untuk mendapatkan respons yang ringkas dari model. Misalnya, sertakan frasa seperti "ringkas dalam 2 kalimat" atau "cantumkan 3 poin utama". Untuk mengetahui informasi selengkapnya, lihat praktik terbaik untuk desain perintah.
  • Context caching: Untuk mengurangi biaya permintaan yang berisi konten berulang dengan jumlah token input yang tinggi, gunakan cache konteks.
  • Permintaan batch: Untuk tugas pemrosesan berskala besar yang dapat dilakukan secara asinkron, seperti pembuatan konten dan analisis offline, pertimbangkan untuk menggunakan inferensi batch. Permintaan batch ditagih dengan harga yang lebih rendah daripada permintaan standar.

Pertimbangan biaya Spanner Graph

Untuk membantu memastikan konfigurasi Spanner Graph Anda memenuhi persyaratan biaya, pertimbangkan rekomendasi berikut:

  • Penskalaan otomatis kapasitas komputasi: Untuk membantu mengontrol biaya, sesuaikan kapasitas komputasi untuk database Spanner Graph secara dinamis berdasarkan penggunaan CPU dan kebutuhan penyimpanan menggunakan autoscaler terkelola. Kapasitas minimum sering kali diperlukan, bahkan untuk workload kecil.
  • Pengoptimalan tarif: Untuk kapasitas komputasi yang dapat diprediksi, stabil, atau dasar, beli diskon abonemen (CUD). CUD menawarkan diskon yang signifikan sebagai imbalan atas komitmen terhadap pembelanjaan per jam tertentu untuk kapasitas komputasi.
  • Replikasi cadangan: Saat Anda menyalin cadangan ke region yang berbeda untuk disaster recovery atau kepatuhan, pertimbangkan biaya traffic keluar jaringan. Untuk membantu mengurangi biaya, salin hanya cadangan yang penting.

Pertimbangan biaya Cloud Run Functions

Untuk membantu memastikan bahwa implementasi Cloud Run Functions Anda memenuhi persyaratan biaya, pertimbangkan rekomendasi berikut:

  • Alokasi resource: Saat membuat fungsi Cloud Run, Anda dapat menentukan jumlah memori dan CPU yang akan dialokasikan. Untuk mengontrol biaya, mulailah dengan alokasi CPU dan memori default (minimum). Untuk meningkatkan performa, Anda dapat meningkatkan alokasi dengan mengonfigurasi batas CPU dan batas memori. Untuk informasi selengkapnya, lihat dokumentasi berikut:

  • Pengoptimalan tarif: Jika dapat memprediksi persyaratan CPU dan memori, Anda dapat menghemat uang dengan CUD.

Kelas penyimpanan dan pengelolaan siklus proses Cloud Storage

Untuk bucket Cloud Storage di subsistem penyerapan data, pilih kelas penyimpanan yang sesuai berdasarkan persyaratan workload Anda untuk retensi data dan frekuensi akses. Misalnya, untuk mengontrol biaya penyimpanan, Anda dapat memilih kelas Standard dan menggunakan Object Lifecycle Management. Pendekatan ini memungkinkan downgrade otomatis objek ke kelas penyimpanan berbiaya lebih rendah atau penghapusan otomatis objek berdasarkan kondisi yang ditentukan.

Pertimbangan biaya Cloud Logging

Untuk mengontrol biaya penyimpanan log, pertimbangkan rekomendasi berikut:

  • Kurangi volume log dengan mengecualikan atau memfilter entri log yang tidak diperlukan. Untuk mengetahui informasi selengkapnya, lihat Filter pengecualian.
  • Optimalkan periode retensi log. Untuk mengetahui informasi selengkapnya, lihat Mengonfigurasi retensi kustom.

Rekomendasi pengoptimalan biaya untuk semua produk dalam arsitektur

Untuk membantu memastikan bahwa arsitektur Anda memenuhi persyaratan biaya, pertimbangkan rekomendasi umum berikut:

Untuk prinsip dan rekomendasi pengoptimalan biaya yang khusus untuk workload AI dan ML, lihat Perspektif AI dan ML: Pengoptimalan biaya dalam Well-Architected Framework.

Pengoptimalan performa

Bagian ini menjelaskan pertimbangan dan rekomendasi desain untuk merancang topologi di Google Cloud yang memenuhi persyaratan performa workload Anda.

Pertimbangan performa Agent Platform

Untuk membantu memastikan bahwa konfigurasi dan penggunaan Agent Platform Anda memenuhi persyaratan performa, pertimbangkan rekomendasi berikut:

  • Pemilihan model: Memilih model yang sesuai untuk aplikasi AI generatif Anda adalah keputusan penting yang secara langsung memengaruhi biaya dan performa. Untuk mengidentifikasi model yang memberikan keseimbangan optimal antara performa dan biaya untuk kasus penggunaan spesifik Anda, uji model secara iteratif. Sebaiknya Anda memulai dengan model yang paling hemat biaya dan beralih secara bertahap ke opsi yang lebih canggih.
  • Rekayasa perintah: Panjang perintah (input) dan respons yang dihasilkan (output) secara langsung memengaruhi performa dan biaya. Tulis perintah yang singkat, langsung, dan memberikan konteks yang memadai. Desain prompt Anda untuk mendapatkan respons yang ringkas dari model. Misalnya, sertakan frasa seperti "ringkas dalam 2 kalimat" atau "cantumkan 3 poin utama". Untuk mengetahui informasi selengkapnya, lihat praktik terbaik untuk desain perintah.
  • Pengoptimalan perintah: Pengoptimal perintah Agent Platform memungkinkan Anda meningkatkan dan mengoptimalkan performa perintah dengan cepat dalam skala besar dan menghilangkan kebutuhan untuk menulis ulang secara manual. Pengoptimal membantu Anda menyesuaikan perintah secara efisien di berbagai model.

Desain skema dan penyesuaian kueri Spanner Graph

Untuk rekomendasi mengoptimalkan performa Spanner Graph, lihat dokumentasi berikut:

Alokasi resource Cloud Run Functions

Secara default, setiap instance fungsi Cloud Run dialokasikan satu CPU dan memori 256 MiB. Bergantung pada persyaratan performa, Anda dapat mengonfigurasi batas CPU dan memori. Untuk informasi selengkapnya, lihat dokumentasi berikut:

Untuk panduan pengoptimalan performa lebih lanjut, lihat Tips pengembangan Cloud Run umum.

Upload gabungan paralel Cloud Storage

Untuk mengupload file besar, Anda dapat menggunakan upload gabungan paralel. Dengan strategi ini, file besar dibagi menjadi beberapa bagian. Potongan-potongan tersebut diupload ke Cloud Storage secara paralel, lalu data disusun ulang di cloud. Jika bandwidth jaringan dan kecepatan disk bukan merupakan faktor pembatas, upload komposit paralel dapat lebih cepat daripada operasi upload reguler. Namun, strategi ini memiliki beberapa keterbatasan dan implikasi biaya. Untuk mengetahui informasi selengkapnya, lihat Upload komposit paralel.

Rekomendasi pengoptimalan performa untuk semua produk dalam arsitektur

Setelah men-deploy workload di Google Cloud, optimalkan lebih lanjut performa resource cloud Anda dengan menerapkan rekomendasi yang relevan dari Active Assist.

Untuk prinsip dan rekomendasi pengoptimalan performa yang khusus untuk workload AI dan ML, lihat Perspektif AI dan ML: Pengoptimalan performa dalam Well-Architected Framework.

Deployment

Untuk mempelajari cara kerja GraphRAG di Google Cloud, download dan jalankan notebook Jupyter berikut dari GitHub: GraphRAG di Google Cloud Dengan Spanner Graph dan Agent Runtime di Gemini Enterprise Agent Platform.

Langkah berikutnya

Kontributor

Penulis:

Kontributor lainnya: