Memitigasi risiko injeksi perintah tidak langsung dari MCP Google Cloud

Pratinjau

Produk ini tunduk pada "Persyaratan Penawaran Pra-GA" di bagian Persyaratan Layanan Umum dari Persyaratan Khusus Layanan, dan Persyaratan Tambahan untuk Produk Pratinjau AI Generatif. Produk pra-GA tersedia "sebagaimana adanya" dan mungkin memiliki dukungan terbatas. Untuk mengetahui informasi selengkapnya, lihat deskripsi tahap peluncuran.

Agen coding sering kali di-deploy secara lokal di workstation pengguna yang memanfaatkan otoritas yang didelegasikan oleh pengguna pengontrolnya untuk mengakses data. Umumnya, agen coding berjalan dengan semua hak istimewa pengguna, tetapi tidak seperti manusia, agen coding rentan terhadap injeksi prompt yang menentukan tindakannya. Hal ini dapat menimbulkan risiko pada infrastruktur dan data Anda yang harus dipertimbangkan.

Agen dapat salah menafsirkan data sebagai petunjuk, yang terkadang disebut sebagai injeksi prompt tidak langsung. Misalnya, pihak berniat jahat dapat membuat beberapa prompt berbahaya, membagikannya langsung kepada korban (misalnya, dalam email atau kalender) atau tidak langsung (misalnya, dengan menyertakannya di Cloud Storage atau BigQuery) dan menunggu agen bertindak berdasarkan prompt berbahaya ini.

Untuk membantu mengurangi risiko, sebaiknya pertimbangkan panduan tambahan berikut.

1. Jalankan agen di lingkungan yang dibatasi jika memungkinkan. Contoh kanonisnya adalah meminta pengguna memunculkan agen hanya di Cloud Workstations, menonaktifkan akses internet, dan tanpa hak istimewa root. Sebaiknya konfigurasi perlindungan VPC-SC di Cloud Workstations.

2. Header Pembatasan Organisasi – Sebagai alternatif, organisasi dengan proxy keamanan jaringan di batas jaringan perusahaan dapat mengaktifkan Header Pembatasan Organisasi. Saat di-deploy, header ini akan membatasi kumpulan resource yang dapat diakses dari jaringan perusahaan ke kumpulan Google Cloud Organisasi tertentu (seperti organisasi asal perusahaan), sehingga memblokir agen (dan manusia) untuk mengakses resource di luar tenant perusahaan Google Cloud. Jika organisasi Anda sudah menggunakan proxy keluar, proxy tersebut mungkin mendukung fitur ini secara langsung.

3. Batas Akses Principal (PAB) – PAB memberikan kemampuan untuk membatasi kumpulan resource yang dapat diakses oleh kumpulan identitas tertentu. Untuk agen coding, agen dapat berjalan sebagai identitasnya sendiri (misalnya, akun layanan atau Identitas Agen yang baru tersedia dan didukung oleh Agent Runtime) atau menggunakan otoritas yang didelegasikan dari pengguna. PAB dapat diaktifkan untuk membatasi akses hanya ke resource organisasi dalam kedua kasus tersebut, meskipun menerapkan batas ke identitas manusia juga akan membatasi akses manusia.

   Catatan: Manusia rentan terhadap jenis risiko phishing yang sama seperti agen melalui set data publik, tetapi kontrol keamanan lain di perusahaan mungkin lebih cocok untuk mengelola risiko tersebut daripada untuk agen.

4. Kontrol Layanan VPC - Organisasi yang menyertakan jaringan perusahaan mereka dalam perimeter Kontrol Layanan VPC sudah dilindungi dari risiko ini jika berasal langsung dari luar perimeter VPC. Organisasi yang khawatir dengan pemindahan data yang tidak sah melalui Google Cloud, termasuk melalui agen, mungkin ingin mempertimbangkan apakah Kontrol Layanan VPC sesuai dengan lingkungan mereka.

5. Model Armor - Aktifkan Model Armor untuk mendeteksi dan memblokir potensi serangan injeksi prompt dari data yang diakses melalui server MCP terkelola Google.