Menggunakan parser tata letak Document AI dengan RAG Engine

Kontrol keamanan VPC-SC dan CMEK didukung oleh Mesin RAG di Gemini Enterprise Agent Platform. Kontrol keamanan residensi data dan AXT tidak didukung.

Halaman ini memperkenalkan parser tata letak Document AI dan cara penggunaannya dengan RAG Engine.

Document AI

Document AI adalah platform pemrosesan dan pemahaman dokumen yang mengambil data tidak terstruktur dari dokumen dan mengubah data tidak terstruktur tersebut menjadi kolom yang cocok untuk disimpan dalam database. Data terstruktur menghasilkan data yang dapat Anda pahami, analisis, dan gunakan.

Document AI dibangun di atas produk dalam Gemini Enterprise Agent Platform dengan AI generatif untuk membantu Anda membuat aplikasi pemrosesan dokumen berbasis cloud yang skalabel dan menyeluruh. Tidak diperlukan keahlian machine learning khusus untuk menggunakan produk ini.

Parser tata letak Document AI

Parser tata letak mengekstrak elemen konten dari dokumen, seperti teks, tabel, dan daftar. Parser tata letak kemudian membuat potongan kontekstual yang memfasilitasi pengambilan informasi dalam AI generatif dan aplikasi penemuan.

Saat digunakan untuk pengambilan dan pembuatan LLM, tata letak dokumen dipertimbangkan selama proses pengelompokan, yang meningkatkan koherensi semantik dan mengurangi derau dalam konten. Semua teks dalam potongan berasal dari entity tata letak yang sama, seperti judul, subjudul, atau daftar.

Untuk jenis file yang digunakan oleh deteksi tata letak, lihat Deteksi tata letak per jenis file.

Menggunakan parser tata letak di RAG Engine

Untuk menggunakan parser tata letak di RAG Engine, Anda harus membuat korpus. Untuk membuat korpus, lakukan hal berikut:

1. Di konsol Google Cloud , buka halaman RAG Engine.

   Buka RAG Engine

2. Pilih Create corpus.

3. Di kolom Region, pilih region Anda.

4. Di kolom Corpus name, masukkan nama korpus Anda.

5. Di kolom Description, masukkan deskripsi.

6. Di bagian Data, pilih tempat Anda ingin mengupload data.

7. Luaskan bagian Advanced options.

   1. Di bagian Chunking strategy, ukuran default berikut direkomendasikan:

      • Ukuran potongan: 1024
      • Chunk overlap: 256

   2. Di bagian Layout parser, pilih opsi Document AI layout parser, yang memiliki akurasi tertinggi untuk dokumen dengan gambar atau diagram.

      1. Dari kolom Model, pilih model Anda.

      2. Opsional: Di kolom Maximum parsing requests per min, masukkan permintaan penguraian maksimum Anda.

      3. Opsional: Di kolom Custom parsing prompt, masukkan perintah penguraian kustom Anda.

      4. Klik Lanjutkan.

8. Dari halaman Configure vector store, lakukan hal berikut:

   1. Di kolom Embedding model, pilih model embedding Anda.

   2. Di bagian Vector database, pilih database Anda.

9. Klik Create corpus.

Batasan

ImportRagFiles API mendukung parser tata letak, tetapi batasan berikut berlaku:

• Masukkan ukuran file maksimum 20 MB untuk semua jenis file.
• Maksimum 500 halaman per file PDF.

Kuota dan harga Document AI berlaku.

Mengaktifkan Document AI API

Anda harus mengaktifkan Document AI API untuk project Anda. Untuk informasi selengkapnya tentang cara mengaktifkan API, lihat dokumentasi Service Usage.

Aktifkan Document AI API, jika belum diaktifkan.

Peran yang diperlukan untuk mengaktifkan API

Untuk mengaktifkan API, Anda memerlukan izin serviceusage.services.enable. Jika Anda membuat project, kemungkinan Anda sudah memiliki izin ini melalui peran Pemilik (roles/owner). Jika tidak, Anda bisa mendapatkan izin ini melalui peran Service Usage Admin (roles/serviceusage.serviceUsageAdmin). Pelajari cara memberikan peran.

Mengaktifkan API

Mengaktifkan parser tata letak

Untuk mengaktifkan Layout Parser, ikuti langkah-langkah berikut:

1. Buat Layout Parser dengan mengikuti petunjuk di Membuat dan mengelola pemroses.

   Nama jenis pemroses adalah LAYOUT_PARSER_PROCESSOR.

2. Aktifkan Layout Parser dengan mengikuti petunjuk di Mengaktifkan pemroses.

Pusat informasi RAG (korpus) Anda

Jika Anda belum memiliki korpus RAG, buat korpus RAG. Misalnya, lihat Contoh membuat korpus RAG.

Jika Anda sudah memiliki korpus RAG, file yang ada yang diimpor tanpa parser tata letak tidak akan diimpor ulang saat Anda Mengimpor file menggunakan Layout Parser. Jika Anda ingin menggunakan parser tata letak dengan file Anda, hapus file terlebih dahulu. Misalnya, lihat Contoh menghapus file RAG.

Mengimpor file menggunakan parser tata letak

File dan folder dari berbagai sumber dapat diimpor menggunakan parser tata letak.

Python

Guna mempelajari cara menginstal atau mengupdate Agent Platform SDK untuk Python, lihat Menginstal Agent Platform SDK untuk Python. Untuk mengetahui informasi selengkapnya, lihat dokumentasi referensi Python API.

Ganti variabel berikut yang digunakan dalam contoh kode:

• PROJECT_ID: Project ID Anda.
• LOCATION: Region untuk memproses permintaan.
• RAG_CORPUS_ID: ID resource korpus RAG.
• GCS_URIS: Daftar lokasi Cloud Storage. Contoh: "gs://my-bucket1", "gs://my-bucket2".
• LAYOUT_PARSER_PROCESSOR_NAME: Jalur resource ke prosesor parser tata letak yang dibuat. Contoh: "projects/{project}/locations/{location}/processors/{processor_id}".
• CHUNK_SIZE: Opsional: Jumlah token yang harus dimiliki setiap potongan.

from vertexai import rag
import vertexai

PROJECT_ID = YOUR_PROJECT_ID
corpus_name = "projects/{PROJECT_ID}/locations/us-central1/ragCorpora/{rag_corpus_id}"
paths = ["https://drive.google.com/file/123", "gs://my_bucket/my_files_dir"]  # Supports Cloud Storage and Google Drive.

# Initialize Agent Platform API once per session
vertexai.init(project=PROJECT_ID, location="LOCATION")

response = rag.import_files(
    corpus_name=corpus_name,
    paths=paths,
    transformation_config=rag.TransformationConfig(
        rag.ChunkingConfig(chunk_size=1024, chunk_overlap=256)
    ),
    import_result_sink="gs://sample-existing-folder/sample_import_result_unique.ndjson",  # Optional: This must be an existing storage bucket folder, and the filename must be unique (non-existent).
    layout_parser=rag.LayoutParserConfig(
      processor_name="projects/{PROJECT_ID}/locations/us/processors/{processor_id}/processorVersions/{processor_version_id}",
      max_parsing_requests_per_min=120,
    ),
    max_embedding_requests_per_min=900,  # Optional
)
print(f"Import response: {response}")

REST

Contoh kode menunjukkan cara mengimpor file Cloud Storage menggunakan parser tata letak. Untuk opsi konfigurasi lainnya, termasuk mengimpor file dari sumber lain, lihat referensi ImportRagFilesConfig.

Sebelum menggunakan data permintaan apa pun, ganti variabel berikut yang digunakan dalam contoh kode:

• PROJECT_ID: Project ID Anda.
• LOCATION: Region untuk memproses permintaan.
• RAG_CORPUS_ID: ID resource korpus RAG.
• GCS_URIS: Daftar lokasi Cloud Storage. Contoh: "gs://my-bucket1", "gs://my-bucket2".
• LAYOUT_PARSER_PROCESSOR_NAME: Jalur resource ke prosesor parser tata letak yang dibuat. Contoh: "projects/{project}/locations/{location}/processors/{processor_id}".
• CHUNK_SIZE: Opsional: Jumlah token yang harus dimiliki setiap potongan.

POST https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/ragCorpora/RAG_CORPUS_ID/ragFiles:import

Meminta isi JSON:

{
  "import_rag_files_config": {
    "gcs_source": {
      "uris": "GCS_URIS"
    },
    "rag_file_parsing_config": {
      "layout_parser": {
        "processor_name": "LAYOUT_PARSER_PROCESSOR_NAME"
      }
    },
    "rag_file_transformation_config": {
      "rag_file_chunking_config": {
        "fixed_length_chunking": {
          "chunk_size": CHUNK_SIZE
        }
      }
    },
  }
}

Untuk mengirim permintaan Anda, pilih salah satu opsi berikut:

curl

Catatan: Perintah berikut mengasumsikan bahwa Anda telah login ke Google Cloud CLI dengan akun pengguna Anda dengan menjalankan gcloud CLI init atau gcloud CLI auth login, atau dengan menggunakan Cloud Shell, yang secara otomatis membuat Anda login ke gcloud CLI . Anda dapat memeriksa akun yang aktif dengan menjalankan gcloud CLI auth list.

Simpan isi permintaan dalam file bernama request.json, dan jalankan perintah berikut:

curl -X POST \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json; charset=utf-8" \
    -d @request.json \
    "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/ragCorpora/RAG_CORPUS_ID/ragFiles:import"

Powershell

Catatan: Perintah berikut mengasumsikan bahwa Anda telah login ke gcloud CLI menggunakan akun pengguna Anda dengan menjalankan gcloud CLI init atau gcloud CLI auth login. Anda dapat memeriksa akun yang aktif dengan menjalankan gcloud CLI auth list.

Simpan isi permintaan dalam file bernama request.json, dan jalankan perintah berikut:

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/ragCorpora/RAG_CORPUS_ID/ragFiles:import" | Select-Object -Expand Content

Kueri pengambilan

Saat pengguna mengajukan pertanyaan atau memberikan perintah, komponen pengambilan di RAG akan menelusuri pusat informasinya untuk menemukan informasi yang relevan dengan kueri.

Untuk contoh pengambilan file RAG dari korpus berdasarkan teks kueri, lihat Kueri pengambilan.

Prediksi

Prediksi akan menghasilkan respons yang mendasar menggunakan konteks yang diambil. Sebagai contoh, lihat Pembuatan.

Langkah berikutnya

• Pilihan database vektor di RAG Engine

• Untuk mengetahui informasi tentang cara mengimpor file RAG, lihat Metode: ragFiles.import