Glosarium AI generatif

Glosarium ini mendefinisikan istilah kecerdasan buatan (AI) generatif.

Agen AI

Agen AI adalah aplikasi yang mencapai sasaran dengan memproses input, melakukan penalaran dengan alat yang tersedia, dan mengambil tindakan berdasarkan keputusannya. Agen AI menggunakan panggilan fungsi untuk memformat input dan memastikan interaksi yang akurat dengan alat eksternal. Diagram berikut menunjukkan komponen agen AI:

Agen AI terdiri dari lapisan orkestrasi, model, dan alat.

Seperti yang ditunjukkan pada diagram sebelumnya, agen AI terdiri dari komponen berikut:

  • Orkestrasi: lapisan orkestrasi agen mengelola memori, status, dan pengambilan keputusan dengan mengontrol rencana, penggunaan alat, dan aliran data. Orkestrasi mencakup komponen berikut:
    • Profil dan petunjuk: agen mengambil peran atau persona tertentu untuk mengarahkan tindakan dan pengambilan keputusannya.
    • Memori: untuk mempertahankan konteks dan status, agen menyimpan memori jangka pendek dan memori jangka panjang. Memori jangka pendek menyimpan konteks dan informasi langsung yang diperlukan untuk tugas saat ini. Memori jangka panjang menyimpan histori percakapan lengkap.
    • Penalaran dan perencanaan: agen menggunakan model untuk melakukan dekomposisi dan refleksi tugas, lalu membuat rencana. Pertama, agen memisahkan perintah pengguna menjadi sub-komponen untuk menangani tugas kompleks dengan memanggil satu atau beberapa fungsi. Selanjutnya, agen akan merenungkan output fungsi dengan menggunakan penalaran dan masukan untuk meningkatkan respons.
  • Model: model bahasa generatif apa pun yang memproses sasaran, membuat rencana, dan menghasilkan respons. Untuk performa yang optimal, model harus mendukung pemanggilan fungsi dan harus dilatih dengan signature data dari alat atau langkah penalaran.
  • Alat: kumpulan alat termasuk API, layanan, atau fungsi yang mengambil data dan melakukan tindakan atau transaksi. Alat memungkinkan agen berinteraksi dengan data dan layanan eksternal.

Untuk aplikasi yang memerlukan pengambilan keputusan otonom, pengelolaan alur kerja multi-langkah yang kompleks, atau pengalaman adaptif, agen AI berperforma lebih baik daripada model dasar standar. Agen unggul dalam memecahkan masalah secara real-time dengan menggunakan data eksternal dan dalam mengotomatiskan tugas yang memerlukan banyak pengetahuan. Kemampuan ini memungkinkan agen memberikan hasil yang lebih andal daripada kemampuan pembuatan teks pasif dari model dasar.

Untuk mengetahui informasi selengkapnya tentang agen AI, lihat Apa yang dimaksud dengan Agen AI.

jendela konteks

Jendela konteks adalah jumlah token yang dapat diproses oleh model dasar dalam perintah tertentu. Jendela konteks yang lebih besar memungkinkan model mengakses dan memproses lebih banyak informasi, sehingga menghasilkan respons yang lebih koheren, relevan, dan komprehensif.

Model Gemini dirancang khusus dengan jendela konteks yang panjang untuk menangani jumlah informasi yang lebih besar ini. Untuk memberikan gambaran skala, model dengan jendela konteks 1 juta token dapat memproses salah satu input berikut:

  • 50.000 baris kode (dengan standar 80 karakter per baris)
  • Semua pesan teks yang Anda kirim dalam 5 tahun terakhir
  • 8 novel berbahasa Inggris dengan panjang rata-rata
  • Transkrip lebih dari 200 episode podcast berdurasi rata-rata
  • Video 1 jam tanpa audio
  • Video dengan audio berdurasi sekitar 45 menit
  • Audio berdurasi 9,5 jam

Untuk mengetahui informasi selengkapnya tentang praktik terbaik untuk perintah konteks panjang, lihat Konteks panjang.

embedding

Embedding adalah representasi numerik dari data, seperti teks, gambar, atau video, yang menangkap hubungan antara berbagai input. Embedding dihasilkan selama fase pelatihan model dengan mengonversi teks, gambar, dan video menjadi array bilangan floating point yang disebut vektor. Embedding sering kali mengurangi dimensi data, yang membantu meningkatkan efisiensi komputasi dan memungkinkan pemrosesan set data besar. Pengurangan dimensi ini sangat penting untuk melatih dan men-deploy model yang kompleks.

Model machine learning (ML) memerlukan data untuk dinyatakan dalam format yang dapat diproses. Embedding memenuhi persyaratan tersebut dengan memetakan data ke dalam ruang vektor berkelanjutan, di mana kedekatan yang lebih dekat mencerminkan titik data yang memiliki makna serupa. Embedding memungkinkan model membedakan pola dan hubungan yang bernuansa yang akan dikaburkan dalam data mentah.

Misalnya, model bahasa besar (LLM) mengandalkan embedding untuk memahami konteks dan makna teks. Pemahaman tersebut memungkinkan LLM menghasilkan respons yang koheren dan relevan. Dalam pembuatan gambar, embedding menangkap fitur visual gambar, sehingga memungkinkan model membuat output yang realistis dan beragam.

Sistem yang menggunakan retrieval-augmented generation (RAG) mengandalkan embedding untuk mencocokkan kueri pengguna dengan pengetahuan yang relevan. Saat kueri diajukan, kueri tersebut dikonversi menjadi embedding, yang kemudian dibandingkan dengan embedding dokumen yang ada dalam pusat informasi. Perbandingan ini, yang difasilitasi oleh penelusuran kemiripan di ruang vektor, memungkinkan sistem mengambil informasi yang paling relevan secara semantik.

Untuk mengetahui informasi selengkapnya tentang model embedding dan kasus penggunaan, lihat Ringkasan Embedding API.

model dasar

Model dasar adalah model besar dan canggih yang dilatih menggunakan sejumlah besar data, yang sering kali mencakup beberapa modalitas seperti teks, gambar, video, dan audio. Model ini menggunakan pemodelan statistik untuk memprediksi kemungkinan respons terhadap perintah dan untuk menghasilkan konten baru. Model ini mempelajari pola dari data pelatihannya, seperti pola bahasa untuk pembuatan teks dan teknik difusi untuk pembuatan gambar.

Google menawarkan berbagai model dasar AI generatif yang dapat diakses melalui API terkelola. Untuk mengakses model dasar yang tersedia di Google Cloud, gunakan model garden Vertex AI.

pemanggilan fungsi

Pemanggilan fungsi adalah fitur yang menghubungkan model bahasa besar (LLM) ke alat eksternal seperti API dan fungsi untuk meningkatkan respons LLM. Fitur ini memungkinkan LLM melampaui pengetahuan statis dan meningkatkan respons dengan informasi dan layanan real-time seperti database, sistem pengelolaan hubungan pelanggan, dan repositori dokumen.

Untuk menggunakan panggilan fungsi, Anda menyediakan serangkaian fungsi ke model. Kemudian, saat Anda memberikan perintah, model dapat memilih dan memanggil fungsi berdasarkan permintaan Anda. Model akan menganalisis perintah, lalu menghasilkan data terstruktur yang menentukan fungsi yang akan dipanggil dan nilai parameter. Output data terstruktur memanggil fungsi, lalu menampilkan hasilnya ke model. Model akan menggabungkan hasil ke dalam penalarannya untuk menghasilkan respons. Proses ini memungkinkan model mengakses dan memanfaatkan informasi yang berada di luar pengetahuan internalnya, sehingga model dapat melakukan tugas yang memerlukan data atau pemrosesan eksternal.

Pemanggilan fungsi adalah komponen penting dalam arsitektur agen AI. Pemanggilan fungsi menyediakan cara terstruktur bagi model untuk menentukan alat yang akan digunakan dan cara memformat input, yang membantu memastikan interaksi yang tepat dengan sistem eksternal.

Untuk mengetahui informasi selengkapnya tentang panggilan fungsi di Gemini, lihat Pengantar panggilan fungsi.

AI generatif

AI generatif adalah jenis AI yang melampaui fokus AI tradisional pada klasifikasi dan prediksi. Model AI tradisional belajar dari data yang ada untuk mengklasifikasikan informasi atau memprediksi hasil di masa mendatang berdasarkan pola historis. AI generatif menggunakan model dasar untuk menghasilkan konten baru seperti teks, gambar, audio, atau video. Konten baru ini dihasilkan dengan mempelajari pola dan gaya yang mendasari data pelatihan, yang secara efektif memungkinkan model membuat output yang menyerupai data yang digunakan untuk melatihnya.

Pelajari lebih lanjut kapan harus menggunakan AI generatif dan kasus penggunaan bisnis AI generatif.

grounding

Grounding adalah proses menghubungkan output model dengan sumber informasi yang dapat diverifikasi. Sumber ini mungkin memberikan informasi praktis dan spesifik per konteks, seperti dokumentasi internal perusahaan, data khusus project, atau catatan komunikasi. Grounding membantu meningkatkan akurasi, keandalan, dan kegunaan output AI dengan memberikan akses ke sumber data tertentu kepada model. Grounding mengurangi kemungkinan halusinasi—kejadian saat model menghasilkan konten yang tidak faktual. Jenis grounding yang umum adalah retrieval-augmented generation (RAG), yang melibatkan pengambilan informasi eksternal yang relevan untuk meningkatkan respons model.

Untuk mengetahui informasi selengkapnya tentang grounding dengan Google Penelusuran, lihat Ringkasan grounding.

model bahasa besar (LLM)

Model bahasa besar (LLM) adalah model dasar berbasis teks yang dilatih dengan data dalam jumlah besar. LLM digunakan untuk melakukan tugas natural language processing (NLP), seperti pembuatan teks, terjemahan mesin, peringkasan teks, dan question answering. Istilah LLM terkadang digunakan secara bergantian dengan model dasar. Namun, LLM berbasis teks, sedangkan model dasar dapat dilatih dengan dan menerima input dari beberapa modalitas, termasuk teks, gambar, audio, dan video.

Untuk mempelajari pola dan hubungan dalam bahasa, LLM menggunakan teknik seperti reinforcement learning dan penyesuaian instruksi. Saat Anda mendesain perintah, penting untuk mempertimbangkan berbagai faktor yang dapat memengaruhi respons model.

latensi

Latensi adalah waktu yang diperlukan model untuk memproses prompt input dan menghasilkan respons. Saat Anda memeriksa latensi model, pertimbangkan hal berikut:

  • Time to First Token (TTFT): waktu yang diperlukan model untuk menghasilkan token pertama respons setelah menerima perintah. TTFT penting untuk aplikasi streaming yang memerlukan respons cepat.
  • Time to Last Token (TTLT): total waktu yang diperlukan model untuk memproses perintah dan menghasilkan respons lengkap.

Untuk mengetahui informasi tentang cara mengurangi latensi, lihat Praktik terbaik dengan model bahasa besar (LLM).

rekayasa perintah

Rekayasa perintah adalah proses iteratif dalam membuat perintah dan mengakses respons model untuk mendapatkan respons yang Anda inginkan. Menulis perintah yang terstruktur dengan baik dapat menjadi bagian penting untuk memastikan respons yang akurat dan berkualitas tinggi dari model bahasa.

Berikut adalah teknik umum yang dapat Anda gunakan untuk meningkatkan kualitas respons:

  • Zero-shot prompting: memberikan perintah tanpa contoh dan mengandalkan pengetahuan yang sudah ada sebelumnya pada model.
  • One-shot prompting: memberikan satu contoh dalam perintah untuk memandu respons model.
  • Few-shot prompting: memberikan beberapa contoh dalam perintah untuk menunjukkan pola atau tugas yang Anda inginkan.

Saat Anda memberikan contoh kepada model, Anda membantu mengontrol aspek respons model, seperti pemformatan, pengungkapan, cakupan, dan pola keseluruhan. Few-shot prompt yang efektif menggabungkan petunjuk yang jelas dengan contoh yang spesifik dan bervariasi. Penting untuk bereksperimen guna menentukan jumlah contoh yang optimal; terlalu sedikit contoh mungkin tidak memberikan panduan yang cukup, tetapi terlalu banyak contoh dapat menyebabkan model mengalami overfitting pada contoh dan gagal melakukan generalisasi dengan baik.

Untuk mengetahui informasi selengkapnya tentang praktik terbaik untuk membuat perintah, lihat Ringkasan strategi pembuatan perintah.

penulisan perintah

Perintah adalah permintaan bahasa alami yang dikirim ke model AI generatif untuk mendapatkan respons. Bergantung pada modelnya, perintah dapat berisi teks, gambar, video, audio, dokumen, dan modalitas lainnya atau bahkan beberapa modalitas (multimodal).

Perintah yang efektif terdiri dari konten dan struktur. Konten menyediakan semua informasi tugas yang relevan, seperti petunjuk, contoh, dan konteks. Struktur memastikan penguraian yang efisien melalui pengaturan, termasuk pengurutan, pelabelan, dan pembatas. Bergantung pada output yang Anda inginkan, Anda dapat mempertimbangkan komponen tambahan.

parameter model

Parameter model adalah variabel internal yang digunakan model untuk menentukan cara model memproses data input dan cara model menghasilkan output. Selama pelatihan, Anda dapat menyesuaikan parameter model, seperti bobot dan bias, untuk mengoptimalkan performa model. Selama inferensi, Anda dapat memengaruhi output model melalui berbagai parameter perintah, yang tidak secara langsung mengubah parameter model yang dipelajari.

Berikut adalah beberapa parameter perintah yang memengaruhi pembuatan konten di Gemini API di Vertex AI:

  • temperature: suhu mengubah keacakan pemilihan token selama pembuatan respons, yang memengaruhi kreativitas dan prediktabilitas output. Nilai temperature berkisar dari 0 hingga 1. Suhu yang lebih rendah (mendekati 0) menghasilkan hasil yang lebih deterministik dan dapat diprediksi. Suhu yang lebih tinggi (mendekati 1) menghasilkan teks yang lebih beragam dan kreatif, tetapi hasilnya berpotensi kurang koheren.
  • topP: Top-P mengubah cara model mengambil sampel dan memilih token untuk output. Top-P memilih kumpulan token terkecil yang probabilitas kumulatifnya melebihi nilai minimum, atau p, lalu mengambil sampel dari distribusi tersebut. Nilai topP berkisar dari 0 hingga 1. Misalnya, jika token A, B, dan C memiliki probabilitas 0,3, 0,2, dan 0,1, serta nilai topP adalah 0.5, maka model akan memilih A atau B sebagai token berikutnya dengan menggunakan suhu, dan akan mengecualikan C sebagai kandidat.
  • topK: Top-K mengubah cara model mengambil sampel dan memilih token untuk output. Top-K memilih token yang paling mungkin secara statistik untuk menghasilkan respons. Nilai topK mewakili sejumlah token dari 1 hingga 40, yang akan dipilih model sebelum menghasilkan respons. Misalnya, jika token A, B, C, dan D memiliki probabilitas 0,6, 0,5, 0,2, dan 0,1 serta nilai top-K adalah 3, model akan memilih A, B, atau C sebagai token berikutnya dengan menggunakan suhu, dan akan mengecualikan D sebagai kandidat.
  • maxOutputTokens: setelan maxOutputTokens mengubah jumlah maksimum token yang dapat dibuat dalam respons. Nilai yang lebih rendah akan menghasilkan respons yang lebih singkat, sedangkan nilai yang lebih tinggi akan menghasilkan respons yang berpotensi lebih panjang.

Untuk mengetahui informasi selengkapnya tentang parameter sampling di Gemini API di Vertex AI, lihat Parameter pembuatan konten.

Retrieval-Augmented Generation (RAG)

Retrieval-augmented generation (RAG) adalah teknik untuk meningkatkan kualitas dan akurasi output model bahasa besar (LLM) dengan meng-grounding model tersebut dengan sumber pengetahuan yang diambil setelah model dilatih. RAG mengatasi keterbatasan LLM, seperti ketidakakuratan faktual, kurangnya akses ke informasi terkini atau khusus, dan ketidakmampuan untuk mengutip sumber. Dengan memberikan akses ke informasi yang diambil dari pusat informasi atau dokumen tepercaya—termasuk data yang tidak digunakan untuk melatih model, data eksklusif, atau data sensitif khusus pengguna—RAG memungkinkan LLM menghasilkan respons yang lebih andal dan relevan secara kontekstual.

Saat model yang menggunakan RAG menerima perintah Anda, proses RAG akan menyelesaikan tahapan berikut:

  1. Mengambil: menelusuri data yang relevan dengan perintah.
  2. Augment: menambahkan data yang diambil ke perintah.
  3. Generate:
    1. Perintahkan LLM untuk membuat ringkasan atau respons yang didasarkan pada perintah yang telah diaugmentasi.
    2. Menyajikan respons kembali.

Untuk mengetahui informasi selengkapnya tentang Vertex AI dan RAG, lihat Ringkasan Vertex AI RAG Engine.

token

Token adalah unit data dasar yang diproses oleh model dasar. Model memisahkan data dalam perintah menjadi token untuk diproses. Kumpulan semua token yang digunakan oleh model disebut kosakata. Token dapat berupa karakter tunggal seperti z, kata utuh seperti cat, atau bagian dari kata yang lebih panjang.

Tokenizer memisahkan kata-kata panjang—seperti istilah kompleks atau teknis, kata majemuk, atau kata dengan tanda baca dan karakter khusus—menjadi beberapa token. Proses pemisahan teks menjadi token disebut tokenisasi. Tujuan tokenisasi adalah membuat token dengan makna semantik yang dapat digabungkan kembali untuk memahami kata aslinya. Misalnya, kata "predefined" dapat dibagi menjadi token berikut: "pre", "define", "ed".

Token dapat merepresentasikan input multimodal seperti gambar, video, dan audio. Teknik embedding mengubah input multimodal menjadi representasi numerik yang dapat diproses oleh model sebagai token. Berikut adalah perkiraan penghitungan token untuk contoh input multimodal, terlepas dari ukuran tampilan atau file:

  • Gambar: Total 258 token
  • Video: 263 token per detik
  • Audio: 32 token per detik

Setiap model memiliki batas jumlah token yang dapat ditangani dalam perintah dan respons. Selain itu, biaya penggunaan model dihitung berdasarkan jumlah token input dan output. Untuk mengetahui informasi tentang cara mendapatkan jumlah token dari perintah yang dikirim ke model Gemini, lihat Mencantumkan dan menghitung token. Untuk mengetahui informasi tentang biaya model AI generatif di Vertex AI, lihat Harga Vertex AI.

penyesuaian

Penyesuaian adalah proses mengadaptasi model dasar untuk melakukan tugas tertentu dengan presisi dan akurasi yang lebih tinggi. Penyesuaian dilakukan dengan menyesuaikan beberapa atau semua parameter model atau melatih model pada set data yang berisi contoh yang mereplikasi tugas dan hasil yang Anda inginkan. Penyesuaian adalah proses iteratif, yang bisa jadi kompleks dan mahal, tetapi berpotensi menghasilkan peningkatan performa yang signifikan. Penyesuaian paling efektif jika Anda memiliki set data berlabel yang memiliki lebih dari 100 contoh, dan Anda ingin melakukan tugas yang kompleks atau unik yang tidak dapat diselesaikan hanya dengan teknik prompting.

Berikut adalah teknik penyesuaian yang didukung oleh Vertex AI:

  • Fine-tuning penuh: teknik yang memperbarui semua parameter model selama proses tuning. Fine-tuning penuh dapat memerlukan biaya komputasi yang tinggi dan banyak data, tetapi juga berpotensi mencapai tingkat performa tertinggi, terutama untuk tugas-tugas yang kompleks.
  • Parameter-efficient tuning: teknik yang juga dikenal sebagai tuning adaptor; parameter-efficient tuning memperbarui beberapa parameter model selama proses tuning. Parameter-efficient tuning lebih hemat resource dan lebih hemat biaya dibandingkan dengan fine-tuning penuh.
  • Supervised fine-tuning: teknik yang melatih model pada pasangan input-output berlabel. Supervised fine-tuning umum digunakan untuk tugas yang melibatkan klasifikasi, penerjemahan, dan pembuatan ringkasan.

Untuk mengetahui informasi selengkapnya tentang penyesuaian, lihat Pengantar penyesuaian.