AI & Otomasi7 menit baca

RAG Dijelaskan Sederhana: AI yang Paham Dokumen & SOP Bisnismu

Apa itu RAG dan kenapa ChatGPT tidak tahu bisnismu. Cara AI membaca dokumen & SOP perusahaan, use case, batas akurasi, privasi, dan kisaran biaya.

Ghozi MahdiRead in English

Coba tanyakan ke ChatGPT: "Berapa biaya pengiriman toko saya ke Makassar?" atau "Apa SOP kalau barang retur sudah lewat 7 hari?" Jawabannya pasti mengarang atau menolak. Bukan karena AI-nya bodoh, tapi karena ia tidak pernah membaca dokumen bisnismu. RAG adalah teknik yang membuat AI bisa menjawab berdasarkan dokumen, SOP, dan data perusahaanmu sendiri, dan di artikel ini kami jelaskan sesederhana mungkin.

Kenapa ChatGPT tidak tahu bisnismu?

Model AI seperti GPT atau Claude dilatih dari teks yang sangat banyak dari internet. Mereka pintar soal pengetahuan umum, tapi ada tiga hal yang tidak mereka punya:

  • Dokumen privatmu. SOP, daftar harga, kontrak, kebijakan internal tidak pernah ada di internet.
  • Informasi terbaru. Model punya batas waktu pengetahuan. Perubahan harga minggu lalu tidak ia tahu.
  • Konteks spesifik. "Gudang B" di perusahaanmu tidak berarti apa-apa bagi model.

Kalau kamu memaksa AI menjawab tanpa data, ia akan mengarang dengan percaya diri. Istilah teknisnya halusinasi. Inilah masalah yang diselesaikan RAG.

Apa itu RAG, dalam bahasa manusia?

RAG singkatan dari Retrieval-Augmented Generation. Terjemahan bebasnya: cari dulu, baru jawab.

Bayangkan karyawan baru yang pintar tapi belum tahu apa-apa soal perusahaanmu. Kalau pelanggan bertanya soal retur, karyawan itu membuka binder SOP, mencari halaman tentang retur, membacanya, lalu menjawab berdasarkan halaman itu. Ia tidak menghafal seluruh binder; ia tahu cara mencari.

RAG melakukan persis itu, dalam empat langkah:

  1. Dokumen dipotong-potong. Setiap file dipecah menjadi bagian kecil (misalnya per paragraf atau per bagian SOP) agar mudah dicari.
  2. Setiap potongan diberi "sidik jari makna". Secara teknis disebut embedding: representasi angka yang menangkap arti sebuah teks, sehingga "kebijakan pengembalian barang" dan "retur" dikenali sebagai hal yang mirip.
  3. Pertanyaan dicocokkan dengan potongan paling relevan. Saat ada pertanyaan, sistem mencari 3–10 potongan yang maknanya paling dekat.
  4. AI menyusun jawaban dari potongan itu, lengkap dengan sumbernya. Model diberi instruksi: "Jawab hanya berdasarkan teks berikut. Kalau tidak ada, bilang tidak tahu." Jawaban bisa menyertakan rujukan, misalnya "SOP Retur, bagian 3.2".

Bagian "lengkap dengan sumbernya" ini penting. Tim kamu bisa memverifikasi, dan kepercayaan terhadap sistem dibangun dari situ, bukan dari janji.

Use case RAG yang masuk akal untuk bisnis

Berdasarkan apa yang kami lihat saat membangun integrasi LLM, ini area yang paling sering memberi hasil nyata:

Asisten SOP untuk karyawan

Karyawan baru bertanya "kalau pelanggan minta ganti ukuran, prosesnya gimana?" dan langsung dapat jawaban dari SOP resmi, bukan dari ingatan rekan sebelah yang mungkin sudah usang. Cocok untuk ritel multi-cabang, F&B dengan banyak outlet, klinik, atau logistik.

Customer support internal

Bukan chatbot untuk pelanggan, tapi untuk admin. Saat admin menerima pertanyaan rumit, ia bertanya ke asisten AI yang sudah membaca semua kebijakan, lalu membalas pelanggan dengan percaya diri. Risiko lebih rendah daripada langsung ke pelanggan, dan cocok sebagai langkah pertama sebelum membangun chatbot AI WhatsApp.

"Klien mana saja yang kontraknya habis bulan depan?" atau "Apa klausul denda di kontrak dengan supplier X?" Tanpa RAG, ini pekerjaan membuka puluhan PDF. Dengan RAG, jawabannya muncul dalam detik, dengan rujukan ke file aslinya.

Basis pengetahuan produk

Untuk bisnis dengan ratusan SKU atau produk teknis (sparepart, bahan bangunan, alat kesehatan), RAG membantu tim sales menjawab spesifikasi dan kompatibilitas tanpa menghafal katalog.

Kalau kamu ingin gambaran lebih luas penerapan AI di luar dokumen, lihat 10 contoh penerapan AI di bisnis kecil.

Persiapan data: bagian yang paling menentukan

Ini pelajaran yang paling kami tekankan ke setiap calon klien: RAG hanya sebaik dokumen yang diberikan. Beberapa hal yang perlu disiapkan:

Persiapan Kenapa penting
Kumpulkan dokumen ke satu tempat Dokumen yang tersebar di WhatsApp, laptop pribadi, dan email tidak bisa dibaca sistem
Hapus atau tandai versi lama Kalau ada SOP 2023 dan SOP 2026, AI bisa mengutip yang salah
Pastikan dokumen bisa dibaca mesin PDF hasil scan foto perlu OCR dulu; tabel yang acak-acakan perlu dirapikan
Tentukan siapa boleh akses apa Dokumen gaji tidak boleh muncul saat staf gudang bertanya
Tunjuk satu pemilik dokumen Harus ada orang yang bertanggung jawab memperbarui isinya

Dari pengalaman kami, 30–50% waktu proyek RAG habis di tahap ini, bukan di bagian AI-nya. Kalau dokumenmu masih berantakan, mungkin lebih bijak membaca dulu kapan bisnis kamu belum butuh AI.

Seberapa akurat RAG, dan bagaimana mengukurnya?

Catatan jujur: tidak ada sistem RAG yang 100% akurat, termasuk yang kami bangun. Akurasi bergantung pada kualitas dokumen, cara memotong teks, kualitas pencarian, dan model yang dipakai. Siapa pun yang menjanjikan "tidak akan pernah salah" sedang menjual mimpi.

Yang bisa dilakukan adalah mengukur dan memperbaiki. Cara yang kami pakai:

  1. Buat daftar 50–100 pertanyaan nyata beserta jawaban yang benar menurut dokumen. Ini disusun bersama tim kamu.
  2. Jalankan sistem, bandingkan jawabannya. Catat tiga kategori: benar, benar sebagian, salah.
  3. Untuk yang salah, cari penyebabnya: dokumen tidak ada, potongan tidak ketemu, atau model salah menyimpulkan.
  4. Perbaiki, lalu uji ulang. Angka ini jadi acuan sebelum sistem dipakai lebih luas.

Target yang realistis untuk dokumen yang rapi biasanya di atas 85–90% jawaban benar, dan sisanya ditangani dengan jawaban "saya tidak menemukan informasinya, silakan cek ke bagian X". Jawaban "tidak tahu" yang jujur jauh lebih berharga daripada jawaban salah yang meyakinkan.

Privasi: ke mana dokumenmu pergi?

Pertanyaan yang wajar, apalagi untuk kontrak dan data pelanggan. Ada tiga tingkatan pilihan:

  • Penyedia komersial (OpenAI, Claude, dan sejenisnya). Hanya potongan dokumen yang relevan dengan pertanyaan yang dikirim, bukan seluruh arsip. Umumnya data dari API tidak dipakai untuk melatih model, tapi kebijakan masing-masing penyedia perlu dibaca. Ini pilihan paling praktis untuk mayoritas UMKM.
  • Model open-source di server sendiri (misalnya lewat Ollama). Tidak ada data yang keluar dari infrastrukturmu. Konsekuensinya: perlu server dengan GPU atau spesifikasi tinggi, dan kualitas jawaban biasanya sedikit di bawah model komersial terbaik.
  • Campuran. Pencarian dan penyimpanan dokumen di server sendiri, hanya tahap menyusun jawaban yang memakai penyedia komersial, dengan data sensitif disamarkan dulu.

Kami biasanya mendiskusikan ini di awal, karena pilihannya memengaruhi biaya dan arsitektur. Tidak ada jawaban yang benar untuk semua bisnis.

Kisaran biaya dan waktu

Angka berikut adalah estimasi kasar per 2026 untuk memberi gambaran, bukan penawaran:

Tahap Perkiraan waktu Kisaran biaya
Prototipe satu kumpulan dokumen (misalnya SOP) untuk diuji internal 1–2 minggu Rp 10–25 juta
Versi siap pakai: hak akses, antarmuka chat, evaluasi akurasi, dokumen diperbarui otomatis 4–8 minggu Rp 40–100 juta
Integrasi tambahan (WhatsApp, sistem internal, SSO) tergantung cakupan ditawarkan terpisah
Biaya berjalan (server, token LLM) bulanan ratusan ribu hingga beberapa juta rupiah, tergantung volume

Kami selalu menyarankan mulai dari prototipe. Dua minggu dan budget yang terbatas cukup untuk tahu apakah dokumenmu siap dan apakah timmu benar-benar memakainya. Kalau iya, baru lanjut ke versi penuh. Cara memilih scope seperti ini kami bahas di MVP vs produk lengkap.

Contoh skenario yang realistis

Misalnya, sebuah jaringan klinik kecantikan dengan lima cabang dan sekitar 40 staf. SOP mereka ada 30-an dokumen: prosedur perawatan, kebijakan refund, aturan promo, cara menangani komplain. Setiap kali ada staf baru, manajer menghabiskan berjam-jam menjawab pertanyaan yang sebenarnya sudah tertulis.

Di skenario seperti ini, langkah pertamanya bukan membangun chatbot untuk pelanggan, melainkan asisten internal berbasis RAG yang bisa diakses staf lewat web atau WhatsApp internal. Staf bertanya "promo ulang tahun berlaku untuk perawatan apa saja?", dan jawabannya datang dari dokumen promo terbaru, lengkap dengan nama dokumennya. Manajer tetap jadi rujukan untuk kasus khusus, tapi beban pertanyaan rutin turun drastis. Baru setelah dokumen terbukti rapi dan akurasi terukur, versi untuk pelanggan bisa dipertimbangkan.

Kapan RAG bukan jawabannya?

Supaya adil, ini situasi di mana kami akan menyarankan hal lain:

  • Dokumenmu hanya 5–10 halaman. Cukup bagikan PDF-nya atau pakai halaman FAQ sederhana.
  • Pertanyaan tim selalu sama. Sistem menu atau daftar FAQ lebih murah.
  • Masalah utamamu adalah dokumen belum ditulis sama sekali. Tidak ada yang bisa dicari.
  • Kamu butuh perhitungan, bukan pencarian. "Berapa total penjualan Q3?" lebih cocok dijawab dashboard atau laporan, bukan RAG.

Langkah selanjutnya

Kalau timmu sering bertanya hal yang sebenarnya sudah ada di dokumen, atau kamu ingin tahu apakah arsip dokumenmu sudah cukup rapi untuk RAG, ngobrol saja dengan kami. Konsultasi awal gratis dan tanpa komitmen. Lihat layanan AI engineering kami, lalu hubungi lewat form kontak atau chat via WhatsApp.

Pertanyaan yang sering diajukan

Apa bedanya RAG dengan melatih ulang (fine-tuning) AI?

RAG tidak mengubah model AI, hanya memberinya potongan dokumen yang relevan saat menjawab. Fine-tuning mengubah model itu sendiri, lebih mahal, dan tetap tidak menjamin AI mengingat fakta spesifik dengan akurat.

Apakah dokumen bisnis saya akan bocor ke penyedia AI?

Dengan RAG, hanya potongan dokumen yang relevan dengan pertanyaan yang dikirim ke model, dan sebagian besar penyedia komersial tidak memakai data API untuk melatih model. Kalau tetap tidak nyaman, model bisa dijalankan di server sendiri.

Dokumen apa saja yang bisa dipakai untuk RAG?

PDF, Word, spreadsheet, halaman Notion atau Google Docs, email, bahkan transkrip chat. Kuncinya bukan formatnya, tapi apakah isinya rapi dan masih berlaku.

Berapa lama membangun asisten AI berbasis RAG?

Prototipe untuk satu kumpulan dokumen bisa jadi dalam 1–2 minggu. Versi yang siap dipakai tim, dengan hak akses dan evaluasi akurasi, biasanya 4–8 minggu.

  • #rag
  • #ai
  • #dokumen
  • #sop
  • #llm