PROMPT ANTI-HALLUCINATION

Ini cerita yang aku ceritain di video, plus 1 prompt yang aku pake biar AI ga ngarang.

Bulan lalu aku hampir submit skripsi dengan paper akademik yang Claude bikin-bikin sendiri. Author, tahun, judul, jurnal, halaman, semuanya keliatan legit banget. Aku coba google paper-nya buat double check dan ternyata paper-nya beneran ga ada di Google Scholar, ga ada di mana-mana. Claude full confidence ngarang sendiri dan aku hampir submit ke supervisor.

Ini yang namanya AI hallucination dan riset bilang AI bisa hallucinate sampai 27 persen of the time. Artinya kalo kamu pake AI buat hal serius kayak research, fakta, angka, atau citation, kamu harus punya cara buat verify.

AI kayak Claude itu sebenernya predicting kata berikutnya yang paling mungkin, bukan retrieving fakta dari database verified. Jadi kalo dia ga tau jawabannya, dia tetep bisa generate kalimat yang sounds confident karena pattern-nya match. Bukan dia jahat atau sengaja bohong, dia cuma ga punya filter built-in buat tau mana yang real dan mana yang dia ngarang.

Solusinya bukan stop pake AI, tapi kasih dia filter manual lewat cara kamu ngeprompt.

Ini prompt yang aku paste di awal chat setiap kali aku pake Claude buat research atau hal serius. Copy paste apa adanya, ganti bagian [topik kamu] sama topik yang lagi kamu kerjain.

Sebelum jawab pertanyaan aku soal [topik kamu], aku mau kamu follow 4 aturan ini:

1. Kalo kamu ga punya source yang bisa di-verify buat satu klaim, bilang aja
   "aku ga punya source yang reliable buat klaim ini." Jangan ngarang nama
   paper, author, tahun, atau statistik. Lebih baik kamu jujur ga tau
   daripada bikin sesuatu yang keliatan legit.

2. Buat setiap fakta atau angka yang kamu kasih, sebutkan sumbernya secara
   spesifik. Kalo sumbernya cuma "general knowledge" atau "pattern dari
   training data", bilang gitu juga, jangan dibikin sounds authoritative.

3. Di akhir jawaban kamu, kasih confidence rating dari 1 sampe 10 buat
   keseluruhan jawaban. Jelasin bagian mana yang kamu yakin dan bagian mana
   yang kamu kurang yakin. Default "I'm sure" ga boleh dipake.

4. Kasih aku 2 sampe 3 cara konkret buat aku verify jawaban kamu sendiri,
   misalnya keyword spesifik buat di-google, nama database yang relevant,
   atau cara ngecek manual.

Setelah kamu confirm kamu ngerti 4 aturan ini, baru aku kasih pertanyaan
sebenernya.

Cara pakenya: paste prompt ini dulu di awal chat. Tunggu Claude konfirmasi dia ngerti. Baru kamu kasih pertanyaan kamu yang sebenernya. Setiap kali Claude jawab, dia bakal otomatis follow 4 aturan tadi.

Empat aturan di prompt itu cover empat tipe hallucination yang berbeda.

Aturan 1 force Claude jujur kalo dia ga punya source. Ini paling penting karena tipe hallucination paling berbahaya itu yang sounds confident.

Aturan 2 bikin kamu bisa langsung lihat mana klaim yang verifiable dan mana yang cuma pattern matching.

Aturan 3 kasih kamu signal kapan harus extra cek. Kalo Claude bilang dia 6 dari 10, jangan langsung percaya.

Aturan 4 balikin ownership ke kamu. Kamu yang verify, bukan blindly trust.

Stack empat aturan ini di satu prompt, hampir ga ada hallucination yang lolos.

Kamu ga harus pake prompt ini buat semua chat. Kalo kamu lagi creative brainstorm, draft caption, bikin nama produk, atau cuma main-main, ga usah. Pake prompt ini cuma buat hal yang stakes-nya tinggi: research akademik atau citation, fakta historis atau angka statistik, klaim medical, legal, atau financial, apapun yang kalau salah bakal ada konsekuensi real.

Buat sisanya, biarin Claude flow biar idenya lebih liar.

Buat skripsi dan research Haru, aku selalu paste prompt ini di awal. Buat brainstorm konten atau ngedraft caption, ga aku pake karena justru bikin output-nya terlalu kaku. Intinya, kamu yang tau konteksnya, jadi kamu yang decide kapan butuh filter dan kapan ga.

Yang penting kamu ga blindly trust AI cuma karena jawabannya sounds confident. Sebagus apapun AI, dia masih predicting, bukan knowing.