Kalau Anda baru mulai menggunakan AI seperti ChatGPT atau Claude AI, istilah token mungkin sering muncul dan terasa membingungkan. Kenapa penggunaan AI dihitung berdasarkan token, bukan kata? Kenapa jawaban terkadang terpotong? Untuk memahami hal tersebut, Anda perlu mengetahui apa itu token AI dan bagaimana model memproses teks yang diberikan.
Token adalah bagian kecil dari teks yang diproses oleh model AI. Bentuknya bisa berupa kata, potongan kata, angka, tanda baca, atau karakter tertentu. Itu sebabnya, jumlah token yang digunakan tidak selalu sama dengan jumlah kata dalam sebuah prompt.
Lantas, bagaimana cara kerja token dan tokenizer, apa perbedaan input dan output token, serta bagaimana cara menghemat penggunaannya? Artikel ini akan membahas token AI secara sederhana, termasuk tips mengurangi penggunaan token agar penggunaan AI lebih efisien dan biaya API dapat ditekan.
Also Read
Ringkasan Cepat
- Token adalah unit potongan teks yang dipakai model AI untuk membaca input dan menghasilkan output. Token tidak selalu sama dengan kata.
- Biaya pemakaian API AI umumnya dihitung berdasarkan jumlah token input + token output, dan batas “panjang percakapan” (context window) juga dihitung dalam token.
- Tokenizer membagi teks menjadi potongan (bisa berupa kata, bagian kata, atau karakter tertentu), sehingga bahasa dan format (spasi, angka, JSON, kode) memengaruhi jumlah token.
Apa Itu Token AI?
Token adalah unit teks yang diproses oleh model AI dan merupakan potongan-potongan kecil yang digunakan untuk membentuk teks, termasuk kata, angka, tanda baca, hingga bagian dari sebuah kata.
Token bisa berupa:
- Satu kata utuh.
- Bagian dari sebuah kata.
- Tanda baca atau simbol.
- Potongan angka.
- Bagian tertentu dari kode.
Karena itu, jumlah kata dalam sebuah kalimat tidak selalu sama dengan jumlah token yang digunakan.
Kenapa Token Tidak Sama dengan Kata?
Token tidak dihitung satu per satu berdasarkan kata karena AI menggunakan tokenizer untuk memecah teks menjadi bagian-bagian yang lebih kecil.
Sebagai contoh, kata yang panjang atau istilah teknis dapat dipecah menjadi beberapa token. Begitu juga dengan teks yang banyak menggunakan simbol, seperti JSON atau kode program, yang bisa menghasilkan lebih banyak token.
Bahasa yang digunakan juga dapat memengaruhi jumlah token. Teks dalam bahasa Indonesia, misalnya, bisa memiliki jumlah token berbeda dibandingkan teks bahasa Inggris dengan makna yang sama karena adanya struktur kata dan penggunaan imbuhan.
Input Token dan Output Token
Dalam penggunaan AI, token umumnya terbagi menjadi dua bagian, yaitu input token dan output token.
- Input token adalah teks yang Anda kirim ke model, termasuk prompt dan konteks yang diberikan.
- Output token adalah teks yang dihasilkan model sebagai jawaban.
Pada percakapan yang panjang, input tidak hanya berasal dari pesan terakhir. Riwayat percakapan dan instruksi yang masih digunakan juga dapat menjadi bagian dari konteks yang diproses model.
Semakin banyak konteks yang dikirim, semakin banyak pula token yang digunakan.
Apa Itu Context Window?
Context window adalah batas jumlah token yang dapat diproses model dalam satu percakapan atau request.
Ketika jumlah token yang digunakan terlalu banyak dan melewati batas yang tersedia, beberapa hal bisa terjadi:
- Request ditolak.
- Sebagian riwayat percakapan dipotong.
- Aplikasi merangkum konteks sebelumnya.
- Jawaban berhenti sebelum selesai.
Inilah salah satu alasan mengapa dalam percakapan yang sangat panjang, AI terkadang terlihat seperti kehilangan konteks dari pembahasan sebelumnya.
BACA JUGA: Istilah AI untuk Pemula: 50+ Kata yang Wajib Dipahami
Bagaimana Tokenizer Bekerja?
Secara sederhana, tokenizer bertugas memecah teks menjadi token yang kemudian diubah menjadi token ID agar dapat diproses oleh model AI.
Anda tidak perlu memahami proses matematisnya secara mendalam. Hal terpenting adalah mengetahui bahwa cara Anda menulis dan format teks dapat memengaruhi jumlah token.
Semakin banyak teks dan konteks yang dikirim, semakin banyak pula token yang perlu diproses.
Kenapa Token Memengaruhi Biaya AI?
Token berkaitan langsung dengan penggunaan komputasi model. Karena itu, layanan AI API umumnya menetapkan biaya berdasarkan jumlah token yang diproses.
Biasanya, biaya dibedakan menjadi:
- Input token, yaitu token yang Anda kirim ke model.
- Output token, yaitu token yang dihasilkan model.
Artinya, prompt yang panjang ditambah jawaban yang panjang akan menggunakan lebih banyak token dan berpotensi meningkatkan biaya.
Apa yang Membuat Token Cepat Membengkak?
Penggunaan token bisa meningkat tanpa disadari, terutama ketika Anda memberikan terlalu banyak konteks atau meminta output yang terlalu panjang.
Beberapa penyebab yang umum antara lain:
- Menempelkan dokumen panjang ke dalam prompt.
- Memasukkan terlalu banyak riwayat percakapan.
- Meminta jawaban yang sangat panjang.
- Menggunakan format output yang terlalu kompleks.
- Memasukkan JSON atau kode dalam jumlah besar.
- Mengulang instruksi yang sebenarnya sudah diberikan sebelumnya.
Jadi, bukan hanya panjang prompt yang perlu diperhatikan. Konteks dan format output juga ikut memengaruhi penggunaan token.
10 Tips Menghemat Token
Menghemat token bukan berarti membuat prompt menjadi sesingkat mungkin. Tujuannya adalah menghilangkan informasi yang tidak diperlukan tanpa mengurangi kualitas hasil.
1. Tentukan tujuan dan batasan
Sampaikan apa yang Anda inginkan dan batasi hasilnya.
Contoh:
“Buat ringkasan 7 poin dengan maksimal 120 kata.”
2. Jangan masukkan semua konteks
Berikan hanya informasi yang benar-benar dibutuhkan untuk menyelesaikan tugas.
3. Minta AI bertanya jika informasi kurang
Daripada memberikan penjelasan panjang yang belum tentu diperlukan, Anda bisa meminta AI meminta informasi tambahan jika memang dibutuhkan.
4. Batasi format output
Contohnya:
“Gunakan markdown, tanpa pendahuluan dan tanpa kesimpulan.”
Instruksi seperti ini membantu menghindari output yang terlalu panjang.
5. Gunakan bullet atau tabel seperlunya
Format yang terstruktur dapat membantu membuat informasi lebih ringkas. Namun, hindari tabel yang terlalu panjang jika tidak diperlukan.
6. Ringkas konteks percakapan panjang
Jika percakapan sudah sangat panjang, buat ringkasan singkat berisi informasi penting sebelum melanjutkan pembahasan.
7. Jangan meminta terlalu banyak versi
Jika hanya membutuhkan pilihan, 2–3 opsi biasanya sudah cukup daripada meminta 10 versi sekaligus.
8. Hindari instruksi yang berulang
Jika menggunakan prompt template, simpan instruksi yang sama dan hindari menuliskannya berulang kali.
9. Pecah tugas yang terlalu besar
Untuk dokumen atau pekerjaan yang sangat panjang, membaginya menjadi beberapa tahap bisa lebih mudah dikontrol.
10. Pertimbangkan apakah AI memang diperlukan
Tidak semua pekerjaan membutuhkan AI. Untuk tugas sederhana dan berulang, template biasa terkadang lebih cepat dan lebih hemat.
Tips praktis: prompt yang jelas dan spesifik biasanya lebih mudah menghasilkan output sesuai kebutuhan. Ketika output dapat dikontrol, penggunaan token juga menjadi lebih mudah dikendalikan.
Contoh Prompt Hemat Token
Anda bisa membuat prompt yang langsung menentukan hasil yang diinginkan.
Template 1: Ringkasan
“Ringkas teks berikut menjadi 7 poin. Maksimal 120 kata. Jangan menambahkan informasi baru.
Teks: [PASTE]”
Template 2: Analisis Risiko
“Dari teks berikut, identifikasi 5 risiko dan mitigasinya. Gunakan format tabel, maksimal 10 baris.
Teks: [PASTE]”
Kuncinya adalah menentukan tujuan, format, dan batas output sejak awal, sehingga AI tidak menghasilkan jawaban yang lebih panjang dari yang Anda perlukan.
Ketika Workflow AI Mulai Membutuhkan Server
Jika penggunaan AI sudah berkembang dari sekadar mencoba ChatGPT menjadi workflow seperti chatbot, auto-reply, summarizer, atau RAG, kebutuhan infrastrukturnya juga ikut bertambah.
Server dapat digunakan untuk menjalankan berbagai komponen pendukung, seperti:
- API dan aplikasi AI.
- Database.
- Logging.
- Monitoring.
- Workflow automation.
Untuk kebutuhan tersebut, Anda bisa mempertimbangkan VPS KVM dari Rumahweb sebagai salah satu pilihan server untuk menjalankan aplikasi dan workflow AI.
Rumahweb menawarkan VPS berbasis KVM dengan resource terisolasi, SSD storage, DDoS protection, dua availability zone, serta dukungan 24/7. Detail fitur dan spesifikasi dapat disesuaikan dengan paket yang tersedia.
FAQ
Berikut beberapa pertanyaan umum seputar apa itu token pada AI.
Tidak ada angka pasti. Token bisa satu kata, bagian kata, atau tanda baca, tergantung tokenizer.
Karena pemecahan subword bisa berbeda, apalagi pada kata berimbuhan dan istilah.
Biasanya karena batas output token atau context window.
Seringnya dihitung terpisah di pricing layanan API, tetapi keduanya tetap memengaruhi biaya total.
Batasi output, tempel konteks seperlunya, dan ringkas riwayat percakapan.
Kesimpulan
Token adalah unit dasar yang digunakan model kecerdasan buatan (AI) untuk membaca dan memproses teks. Hal inilah yang membuat jumlah token berpengaruh langsung terhadap besarnya biaya operasional serta batasan kapasitas konteks (context window) yang dapat ditampung.
Agar penggunaan AI Anda menjadi lebih hemat biaya dan sistem berjalan dengan stabil, fokuslah pada tiga strategi utama yaitu memasukkan data konteks seperlunya tanpa informasi berlebih, membatasi panjang keluaran (output) agar respons tetap padat, serta memecah alur kerja yang kompleks menjadi beberapa tahapan kecil yang terstruktur dengan jelas. Sekarang, sudah pahamkan apa itu Token AI?
