Pemecah chunk Di perangkat
Chunk seukuran token dengan tumpang tindih, peka kalimat Arab, keluaran JSONL.
Ukuran 512
Tumpang tindih 64
Batas
Hitung dengan
Input
Output
Tempel di sebelah kiri untuk memulai.
Tempel di atas untuk memulai.
1 chunk · 0 token — seluruh teks muat.
Semuanya berjalan di perangkat Anda. Apa pun yang Anda tempel tidak dikirim ke mana pun, dan akan terhapus saat Anda menutup tab.
Chunk seukuran token dengan tumpang tindih, peka kalimat Arab, keluaran JSONL. Semuanya berjalan di browser Anda; teks yang Anda tempel tidak dikirim ke mana pun.
Tentang alat ini
Yang perlu Anda sediakan
- Teks apa pun.
Yang Anda dapatkan
- Chunk seukuran token dengan overlap dan file JSONL.
Batasan
- Jumlah token Claude dan Gemini adalah perkiraan.
Cara menggunakannya
-
Tempel teks
Tempel atau buka dokumen.
-
Atur ukuran dan overlap
Pilih ukuran chunk, overlap, dan batas pemisah.
-
Ekspor
Salin chunk atau unduh JSONL.
Pertanyaan yang sering diajukan
Bagaimana ukuran chunk ditentukan?
Berdasarkan token, memakai tokenizer yang sama dengan penghitung token, dengan overlap opsional antar chunk yang bersebelahan.
Bisakah diekspor untuk vector store?
Ya. Tab JSONL memberi satu objek per chunk beserta id, jumlah token, dan offset-nya.