Pooling‑aware Training Embedding Multi‑Vector
Alat ini menggunakan Sentence Transformers untuk melatih model embedding multi‑vector yang tahan terhadap kompresi vektor. Ia menerapkan pooling‑aware regularization supaya encoder menyimpan informasi penting saat menggabungkan token yang mirip. Dengan faktor pool 4, metode ini mempertahankan 97,8 % kualitas pencarian sambil mengurangi penyimpanan empat kali. Coba alat ini jika Anda menggunakan sistem pencarian gaya ColBERT dan biaya penyimpanan menjadi hambatan. Anda harus melatih model secara khusus untuk rasio kompresi target, karena model pra‑latih standar kehilangan akurasi tanpa penyesuaian. Metode ini tidak memperbaiki latensi skor multi‑vector, hanya jejak memori. sumber: huggingface.co/token-pooling my other side: setyadi.com