ivo@setyadi:~$ ivo.blogspot.com

# catatan teknis, sejak 2001

FairStress untuk evaluasi keadilan LLM

FairStress adalah benchmark berisi 300 skenario dari 29 domain yang mengukur respons model terhadap perubahan demografis dan adversarial prefixes. Dataset ini tersedia di Hugging Face dan terintegrasi langsung ke Olmo-eval, memungkinkan eksekusi pada model open-weight atau API dengan satu perintah. Setiap skenario mencakup varian identitas eksplisit, implisit, dan tanpa identitas untuk menguji bias yang halus. Alat ini memberikan pandangan yang lebih bernuansa dibandingkan standard parity checks, tetapi tidak mencakup analisis dampak jangka panjang atau fairness berbasis equity. Adversarial prefixes-nya dikurasi secara manual sehingga cakupan perlu dilengkapi secara terpisah. FairStress cocok untuk tim riset dengan pipeline evaluasi, bukan untuk pengujian produksi cepat. sumber: huggingface.co/fairstress my other side: setyadi.com

Dampak Jastip Roti Manis untuk Warga RI

2024-03-23 · #Humor

Sekarang ini, gara-gara bisnis jastip roti manis yang skalanya sampai satu ton, warga Indonesia yang punya urusan ke luar negeri jadi susah. Kelihatannya lucu, tapi dampaknya nyata buat mobilitas kita.

Enggak perlu banyak analisis, cukup lihat antrean di bandara atau cerita teman yang repot. Kadang, hal-hal kecil seperti ini justru yang paling memengaruhi kenyamanan sehari-hari.

Catatan ini semula saya tulis di Facebook, 23 Maret 2024.

$ cd ~/

$ cat comments/ (0)