ivo@setyadi:~$ ivo.blogspot.com

# catatan teknis, sejak 2001

FairStress untuk evaluasi keadilan LLM

FairStress adalah benchmark berisi 300 skenario dari 29 domain yang mengukur respons model terhadap perubahan demografis dan adversarial prefixes. Dataset ini tersedia di Hugging Face dan terintegrasi langsung ke Olmo-eval, memungkinkan eksekusi pada model open-weight atau API dengan satu perintah. Setiap skenario mencakup varian identitas eksplisit, implisit, dan tanpa identitas untuk menguji bias yang halus. Alat ini memberikan pandangan yang lebih bernuansa dibandingkan standard parity checks, tetapi tidak mencakup analisis dampak jangka panjang atau fairness berbasis equity. Adversarial prefixes-nya dikurasi secara manual sehingga cakupan perlu dilengkapi secara terpisah. FairStress cocok untuk tim riset dengan pipeline evaluasi, bukan untuk pengujian produksi cepat. sumber: huggingface.co/fairstress my other side: setyadi.com

Kita Adalah Apa yang Orang Lain Percayai

2024-02-23 · #Renungan

Kadang saya merenung, betapa kuatnya persepsi orang lain membentuk diri kita. 'You are what people believe you are.' Kalimat sederhana ini menyimpan makna yang dalam, bukan? Seolah-olah identitas kita, atau setidaknya bagaimana kita dilihat, sangat bergantung pada pandangan orang lain.

Apakah ini berarti kita kehilangan kendali atas diri sendiri? Atau justru ini menjadi pengingat bahwa interaksi sosial, reputasi, dan bagaimana kita mempresentasikan diri itu penting? Jujur saja, ini adalah sebuah paradoks yang menarik untuk terus dipikirkan.

Catatan ini semula saya tulis di Facebook, 23 Februari 2024.

$ cd ~/

$ cat comments/ (0)