ivo@setyadi:~$ ivo.blogspot.com

# catatan teknis, sejak 2001

StartLux Decision: Mesin Inference Model Terstruktur

StartLux Decision menyediakan open models dalam ukuran 4B, 9B, dan 27B parameter yang menghasilkan typed probabilities untuk pertanyaan terstruktur alih-alih open text. Repo ini menyertakan HTTP server dan inference engine untuk format GGUF dan MLX, lengkap dengan varian yang menghasilkan reasoning traces saat confidence di bawah 0.6. Sistem ini memproses input text, JSON, dan image dalam satu forward pass untuk tugas kontrol seperti game bot dan analisis frame video. Tool ini layak diuji secara lokal menggunakan bobot MLX atau GGUF jika Anda membutuhkan klasifikasi terstruktur tanpa parsing output LLM bebas. Namun, arsitektur khusus ini tidak akan menggantikan chat model umum untuk text generation bebas. Lewati tool ini kecuali Anda sedang membangun pipeline deterministik yang memerlukan explicit probability scores. sumber: github.com/StartLuxLabs/StartLux-Decision my other side: setyadi.com

Menyimak Webinar Gratisan di Tengah Malam

2022-10-18 · #Catatan Pribadi

Menyimak Webinar Gratisan di Tengah Malam

Tengah malam begini malah asyik mendengarkan webinar gratisan. Suasana larut yang hening kadang justru jadi waktu yang pas untuk menyimak hal-hal baru tanpa banyak distraksi, sekadar bermodal rasa penasaran.

Catatan ini semula saya tulis di Facebook, 18 Oktober 2022.

$ cd ~/

$ cat comments/ (0)