StartLux Decision: Mesin Inference Model Terstruktur
StartLux Decision menyediakan open models dalam ukuran 4B, 9B, dan 27B parameter yang menghasilkan typed probabilities untuk pertanyaan terstruktur alih-alih open text. Repo ini menyertakan HTTP server dan inference engine untuk format GGUF dan MLX, lengkap dengan varian yang menghasilkan reasoning traces saat confidence di bawah 0.6. Sistem ini memproses input text, JSON, dan image dalam satu forward pass untuk tugas kontrol seperti game bot dan analisis frame video. Tool ini layak diuji secara lokal menggunakan bobot MLX atau GGUF jika Anda membutuhkan klasifikasi terstruktur tanpa parsing output LLM bebas. Namun, arsitektur khusus ini tidak akan menggantikan chat model umum untuk text generation bebas. Lewati tool ini kecuali Anda sedang membangun pipeline deterministik yang memerlukan explicit probability scores. sumber: github.com/StartLuxLabs/StartLux-Decision my other side: setyadi.com