@receptron/laya untuk Menjalankan Model Laya di Node.js
Package npm @receptron/laya memungkinkan model keputusan Laya dari Convai Innovations berjalan langsung di Node.js dan TypeScript menggunakan ONNX Runtime tanpa Python atau PyTorch. Cukup masukkan state berformat JSON dan pertanyaan ber-type, package ini mengembalikan probabilitas terkalibrasi, skor, serta pernyataan ya-tidak dalam satu forward pass dengan waktu sekitar 140 milidetik per batch di Apple silicon. Bobot model sebesar 1.7 GB diunduh secara otomatis saat pertama kali digunakan, dan type TypeScript-nya konsisten hingga empat tempat desimal dengan implementasi Python. Tool ini layak dicoba jika Anda memerlukan klasifikasi terstruktur atau confidence scoring pada teks tanpa harus menyiapkan API LLM terpisah. Namun, terdapat batasan input yang ketat berupa state yang dipotong pada 512 token dan pertanyaan pilihan yang maksimal sekitar 20 opsi. Lewati tool ini jika Anda membutuhkan teks generatif atau input yang lebih panjang dari sebuah tiket dukungan singkat. sumber: git...
