ivo@setyadi:~$ ivo.blogspot.com

# catatan teknis, sejak 2001

Project Maya runs 300B MoE models locally

Project Maya is a local inference engine for massive Mixture-of-Experts models such as GLM‑5.3‑Flash and DeepSeek‑V4.1. It offloads inactive experts to system RAM and NVMe SSDs, enabling 748B‑parameter models to run on single or multi‑GPU setups. The API follows OpenAI and Anthropic standards, supporting tool calls and concurrent requests. It is worth trying if you have high‑end local hardware and need private, low‑latency LLM access without cloud costs. However, the hardware floor is steep – you’ll need 100GB+ combined VRAM and RAM for usable performance. It is not suitable for standard consumer laptops or low‑memory systems. sumber: github.com/mw00/project-maya my other side: setyadi.com

Kursi Roda vs. Honda Baru: Sebuah Refleksi Singkat

2024-01-25 · #Renungan

Kursi Roda vs. Honda Baru: Sebuah Refleksi Singkat

Kadang terlintas pertanyaan sederhana, seperti 'Kursi roda?'. Lalu muncullah ungkapan spontan, 'Mashook pak eko!'. Entah kenapa, dua hal yang sekilas tidak berkaitan ini tiba-tiba terhubung dalam pikiran. Mungkin karena keduanya mewakili sebuah bentuk mobilitas, sebuah cara bergerak, sebuah alat yang memungkinkan kita menjelajahi dunia. Kursi roda, sebagai alat bantu bagi sebagian orang, dan mobil, sebagai alat transportasi bagi kebanyakan orang.

Kemudian, pikiran melayang ke perbandingan yang agak nyeleneh. 'Nggak kayak semua tipe Honda keluaran baru,' begitu lanjutannya. Ini bukan berarti saya menjelekkan produk Honda. Sekadar pengamatan personal saja, melihat bagaimana desain dan mungkin filosofi di balik mobil-mobil baru itu terasa berbeda, mungkin kurang 'masuk' bagi selera saya saat ini, dibandingkan dengan sebuah konsep yang lebih mendasar seperti kursi roda yang efisien dan fungsional.

Catatan ini semula saya tulis di Facebook, 25 Januari 2024.

Arnold Schwarzenegger dan "Komedian" di Bandara Munich

2024-01-18 · #Hiburan

Arnold Schwarzenegger dan "Komedian" di Bandara Munich

Baru saja baca berita soal Arnold Schwarzenegger yang ditahan di bandara Munich gara-gara jam tangan. Katanya sih, prosesnya itu 'incompetent shakedown' dan 'total comedy of errors' yang cocok banget jadi film komedi polisi.

Membayangkannya saja sudah bikin geli. Pasti bukan adegan yang heroik, tapi lebih ke kekacauan yang nggak disengaja. Sesuatu yang bikin kita mikir, "Kok bisa begini ya?" Mungkin ada pelajaran di baliknya, atau memang ada kalanya hal-hal absurd itu terjadi dalam hidup orang terkenal sekalipun.

Intinya, kadang kejadian yang kelihatannya serius bisa jadi bahan tertawaan kalau dilihat dari sudut pandang yang tepat. Apalagi kalau pelakunya adalah seorang Terminator.

Catatan ini semula saya tulis di Facebook, 18 Januari 2024.