ivo@setyadi:~$ ivo.blogspot.com

# catatan teknis, sejak 2001

Project Maya runs 300B MoE models locally

Project Maya is a local inference engine for massive Mixture-of-Experts models such as GLM‑5.3‑Flash and DeepSeek‑V4.1. It offloads inactive experts to system RAM and NVMe SSDs, enabling 748B‑parameter models to run on single or multi‑GPU setups. The API follows OpenAI and Anthropic standards, supporting tool calls and concurrent requests. It is worth trying if you have high‑end local hardware and need private, low‑latency LLM access without cloud costs. However, the hardware floor is steep – you’ll need 100GB+ combined VRAM and RAM for usable performance. It is not suitable for standard consumer laptops or low‑memory systems. sumber: github.com/mw00/project-maya my other side: setyadi.com

Kita Adalah Apa yang Orang Lain Percayai

2024-02-23 · #Renungan

Kadang saya merenung, betapa kuatnya persepsi orang lain membentuk diri kita. 'You are what people believe you are.' Kalimat sederhana ini menyimpan makna yang dalam, bukan? Seolah-olah identitas kita, atau setidaknya bagaimana kita dilihat, sangat bergantung pada pandangan orang lain.

Apakah ini berarti kita kehilangan kendali atas diri sendiri? Atau justru ini menjadi pengingat bahwa interaksi sosial, reputasi, dan bagaimana kita mempresentasikan diri itu penting? Jujur saja, ini adalah sebuah paradoks yang menarik untuk terus dipikirkan.

Catatan ini semula saya tulis di Facebook, 23 Februari 2024.

Sejenak Merenung: Urusan Nyoblos yang Terabaikan

2024-02-14 · #Renungan

Tadi pagi iseng buka-buka arsip lama, nemu catatan soal nyoblos. Agak geli sendiri kalau diingat, 'suwe ora nyoblos, nyoblos ora suwe'. Ternyata, momen 'suwe ora nyoblos' itu benar-benar terjadi belakangan ini. Entah karena kesibukan, entah karena ada hal lain yang lebih mendesak, rasanya sudah cukup lama saya tidak merasakan kembali sensasi mencoblos itu.

Tulisan singkat itu, dengan tagar #jalurdifabel, mungkin jadi semacam pengingat bagi diri sendiri. Mengingatkan bahwa partisipasi dalam proses demokrasi itu penting, terlepas dari kondisi fisik. Tapi kadang, hidup punya caranya sendiri untuk mengingatkan kita, kadang dengan cara yang lebih 'berkesan'. Ya sudahlah, yang penting sekarang sudah dilewati. Semoga lain kali bisa lebih 'rutin' lagi.

Catatan ini semula saya tulis di Facebook, 14 Februari 2024.