ivo@setyadi:~$ ivo.blogspot.com

# catatan teknis, sejak 2001

TurboFieldfare jalankan Gemma 4 di Mac RAM rendah

TurboFieldfare adalah runtime Swift dan Metal yang menjalankan Gemma 4 26B-A4B dengan menggunakan sekitar dua gigabyte RAM. Sistem ini memotong expert weights dari SSD untuk menjaga model tetap di memori, sehingga dapat berjalan di MacBook Air M2 8GB. Proyek ini mencakup aplikasi Mac native, CLI, dan server yang kompatibel dengan OpenAI, semuanya dibangun khusus untuk Apple Silicon. Alat ini layak dicoba untuk local inference pada hardware berkapasitas memori rendah yang ingin menghindari overhead dari wrapper umum. Kekurangannya adalah kecepatan decode pada hardware M2 dasar yang lambat, hanya menghasilkan lima hingga enam token per detik. Turbine ini tidak cocok untuk tugas high-throughput atau Mac berbasis Intel. sumber: https://github.com/drumih/turbo-fieldfare versi bahasa Inggris: https://home.wordpress.com/2026/09/21/turbofieldfare-runs-gemma-4-on-low-ram-macs/

Menjalankan Docker di produksi?

2018-01-25 · #Systems & Infrastructure

James Higginbotham menguraikan sembilan hal yang perlu dipertimbangkan saat memutuskan menjalankan Docker di server produksi.

Developer perlu ingat bahwa Docker itu sebuah perkakas, bukan solusi arsitektur cloud native yang utuh. Ia menawarkan kemampuan yang luar biasa, dan saya sangat senang Docker jadi bagian dari arsitektur saya. Tapi merawat deployment Docker di produksi menuntut usaha yang sama besarnya dengan solusi berbasis cloud lainnya — bahkan mungkin lebih.

Selengkapnya di sini.

versi bahasa Inggris: https://home.wordpress.com/2018/01/25/running-docker-in-production/

$ cd ~/

ivo@setyadi:~$