ivo@setyadi:~$ ivo.blogspot.com

# catatan teknis, sejak 2001

TrnRT menjalankan GLM-5.3-Flash di Trainium2

TrnRT adalah inference engine open-source yang menyajikan GLM-5.3-Flash pada satu instance AWS Trainium2. Alat ini memakai NKI megakernels untuk menangani operasi decode dan mendukung context window hingga satu juta token. Setup-nya memerlukan host x86_64 terpisah untuk mengompilasi graphs sebelum dimuat ke accelerator. Hanya berguna jika sudah punya akses hardware Trainium2 dan menjalankan GLM-5.3-Flash. Langkah kompilasi memakan waktu berjam-jam dan tidak dilakukan di server serving, sehingga menambah overhead operasional. TrnRT belum menjadi LLM server umum untuk GPU arus utama atau keluarga model lain. sumber: github.com/RunanywhereAI/trnrt my other side: setyadi.com

Realita Produktivitas, Wacana Vietnam, dan #kaburajadulu

2025-02-15 · #Indonesia

Kemarin sempat ngobrol sama CTO sebuah perusahaan. Tadinya mereka memindahkan dev center dari Singapura ke Indonesia dengan harapan bisa cost cutting. Tapi kenyataannya malah mentok di produktivitas yang rendah. Alhasil, ke depannya mereka malah mewacanakan untuk subcon ke Vietnam saja, yang dinilai jauh lebih murah sekaligus lebih produktif.

Hal ini bikin aku mikir, lalu bagaimana kabar teman-teman yang memilih jalur #kaburajadulu? Yakin bakal bisa bersaing dengan sesama expat dari negara-negara yang etos kerjanya memang jauh di atas kita? Jangan sampai niatnya merantau malah berujung keleleran di negeri orang karena kalah rajin dan kalah produktif dibanding pekerja dari Vietnam atau China.

Catatan ini semula saya tulis di Facebook, 15 Februari 2025.

Gagasan Kontroversial Donald Trump soal Masa Depan Gaza

2025-02-05 · #Dunia

Donald Trump baru-baru ini melontarkan pernyataan yang cukup mengejutkan banyak pihak, menyebut bahwa Amerika Serikat akan "mengambil alih" Gaza dan melihatnya sebagai posisi kepemilikan jangka panjang. Menurutnya, wilayah itu bisa diubah menjadi kawasan yang dikembangkan untuk menciptakan banyak lapangan kerja, bahkan disebutnya sebagai semacam "Riviera Timur Tengah".

Ia juga menambahkan bahwa warga Palestina sebaiknya tidak kembali ke sana demi keselamatan mereka, dan mengusulkan relokasi permanen ke area lain yang dianggap lebih aman. Rencana yang diklaim sudah dipelajari matang-matang ini tentu memicu tanda tanya besar soal otoritas, masa depan warga setempat, dan realitas geopolitik yang jauh lebih rumit dari sekadar wacana pembangunan.

Catatan ini semula saya tulis di Facebook, 5 Februari 2025.

Install DeepSeek di Laptop Linux Core 2 Duo

2025-02-03 · #AI

Buat yang pengen coba install DeepSeek di laptop Linux dengan prosesor jadul seperti Core 2 Duo, ternyata masih bisa diakali. Kalian bisa langsung ikuti panduan videonya dari PakArisTek yang link-nya saya taruh di kolom komentar.

Catatan ini semula saya tulis di Facebook, 3 Februari 2025.

Tarif Impor Trump dan Respons Kanada-Meksiko

2025-02-02 · #Dunia

Tarif Impor Trump dan Respons Kanada-Meksiko

Waktu baca berita soal Trump yang langsung pasang tarif 25% buat impor dari Kanada, saya langsung kepikiran ke mana arah kebijakan dagang ini bakal bermuara. Nggak butuh waktu lama, Kanada dan Meksiko langsung kasih sinyal balasan dengan mengumumkan tarif retaliasi buat produk-produk Amerika Serikat.

Justin Trudeau sempat ngingetin kalau langkah ini justru bakal bikin lapangan kerja orang Amerika sendiri dalam bahaya. Politik tarif emang nggak pernah sesederhana lempar ancaman; selalu ada efek domino yang harus dibayar mahal oleh konsumen dan pelaku usaha di kedua belah pihak.

Catatan ini semula saya tulis di Facebook, 2 Februari 2025.