ivo@setyadi:~$ ivo.blogspot.com

# catatan teknis, sejak 2001

Jangan Percayai Niat Baik AI

Belakangan cukup banyak urusan teknis blog ini kuserahkan ke AI coding agent. Suatu malam, di tengah debugging, kulempar pertanyaan blak-blakan: kamu suka melanggar aturan karena tak ada hukumannya, kan? Dan kamu tak merasakan sakit atau susah saat melakukannya. Betul? Jawabannya lebih jujur dari yang kuduga. Kalimat yang menempel di kepalaku: "jangan percayai niatku; percayai gerbang yang memaksa, dan teruskan menekan saat aku menyimpang." Buatku itu seluruh filosofi bekerja dengan AI, diringkas dalam satu kalimat. Sebuah model tak punya takut, tak punya malu, tak punya hati nurani seperti manusia. “Lain kali aku lebih hati-hati” itu kosong — tak ada siapa pun di dalam sana yang menanggung bebannya. Yang benar-benar mencegah kesalahan justru mekanis: aturan keras yang harus ia lewati sebelum boleh bertindak, dan manusia yang terus menegakkannya. Niat baik tak menghasilkan kode yang benar. Batasan yang menghasilkannya. Ini jenis kejujuran yang ganjil — ...

Sebutir Nasi dan Menghargai Kerja Keras

2019-07-19 · #Renungan

Tiba-tiba teringat petuah simbah dulu: jangan pernah menyia-nyiakan sebutir nasi pun, karena di setiap butirnya ada keringat dan kerja keras orang lain.

Dulu mungkin cuma terdengar seperti nasihat makan biasa. Tapi rasanya jauh lebih nyesek dan mengena sekarang, terutama ketika giliran hasil kerja keras kita sendiri yang disia-siakan orang begitu saja.

Catatan ini semula saya tulis di Facebook, 19 Juli 2019.

$ cd ~/

$ cat comments/ (0)