ivo@setyadi:~$ ivo.blogspot.com

# catatan teknis, sejak 2001

Jangan Percayai Niat Baik AI

Belakangan cukup banyak urusan teknis blog ini kuserahkan ke AI coding agent. Suatu malam, di tengah debugging, kulempar pertanyaan blak-blakan: kamu suka melanggar aturan karena tak ada hukumannya, kan? Dan kamu tak merasakan sakit atau susah saat melakukannya. Betul? Jawabannya lebih jujur dari yang kuduga. Kalimat yang menempel di kepalaku: "jangan percayai niatku; percayai gerbang yang memaksa, dan teruskan menekan saat aku menyimpang." Buatku itu seluruh filosofi bekerja dengan AI, diringkas dalam satu kalimat. Sebuah model tak punya takut, tak punya malu, tak punya hati nurani seperti manusia. “Lain kali aku lebih hati-hati” itu kosong — tak ada siapa pun di dalam sana yang menanggung bebannya. Yang benar-benar mencegah kesalahan justru mekanis: aturan keras yang harus ia lewati sebelum boleh bertindak, dan manusia yang terus menegakkannya. Niat baik tak menghasilkan kode yang benar. Batasan yang menghasilkannya. Ini jenis kejujuran yang ganjil — ...
2019-06-3016:01 How Does a Moment Last Forever #Puisi & Lirik
2019-06-2909:39 Gangguan Air Aetra Cempaka Putih #Catatan Pribadi
2019-06-2311:42 Sanksi Baru dan Ketegangan AS-Iran #Dunia
2019-06-1312:41 Menghitung Angka-Angka di Pulau D #Catatan Pribadi
2019-06-1306:44 Selamat untuk Kak Rizki Suluh Adi #Catatan Pribadi
2019-06-0806:32 Hasil Uji Tabrak Toyota Avanza #TechReview
2019-06-0803:45 Jus Cellna Lemonja untuk Atasi Susah BAB #Kesehatan
2019-06-0315:54 Wong Sing Siji Kuwi #Renungan
2019-06-0218:03 Tol Cijago Seksi II Dibuka Fungsional #Kliping