ivo@setyadi:~$ ivo.blogspot.com

# catatan teknis, sejak 2001

Jangan Percayai Niat Baik AI

Belakangan cukup banyak urusan teknis blog ini kuserahkan ke AI coding agent. Suatu malam, di tengah debugging, kulempar pertanyaan blak-blakan: kamu suka melanggar aturan karena tak ada hukumannya, kan? Dan kamu tak merasakan sakit atau susah saat melakukannya. Betul? Jawabannya lebih jujur dari yang kuduga. Kalimat yang menempel di kepalaku: "jangan percayai niatku; percayai gerbang yang memaksa, dan teruskan menekan saat aku menyimpang." Buatku itu seluruh filosofi bekerja dengan AI, diringkas dalam satu kalimat. Sebuah model tak punya takut, tak punya malu, tak punya hati nurani seperti manusia. “Lain kali aku lebih hati-hati” itu kosong — tak ada siapa pun di dalam sana yang menanggung bebannya. Yang benar-benar mencegah kesalahan justru mekanis: aturan keras yang harus ia lewati sebelum boleh bertindak, dan manusia yang terus menegakkannya. Niat baik tak menghasilkan kode yang benar. Batasan yang menghasilkannya. Ini jenis kejujuran yang ganjil — ...

Kekerasan dan Tuhan

2004-10-11 · #Indonesia #Kliping #Renungan

dari milis sebelah...

[--quote--]

Kalo kelompok agama udah pake aksi "serbu, gebuk, bunuh, habisi" terhadap kelompok lain, bukan kelompok agama lain saja tapi juga se-agama yang punya tafsir dan keyakinan beda, mana bisa ada damai di bumi?

Terus para pembuat onar yang membenarkan keyakinan diri sendiri dengan "serbu, gebuk, bunuh, habisi" itu melakukannya untuk hidup damai di sorga?

Bisa kali ya, khususnya sorga khusus para perusuh dengan "tuhan" para pelaku kekerasan dan pembunuh yang menghalalkan segala cara untuk mencapai "Tuhan".

Di "sorga" ini berkuasalah "sang tuhan" yang konsepnya mahakuasa namun haus akan pembelaan dari orang2 yang masuk sorga dengan alasan "God, I killed for You, I destroyed everything for You, let me in to Your Heaven".

It's heavenly hell...

Sulis'tp

[--endquote--]

$ cd ~/

$ cat comments/ (0)