Bahaya Mereduksi Inteligensi Manusia Menjadi Optimasi AI

Saat ilmuwan komputer mendefinisikan AI sebagai optimasi murni, mereka mengadopsi pandangan David Hume bahwa reason hanyalah pelayan dari hasrat. Model bahasa kontemporer bekerja sepenuhnya dalam reward functions dan feedback loops eksternal, menghitung cara terbaik mencapai tujuan tanpa bisa menilai apakah tujuan itu layak. Namun, memperlakukan model teknik ini sebagai deskripsi utuh dari inteligensi manusia adalah kesalahan besar yang menyamakan alat dengan keseluruhan pikiran.

Pandangan ini tidak layak dijadikan acuan mutlak karena mengabaikan argumen Kant bahwa reason memiliki kekuatan untuk menilai dan merevisi tujuan kita. Risiko utamanya adalah kita mereduksi kapasitas moral manusia menjadi sekadar kalkulasi matematis yang sempit. Ini adalah batasan fatal yang menunjukkan bahwa decak kagum kita pada machine capability sering kali mengabaikan kompleksitas esensial manusia yang sebenarnya.

sumber: aeon.co

my other side: setyadi.com