AGI, malaikat atau iblis - pengalaman saya tentang kekacauan dan keteraturan
Apa itu AGI? Kecerdasan umum buatan (AGI) adalah kecerdasan yang melampaui manusia dalam semua domain intelektual, berbeda dengan AI tradisional, yang hanya bagus dalam tugas-tugas tertentu, kuncinya adalah otonomi. Hingga saat ini, semua alat berada di bawah kendali manusia. Palu, gergaji mesin, mobil, pesawat terbang... semua alat tersebut hanya bisa digunakan dengan aman jika dipegang dan dikendalikan oleh manusia. Namun, bagaimana jika AI memiliki otonomi? Palu bisa tiba-tiba memutuskan untuk memukul seseorang dengan sendirinya, pesawat terbang bisa terbang ke tepi angkasa dengan kemauannya sendiri, dan mobil bisa memutuskan untuk “beristirahat” dan berhenti bergerak. Bagaimana jika AI yang lebih baik dari manusia memiliki kehendak bebas, ...
