Islam Times - Peneliti AI: 'Semua Orang di Bumi Akan Mati'

IslamTimes - Menghentikan pengembangan sistem kecerdasan buatan canggih di seluruh dunia dan menghukum keras mereka yang melanggar moratorium adalah satu-satunya cara untuk menyelamatkan umat manusia dari kepunahan, seorang peneliti AI terkemuka telah memperingatkan.

Umat manusia tidak siap untuk bertahan menghadapi pertemuan dengan kecerdasan buatan yang jauh lebih pintar, kata Eliezer Yudkowsky

Eliezer Yudkowsky, salah satu pendiri Machine Intelligence Research Institute (MIRI), telah menulis opini untuk majalah TIME pada hari Rabu (29/3), menjelaskan mengapa dia tidak menandatangani petisi yang meminta “semua laboratorium AI untuk segera berhenti setidaknya selama enam bulan pelatihan sistem AI lebih kuat daripada GPT-4,” model bahasa besar multimodal, dirilis oleh OpenAI awal bulan ini.

Yudkowsky berpendapat bahwa surat tersebut, yang ditandatangani oleh orang-orang seperti Elon Musk dan Steve Wozniak dari Apple, "meminta terlalu sedikit untuk menyelesaikan" masalah yang ditimbulkan oleh perkembangan AI yang cepat dan tidak terkendali.

“Hasil yang paling mungkin dari membangun AI yang sangat cerdas, dalam situasi apa pun yang jauh seperti saat ini, adalah bahwa setiap orang di Bumi akan mati,” tulis Yudkowsky.

Bertahan dari perjumpaan dengan sistem komputer yang “tidak mempedulikan kita atau kehidupan pada umumnya” akan membutuhkan “ketepatan dan persiapan serta wawasan ilmiah baru” yang tidak dimiliki umat manusia saat ini dan tidak mungkin diperoleh di masa mendatang, menurutnya .

“AI yang cukup cerdas tidak akan bertahan lama di komputer,” Yudkowsky memperingatkan. Dia menjelaskan bahwa fakta bahwa string DNA sudah dapat dikirim ke laboratorium untuk menghasilkan protein kemungkinan besar akan memungkinkan AI "membangun bentuk kehidupan artifisial atau bootstrap langsung ke pembuatan molekul postbiologis" dan keluar ke dunia.

Menurut peneliti, moratorium pelatihan AI besar baru yang tidak terbatas dan di seluruh dunia harus segera diberlakukan. “Tidak ada pengecualian, termasuk untuk pemerintah atau militer,” tegasnya.

Kesepakatan internasional harus ditandatangani untuk menetapkan batas atas berapa banyak daya komputasi yang dapat digunakan siapa pun dalam melatih sistem semacam itu, tegas Yudkowsky.

“Jika intelijen mengatakan bahwa sebuah negara di luar perjanjian sedang membangun klaster GPU (unit pemrosesan grafis), jangan terlalu takut akan konflik penembakan antar negara daripada pelanggaran moratorium; bersedia menghancurkan pusat data nakal dengan serangan udara,” tulisnya.

Ancaman dari kecerdasan buatan begitu besar sehingga harus dibuat “secara eksplisit dalam diplomasi internasional bahwa mencegah skenario kepunahan AI dianggap sebagai prioritas di atas mencegah pertukaran nuklir secara penuh,” tambahnya.[IT/r]