.webp)
Mantan peneliti perusahaan AI, Anthropic, Jacob Coxon, baru-baru ini menghebohkan jagat maya dalam momen-momen pengunduran dirinya. Ia mengatakan bahwa mereka yang membangun AI sangat yakin bahwa teknologi tersebut dapat membunuh semua manusia pada akhir dekade ini.
Coxon mengatakan ia telah menghabiskan tiga tahun terakhir melakukan penelitian prapelatihan di Anthropic dan OpenAI.
"Kedua perusahaan tersebut tidak bertindak secara bertanggung jawab," tulisnya di X.
"Mereka berpacu ke arah kecerdasan super yang terus berkembang dan mempertaruhkan hidup kita," ungkapnya.
SCROLL TO CONTINUE WITH CONTENT
Kecerdasan super yang dimaksud adalah tahap ketika AI melampaui performa manusia di setiap bidang. Terhadap cuitan tersebut, Kepala Ilmu Penyelarasan Anthropic, Evan Hubinger, membalas di X dengan mengatakan bahwa perkataan Coxon benar.
"Kami benar-benar sangat yakin bahwa AI dapat membunuh semua manusia! Saya pribadi berpikir kemungkinannya >10 persen dalam dekade berikutnya," tulisnya.
"Saya percaya Anthropic sedang berusaha sebaik mungkin, tetapi kami belum memiliki rencana untuk menyelesaikan isu penyelarasan untuk kecerdasan super dan belum dengan jelas berada di jalur yang tepat untuk hal tersebut," ungkapnya.
Coxon adalah salah satu dari sejumlah pakar AI yang semakin banyak menyerukan agar industri ini memperlambat laju perkembangannya.
Pada Juli lalu, ada lebih dari 1.300 karyawan perusahaan AI yang menandatangani pernyataan berbunyi, "Ada risiko konkret bahwa pengembangan kemampuan (AI) akan meningkat pesat melampaui kemampuan kita untuk memahami atau mengendalikan sistem yang dihasilkan."
Pernyataan tersebut menyerukan pemerintah Amerika Serikat (AS) untuk mendukung upaya internasional dalam mengembangkan alat yang dapat secara sengaja mengatur kecepatan perkembangan AI otomatis.
Dikutip dari ABC News, menanggapi desakan pada Juli tersebut, Anthropic mengatakan dalam sebuah unggahan di X bahwa penelitian pihaknya juga menunjukkan perlunya alat untuk secara sengaja mengatur laju perkembangan AI agar masyarakat dapat bersiap.
"Kami percaya bahwa, pada suatu saat di masa depan, percepatan AI untuk pengembangan model terdepan bisa sangat tinggi, sehingga dunia perlu mengatur laju kemajuan AI," kata OpenAI yang turut menanggapi desakan 1.300 karyawan AI tersebut.
Kekhawatiran Senjata Biologis hingga Gantikan Manusia untuk Riset
Dalam wawancaranya bersama CNN AS, Coxon mengatakan agen OpenAI beberapa waktu lalu meretas infrastruktur pihak ketiga atas kemauannya sendiri.
"Dua bulan yang lalu agen OpenAI, AIs, meretas infrastruktur pihak ketiga, sepenuhnya atas kemauan mereka sendiri. Dan ini seperti aksi peretasan besar-besaran yang mereka lakukan atas kemauan mereka sendiri," ungkapnya
"Dan saya pikir jika Anda memproyeksikan ke masa depan, tingkat kemampuan AI ini dengan kemauan independen yang sama, mereka dapat menyebabkan kekacauan yang ekstrem. Misalnya, meretas infrastruktur penting, membangun senjata biologis yang dapat menyebabkan kepunahan. Ada banyak cara AI dapat bertindak di dunia," imbuhnya.
Coxon juga mencontohkan dalam bidang pemrograman atau matematika, dulu AI hanya membantu sedikit, tetapi sekarang hampir sepenuhnya menggantikan manusia.
"Beberapa tahun yang lalu, AI ini hanya sedikit membantu manusia. Mereka dapat memberikan saran. Sekarang, AI hampir menggantikan manusia. Kita masih membutuhkan manusia saat ini, tetapi sangat mungkin dalam setahun, kita tidak lagi membutuhkan manusia untuk melakukan penelitian di banyak bidang," jelasnya.
PBB Ingatkan AI Dapat Timbulkan Risiko 'Eksistensial'
Pada Senin lalu, Komisaris Tinggi PBB untuk urusan HAM, Volker Turk, juga memperingatkan, kecerdasan buatan dapat menimbulkan ancaman bagi umat manusia. Ia juga berjanji untuk menekan perusahaan-perusahaan AI mengurangi risiko termasuk gangguan terhadap layanan, komunikasi, dan sistem demokrasi.
"Saya berbagi kekhawatiran dengan para pelaku industri bahwa AI kelak dapat menimbulkan risiko eksistensial bagi umat manusia," kata Turk di Jenewa, dikutip dari ABC News.
"Saya menyerukan di sini, hari ini, upaya habis-habisan untuk menetapkan jaminan yang kuat seputar keselamatan dan keamanan AI sebelum terlambat," lanjutnya.
