Aplikasi kecerdasan buatan (AI) Grok sempat terancam dihapus dari App Store akibat kasus deepfake seksual tanpa persetujuan. Isu ini juga menyeret platform X yang dimiliki miliarder Elon Musk.
Kasus ini mencuat setelah chatbot Grok dilaporkan menghasilkan gambar seksual, termasuk yang melibatkan anak-anak dan perempuan tanpa persetujuan. Konten tersebut dapat dibuat dengan mudah karena pengguna X bisa menyebut akun @grok dalam unggahan dan memasukkan perintah untuk menghasilkan gambar.
Menurut laporan NBC News, Elon Musk bahkan mengirim surat kepada para senator Amerika Serikat untuk menjelaskan proses kerja di balik sistem tersebut. Langkah itu dilakukan untuk mempercepat penanganan insiden.
Tekanan kemudian mengarah ke Apple Inc. agar menarik aplikasi Grok dan X dari App Store. Meski sempat tidak memberikan pernyataan publik, laporan NBC News menyebut Apple menemukan pelanggaran terhadap pedoman mereka dan secara internal mengancam akan menghapus Grok.
Apple dilaporkan menghubungi tim pengembang X dan Grok setelah menerima keluhan serta mengikuti pemberitaan terkait kasus tersebut. Perusahaan kemudian meminta pengembang menyusun rencana untuk memperkuat moderasi konten.
X sempat mengajukan pembaruan aplikasi Grok untuk ditinjau, tetapi ditolak karena dinilai belum membawa perubahan signifikan.
"Apple meninjau pengajuan selanjutnya yang dibuat oleh para pengembang dan menentukan bahwa X telah secara substansial menyelesaikan pelanggarannya, tetapi aplikasi Grok tetap tidak sesuai. Akibatnya, kami menolak pengajuan Grok dan memberi tahu pengembang bahwa perubahan tambahan untuk memperbaiki pelanggaran akan diperlukan, atau aplikasi tersebut dapat dihapus dari App Store," begitu bunyi surat Apple.
Setelah perbaikan lanjutan, Apple akhirnya menerima pembaruan dari Grok.
"Setelah keterlibatan dan perubahan lebih lanjut oleh pengembang Grok, kami menentukan bahwa Grok telah secara substansial meningkat dan oleh karena itu menyetujui pengajuan terbarunya," tulis mereka.
Namun, laporan lain dari NBC News menyebut Grok masih menghasilkan gambar bernuansa seksual tanpa persetujuan, meski jumlahnya menurun. Media tersebut mendokumentasikan puluhan kasus dalam satu bulan terakhir, tetapi volume konten serupa dilaporkan telah berkurang signifikan sejak Januari tahun ini.
Artikel ini telah tayang di detikINET. Baca selengkapnya di sini.
(ask/sud)