.webp)
Platform gim daring Roblox belakangan ramai dibicarakan publik. Di balik tampilan penuh warna dan kebebasan berkreasi yang ditawarkan, permainan ini juga menyimpan potensi ancaman bagi anak-anak, mulai dari konten kasar hingga kehadiran predator digital.
Dua akademisi Universitas 17 Agustus 1945 (Untag) Surabaya, yakni Supangat PhD ITIL COBIT CLA CISA, serta Dr Rr Amanda Pascarini MSi, menyoroti celah bahaya di balik sistem moderasi yang diklaim berbasis kecerdasan buatan (AI).
Supangat menjelaskan bahwa secara sistem, Roblox memang telah menerapkan AI untuk menyaring kata-kata kasar, konten kekerasan, serta perilaku melanggar aturan komunitas. Namun, efektivitasnya masih dipertanyakan.
SCROLL TO CONTINUE WITH CONTENT
"Namun realitanya, kehadiran sistem ini justru mengundang tanda tanya. Benarkah AI mampu mengawal interaksi anak dengan baik, atau justru menutupi lalu lintas predator yang semakin lihai menyamar?," kata Supangat, Rabu (9/7/2025).
Supangat menjelaskan, secara sistem, platform Roblox telah mengadopsi AI untuk menyaring kata-kata kasar, konten kekerasan, dan perilaku yang melanggar standar komunitas. Namun tak bisa dipungkiri, AI masih bergantung pada pola bahasa yang eksplisit, padahal tidak semua bentuk ancaman muncul dalam kalimat frontal atau baku.
"Modus seperti grooming, misalnya, sering kali dibungkus dengan pendekatan emosional yang lembut, mengajak berteman, memberi perhatian, atau pura-pura menjadi teman sebaya. Interaksi seperti ini tidak akan terbaca sebagai ancaman oleh sistem yang hanya mengandalkan logika blokir kata. Pendekatan emosional yang dimaksud lebih bertujuan untuk membuat calon target merasa nyaman, membutuhkan bahkan ketergantungan dengan pelaku," jelasnya.
Baginya, kelemahan moderasi terlalu teknis dan tidak mengenali konteks, serta tidak memahami niat. Teknologi bisa menyaring makian, tapi belum tentu bisa menangkap manipulasi halus.
Maka, lanjut Supangat, butuh sistem yang lebih adaptif dan kontekstual, bukan sekadar reaktif. Bahkan, dalam konteks hukum, kemampuan deteksi AI belum sepenuhnya sejalan dengan kebutuhan perlindungan anak yang utuh.
"Karena itu, sekuat apa pun teknologi yang dikembangkan, ia tetap membutuhkan dukungan pendekatan manusia, baik melalui desain sistem yang lebih cerdas maupun integrasi dengan pendampingan sosial yang memadai," beber Dosen Sistem dan Teknologi Informasi (Sistekin) Untag tersebut.
"Kami tidak sedang menolak kehadiran AI. Justru sebaliknya, kami percaya teknologi bisa menjadi alat bantu luar biasa dalam menciptakan ruang digital yang lebih aman. Tapi sistem secerdas apa pun tidak akan berguna jika digunakan secara tunggal, tanpa sentuhan empati manusia," tambahnya.
Sementara Dosen Psikologi Untag Surabaya, Amanda mengatakan, dari perspektif psikologi, terdapat persoalan yang tak kalah berbahaya. Misalnya dengan munculnya rasa aman palsu.
"Ketika sebuah platform mengklaim aman karena "sudah dimoderasi AI", anak-anak cenderung menurunkan kewaspadaan. Mereka merasa tidak sedang berada dalam situasi yang perlu dicurigai. Dan di situlah risiko terbesar justru bersembunyi. Penurunan kewaspadaan menyebabkan anak cenderung lengah dan mengesampingkan aspek antisipasi," kata Amanda.
Menurutnya, salah satu ancaman yang sering luput dari pantauan sistem adalah grooming digital, upaya pelaku untuk mendekati anak secara perlahan, membangun kepercayaan. Lalu menyisipkan ajakan atau percakapan yang menjurus pada pelecehan.
"Pelaku bisa menyamar sebagai teman sebaya, memberi perhatian berlebih, hingga membuat korban merasa istimewa dan tergantung secara emosional. Ini bukan bentuk ancaman yang bisa disaring oleh sistem berbasis kata. Yang terjadi di balik layar adalah proses psikologis yang tidak bisa dibaca oleh mesin.
Anak-anak sendiri, terutama di usia pra-remaja, masih membentuk konsep tentang siapa yang bisa dipercaya. Mereka belum mampu membedakan antara perhatian tulus dan manipulasi tersembunyi " urainya.
Ia menyebut, pada beberapa kasus, mereka bahkan merasa bersalah ketika hubungan itu berubah menjadi ancaman, dan justru enggan bercerita pada orang dewasa. Kondisi ini semakin pelik, mengingat masa perkembangan anak dan remaja merupakan masa yang penuh pertumbuhan, perubahan dan adaptasi, sehingga secara emosional mereka masih belum matang dan cenderung mudah dipengaruhi.
Kemudian, lingkungan dan role model yang ada di sekitar anak atau remaja memiliki peran yang sangat signifikan untuk menentukan perkembangan kepribadian mereka.
Tak hanya grooming, moderasi AI dinilai tidak kontekstual juga kerap gagal mendeteksi cyberbullying terselubung. Sindiran halus, pengucilan di ruang obrolan, atau komentar menyakitkan yang dikemas dalam nada bercanda bisa lolos dari penyaringan otomatis.
Padahal, lanjut Amanda, bagi anak-anak, pengalaman ini bisa meninggalkan luka psikologis yang dalam, menurunkan kepercayaan diri, menyebabkan kecemasan sosial, bahkan depresi. Ketika sistem gagal mengenali dinamika emosional, anak dibiarkan menghadapi tekanan tanpa perlindungan yang layak, dan jangka panjang berbagai dampak akan mempengaruhi secara langsung perkembangan diri maupun kepribadian anak atau remaja.
"Karena itu, pendampingan dari orang tua dan pendidik tetap menjadi garda depan. Literasi digital bukan cuma soal menghindari situs dewasa, tapi juga memahami dinamika hubungan sosial daring. Anak perlu dibekali keterampilan mengenali situasi yang tidak sehat secara emosional, dan itu tidak bisa dibebankan sepenuhnya pada mesin," ujarnya.
"Jika hari ini anak-anak diberi keleluasaan menjelajah dunia virtual, maka dunia orang dewasalah yang bertanggung jawab membentengi mereka. Bukan dengan ketakutan, tapi dengan sistem yang terintegrasi, antara AI yang semakin cerdas, regulasi yang berpihak pada korban, dan manusia yang hadir secara sadar, baik sebagai pendidik, orang tua, maupun pembuat kebijakan.
Anak-anak akan terus hadir di ruang digital, dengan atau tanpa pengawasan kita. Roblox hanya salah satu contoh. Dunia digital akan terus berkembang, dan anak-anak kita akan terus menjadi bagian darinya. Maka, keselamatan mereka bukan sekadar urusan sistem, tapi juga soal siapa yang memilih untuk peduli dan benar-benar hadir," pungkasnya.
(auh/abq)
