.webp)
Tren menghasilkan gambar dan video menggunakan kecerdasan buatan atau artificial intelligence (AI) semakin marak di media sosial. Tak jarang, anak-anak dijadikan konten untuk tren AI karena lucu dan menarik. Namun, apakah tidak berbahaya?
Sayangnya, konten AI yang lucu memiliki risiko jangka panjang bagi anak. Dalam hal ini, anak belum bisa menjaga keamanan data dan privasinya sendiri.
Menurut Ketua Program Studi Kecerdasan Buatan IPB University, Prof Yeni Herdiyani, penggunaan wajah anak dalam konten AI rentan terhadap kejahatan digital. Ketika foto anak diunggah ke AI, maka data bisa diakses di ruang publik dan bisa disalahgunakan.
SCROLL TO CONTINUE WITH CONTENT
"Kondisi ini menempatkan anak sebagai kelompok yang sangat rentan dalam ekosistem digital," ucapnya dalam laman IPB, dikutip Rabu (11/2/2026).
Orang Tua Harus Paham Risiko Digital
Untuk mengantisipasi risiko, Prof Yeni menuturkan bahwa orang tua harus memahami risiko bahwa apa yang diunggah di media sosial, termasuk wajah anak, bisa berisiko. Orang tua perlu memahami ini sebelum mengunggah atau mengedit wajah anak dengan AI.
Tidak hanya penyalahgunaan data, risiko juga merembet ke perlindungan privasi yang tidak aman. Terlebih algoritma AI bisa semakin canggih.
Ia menilai, literasi digital di masyarakat perlu ditekankan terus menerus. Dalam hal ini, IPB University berupaya membentuk masyarakat yang lebih kritis dan bertanggung jawab dalam penggunaan AI.
"IPB University secara konsisten memberikan materi etika dan tanggung jawab penggunaan teknologi dalam perkuliahan berpikir komputasional bagi mahasiswa baru, sejak di tingkat pertama," tuturnya.
Bahaya AI bagi Anak
Sementara itu, Dana Anak Perserikatan Bangsa-Bangsa atau United Nations Children's Fund (UNICEF), menekankan bahaya AI untuk anak-anak. Terutama tentang disinformasi berbasis teks yang tidak dapat dibedakan.
Sederhananya, informasi atau hasil konten yang dihasilkan dari AI berisiko disinformasi. Selain itu, gambar yang dihasilkan AI juga berpotensi disalahgunakan.
"Anak-anak sangat rentan terhadap teknik-teknik (sistem AI) ini yang, jika digunakan untuk tujuan yang berbahaya, tidak etis dan merusak kebebasan berekspresi anak-anak, kebebasan berpikir, dan hak atas privasi," tulis UNICEF dalam laman resminya.
UNICEF mencatat perlu adanya pengamanan yang berlandaskan hak asasi manusia, transparansi, dan akuntabilitas, untuk memastikan bahwa pengembangan AI bermanfaat bagi semua dan jauh dari risiko berbahaya untuk anak-anak.
Penulis adalah peserta magangHub Kemnaker di detikcom.
(sls/faz)
