.webp)
Menurut para peneliti, tidak bisa dipungkiri lagi bahwa AI telah menjadi bagian manusia masa kini. Meskipun sudah ada pengembangan prinsip-prinsip etika AI tingkat tinggi untuk penggunanya, nyatanya masih terlalu sedikit prinsip yang efektif terkait anak-anak.
Akibatnya tidak tahu siapa yang harus bertanggung jawab terkait dampak yang ditimbulkan ketika anak-anak menjelajahi internet terlalu dalam menggunakan AI.
"Penggabungan AI dalam kehidupan anak-anak dan masyarakat kita tidak bisa dihindari. Akhirnya perdebatan tentang siapa yang harus bertanggung jawab dan etis tentang teknologi ini semakin meningkat. Sebagian besar beban tersebut kini ditanggung oleh orang tua dan anak-anak kini menghadapi hal yang sangat kompleks," ujar Dr Jun Zhao, peneliti EWADA dikutip dari rilis di laman resmi Universitas of Oxford.
Tantangan Utama Etika AI Bagi Anak-anak
Melalui studi yang diterbitkan di jurnal Nature Machine Intelligence, para peneliti menyoroti empat tantangan utama terkait hal ini, seperti:
- Kurangnya pertimbangan terhadap sisi perkembangan anak. Pengembangan AI harus mempertimbangkan kebutuhan anak yang kompleks dan individual, rentang usia, tahapan perkembangan tubuhnya, latar belakang dan karakternya.
- Minimnya pertimbangan terhadap peran wali di masa anak-anak. Orang tua justru sering kali digambarkan memiliki pengalaman yang lebih unggul, padahal dunia digital perlu merefleksikan peran orang tua.
- Terlalu sedikit evaluasi yang berpusat pada anak, sehingga mungkin akan berdampak pada kesejahteraan jangka panjang anak-anak.
- Tidak adanya pendekatan yang terkoordinasi, lintas sektoral, lintas disiplin dalam merumuskan etika AI bagi anak-anak. Untuk itu diperlukan perhatian khusus agar menghasilkan perubahan praktik yang berdampak di masa mendatang.
Memang penggunaan AI tidak selalu buruk bagi anak-anak, karena kecerdasan buatan ini bisa juga digunakan untuk melindungi mereka dari paparan konten yang tidak pantas. Untuk itu diperlukan sebuah integrasi inovasi AI yang lebih kuat dalam hal pengamanan.
Sehingga langkah pencegahan terkait paparan konten yang bias seperti masalah etnis atau konten berbahaya lainnya bisa dilakukan. Hal ini mulai direalisasikan oleh peneliti EWADA.
Bekerja sama dengan Universitas Bristol, mereka merancang alat untuk membantu anak-anak penderita Attention deficit hyperactivity disorder (ADHD) dalam penggunaan AI.
Selama pengembangan, peneliti mempertimbangkan kebutuhan anak-anak ADHD dan merancang AI yang sesuai etika yang aman untuk anak serta selaras dengan aktivitas sehari-hari mereka.
AI ini bermanfaat untuk meningkatkan keterampilan literasi digital dan kebutuhan lain dengan penampilan yang sederhana namun efektif mengembangkan kemampuan mereka.
Saran Peneliti Oxford Tentang Etika AI Bagi Anak
Menanggapi tantangan yang hadir secara nyata, para peneliti merekomendasikan:
- Orang tua dan wali, pengembang AI, dan anak-anak harus terlibat dalam perancangan etika AI.
- Memberikan dukungan langsung kepada pengembang sistem AI dengan lebih melibatkan mereka dalam penerapan prinsip-prinsip etika Ai.
- Membangun mekanisme akuntabilitas hukum dan profesional yang berpusat pada anak.
- Meningkatkan kolaborasi multidisiplin seputar pendekatan yang berpusat pada anak-anak dengan melibatkan berbagai pemangku kepentingan yang ahli di bidangnya. Bila di Indonesia bisa berkaitan dengan Kementerian Pendidikan dan Kementerian Komunikasi dan Informatika.
Melalui saran tersebut, beberapa prinsip etika Ai yang perlu dipertimbangkan untuk anak-anak, seperti:
- Memastikan akses digital yang adil, setara, dan inklusif bagi anak.
- Memberikan transparansi dan akuntabilitas ketika mengembangkan sistem AI.
- Menjaga privasi, mencegah kemungkinan manipulasi dan eksploitasi anak.
- Menjamin keselamatan anak-anak.
- Menciptakan sistem yang sesuai dengan usia anak sekaligus secara aktif melibatkan mereka dalam proses perkembangan.
Melalui penelitian ini, para peneliti menekankan bila etika AI akan penting untuk perkembangan anak-anak masa depan. Professor Sir Nigel Shadbolt, rekat Dr Jun Zhao yang ikut andil dalam penelitian ini menyatakan anak berhak mendapat sistem yang memenuhi kebutuhan sosial, emosional dan kognitif mereka.
"Sistem AI kita harus etis dan penuh hormat pada semua tahap perkembangan, namun hal ini sangat penting terutama pada masa kanak-kanak," tuturnya.
Keduanya berharap penelitian ini bisa menjadi titik awal terjadinya kolaborasi lintas sektoral dalam menciptakan teknologi AI yang etis untuk anak-anak secara global.
"Kami berharap penelitian ini akan menjadi titik awal yang signifikan untuk kolaborasi lintas sektoral dalam menciptakan teknologi AI yang etis untuk anak-anak dan adanya pengembangan kebijakan global di bidang ini," tutup Zhao.
(det/faz)
