.webp)
Dituduh Penjahat Seksual oleh AI Google, Musisi Kanada Layangkan Gugatan Rp 26 M
Dilansir dari The Guardian (6/5), gugatan ini dipicu oleh kesalahan fatal teknologi Kecerdasan Buatan (AI) Google yang secara keliru mengidentifikasi dirinya sebagai pelaku kejahatan seksual dalam ringkasan hasil pencarian.
Ashley MacIsaac, musisi peraih tiga penghargaan Juno Award, menuntut ganti rugi sebesar 1,5 juta dolar (sekitar Rp 26 miliar) atas pencemaran nama baik dan kerugian moril yang dialaminya.
Masalah ini bermula pada Desember tahun lalu ketika sebuah komunitas adat, Sipekne'katik First Nation, membatalkan konser MacIsaac secara mendadak. Panitia mengklaim menemukan informasi melalui "AI Overview" (fitur ringkasan AI Google) yang menyatakan bahwa sang musisi adalah seorang terpidana kasus kekerasan seksual.
Setelah ditelusuri, AI Google rupanya mencampuradukkan data pribadi MacIsaac dengan catatan kriminal pria lain di wilayah Kanada Atlantik yang memiliki nama belakang yang sama.
Fitur AI tersebut secara keliru menyatakan bahwa MacIsaac telah divonis atas serangkaian pelanggaran berat, termasuk:
* Kekerasan seksual.
* Penjeratan anak melalui internet (*internet luring*).
* Penganiayaan yang menyebabkan luka fisik.
* Terdaftar secara permanen dalam daftar nasional pelaku kejahatan seksual.
Dalam berkas gugatan yang diajukan ke Pengadilan Tinggi Ontario, pihak MacIsaac menegaskan bahwa Google harus bertanggung jawab penuh atas konten yang dihasilkan oleh teknologinya.
"Sebagai pencipta dan operator AI Overview, Google bertanggung jawab atas kerugian yang timbul dari desain produk yang cacat," bunyi pernyataan dalam gugatan tersebut.
MacIsaac berargumen bahwa Google seharusnya menyadari bahwa sistem AI mereka tidak sempurna dan berpotensi menyebarkan informasi yang sepenuhnya salah.
MacIsaac juga mengkritik respons Google yang dianggap tidak peduli. "Google bersikap acuh tak acuh terhadap publikasi pernyataan yang sangat palsu ini, yang bahkan melibatkan tuduhan kejahatan serius terhadap anak-anak," tambahnya.
Selain kerugian finansial akibat pembatalan kontrak, musisi asal Cape Breton ini mengaku merasa terancam keselamatannya. Ia sempat merasa takut untuk tampil di atas panggung karena label negatif yang menempel pada namanya akibat kesalahan AI tersebut.
Meskipun pihak Sipekne'katik First Nation telah menyampaikan permintaan maaf secara terbuka kepada MacIsaac setelah menyadari kesalahan informasi tersebut, dampak reputasi yang dihasilkan oleh Google dianggap sudah terlanjur luas.
Kasus ini menjadi sorotan dunia karena menantang tanggung jawab hukum perusahaan teknologi atas "halusinasi" atau kesalahan fakta yang dihasilkan oleh AI.
Hingga saat ini, klaim-klaim dalam gugatan tersebut belum diuji di pengadilan, namun para ahli hukum melihat ini sebagai preseden penting mengenai bagaimana pengadilan akan memperlakukan konten yang dihasilkan oleh algoritma pencarian masa depan.
Saat ini, Google telah menghapus ringkasan AI yang salah tersebut, namun MacIsaac bersikeras untuk melanjutkan proses hukum guna memberikan pelajaran bagi perusahaan teknologi global dalam mengelola data sensitif individu.
(ass/tia)
