Orang Percaya ChatGPT, Pembuatnya Malah Heran dan Sebut AI Berhalusinasi

Shanghai,China-Feb.17th 2024: Google Gemini, OpenAI ChatGPT and Microsoft Copilot app icons on screen. Assorted AI mobile apps — Ilustrasi aplikasi AI/Foto: Getty Images/Robert Way

Balikpapan -

CEO perusahaan pembuat ChatGPT, OpenAi yakni Sam Altman mengaku heran banyak orang percaya pada ChatGPT. Padahal menurutnya, AI saat ini masih berhalusinasi.

Dikutip detikInet, AI seperti ChatGPT, Gemini, atau DeepSeek banyak digunakan orang. Hampir mustahil menghindari atau mengabaikan AI pada saat ini, karena hampir semua perusahaan teknologi terbesar di dunia telah merangkul AI di layanan mereka.

Akhirnya, makin banyak yang bergantung pada AI dalam mencari informasi, bertanya berbagai macam hal, sampai meminta nasihat. Namun Sam Altman mengutarakan keheranannya atas fenomena itu.

SCROLL TO CONTINUE WITH CONTENT

"Orang-orang memiliki tingkat kepercayaan sangat tinggi terhadap ChatGPT, yang adalah hal menarik karena AI berhalusinasi," katanya baru-baru ini.

"Seharusnya teknologi itu tidak terlalu Anda percayai," tambahnya seperti dikutip detikInet dari Unilad.

ChatGPT dan yang lainnya masih rentan memberikan informasi yang salah. Pada prinsipnya, halusinasi dalam model AI terjadi ketika ia menghasilkan informasi yang tidak benar atau tidak masuk akal, dan ini sering kali dikaitkan dengan menyenangkan pengguna.

Contohnya, Anda dapat memintanya untuk mendefinisikan istilah yang Anda tahu tidak memiliki arti, dan AI seperti ChatGPT dapat membuat definisi hanya untuk memenuhi permintaan Anda. Belum lama ini, riset juga menyebut dampak negatif pemakaian AI.

Peneliti dari MIT Media Lab menggelar studi soal AI bertajuk 'Your Brain on ChatGPT'. Mereka menemukan pengguna large language model (LLM) seperti ChatGPT memiliki kinerja buruk pada tingkat saraf, linguistik, dan perilaku.

Kelompok pertama menulis dibantu ChatGPT, kelompok kedua mengandalkan Google Search, dan kelompok ketiga tidak dibantu teknologi. Dalam sesi keempat, kelompok pertama diminta menulis esai tanpa bantuan ChatGPT dan kelompok ketiga diizinkan memakainya.

Dalam studi tersebut, peneliti menemukan penurunan tajam dalam 'konektivitas pita alfa' di kelompok pertama yang menulis menggunakan ChatGPT dibandingkan kelompok ketiga yang tidak menggunakan bantuan. Konektivitas ini mengukur kemampuan kognitif otak seperti memori dan pemrosesan bahasa.

Artikel ini sebelumnya telah tayang di detikInet dengan judul Bos OpenAI Heran Orang Percaya ChatGPT, Padahal...