Amanda Askell, Lulusan Filsafat di Pusat Pengembangan AI

Kecerdasan buatan (Al) sering kali dianggap hanya sebagai dunia para pengembang yang bergelut dengan baris kode. Namun, hal ini tidak berlaku bagi Amanda Askell, seorang filsuf sekaligus peneliti Al yang membuktikan pemikiran kritis memiliki peran vital dalam pengembangan teknologi masa depan.

Askell saat ini terlibat dalam tim Anthropic, perusahaan pengembang chatbot dan asisten AI Claude. Timnya berfokus melatih model AI agar lebih jujur dan memiliki karakter yang baik saat dihadapkan pada pertanyaan sulit dan sensitif dari pengguna yang beragam. Ia dan tim juga mengembangkan teknik agar pelatihan ini bisa diterapkan pada model-model selanjutnya yang lebih canggih.

Dari Filsafat ke AI

Dikutip dari situs pribadi dan laman LinkedInnya, Askell semula menekuni program sarjana bidang seni rupa dan filsafat di Duncan of Jordanstone College of Art & Design, University of Dundee pada 2005-2009. Ia kemudian mengenyam studi pasjasarjana bidang filsafat dan meraih gelar BPhil in philosophy dari University of Oxford pada 2011.

Askell kemudian melanjutkan studi ke jenjang doktoral di New York University (NYU) pada 2011-2018. Tesisnya berfokus pada etika tak terhingga (infinite ethics).

Karya filsafat Askell kebanyakan berfokus pada topik etika, teori pengambilan keputusan, dan epistemologi formal. Pendidikan dan karyanya menjadi fondasi Askell kelak dalam membentuk perilaku sistem kecerdasan buatan.

Kiprah di OpenAl hingga Claude

Berbekal ketertarikannya pada persimpangan antara filsafat dan teknologi, Amanda memulai perjalanan profesionalnya di garda depan pengembangan kecerdasan buatan. Sebelum bergabung dengan Anthropic, ia tercatat pernah menjadi peneliti di OpenAl, lembaga riset Al pengembang ChatGPT, pada periode 2018 hingga 2021.

Selama masa kerjanya di sana, Amanda terlibat dalam pengembangan berbagai proyek teknologi, termasuk proyek ChatGPT. la memfokuskan studinya pada isu keamanan Al (Al safety) dan penyelarasan (alignment), sebuah bidang krusial yang memastikan sistem Al yang canggih tetap berperilaku selaras dengan nilai-nilai kemanusiaan.

Salah satu studi Askell dan rekan-rekan, yang dipublikasi dengan judul "A general language assistant as a laboratory for alignment" (2021), mengeksplorasi teknik-teknik dasar untuk mengembangkan asisten AI berbasis teks yang selaras dengan nilai-nilai manusia. Dalam hal ini, mereka mencari tahu bagaimana asisten AI dapat bermanfaat, berkarakter jujur, dan tidak berbahaya.

Adapun pada penelitian dalam artikel ilmiah "Red teaming language models to reduce harms: Methods, scaling behaviors, and lessons learned" (2022), ia dan tim peneliti mencoba simulasi pada model bahasa besar untuk menemukan, mengukur, dan mengurangi keluaran (output) yang berpotensi membahayakan, mulai dari bahasa yang menyinggung sampai bermuatan kekerasan.

Di Anthropic, Askell di antaranya menjadi penulis utama dan menulis sebagian besar teks dokumen Konstitusi Claude. Dokumen ini berisi deskripsi rinci tentang nilai-nilai dan perilaku Claude yang diharapkan Anthropic, seperti aman, beretika, sesuai dengan pedoman, dan benar-benar bermanfaat.

Sifat aman dalam hal ini yaitu tidak merusak mekanisme manusia yang tepat untuk mengawasi AI selama fase pengembangan Claude. Sementara itu, sifat beretika yakni AI Claude dapat jujur, bertindak sesuai dengan nilai-nilai yang baik, dan menghindari tindakan yang tidak pantas, berbahaya, atau merugikan.

Isi Konstitusi Claude digunakan langsung dalam membentuk perilaku Claude. Panduan dan pelatihan Anthropic lainnya juga dirancang agar konsisten dengan isi pedoman ini.

Berkat dedikasi dan kontribusinya, Askell mendapatkan pengakuan luas dari komunitas teknologi dunia. Salah satunya yakni dengan masuk daftar TIME100 Al pada tahun 2024, sebuah daftar bergengsi yang menyoroti figur-figur paling berpengaruh dalam menentukan masa depan kecerdasan buatan.

Kerja Askell mencerminkan pergeseran besar dalam industri teknologi, dengan perusahaan kini mendukung fakta bahwa membangun sistem Al yang mumpuni tidak hanya membutuhkan keahlian teknis. Diperlukan pula pemikiran mendalam mengenai etika dan nilai-nilai kemanusiaan agar teknologi yang dihasilkan tetap aman dan bermanfaat bagi pengguna luas.