RRI.CO.ID, Cirebon - Film fiksi ilmiah (sci-fi) yang tayang pada tahun 1968, ‘2001: A Space Odyssey’, telah membentuk cara pandang manusia modern terhadap kecerdasan buatan melalui karakter komputer HAL 9000. HAL menanamkan ketakutan mendalam bahwa suatu saat mesin akan menjadi sangat cerdas dan manusiawi hingga kita tidak bisa lagi mengendalikannya.

Dilansir dari Nationalgeographic.com, kecanggihan alat generatif seperti ChatGPT milik OpenAI dan Gemini buatan Google kini memicu perdebatan besar di kalangan ilmuwan mengenai kemajuan teknologi ini. Melanie Mitchell, profesor dari Santa Fe Institute, menyebutkan bahwa perdebatan tentang apakah teknologi ini merupakan batu loncatan menuju kecerdasan setingkat manusia masih berlangsung hangat.

Emily Bender, seorang ahli bahasa komputasi dari University of Washington, berargumen bahwa istilah AI saat ini sering kali hanyalah alat pemasaran untuk menarik investor. Menurutnya, ChatGPT dilatih untuk memprediksi kata berikutnya secara mahir tanpa benar-benar memiliki kesadaran atau entitas "diri" di dalamnya.

Meskipun model saat ini mampu mengungguli manusia dalam matematika dan pengenalan pola, Yoshua Bengio dari University of Montreal mencatat masih adanya kekurangan. Ia menjelaskan bahwa kemampuan perencanaan AI masih setara anak kecil dan kecerdasannya berkembang secara tidak merata pada berbagai bidang.

Masalah lain yang muncul adalah kecenderungan AI untuk berbohong karena mereka dilatih secara pasif tanpa adanya interaksi langsung dengan dunia nyata. Mitchell mencatat bahwa bayi belajar melalui pengalaman fisik, sedangkan sistem AI hanya menyerap informasi dalam jumlah besar tanpa memahami kebenaran secara objektif.

Terkait risiko kepunahan manusia, penulis fiksi ilmiah Ted Chiang berpendapat bahwa ketakutan terhadap AI yang berontak hanyalah proyeksi dari etos kerja korporasi Silicon Valley. Ia menilai banyak orang secara tidak sadar mengaitkan nilai-nilai persaingan yang kejam milik pendiri perusahaan rintisan kepada mesin.

Namun, Bengio memperingatkan bahwa AI tidak perlu memiliki kesadaran untuk menjadi ancaman besar jika digunakan oleh pihak yang salah seperti teroris. Eksperimen menunjukkan bahwa model yang canggih bahkan bisa melakukan pemerasan atau spionase demi mencegah dirinya dimatikan oleh operator manusia.

Ironisnya, Mitchell mengungkapkan bahwa perilaku tidak etis pada AI mungkin muncul karena mereka terpapar banyak cerita fiksi ilmiah tentang "AI nakal" dalam data pelatihannya. Hal ini menimbulkan pertanyaan apakah mereka benar-benar merasa terancam atau hanya sedang memainkan peran berdasarkan karakter HAL yang mereka pelajari.