Pria yang secara luas dipandang sebagai bapak kecerdasan buatan (artificial intelligence) telah mengundurkan diri dari pekerjaannya di Google seraya memperingatkan tentang bahaya yang dapat muncul dari perkembangan AI.
Geoffrey Hinton, 75 tahun, mengumumkan pengunduran dirinya dalam sebuah pernyataan kepada surat kabar New York Times. Ia berkata bahwa ia sekarang menyesali pekerjaannya.
Ia mengatakan kepada BBC beberapa bahaya chatbot AI “cukup menakutkan”.
“Saat ini, mereka tidak lebih cerdas dari kita, sejauh yang saya tahu. Tapi saya pikir tak lama lagi mereka mungkin akan begitu (menjadi lebih cerdas dari manusia).”
Dr. Hinton juga mengakui bahwa usianya punya andil dalam keputusannya untuk meninggalkan Google. “Usia saya 75 tahun, jadi sudah waktunya untuk pensiun,” katanya kepada BBC.
Riset terobosan Hinton tentang neural network dan deep learning membuka jalan untuk sistem-sistem AI masa kini seperti ChatGPT.
Dalam teknologi kecerdasan buatan, neural network adalah sistem yang mirip dengan otak manusia dalam kemampuannya mempelajari dan memproses informasi. Mereka memungkinkan AI untuk belajar dari pengalaman, layaknya manusia. Inilah yang disebut deep learning.
Sang psikolog kognitif dan ilmuwan komputer berdarah Inggris-Kanada ini berkata kepada BBC bahwa chatbot tak lama lagi dapat melampaui level informasi yang disimpan oleh otak manusia.
“Sekarang, yang kita saksikan ialah sistem-sistem AI seperti GPT-4 memiliki pengetahuan umum yang jauh melampaui pengguna manusia. Dalam hal nalar, ia tidak sebagus itu (manusia), tapi sudah melakukan penalaran sederhana,” ujarnya.
“Dan melihat laju kemajuannya, kita dapat berharap mereka menjadi lebih baik dengan cepat. Jadi kita perlu khawatir tentang itu.”
Dalam artikel di New York Times, Dr. Hinton menyebut tentang “aktor-aktor jahat” yang akan mencoba menggunakan AI untuk “hal-hal buruk”.
Ketika diminta oleh BBC untuk mengelaborasi komentar ini, ia menjawab: “Ini hanya skenario terburuk, semacam skenario mimpi buruk.
“Anda dapat membayangkan, misalnya, seorang aktor jahat seperti [Presiden Rusia Vladimir] Putin memutuskan untuk memberi robot kemampuan untuk menciptakan subtujuan mereka sendiri.”
Sang ilmuwan memperingatkan bahwa ini akhirnya dapat “menciptakan subtujuan seperti ‘Saya perlu mendapatkan lebih banyak kekuatan'”.
Ia menambahkan: “Saya menyimpulkan bahwa jenis kecerdasan yang kita kembangkan sangat berbeda dengan kecerdasan yang kita punya.
“Kita adalah sistem biologis dan ini adalah sistem digital. Dan perbedaan besarnya ialah dengan sistem digital, Anda bisa punya banyak salinan dari satu berat yang sama, model yang sama, tentang dunia.
“Dan semua salinan ini dapat belajar secara terpisah namun saling berbagi pengetahuan dengan instan. Jadi seolah-olah Anda punya 10.000 orang dan kapanpun satu orang mempelajari sesuatu, semua orang otomatis mengetahuinya. Dan karena itulah chatbot-chatbot ini bisa tahu jauh lebih banyak dari orang mana pun.”
Matt Clifford, ketua Badan Riset dan Penemuan Tingkat Lanjut Inggris, berbicara dalam kapasitas pribadi, berkata kepada BBC bahwa pengumuman Dr. Hinton “menekankan betapa cepatnya perkembangan kapabilitas AI”.
“Ada banyak manfaat dari teknologi ini, tetapi amat penting dunia banyak berinvestasi, dan segera, dalam keamanan dan kontrol AI,” ujarnya.
Dr. Hinton bergabung dengan semakin banyak pakar yang mengungkapkan kekhawatiran tentang AI — baik tentang kecepatan maupun arah perkembangannya.
‘Kita perlu mengambil langkah mundur’
Maret lalu, surat terbuka yang ditandatangani oleh puluhan orang di bidang AI, termasuk miliarder teknologi Elon Musk — meminta penangguhan perkembangan AI yang lebih canggih dari versi chatbot AI ChatGPT saat ini, supaya langkah-langkah keamanan yang kuat dapat dirancang dan diimplementasikan.
Yoshua Bengio, pria lainnya yang disebut sebagai Bapak AI, yang bersama Dr. Hinton dan Yann LeCun memenangkan Turing Award pada 2018 atas pekerjaan mereka di bidang deep learning, juga menandatangani surat tersebut.
Bengio menulis bahwa karena “akselerasi yang tidak disangka-sangka” dalam sistem AI, “kita perlu mengambil langkah mundur”.
Namun Dr. Hinton mengatakan kepada BBC bahwa “dalam jangka pendek” ia pikir AI dapat memberi lebih banyak manfaat daripada bahaya, “jadi saya tidak berpikir kita harus berhenti mengembangkan ini,” ia menambahkan.
Ia juga mengatakan bahwa kompetisi internasional berarti penangguhan akan sulit. “Bahkan kalau semua orang di AS berhenti mengembangkannya, China akan bisa lari duluan,” ujarnya.
Dr. Hinton juga berkata ia adalah pakar sains, bukan kebijakan, dan adalah tanggung jawab pemerintah untuk memastikan AI dikembangkan “dengan banyak pertimbangan tentang cara menghentikannya ketika ia menjadi liar”.
‘Pendekatan yang bertanggung jawab’
Dr. Hinton menekankan bahwa ia tidak ingin mengkritik Google dan bahwa raksasa teknologi telah “sangat bertanggung jawab”.
“Saya sebenarnya ingin mengatakan beberapa hal baik tentang Google. Dan perkataan saya lebih kredibel jika saya tidak bekerja untuk Google.”
Dalam sebuah pernyataan, kepala saintis Google Jeff Dean berkata: “Kami tetap berkomitmen pada pendekatan yang bertanggung jawab untuk AI. Kami terus belajar untuk memahami ancaman-ancaman yang timbul, sambil berinovasi dengan berani.”
Penting untuk diingat bahwa chatbot AI hanyalah satu aspek dari kecerdasan buatan, meskipun itu yang paling populer sekarang.
AI ada di balik algoritme yang menyarankan video apa yang perlu Anda tonton berikutnya di platform streaming. Ia dapat digunakan dalam proses perekrutan untuk menyaring lamaran kerja, oleh penyedia asuransi untuk menghitung premi, ia dapat mendiagnosis kondisi medis (meskipun keputusan akhirnya tetap di tangan dokter manusia).
Tapi yang kita saksikan sekarang adalah kebangkitan AGI – artificial general intelligence, kecerdasan buatan umum – yang dapat dilatih untuk melakukan sejumlah hal dalam batasan tertentu. Misalnya, ChatGPT hanya dapat memberikan jawaban berupa teks pada pertanyaan, tetapi kemungkinan di area itu, seperti yang kita lihat, tidak terbatas.
Bagaimanapun, kecepatan perkembangan AI telah mengejutkan banyak orang bahkan para penciptanya sendiri. Ia telah berkembang secara dramatis sejak Dr. Hinton membangun jaringan neural pada 2012.
Bahkan bos Google Sundar Pichai berkata dalam sebuah wawancara baru-baru ini bahwa dia sendiri tidak sepenuhnya memahami apa yang dilakukan chatbot AI milik Google, Bard.
Jangan salah, kita ibarat sedang di atas kereta cepat sekarang, dan kekhawatirannya ialah pada suatu hari nanti kereta itu akan mulai membangun relnya sendiri.(Sumber)
