“Jelas kami memiliki kasus yang cukup jelas untuk dibuat di sini [mengingat bahwa] kami adalah generasi yang benar-benar akan mewarisi dampak dari teknologi ini,” kata Revanur. “Jadi para pemimpin dunia memiliki tugas khusus kepada kita untuk memastikan bahwa … Mereka benar-benar mengingat [ini] saat mereka mengejar pemerintahan ke depan.”
Tang – yang masa jabatannya berakhir dengan Presiden Taiwan Tsai Ing-wen pada hari Senin – mengatakan dia tertarik untuk meminjamkan namanya ke dokumen karena “pendekatan komprehensif Encode Justice untuk pengembangan AI etis, dengan fokus pada inklusivitas dan keamanan”.
“Memandu pengembangan AI dari ‘perlombaan menuju kekuasaan’ menuju ‘perlombaan menuju keselamatan’ adalah misi bersama kami, dan saya berharap seruan ini dapat meningkatkan kesadaran di sekitarnya,” katanya.
Neil hu Xiaohu, pendiri Centre for Safe AGI (kecerdasan umum buatan) dan salah satu dari dua penandatangan AI 2030 dari China daratan, mengatakan dia menemukan tujuan ketika teman-teman membagikannya di media sosial.
“Kaum muda harus didengar, yang penting bagi masa depan umat manusia,” katanya. “Saya berharap orang-orang dapat beralih ke pendekatan keselamatan pertama dalam beberapa tahun ke depan sehingga kita dapat menavigasi era AI.”
Negara-negara di seluruh dunia saat ini berlomba untuk menemukan cara untuk bergulat dengan kekhawatiran yang diajukan oleh AI seputar isu-isu seperti etika, keselamatan, dan privasi. Pengusaha seperti CEO Tesla Elon Musk dan CEO OpenAI Sam Altman telah memperingatkan potensi ancaman eksistensial dari AI, seperti halnya para peneliti seperti ilmuwan komputer AI yang inovatif Yoshua Bengio, penandatangan AI 2030 lainnya.
Hal ini telah menyebabkan KTT AI terbaru di Seoul berlangsung pada hari Selasa dan Rabu, setelah KTT Keamanan AI di Inggris November lalu.Namun, pasar terkemuka untuk AI, AS dan Cina, terus-menerus berselisih dan memiliki prioritas yang berbeda ketika datang untuk mengatur teknologi. AS memiliki cetak biru untuk “Bill of Rights” AI dan beberapa aturan untuk perusahaan yang menjual kepada pemerintah, tetapi bukan peraturan yang komprehensif. Cina, di sisi lain, mengharuskan model bahasa besar (LLM) mendapatkan persetujuan untuk rilis publik dan memiliki undang-undang yang melindungi data pengguna. Tetapi pendekatan China terhadap pengembangan LLM – teknologi di balik ChatGPT dan layanan AI generatif lainnya – “dapat memiliki efek mengerikan bagi kebebasan berbicara”, kata Revanur.
“Kami senang dengan fakta bahwa jelas pembuat kebijakan di China menganggap ini serius. Kami berharap dapat menggunakannya untuk keuntungan kami untuk membangun konsensus internasional,” katanya. “Tapi … Ada beberapa titik ketegangan ketika menyangkut nilai-nilai dan prioritas yang dipandu oleh kita dan nilai-nilai dan prioritas yang mungkin membimbing beberapa kerangka kerja ini. “
Encode Justice berusaha untuk meningkatkan peluang yang tersedia dari AI daripada mengatur teknologi. Pada saat yang sama, beberapa tujuannya untuk tahun 2030 memiliki jalur yang lebih jelas menuju realisasi daripada yang lain.
Perjanjian internasional tentang pencegahan sistem senjata ofensif otonom sepenuhnya, misalnya, dapat dimodelkan setelah sesuatu seperti Konvensi Senjata Konvensional Tertentu, menurut Encode Justice. Yang lain mengatakan AI membutuhkan sesuatu yang mirip dengan Perjanjian Non-Proliferasi Senjata Nuklir.
“Saya pikir mengurangi risiko yang berpotensi bencana adalah area yang [AS dan China] telah cukup terbuka dalam dialog,” kata Luke Drago, penasihat AI dan demokrasi di Encode Justice yang berbasis di Inggris dan rekan penulis AI 2030. “Ini adalah bidang yang kami pikir mungkin prima untuk kerja sama internasional.”
Brian Wong, seorang filsuf politik di Universitas Hong Kong yang juga bekerja pada tata kelola AI, mengatakan setidaknya beberapa jenis kesepakatan diperlukan “untuk tidak menyebarkan AI dalam persenjataan mematikan, atau berpotensi mematikan, dalam konteks intensitas tinggi, kepercayaan diri rendah, ketidakpastian tinggi”.
“Beijing dan Washington telah meningkatkan frekuensi dan kedalaman … percakapan tentang penyelarasan AI,” tambahnya. “Saya menemukan itu menggembirakan – meskipun lebih banyak yang benar-benar harus dan bisa dilakukan.”
Perhatian utama lainnya dari dokumen ini adalah dampak AI terhadap ketidaksetaraan pekerjaan dan pendapatan. Ini meminta agar perhatian khusus diberikan kepada Global South, yang bisa paling terpukul, dan menyerukan kepada pemerintah untuk membentuk dana pelatihan ulang global.
Skala luas dokumen AI 2030 dapat membuat pencapaian segalanya menjadi tugas yang menakutkan. Revanur juga menunjukkan bahwa anggota Encode Justice telah mengalami “bias usia” yang mempengaruhi “persepsi pekerjaan kami”.
Wong, yang mengenal beberapa anggota Encode Justice, mengatakan tujuan AI 2030 bukanlah kasus penjangkauan dari gerakan mahasiswa. “Ada beberapa yang cukup berkualitas, untuk usia mereka, dan suara bijaksana dalam tim kepemimpinan gerakan,” katanya.
Namun, tujuan AI 2030 pada akhirnya merupakan tindakan optimisme.
“Kami sangat optimis tentang potensi [mencapai tujuan ini],” kata Drago, “terutama karena aplikasi AI dapat mengangkat ekonomi berkembang melalui inovasi dalam perawatan kesehatan, pertanian, pendidikan, itu dapat menurunkan biaya dalam inovasi besar untuk negara berkembang juga. “
Revanur menyimpulkan kekuatan pendorong di balik Encode Justice dengan ringkas: “Kami masih muda; Ini akan menjadi kejahatan untuk tidak optimis. “