[AI-TOCRACY]: Do Technology Innovation and Autocratic Regime Form a Mutualistic Symbiosis?
Judul Artikel : “AI-TOCRACY”
Penulis : Martin Beraja, Andrew Kao, David Y. Yang, dan Noam Yuchtman
Tahun Terbit : 2023
Jurnal : The Quarterly Journal of Economics
Diulas oleh Bernard Rendra Putra Kristanto
Latar Belakang
Sistem pemerintahan autokrasi telah lama dipandang tidak bersesuaian dengan proses inovasi: kekuatan politik dan ekonomi autokrat tergerus oleh perubahan teknologi dan pertumbuhan ekonomi, sedangkan dorongan untuk berinovasi terhalang oleh ancaman perampasan di bawah rezim autokrasi. Namun, penelitian terkini menunjukkan bahwa teknologi Artificial Intelligence (AI) membuat proses inovasi dan rezim autokrasi dapat membentuk ‘simbiosis mutualisme’. Sebagai sebuah teknologi prediksi (Agrawal et al., 2019), AI dapat secara efektif meningkatkan kontrol sosial dan politik dari rezim autokrasi (Zuboff, 2019; Acemoglu, 2021; Tirole, 2021). Di sisi lain, perbelanjaan pemerintah terhadap AI dapat menghasilkan innovation spillovers yang luas seperti yang terlihat dalam dual-use technology (teknologi yang dapat digunakan untuk keperluan masyarakat dan militer). Lebih spesifik, karena data yang dimiliki pemerintah (yang bersifat non-rivalry) merupakan input dalam pengembangan AI, proses pengumpulan data dalam upaya kontrol politik dapat mendorong inovasi AI tidak hanya untuk keperluan pemerintah, tetapi juga untuk keperluan komersial dalam pasar.
Sayangnya, masih sedikit bukti empiris yang menunjukkan bahwa autokrasi dan inovasi AI saling menguatkan satu sama lain. Sebagai teknologi yang masih dalam tahap awal, belum banyak bukti yang menunjukkan penggunaan AI untuk keperluan politik, terlebih dalam menjaga kekuasaan. Hal ini mendorong peneliti untuk melakukan studi terkait facial-recognition AI di Republik Rakyat Tiongkok (selanjutnya disebut Tiongkok) dan menemukan bahwa ‘simbiosis mutualisme’ antara proses inovasi dan rezim autokrasi memang benar adanya. Tiongkok dipilih karena menjaga kekuatan politik di sana memang merupakan tujuan terpenting dari Partai Komunis Tiongkok (Shirk, 2007). Selain itu, seluruh masyarakat di Tiongkok, bahkan pengusaha sukses sekelas Jack Ma, selalu dihadapkan dengan potensi pelanggaran hak kepemilikan dan hak sipil yang dilakukan di bawah rezim autokrat (Yang & Wei, 2020). Lebih lanjut, The AI Index 2023 menunjukkan bahwa Tiongkok merupakan negara kedua dengan nilai investasi AI terbesar di dunia.
Secara garis besar, terdapat dua studi utama dalam penelitian ini: (1) peran AI dalam kontrol politik autokrat dan (2) peran kontrol politik autokrat terhadap inovasi AI. Studi yang pertama dapat dipecah untuk menyelidiki pengaruh kerusuhan politik terhadap pengadaan AI dan juga sebaliknya (pengaruh pengadaan AI terhadap kerusuhan politik).
Data
Dalam melakukan analisis empiris, peneliti menggunakan beberapa data:
(i) Daftar kerusuhan politik dalam skala lokal di Tiongkok
Peneliti mengambil data kerusuhan politik dari Global Database of Events, Language, and Tone (GDELT) Project dengan cakupan tahun 2014 hingga 2020. GDELT Project merekam peristiwa-peristiwa kerusuhan berdasarkan artikel dari kumpulan berita global yang komprehensif. Secara keseluruhan, terdapat 9.267 peristiwa kerusuhan politik yang dibagi menjadi tiga kategori: protes, tuntutan, dan ancaman. Kemudian, peneliti menggunakan kondisi cuaca lokal untuk membuat variabel instrumen dari kerusuhan politik. Data cuaca historis dalam tingkat stasiun cuaca secara harian tersebut dihimpun oleh World Meterological Organization (WMO) dan diselenggarakan oleh National Oceanic and Atmospheric Administration (NOAA). Peneliti menetapkan nilai dari sebuah prefektur berdasarkan stasiun cuaca terdekat. Dari 344 prefektur dalam data set, terdapat 260 stasiun cuaca yang digunakan.
(ii) Pengadaan pemerintah daerah terhadap facial-recognition AI dan teknologi lainnya untuk keperluan kontrol politik
Peneliti mengambil informasi dari kontrak pengadaan yang dilakukan oleh pemerintah dari segala tingkatan antara tahun 2013 hingga 2019 yang berasal dari Database Pengadaan Pemerintah Tiongkok yang dikelola oleh Kementerian Keuangan Tiongkok. Untuk berfokus pada pengadaan facial-recognition AI, peneliti mengekstrak perusahaan facial-recognition AI dan memvalidasikannya dengan database Tianyancha, yakni perusahaan database yang terlisensi oleh bank sentral Tiongkok (PBOC) dan berhasil mengidentifikasi 7.837 perusahaan facial-recognition AI. Dari data tersebut, peneliti mengidentifikasi 28.023 pengadaan yang berkaitan dengan keamanan publik terhadap perusahaan AI. Peneliti juga mengumpulkan informasi lain berupa pengadaan kamera pengawas yang dilakukan oleh agen yang sama sebagai teknologi komplemen untuk melakukan kontrol politik.
(iii) Kegiatan inovasi yang dilakukan perusahaan AI di Tiongkok
Peneliti mengumpulkan catatan pendaftaran software perusahaan facial-recognition AI dari Kementerian Perindustrian dan Teknologi Informasi Tiongkok. Inovasi produk direpresentasikan melalui jumlah dari software baru yang dirilis (juga pembaruan signifikan). Kemudian, peneliti menggunakan sebuah recurrent neural network (RNN) model dengan tensorflow — sebuah metode untuk menganalisis tulisan menggunakan machine learning — untuk mengategorikan produk software berdasarkan tujuan konsumen dan fungsi dari produk tersebut. Berdasarkan tujuan konsumen, produk software dapat dibedakan untuk pemerintah dan komersial. Di sisi lain, setelah memilah software hanya untuk AI, peneliti membuat subkategori yang dikhususkan untuk keperluan pengawasan.
Studi 1: Peran AI Dalam Kontrol Politik Autokrat
Studi 1a Pengaruh Kerusuhan Politik Terhadap Pengadaan AI dan Teknologi Keamanan
Dalam mengetahui efek kerusuhan politik terhadap pengadaan AI dan teknologi keamanan, peneliti menggunakan metode OLS dengan persamaan regresi sebagai berikut:
Variabel independen utamanya adalah kerusuhan politik di prefektur i pada kuartal t, sedangkan variabel dependennya merupakan pengadaan facial-recognition AI per kapita di prefektur i pada kuartal selanjutnya (t+1). Time lag yang ada mencerminkan prosedur administrasi sebagai respons atas suatu kerusuhan. Variabel kontrol yang digunakan adalah alfa t (time period fixed effects), gama i (prefecture fixed effects), serta delta t.Xi (kombinasi antara time-varying effects dan karakteristik sosio-ekonomi prefektur). Epsilon it adalah error term.
Sebagai alternatif, peneliti menggunakan Instrumental Variable (IV) untuk mengeksploitasi perbedaan terjadinya kerusuhan yang timbul akibat kondisi cuaca setempat. Pemerintah mungkin akan merespons kejadian kerusuhan bahkan ketika kerusuhan tersebut timbul akibat guncangan cuaca yang tidak terduga. Hal ini mungkin terjadi karena pemerintah tidak mampu membedakan akar penyebab kerusuhan. Namun, dalam menggunakan kondisi cuaca sebagai IV, terdapat beberapa kendala: (1) dimensi cuaca yang tinggi dan kompleks di Tiongkok, (2) perlunya pertimbangan seberapa luas dan seberapa intensif kerusuhan politik yang terjadi, dan (3) perlunya agregasi kejadian kerusuhan untuk mencocokkan dengan time frame pengadaan AI. Untuk mengatasi kendala tersebut peneliti melengkapi data set cuaca yang terdiri atas 18 variabel seperti mean temperature, tingkat presipitasi, dan lain sebagainya. Untuk mengurangi diskresi, peneliti menggunakan regresi LASSO (Least Absolute Shrinkage and Selection Operator) untuk menentukan prediktor dari kerusuhan politik di antara variabel cuaca yang ada, juga termasuk interaksi yang timbul dengan kerusuhan. Terakhir, peneliti menjadikan data tersebut dalam jangka waktu kuartal dan menghitung standard error menggunakan cross-fit partialing-out LASSO IV algorithm (Chernozhukov et al., 2018).
Tabel regresi di atas menunjukkan bahwa baik menggunakan OLS maupun LASSO IV, kerusuhan politik di sebuah prefektur dalam suatu kuartal diikuti oleh peningkatan pengadaan face-recognition AI untuk keperluan keamanan pada kuartal selanjutnya dan hasilnya signifikan secara statistik. Koefisien 0,199 menunjukkan bahwa sebuah kenaikan standar deviasi sebesar 1 pada kerusuhan politik diasosiasikan dengan kenaikan standar deviasi sebesar 0,199 dalam pengadaan facial-recognition AI. Interpretasi yang demikian terjadi karena terdapat standardisasi pada variabel dependen dan independent (mean = 0, variance = 1). Kemudian, analisis LASSO IV yang juga positif dan signifikan memperkuat hasil dari OLS sebagai bukti bahwa relasi antara kerusuhan politik dengan pengadaan AI adalah sebuah kausalitas. Koefisien dengan Instrumental Variable secara konsisten memiliki nilai yang lebih besar daripada OLS. Hal ini berpotensi mencerminkan bias atenuasi dalam estimasi OLS atau specific local average treatment effect dalam analisis IV.
Tabel 1 Efek dari Peristiwa Kerusuhan Terhadap Pengadaan Facial-Recognition AI
Selanjutnya, peneliti mencari tahu lebih lanjut apakah lembaga keamanan melakukan investasi “mahal” sebagai komplemen dari teknologi AI, dalam hal ini adalah kamera pengawas beresolusi tinggi. Peneliti menambahkan variabel tersebut dalam model yang sama dalam tabel 1 dan menemukan hasil yang sama, tetapi dengan magnitudo yang lebih besar. Hal ini merefleksikan keputusan institusi keamanan untuk berinvestasi dalam keduanya (AI dan kamera pengawas). Selain itu, dengan model yang lain (tidak dijelaskan di sini), peneliti menemukan bahwa jumlah perekrutan polisi untuk patroli menjadi lebih rendah setelah satu tahun pengadaan AI, tetapi persentase polisi yang bertugas sebagai desk officers untuk menganalisis AI meningkat dalam perekrutan baru. Hal ini sejalan dengan temuan Acemoglu dan Restrepo (2020) bahwa teknologi AI bersifat labor-saving.
Studi 1b Pengaruh Pengadaan AI Terhadap Peristiwa Kerusuhan Politik
Peneliti menguji apakah pengadaan AI yang dilakukan oleh pemerintah daerah dapat secara efektif menekan kerusuhan politik. Secara anekdot, pemerintah daerah menerapkan facial-recognition AI untuk mengurangi kerusuhan melalui cara-cara seperti identifikasi wajah-wajah baru dalam protes, melacak orang-orang yang mencurigakan dalam kehidupan sehari-hari mereka, atau menghalangi calon pelaku kerusuhan. Sayangnya, setelah mendemonstrasikan bahwa pengadaan AI bersifat endogen terhadap kerusuhan politik, peneliti tidak dapat secara langsung mengestimasi pengaruhnya terhadap kerusuhan politik selanjutnya karena terhalang oleh potensi autokorelasi yang ditimbulkan oleh kerusuhan politik. Oleh karena itu, peneliti mengevaluasi bagaimana pengadaan AI membentuk external shock terhadap kerusuhan politik. Hal ini serupa dengan LASSO IV yang telah dijelaskan sebelumnya. Dalam konteks ini, muncul pertanyaan apakah teknologi AI yang sudah tersedia dapat memitigasi pengaruh cuaca yang pada umumnya berdampak terhadap peristiwa kerusuhan politik.
Untuk menguji hipotesis tersebut, peneliti mengestimasi pengaruh dari perubahan cuaca di prefektur i pada waktu t terhadap kerusuhan politik lokal, dengan memungkinkan efek yang bervariasi berdasarkan lagged dari jumlah pengadaan AI oleh lembaga pertahanan hingga periode t-1 Selain itu, terdapat variabel kontrol time period fixed effects dan prefecture fixed effects, Persamaan regresi yang digunakan adalah sebagai berikut:
Tabel 2 Efek dari Pengadaan Facial-Recognition AI Terhadap Peristiwa Kerusuhan
Pada kolom 1 (baseline) panel A dalam tabel di atas, dapat dilihat bahwa cuaca yang berpotensi untuk menimbulkan kerusuhan politik seperti kekeringan dan berbagai kondisi lainnya berpengaruh positif dan signifikan terhadap pengadaan facial-recognition AI dan kamera pengawas. Namun, ketika variabel cuaca tersebut diinteraksikan dengan AI yang telah tersedia pada kuartal sebelumnya (t-1), koefisiennya menjadi negatif. Hal ini berarti bahwa akumulasi AI di masa lampau melemahkan hubungan positif antara cuaca yang berpotensi menimbulkan kerusuhan politik dan kerusuhan itu sendiri. Artinya, AI berperan dalam kontrol politik dalam rezim autokrasi. Setelah memasukkan variabel kontrol pada kolom 2 hingga 4, kenaikan satu standar deviasi dalam ketersediaan AI mengurangi sekitar 25% efek dari cuaca yang berpotensi menimbulkan kerusuhan.
Selanjutnya, panel B menunjukkan hasil investasi pada teknologi komplementer meningkatkan efektivitas dari facial-recognition AI dalam menekan angka kerusuhan. Hasil menunjukkan bahwa ketika kamera pengawas diadakan selaras dengan pengadaan facial-recognition AI, efektivitas dari AI tersebut menjadi lebih kuat. Kenaikan satu standar deviasi dalam pengadaan bersama antara AI dan kamera pengawas menurunkan efek dari cuaca yang berpotensi menyebabkan kerusuhan lebih dari 50%, lebih besar daripada pengadaan AI saja. Uniknya, ketika peneliti hanya mempertimbangkan ketersediaan kamera pengawas pada kuartal sebelumnya (tidak disediakan di sini), tanpa memperhitungkan AI, hasilnya tidak efektif untuk menekan angka kerusuhan di kuartal sebelumnya.
Studi 2: Peran Kontrol Politik Rezim Autokrasi Terhadap Inovasi AI
Dalam studi ini, peneliti berfokus pada kontrak pengadaan yang dilakukan oleh lembaga keamanan di prefektur yang memiliki tingkat kerusuhan politik di atas median dalam kuartal sebelum perjanjian kontrak. Seperti yang dijelaskan pada bagian sebelumnya, kontrak tersebut diadakan dengan tujuan untuk kontrol politik. Peneliti membandingkan outcome dari perusahaan AI, yakni perilisan software, sebelum dan sesudah mereka menerima kontrak pertama dengan tujuan politik, dengan mengontrol firm fixed effects dan time period fixed effects. Peneliti hanya menguji kontrak pertama karena kontrak selanjutnya bersifat endogen terhadap performa perusahaan di awal kontrak. Persamaan regresi yang digunakan adalah sebagai berikut:
Variabel T it akan bernilai 1 jika pada waktu t, T kuartal telah dilewati sebelum/sejak perusahaan i menerima kontrak pengadaan untuk keamanan. Alfa t merupakan quarter fixed effects dan gama I merupakan firm fixed effects. Koefisien Beta 1T mendeskripsikan produksi software dari sebuah perusahaan di sekitar waktu ketika perusahaan tersebut pertama kali menerima kontrak perjanjian.
Grafik 1 Efek Kontrak Perjanjian Terhadap Output AI
Grafik di atas menunjukkan series dari koefisien Beta 1T, yakni output software (kumulatif), baik secara total maupun terpisah antara tujuan pemerintah dan tujuan komersial. Pada panel A, dapat dilihat bahwa dua tahun setelah menerima kontrak, terdapat peningkatan sekitar 10 produk software. Lebih lanjut, dari panel A dan panel B, dapat dilihat bahwa peningkatan jumlah rilis software tidak hanya lebih banyak untuk tujuan pemerintah, tetapi juga untuk tujuan komersial. Dari grafik di atas juga dapat dilihat bahwa tidak terdapat perbedaan yang signifikan di antara kedua tujuan yang tersebut. Hasil regresi dari studi ini ditunjukan pada tabel 3 di bawah:
Tabel 3 Pengaruh Kontrak Pengadaan oleh Lembaga Keamanan Terhadap Produksi Software
Berdasarkan tabel di atas, dapat dilihat bahwa pengaruh kontrak perjanjian oleh lembaga keamanan berdampak positif secara signifikan terhadap produksi software dua tahun (delapan kuartal) setelah kontrak, baik secara total, tujuan pemerintah, maupun tujuan komersial. Salah satu perhatian yang muncul dalam studi ini adalah endogenitas antara kontrak perjanjian dan kerusuhan politik. Faktor yang menyebabkan kerusuhan politik dapat saja disebabkan oleh produksi AI untuk keamanan, yakni yang mendapatkan kontrak pemerintah. Untuk mengatasi hal ini, peneliti kembali menggunakan LASSO dengan variabel cuaca sebagai instrumen dari kerusuhan politik. Hasilnya terdapat pada kolom 4 hingga 6 pada tabel 3 di atas serta ditunjukkan melalui bayangan hitam pada grafik 1 sebelumnya. Dapat dilihat bahwa nilai koefisien kontrak perjanjian masih bernilai positif dan signifikan terhadap produksi software dua tahun setelah kontrak. Hal ini berarti bahwa kontrak pengadaan AI yang dilakukan oleh rezim autokrasi juga memicu inovasi dari perusahaan AI untuk mengomersialkan produknya.
Kesimpulan
Melalui penelitian ini, dapat disimpulkan bahwa terdapat ‘simbiosis mutualisme’ yang saling menguatkan antara rezim autokrasi Tiongkok dan inovasi yang dilakukan oleh perusahaan facial-recognition AI. Hubungan ini mempunyai implikasi langsung terhadap perekonomian dan politik Tiongkok. Pertama, rezim autokrasi Tiongkok mungkin tidak membatasi kemampuannya untuk terus mendorong perkembangan teknologi AI. Inovasi dalam AI dapat dirangsang justru karena sistem pemerintahan yang bersifat autokratis. Walaupun demikian, keberlanjutan inovasi dan pembangunan ekonomi di Tiongkok tidak dapat dikaitkan dengan institusi politik yang lebih inklusif; tetapi malah lebih memperkuat rezim autokrasi.
Perlu berhati-hati dalam melakukan generalisasi dari hasil penelitian ini. Ke depannya, hubungan yang saling menguatkan antara AI dan autokrasi mungkin relevan dalam konteks negara lain. Rusia sebagai negara yang telah menerapkan facial-recognition untuk kontrol politik merupakan salah satu di antara negara yang dapat dijadikan subjek penelitian. Selain itu, negara lain yang menganut sistem autokrasi dapat saja mengimpor teknologi AI dari Tiongkok untuk kontrol politik. Tentu saja ada kekhawatiran bahwa negara autokrasi yang mendukung AI akan semakin autokrat. Oleh sebab itu, implikasi dari inovasi AI Tiongkok terhadap lanskap politik dan ekonomi global dapat diselidiki lebih lanjut.
