Munculnya ChatCCP

Sumber Berita Business Insider

“Di dalam rencana mengerikan Tiongkok untuk masa depan AI”

 

Media www.rajawalisiber.com – Agar teknologi dapat mengubah keseimbangan kekuatan global, teknologi bukanlah sesuatu yang baru. Itu harus diketahui.

Sejak tahun 2017, Partai Komunis Tiongkok telah menyusun rencana yang cermat untuk pada akhirnya mendominasi penciptaan, penerapan, dan penyebaran kecerdasan buatan generatif – program yang menggunakan kumpulan data dalam jumlah besar untuk melatih diri mereka mengenali pola dengan sangat cepat sehingga tampaknya menghasilkan pengetahuan entah dari mana. Menurut rencana Partai Komunis Tiongkok, pada tahun 2020, Tiongkok seharusnya telah “mencapai kemajuan ikonik dalam model dan metode AI, perangkat inti, peralatan canggih, dan perangkat lunak dasar.” Namun peluncuran ChatGPT OpenAI pada musim gugur 2022 membuat Beijing tidak berdaya. Viralnya peluncuran ChatGPT menegaskan bahwa perusahaan-perusahaan AS – setidaknya untuk saat ini – memimpin perlombaan AI dan membuka kompetisi kekuatan besar yang dilakukan secara tertutup agar dapat disaksikan seluruh dunia.

Tidak ada jaminan bahwa keunggulan AI Amerika akan bertahan selamanya. Pejuang teknologi nasional Tiongkok telah ikut serta dan berhasil mengubah teknologi yang memanfaatkan informasi yang beredar bebas agar dapat masuk ke dalam gelembung informasi Tiongkok yang terbatas. Persyaratan sensor mungkin memperlambat pengembangan AI di Tiongkok dan membatasi komersialisasi model-model dalam negeri, namun hal ini tidak akan menghentikan Beijing untuk mengambil manfaat dari AI jika dianggap perlu. Pemimpin Tiongkok, Xi Jinping, memandang teknologi sebagai kunci untuk mengeluarkan negaranya dari kelesuan ekonomi. Dan bahkan jika Tiongkok tidak mengalahkan AS dalam perlombaan AI, masih ada kekuatan besar, dan kemungkinan besar bahaya, jika Tiongkok menempati posisi kedua.

“Ada banyak hal yang dapat kami lakukan dengan teknologi ini. Hanya saja Beijing tidak mendorong interaksi langsung dengan konsumen,” kata Reva Goujon, direktur keterlibatan klien di tim penasihat Tiongkok di perusahaan konsultan Rhodium Group. “Inovasi nyata sedang terjadi di Tiongkok. Kami tidak melihat adanya kesenjangan besar antara model-model yang dapat diterapkan oleh perusahaan-perusahaan Tiongkok. Bukan berarti semua inovator teknologi ini menghilang. Mereka hanya menyalurkan penerapannya pada ilmu pengetahuan alam.”

Dalam dokumen internalnya, Partai Komunis Tiongkok mengatakan bahwa mereka akan menggunakan AI untuk membentuk realitas dan memperketat cengkeramannya pada kekuasaan di dalam wilayah Tiongkok – untuk melakukan penindasan politik, pengawasan, dan memantau perbedaan pendapat. Kita tahu bahwa Partai Komunis Tiongkok juga akan menggunakan AI untuk mendorong terobosan dalam bidang teknik industri, bioteknologi, dan bidang-bidang lain yang dianggap produktif oleh Partai Komunis Tiongkok. Dalam beberapa kasus penggunaan ini, sudah terlihat keberhasilan. Jadi meskipun mereka tertinggal beberapa tahun dari teknologi AS, hal ini masih mempunyai dampak geopolitik yang kuat. Ada banyak pemimpin yang berpikiran sama yang juga ingin menggunakan alat masa depan untuk memperkuat otoritas mereka di masa kini dan memutarbalikkan masa lalu. Beijing akan dengan senang hati memfasilitasi hal tersebut untuk mereka. Visi Tiongkok untuk masa depan AI bersifat sumber tertutup, dikontrol secara ketat, dan tersedia untuk diekspor ke seluruh dunia.

Dalam dunia AI modern, teknologi hanya akan berguna tergantung pada apa yang dimakannya. ChatGPT dan model bahasa besar lainnya menikmati banyak halaman web, artikel berita, dan buku. Terkadang informasi ini membuat LLM keracunan makanan — siapa pun yang pernah bermain dengan chatbot tahu bahwa mereka terkadang berhalusinasi atau berbohong. Mengingat besarnya selera teknologi, mencari tahu apa yang salah jauh lebih rumit daripada mempersempit bahan yang tepat dalam makan malam Anda yang membuat Anda memeluk toilet pada jam 2 pagi. Kumpulan data AI sangat banyak, dan perhitungannya sangat cepat, sehingga perusahaan mengendalikan model tidak tahu mengapa mereka memberikan hasil yang buruk, dan mereka mungkin tidak pernah tahu . Dalam masyarakat seperti Tiongkok – di mana informasi dikontrol dengan ketat – ketidakmampuan untuk memahami inti dari model-model tersebut menimbulkan masalah eksistensial bagi cengkeraman kekuasaan PKT: Sebuah chatbot dapat menyampaikan kebenaran yang tidak menyenangkan, dan tidak ada yang tahu alasannya. Kemungkinan hal itu terjadi bergantung pada model yang dilatihnya. Untuk mencegah hal ini, Beijing memberikan informasi kepada AI yang mendorong “konstruksi sosial” yang positif.

Dewan Negara Tiongkok menulis dalam Rencana Pengembangan Kecerdasan Buatan Generasi Berikutnya 2017 bahwa AI akan mampu “memahami kognisi kelompok dan perubahan psikologis secara tepat waktu,” yang berarti teknologi tersebut dapat “meningkatkan kemampuan dan tingkat sosial secara signifikan.” pemerintahan, memainkan peran yang tak tergantikan dalam menjaga stabilitas sosial secara efektif.” Artinya, jika dibangun dengan spesifikasi yang benar, Partai Komunis Tiongkok yakin AI dapat menjadi alat untuk memperkuat kekuatannya. Itulah sebabnya bulan ini, Cyberspace Administration of China, yang merupakan regulator AI di negara tersebut, meluncurkan chatbot yang dilatih sepenuhnya tentang filosofi politik dan ekonomi Xi, “Pemikiran Xi Jinping tentang Sosialisme dengan Karakteristik Tiongkok untuk Era Baru” (nama yang bagus, saya tahu) . Mungkin sudah jelas bahwa ChatGPT tidak tersedia untuk digunakan di Tiongkok atau Hong Kong.

Bagi Partai Komunis Tiongkok, menemukan cara baru untuk melakukan pengawasan massal dan dominasi informasi merupakan hal yang tepat. Misalnya perekonomian Tiongkok. Wall Street, Washington, Brussels, dan Berlin telah menerima bahwa model yang membantu Tiongkok tumbuh menjadi negara dengan ekonomi terbesar kedua di dunia sudah usang dan Beijing belum menemukan apa pun untuk menggantikannya. Membangun infrastruktur dan kapasitas industri tidak lagi memberikan keuntungan yang sama bagi Partai Komunis Tiongkok. Dunia sedang melawan ekspor Tiongkok, dan upaya Partai Komunis Tiongkok untuk mendorong pertumbuhan melalui konsumsi domestik tidak membuahkan hasil. Pasar properti terdistorsi hingga tidak bisa dikenali lagi, pertumbuhan tidak bergerak, dan deflasi terus berlanjut seperti hantu yang bermasalah. Menurut Freedom House, sebuah lembaga pemantau hak asasi manusia, masyarakat Tiongkok mencapai rekor demonstrasi menentang kebijakan pemerintah selama kuartal keempat tahun 2023. Organisasi ini mencatat 952 peristiwa perbedaan pendapat, meningkat 50% dari kuartal sebelumnya. Tujuh puluh delapan persen demonstrasi melibatkan masalah ekonomi, seperti perumahan atau perburuhan. Jika ada cara yang lebih baik untuk mengendalikan rakyat, Xi membutuhkannya sekarang.

Tanyakan kepada chatbot Administrasi Dunia Maya Tiongkok tentang keterpurukan ekonomi ini, dan Anda akan mendapatkan ceramah tentang perbedaan antara “kekuatan produktif tradisional” dan “kekuatan produktif baru” – kata-kata yang digunakan oleh PKT untuk menghilangkan trauma dari berkurangnya prospek ekonomi Tiongkok. Faktanya, jika Anda bertanya kepada chatbot mana pun yang beroperasi di negara tersebut, mereka akan memberi tahu Anda bahwa Taiwan adalah bagian dari Tiongkok (setidaknya topik kontroversial di luar negeri). Semua chatbots mengumpulkan informasi tentang orang-orang yang menggunakannya dan pertanyaan yang mereka ajukan. Elit PKT akan dapat menggunakan pengumpulan dan penyebaran informasi tersebut untuk keuntungan mereka secara politik dan ekonomi – namun pemerintah tidak berencana untuk membagi kekuasaan tersebut dengan masyarakat umum Tiongkok. Apa yang dilihat partai tidak akan sama dengan apa yang dilihat masyarakat.

“Orang Tiongkok memiliki akses yang besar terhadap informasi di seluruh dunia,” kata Kenneth DeWoskin, seorang profesor emeritus di Universitas Michigan dan penasihat senior Tiongkok untuk Deloitte, kepada saya. “Tetapi sistem informasinya selalu dua tingkat. Sudah ada selama 2.000 tahun.”

Untuk memastikan hal ini, Partai Komunis Tiongkok telah membangun sistem untuk mengatur AI yang cukup fleksibel untuk mengevaluasi model bahasa besar saat model tersebut dibuat dan juga cukup kejam untuk mengontrol keluarannya. Setiap AI yang disebarluaskan untuk konsumsi publik harus didaftarkan dan disetujui oleh CAC. Pendaftaran melibatkan memberi tahu administrasi hal-hal seperti kumpulan data mana yang dilatih AI dan pengujian apa yang dijalankan pada AI tersebut. Intinya adalah untuk mengatur pengendalian yang mencakup beberapa aspek AI, dan – setidaknya secara ideal – memberikan persetujuan akhir kepada Partai Komunis Tiongkok mengenai apa yang bisa dan tidak bisa mereka ciptakan.

“Tantangan sebenarnya dari LLM adalah bahwa LLM merupakan sintesis dari dua hal,” kata Matt Sheehan, peneliti dan rekan di Carnegie Endowment for International Peace, kepada saya. “Mereka mungkin berada di garis depan dalam pertumbuhan produktivitas, namun pada dasarnya mereka juga merupakan sistem berbasis konten, mengambil konten dan membuang konten. Dan itu adalah sesuatu yang dianggap remeh oleh Partai Komunis Tiongkok.”

Dalam beberapa tahun terakhir, partai tersebut telah menunjukkan bahwa mereka bisa bertindak kejam dengan menghentikan teknologi yang mereka anggap “sembrono” atau berbahaya bagi kohesi sosial. Pada tahun 2021, pemerintah melarang siapa pun yang berusia di bawah 18 tahun untuk bermain video game pada hari kerja, menghentikan persetujuan game baru selama delapan bulan, dan kemudian pada tahun 2023 mengumumkan peraturan untuk mengurangi pengeluaran masyarakat untuk video game.

Namun AI bukan sekadar hiburan — ini adalah bagian dari masa depan komputasi. PKT tidak dapat menyangkal viralitas dari apa yang mampu dicapai oleh chatbot OpenAI, kekuatannya dalam persaingan teknologi AS-Tiongkok, atau potensi LLM untuk meningkatkan pertumbuhan ekonomi dan kekuatan politik melalui sintesis informasi secepat kilat.

Pada akhirnya, seperti yang diungkapkan Sheehan, pertanyaannya adalah: “Dapatkah mereka melakukan lobotomi AI dan LLM agar bagian informasinya tidak menjadi faktor?”

Tidak jelas, tapi mereka pasti akan mencobanya.

Agar PKT benar-benar memiliki AI yang kuat untuk dikendalikan, negara tersebut perlu mengembangkan model yang sesuai dengan tujuannya – dan jelas bahwa raksasa teknologi Tiongkok sedang mengejar ketertinggalannya.

Raksasa e-commerce Baidu mengklaim bahwa chatbotnya, Ernie Bot – yang dirilis ke publik pada bulan Agustus – memiliki 200 juta pengguna dan 85.000 klien perusahaan. Sebagai gambaran, OpenAI menghasilkan 1,86 miliar kunjungan di bulan Maret saja. Ada juga chatbot Kimi dari Moonshot AI, startup yang didukung oleh Alibaba yang diluncurkan pada bulan Oktober. Namun baik Ernie Bot maupun Kimi baru-baru ini dibayangi oleh bot Doubao milik ByteDance, yang juga diluncurkan pada bulan Agustus. Menurut Bloomberg, sekarang ini adalah bot yang paling banyak diunduh di negara ini, dan alasannya jelas – Doubao lebih murah dibandingkan pesaingnya.

“Industri AI generatif masih dalam tahap awal di Tiongkok,” kata Paul Triolo, mitra kebijakan Tiongkok dan teknologi di konsultan Albright Stonebridge Group. “Jadi ada siklus di mana Anda berinvestasi di bidang infrastruktur, melatih, dan mengubah model, mendapatkan masukan, lalu membuat aplikasi yang menghasilkan uang. Perusahaan-perusahaan Tiongkok kini sedang dalam tahap pelatihan dan penyesuaian model.”

Pertanyaannya adalah perusahaan mana yang benar-benar akan berhasil mencapai fase menghasilkan uang. Perang harga yang terjadi saat ini adalah perlombaan menuju titik terendah (race to the bottom), mirip dengan apa yang telah kita lihat di bidang teknologi Tiongkok sebelumnya. Ikuti perlombaan untuk membuat kendaraan listrik : Pemerintah Tiongkok memulai dengan membagikan uang tunai kepada perusahaan mana pun yang dapat memproduksi desain – dan maksud saya semua. Itu adalah pesta uang. Beberapa dari mobil ini tidak pernah berhasil keluar dari tahap cetak biru. Namun perlahan, pemerintah berhenti mensubsidi desain dan produksi. Sebaliknya, ia mulai mendukung konsumen akhir. Perusahaan-perusahaan yang tidak dapat benar-benar membuat mobil pada titik harga yang bersedia dibayar oleh konsumen mulai anjlok seperti lalat. Akhirnya, beberapa perusahaan mulai mendominasi industri ini, dan kini industri kendaraan listrik Tiongkok menjadi raksasa manufaktur.

Industri AI generatif masih dalam tahap awal di Tiongkok.

Strategi top-down serupa, seperti rencana Tiongkok untuk meningkatkan produksi semikonduktor , belum berhasil. Secara historis, kata DeWoskin kepada saya, mandat produksi yang dikeluarkan partai memiliki “dampak baik dan buruk.” Mereka mempunyai kemampuan untuk mengajak universitas dan sektor swasta untuk ikut serta dalam apa yang ingin dilakukan oleh negara, namun terkadang aktor-aktor ini bergerak lebih lambat dibandingkan pasar. Hingga tahun 2022, semua pihak dalam kompetisi AI sangat memperhatikan ukuran model, namun sektor ini kini bergerak menuju inovasi dalam efektivitas pelatihan data dan kapasitas generatif. Dengan kata lain, terkadang PKC tidak meluncur ke tempat di mana puck itu akan berada, melainkan ke tempat di mana puck tersebut berada.

Ada juga tanda-tanda bahwa definisi kesuksesan berubah dengan memasukkan model-model dengan tujuan yang sangat spesifik. CEO OpenAI Sam Altman mengatakan dalam sebuah wawancara baru-baru ini dengan Brookings Institution bahwa, untuk saat ini, model yang paling membutuhkan biaya regulasi adalah yang terbesar. “Tetapi,” tambahnya, “Saya pikir kemajuan mungkin akan mengejutkan kita, dan Anda dapat membayangkan model-model yang lebih kecil yang dapat melakukan hal-hal yang berdampak.” Model yang ditargetkan dapat memiliki kasus penggunaan bisnis tertentu. Setelah menghabiskan waktu puluhan tahun menganalisis bagaimana Partai Komunis Tiongkok membentuk perekonomian Tiongkok, DeWoskin mengatakan kepada saya bahwa ia dapat membayangkan sebuah dunia di mana beberapa model yang ditargetkan tersebut tersedia bagi perusahaan-perusahaan domestik yang beroperasi di Tiongkok namun tidak bagi para pesaing asing mereka. Bagaimanapun, Beijing tidak pernah malu memanfaatkan keunggulan sebagai tuan rumah. Tanyakan saja pada Elon Musk .

Untuk memenangkan persaingan dalam membangun AI yang paling kuat di dunia, Tiongkok tidak hanya harus melawan Amerika Serikat tetapi juga naluri mereka sendiri dalam hal inovasi teknologi. Perlombaan menuju titik terbawah mungkin akan berdampak buruk pada ekosistem AI di Tiongkok. Ketergesaan untuk mengejar ketertinggalan dari Amerika Serikat – di tengah tekanan investor dan pemerintah untuk menghasilkan uang sesegera mungkin – mungkin membuat perusahaan-perusahaan Tiongkok tidak lagi terdepan dalam teknologi ini.

“Dasar dasar saya untuk mewujudkan hal ini adalah mungkin ada dua entitas Tiongkok yang bisa mencapai batas, dan mereka mendapatkan semua dukungan pemerintah,” kata Sheehan. “Tetapi mereka juga terbebani berurusan dengan PKT dan bergerak sedikit lebih lambat.”

Hal ini bukan berarti kita tidak bisa mengambil pelajaran apa pun dari cara Tiongkok menangani AI. Beijing telah menetapkan peraturan untuk hal-hal seperti deepfake dan pelabelan keaslian. Yang paling penting, sistem Tiongkok membuat masyarakat bertanggung jawab atas apa yang dilakukan AI – manusialah yang menciptakan teknologi tersebut, dan manusia harus bertanggung jawab atas apa yang dilakukan AI. Kecepatan perkembangan AI memerlukan sistem peraturan yang dinamis dan konsisten. Meskipun pengawasan Tiongkok terlalu berlebihan, kerangka peraturan AS saat ini kurang sistematis. Bulan lalu Departemen Perdagangan mengumumkan inisiatif mengenai pengujian model keamanan, dan ini merupakan awal yang baik, namun hal tersebut belum cukup.

Tirai digital yang dibangun oleh AI dalam imajinasi kita akan jauh lebih sulit ditembus dibandingkan besi, sehingga mustahil bagi masyarakat untuk bekerja sama dalam masa depan bersama.

Jika Tiongkok telah mengajarkan kita sesuatu tentang teknologi, maka hal tersebut tidak harus membuat masyarakat lebih bebas – yang terpenting adalah kemauan orang-orang yang menggunakannya. Chatbot Pemikiran Xi Jinping adalah sebuah peringatan. Jika Tiongkok dapat membuat sistem ini sendiri, maka Tiongkok dapat menggunakan model dasar tersebut untuk merancang sistem serupa bagi para penguasa otoriter yang ingin membatasi ruang informasi di masyarakat mereka. Beberapa perusahaan AI Tiongkok – seperti iFlytek milik negara, sebuah AI pengenalan suara – telah terkena sanksi AS, sebagian karena menggunakan teknologi mereka untuk memata-matai populasi Uyghur di Xinjiang. Bagi beberapa negara, tidak masalah jika teknologi yang berguna ini tertinggal dua atau tiga generasi dari negara Amerika. Adapun chatbots, modelnya tidak akan berisi keseluruhan pengetahuan manusia, namun akan memenuhi tujuannya: Konten akan disensor, dan pemeriksaan kembali ke PKC akan dihapuskan.

Itulah bahayanya perlombaan AI. Mungkin Tiongkok tidak akan memanfaatkan kumpulan data AI yang sangat besar dan beragam seperti yang dimiliki negara-negara Barat – pembatasan ketat mereka terhadap apa yang bisa masuk dan keluar dari model-model ini akan mencegah hal tersebut. Mungkin Tiongkok tidak akan mencapai kemajuan yang bisa dicapai oleh AI. Namun hal ini tidak berarti bahwa Beijing tidak dapat mendorong terciptanya model-model spesifik yang dapat mengarah pada kemajuan di bidang-bidang seperti sains dan teknik. Negara ini kemudian dapat mengontrol siapa yang mendapat akses terhadap kemajuan-kemajuan tersebut di dalam negaranya, tidak hanya masyarakat tetapi juga perusahaan multinasional. Mereka dapat menjual alat kontrol, pengawasan, dan pembuatan konten kepada rezim yang ingin mendominasi masyarakat mereka dan bersikap antagonis terhadap AS dan sekutunya.

Melalui jaringan jurnalisme net work kami, tim @redaksi berupaya mengeksplorasi dan menerangi isu-isu dan ide-ide paling menarik saat ini. Penulis kami memberikan perspektif yang menggugah pikiran, berdasarkan analisis, pelaporan, dan keahlian. Baca berita terbaru kami agar tak gagal faham.