Penasihat Perdana Menteri India Kekhawatiran Terhadap 'Skizofrenia Massal' Akibat AI

Dewan Penasihat Ekonomi Perdana Menteri India (EACPM) telah merilis dokumen yang meningkatkan kekhawatiran tentang potensi konsekuensi dari peraturan AI global saat ini. Dalam dokumen tersebut, dewan tersebut menyatakan bahwa kerangka peraturan yang ada mungkin terbukti tidak efektif dan merekomendasikan pendekatan alternatif yang terinspirasi oleh taktik pasar keuangan.

Mengekspresikan kekhawatiran mendalam mengenai dampak AI, dokumen dewan tersebut memperingatkan bahwa “AI yang jahat” dapat memperoleh kendali atas ekosistem informasi melalui pengawasan, pesan persuasif, dan pembuatan media sintetis. Hal ini lebih lanjut menunjukkan bahwa AI mungkin mengarang realitas yang menipu, sehingga menyebabkan apa yang disebut sebagai "skizofrenia massal" di kalangan masyarakat.

Dokumen tersebut mengkritik pendekatan berbagai daerah terhadap regulasi AI. Mereka menganggap pendekatan AS terlalu lepas tangan, Inggris menghadirkan risiko karena sikapnya yang pro-inovasi dan laissez-faire, dan peraturan UE yang cacat karena perbedaan penekanan di antara negara-negara anggota. Dewan tersebut juga mengkritik sistem birokrasi terpusat di Tiongkok, dengan menyebutnya sebagai sistem yang cacat, sehingga menyamakannya dengan asal muasal COVID-19.

Dengan mengusulkan perubahan paradigma, dewan tersebut menyarankan untuk melihat AI sebagai “sistem terdesentralisasi yang mengatur dirinya sendiri,” mirip dengan sistem adaptif kompleks yang ditemukan di pasar keuangan, koloni semut, atau pola lalu lintas. Mereka berpendapat bahwa metode tradisional gagal karena sifat sistem AI yang non-linier dan tidak dapat diprediksi.

Dokumen tersebut memaparkan lima langkah regulasi yang perlu dipertimbangkan oleh India:

Melembagakan pagar pembatas dan partisi untuk mencegah teknologi AI melampaui fungsinya atau melanggar batas wilayah berbahaya.

Memastikan penggantian manual dan titik tersedak otorisasi untuk mempertahankan kendali manusia atas sistem AI.

Menekankan transparansi dan penjelasan melalui perizinan terbuka, audit rutin, dan dokumentasi pembangunan terstandar.

Menetapkan akuntabilitas yang berbeda dengan protokol pertanggungjawaban yang telah ditentukan sebelumnya, pelaporan insiden yang terstandarisasi, dan mekanisme investigasi.

Menciptakan badan pengawas khusus dengan mandat luas, pendekatan berbasis umpan balik, dan kemampuan untuk memantau dan melacak perilaku sistem AI.

Mengambil inspirasi dari tata kelola sistem yang kacau seperti pasar keuangan, dewan tersebut menyarankan agar regulator AI dapat meniru regulator keuangan yang sudah ada seperti SEBI di India atau SEC di AS. Laporan ini mengusulkan penerapan langkah-langkah seperti penghentian perdagangan dan pelaporan keuangan wajib sebagai alat regulasi potensial untuk mengawasi AI.

Kekhawatiran dewan ini berasal dari meningkatnya keberadaan AI, ditambah dengan cara kerjanya yang tidak jelas, meningkatkan risiko terhadap infrastruktur penting, operasi pertahanan, dan berbagai sektor lainnya. Bahaya yang disoroti mencakup kemungkinan “runaway AI” yang berkembang di luar kendali manusia dan ketidakselarasan dengan kesejahteraan manusia, serta potensi konsekuensi signifikan yang tidak terduga seperti efek kupu-kupu.

Sebagai kesimpulan, dokumen tersebut mengakui perlunya mengesampingkan skenario tertentu, seperti “internet yang super terhubung untuk segalanya.” Namun, mereka menganjurkan peraturan yang lebih ketat, dengan menegaskan bahwa meminta pertanggungjawaban pembuat AI atas konsekuensi yang tidak diinginkan, mempertahankan wewenang yang dilakukan manusia, dan mewajibkan audit rutin akan membantu memastikan pengembangan dan penerapan teknologi AI yang bertanggung jawab.

https://gist.github.com/mthtv/fd5b6889ad727be7eaecd54d7a997381

https://gist.github.com/mthtv/d9c4dc23e57f39bc57c6a1785a2fea23

https://www.taskade.com/p/ep-4-4-full-hd-01HNKNPWZRX6815QJA06AKGEPS

https://www.taskade.com/p/ep-4-4-start-up-2024-01HNKNS0T5MR6Z78ZWGFPR5MMN

https://slashpage.com/startupep4fhd

https://slashpage.com/startupep4th

https://stepik.org/users/749582883

https://cretakorslet.unicornplatform.page/blog/adfgreevvwev