Moderasi konten media sosial melibatkan penyaringan konten buatan pengguna (UGC) untuk menentukan kesesuaiannya. Moderasi konten telah menjadi sangat diperlukan, tanpanya jejaring sosial akan dibanjiri dengan konten berbahaya dan tidak menyenangkan. Terlepas dari daya tarik cita-cita Internet Terbuka yang terus berlanjut, dunia online telah berubah secara drastis dari hari-hari awal kebebasan berbicara maksimum dengan batasan minimum. Saat ini, raksasa teknologi seperti Meta dan Twitter adalah arbiter konten, memutuskan apa yang tetap online dan apa yang terjadi dan/atau menangguhkan, memblokir, atau menghapus akun media sosial.
Perusahaan teknologi di Asia Tenggara berjalan di atas tali yang sulit, terutama ketika berhadapan dengan penanda politik di luar batas (OB) dari pemerintah daerah yang memberlakukan undang-undang yang menekan mantan untuk menyensor pidato publik yang dianggap “berbahaya bagi masyarakat”.
Tantangan yang dihadapi jejaring sosial adalah menentukan konten apa yang cukup tidak pantas untuk dihapus sambil melindungi harapan pengguna untuk bebas mengekspresikan diri dan terlibat dengan orang lain. Karena ruang publik digital semakin banyak di mana banyak diskusi politik berada dan opini publik mempengaruhi nasib politik, tidak mengherankan bahwa ketidaksepakatan terjadi ketika berbagai pihak berjuang untuk mengontrol moderasi konten.
Misalnya, Menteri Komunikasi dan Teknologi Informasi Indonesia baru-baru ini memperkenalkan Peraturan Menteri 5 (MR5) tentang Penyelenggara Sistem Elektronik Swasta, yang mengharuskan semua perusahaan yang menyediakan layanan, bisnis, dan platform online di negara ini untuk mematuhi perintah penghapusan konten dalam waktu 24 jam. Undang-undang ini bertujuan untuk melindungi masyarakat dari “konten terlarang” yang melanggar hukum. Dalam situasi mendesak yang melibatkan potensi kasus terorisme dan pelecehan seksual anak, atau konten yang dapat menyebabkan “keresahan di masyarakat atau mengganggu ketertiban umum”, jangka waktunya hanya empat jam.
Perusahaan teknologi akan menghadapi denda jika mereka gagal memenuhi permintaan pemerintah; ketidakpatuhan berulang dapat mengakibatkan pemblokiran akses dan bahkan sanksi pidana. Google telah setuju untuk mematuhi, serta platform lain, termasuk TikTok.
Vietnam berencana untuk memperkenalkan undang-undang serupa yang mengharuskan jaringan media sosial untuk menghapus “konten dan layanan ilegal” dalam waktu 24 jam dan “streaming langsung ilegal” aktif dalam waktu tiga jam. Konten yang merugikan kepentingan keamanan nasional harus segera diblokir. Ketidakpatuhan dapat mengakibatkan platform online dilarang.
Perubahan yang diusulkan dilaporkan berasal dari ketidakbahagiaan pemerintah dengan tingkat persetujuan saat ini dengan permintaan penghapusan kontennya.
Data dari Kementerian Komunikasi Vietnam menunjukkan bahwa pada kuartal pertama tahun 2022, tingkat kepatuhan Facebook berada di 90 persen, Google di 93 persen, dan TikTok di 73 persen. Namun demikian, Hanoi tampaknya menginginkan kepatuhan 100 persen dan menetapkan standar yang lebih ketat untuk perusahaan media sosial.
Di Thailand, jejaring sosial dan pengguna harus bergulat dengan undang-undang lese majeste yang ketat dalam hukum pidana dan Undang-Undang Kejahatan Komputer (CCA). Pada tahun 2020, Facebook mengklaim “terpaksa” untuk menyetujui permintaan pemerintah untuk memblokir akses ke grup “Royalist Marketplace” yang anti-kemapanan. Namun demikian, ia berencana untuk secara hukum menantang permintaan tersebut, menyatakan bahwa permintaan tersebut “bertentangan dengan hukum hak asasi manusia internasional dan memiliki efek mengerikan pada kemampuan orang untuk mengekspresikan diri”.
Ini tidak menghalangi pemerintah Thailand untuk kemudian bertindak melawan Facebook (sekarang Meta) dan Twitter karena gagal mematuhi perintah pengadilan dan hukum Thailand untuk memblokir konten ilegal dan menangguhkan akun. Ini adalah pertama kalinya pemerintah menargetkan perusahaan media sosial; Sebelumnya, ini berfokus pada situs web, pemilik akun, dan pengguna.
Membentuk dewan pengawas pihak ketiga yang independen atau dewan arbitrase internasional di setiap yurisdiksi dapat berguna untuk membahas dan mengevaluasi dilema moderasi konten dan mengadili keluhan atau keluhan dari pengguna atau pemerintah.
Di sisi lain, raksasa teknologi di Filipina dan Myanmar menghadapi tekanan dari berbagai pemangku kepentingan – kelompok masyarakat sipil, jurnalis dan akademisi – menuntut pengetatan kebijakan moderasi konten untuk mengurangi peredaran konten berbahaya seperti berita palsu dan propaganda. Misalnya, konsorsium peneliti menganalisis YouTube, Facebook, dan Twitter dan menemukan lima indikator “manipulasi politik jaringan” sehubungan dengan pemilihan presiden Filipina 2022. Sementara itu, Presiden Ferdinand Marcos Jr dituduh mendekati Cambridge Analytica untuk “mengubah citra” citra keluarganya di media sosial, memicu kritik terhadap “revisionisme sejarah”.
Pengungsi Rohingya telah mengajukan gugatan class action senilai US $ 150 miliar (S $ 207 miliar) di California dan London terhadap Meta Platforms, dengan alasan bahwa desain Facebook dan kegagalan untuk memoderasi UGC secara memadai pada platformnya telah berkontribusi pada kekerasan ujaran kebencian terhadap komunitas mereka. Ini terjadi setelah penyelidikan Perserikatan Bangsa-Bangsa pada tahun 2018 yang mengungkapkan bagaimana penyebaran pidato kebencian di Facebook telah memainkan peran yang menentukan dalam kemungkinan genosida populasi Rohingya.
Oleh karena itu, raksasa teknologi menghadapi tuntutan yang bersaing dari para pemangku kepentingan di pasar yang berbeda atas kendali mereka atas ruang publik online. Sebagai warga perusahaan, mereka harus mematuhi hukum yurisdiksi tempat mereka beroperasi. Namun, ini mungkin bertentangan dengan nilai-nilai perusahaan mereka pada isu-isu seperti hak asasi manusia dan kebebasan berbicara, termasuk melindungi hak-hak dasar pengguna mereka untuk mengekspresikan diri mereka di platform ini. Mereka juga harus bersaing dengan mereka yang dengan sengaja membuat dan mengedarkan konten dan propaganda berbahaya yang menabur kebingungan, perselisihan sosial dan kekerasan untuk memanipulasi proses demokrasi.