TRIBUN KALTIM – Ambisi Elon Musk dalam pengembangan kecerdasan buatan (AI) kini tersandung masalah serius. Platform media sosial X (sebelumnya Twitter) miliknya baru saja menerima teguran keras dari pemerintah India.
Kementerian Elektronika dan TI India melayangkan surat peringatan yang menyoroti kegagalan fatal dalam moderasi konten di platform tersebut. Masalah utamanya terletak pada layanan Grok AI dan fitur xAI lainnya yang dinilai telah berubah menjadi mesin pembuat konten asusila.
Pemerintah menuding teknologi tersebut telah disalahgunakan secara masif untuk menghasilkan dan menyebarkan gambar-gambar cabul atau tidak senonoh. Ironisnya, korban utama dari penyalahgunaan teknologi canggih ini adalah kaum wanita.
Martabat dan privasi perempuan dinilai telah diserang melalui manipulasi gambar sintetik yang dihasilkan oleh Grok. Kementerian menilai hal ini sebagai pelanggaran berat terhadap hukum kesusilaan yang berlaku.
Ultimatum 72 Jam
Pemerintah India tidak main-main dalam tegurannya kali ini. Mereka memberikan ultimatum waktu selama 72 jam kepada manajemen X untuk menyerahkan laporan tindakan penanganan atau Action Taken Report.
Jika dalam tenggat waktu tersebut X gagal mematuhi arahan untuk memasang pagar pengaman (guardrails) AI yang memadai, konsekuensi fatal menanti. Platform tersebut terancam kehilangan kekebalan hukum atau statutory immunity mereka.
Artinya, jika kekebalan ini dicabut, para eksekutif X dan pejabat yang bertanggung jawab bisa diseret ke meja hijau dan dipidana atas konten ilegal yang diunggah oleh pengguna mereka.
Kegagalan Sistem Pengaman
Dalam surat tersebut, pemerintah menyoroti bahwa masalah ini bukan sekadar akun palsu. Grok AI secara spesifik digunakan untuk memanipulasi foto wanita asli menjadi konten vulgar yang merendahkan melalui perintah teks (prompts).
Tindakan ini dianggap sebagai bukti nyata kegagalan serius dari mekanisme perlindungan tingkat platform yang dimiliki X. Teknologi yang seharusnya membantu justru menjadi alat untuk melakukan kejahatan siber terhadap kemanusiaan.
Pihak kementerian menegaskan bahwa kegagalan mematuhi aturan ini akan berujung pada tindakan hukum yang ketat tanpa pemberitahuan lebih lanjut.
“Perilaku tersebut mencerminkan kegagalan serius dari perlindungan tingkat platform dan mekanisme penegakan hukum, serta merupakan penyalahgunaan teknologi kecerdasan buatan yang melanggar hukum yang berlaku,” bunyi surat peringatan tersebut.
