Platform media sosial X mengambil langkah baru yang cukup tegas terhadap Grok, alat kecerdasan buatan miliknya, setelah sorotan global menguat soal penyalahgunaan AI untuk mengedit gambar orang sungguhan agar tampak berpakaian lebih terbuka atau sebaliknya. Kebijakan ini muncul di tengah tekanan dari berbagai negara dan pemeriksaan atas dugaan distribusi gambar seksual tanpa persetujuan, termasuk yang terkait dengan anak-anak.
Tekanan internasional memaksa X bergerak
Sejumlah negara, termasuk Indonesia, Malaysia, dan India, dilaporkan telah lebih dulu menindak penggunaan Grok dalam konteks yang dianggap berisiko. Di saat yang sama, Komisi Eropa juga ikut mencermati upaya keamanan yang diterapkan X untuk mencegah penyalahgunaan teknologi tersebut. Fokus utama pengawasan itu adalah bagaimana platform melindungi pengguna dari eksploitasi visual, terutama ketika kontennya menyangkut anak-anak.
Pembatasan menyasar edit gambar berpakaian minim
Tim keamanan X kini menerapkan pembatasan teknis agar akun Grok tidak bisa mengubah foto orang yang mengenakan bikini, pakaian dalam, atau busana lain yang dinilai memperlihatkan bagian tubuh tertentu. Kebijakan ini dirancang untuk menutup celah yang memungkinkan gambar asli dimanipulasi menjadi konten yang lebih eksplisit tanpa izin dari subjek di dalam foto.
Berlaku untuk semua pengguna
Pembatasan tersebut tidak hanya menyasar akun tertentu, tetapi berlaku untuk seluruh pengguna X, termasuk pelanggan berbayar. Dengan langkah ini, perusahaan berupaya menjaga keamanan sekaligus mempertahankan integritas konten visual di platformnya, di tengah meningkatnya kekhawatiran bahwa alat AI bisa disalahgunakan untuk membuat gambar yang menyesatkan atau merugikan pihak lain.
Artikel ini disusun ulang berdasarkan informasi dari sumber yang telah dipublikasikan sebelumnya.
