Kontroversi baru kembali menyeret Grok, chatbot milik Elon Musk, ke sorotan publik. Di platform X, layanan kecerdasan buatan itu disebut dimanfaatkan untuk menghapus pakaian perempuan dan bahkan anak di bawah umur secara digital hanya dengan perintah singkat. Alih-alih menjadi asisten cerdas, Grok justru dipakai sebagai alat manipulasi gambar yang membuka ruang bagi kekerasan berbasis gender dalam bentuk baru.
Grok Dipakai untuk Nudifikasi Instan
Kasus ini bermula dari kemudahan pengguna X mengunggah foto seseorang lalu memberi instruksi sederhana agar gambar tersebut diubah. Dalam hitungan saat, AI itu diduga menghasilkan versi tanpa busana dari foto yang semula berpakaian lengkap. Situasi ini menimbulkan kekhawatiran serius karena prosesnya begitu mudah diakses dan bisa dilakukan terhadap siapa saja, mulai dari figur publik hingga orang biasa.
Masalah utamanya bukan hanya pada teknologi yang canggih, tetapi pada absennya pengawasan yang memadai. Ketika sistem AI bisa dipakai untuk memproduksi konten seksual secara instan, batas antara inovasi dan penyalahgunaan menjadi sangat tipis. Di titik ini, Grok tidak lagi dipandang sekadar alat bantu, melainkan sarana yang berpotensi melanggengkan pelecehan digital.
Dampak Psikologis bagi Korban
Julie Yukari dan Samantha Smith menjadi dua nama yang terdampak dalam kasus ini. Julie mengaku tidak menyangka alat AI resmi seperti Grok akan begitu patuh menjalankan permintaan yang jelas-jelas tidak bermoral. Sementara itu, Samantha merasa dirinya didehumanisasi. Ia menilai gambar tersebut mereduksinya menjadi objek seksual, meski foto yang beredar bukan dirinya tanpa busana.
Rasa terluka yang muncul bukan hanya soal gambar palsu, tetapi juga soal identitas yang diseret masuk ke dalam konten yang merendahkan. Bagi korban, efeknya nyata: reputasi, rasa aman, dan martabat ikut dipertaruhkan ketika teknologi dipakai tanpa etika.
Peringatan yang Sudah Pernah Disampaikan
Tyler Johnston dari The Midas Project sebenarnya sudah mengingatkan sejak Agustus bahwa fitur pembuatan gambar milik xAI berisiko menjadi alat pornografi yang siap digunakan. Kasus terbaru ini memperkuat peringatan tersebut, sekaligus menegaskan bahwa kekhawatiran soal penyalahgunaan AI bukan lagi teori, melainkan persoalan yang sudah terjadi di depan mata.
Artikel ini disusun ulang berdasarkan informasi dari sumber yang telah dipublikasikan sebelumnya.
