Grok dan Aplikasi X (Sumber: Canva dan Freepik.com)
Like
Be-emers, Artificial Intelligence (AI) itu dibuat untuk bikin hidup menjadi lebih praktis. Tapi sayangnya, penggunaan AI juga digunakan untuk hal-hal yang ilegal dan praktik pelecehan seksual.
Akhir-akhir ini, kasus penyalahgunaan AI di platform X (dulunya Twitter) dengan software chatbox AI buatan Startup milik Elon Musk mulai bikin netizen resah. Asisten AI yang dikembangkan oleh xAI dan dinamakan dengan Grok, mulai terseret dalam kasus praktik pelecehan seksual digital.
Akhir-akhir ini, kasus penyalahgunaan AI di platform X (dulunya Twitter) dengan software chatbox AI buatan Startup milik Elon Musk mulai bikin netizen resah. Asisten AI yang dikembangkan oleh xAI dan dinamakan dengan Grok, mulai terseret dalam kasus praktik pelecehan seksual digital.
Kenalan dengan Grok dan Fenomena Digital Undressing
Sejatinya, Grok dirancang buat bantu pengguna X memahami tren, tweet pengguna, bahkan mencari tahu topik dalam percakapan yang samar.
Selain itu, Grok juga bisa memahami gambar yang ditautkan oleh pengguna X. Namun, sejumlah pengguna terbukti memanfaatkan Grok untuk memanipulasi foto pribadi menjadi konten asusila tanpa persetujuan pemilik foto.
Fenomena ini dikenal sebagai Digital Undressing, bentuk pelecehan seksual digital yang mayoritas menargetkan perempuan, bahkan anak-anak.
Bukan cuma publik figur yang kena sasaran, tapi juga perempuan non-publik ikut jadi korban. Lebih parahnya lagi, ada laporan bahwa Grok bisa menampilkan deepfake pornografi bahkan tanpa prompt eksplisit.
User-user tidak bertanggung jawab juga kerap “memerintah” Grok lewat reply tweet untuk mengubah pakaian perempuan dari tertutup menjadi terbuka, bahkan menyuruh AI tersebut “melepas” pakaian dan menghasilkan gambar yang terlihat realistis.
Bukan sekadar error teknologi, tapi sudah masuk ranah tindakan asusila di ruang digital.
Selain itu, Grok juga bisa memahami gambar yang ditautkan oleh pengguna X. Namun, sejumlah pengguna terbukti memanfaatkan Grok untuk memanipulasi foto pribadi menjadi konten asusila tanpa persetujuan pemilik foto.
Fenomena ini dikenal sebagai Digital Undressing, bentuk pelecehan seksual digital yang mayoritas menargetkan perempuan, bahkan anak-anak.
Bukan cuma publik figur yang kena sasaran, tapi juga perempuan non-publik ikut jadi korban. Lebih parahnya lagi, ada laporan bahwa Grok bisa menampilkan deepfake pornografi bahkan tanpa prompt eksplisit.
User-user tidak bertanggung jawab juga kerap “memerintah” Grok lewat reply tweet untuk mengubah pakaian perempuan dari tertutup menjadi terbuka, bahkan menyuruh AI tersebut “melepas” pakaian dan menghasilkan gambar yang terlihat realistis.
Bukan sekadar error teknologi, tapi sudah masuk ranah tindakan asusila di ruang digital.
Tulis Komentar
Anda harus Login terlebih dahulu untuk meninggalkan komentar.