Para pedofil menggunakan teknologi kecerdasan buatan (AI) untuk membuat dan menjual materi pelecehan seksual anak sehingga terlihat nyata, demikian temuan BBC.
Beberapa pedofil mendapatkan gambar dengan membayar langganan di situs berbagi konten seperti Patreon.
Patreon mengatakan memiliki kebijakan “tidak memberikan toleransi” terhadap gambar-gambar semacam itu di situsnya.
Dewan Kepala Kepolisian Nasional mengatakan beberapa platform menghasilkan “keuntungan besar” tetapi tidak memiliki “tanggung jawab moral” dan ini dinilai “memalukan”.
Para pembuat gambar menggunakan perangkat lunak AI yang disebut Stable Diffusion, yaitu perangkat lunak untuk menghasilkan gambar yang digunakan dalam seni atau desain grafis.
AI memungkinkan komputer untuk melakukan tugas yang biasanya membutuhkan kecerdasan manusia.
Perangkat lunak Stable Diffusion memungkinkan pengguna untuk mendeskripsikan, menggunakan perintah kata, dan gambar apa pun yang mereka inginkan, kemudian program akan membuat gambar tersebut.
Namun, BBC menemukan perangkat lunak itu digunakan untuk membuat gambar-gambar pelecehan seksual anak yang mirip dengan kejadian nyata, termasuk pemerkosaan bayi dan balita.
Tim investigasi pelecehan anak online polisi Inggris mengatakan mereka sudah menemukan konten semacam itu.
Peneliti lepas sekaligus jurnalis, Octavia Sheepshanks telah menyelidiki masalah ini selama beberapa bulan. Dia menghubungi BBC melalui badan amal anak-anak NSPCC untuk menyoroti temuannya.
“Sejak AI bisa menghasilkan gambar, banyak sekali praktik seperti ini… bukan hanya anak-anak perempuan yang masih sangat kecil, mereka [para pedofil] juga menyasar balita,” katanya.
“Gambar semu” buatan komputer yang menggambarkan pelecehan seksual terhadap anak-anak diperlakukan seperti gambar asli dan ilegal untuk dimiliki, dipublikasikan, atau ditransfer di Inggris Raya.
Ketua Dewan Kepala Polisi Nasional di Inggris (NPCC) yang memimpin perlindungan terhadap anak, Ian Critchley, mengatakan salah jika beranggapan tidak ada yang dirugikan karena tidak ada anak sungguhan dalam gambar “buatan” semacam itu.
Dia memperingatkan seorang pedofil dapat “mengarah pada pelanggaran, dimulai dari pemikiran, proses pembuatan gambar, hingga benar-benar melakukan pelecehan terhadap anak yang masih hidup”.
Penyalahgunaan gambar disebarkan melalui tiga proses:
Pedofil membuat gambar menggunakan perangkat lunak AI
Mereka mempromosikan gambar pada platform seperti situs berbagi gambar Jepang bernama Pixiv
Akun-akun dalam situs itu memiliki tautan untuk mengarahkan pelanggan ke gambar mereka yang lebih eksplisit, di mana orang harus membayar agar bisa melihat akunnya di situs seperti Patreon.
Beberapa pembuat gambar mengunggah di platform media sosial populer Jepang bernama Pixiv, yang umunya digunakan oleh para seniman untuk berbagi manga dan anime.
Namun, karena situs tersebut berbasis di Jepang, di mana berbagi kartun seksual dan gambar anak-anak tidak ilegal, para pembuat gambar menggunakannya untuk mempromosikan karya mereka dalam kelompok dan melalui tagar – yang mengindeks topik menggunakan kata kunci.
Seorang juru bicara Pixiv mengatakan pihaknya sangat menekankan untuk mengatasi masalah ini.
Pada 31 Mei mereka melarang semua penggambaran foto-realistis dari konten seksual yang melibatkan anak-anak di bawah umur.
Perusahaan mengatakan telah secara proaktif memperkuat sistem pemantauannya dan mengalokasikan sumber daya yang besar untuk mengatasi masalah terkait perkembangan AI.
Sheepshanks mengatakan kepada BBC bahwa penelitiannya menunjukkan para pengguna tampaknya membuat gambar pelecehan anak dalam skala industri.
“Volumenya sangat besar, jadi orang [para pembuatnya] akan mengatakan ‘kami memiliki target untuk membuat setidaknya 1.000 gambar dalam sebulan,'” katanya.
Komentar-komentar pengguna pada gambar individual di Pixiv memperjelas bahwa mereka memiliki minat seksual pada anak-anak, dengan beberapa pengguna bahkan menawarkan untuk memberikan gambar dan video pelecehan yang tidak dihasilkan oleh AI.
Sheepshanks telah memantau beberapa kelompok di platform tersebut.
“Di dalam grup tersebut, yang akan memiliki 100 anggota, orang-orang akan berbagi, ‘Ini tautan ke gambar yang asli,’ katanya.
“Hal yang paling mengerikan, saya bahkan tidak tahu kata-kata [deskripsi] seperti itu ada.”
Harga yang berbeda
Banyak akun di Pixiv menyertakan tautan dalam biografi mereka yang mengarahkan orang ke apa yang mereka sebut “konten tanpa sensor” di situs berbagi konten Patreon yang berbasis di AS.
Patreon bernilai sekitar US$4 miliar (senilai (Rp59,9 triliun) dan mengklaim memiliki lebih dari 250.000 kreator – kebanyakan dari mereka adalah akun resmi milik selebritas, jurnalis, dan penulis terkenal.
Para penggemar dapat mendukung pembuat konten dengan berlangganan bulanan untuk mengakses blog, podcast, video, dan gambar-gambar, dengan membayar mulai dari US$3,85 (sekitar Rp57.700) per bulan.
Namun, penyelidikan kami menemukan akun-akun di Patreon menjual foto-foto cabul anak-anak buatan AI yang terlihat realistis, dengan berbagai tingkat harga tergantung jenis materi yang diminta.
Seseorang menulis di akunnya: “Saya membuat gambar anak-anak perempuan di PC saya,” menambahkan bahwa mereka menunjukkan “kesediaannya”. Dengan US$8,30 (senilai Rp124.400) per bulan, pengguna lain menawarkan “seni eksklusif tanpa sensor”.
BBC mengirimkan satu contoh gambar kepada Patreon, yang kemudian dikonfirmasi oleh platform tersebut “semi realistis dan melanggar kebijakan”. Katanya, akun itu segera dihapus.
Patreon mengatakan mereka memiliki kebijakan “untuk tidak memberikan toleransi”, bersikeras: “Para pembuat gambar tidak dapat mendanai konten yang didedikasikan untuk tema seksual yang melibatkan anak di bawah umur.”
Perusahaan menyebut peningkatan konten berbahaya yang dihasilkan AI di internet “nyata dan menyusahkan” dan mereka telah “mengidentifikasi serta menghapus” materi yang “jumlahnya semakin meningkat”.
“Kami sudah melarang materi-materi eksploitasi anak yang dihasilkan AI,” katanya, mengklaim bahwa mereka “sangat proaktif”, dengan tim, teknologi, dan kemitraan khusus untuk “menjaga keamanan para remaja”.
Generator gambar AI Stable Diffusion dibuat sebagai kolaborasi global antara akademisi dan sejumlah perusahaan, dipimpin oleh Stability AI, perusahaan Inggris.
Beberapa versi telah dirilis, dengan batasan yang dituliskan ke dalam aturan yang mengontrol jenis konten yang dapat dibuat.
Namun tahun lalu, versi “sumber terbuka” dirilis ke publik, yang memungkinkan pengguna menghapus filter apa pun dan melatihnya untuk menghasilkan gambar apa pun – termasuk yang ilegal.
Stability AI mengatakan kepada BBC bahwa mereka “melarang penyalahgunaan untuk tujuan ilegal atau tidak bermoral di seluruh platform kami, dan kebijakan kami jelas bahwa ini termasuk CSAM (materi pelecehan seksual terhadap anak).
“Kami sangat mendukung upaya penegakan hukum terhadap mereka yang menyalahgunakan produk kami untuk tujuan ilegal atau jahat”.
Saat AI terus berkembang pesat, pertanyaan mengenai risiko masa depan yang mengancam privasi orang, hak asasi manusia, atau keselamatan mereka, terus menerus bermunculan.
Ian Critchley dari NPCC mengatakan dia juga khawatir dengan membanjirnya AI realistis atau gambar “buatan” dapat memperlambat proses mengidentifikasi korban pelecehan yang sebenarnya.
Dia menjelaskan: “Ini menciptakan permintaan tambahan, bagi kepolisian dan penegakan hukum untuk mengidentifikasi di mana seorang anak yang sebenarnya atau anak-anak ‘buatan’, di mana pun di dunia, dilecehkan “.
Critchley mengatakan dia percaya itu adalah momen penting bagi masyarakat.
“Kami dapat memastikan bahwa internet dan teknologi memungkinkan peluang luar biasa yang diciptakannya bagi kaum muda – atau itu bisa menjadi tempat yang jauh lebih berbahaya,” katanya.(Sumber)
