Popularitas aplikasi itu memicu peringatan terkait meningkatnya kasus sextortion yang menargetkan anak-anak.

Wells menegaskan, pemerintah akan menggunakan “setiap perangkat” untuk membatasi akses ke aplikasi Nudify dan aplikasi penguntit, sekaligus menempatkan tanggung jawab pada perusahaan teknologi untuk memblokirnya. 

“Meskipun langkah ini tidak akan menghapus masalah teknologi penyalahgunaan sekaligus, bersama dengan undang-undang yang ada dan reformasi keselamatan daring terdepan di dunia, ini akan membuat perbedaan nyata dalam melindungi warga Australia,” ujar Wells. 

Penyebaran alat AI telah memunculkan bentuk penyalahgunaan baru yang berdampak pada anak-anak. Itu termasuk skandal pornografi di universitas dan sekolah di seluruh dunia, di mana remaja membuat gambar seksual teman sekelas mereka. 

Survei Save the Children baru-baru ini menemukan bahwa satu dari lima anak muda di Spanyol menjadi korban gambar telanjang deepfake, dengan gambar tersebut dibagikan secara daring tanpa izin mereka. 

Pemerintah Australia menegaskan undang-undang baru nanti akan diarahkan untuk melindungi warga, tanpa mengganggu layanan kecerdasan buatan atau pelacakan daring yang sah dan berbasis persetujuan.