RIAU24.COM - Konten yang dihasilkan menggunakan kecerdasan buatan telah menimbulkan kekhawatiran yang berkembang dengan penyebaran informasi yang salah dan deepfake.

Dalam langkah untuk memerangi hal ini, pemerintah Spanyol meluncurkan rancangan pada hari Selasa (25 Maret) yang bertujuan untuk mengkriminalisasi penggunaan video seksual eksplisit yang dihasilkan AI dan gambar wajah atau tubuh seseorang tanpa persetujuan mereka.

AI telah membuktikan bahwa teknologi dapat digunakan untuk tujuan jahat seperti membuat deepfake, yang merupakan gambar dan video realistis yang dihasilkan komputer berdasarkan konten nyata.

Menurut sebuah studi tahun 2019 oleh perusahaan AI Belanda Sensity, sekitar 96 persen deepfake mengandung pornografi non-konsensual, yang sebagian besar menampilkan wanita.

Selama konferensi pers setelah pertemuan kabinet, Menteri Kehakiman Felix Bolanos mengatakan bahwa pemerintah ingin deepfake yang bersifat seksual atau sangat menghina dianggap sebagai kejahatan terhadap integritas moral.

Sebuah pernyataan yang dikeluarkan oleh pemerintah mengatakan bahwa langkah itu akan menjadi bagian dari RUU yang bertujuan untuk melindungi anak perempuan dan laki-laki muda serta remaja dari bahaya teknologi digital dan memastikan hak atas privasi mereka.

Dalam beberapa tahun terakhir, negara ini telah melihat beberapa kasus distribusi gambar telanjang palsu gadis di bawah umur, yang dibuat menggunakan AI.

Dalam beberapa kasus, anak di bawah umur menghadapi pemerasan oleh pembuat konten yang menuntut uang untuk tidak mendistribusikan gambar telanjang palsu mereka.

RUU tersebut juga akan mengamanatkan produsen smartphone dan tablet untuk memasukkan sistem kontrol orang tua, yang akan diaktifkan secara default.

Pembatasan pada perangkat akan memaksa influencer online untuk menggunakan sistem verifikasi usia untuk pelanggan mereka.

Baru-baru ini, pemerintah Spanyol menyetujui RUU yang mengenakan denda berat pada perusahaan yang tidak melabeli konten yang dihasilkan AI, mengklasifikasikannya sebagai pelanggaran serius.

(***)