Remaja Texas tersebut bergabung dengan Senator Ted Cruz, Amy Klobuchar, dan anggota parlemen lainnya untuk mendorong rancangan undang-undang yang mengkriminalisasi gambar-gambar non-konsensual yang bersifat ‘deepfake’
ETexas – Foxnews – Fusilatnews – lliston Berry terbangun pada Senin pagi di bulan Oktober lalu karena menerima pesan teks yang mengkhawatirkan. Teman-temannya bertanya apakah dia pernah melihat foto telanjang dirinya yang beredar di kalangan siswa di sekolah menengahnya di Texas.
Seseorang mengirim tangkapan layar. Dia terkejut. Gambar itu menunjukkan wajahnya…tapi itu bukan tubuhnya.
Senator Ted Cruz, R-Texas, korban eksploitasi siber AI Elliston Berry dan ibunya Anna McAdams membahas bahaya kecerdasan buatan karena skema eksploitasi siber menjadi masalah yang semakin meningkat di kalangan anak di bawah umur.
Skema eksploitasi dunia maya yang jahat mengubah kehidupan Elliston Berry yang berusia 14 tahun di Texas pada Oktober lalu setelah dia menemukan gambar telanjang dirinya yang palsu beredar di media sosial pada suatu pagi.
Lebih buruknya lagi, banyak teman sekelasnya yang sudah pernah bertemu dengan mereka.
‘[Saya] hanya mengharapkan hari yang normal, dan saya mendapat banyak telepon dan pesan dari teman-teman saya yang memberi tahu saya bahwa gambar-gambar telanjang ini beredar,’ kenangnya pada hari Rabu di ‘Pagi bersama Maria’ FOX Business.
“[Mereka] berkeliling sekolah — Snapchat, Instagram, dan berbagai media sosial lainnya,” tambahnya.
Ibu Berry, Anna McAdams, juga mengharapkan hari yang normal sampai putrinya bergegas masuk ke kamarnya dengan ketakutan dan menangis.
“Dia datang ke sana dan menunjukkan foto-foto itu kepada saya, dan saya merasa malu dan, sebagai seorang ibu, terkejut. Maksud saya, saya tidak bisa melindungi putri saya,” katanya, Rabu. (19/6/2024)
McAdams mengatakan kepada pembawa acara Maria Bartiromo bahwa foto-foto itu tampak meyakinkan.
Salah satu Berry yang berdiri di dek kapal pesiar diubah untuk mengganti pakaiannya dengan tubuh telanjang palsu. Gadis telanjang palsu lainnya di grup temannya, menurut laporan Wall Street Journal, dibuat menggunakan foto pantai asli.
“Saya mengenali di mana dia berada,” kata McAdams. “Sebagai seorang ibu, saya langsung tahu di mana foto pertama itu berada, tapi… jika saya tidak mengetahuinya, dan saya hanya melihat foto itu, saya mungkin akan mengira itu asli.”
Berry kemudian mengetahui bahwa teman sekelas laki-lakinya telah mengatur skema tersebut dengan mengambil dua foto dari akun Instagram pribadinya dan menampilkan dirinya dalam keadaan telanjang menggunakan perangkat lunak AI, lapor WSJ.
Siswa laki-laki yang sama juga berada di balik insiden yang melibatkan teman-temannya.
Berry mengatakan kepada outlet tersebut bahwa cobaan tersebut membuatnya merasa “malu dan takut” ke sekolah, karena dia bertanya-tanya apakah siswa yang dia temui telah melihat gambar tersebut dan percaya bahwa gambar tersebut palsu.
‘Saya merasa harus memberi tahu semua orang bahwa itu tidak nyata dan memang benar, saya hanya berjuang untuk apa yang saya anggap benar,’ katanya kepada Bartiromo.
Skema eksploitasi telah muncul sebagai tantangan etika utama seiring dengan pertumbuhan AI yang terus meningkat secara eksponensial, hingga memasuki dunia kerja, dunia kreatif, dan bidang lainnya.
Hal ini memberikan tekanan kepada anggota parlemen untuk melakukan sesuatu.
Senator Partai Republik yang mewakili Texas Ted Cruz dan Senator Demokrat Minnesota Amy Klobuchar adalah dua di antara anggota parlemen bipartisan yang mensponsori “Take it Down Act,” yang akan mengkriminalisasi publikasi gambar intim non-konsensual, dan mengharuskan platform media sosial untuk menghapus konten tersebut. dan banyak lagi.
Ada ribuan orang yang menjadi korban, sama seperti Elliston, kata Cruz sambil duduk di studio bersama Bartiromo, Berry, dan McAdams.
“Dari banyak foto palsu yang ada di dunia maya, hingga 95% di antaranya adalah gambar intim tanpa persetujuan, dan teknologinya sedemikian rupa sehingga Anda dapat mengambil…. [gambar polos] dan Anda dapat mengubahnya menjadi gambar, Anda dapat mengubahnya Dengan teknologi, Anda tidak bisa mengatakan bahwa itu palsu. Anda pikir itu nyata. Dan ini adalah pola yang digunakan untuk melakukan pelecehan [kebanyakan terhadap wanita dan gadis remaja].”
Cruz mengatakan rancangan undang-undang tersebut bertujuan untuk memberikan hukuman penjara bagi pelanggarnya – menempatkan mereka di balik jeruji besi selama dua tahun jika pelanggaran dilakukan terhadap orang dewasa dan tiga tahun jika korbannya adalah anak di bawah umur.
