Meta, OpenAI, TikTok, Microsoft dan Amazon diantara penandatangan persetujuan di Konfrensi Keamanan Munich ( Munich Security Conference) Elon Musk pemilik platform X juga tanda tangan
Munich – Euronews – Fusilatnews – Perusahaan-perusahaan teknologi besar menandatangani perjanjian pada hari Jumat untuk secara sukarela mengadopsi “tindakan pencegahan yang wajar” untuk mencegah penggunaan alat kecerdasan buatan (AI) untuk mengganggu pemilu demokratis di seluruh dunia.
Para eksekutif dari Adobe, Amazon, Google, IBM, Meta, Microsoft, OpenAI, dan TikTok berkumpul di Konferensi Keamanan Munich untuk mengumumkan kerangka kerja baru tentang cara mereka merespons deepfake yang dihasilkan AI yang dengan sengaja mengelabui pemilih.
Dua belas perusahaan lain – termasuk X milik Elon Musk – juga menandatangani perjanjian tersebut.
“Semua orang menyadari bahwa tidak ada satu pun perusahaan teknologi, tidak ada pemerintah, tidak ada satu pun organisasi masyarakat sipil yang mampu menangani sendiri munculnya teknologi ini dan kemungkinan penggunaan jahatnya,” kata Nick Clegg, presiden urusan global untuk Meta, perusahaan induk Facebook dan Instagram, dalam wawancara menjelang pertemuan puncak.
Kesepakatan tersebut sebagian besar bersifat simbolis, namun menargetkan gambar, audio, dan video yang semakin realistis yang dihasilkan oleh AI “yang secara menipu memalsukan atau mengubah penampilan, suara, atau tindakan kandidat politik, pejabat pemilu, dan pemangku kepentingan utama lainnya dalam pemilu yang demokratis, atau bahwa memberikan informasi palsu kepada pemilih mengenai kapan, di mana, dan bagaimana mereka dapat memilih secara sah”.
Perusahaan tidak berkomitmen untuk melarang atau menghapus deepfake. Sebaliknya, perjanjian tersebut menguraikan metode yang akan mereka gunakan untuk mencoba mendeteksi dan memberi label pada konten AI yang menipu ketika konten tersebut dibuat atau didistribusikan di platform mereka.
Dicatat bahwa perusahaan-perusahaan tersebut akan berbagi praktik terbaik dan memberikan “tanggapan yang cepat dan proporsional” ketika konten tersebut mulai menyebar.
AI dan Pemilu Eropa: Mungkinkah Teknologi Baru Mendorong Euroscepticism?
Kurangnya persyaratan yang mengikat Ketidakjelasan komitmen dan kurangnya persyaratan yang mengikat kemungkinan besar membantu memenangkan banyak perusahaan, namun para pendukung yang kecewa mencari jaminan yang lebih kuat.
“Bahasanya tidak sekuat yang diperkirakan,” kata Rachel Orey, direktur asosiasi senior Proyek Pemilu di Pusat Kebijakan Bipartisan.
“Saya pikir kita harus memberikan penghargaan jika memang diperlukan, dan mengakui bahwa perusahaan mempunyai kepentingan agar alat mereka tidak digunakan untuk merusak pemilu yang bebas dan adil. Meski begitu, hal ini bersifat sukarela, dan kami akan mengawasinya. apakah mereka akan menindaklanjutinya”.
Clegg mengatakan setiap perusahaan “memiliki kebijakan kontennya sendiri”.
“Ini bukan upaya untuk memaksakan pembatasan pada semua orang,” katanya.
“Dan bagaimanapun juga, tidak ada seorang pun di industri ini yang berpikir bahwa Anda dapat menghadapi paradigma teknologi yang benar-benar baru dengan menyembunyikan segala sesuatunya dan mencoba bermain-main dan menemukan segala sesuatu yang menurut Anda dapat menyesatkan seseorang”.
Beberapa pemimpin politik dari Eropa dan Amerika juga mengikuti pengumuman hari Jumat tersebut. Wakil Presiden Komisi Eropa Vera Jourova mengatakan meskipun perjanjian tersebut tidak komprehensif, “perjanjian tersebut mengandung unsur-unsur yang sangat berdampak dan positif”.
Dia juga mendesak rekan-rekan politisinya untuk mengambil tanggung jawab untuk tidak menggunakan alat AI secara menipu dan memperingatkan bahwa disinformasi yang dipicu oleh AI dapat menyebabkan “berakhirnya demokrasi, tidak hanya di negara-negara anggota UE”.
Campur tangan pemilu AI sudah berlangsung
Kesepakatan pada pertemuan keamanan tahunan kota Jerman itu terjadi ketika lebih dari 50 negara akan mengadakan pemilu nasional pada tahun 2024. Bangladesh, Taiwan, Pakistan, dan yang terbaru Indonesia telah melakukannya.
Upaya untuk campur tangan dalam pemilu yang disebabkan oleh AI telah dimulai, seperti ketika robocall AI yang meniru suara Presiden AS Joe Biden mencoba menghalangi masyarakat untuk memilih dalam pemilu pendahuluan di New Hampshire bulan lalu.
Hanya beberapa hari sebelum pemilu Slovakia pada bulan November, rekaman audio yang dihasilkan AI menirukan seorang kandidat yang sedang membahas rencana menaikkan harga bir dan melakukan kecurangan dalam pemilu. Para pemeriksa fakta bergegas mengidentifikasi berita-berita tersebut sebagai berita palsu ketika tersebar di media sosial.
Politisi juga telah bereksperimen dengan teknologi ini, mulai dari penggunaan chatbot AI untuk berkomunikasi dengan pemilih hingga menambahkan gambar yang dihasilkan AI ke iklan.
Perjanjian tersebut menyerukan kepada platform untuk “memperhatikan konteks dan khususnya menjaga ekspresi pendidikan, dokumenter, seni, satir, dan politik”.
TikTok mendirikan ‘pusat pemilihan’ dalam aplikasi untuk melawan berita palsu
Dikatakan bahwa perusahaan-perusahaan tersebut akan fokus pada transparansi kepada pengguna tentang kebijakan mereka dan berupaya mendidik masyarakat tentang bagaimana mereka dapat menghindari penipuan AI.
Sebagian besar perusahaan sebelumnya mengatakan bahwa mereka menerapkan perlindungan pada alat AI generatif mereka yang dapat memanipulasi gambar dan suara, sekaligus berupaya mengidentifikasi dan memberi label pada konten yang dibuat oleh AI sehingga pengguna media sosial mengetahui apakah yang mereka lihat itu nyata. Namun sebagian besar solusi yang diusulkan tersebut belum dilaksanakan dan perusahaan menghadapi tekanan untuk berbuat lebih banyak.
Tekanan tersebut semakin meningkat di AS, di mana Kongres belum mengesahkan undang-undang yang mengatur AI dalam politik, sehingga sebagian besar perusahaan harus mengatur dirinya sendiri.
Komisi Komunikasi Federal baru-baru ini mengonfirmasi bahwa klip audio yang dibuat oleh AI dalam robocall melanggar hukum, namun hal ini tidak mencakup deepfake audio yang melanggar hukum.
Absen dari perjanjian tersebut
Jeff Allen, salah satu pendiri Integrity Institute dan mantan ilmuwan data Facebook, mengatakan perjanjian tersebut tampaknya merupakan sebuah “langkah positif” namun ia masih ingin melihat perusahaan media sosial mengambil tindakan lain untuk memerangi misinformasi, seperti membuat rekomendasi konten. sistem yang tidak memprioritaskan keterlibatan di atas segalanya.
Lisa Gilbert, wakil presiden eksekutif kelompok advokasi Public Citizen, berpendapat pada hari Jumat bahwa perjanjian itu “tidak cukup” dan perusahaan AI harus “menahan teknologi” seperti generator teks-ke-video yang hiper-realistis “sampai ada teknologi yang substansial dan perlindungan yang memadai untuk membantu kita menghindari banyak potensi masalah”.
Selain perusahaan yang membantu menjadi perantara perjanjian hari Jumat, penandatangan lainnya termasuk pengembang chatbot Anthropic dan Inflection AI; startup klon suara ElevenLabs; perancang chip Arm Holdings; perusahaan keamanan McAfee dan TrendMicro; dan Stability AI, yang dikenal karena membuat Difusi Stabil generator gambar.
Jajak pendapat menunjukkan sebagian besar orang dewasa AS berpendapat AI akan menambah misinformasi pemilu pada tahun 2024
Yang paling tidak ada adalah generator gambar AI populer lainnya, Midjourney. Startup yang berbasis di San Francisco tidak segera menanggapi permintaan komentar pada hari Jumat.
Dimasukkannya X yang tidak disebutkan dalam pengumuman sebelumnya tentang perjanjian yang tertunda, adalah salah satu kejutan dari perjanjian hari Jumat.
Musk dengan tajam membatasi tim moderasi konten setelah mengambil alih Twitter dan menggambarkan dirinya sebagai “kebebasan berbicara absolut”.
Dalam sebuah pernyataan hari Jumat, CEO X Linda Yaccarino mengatakan “setiap warga negara dan perusahaan memiliki tanggung jawab untuk menjaga pemilu yang bebas dan adil”.
“X berdedikasi untuk memainkan perannya, berkolaborasi dengan rekan-rekannya untuk memerangi ancaman AI sekaligus melindungi kebebasan berpendapat dan memaksimalkan transparansi,” katanya.
Konferensi Keamanan Munich (Munich Security Conference) 2024. Konferensi Keamanan Munich (MSC) 2024 akan berlangsung dari 16 hingga 18 Februari 2024, di Hotel Bayerischer Hof di Munich. MSC 2024 sekali lagi akan menawarkan kesempatan unik untuk perdebatan tingkat tinggi mengenai tantangan keamanan paling mendesak di dunia.
Enam dekade setelah didirikan oleh Ewald von Kleist, MSC akan sekali lagi mengumpulkan para pengambil keputusan senior dan pemimpin pemikiran dari seluruh dunia untuk berdiskusi mengenai masalah keamanan internasional yang paling mendesak pada bulan Februari 2024.