OpenAI mengumumkan bahwa ChatGPT telah menolak lebih dari 250.000 permintaan untuk membuat gambar deepfake dari kandidat pemilu Amerika Serikat.
Dalam upaya untuk menjaga integritas pemilu dan mencegah penyebaran informasi yang menyesatkan, OpenAI mengumumkan bahwa ChatGPT telah menolak lebih dari 250.000 permintaan untuk membuat gambar deepfake dari kandidat pemilu di Amerika Serikat. Langkah ini merupakan bagian dari strategi yang lebih luas untuk meminimalkan gangguan dan penyalahgunaan teknologi kecerdasan buatan (AI) selama musim pemilu.
Dilansir dari Engadget (11/11), deepfake adalah teknologi yang menggunakan AI untuk membuat gambar atau video yang tampak nyata, tetapi sebenarnya palsu. Teknologi ini dapat digunakan untuk menyebarkan informasi yang menyesatkan dan merusak reputasi individu. Dalam konteks pemilu, deepfake dapat digunakan untuk memanipulasi opini publik dan mempengaruhi hasil pemilu. Oleh karena itu, OpenAI telah mengambil langkah-langkah untuk memastikan bahwa alat-alat AI mereka tidak digunakan untuk tujuan yang merugikan.
Selama beberapa bulan sebelum pemilu, ChatGPT menerima ribuan permintaan untuk membuat gambar deepfake dari kandidat seperti Presiden Biden, Presiden terpilih Trump, Wakil Presiden Harris, Wakil Presiden terpilih Vance, dan Gubernur Walz. Namun, berkat langkah-langkah keamanan yang diterapkan oleh OpenAI, semua permintaan ini ditolak. OpenAI juga mengarahkan pengguna yang mencari informasi tentang pemilu ke sumber-sumber berita resmi seperti Associated Press dan Reuters.
Selain menolak permintaan deepfake, ChatGPT juga memberikan jawaban yang netral dan tidak memihak ketika ditanya tentang kandidat pemilu. Ini penting untuk menjaga kepercayaan publik terhadap teknologi AI dan memastikan bahwa AI tidak digunakan untuk menyebarkan disinformasi. OpenAI juga bekerja sama dengan berbagai organisasi untuk mengembangkan alat deteksi deepfake yang dapat membantu mengidentifikasi dan menghapus konten palsu dari platform media sosial.
Langkah-langkah ini menunjukkan komitmen OpenAI untuk menggunakan teknologi AI secara bertanggung jawab dan etis. Dengan menolak permintaan deepfake dan mengarahkan pengguna ke sumber informasi yang dapat dipercaya, OpenAI berusaha untuk menjaga integritas pemilu dan melindungi demokrasi dari ancaman disinformasi.
