Seiring semakin canggih AI yang tertanam di dalam media sosial, kepala Instagram Adam Mosseri ungkap tantangan dan tanggung jawab platform media sosial atas konten berbasis AI.
Adam Mosseri, pimpinan Instagram, menyampaikan peringatan penting tentang kepercayaan pada gambar yang beredar secara daring, khususnya di era kecerdasan buatan (AI). Dalam serangkaian posting di Threads, Mosseri menyoroti bagaimana AI kini mampu menghasilkan konten yang sangat realistis namun berpotensi menyesatkan.
Mosseri menjelaskan bahwa platform sosial media memiliki tanggung jawab untuk membantu pengguna memahami dan memverifikasi konten. Salah satu cara utama adalah dengan memberi label pada konten yang dihasilkan oleh AI, meskipun ia mengakui bahwa tidak semua konten dapat diberi label secara sempurna.
Selain itu, platform harus menyediakan konteks tentang sumber konten agar pengguna bisa menentukan kepercayaan mereka terhadap informasi tersebut. Mosseri juga menyarankan agar pengguna tidak hanya mengandalkan visual atau narasi dari AI, tetapi juga memeriksa reputasi akun yang membagikan konten tersebut.
“Peran kami adalah memberikan label AI sebaik mungkin, tetapi yang tak kalah penting adalah memberikan konteks tentang siapa yang membagikan konten itu,” tulis Mosseri, seperti dilansir dari laman The Verge (16/12).
Saat ini, Meta belum memberikan detail tentang fitur moderasi baru untuk mendukung pendekatan ini, tetapi pernyataan Mosseri menunjukkan bahwa perusahaan menyadari pentingnya langkah tersebut. Pendekatan ini mengingatkan pada fitur moderasi yang telah diterapkan oleh platform lain seperti:
Catatan Komunitas di X (dulu Twitter): Sistem moderasi berbasis pengguna yang memberikan konteks tambahan pada tweet yang dianggap ambigu atau kontroversial.
Filter moderasi YouTube dan Bluesky: Memberikan opsi bagi pengguna untuk menyaring atau menandai konten berdasarkan preferensi mereka.
Namun, implementasi langkah serupa oleh Meta masih belum pasti, meskipun perusahaan telah mengisyaratkan adanya perubahan besar dalam aturan konten di masa mendatang.
Pernyataan Mosseri menyoroti tren yang semakin penting di era AI generatif: transparansi dan kredibilitas. Dengan kemampuan AI menciptakan konten yang tidak dapat dibedakan dari kenyataan, pengguna harus lebih waspada terhadap apa yang mereka lihat atau baca di internet.
Selain teknologi deteksi otomatis, kesadaran dan literasi digital di kalangan pengguna menjadi garis pertahanan pertama melawan misinformasi.
Platform sosial media, seperti Instagram, memiliki peran penting dalam membangun kepercayaan dengan menyediakan alat untuk memverifikasi sumber, memberikan label pada konten AI, dan membantu pengguna mengevaluasi konten dengan lebih kritis.
Ke depannya, langkah-langkah Meta dalam menghadapi tantangan ini akan menjadi indikator sejauh mana perusahaan besar bersedia mengutamakan keamanan informasi dibandingkan hanya sekadar pengalaman pengguna.
