Investigasi yang berlangsung selama tujuh bulan hingga Juni ini menunjukkan bahwa algoritma Instagram secara cepat mengarahkan remaja ke konten sugestif seksual.
Instagram dilaporkan merekomendasikan konten berunsur seksual kepada pengguna remaja yang baru berusia 13 tahun. Temuan ini diungkap oleh The Wall Street Journal dalam sebuah investigasi bersama dengan Northwestern University, yang mengungkapkan bahwa Meta gagal memenuhi janjinya untuk menjaga konten agar sesuai dengan usia pengguna remaja.
Dilansir dari Phone Arena (21/6), investigasi yang berlangsung selama tujuh bulan hingga Juni ini menunjukkan bahwa algoritma Instagram secara cepat mengarahkan remaja ke konten sugestif seksual hanya beberapa menit setelah mereka masuk ke akun mereka. Meta sebelumnya berjanji pada Januari lalu untuk membatasi materi semacam ini agar tidak terlihat oleh pengguna yang berusia 16 tahun ke bawah. Namun, hasil investigasi menunjukkan kenyataan yang berbeda.
Dalam eksperimen tersebut, The Wall Street Journal dan Profesor Ilmu Komputer Laura Edelson dari Northwestern University membuat akun Instagram baru dengan usia terdaftar 13 tahun. Pada awalnya, akun-akun ini menerima video wanita menari dan berpose secara sugestif. Ketika akun-akun ini mengabaikan konten lain dan menonton video tersebut, Instagram Reels mulai merekomendasikan konten yang semakin provokatif.
Dalam waktu kurang dari tiga menit, akun-akun ini mulai menerima konten dari kreator dewasa. Kurang dari 20 menit kemudian, feed akun tersebut penuh dengan promosi dari kreator yang menawarkan foto telanjang kepada pengguna yang berinteraksi dengan postingan mereka. Platform lain seperti TikTok dan Snapchat tidak menunjukkan perilaku algoritma serupa kepada pengguna remaja.
Profesor Edelson menyatakan, “Ketiga platform ini memang memiliki perbedaan dalam konten yang direkomendasikan kepada remaja. Namun, pengalaman dewasa di TikTok tampaknya memiliki konten eksplisit yang jauh lebih sedikit dibandingkan pengalaman remaja di Instagram Reels.”
Meta menanggapi hasil investigasi ini dengan menyebutnya sebagai “eksperimen buatan” yang tidak mencerminkan penggunaan Instagram oleh remaja secara umum. Juru bicara Meta, Andy Stone, mengatakan, “Sebagai bagian dari upaya jangka panjang kami dalam menangani isu-isu remaja, kami telah mengurangi volume konten sensitif yang mungkin dilihat oleh remaja di Instagram secara signifikan dalam beberapa bulan terakhir.”
Namun, analisis internal Meta pada tahun 2022, yang ditinjau oleh The Wall Street Journal, menunjukkan bahwa Meta mengetahui bahwa Instagram memperlihatkan lebih banyak pornografi kepada remaja dibandingkan pengguna dewasa. Laporan tersebut mengungkap bahwa remaja melihat tiga kali lebih banyak postingan yang mengandung ketelanjangan, 1,7 kali lebih banyak postingan kekerasan, dan 4,1 kali lebih banyak postingan bullying dibandingkan dengan pengguna berusia di atas 30 tahun.
Analisis internal Meta menyarankan pembuatan mesin rekomendasi terpisah untuk remaja guna mengatasi masalah ini. Namun, hingga kini tidak ada rencana konkret untuk menerapkan saran tersebut. Algoritma Instagram merekomendasikan konten berdasarkan jenis konten yang paling sering dilihat dan durasi waktu yang dihabiskan pengguna untuk melihatnya, yang menjelaskan mengapa remaja melihat konten tak pantas.
Temuan ini menimbulkan kekhawatiran besar tentang keselamatan digital remaja dan menekankan perlunya langkah-langkah yang lebih tegas dari platform media sosial untuk melindungi penggunanya yang paling rentan.
