Oleh : ElDias (Pemerhati Masalah-masalah Sosial)
Apa jadinya jika satu selfie polos cukup untuk menghancurkan masa depan seorang anak? Di era AI, seorang anak bisa dipermalukan oleh sesuatu yang tidak pernah ia lakukan dan dihancurkan oleh gambar yang tidak pernah ia ambil. Namanya Rini. Bukan nama sebenarnya, tapi kisahnya nyata dan bisa terjadi pada siapa saja.
Rini masih duduk di bangku SMA. Seperti kebanyakan remaja seusianya, ia aktif di Facebook. Ia mengunggah foto selfie sederhana: senyum tipis, seragam sekolah, latar belakang halaman rumah. Tidak ada yang aneh. Tidak ada yang vulgar. Hanya potret remaja biasa yang ingin diakui keberadaannya di ruang sosial digital.
Beberapa hari kemudian, sebuah pesan masuk ke akun Facebook-nya. Pengirimnya tak dikenal. Awalnya basa-basi. Rini tak merespons. Tak lama, pesan kedua masuk kali ini lebih mengganggu. Si pengirim mengatakan ia sudah “menyimpan” foto Rini. Rini mengabaikannya. Ia mengira itu hanya orang iseng.
Namun teror sebenarnya dimulai ketika pesan itu berpindah ke WhatsApp. Rini lupa bahwa akun Facebook-nya terhubung dengan nomor WhatsApp yang aktif. Tanpa banyak kata, si pengirim mengirim sebuah gambar.
Rini terdiam. Tubuhnya gemetar. Gambar itu adalah dirinya atau setidaknya wajahnya dalam kondisi telanjang. Sangat nyata. Sangat meyakinkan. Ia tahu itu bukan foto asli. Ia tahu ia tak pernah melakukannya. Tapi mata, wajah, dan detailnya terlalu mirip untuk disebut kebetulan.
Pesan berikutnya lebih kejam: ancaman. Jika Rini tidak mengirim sejumlah uang dan “menuruti permintaan tertentu”, gambar itu akan disebarkan ke teman sekolahnya, ke grup keluarga, ke publik.
Sejak hari itu, Rini berubah. Ia murung. Ia tak mau ke sekolah. Nilainya menurun. Ia mengisolasi diri dari teman-temannya. Ia merasa malu atas sesuatu yang tak pernah ia lakukan. Trauma itu tak terlihat, tapi menghancurkan. Di hadapan orang tuanya, Rini hanya bilang ia lelah. Ia tidak tahu harus menjelaskan dari mana.
Rini bukan korban pertama. Dan jika kita terus abai, ia bukan yang terakhir.
Teknologi yang Melampaui Etika
Kasus Rini memperlihatkan wajah gelap teknologi kecerdasan buatan (AI). Dalam beberapa tahun terakhir, AI berkembang pesat—bukan hanya untuk produktivitas, seni, atau pendidikan, tetapi juga untuk manipulasi visual yang ekstrem. Salah satunya adalah teknologi AI nudification atau deepfake pornografi.
Dengan hanya satu atau dua foto wajah yang diambil dari media sosial, sistem AI tertentu mampu: Memetakan struktur wajah, menyesuaikan pencahayaan dan sudut, menempelkan wajah korban ke tubuh sintetis yang dihasilkan mesin
Hasilnya adalah gambar palsu yang tampak sangat nyata.
Masalahnya bukan semata pada teknologinya, tetapi pada aksesibilitasnya. Dulu, manipulasi semacam ini membutuhkan keahlian tinggi dan perangkat mahal. Kini, cukup beberapa klik, bahkan bisa dilakukan oleh remaja lain, predator digital, atau pelaku pemerasan daring.
Teknologi yang seharusnya netral berubah menjadi alat kekerasan psikologis. Lebih buruk lagi, korban sering kali disalahkan. “Kenapa upload foto?” “Kenapa akun dibuka publik?” Pertanyaan-pertanyaan ini mengalihkan fokus dari pelaku ke korban sebuah pola klasik dalam kejahatan berbasis seksual.
Anak-Anak di Garis Depan Risiko
Anak dan remaja adalah kelompok paling rentan. Mereka hidup di era visual, di mana eksistensi sering diukur dari unggahan dan respons. Namun mereka belum sepenuhnya dibekali literasi digital, apalagi kesadaran tentang kejahatan berbasis AI.
Sekali gambar palsu tersebar, dampaknya nyaris permanen. Internet tidak mengenal tombol “lupa”. Trauma psikologis, rasa malu, kecemasan sosial, hingga depresi adalah konsekuensi yang nyata. Dalam kasus ekstrem, ini bisa berujung pada putus sekolah atau gangguan kesehatan mental jangka panjang.
Ironisnya, hukum dan regulasi sering tertinggal. Banyak orang tua, guru, bahkan aparat belum sepenuhnya memahami modus kejahatan ini. Akibatnya, korban sering merasa sendirian.
Ini Bukan Isu Moral, Ini Isu Keselamatan
Penting ditegaskan: ini bukan soal moralitas berpakaian atau etika bermedia sosial semata. Ini adalah isu keselamatan digital. Sama seperti kita mengajarkan anak menyeberang jalan dengan aman, kita juga wajib mengajarkan cara bertahan di ruang digital yang semakin predatoris.
Manipulasi foto seksual tanpa izin terutama terhadap anak harus diperlakukan sebagai kejahatan serius. Platform media sosial tidak bisa lagi berlindung di balik dalih “netral teknologi”. Negara tidak bisa menunggu korban bertambah baru bertindak. Sekolah tidak bisa menganggap ini urusan pribadi siswa.
Peringatan dan Tanggung Jawab Bersama
Ada beberapa langkah mendesak yang perlu dilakukan: Pertama, literasi digital sejak dini. Anak perlu tahu bahwa tidak semua ancaman datang secara fisik. Bahwa foto polos pun bisa disalahgunakan. Kedua, perlindungan privasi maksimal. Akun privat, pembatasan tag, dan kontrol nomor telepon bukan paranoia itu kebutuhan. Ketiga, keberanian untuk bicara. Korban harus tahu bahwa mereka tidak salah. Lingkungan harus menjadi tempat aman, bukan ruang penghakiman. Keempat, penegakan hukum yang tegas. Kejahatan berbasis AI harus dikejar dengan keseriusan yang sama seperti kejahatan fisik.
Kisah Rini seharusnya menggugah kita semua. Di era AI, bahaya tidak selalu datang dengan wajah kasar dan suara keras. Kadang ia hadir dalam bentuk notifikasi sunyi, sebuah gambar palsu, dan ancaman yang menghancurkan perlahan.
Jika kita tidak waspada, teknologi akan terus berlari meninggalkan anak-anak kita sendirian di jalur berbahaya. (*)
