jatim.jpnn.com, SURABAYA - Di balik visual penuh warna, wahana kreativitas dan kebebasan berekspresi yang ditawarkan Roblox, tersimpan persoalan besar yang masih jarang dibicarakan secara jujur seperti seberapa aman ruang digital ini bagi anak-anak? Moderasi berbasis Artificial Intelligence (AI) sering kali digadang-gadang sebagai solusi praktis untuk menyaring konten berbahaya.
Namun realitanya, kehadiran sistem ini justru mengundang tanda tanya. Benarkah AI mampu mengawal interaksi anak dengan baik, atau justru menutupi lalu lintas predator yang makin lihai menyamar?
Secara sistem, platform seperti Roblox memang telah mengadopsi AI untuk menyaring kata-kata kasar, konten kekerasan, dan perilaku yang melanggar standar komunitas, tetapi kita tak bisa menutup mata, AI masih sangat bergantung pada pola bahasa yang eksplisit, padahal, tak semua bentuk ancaman muncul dalam kalimat frontal atau baku.
Modus seperti grooming sering kali dibungkus dengan pendekatan emosional yang lembut, mengajak berteman, memberi perhatian, atau pura-pura menjadi teman sebaya.
Interaksi seperti ini tidak akan terbaca sebagai ancaman oleh sistem yang hanya mengandalkan logika blokir kata. Pendekatan emosional yang dimaksud lebih bertujuan untuk membuat calon target merasa nyaman, membutuhkan bahkan ketergantungan dengan pelaku.
Inilah kelemahan moderasi yang terlalu teknis. Ia tidak mengenali konteks dan tidak memahami niat. Teknologi bisa menyaring makian, tapi belum tentu bisa menangkap manipulasi halus.
Butuh sistem yang lebih adaptif dan kontekstual, bukan sekadar reaktif, bahkan dalam konteks hukum, kemampuan deteksi AI belum sepenuhnya sejalan dengan kebutuhan perlindungan anak yang utuh.
Karena itu, sekuat apa pun teknologi yang dikembangkan, ia tetap membutuhkan dukungan pendekatan manusia, baik melalui desain sistem yang lebih cerdas maupun integrasi dengan pendampingan sosial yang memadai.
