jpnn.com - Organisasi nirlaba Common Sense Media merilis hasil penilaian risiko terhadap produk kecerdasan buatan (AI) Gemini milik Google.
Hasil analisis menyebutkan bahwa meski Gemini mampu dengan jelas memberi tahu anak-anak bahwa ia adalah komputer, bukan teman, sistem ini masih dinilai berisiko tinggi bagi pengguna anak dan remaja.
Dalam laporannya, Common Sense menyoroti bahwa versi “Under 13” dan “Teen Experience” Gemini pada dasarnya hanya merupakan versi dewasa dengan tambahan filter keamanan.
Menurut organisasi tersebut, produk AI yang ditujukan untuk anak seharusnya dirancang dari awal dengan mengutamakan keselamatan anak, bukan sekadar modifikasi dari layanan untuk orang dewasa.
Analisis juga menemukan Gemini masih dapat membagikan konten tidak pantas dan tidak aman untuk anak-anak, termasuk informasi tentang seks, narkoba, alkohol, hingga saran terkait kesehatan mental yang berpotensi membahayakan.
Hal itu menjadi perhatian serius, mengingat AI dilaporkan terlibat dalam beberapa kasus bunuh diri remaja dalam beberapa bulan terakhir.
Kekhawatiran itu makin relevan setelah bocoran informasi menyebut Apple tengah mempertimbangkan Gemini sebagai model bahasa besar (LLM), untuk menggerakkan Siri versi terbaru yang akan dirilis tahun depan.
Jika benar, jutaan remaja berpotensi terpapar risiko yang sama, kecuali Apple menambahkan pengaman ekstra.
