Snapchat baru saja meluncurkan fitur chatbot My AI ke semua penggunanya. Fitur ini langsung menimbulkan kekhawatiran dari orang tua, salah satunya Lyndsi Lee, seorang ibu dari East Prairie, Missouri. Ia memberi tahu putrinya yang berusia 13 tahun untuk menjauhi fitur tersebut hingga ia memahami lebih banyak tentang dampaknya. Lee menganggap My AI hanya solusi sementara sampai ia bisa menetapkan batasan yang jelas.
Fitur ini memanfaatkan teknologi chatbot AI ChatGPT yang memberikan rekomendasi, menjawab pertanyaan, dan berinteraksi dengan pengguna. Berbeda dari ChatGPT biasa, pengguna bisa menyesuaikan nama dan avatar Bitmoji chatbot. Hal ini membuat interaksi terasa lebih pribadi dan kurang seperti berbicara dengan mesin.
Risiko yang Terjadi dengan Penggunaan My AI pada Remaja
Fitur ini memicu kekhawatiran karena sulitnya membedakan antara manusia dan mesin. Orang tua merasa bahwa Snapchat melangkah terlalu jauh dengan meluncurkan fitur ini, terutama bagi pengguna remaja. “Saya tidak tahu bagaimana cara mengajarkan anak saya membedakan manusia dan mesin,” kata Lee. Kekhawatiran ini semakin kuat karena banyak orang tua merasa fitur ini berisiko bagi anak-anak mereka.
Keluhan juga datang dari pengguna Snapchat yang merasa terganggu oleh masalah privasi dan interaksi yang terasa aneh dengan My AI. Beberapa merasa chatbot ini mengumpulkan data pribadi tanpa izin yang jelas. Selain itu, My AI tidak dapat dihapus dari feed kecuali pengguna berlangganan layanan premium Snapchat+.
Meskipun beberapa pengguna merasa My AI bermanfaat untuk tugas sekolah atau mendapatkan saran pribadi, banyak yang merasa terganggu dengan pengumpulan data pribadi dan potensi manipulasi emosional.
Kontroversi dan Tanggapan dari Snapchat
Snapchat, yang menjadi mitra peluncuran awal untuk ChatGPT, mengakui bahwa My AI masih dalam tahap eksperimen. Mereka mengungkapkan bahwa meskipun banyak perbaikan yang perlu dilakukan, mereka terus mendengarkan umpan balik dari pengguna dan berupaya meningkatkan fitur ini untuk lebih aman.
Namun, kekhawatiran terhadap privasi dan dampak psikologis tetap ada. Beberapa psikolog klinis memperingatkan bahwa penggunaan chatbot bisa memperburuk konfirmasi bias pada remaja. Ini dapat memperburuk kondisi mental mereka, terutama jika mereka berinteraksi dengan chatbot dalam keadaan emosional yang buruk.
Masa Depan Chatbot dan Dampaknya pada Pengguna Muda
Orang tua kini merasa perlu mengajarkan anak-anak mereka cara berinteraksi dengan chatbot secara bijaksana. Sinead Bovell, pendiri WAYE, sebuah startup yang membantu mempersiapkan anak muda untuk teknologi masa depan, mengingatkan orang tua untuk menjelaskan bahwa chatbot bukan teman atau penasihat yang bisa dipercaya. Ia juga mengingatkan agar anak tidak berbagi informasi pribadi dengan chatbot.
Di masa depan, mungkin diperlukan regulasi yang lebih ketat untuk mengatur penggunaan teknologi AI pada anak muda. Hal ini penting untuk memastikan bahwa perkembangan teknologi tidak membahayakan pengguna yang masih rentan.
Baca artikel lainnya di sini: roledu.com/artikel
Sumber : cnn.com
