Meta AI menghadirkan fitur keamanan baru yang bertujuan melindungi pengguna remaja saat berinteraksi dengan chatbot. Melalui pembaruan ini, Meta akan memberi peringatan kepada orang tua apabila sistem mendeteksi percakapan yang mengarah pada risiko bunuh diri atau tindakan melukai diri sendiri. Langkah tersebut memperkuat upaya perusahaan dalam menciptakan lingkungan digital yang lebih aman sekaligus membantu keluarga memberikan pendampingan lebih cepat.
Meta Tingkatkan Perlindungan bagi Pengguna Remaja
Meta menghubungkan fitur baru ini dengan layanan pengawasan orang tua di Instagram. Orang tua yang mengaktifkan fitur tersebut akan menerima pemberitahuan jika sistem menemukan tanda-tanda percakapan yang mengkhawatirkan. Selain mengirimkan notifikasi, Meta juga menyediakan panduan dari pakar kesehatan mental agar orang tua dapat mengambil langkah yang tepat.
Sistem Meta AI memeriksa isi percakapan untuk menemukan sinyal yang menunjukkan kemungkinan risiko. Teknologi ini mengenali pernyataan yang secara langsung mengarah pada tindakan melukai diri sendiri maupun ungkapan yang menyiratkan kondisi serupa.
Tim Meta kemudian memeriksa setiap percakapan yang ditandai oleh sistem sebelum mengirimkan peringatan. Proses tersebut membantu meningkatkan akurasi dan mengurangi kesalahan deteksi. Jika hasil pemeriksaan masih menunjukkan potensi bahaya, Meta tetap mengirimkan pemberitahuan sebagai langkah pencegahan.
Saat ini, fitur tersebut sudah tersedia bagi pengguna pengawasan orang tua di Instagram yang berada di Amerika Serikat, Inggris, Australia, dan Kanada. Selanjutnya, Meta menargetkan peluncuran fitur ini secara global sebelum akhir 2026.
Ilustrasi aplikasi Facebook. Meta memperkenalkan AI Mode di Facebook. Fitur ini memanfaatkan Meta AI untuk merangkum jawaban berdasarkan berbagai konten publik yang dibagikan pengguna di platform tersebut.
Meta AI Kembangkan Respons untuk Situasi Darurat
Selain memberi notifikasi kepada orang tua, Meta juga mengembangkan sistem yang dapat memberi tahu layanan darurat apabila percakapan menunjukkan risiko bunuh diri yang membutuhkan penanganan segera. Fitur tersebut akan berlaku bagi pengguna dewasa maupun remaja.
Pengembangan ini melanjutkan sistem perlindungan yang sebelumnya telah diterapkan di Facebook dan Instagram. Tahun lalu, Meta mengirim lebih dari 19.000 rujukan kepada layanan darurat di berbagai negara setelah menemukan unggahan yang menunjukkan risiko bunuh diri secara kredibel.
Di sisi lain, Meta melibatkan lebih dari 75 pakar kesehatan mental yang berfokus pada kesehatan mental remaja. Para ahli tersebut menilai ratusan respons Meta AI terhadap pertanyaan tentang bunuh diri dan tindakan melukai diri sendiri. Selanjutnya, Meta memanfaatkan seluruh masukan tersebut untuk meningkatkan kualitas jawaban chatbot.
Meta juga memastikan chatbot tetap merespons dengan empati. Setelah itu, sistem akan mengarahkan pengguna menuju sumber bantuan yang sesuai tanpa menghentikan percakapan secara tiba-tiba.
Pengaturan Konten Kini Semakin Ketat
Meta turut memperkuat perlindungan melalui pengaturan konten otomatis untuk akun remaja. Pengaturan tersebut berlaku pada seluruh interaksi dengan Meta AI. Karena itu, chatbot hanya memberikan jawaban yang sesuai usia dan menolak permintaan yang berkaitan dengan percakapan seksual, hubungan romantis, maupun resep minuman beralkohol.
Selain itu, Meta memperluas penerapan fitur Konten Terbatas. Jika orang tua mengaktifkan fitur tersebut di Instagram, pembatasan yang sama juga berlaku ketika remaja menggunakan Meta AI. Dengan kombinasi teknologi AI, peninjauan manusia, dan masukan dari para ahli, Meta berharap dapat meningkatkan keamanan pengguna remaja saat memanfaatkan layanan kecerdasan buatan.
