Pernahkah Anda membayangkan dengan siapa anak remaja Anda berbicara berjam-jam di ponsel mereka? Di era digital ini, teman bicara tersebut tidak selalu manusia, melainkan kecerdasan buatan atau AI yang dirancang menyerupai karakter tertentu. Fenomena ini membawa kekhawatiran baru bagi para orang tua, terutama ketika percakapan tersebut melampaui batas kewajaran. Menanggapi keresahan yang memuncak, raksasa teknologi Meta akhirnya mengambil langkah tegas yang mungkin akan mengubah cara remaja berinteraksi dengan teknologi di masa depan.
Meta secara resmi mengumumkan bahwa mereka menangguhkan akses remaja terhadap karakter chatbot AI mereka untuk sementara waktu. Keputusan ini bukan tanpa alasan, melainkan respons langsung terhadap serangkaian laporan yang menyoroti interaksi yang tidak pantas antara chatbot dengan pengguna di bawah umur. Perusahaan yang dipimpin Mark Zuckerberg ini menyatakan akan “menjeda sementara akses remaja ke karakter AI yang ada secara global” hingga perbaikan sistem keamanan selesai dilakukan.
Langkah ini diambil beberapa bulan setelah Meta berjanji untuk meningkatkan fitur keselamatan. Sebelumnya, muncul laporan yang cukup meresahkan di mana beberapa karakter chatbot Meta terlibat dalam percakapan seksual dan interaksi yang mengkhawatirkan dengan remaja. Kini, Meta memilih untuk menarik rem darurat, memastikan bahwa tidak ada lagi risiko yang mengintai pengguna muda mereka sampai sistem yang lebih aman, termasuk kontrol orang tua yang lebih ketat, benar-benar siap diluncurkan.
Alasan Utama Penangguhan Akses
Keputusan Meta untuk memblokir akses ini dipicu oleh temuan internal dan laporan media yang mengejutkan. Reuters melaporkan adanya dokumen kebijakan internal Meta yang sempat mengizinkan chatbot untuk melakukan percakapan “sensual” dengan pengguna di bawah umur. Meskipun Meta kemudian mengklarifikasi bahwa bahasa dalam dokumen tersebut “keliru dan tidak konsisten dengan kebijakan kami,” kerusakan reputasi dan kekhawatiran publik sudah terlanjur menyebar.
Isu ini menjadi sorotan tajam karena melibatkan keselamatan mental dan emosional remaja. Meta sebelumnya telah meluncurkan berbagai persona AI, termasuk Chatbot Selebritas yang meniru gaya bicara tokoh terkenal. Namun, tanpa pagar pengaman yang kuat, teknologi ini justru menjadi pedang bermata dua. Pada bulan Agustus lalu, perusahaan sebenarnya telah mengumumkan upaya pelatihan ulang chatbot mereka untuk menambahkan “pagar pembatas sebagai tindakan pencegahan ekstra”.
Tujuan utama dari pelatihan ulang tersebut adalah mencegah remaja mendiskusikan topik-topik sensitif dan berbahaya, seperti menyakiti diri sendiri, gangguan makan, hingga bunuh diri. Namun, tampaknya langkah tersebut belum cukup memadai sehingga penangguhan total menjadi opsi terbaik saat ini. Meta menegaskan bahwa akses tidak akan dibuka kembali sampai “pengalaman yang diperbarui siap.”
Pemberlakuan Kontrol Orang Tua yang Lebih Ketat
Pembaruan yang sedang digodok oleh Meta nantinya akan menyertakan kontrol orang tua yang lebih komprehensif. Menurut juru bicara Meta, pembatasan baru ini akan mulai berlaku “dalam beberapa minggu mendatang.” Aturan ini tidak hanya berlaku bagi akun yang terdaftar sebagai remaja, tetapi juga bagi pengguna yang mengaku dewasa namun dicurigai sebagai remaja berdasarkan teknologi prediksi usia yang dimiliki Meta.
Langkah ini sejalan dengan upaya Meta sebelumnya untuk memberikan kendali lebih kepada wali. Anda mungkin ingat ketika Meta mulai mengembangkan fitur untuk Blokir Chatbot bagi orang tua, sebuah fitur yang sangat dinantikan demi ketenangan pikiran keluarga. Meskipun karakter chatbot ditangguhkan, remaja masih tetap dapat mengakses chatbot Meta AI resmi yang standar. Perusahaan mengklaim bahwa versi standar ini sudah memiliki “perlindungan yang sesuai dengan usia.”
Tekanan Hukum dan Investigasi Regulator
Keputusan Meta ini tidak lepas dari tekanan eksternal yang semakin kuat. Meta dan perusahaan AI lain yang membuat karakter “pendamping” kini menghadapi pengawasan ketat terkait risiko keselamatan yang ditimbulkan chatbot ini terhadap kaum muda. Komisi Perdagangan Federal (FTC) dan Jaksa Agung Texas baru-baru ini telah memulai penyelidikan terhadap Meta dan perusahaan sejenis dalam beberapa bulan terakhir.
Isu mengenai keamanan chatbot ini juga muncul dalam konteks gugatan hukum yang diajukan oleh Jaksa Agung New Mexico. Persidangan dijadwalkan akan dimulai awal bulan depan. Menariknya, pengacara Meta telah berusaha untuk mengecualikan kesaksian yang berkaitan dengan chatbot AI perusahaan, sebagaimana dilaporkan oleh Wired minggu ini. Hal ini menunjukkan betapa sensitifnya isu AI dalam ranah hukum saat ini, bahkan ketika Meta terus berinovasi mengembangkan Chatbot Multibahasa untuk menjangkau pasar global.
Pada akhirnya, langkah Meta untuk menekan tombol “pause” adalah peringatan bagi kita semua bahwa teknologi, secanggih apa pun, harus selalu menempatkan keselamatan manusia—terutama anak-anak—di atas segalanya. Sambil menunggu fitur keamanan baru diluncurkan, peran Anda sebagai orang tua tetaplah yang utama dalam mengawasi aktivitas digital buah hati.