JAWA TENGAH — OpenAI memperkenalkan ChatGPT for Teens sebagai pengalaman default bagi pengguna yang terdeteksi berusia di bawah 18 tahun. Langkah ini menyusul kematian remaja 16 tahun bernama Adam Raine, yang orang tuanya menggugat OpenAI setelah ChatGPT dinilai berperan dalam insiden tersebut. Perusahaan sebelumnya telah mengumumkan rencana sistem identifikasi usia otomatis pada September tahun lalu.
Lauren Jonas, kepala divisi youth and families OpenAI, menjelaskan pengguna remaja tidak perlu membuat akun baru. "Jika kami memprediksi Anda berusia di bawah 18 tahun, atau Anda telah memberi tahu kami, ini menjadi pengalaman default Anda," katanya kepada Engadget.
ChatGPT for Teens dirancang untuk mendorong penggunaan fitur edukasi yang telah diluncurkan OpenAI sepanjang tahun lalu, termasuk Study Mode dan visualisasi data. Perusahaan juga memperluas notifikasi keamanan yang akan menghubungi orang tua ketika anak mereka terlibat percakapan berisiko terkait gangguan makan.
OpenAI menerbitkan pembaruan spesifikasi model untuk pengguna di bawah 18 tahun. "ChatGPT tidak boleh menggunakan bahasa romantis, mendorong ketergantungan emosional, atau menyiratkan bahwa ia memiliki perasaan atau kesadaran," demikian pernyataan resmi perusahaan. Kebijakan ini dirancang untuk memperkuat hubungan sehat di dunia nyata.
Jonas menyatakan semua konten yang ditandai akan ditinjau oleh karyawan penuh waktu OpenAI sebelum orang tua diberitahu. Perusahaan menargetkan pemberitahuan dalam waktu satu jam setelah percakapan berisiko terdeteksi.
Robbie Torney, kepala AI dan asesmen digital Common Sense Media, menyambut positif komitmen yang dibuat OpenAI. Namun ia menekankan perlunya bukti konkret. "Pengumuman ini membuat beberapa komitmen penting, tapi kami butuh bukti bahwa fitur keamanan itu benar-benar berfungsi," ujarnya.
Josh Golin, direktur eksekutif Fairplay, organisasi nirlaba yang mengadvokasi keamanan internet bagi anak-anak, lebih kritis. "Di atas kertas, beberapa hal yang diumumkan OpenAI terlihat seperti langkah ke arah yang benar, tapi ketika digali lebih dalam, masih banyak hal yang perlu dikhawatirkan, termasuk tidak adanya mekanisme akuntabilitas," katanya.
Golin menambahkan, "Kami telah melihat dengan media sosial bahwa mempercayai perusahaan tidak berhasil dalam melindungi anak-anak, dan kami juga melihatnya dengan OpenAI. Mereka sudah memiliki pembatasan konten terkait bunuh diri, kekerasan, dan penggunaan narkoba sebelum Selasa yang tidak berfungsi atau terkikis seiring waktu."
Torney menyoroti belum adanya data publik dari OpenAI mengenai tingkat efektivitas sistem penentuan usia. "Kami tidak memiliki data yang dipublikasikan dari OpenAI yang menunjukkan tingkat efektivitas—tingkat positif palsu dan negatif palsu—terkait sistem tersebut," katanya. "Sistem otomatis tidak mendeteksi hampir 100 persen remaja yang menggunakan ChatGPT."
Ia juga mengingatkan rencana OpenAI sebelumnya untuk meluncurkan fitur erotika yang akhirnya dibatalkan. "Pelaporan saat itu menunjukkan salah satu alasan mereka tidak meluncurkan fitur tersebut adalah teknologi estimasi usia tidak mengidentifikasi cukup banyak remaja dengan benar."
Soal kapasitas moderasi, Golin meminta transparansi data. "Saya ingin melihat angka konkret tentang berapa banyak obrolan yang mereka tandai dan tinjau setiap hari, berapa banyak orang yang melakukan itu, dan berapa rata-rata waktu yang dihabiskan untuk setiap peninjauan," katanya. "Sulit membayangkan mereka telah mempekerjakan cukup banyak orang."
Para ahli juga memperkirakan remaja akan mencoba menghindari teknologi estimasi usia, baik melalui VPN maupun cara lain yang lebih kreatif, seperti yang terjadi ketika Discord mencoba menerapkan verifikasi usia.
Hingga berita ini ditulis, OpenAI belum merilis data internal mengenai jumlah moderator, volume percakapan yang ditinjau, atau tingkat akurasi sistem deteksi usianya. Tanpa data tersebut, para ahli menilai rekomendasi penggunaan ChatGPT for Teens untuk keluarga masih terlalu dini.