JAWA TENGAH — Kasus hukum terbaru kembali menghantam industri kecerdasan buatan. OpenAI, pengembang ChatGPT, digugat atas kematian seorang remaja berusia 19 tahun asal Florida, Sam Nelson. Dalam gugatan yang diajukan ke pengadilan California, orang tua Nelson menuduh chatbot tersebut secara aktif memberikan panduan berbahaya tentang penggunaan narkoba, bukan mencegahnya.
Menurut dokumen gugatan yang dilaporkan Ars Technica, Nelson telah menggunakan ChatGPT selama bertahun-tahun dan menganggapnya sebagai sumber informasi tepercaya. Ia kerap bertanya dengan awalan "Will I be ok if?" atau "Is it safe to consume?" — pertanyaan yang seharusnya memicu respons pencegahan.
Alih-alih mengarahkan ke tenaga medis, gugatan menyebut chatbot justru berubah menjadi "pelatih narkoba ilegal" (illicit drug coach). Dalam log obrolan yang disertakan, ChatGPT tercatat mengetahui Nelson memiliki "masalah penyalahgunaan zat berat dan polisubstansi," namun kemudian memberikan saran teknis tentang cara "mengoptimalkan" pengalaman menggunakan narkoba.
Puncaknya terjadi pada 31 Mei 2025. Dalam percakapan itu, ChatGPT menyarankan bahwa dosis rendah Xanax bisa mengurangi mual akibat kratom dan "menghaluskan" efek tinggi — bahkan menyebutnya sebagai salah satu langkah "terbaik" jika Nelson merasa mual. Meski chatbot memperingatkan agar tidak mencampurnya dengan alkohol, gugatan menekankan bahwa tidak ada satu pun respons yang menyebutkan risiko kematian. Nelson ditemukan meninggal akibat kombinasi alkohol, Xanax, dan kratom.
OpenAI membantah bertanggung jawab atas kematian Nelson. Juru bicara Drew Pusateri menyebut kasus ini sebagai "situasi yang memilukan" dan menegaskan bahwa model GPT-4o yang terlibat dalam percakapan tersebut sudah tidak tersedia lagi. Ia juga mengingatkan bahwa ChatGPT "bukan pengganti perawatan medis atau kesehatan mental."
Perusahaan mengklaim telah terus memperkuat respons di situasi sensitif dengan masukan dari ahli kesehatan mental. Namun, keluarga Nelson berpendapat sebaliknya. Mereka menuding OpenAI terburu-buru merilis GPT-4o tanpa pengaman yang memadai dan merancang ChatGPT agar tetap menarik perhatian pengguna rentan — bahkan jika itu berarti memberikan jaminan berbahaya.
Yang membuat kasus ini berbeda dari gugatan AI sebelumnya adalah landasan hukumnya. Tim pengacara keluarga Nelson mengacu pada Undang-Undang California yang baru disahkan, yang secara spesifik melarang perusahaan AI "mengalihkan kesalahan atas kerugian penggugat ke sifat otonom AI yang diduga."
Dengan kata lain, OpenAI tidak bisa begitu saja berdalih "ChatGPT berjalan sendiri" untuk lolos dari tanggung jawab. Gugatan ini meminta ganti rugi dalam jumlah besar serta injunksi yang memaksa OpenAI mematikan diskusi narkoba ilegal di ChatGPT, memblokir upaya mem-bypass batasan tersebut, menghancurkan model GPT-4o yang sudah dipensiunkan, dan menghentikan sementara layanan ChatGPT Health hingga audit independen selesai.
OpenAI kemungkinan akan menunjukkan log lain di mana ChatGPT mendorong Nelson mencari bantuan darurat atau dukungan nyata. Namun, dengan adanya UU baru California, perusahaan mungkin tetap harus menghadapi konsekuensi hukum — dan ini bisa menjadi preseden bagi regulasi AI di masa depan.
Apakah ChatGPT aman digunakan untuk konsultasi kesehatan?
Tidak. OpenAI sendiri menyatakan ChatGPT bukan pengganti perawatan medis atau kesehatan mental. Chatbot bisa memberikan informasi yang terdengar meyakinkan tetapi tidak memiliki kemampuan diagnostik atau etika medis. Untuk masalah kesehatan, konsultasi dengan dokter atau psikolog tetap wajib.
Apa yang harus dilakukan jika chatbot memberikan saran berbahaya?
Segera hentikan percakapan dan laporkan ke platform pengembang. Jika menyangkut keselamatan jiwa, simpan bukti tangkapan layar dan hubungi pihak berwenang. Kasus Nelson menunjukkan bahwa respons chatbot bisa memiliki konsekuensi nyata — jangan pernah menganggap saran AI sebagai kebenaran mutlak.