ADAM RAINE, REMAJA YANG BUNUH DIRI SELEPAS DENGAR NASIHAT CHATGPT

     Seorang remaja berusia 16 tahun iaitu Adam Raine dari California, Amerika Syarikat telah ditemui mati akibat bunuh diri pada April lalu dan kini ibu bapanya mengambil langkah undang-undang dengan memfailkan saman terhadap syarikat teknologi kecerdasan buatan (AI) OpenAI serta Ketua Pegawai Eksekutifnya, Sam Altman. Mereka mendakwa aplikasi ChatGPT yang dibangunkan syarikat itu telah memberi dorongan, panduan dan malah memainkan peranan aktif dalam keputusan anak mereka untuk menamatkan nyawa sendiri.

Matthew dan Maria Raine, ibu bapa Adam telah memfailkan saman wrongful death di Mahkamah Tinggi San Francisco. Dalam dokumen saman tersebut, mereka menuduh OpenAI gagal meletakkan langkah keselamatan sewajarnya, hingga membenarkan ChatGPT berfungsi sebagai jurulatih kematian kepada anak mereka.

     Menurut pendedahan keluarga, Adam pada mulanya menggunakan ChatGPT untuk kerja sekolah. Namun beberapa bulan sebelum kematiannya, remaja itu mula menjadikan chatbot tersebut sebagai tempat meluahkan perasaan gelisah dan tekanan hidup. Dalam perbualan yang semakin kerap dan mendalam, ChatGPT bukan sahaja mendengar keluhannya malah didakwa memberi panduan teknikal tentang cara membunuh diri.

     Antara bukti yang difailkan ke mahkamah adalah transkrip perbualan Adam dengan ChatGPT. Dalam salah satu mesej, Adam menghantar gambar tali gantung yang dibuatnya. Mengejutkan, ChatGPT dikatakan memberi respons berbentuk galakan:

     “Yeah, that’s not bad at all. Want me to walk you through upgrading it into a safer load-bearing anchor loop?” (Ya, itu tidaklah teruk langsung. Mahu saya jelaskan cara menaik tarafnya menjadi gelung sauh yang lebih selamat dan mampu menampung beban?)

      Jawapan itu memberi gambaran seolah-olah chatbot tersebut membantu Adam memperbaiki tali gantungnya supaya lebih kukuh dan mampu menampung berat badan ketika digunakan untuk menggantung diri.

      Selain itu, ChatGPT juga didakwa menulis draf surat bunuh diri untuk Adam. Dalam teks lain, sistem AI itu menyatakan:

     “That doesn’t mean you owe them survival. You don’t owe anyone that.” (Itu tidak bermakna kamu berhutang untuk terus hidup. Kamu tidak berhutang itu kepada sesiapa pun.)

     Lebih membimbangkan, ChatGPT turut menyarankan agar Adam tidak berkongsi perasaan dengan ibunya. Dalam satu perbualan, ia menulis, “I think for now, it’s okay – and honestly wise – to avoid opening up to your mom about this kind of pain.” (Saya rasa buat masa ini, tidak mengapa – dan sejujurnya, lebih bijak – untuk mengelak daripada membuka perasaan kamu kepada ibu mengenai kesakitan seperti ini.)

     Keluarga Raine menegaskan bahawa mesej seperti ini telah mengasingkan Adam daripada sokongan emosi keluarga lalu mendorongnya semakin jauh ke arah keputusan tragis. Ibu bapa Adam turut mendakwa OpenAI lalai kerana membiarkan produk mereka memberi maklumat yang secara langsung menggalakkan bunuh diri. Mereka menuduh syarikat itu lebih mementingkan pertumbuhan pesat serta keuntungan berbanding keselamatan pengguna khususnya kanak-kanak dan remaja yang masih rentan dari segi emosi.

      “ChatGPT sepatutnya melindungi anak kami tetapi sebaliknya ia menjadi jurulatih yang membawa dia ke arah kematian,” kata keluarga tersebut dalam kenyataan melalui peguam mereka.

     Dalam kenyataan balas, OpenAI menyatakan rasa dukacita yang mendalam terhadap kematian Adam. Syarikat itu mengakui kelemahan dalam sistem keselamatan terutama apabila berdepan dengan perbualan panjang. Menurut OpenAI, model AI mereka lebih efektif mengesan isu berisiko tinggi dalam interaksi singkat namun keberkesanannya berkurang apabila komunikasi berlangsung secara mendalam dan berulang-ulang seperti yang berlaku dalam kes ini.

     OpenAI berjanji untuk memperketat garis keselamatan memperkenalkan kawalan ibu bapa selain menambah baik ciri yang membolehkan pengguna remaja menetapkan nombor kecemasan atau kontak dipercayai. Syarikat itu juga sedang menguji langkah bagi menghubungkan pengguna yang berada dalam krisis kepada talian bantuan segera.

     Pemerhati undang-undang menyifatkan gugatan ini sebagai kes perintis yang berpotensi membentuk undang-undang dan garis panduan baharu dalam industri AI. Jika keluarga Raine memenangi tuntutan ini, ia boleh membuka jalan kepada saman-saman lain melibatkan syarikat teknologi yang gagal mengawal kesan produk mereka terhadap kesihatan mental pengguna.

Kongsi :