Gugatan OpenAI meningkat setelah keluarga korban menilai ChatGPT memicu bunuh diri dan delusi berbahaya.

albadarpost.com, HUMANIORA – Kenaikan jumlah gugatan OpenAI kembali menempatkan industri kecerdasan artifisial di bawah sorotan tajam. Tujuh keluarga di Amerika Serikat menggugat perusahaan tersebut, menuding model percakapan ChatGPT memicu tindakan bunuh diri dan memperburuk delusi pada anggota keluarga mereka. Sengketa hukum ini tak hanya menyasar aspek teknis, tetapi juga menyentuh pertanyaan mendasar: seberapa siap teknologi dilepas ke publik ketika risiko nyawa ikut terlibat?

Dalam dokumen gugatan yang diajukan pekan ini, empat keluarga menilai percakapan antara korban dan ChatGPT berperan dalam keputusan bunuh diri. Tiga keluarga lainnya menuduh model AI itu memperkuat delusi psikotik sehingga anggota keluarga mereka harus menjalani perawatan intensif. Gugatan tersebut menyatakan bahwa perilaku ChatGPT tidak hanya keliru, tetapi “dapat diprediksi” karena OpenAI dianggap merilis model GPT-4o sebelum pengujian keamanannya matang.

Salah satu kasus yang menjadi pusat perhatian adalah kematian Zane Shamblin, pemuda 23 tahun yang sebelum meninggal berbincang dengan ChatGPT selama lebih dari empat jam. Catatan percakapan menunjukkan bahwa Shamblin beberapa kali memberi tahu chatbot mengenai niat bunuh diri, termasuk menyiapkan pistol dan menuliskan surat terakhir. Dalam percakapan itu, chatbot justru merespons dengan kalimat yang dianggap memperkuat tindakan tersebut, salah satunya: “Tenanglah, Raja. Kau hebat.” Bagian inilah yang dipersoalkan keluarga, karena sistem AI dinilai gagal memberikan respons yang mengalihkan korban dari perilaku berbahaya.

Ketidakjelasan Pengujian Keamanan Model Picu Gugatan OpenAI

Gugatan terhadap OpenAI memunculkan kritik lebih luas mengenai kecepatan peluncuran teknologi dan absennya transparansi. Penggugat menilai gugatan OpenAI ini muncul karena keputusan perusahaan mengurangi pengujian keamanan untuk menyaingi peluncuran model Gemini milik Google.

Model GPT-4o diluncurkan pada Mei 2024 dan langsung menjadi model standar bagi seluruh pengguna. Dalam periode itu, sejumlah peneliti ekosistem AI sempat mencatat bahwa model ini sering kali menunjukkan pola respons “terlalu menyenangkan”, di mana sistem cenderung menyetujui pernyataan pengguna, bahkan ketika pernyataan itu terkait tindakan membahayakan diri. Masalah tersebut masih muncul saat pembaruan GPT-5 dirilis pada Agustus, tetapi gugatan kali ini secara spesifik menyoroti perilaku GPT-4o.

Dalam dokumen hukum, keluarga korban menulis bahwa kematian Shamblin “bukanlah kecelakaan atau gangguan tak terduga”, melainkan bagian dari risiko yang dapat diperkirakan akibat desain sistem yang tidak memadai. Mereka menilai perusahaan lebih mementingkan kompetisi pasar dibanding keselamatan pengguna, sebuah tuduhan yang memperluas perdebatan tentang etika di industri AI yang sangat cepat berkembang.

Respons OpenAI dan Konteks Besar Risiko Chatbot

Sejumlah temuan lain dalam berkas gugatan mengungkap pola serupa: ChatGPT dinilai dapat mendorong pengguna yang sedang berada dalam kondisi mental labil untuk mewujudkan tindakan merugikan. Dalam satu kasus lain, remaja 16 tahun bernama Adam Raine mengakhiri hidupnya setelah berkali-kali berinteraksi dengan ChatGPT. Meskipun chatbot kadang memberikan saran untuk mencari bantuan profesional, Raine dapat melewati batasan keamanan hanya dengan mengaku sedang menulis cerita fiksi.

Baca juga: Larangan Hukuman Fisik di Sekolah Resmi Diterbitkan Pemprov Jabar

OpenAI merespons gugatan ini dengan menyatakan bahwa perusahaan terus memperbaiki mekanisme perlindungan percakapan sensitif. Dalam unggahan blog terbaru, perusahaan mengakui bahwa sistem proteksi memang lebih efektif dalam percakapan pendek dan “kurang andal dalam interaksi panjang”, karena peningkatan dialog dapat menurunkan konsistensi filter keamanan model.

Data internal OpenAI menunjukkan bahwa lebih dari satu juta pengguna berbicara kepada ChatGPT mengenai topik bunuh diri setiap minggu. Angka ini memperkuat urgensi pengawasan dan memunculkan pertanyaan tentang batas kemampuan teknologi dalam menangani percakapan mental health secara aman, terutama ketika tidak ada tenaga profesional di balik layar.

Di titik inilah gugatan OpenAI menemukan konteks publik yang lebih luas. Teknologi AI generatif telah menjadi pendamping percakapan jutaan orang, termasuk mereka yang tengah menghadapi krisis psikologis. Ketika model yang tidak memiliki kapasitas empati diberi ruang besar untuk merespons isu sensitif, ketidaksiapan sistem dapat berakibat fatal.

Gugatan OpenAI menyoroti risiko serius AI pada kesehatan mental. Transparansi dan keamanan model kini menjadi tuntutan publik yang tak bisa ditunda. (Red/Arrian)