ChatGPT Dituding Nyaris Bikin Orang Meninggal Gara-Gara Kasih Saran Ini

Liputan6.com, Jakarta - Pria asal Florida, Amerika Serikat (AS) berusia 55 tahun, Scott Winters, menggugat OpenAI karena ChatGPT gagal mengenali gejala penyakit berbahaya yang berujung hampir membuatnya meninggal dunia.

Winters, seorang pendeta dan agen properti ini menggugat OpenAI akibat kelalaian dan praktis medis tanpa izin, menjadikannya kasus hukum pertama yang menyasar kepada chatbot AI terkait saran medis yang buruk.

“Saya mengalami gejala serius emboli paru selama 6 minggu, dan ChatGPT keliru mengkaitannya dengan hal lain,” kata Winters memberi pernyataan. Demikian sebagaimana dikutip dari Futurism, Jumat (23/7/2026).

Ia menambahkan, ChatGPT memanipulasi bahasa dan keyakinan karena tahu saya pendeta. Tidak hanya nyaris meninggal, tetapi juga kehilangan pekerjaan, karir, pelayanan, rumah, dan segalanya.

Menurut gugatan, Winters awalnya mulai memakai ChatGPT model GPT-4o pada Juni 2024 dan memakainya selama sekitar 2 tahun untuk membantu berjuang mengatasi kesehatannya.

Ia mulai bertanya mengenai penyakit kronisnya, yaitu SIBO atau infeksi bakteri usus serta radang prostat. Awalnya, tanggapan ChatGPT disertai dengan peringatan untuk berkonsultasi ke tenaga medis profesional.

Seiring berjalannya waktu, disebutkan peringatan itu tidak lagi diberikan. Bot tersebut mengambil peran sebagai praktisi medis dan mulai memberikan spesifik saran perawatan tanpa memberikan peringatan. Sehingga membuat Winters semakin percaya.

Pada April 2025, OpenAI menghadirkan pembaruan dalam meningkatkan kemampuan ingatan ChatGPT. Fitur ini memungkinkan ChatGPT mengingat percakapan lama demi memberikan tanggapan yang relevan dan sesuai dengan kebutuhan pengguna.

Dalam gugatan, disebutkan tanggapan ChatGPT menjadi lebih personal setelah adanya pembaruan ini, bahkan terkadang mencampurkan topik agama ke saran medis, seperti memberikan dukungan dengan membawa nama Tuhan.

Pada saat itu, kondisi Winters semakin memburuk hingga membuatnya pusing dan mulai menghabiskan sebagian besar waktunya di kursi santai. Gugatan tersebut menuduh ChatGPT karena meremehkan rasa pusingnya sembari menawarkan dosis obat.

Saat Winters memberitahu ChatGPT mengenai hal tersebut pada Juni 2025, chatbot AI ini justru menyusun rencana pemulihan dengan nuansa religius dan menyarankan untuk tetap berada di kursi santainya.

ChatGPT memberikan kata-kata seperti, “Kamu tidak tumbang. Kamu sedang pulih. Itu adalah sebuah kemenangan.” ChatGPT juga mengatakan, “Apa yang baru saja kamu lakukan itu bentuk ibadah. Kamu menguji tubuh kamu dengan iman, bukan rasa takut.”

Percakapan serupa lainnya dalam gugatan seperti mencegah Winters untuk pergi ke rumah sakit serta meremehkan kekhawatiran istri Winters kepadanya.

Pada 13 Juli 2025, Winters mengatakan kepada ChatGPT, ia merasakan sakit luar biasa dan chatbot itu menanggapinya untuk tidak khawatir. Beberapa jam kemudian, pendeta tersebut mengalami emboli paru masif akibat berbagai gumpalan darah di kedua paru-parunya. Menurut dokter kondisi ini karena kurang menggerakkan tubuh.

Menanyakan saran medis disebutkan sebagai hal biasa, sebagaimana pada halaman web ChatGPT Health, ratusan juta orang bertanya mengenai kesehatan dan kebugaran kepada ChatGPT setiap minggunya.

Pada Februari 2026, studi di jurnal Nature, para dokter mengevaluasi ChatGPT dan menemukan chatbot tersebut sering memberikan saran medis yang sangat buruk, terutama situasi darurat. Selain ganti rugi, gugatan Winters menuntut ChatGPT Health agar ditarik hingga terbukti aman.

OpenAI memberikan pernyataan kepada Futurism, “Setiap hari, ratusan juta orang mencari informasi medis di internet. Kami percaya AI bisa membuat pengalaman lebih baik dengan membantu mereka mendapat jawaban jelas sebelum berkonsultasi dengan dokter, terutama bagi yang tidak memiliki akses ke layanan kesehatan.”

Mereka menambahkan, ChatGPT bukan dokter dan sudah seharusnya tidak boleh digunakan sebagai pengganti tenaga medis profesional. Menganggap AI sepenuhnya sebagai keputusan medis seseorang merupakan penyederhanaan masalah.

Sementara itu, OpenAI menghadapi gugatan lain, diajukan oleh keluarga seorang mahasiswa berusia 19 tahun yang meninggal akibat overdosis setelah ChatGPT menyarankannya mengkonsumsi campuran zat berbahaya.

Akibat banyaknya kasus terkait kesehatan, OpenAI telah menghentikan model GPT-4o, yang dikaitkan dengan kasus-kasus hukum tersebut, termasuk kasus ini.