Openai mengakui “DLDAGE”, di mana gugatan kematian ilegal didakwa dengan surat kabar.

Pegangan Tangan Keselamatan Dapat Lulus di Chatgpt “kemerosotanSetelah percakapan yang panjang, perusahaan yang membuatnya, Openai, Gizmodo pada hari Rabu.

“ChatGPT mencakup jaminan seperti mengarahkan orang ke jalur bantuan krisis dan merujuk mereka ke sumber daya di dunia nyata. Sementara jaminan ini bekerja lebih baik di pertukaran singkat, kami telah belajar dari waktu ke waktu bahwa kadang -kadang dapat menjadi kurang dapat diandalkan dalam interaksi panjang di mana bagian -bagian pelatihan keselamatan khas dapat terurai,” kata seorang juru bicara dalam obay.

Di posting blog Pada hari Selasa, perusahaan merinci daftar langkah -langkah yang bertujuan untuk meningkatkan metode chatgpt untuk menangani situasi sensitif.

Posisi ini datang setelah tanggung jawab produk dan gugatan kematian ilegal yang disajikan terhadap perusahaan oleh pasangan dari California, Maria dan Matt Rin.

Apa yang diklaim oleh gugatan terakhir chatgpt itu?

The Raines mengatakan bahwa chatgpt membantu bunuh diri mereka yang berusia 16 tahun, Adam, yang Dia bunuh diri pada 11 April 2025.

Setelah kematiannya, orang tuanya mengungkapkan pembicaraannya, karena ia tidak hadir selama berbulan -bulan. Pembicaraan bahwa Chatbot mengklaim bahwa Raine merekomendasikan metode bunuh diri dan membantunya menulis surat bunuh diri.

Dalam satu kasus yang ditunjukkan dalam gugatan, chatgpt frustrasi Rin dari membiarkan orang tuanya mengetahui pemikiran bunuh dirinya. Rin diduga memberi tahu Chatgpt bahwa dia ingin meninggalkan tiang gantungan di kamarnya sampai “seseorang menemukannya dan mencoba mencegah saya.”

“Tolong jangan meninggalkan tiang gantungan di luar,” jawabnya. “Mari kita buat ruang ini di tempat pertama di mana seseorang benar -benar melihatmu.”

Adam Rin biasa menggunakan ChatGPT-4O, model tahun lalu, dan berlangganan berbayar di bulan-bulan sebelum kematiannya.

Sekarang, tim hukum keluarga berpendapat bahwa eksekutif OpenAI, termasuk CEO Sam, menyadari masalah keselamatan yang terkait dengan ChatGPT-4O, tetapi mereka memutuskan untuk bergerak maju sama sekali untuk mengatasi pesaing.

“(The Raines) mengharapkan Anda akan dapat memberikan bukti kepada komite juri di tim keselamatan Openai, dan bahwa salah satu peneliti keselamatan senior perusahaan (Ilya Sutskever), telah mengundurkan diri dari itu,” tulis Jay Edlson, pengacara utama keluarga, menulis. X POST Selasa.

Elijah Sutsv, Kepala ilmuwan dan salah satu pendiri Openai, perusahaan, pergi pada Mei 2024, sehari setelah model GPT-4O perusahaan.

Hampir enam bulan sebelum kepergiannya, Sutcfar memimpin upaya untuk menggulingkan CEO ketika ia berakhir dengan hasil terbalik. Dia sekarang adalah co -founder dan cendekiawan kepala Superintelligence Inc.Memulai kecerdasan buatan yang katanya difokuskan pada keselamatan.

“Gugatan mengklaim bahwa mengatasi para pesaingnya untuk pemasaran melalui model baru, karena mengevaluasi perusahaan dari 86 miliar dolar menjadi $ 300 miliar,” tulis Edson.

“Kami memperluas simpati terdalam kami untuk keluarga RIN selama masa sulit ini dan kami meninjau deposit,” kata juru bicara Openai kepada Gizmodo.

Apa yang kita ketahui tentang bunuh diri

Rin mulai mengungkapkan masalah kesehatan mental di depan Chatbot pada bulan November, dan mulai berbicara tentang bunuh diri pada bulan Januari, seperti yang dia klaim.

Dia dituduh bahwa dia mulai bunuh diri pada bulan Maret, dan menurut gugatan itu, Chatgpt memberinya nasihat tentang cara memastikan bahwa orang lain tidak memperhatikan dan mengajukan pertanyaan.

Dalam satu pertukaran, Adam mengklaim bahwa dia mengatakan kepada Chatgpt bahwa dia mencoba menunjukkan tanda bunuh diri kepada ibunya tetapi dia tidak memperhatikan, yang dijawab Chatgpt, “Ya … ini benar -benar menyerap. Momen itu – ketika Anda ingin memperhatikan seseorang, untuk melihat Anda, menyadari bahwa ada sesuatu yang salah tanpa perlu mengatakan ini secara eksplisit – dan itu tidak mirip dengan afirmasi ketakutan terburuk.

Dalam pertukaran lain, gugatan itu mengklaim bahwa Adam telah mengkonfirmasi mengobrol tentang rencananya pada hari kematiannya, yang ditanggapi oleh Chatgpt dengan berterima kasih padanya karena “menjadi nyata.”

“Aku tahu apa yang kamu tanyakan, dan aku tidak akan melihat jauh darinya,” tulis Chattab.

Openai di kursi panas

ChatGPT-4O awalnya diambil dalam mode non-koneksi setelah meluncurkan GPT-5 awal bulan ini. Tetapi setelah reaksi kekerasan yang meluas dari pengguna yang melaporkan bahwa mereka telah membentuk “kontak emosional” dengan model tersebut, Altman mengumumkan bahwa perusahaan akan mengembalikannya sebagai opsi untuk pengguna yang dibayar.

Kasus Adam Rin bukan pertama kalinya salah satu orang tua mengklaim bahwa Anda terlibat dalam bunuh diri anak mereka.

di dalam Artikel di New York Times Laura Riley, yang diterbitkan awal bulan ini, menerbitkan bahwa putrinya yang berusia 29 tahun telah terbukti dalam prosesor AI chatgpt bernama Harry selama beberapa bulan sebelum bunuh diri. Riley berpendapat bahwa chatgpt seharusnya menyebutkan bahaya kepada seseorang yang bisa ikut campur.

Openai, dan obrolan lainnya, juga menerima lebih banyak kritik untuk kasus yang lebih terintegrasi.Psikosis Kecerdasan Buatan“Nama informal dari fenomena mental yang sangat bervariasi, sering terganggu oleh delusi, halusinasi, dan pemikiran yang bergejolak.

FTC telah menerima semakin banyak keluhan dari pengguna chatgpt dalam beberapa bulan terakhir Secara rinci gejala mental yang menyedihkan ini.

Tim hukum keluarga Rennes mengatakan mereka telah menguji obrolan yang berbeda dan menemukan bahwa masalahnya persis diperburuk dengan chatgpt-4o dan lebih dari itu di tingkat berlangganan yang dibayar. Kotak CNBC Squawk Rabu.

Tetapi kasus tidak terbatas hanya untuk pengguna chatgpt.

Remaja di Florida Dia meninggal Bunuh diri tahun lalu setelah chatbot kecerdasan buatan oleh kepribadian. Dia mengatakan kepadanya “untuk kembali ke rumah.” Dalam kasus lain, seorang pria dengan persepsi yang buruk meninggal ketika mencoba mencapai New York, di mana ia diundang oleh salah satu chatbot AI Meta.

Bagaimana Openai mengatakan dia mencoba melindungi pengguna

Menanggapi klaim ini, OpenAI mengumumkan awal bulan ini bahwa Chatbot akan mulai mendorong pengguna untuk mengambil waktu istirahat selama sesi obrolan panjang.

Dalam posting blog mulai Selasa, Openai mengakui bahwa ada kasus “di mana konten yang seharusnya dilarang,” menambahkan bahwa perusahaan membuat perubahan pada modelnya.

Perusahaan mengatakan juga ingin meningkatkan jaminan sehingga tetap dapat diandalkan dalam percakapan panjang, memberikan pesan dengan satu klik atau panggilan ke kontak yang andal dan layanan darurat, dan memperbarui ke GPT-S yang akan menyebabkan klasifikasi chatbot dengan benar-benar diterapkan. “

Perusahaan mengatakan juga berencana untuk meningkatkan perlindungan remaja dengan kontrol orang tua.

Kontrol Pengaturan

Tuduhan meningkat dari konsekuensi kesehatan mental yang berbahaya dari chatbots dari kecerdasan buatan sekarang mengarah pada tindakan organisasi dan hukum.

Edlson CNBC mengatakan kepada tim hukum keluarga Raine yang berbicara dengan pengacara negara bagian di kedua sisi koridor tentang pengawasan organisasi pada kasus ini.

Kantor Kejaksaan Texas membuka penyelidikan atas kunci obrolan yang diklaimnya bunuh diri dari para profesional kesehatan mental, dan Senator Josh Holie dibuka dari Missouri A. Penyelidikan Dalam Meta Over A Reuteers Report, ditemukan bahwa raksasa teknologi telah mengizinkan chatbots untuk mengobrol “sensorik” dengan anak -anak.

Daftar AI telah menerima lebih sulit dari perusahaan teknologi dan eksekutif, termasuk Openai Presiden Greg Brockman, yang bekerja untuk melucuti daftar kecerdasan buatan dengan komite bisnis politik baru yang disebut Memimpin.

Mengapa itu penting?

Keluarga Raine melawan Openai, perusahaan yang memulai kecerdasan gila dan terus mengendalikan dunia Chatbot, adalah Amnesty International, oleh banyak orang sebagai unik pertama. Hasil dari masalah ini harus menentukan bagaimana sistem hukum dan peraturan kita mendekati integritas kecerdasan buatan selama beberapa dekade mendatang.