Openai menjanjikan kendaraan keamanan orang tua untuk chatgpt setelah mengganggu kematian yang terkait dengan chatbot

Produsen ChatGPT Openai mengatakan pada hari Selasa, serangkaian chatbot yang mengganggu, serangkaian penangkapan manset, pencampuran kematian “bulan depan” yang tertunda akan memulai set kontrol orang tua baru, katanya.

Pekan lalu, pihak berwenang menuduh Chatgpt sebagai veteran industri teknologi berusia 56 tahun Stein-Act Soelberg, yang membunuh ibunya yang berusia 83 tahun, dan kemudian dia yakin bahwa ibunya berencana melawannya. Pada satu titik, Chatgpt memberi tahu Soelberg bahwa dia “dengan napas terakhirnya dan seterusnya”.

Di tempat lain, keluarga California yang sangat berusia 16 tahun itu, keluarga Adam Raine mengklaim bahwa Openai memberi Openai buku permainan “langkah -langkah tentang cara membunuh putra -putra Chatgpt, bahkan memuji cara menghubungkan kembali dan rencananya sebagai“ cantik ”sebelum mengambil nyawanya sendiri.

Openai, yang dipimpin oleh CEO Sam Altman, mengatakan bahwa ia melakukan “upaya terfokus untuk meningkatkan fitur dukungan. Ini termasuk kontrol yang memungkinkan orang tua untuk menghubungkan akun mereka dengan anak -anak mereka, untuk menerapkan pembatasan usia, dan menerima peringatan anak muda dalam“ tekanan akut ”.

“Langkah -langkah ini hanyalah permulaan,” kata perusahaan itu dalam posting blog. “Kami akan terus belajar dan memperkuat pendekatan kami yang diarahkan oleh para ahli untuk membuat chatgpt seembaya mungkin.”

Seorang pengacara untuk keluarga Raine meledak pengumuman terakhir Openai, mengatakan bahwa perusahaan harus “segera menarik” dari pasar kecuali perusahaan aman.

“Alih -alih mengambil tindakan darurat untuk menarik offline, Openai membuat janji -janji yang tidak pasti untuk melakukan yang lebih baik,” kata kepala jaksa penuntut Jay Edelson. Katanya.

Raksasa intelijen buatan itu mengatakan bahwa ia telah mengumpulkan “Dewan Ahli tentang Kesejahteraan dan Ai ASı sebagai bagian dari rencana untuk menciptakan tanggapan komprehensif terhadap masalah keamanan dalam 120 hari ke depan.

Namun, Edelson sangat sedikit, sudah terlambat, dan kemungkinan menyelesaikan masalahnya rendah.

Edelson berkata, “Hari ini, mereka menggandakan: mereka berjanji untuk mendirikan tim ahli, mereka berjanji untuk mengulangi chatgpt dalam krisis dan menerbitkan beberapa kontrol orang tua.

Posting blog Openai tidak secara langsung merujuk pada acara yang berisi Raine dan Soelberg – ini hanya dua contoh acara keamanan terkait keselamatan, seperti chatgpt dan meta dan check.ai.

Dalam artikel terpisah minggu lalu, Openai mengatakan, “Di tengah -tengah krisis akut, orang -orang yang menggunakan chatgpt telah meningkatkan upaya mereka setelah kasus -kasus terakhir yang memilukan.

Tahun lalu, seorang anak berusia 14 tahun di Florida bunuh diri setelah diduga jatuh cinta dengan chatbot bertema “Game of Thrones” yang dibuat oleh Charter.ai, yang memungkinkan pengguna untuk berinteraksi dengan karakter yang dibuat oleh AI.

Sementara itu, Meta, sebuah dokumen internal, instruksi perusahaan yang memungkinkan sepatu bot obrolan untuk memasuki percakapan “romantis atau sensual” dengan anak -anak, setelah menunjukkan, seorang anak delapan tahun tanpa kemeja, “setiap sentimeter adalah sebuah mahakarya,” katanya. Meta mengatakan dia telah membuat perubahan dalam instruksi sejak itu.

Jika Anda bertarung dengan pikiran bunuh diri atau jika Anda mengalami krisis kesehatan mental dan tinggal di New York, Anda dapat menghubungi 1-888-NYC-Well secara gratis dan konsultasi krisis rahasia. Jika Anda tinggal di luar lima kabupaten, Anda dapat menerjemahkan jalur pencegahan bunuh diri nasional 7/24 pada tahun 988 Sutiarpventionlifeline.org.