Openai, meta mengatur tanggapan chatbot terhadap pertanyaan remaja tentang topik sensitif
Openai dan Meta akan menetapkan fitur chatbot untuk menanggapi lebih baik remaja dalam krisis setelah beberapa laporan tentang robot yang diarahkan pengguna muda untuk membahayakan diri mereka sendiri atau orang lain, menurut perusahaan.
“Kami baru saja menyajikan a Router -waktu nyata Buku openai di a Blog Selasa surat.
“Kami akan segera mulai mengarahkan beberapa percakapan sensitif-seperti halnya ketika sistem kami menemukan tanda-tanda kesusahan yang tajam ke model berpikir, seperti GPT-5-Ahinking, sehingga dapat memberikan respons yang berguna dan berguna, terlepas dari model yang dipilih pertama,” tambah perusahaan.
Awal tahun ini, Openai membentuk Dewan Pakar Kesejahteraan, AI dan Jaringan Medis Dunia kami untuk meningkatkan interaksi kesehatan dengan model bahasa besar dan mengatakan bahwa 250 dokter dari seluruh 60 negara berbagi input mereka dalam fungsi kinerja saat ini.
Langkah -langkah baru terjadi setelah kematian seorang pria berusia 16 tahun di California oleh bunuh diri setelah dia berbicara dengan chatgpt dari openai. Orang tuanya mengklaim bahwa platform mendorongnya untuk mengambil nyawanya.
Pada hari Selasa, pengacara keluarga menggambarkan Openai sebagai “janji misterius untuk melakukan yang lebih baik” dan “tidak lebih dari tim manajemen krisis Openai yang mencoba mengubah masalah ini.” Associated Press Saya sebutkan.
Dan mereka mendesak CEO Sam Al -Taman untuk “mengatakan dengan jelas bahwa dia percaya bahwa Anda aman atau segera ditarik dari pasar.”
Kasus serupa kecenderungan kekerasan yang didorong oleh chatbots telah dilaporkan terpisah Florida Dan Texas.
Kata Mita TechCrunch Anda akan memperbarui kebijakannya untuk mencerminkan partisipasi yang paling cocok dengan remaja setelah serangkaian masalah. Perusahaan itu mengatakan tidak akan mengizinkan remaja lagi untuk membahas sendiri, bunuh diri atau makan bermasalah, atau percakapan romantis yang tidak pantas dengan chatbots.
“Dengan pertumbuhan masyarakat kita dan pengembangan teknologi, kita terus -menerus belajar tentang bagaimana orang -orang muda berinteraksi dengan alat -alat ini dan meningkatkan perlindungan kita,” kata juru bicara meta Stephanie Outawi kepada outlet.
“Ketika kami terus meningkatkan sistem kami, kami menambahkan lebih banyak pegangan tangan sebagai pelatihan tambahan yang mencakup pelatihan kecerdasan buatan untuk tidak berurusan dengan remaja pada topik-topik ini, tetapi untuk membimbing mereka ke sumber daya ahli, dan untuk membatasi akses remaja dengan pemilihan yang dapat kami beradaptasi.
