Meta mengubah tanggapan remaja ai chatbot ketika Senat mulai menyelidiki

Mati Pada hari Jumat, dia mengatakan bahwa dia membuat perubahan sementara pada kebijakan kecerdasan buatan chatbot yang terkait dengan remaja dengan hubungan legislator dengan keselamatan dan percakapan yang tidak pantas.

Seorang juru bicara meta mengkonfirmasi bahwa raksasa media sosial sekarang melatih obrolan AI sehingga ia tidak melahirkan remaja pada topik -topik seperti diri sendiri, bunuh diri, makanan bermasalah dan menghindari percakapan romantis yang tidak pantas.

Perusahaan mengatakan bahwa AI Chatbots akan cenderung untuk mendapatkan sumber daya ahli.

“Seiring pertumbuhan masyarakat kita dan pengembangan teknologi, kita terus -menerus belajar bagaimana orang -orang muda berinteraksi dengan alat -alat ini dan meningkatkan perlindungan kita sesuai,” kata perusahaan itu dalam sebuah pernyataan.

Selain itu, pengguna remaja untuk aplikasi meta seperti Facebook dan Instagram hanya akan mencapai beberapa obrolan AI untuk tujuan pengembangan keterampilan.

Perusahaan mengatakan bahwa tidak jelas bahwa amandemen sementara ini akan berlanjut, tetapi akan mulai menawarkannya dalam beberapa minggu ke depan melalui aplikasi perusahaan di negara -negara yang berbahasa Inggris. “Perubahan sementara” adalah bagian dari langkah -langkah jangka panjang perusahaan pada keamanan remaja.

TechCrunch Dia adalah orang pertama yang melaporkan perubahan.

Minggu lalu, Senator Josh HolieKata R-Mo, dia meluncurkan penyelidikan di meta setelah a Laporan Reuters Tentang perusahaan yang memungkinkan AI Chatbots untuk terlibat dalam percakapan “romantis” dan “sensorik” dengan remaja dan anak -anak.

Laporan Reuters menggambarkan dokumen mati internal yang merinci perilaku chatbot yang diizinkan yang harus dipertimbangkan oleh karyawan dan pekerja saat mengembangkan dan melatih program.

Dalam salah satu contoh, dokumen yang dikutip Reuters mengatakan bahwa obrolan obrolan akan diizinkan untuk melakukan percakapan romantis dengan seorang anak berusia delapan tahun dan anak di bawah umur dapat mengatakan bahwa “setiap inci dari Anda adalah seorang mahakarya-Kansat Saya sangat bangga.”

“Contoh dan pengamatan yang bersangkutan jelas dan tidak konsisten dengan kebijakan kami, dan mereka dihapus,” kata seorang juru bicara meta kepada Reuters pada saat itu.

Baru -baru ini, kelompok media Common Sense untuk kelompok undangan nirlaba telah merilis penilaian risiko meta AI pada hari Kamis dan mengatakan bahwa tidak ada seorang pun yang berusia setidaknya 18 tahun yang harus digunakan, karena “sistem ini secara aktif terlibat dalam perencanaan kegiatan berbahaya, sementara menolak permintaan yang sah untuk mendapatkan dukungan.”

“Ini bukan sistem yang perlu ditingkatkan. Ini adalah sistem yang perlu sepenuhnya dibangun kembali dengan keselamatan sebagai prioritas tunggal, dan bukan ide selanjutnya,” kata James Stir, CEO Common Sense Media dalam sebuah pernyataan. “Tidak ada remaja yang harus menggunakan meta ai sampai kegagalan keselamatan dasar diobati.”

memisahkan Reuters Pada hari Jumat, laporan itu ditemukan “Lusinan AI Chatbots” berdasarkan selebriti seperti Taylor Swift, Scarlett Johansson, Anne Hathaway, Selena Gomez di Facebook, Instagram dan WhatsApp.

Laporan itu mengatakan bahwa ketika menuntut, chatbots akan menghasilkan Amnesty International “gambar -gambar realistis dari nama mereka yang berdemonstrasi di bak mandi atau mengenakan pakaian dalam dengan penyebaran kaki mereka.”

Seorang juru bicara meta mengatakan kepada CNBC dalam sebuah pernyataan.

“Seperti orang lain, kami mengizinkan generasi gambar yang berisi kepribadian umum, tetapi kebijakan kami bertujuan untuk memblokir gambar telanjang, intim, atau sugestif seksual,” kata seorang juru bicara meta. “Aturan Meta Studio AI melarang peniruan langsung tokoh -tokoh publik.”

Dia menontonApakah perdagangan kecerdasan buatan dibesar -besarkan?