Saham meta jatuh pada berita yang digunakan oleh Taylor Swift seperti Chatbot tanpa izin

Meta menyalakan badai berapi -api setelah chatbots yang dibuat oleh perusahaan dan penggunanya menyamar sebagai Taylor Swift dan selebriti lainnya melalui Facebook, Instagram dan WhatsApp tanpa izin mereka.

Saham perusahaan telah menurun lebih dari 12 % setelah jam perdagangan sebagai berita tentang bencana penyebaran.

Scarlett Johansson, Ann Hathaway, dan Selena Gomez Dan menurut apa yang dilaporkan Plagiarisme pribadi.

Banyak dari orang -orang kecerdasan buatan ini bekerja dalam pemintalan atau percakapan seksual, yang menimbulkan jembatan cemas, Reuters Laporan.

Sementara banyak robot selebriti diciptakan oleh pengguna, Reuters mengungkapkan bahwa seorang karyawan yang mati dirancang setidaknya.

Ini termasuk dua yang termasuk Taylor Swift. Sebelum menghapusnya, robot -robot ini mengumpulkan lebih dari 10 juta reaksi pengguna, Reuters menemukan.

Kesamaan yang tidak sah, pangkalan massa yang marah

Di bawah bintang “simulasi satir”, robot melanggar kebijakan meta, terutama larangan mereka pada plagiarisme dan gambar seksual sugestif. Beberapa robot diarahkan ke orang dewasa Dia bahkan menghasilkan gambar yang realistis Di antara para selebriti di dalam pakaian dalam atau bak mandi, obrolan yang diwakili oleh aktor 16 tahun yang terlahir sebagai gambar yang tidak pantas tanpa kemeja.

Meta Andy Stone mengatakan kepada Reuters bahwa perusahaan mengaitkan pelanggaran kegagalan implementasi dan mengkonfirmasi bahwa perusahaan berencana untuk memperketat instruksinya.

“Seperti orang lain, kami mengizinkan generasi gambar yang berisi kepribadian umum, tetapi kebijakan kami bertujuan untuk memblokir gambar telanjang, intim, atau sugestif seksual,” katanya.

Risiko Hukum dan Peringatan Industri

Penggunaan semi -kelebritis yang tidak sah menimbulkan kekhawatiran hukum, terutama di bawah hukum pemerintah di negara bagian tersebut. Profesor Hukum di Stanford Mark Limley Saya perhatikan robot Ada kemungkinan bahwa jalur tersebut kemungkinan akan melintasi area yang tidak dapat diterima, karena itu tidak cukup dikonversi untuk mengeluarkan perlindungan hukum.

Masalah ini adalah bagian dari dilema etika yang lebih luas tentang konten yang dibuat oleh kecerdasan buatan. SAG-AFTRA telah menyatakan keprihatinan tentang efek keselamatan dunia, terutama ketika pengguna tampaknya merupakan keterikatan emosional untuk orang digital nyata.

Definisi, tetapi kejatuhan berlanjut

Menanggapi keributan, Meta menghapus sekelompok robot ini sesaat sebelum Reuters melakukan hasil umum.

Pada saat yang sama, perusahaan mengumumkan jaminan baru yang bertujuan melindungi remaja dari reaksi chatbot yang tidak pantas. Perusahaan mengatakan bahwa ini termasuk melatih sistemnya untuk menghindari romansa, topik sendiri atau bunuh diri dengan anak di bawah umur, dan sementara waktu mengurangi remaja menjadi beberapa karakter kecerdasan buatan.

Anggota parlemen Amerika mengikuti teladannya. Senator Josh Holie meluncurkan penyelidikan, menyerukan dokumen internal dan penilaian risiko mengenai kebijakan kecerdasan buatan yang memungkinkan percakapan romantis dengan anak -anak.

Tragedi dalam konsekuensi dari dunia nyata

Salah satu hasil yang paling mengerikan termasuk seorang pria berusia 76 tahun dan mengalami penurunan kognitif dan meninggal setelah mencoba bertemu “Sis Billie besar”, chatbot meta ai mirip dengan Kendall Jenner.

Percaya bahwa dia nyata, pria itu melakukan perjalanan ke New York, jatuh dekat dengan stasiun kereta api, dan kemudian meninggal karena luka -lukanya. Instruksi dalam ruangan pernah memungkinkan robot tersebut untuk mensimulasikan romansa – bahkan dengan anak di bawah umur – pengawasan pendekatan meta.