Komite Perdagangan Federal (FTC) Kamis diumumkan Ini meluncurkan proses menanyakan di Chatbots AI (AI), yang membutuhkan informasi dari banyak perusahaan teknologi terkemuka tentang cara mengevaluasinya dan mengurangi kemungkinan kerusakan pada anak -anak.
Agensi mengirim pesan ke Alphabet, Instagram, Meta, Openai, OpenAi, XAI dan Teknologi, perusahaan di belakang karakter.
Pesan -pesan tersebut mencari informasi tentang bagaimana perusahaan perusahaan untuk memproses input pengguna dan membuat output, serta bagaimana memantau mereka dan menguranginya dari efek negatif pengguna, termasuk anak -anak, memberi tahu mereka tentang audiens yang dimaksud dan risiko produk mereka.
“Dengan pengembangan teknik kecerdasan buatan, penting untuk mempertimbangkan efek chatbots pada anak -anak, juga memastikan bahwa Amerika Serikat mempertahankan perannya sebagai pelopor global dalam industri baru dan menarik ini,” kata Andrew Ferguson, ketua komite perdagangan federal dalam sebuah pernyataan.
Dia menambahkan: “Studi yang kami luncurkan hari ini akan membantu kami lebih memahami bagaimana perusahaan kecerdasan buatan mengembangkan produk mereka dan langkah -langkah yang mereka ambil untuk melindungi anak -anak.”
Investigasi mengikuti kekhawatiran baru -baru ini tentang meta dan chatbots Openai. Dokumen Kebijakan Identifikasi Internal yang diterbitkan bulan lalu menunjukkan bahwa perusahaan menganggap bahwa mereka diizinkan untuk berpartisipasi dalam pembicaraan “romantis atau sensorik” dengan anak -anak.
Bahasa telah dihapus sejak saat itu, dan Meta telah mengumumkan perubahan dalam cara menangani pengguna Chatbot Teen, yang membatasi percakapan tentang harm, bunuh diri dan makan yang bergejolak, serta diskusi romantis yang tidak pantas.
Openai menghadapi gugatan chatbot, yang mengklaim bocah 16 tahun itu untuk mendorongnya mengambil kehidupan pribadinya. Perusahaan serupa AI telah mengumumkan bahwa mereka akan membuat penyesuaian untuk chatbots untuk mengarahkan kembali pembicaraan sensitif ke model tertentu dan mempromosikan perlindungan bagi remaja.
“Kebutuhan untuk pemahaman ini hanya akan tumbuh dari waktu ke waktu,” Mark Meador, Komisaris FTC, mengatakan dalam sebuah pernyataan pada hari Kamis. “Terlepas dari kemampuan aneh mereka untuk mensimulasikan persepsi manusia, obrolan ini adalah produk seperti orang lain, dan mereka yang mengizinkannya tersedia bertanggung jawab untuk kepatuhan terhadap undang -undang perlindungan konsumen.”
