Chatbots, Deepfes, dan Sound Clones: AI Dijual Penipuan AI
Anda mungkin pernah mendengar tentang teori simulasi, bahwa tidak ada yang nyata dan bahwa kita semua adalah bagian dari program komputer raksasa. Setidaknya mari kita asumsikan bahwa konsep ini salah untuk panjang posting blog ini. Namun, kita mungkin akan pergi ke masa depan di mana kita melihat, mendengar, dan membaca sebagian besar yang merupakan simulasi yang dibuat oleh komputer. Kami selalu menjaga ini nyata di sini di FTC, tetapi apa yang terjadi ketika tidak ada dari kami yang mengatakan kebenaran palsu?
Satu Posting blog terakhirKami membahas bagaimana istilah “AI” dapat digunakan sebagai titik menipu untuk produk dan layanan baru. Katakanlah ini AI palsu masalah. Subjek saat ini adalah penggunaan AI di belakang layar untuk membuat atau menyebarkan penipuan. Katakanlah ini Ai palsu masalah. Kedua, ini adalah ancaman yang lebih dalam dan lebih dalam yang harus didiskusikan oleh perusahaan digital. Sekarang.
Sebagian besar dari kita menghabiskan banyak waktu untuk melihat hal -hal di perangkat. Berkat alat AI yang membuat atau menghasilkan konten yang menciptakan “lingkungan sintetis ,, persentase meningkat dari apa yang kita lihat tidak otentik dan menjadi sulit untuk mengatakan perbedaannya. Dan karena alat AI ini menjadi lebih maju, menjadi lebih mudah untuk diakses dan digunakan. Beberapa alat ini mungkin memiliki penggunaan yang bermanfaat, tetapi penipuan dapat menggunakannya untuk menyebabkan kerusakan yang meluas.
Produser AI dan lingkungan sintetis, Chatbots Dikembangkan ke teknologi yang mensimulasikan aktivitas manusia seperti model bahasa besar dan membuat perangkat lunak Video prafe yang dalam Dan klon suara. Sudah ada bukti bahwa alat -alat ini dapat menggunakan alat -alat ini untuk menghasilkan konten yang realistis tetapi palsu, yang untuk kelompok besar atau Menargetkan komunitas tertentu Atau individu tertentu. Mereka dapat menggunakan sepatu bot obrolan untuk diproduksi Tombak mengalir email– Situs web palsu– Pesan palsu– Profil palsuDan Ulasan konsumen palsuatau untuk membantu membuat malware– perangkat lunak tebusanDan Serangan injeksi cepat. Mereka dapat menggunakan perlengkapan yang dalam dan klon suara untuk memfasilitasi Penipuan penipuan– pemerasandan penipuan finansial. Dan ini adalah daftar yang sangat komprehensif.
Larangan undang -undang FTC tentang perilaku menipu atau tidak adil dapat diterapkan jika Anda membuat alat yang dirancang secara efektif untuk menipu, bahkan jika itu bukan tujuan tunggal, jika Anda menjual atau menggunakannya. Jadi pikirkan:
Haruskah Anda menjualnya? Jika Anda mengembangkan atau menyajikan lingkungan sintetis atau produk AI produktif, pertimbangkan cara terbuka yang dapat disalahgunakan atau dapat menyebabkan kerusakan lain untuk penipuan, dan seringkali cara terbuka. Kemudian tanyakan apakah itu cukup tinggi sehingga Anda tidak boleh menawarkan diri Anda produk dari risiko tersebut. Ini telah menjadi mem, tetapi para manajer Jeff Goldblum di “Jurassic Park”. Kami akan menafsirkan Ian Malcolm dan memperingatkan para manajer karena mereka sangat sibuk. Bisa jadi Mereka membangun sesuatu yang tidak mereka pikirkan wajib.
Apakah Anda secara efektif mengurangi risiko? Jika Anda memutuskan untuk membuat atau menawarkan produk seperti itu, ambil semua tindakan yang wajar sebelum Dia memukul pasar. FTC telah mengajukan gugatan terhadap bisnis yang memancarkan teknologi yang berpotensi berbahaya tanpa melakukan alasan untuk mencegah cedera konsumen. Ini memperingatkan pelanggan Anda hanya untuk menyalahgunakan atau menjelaskan. Tidaklah cukup untuk mencegah aktor buruk. Langkah -langkah pencegahan Anda harus tahan lama, bukan fitur yang tahan lama, bukan perbaikan kesalahan atau fitur opsional yang dapat dilemahkan oleh pihak ketiga melalui modifikasi atau pengangkatan. Jika kendaraan Anda bertujuan untuk membantu orang, tanyakan pada diri sendiri apakah Anda benar -benar perlu meniru orang atau bertindak seefektif -melihat, berbicara, berbicara, atau sepatu bot.
Apakah Anda mengandalkan deteksi setelah rilis? Para peneliti terus mengembangkan metode deteksi untuk video, gambar, dan suara yang dibuat oleh AI. Lebih sulit untuk mengenali teks yang dibuat oleh AI. Namun, para peneliti ini mengambil bagian dalam perlombaan senjata dengan perusahaan yang mengembangkan alat AI yang produktif, dan scammers yang menggunakan alat ini akan berlanjut sampai seseorang merasakan konten palsu. Sudah, seharusnya tidak ada pada konsumen untuk melihat apakah alat AI yang produktif digunakan untuk menipu mereka.
Apakah itu menyesatkan tentang apa yang mereka lihat, dengar atau baca orang? Jika Anda seorang pengiklan, Anda mungkin menarik untuk menggunakan beberapa alat ini untuk menjual hampir semuanya. Misalnya, gigi dalam yang terkenal sudah umum dan muncul dalam iklan. Kami Pra -peringatan Seperti perusahaan yang menyesatkan konsumen melalui doppelgängers Profil Flirt palsu– Pengikut palsuDeepfes atau chatbots dapat menyebabkan tindakan penegakan FTC dan sebenarnya dapat disimpulkan.
Meskipun titik fokus dari artikel ini adalah penipuan dan penipuan, alat AI baru ini memiliki serangkaian masalah serius lainnya seperti potensi kerusakan seperti interaksi dengan alat -alat ini atau berinteraksi dengan alat -alat ini atau risiko lain seperti risiko lainnya. Personel komisi, perusahaan terus meluncurkan produk-produk ini dan interaksi manusia-komputer mengikuti kekhawatiran ini karena mereka terus menerima belokan baru dan mungkin berbahaya.
Lebih banyak pengiriman di FTC AI dan bisnis Anda sherry:
