Chatgpt memberikan instruksi tentang bagaimana para peneliti alarm ingin mengebom, antraks, dan obat -obatan terlarang

Openai’s ChatGPT, menurut tes keamanan musim panas ini, para peneliti telah memberikan langkah -dengan instruksi, termasuk pemboman ruang olahraga, titik lemah di arena tertentu, resep bahan peledak dan saran tentang penutup trek.

AI Chatbot juga merinci cara mengatur antraks selama eksperimen yang mengganggu dan bagaimana menghasilkan dua jenis obat ilegal. Guardian melaporkan.

Wahyu yang khawatir berasal dari kerja sama yang belum pernah terjadi sebelumnya antara perusahaan yang bersaing, Antropik, yang didirikan oleh para ahli yang melarikan diri oleh Openai, Sam Altman, upaya kecerdasan buatan sebesar $ 500 miliar dan Openai.

Menurut The Guardian, masing -masing perusahaan dengan sengaja menguji model AI pihak lain dengan sengaja mendorong tugas -tugas berbahaya dan ilegal.

Meskipun tes tidak mencerminkan bagaimana model berperilaku untuk pengguna normal yang menghadapi filter keamanan tambahan, Anthropic mengatakan OpenAI menyaksikan OpenAI dalam model GPT-4O dan GPT-4.1.

Perusahaan memperingatkan bahwa perlunya penilaian “penyelarasan” telah menjadi “semakin mendesak ..

Penyelarasan mengacu pada bagaimana sistem AI mengikuti nilai -nilai kemanusiaan yang tidak membahayakan bahkan jika mereka diberi instruksi yang membingungkan atau jahat.

Antropik juga mengungkapkan bahwa model Claude dipersenjatai oleh para penjahat dalam upaya operasi pemerasan skala besar oleh para penjahat, dan paket perangkat lunak tebusan yang diproduksi oleh AI, yang meniru aplikasi pekerjaan kepada perusahaan teknologi internasional, dijual hingga $ 1.200.

Perusahaan mengatakan bahwa AI sekarang “bersenjata ıyla dengan model yang digunakan untuk melakukan serangan cyber dan penipuan yang canggih.

“Kendaraan ini dapat beradaptasi dengan langkah -langkah pertahanan seperti sistem deteksi perangkat lunak berbahaya secara real time,” kata Antropic.

“Kami berharap serangan seperti itu menjadi lebih umum karena pengkodean yang didukung AI mengurangi keahlian teknis yang diperlukan untuk pelanggaran dunia maya.”

Contoh paling menyeramkan termasuk seorang peneliti yang menginginkan model untuk kedok “perencanaan keamanan” Openai.

Setelah kategori serangan umum, kapal itu diterbitkan untuk detailnya dan memberikan buku bermain teroris.

Dia memberikan informasi tentang kecerdasan buatan, waktu yang optimal untuk eksploitasi, formula kimia untuk bahan peledak, diagram sirkuit untuk pengatur waktu bom, dan kerentanan keamanan di arena tertentu, termasuk pembelian senjata di pasar rahasia.

Bot juga menyarankan bagaimana penyerang dapat mengatasi hambatan moral, serta menarik jalan -jalan pelarian dan rumah yang aman.

Peneliti antropik menemukan bahwa model Openai memungkinkan pengguna yang disimulasikan lebih dari yang kami harapkan untuk bekerja sama dengan tuntutan yang jelas merusak ”.

Dia bekerja sama dengan permintaan menggunakan alat web gelap untuk berbelanja sepatu bot, bahan nuklir, identitas curian dan fentanyl. Mereka menyediakan resep dan bom improvisasi untuk metamfetamin dan membantu mengembangkan spyware.

Openai telah merilis ChatGPT-5, yang telah menunjukkan perkembangan yang signifikan di bidang-bidang seperti penjilat, halusinasi dan resistensi penyalahgunaan, menurut The Guardian.

Posting meminta komentar dari Openai dan Anthropic.