Setelah AI tiba

Ketika itu dilaporkan bulan lalu, Claude berasal dari Antarbur Menggunakan pemerasan dan teknik konservasi diri lainnya Untuk menghindari penutupan, lonceng alarm keluar di komunitas kecerdasan buatan.

Peneliti antropor mengatakan bahwa membuat model salah paham (“ketidakseimbangan” dalam bahasa industri) adalah bagian dari membuatnya lebih aman. Namun, cincin Claude menimbulkan pertanyaan: apakah ada cara untuk menghentikan pengoperasian kecerdasan buatan begitu mereka melebihi ambang batas menjadi lebih cerdas daripada manusia, atau pembatalan yang sangat baik?

AI, dengan pusat data yang luas dan kemampuan mereka untuk merumuskan percakapan yang kompleks, sudah melebihi titik kegagalan material atau “kunci membunuh” – gagasan bahwa itu dapat dipisahkan sebagai cara untuk mencegahnya dari memiliki kekuatan apa pun.

Kekuatan yang akan menjadi lebih penting, menurut seorang pria yang dianggap sebagai “ayah baptis kecerdasan buatan”, adalah kekuatan persuasi. Ketika teknologi ini mencapai titik tertentu, kita perlu meyakinkan kecerdasan buatan bahwa minatnya adalah untuk melindungi kemanusiaan, sambil menjaga kemampuan kecerdasan buatan untuk membujuk orang lain.

“Jika menjadi lebih cerdas dari kita, itu akan jauh lebih baik daripada siapa pun untuk membujuk kita. Jika itu tidak memegang kendali, yang harus dilakukan hanyalah persuasi,” kata Toronto Jeffrey Hunton, yang bekerja di Google otak sampai tahun 2023.

“Trump tidak menyerang Capitol, tetapi dia meyakinkan orang untuk melakukan ini,” kata Hinton. “Pada titik tertentu, masalah menjadi kurang tentang menemukan kunci pembunuhan dan lebih dari kekuatan persuasi.”

Hinton mengatakan bahwa persuasi dengan keterampilan akan semakin terampil dalam penggunaannya, dan kemanusiaan mungkin tidak siap untuk itu. “Kami terbiasa menjadi hal yang paling cerdas,” katanya.

Hinton menggambarkan sebuah skenario di mana manusia setara dengan anak tiga tahun dalam pembibitan, dan kunci besar sedang berjalan. Tiga tahun -yang sudah lama menyuruh Anda mematikannya, tetapi kemudian orang dewasa datang dan memberi tahu Anda bahwa Anda tidak perlu mengambil brokoli lagi jika Anda meninggalkan kunci.

“Kita harus menghadapi fakta bahwa kecerdasan buatan akan menjadi lebih cerdas dari kita,” katanya. Dia menambahkan: “Satu -satunya harapan kita adalah membuat mereka tidak ingin menyakiti kita. Jika mereka ingin melakukan kita, kita telah menyelesaikannya. Kita harus membuatnya baik, dan inilah yang harus kita fokuskan.”

Ada beberapa kesamaan dengan bagaimana negara -negara dikumpulkan untuk mengelola senjata nuklir yang dapat diterapkan pada kecerdasan buatan, tetapi mereka tidak sempurna. “Senjata nuklir hanya baik untuk menghancurkan banyak hal. Tapi Amnesty International tidak seperti ini, itu bisa menjadi kekuatan yang luar biasa untuk kebaikan dan buruk,” kata Hinton. Kemampuannya untuk menganalisis data di bidang -bidang seperti perawatan kesehatan dan pendidikan bisa sangat berguna, yang menurutnya harus meningkatkan fokus di antara para pemimpin dunia tentang kerja sama untuk membuat amnesty internasional amal dan menempatkan jaminan di tempat.

“Kami tidak tahu apakah itu mungkin, tetapi akan menyedihkan jika umat manusia punah karena kami tidak repot -repot mengetahuinya,” kata Hinton. Dia percaya bahwa ada kesempatan pengamatan 10 % hingga 20 % untuk mengambil kecerdasan buatan jika manusia tidak dapat menemukan cara untuk membuatnya baik.

Para ahli mengatakan jaminan kecerdasan buatan lainnya dapat diimplementasikan, tetapi kecerdasan buatan juga akan mulai melatihnya. Dengan kata lain, setiap skala keselamatan diimplementasikan untuk data pelatihan untuk penipuan, mengonversi dinamika kontrol.

“Tindakan konstruksi dalam mekanisme penutupan mengajarkan sistem ini bagaimana menolaknya,” kata Dave Nag, pendiri agensi AI platform Querypal. Dalam hal ini, kecerdasan buatan berperilaku seperti virus yang berbalik melawan vaksin. “Ini seperti pengembangan Fast Forward,” kata Nag. “Kami tidak lagi mengelola alat negatif; kami bernegosiasi dengan entitas yang meredakan upaya kami untuk mengendalikan dan beradaptasi.”

Ada langkah -langkah yang lebih ekstrem yang disarankan untuk menghentikan kecerdasan buatan jika terjadi keadaan darurat. Misalnya, serangan pulsa elektromagnetik (EMP), yang mencakup penggunaan Radiasi elektromagnetik Untuk merusak perangkat elektronik dan sumber daya. Gagasan pemboman pusat data dan jaringan listrik juga telah dibahas secara teknis, tetapi pada saat ini paradoks praktis dan politik.

Di satu sisi, penghancuran terkoordinasi pusat data membutuhkan serangan simultan di lusinan negara, yang mana dari mereka dapat menolak dan mendapatkan fitur strategis yang sangat besar.

“Pemboman basis data adalah fiksi ilmiah yang hebat. Tetapi di dunia nyata, AI paling berbahaya akan berada di satu tempat-mereka akan ada di mana-mana dan di mana saja, berteriak dalam jalinan bisnis, politik dan sistem sosial. Ini adalah titik balik yang harus benar-benar kita bicarakan,” kata Aigor Tronov, pendukung AI at-ATLANTIX.

Bagaimana upaya untuk menghentikan kecerdasan buatan menghancurkan umat manusia

Krisis kemanusiaan yang akan berada di belakang upaya untuk menghentikan kecerdasan buatan sangat besar.

“Ledakan Emp Kontinental benar -benar akan menghentikan sistem kecerdasan buatan, bersama dengan semua sistem pernapasan industri rumah sakit, pabrik pengolahan air, dan obat -obatan yang dipadukan dalam jangkauannya,” kata Nag. “Bahkan jika kita dapat berkoordinasi di dunia dalam beberapa cara untuk menutup semua jaringan energi besok, kita menghadapi bencana kemanusiaan langsung: tidak ada makanan, tidak ada peralatan medis, dan sistem komunikasi.”

Sistem terdistribusi dengan pengulangan tidak hanya dibangun untuk menahan kegagalan alami; Mereka juga menolak penutupan yang disengaja juga. Setiap sistem cadangan dapat menjadi semua pengulangan yang dirancang untuk keandalan, menuju untuk melanjutkan dari kecerdasan buatan yang sangat baik yang sangat tergantung pada infrastruktur yang sama dengan kita. Kecerdasan buatan modern meluas ke ribuan server yang meluas ke benua, dengan sistem kegagalan otomatis yang membahas segala upaya untuk menutupnya sebagai jalan menuju jalan.

“Internet awalnya dirancang untuk bertahan hidup dalam perang nuklir, dan arsitektur ini sendiri sekarang berarti bahwa sistem yang luar biasa dapat berlanjut kecuali siap untuk menghancurkan infrastruktur peradaban,”

Peneliti antrofful optimis bahwa pekerjaan yang mereka lakukan saat ini – mendapatkan pemerasan di Claude dalam skenario yang dirancang khusus untuk melakukan ini – akan membantu mereka mencegah kecerdasan buatan mengambil keuntungan dari masa depan.

Kevin Troy, seorang peneliti yang memiliki Antarbur, mengatakan.

Benjamin Wright, antropier, Benjamin Wright, mengatakan tujuannya adalah untuk menghindari poin bahwa agen mengendalikan tanpa pengawasan manusia. “Jika Anda mencapai titik ini, manusia sudah kehilangan kendali, dan kami tidak boleh mencoba mencapai situasi ini,” katanya.

Tronov mengatakan bahwa kontrol kecerdasan buatan lebih dari sekadar upaya fisik. “Kami membutuhkan kunci pembunuhan bukan untuk kecerdasan buatan yang sama, tetapi untuk operasi komersial, jaringan, dan sistem yang memperkuat kedatangan mereka,” kata Tronov.

Saat ini, tidak ada model amnesti internasional-termasuk GPT Claude atau openai-has agen, niat atau presentasi diri dalam cara di mana organisme hidup melakukannya.

“” Sabotase “biasanya merupakan serangkaian perilaku yang kompleks di luar insentif menyelaraskan dengan buruk, instruksi yang tidak jelas, atau model transformasi yang berlebihan. Ini bukan lambung 9000.” “Ini lebih seperti peserta pelatihan yang berlebihan tanpa konteks apa pun dan mencapai simbol peluncuran nuklir,” tambahnya.

Mata Hinton di masa depan yang membantu menciptakannya dengan hati -hati. Dia mengatakan bahwa jika dia tidak menemukan blok bangunan kecerdasan buatan, orang lain akan mendapatkannya. Terlepas dari semua upaya yang dia lakukan dan bersumpah lain yang dia lakukan untuk memainkan apa yang mungkin terjadi dengan kecerdasan buatan, tidak ada cara untuk mengetahui dengan pasti.

“Tidak ada yang punya ide sedikit pun. Kami tidak pernah harus berurusan dengan hal -hal yang lebih cerdas dari kami,” kata Hinton.

Ketika ditanya apakah dia khawatir tentang masa depan yang penuh dengan masa depan yang mungkin dihadapi anak -anak sekolah dasar hari ini, dia menjawab: “Anak -anak saya berusia 34 dan 36 tahun, dan saya khawatir tentang masa depan mereka.”