Newsom menandatangani rancangan undang-undang yang mengatur chatbot bertenaga AI
Gubernur Kalifornia Gavin Newsom (tengah) menandatangani rancangan undang-undang pada hari Senin yang memberikan batasan baru mengenai bagaimana chatbot dengan kecerdasan buatan berinteraksi dengan anak-anak dan menangani masalah bunuh diri dan menyakiti diri sendiri.
SB 243, yang disetujui oleh Badan Legislatif negara bagian pada pertengahan September, akan mewajibkan pengembang “pendamping chatbot” untuk membuat protokol yang mencegah model mereka memproduksi konten tentang ide bunuh diri, bunuh diri, atau menyakiti diri sendiri dan mengarahkan pengguna ke layanan krisis jika diperlukan.
Hal ini juga mengharuskan chatbot untuk mengeluarkan pemberitahuan yang “jelas dan mencolok” bahwa mereka telah dibuat secara artifisial jika seseorang dapat disesatkan dan mengira bahwa mereka sedang berinteraksi dengan manusia lain.
Saat berinteraksi dengan anak-anak, chatbot harus mengeluarkan pengingat setiap tiga jam bahwa mereka bukan manusia. Pengembang juga diharuskan membuat sistem yang mencegah chatbot mereka memproduksi konten seksual eksplisit dalam percakapan dengan anak di bawah umur.
“Teknologi yang sedang berkembang seperti chatbots dan media sosial dapat menginspirasi, mendidik, dan menghubungkan – namun tanpa batasan yang nyata, teknologi juga dapat mengeksploitasi, menyesatkan, dan membahayakan anak-anak kita,” kata Newsom dalam sebuah pernyataan.
Dia menambahkan: “Kami telah melihat beberapa contoh yang sangat mengerikan dan tragis mengenai generasi muda yang dirugikan oleh teknologi yang tidak diatur, dan kami tidak akan berdiam diri sementara perusahaan terus berjalan tanpa batasan dan akuntabilitas yang diperlukan.” “Kita bisa terus memimpin dalam bidang AI dan teknologi, namun kita harus melakukannya secara bertanggung jawab – melindungi anak-anak kita di setiap langkah. Keselamatan anak-anak kita tidak untuk dijual.”
Keluarga seorang remaja California mengajukan gugatan terhadap OpenAI pada akhir Agustus, menuduh bahwa ChatGPT mendorong putra mereka yang berusia 16 tahun untuk bunuh diri. Sang ayah, Matthew Ren, memberikan kesaksian di hadapan komite Senat bulan lalu, bersama dengan orang tua lainnya yang menuduh chatbots mengarahkan anak-anak mereka untuk bunuh diri atau melukai diri sendiri.
Meningkatnya kekhawatiran tentang bagaimana chatbot bertenaga AI berinteraksi dengan anak-anak mendorong Komisi Perdagangan Federal (FTC) untuk melakukan penyelidikan terhadap masalah ini, dan meminta informasi dari beberapa perusahaan teknologi terkemuka.
Senator Josh Hawley (R-Mo.) dan Dick Durbin (D-Ill.) juga memperkenalkan undang-undang akhir bulan lalu yang akan mengklasifikasikan chatbot bertenaga AI sebagai produk untuk memungkinkan pengguna yang terkena dampak mengajukan klaim pertanggungjawaban.
Langkah California ini merupakan yang terbaru dari beberapa undang-undang terkait AI dan teknologi yang telah ditandatangani Newsom menjadi undang-undang pada sesi ini. Pada hari Senin, ia juga menyetujui langkah-langkah yang memerlukan label peringatan pada platform media sosial dan verifikasi usia melalui sistem operasi dan toko aplikasi.
Pada akhir September, ia juga menandatangani SB 53, yang mewajibkan model kecerdasan buatan yang canggih untuk menerapkan kerangka kerja yang merinci cara menilai dan memitigasi risiko bencana.
