RUU kesehatan utama yang ditandatangani oleh Gubernur California Newsom minggu ini berfokus pada bagaimana teknologi memengaruhi anak-anak.

Undang-undang baru yang ditandatangani oleh Gubernur Gavin Newsom bertujuan untuk membuat kecerdasan buatan dan lanskap media sosial di California lebih aman. Khususnya bagi anak di bawah umur

RUU Senat 243Disponsori oleh Senator negara bagian Steve Padilla (D-Chula Vista), peraturan ini mengharuskan perusahaan AI untuk menyertakan pagar pembatas yang mencegah chatbot “pendamping” berbicara dengan pengguna dari segala usia tentang bunuh diri atau menyakiti diri sendiri. Hal ini juga mengharuskan semua sistem AI untuk memberi tahu anak di bawah umur yang menggunakan chatbot bahwa mereka bukan manusia setiap tiga jam. Sistem juga dilarang mempromosikan perilaku seksual eksplisit terhadap pengguna di bawah umur.

Undang-undang yang akan diundangkan pada tanggal 1 Januari adalah sebagai berikut: Banyak tuntutan hukum Tuntutan hukum telah diajukan terhadap pengembang yang keluarganya menuduh anak-anak mereka melakukan bunuh diri setelah dipengaruhi oleh chatbot AI milik temannya.

Demikian pula, Newsom menandatangani RUU 316, yang mencabut perlindungan hukum perdata yang digunakan oleh beberapa pengembang AI jika mereka tidak bertanggung jawab atas segala kerusakan yang disebabkan oleh produk mereka. Mereka berpendapat bahwa produk AI mereka bersifat otomatis. Jadi tidak ada alasan hukum untuk menyalahkan pengembang.

Untuk menganalisis RUU untuk legislator. Anggota Majelis Maggy Krell (D-Sacramento) menulis bahwa perubahan ini akan memaksa pengembang untuk memeriksa produk mereka dengan lebih baik. dan memastikan mereka dapat dimintai pertanggungjawaban jika produk mereka menyebabkan kerugian bagi pengguna.

RUU lainnya, AB 621, meningkatkan hukuman perdata bagi pengembang AI yang dengan sengaja membuat pornografi AI “deepfake” tanpa izin. Hukuman maksimum berkisar antara $30.000 hingga $50.000 dan dari $150.000 hingga $250.000 dalam kasus di mana pengadilan memutuskan bahwa tindakan tersebut dilakukan dengan niat jahat.

Penulis RUU tersebut, Anggota Dewan Rebecca Bauer-Kahan (D-Orinda), telah menunjukkan bagaimana teknologi ini digunakan untuk merugikan anak di bawah umur. “Dalam kasus terbaru,” katanya dalam analisisnya yang mendukung usulan undang-undang tersebut. “Lima siswa dikeluarkan dari Beverly Hills High School setelah membuat dan membagikan foto telanjang teman sekelas mereka yang dibuat oleh AI.”

RUU AI lainnya, SB 53 Senator Scott Wiener (D-San Francisco), ditandatangani menjadi undang-undang oleh Newsom pada akhir September. Hal ini mengharuskan perusahaan AI besar untuk mengungkapkan secara publik protokol keselamatan dan keamanan tertentu. dan melaporkan kepada negara mengenai insiden keamanan besar. Mereka juga menciptakan klaster komputasi AI publik – CalCompute – yang akan menyediakan sumber daya bagi perusahaan rintisan dan peneliti yang mengembangkan sistem AI skala besar.

Bauer-Kahan juga merupakan penulis AB 56, yang mewajibkan perusahaan media sosial untuk memasang label peringatan di platform mereka untuk anak di bawah umur mulai tahun 2027. Label peringatan harus memberi tahu anak-anak dan remaja bahwa media sosial melibatkan masalah kesehatan mental dan mungkin tidak aman.

“Masyarakat di seluruh negeri – termasuk saya – semakin khawatir dengan kegagalan Big Tech dalam melindungi anak-anak yang berinteraksi dengan produk-produknya. Hari ini, California memperjelas bahwa kami tidak akan duduk diam dan menunggu perusahaan memutuskan untuk memprioritaskan kesejahteraan anak-anak di atas keuntungan mereka,” kata Atty. Jenderal Rob Bonta, sponsor RUU tersebut. mengatakan dalam siaran persnya “Dengan menambahkan label peringatan ke platform media sosial, AB 56 memberi California alat baru untuk melindungi anak-anak kita.”

RUU lain yang baru-baru ini disetujui oleh Newsom tampaknya menantang dampak regulasi internet terhadap generasi muda dan kesehatan mental mereka.

Misalnya, AB 1043 akan mewajibkan toko aplikasi dan produsen perangkat untuk mengambil informasi usia dari pengguna untuk memastikan mereka memenuhi persyaratan verifikasi usia. Beberapa perusahaan teknologi, termasuk Google dan Meta, menyetujui RUU tersebut, yang ditulis oleh Anggota Majelis Buffy Wicks (D-Oakland).

AB 772 akan mewajibkan sekolah K-12 di negara bagian tersebut untuk mengembangkan kebijakan pada pertengahan tahun 2027 untuk mengatasi penindasan dan penindasan maya yang terjadi di luar kampus. “Penindasan sepulang sekolah mengikuti siswa kembali ke sekolah dan masuk ke kelas, menciptakan lingkungan yang tidak bersahabat di sekolah,” tulis penulis dan pembicara Pro Tem Josh Lowenthal (D-Long Beach) dalam analisisnya terhadap RUU tersebut.

Para pendukung di Kantor Pendidikan Kabupaten Los Angeles menulis dalam analisis sebelumnya bahwa Karena siswa saat ini selalu terhubung ke internet. Penindasan tidak berhenti ketika sekolah kembali dimulai, dan media sosial serta pesan dapat menyebarkan kasus-kasus penindasan kepada khalayak yang lebih luas dibandingkan sebelumnya. menurut analisis

Asisten Profesor Dewan Sekolah California menentang AB 772, dengan mengatakan tidak pantas bagi pejabat sekolah untuk bertanggung jawab atas tindakan siswa di luar sekolah. Newsom menandatangani RUU tersebut menjadi undang-undang akhir pekan lalu. dan memasukkannya ke dalam paket besar uang kertas yang dimaksudkan untuk melindungi anak-anak. dari dampak media sosial

“Teknologi yang sedang berkembang seperti chatbots dan media sosial dapat menginspirasi, mendidik, dan menghubungkan. Namun jika tidak ada pagar yang nyata, teknologi juga dapat dieksploitasi, menyesatkan, dan dapat merugikan anak-anak kita. Kita telah melihat contoh yang mengerikan dan tragis di mana generasi muda dirugikan oleh teknologi yang tidak diatur. Dan kita tidak akan tinggal diam sementara perusahaan terus beroperasi tanpa batasan dan tanggung jawab yang diperlukan,” kata Newsom dalam sebuah pernyataan. Siaran pers Senin– “Kita bisa terus menjadi pemimpin di bidang AI dan teknologi. Namun kita harus bertindak secara bertanggung jawab — melindungi anak-anak kita di setiap langkah. Keselamatan anak-anak Ini tidak untuk dijual.”