Pendukung keselamatan anak online menyerukan California untuk memperkuat perlindungan

Sacramento— Julianna Arnold tidak was-was saat putri remajanya bergabung dengan Instagram untuk pertama kalinya.

Banyak orang seusianya yang menggunakannya. Dan putrinya, Coco, memiliki kehidupan sosial dan hobi lainnya, termasuk lari dan senam. Untuk menciptakan keseimbangan antara waktu online

“Itu adalah video lagu dan tarian. Dan sepertinya tidak bersalah,” kata Arnold, yang tinggal di Los Angeles. dan menjelaskan bahwa dia akan memeriksa isi Koko.

Namun Arnold mengatakan seorang pria menggunakan Instagram untuk menargetkan putrinya ketika mereka tinggal di New York pada tahun 2022, mengirimkan pesan pribadi dan bertindak seperti “kakak perempuan” untuk mendapatkan kepercayaannya. Dua minggu setelah ulang tahunnya yang ke 17, Coco bertemu dengannya di dekat rumahnya dan Meninggal setelah menelan campuran fentanil Percocet palsu yang dia berikan padaku

Cerita serupa adalah Dimainkan di seluruh negeri Saat orang tua bergulat dengan cara melindungi anak-anak mereka dari berbagai ancaman online,

Karena negara bagian ini adalah rumah bagi banyak raksasa teknologi, Gubernur Gavin Newsom mengatakan California sedang membuka jalan bagi pembatasan hukum terhadap media sosial dan kecerdasan buatan. Meskipun para pendukung keselamatan anak sepakat bahwa kemajuan telah dicapai di ibu kota negara bagian pada tahun ini, mereka berpendapat bahwa jalan masih panjang dan berencana untuk memperjuangkan lebih banyak perlindungan ketika anggota parlemen berkumpul kembali pada bulan Januari.

“Menurut saya California jelas merupakan yang terdepan dalam hal ini,” kata Jai ​​Jaisimha, salah satu pendiri Koalisi Transparansi, sebuah organisasi nirlaba yang mempelajari risiko dan peluang terkait AI. “(Tetapi) saya ingin melihat kemauan untuk menjadi sedikit lebih kuat dalam memahami dampaknya dan bertindak lebih cepat. Kita tidak bisa menunggu tiga atau empat tahun – bahayanya sedang terjadi sekarang.”

Survei tahun lalu dari Pew Research Center Hampir ditemukan setengah Remaja Amerika berusia 13 hingga 17 tahun mengatakan bahwa mereka “Hampir selalu” mengakses internet. Sembilan dari 10 remaja mengatakan mereka menggunakan YouTube, dan sekitar enam dari 10 mengatakan mereka menggunakan TikTok dan Instagram. Lima puluh lima persen melaporkan menggunakan Snapchat.

Selama sesi legislatif terbaru, Newsom menandatangani undang-undang yang bertujuan untuk membuat internet lebih aman. Khususnya bagi anak di bawah umur

satu hukum baru Mewajibkan penyedia sistem operasi untuk menanyakan usia pengguna kepada pemilik akun saat menyiapkan perangkat seperti laptop atau ponsel cerdas. Operator sistem kemudian mengirimkan sinyal ke aplikasi tentang usia pengguna. Sehingga kandungannya bisa disesuaikan dengan usia. Satu ukuran lagi Membutuhkan platform tertentu Untuk menampilkan tanda-tanda peringatan tentang dampak buruk media sosial terhadap kesehatan mental anak-anak.

Undang-undang baru yang ketiga Harus menggunakan chatbot Untuk mengingatkan pengguna secara berkala bahwa mereka tidak berinteraksi dengan manusia dan membuat proses pencegahan bunuh diri untuk membantu mereka yang menunjukkan tanda-tanda kesedihan. Pendamping chatbot adalah program komputer yang menyimulasikan percakapan mirip manusia untuk memberikan hiburan atau dukungan emosional kepada pengguna.

Namun, Newsom telah memveto RUU tersebut yang mungkin paling agresif hingga saat ini. Mereka mengatakan hal ini terlalu luas dan mungkin menghalangi anak-anak untuk mengakses AI.

House Bill 1064 akan melarang penggunaan chatbots untuk berteman dengan anak di bawah umur. Jika chatbot “Prediktabilitas” itu dapat mendorong perilaku tertentu, seperti menyakiti diri sendiri. pola makan yang tidak teratur atau tindakan kekerasan Tinjauan keamanan independen terhadap program AI untuk anak-anak juga diperlukan.

“Itu adalah salah satu area yang akan kami tinjau kembali tahun depan,” kata Sacha Haworth, direktur eksekutif Tech Oversight Project. “Kami sedang berdiskusi dengan kantor anggota dan kantor gubernur tentang membawa undang-undang tersebut ke tempat di mana dia bisa menandatanganinya.”

Organisasi lain mengambil pendekatan yang berbeda.

CEO Common Sense Media Jim Steyer telah meluncurkan kampanye untuk negara. Inisiatif pemungutan suaraDijuluki California Kids AI Safety Act, undang-undang ini membawa masalah ini langsung ke pemilih. Di antara persyaratan lainnya, akses kaum muda ke chatbot akan dibatasi secara ketat. dan mewajibkan tinjauan keamanan untuk produk Al apa pun yang ditujukan untuk anak-anak atau remaja. Undang-undang ini juga akan melarang perusahaan menjual informasi pribadi pengguna di bawah usia 18 tahun tanpa izin

Steyer menambahkan bahwa AB 1064 mendapat dukungan luas dan kemungkinan besar akan ditandatangani jika bukan karena lobi agresif industri teknologi dan ancaman untuk meninggalkan negara bagian tersebut.

“Dalam dunia politik, terkadang Anda harus mencoba dan mencoba lagi,” kata Steyer. “(Tetapi) kami punya momentum. Kami punya fakta. Kami punya publik. Dan yang paling penting, kami punya moral yang tinggi. Jadi kami akan menang.”

Ed Howard, Penasihat Senior dan Advokat Kebijakan di Institut Advokasi Anak Universitas San Diego mengatakan salah satu tujuannya tahun depan adalah lebih fokus pada dua undang-undang yang ada saat ini.

Yang pertama mengharuskan platform media sosial menyediakan mekanisme bagi anak di bawah umur untuk melaporkan dan menghapus gambar diri mereka yang mengalami pelecehan seksual. Yang kedua mengharuskan platform untuk menciptakan mekanisme pelaporan serupa bagi para korban penindasan maya.

Howard mengatakan platform besar seperti TikTok, Facebook, dan Instagram tidak mengikuti atau menyederhanakan proses pelaporan. “Sangat sulit”

“Keberadaan gambar-gambar seperti itu menghantui para penyintas kejahatan ini,” ujarnya. “Tahun ini akan ada rancangan undang-undang untuk membersihkan bahasa di (undang-undang tersebut) untuk memastikan bahwa hal tersebut tidak dapat dielakkan.”

Howard yakin anggota parlemen dari kedua partai berkomitmen untuk menemukan solusi.

“Saya belum pernah melihat kemarahan bipartisan seperti ini sebelum saya melihatnya secara langsung di perusahaan-perusahaan (teknologi) ini,” katanya.

Lishaun Francis, direktur senior kesehatan perilaku di Children Now, mengatakan organisasinya masih menjajaki potensi prioritas legislatif untuk tahun 2026.

Ia menjelaskan bahwa mereka cenderung mengambil pendekatan terukur. Karena undang-undang yang ketat, mereka rentan terhadap tuntutan hukum dari industri teknologi seperti Meta, Google, dan TikTok, dan lain-lain. Hukum California yang Menantang tahun lalu, yang membatasi akses anak-anak ke media sosial pribadi.

“Kami masih mencoba melakukan lebih banyak penelitian dengan generasi muda kami tentang bagaimana mereka ingin berinteraksi dengan AI dan menurut mereka seperti apa bentuknya,” kata Francis. “Kami pikir itu adalah bagian penting dari percakapan yang telah hilang. Anda hanya melihat sekelompok 40+ orang dewasa di satu ruangan berbicara tentang teknologi dan tidak peduli tentang bagaimana generasi muda ingin menggunakannya.”

David Evan Harris, penasihat kebijakan senior di Inisiatif California untuk Teknologi dan Demokrasi, mengatakan dia mengawasi Washington saat dia mempersiapkan konvensi negara bagian tersebut.

“Ada orang-orang di Kongres dan Gedung Putih yang berusaha membuat negara-negara tidak bisa mengendalikan AI,” katanya. “Mereka ingin mengambil kekuasaan itu dari negara bagian dan tidak digantikan oleh peraturan federal apa pun. Tapi bukannya tidak melakukan apa pun.”

Gedung Putih telah memblokir rancangan perintah eksekutif yang akan menegakkan undang-undang negara bagian tentang kecerdasan buatan melalui tuntutan hukum dan dengan menahan dana federal. Reuters melaporkan pada hari Sabtu.–

Ketika para pendukungnya berbicara di Gedung Pemerintah tahun depan, Arnold akan menjadi salah satu di antara mereka. Sejak kematian putrinya tiga tahun lalu, dia ikut mendirikan Parents Rise, sebuah kelompok advokasi akar rumput. dan berupaya meningkatkan kesadaran tentang risiko yang dihadapi remaja saat online.

Sebelum Coco menjadi sasaran para pemburu, Arnold mengatakan bahwa teknologi sudah mengancam kehidupan mereka. Putrinya yang tadinya lincah menjadi kecanduan media sosial. dan menarik diri dari aktivitas yang dulu dia sukai. Arnold mengajak Coco ke terapi dan membatasi waktu online-nya. Sebaliknya, hal itu mengakibatkan pertengkaran tanpa akhir dan menciptakan keretakan di antara mereka.

“Anda mengira anak Anda aman di kamar tidurnya. Namun platform ini membuka pintu masuk ke rumah Anda bagi predator dan konten berbahaya,” kata Arnold. “Sepertinya mereka baru saja berjalan melewati pintu depan.”