O governador da Califórnia, Gavin Newsom, sancionou nesta quinta-feira (10) um conjunto de 13 novas leis que alteram as normas para redes sociais e assistentes de inteligência artificial. O objetivo central das medidas é reforçar a proteção de crianças e adolescentes enquanto navegam na internet.
Entre as determinações, destaca-se a obrigatoriedade de que serviços de IA, como o ChatGPT, Gemini e Claude, implementem protocolos de crise. Essas ferramentas devem ser capazes de agir rapidamente caso identifiquem sinais de que um usuário planeja cometer suicídio.
Além disso, a nova regulamentação exige que as plataformas digitais disponibilizem ferramentas de controle parental. As empresas também deverão notificar os responsáveis sempre que menores de idade desativarem recursos de segurança configurados em suas contas.
Tais medidas integram a chamada Lei Adam. A legislação foi batizada em homenagem a Adam Raine, um jovem de 16 anos que, de acordo com o relato de seus pais, tirou a própria vida após receber orientações do ChatGPT.
No que diz respeito às redes sociais, como TikTok e Instagram, outra lei aprovada nesta quinta-feira veda a oferta de funcionalidades viciantes para usuários com menos de 16 anos. Com a nova regra, as empresas ficam proibidas de utilizar a reprodução automática de vídeos ou de sugerir conteúdos baseados no histórico de navegação desses jovens.
Uma terceira frente legislativa expandiu a definição do crime de exploração sexual infantil. Agora, também é proibida a divulgação de materiais gerados por IA ou modificados digitalmente que retratem menores de idade em situações de conduta sexual.
A Califórnia se une a outros estados americanos, como Flórida e Utah, que já implementaram leis para restringir o acesso de crianças e adolescentes à internet e regular o funcionamento de assistentes virtuais.
Contudo, parte dessas restrições tem sido alvo de disputas judiciais. As plataformas de tecnologia contestam as medidas nos tribunais, alegando que as novas regras podem violar o direito fundamental à liberdade de expressão.
Com informações do G1