A segurança digital de crianças e adolescentes é uma preocupação crescente, especialmente com a proliferação de conteúdos inadequados e o uso de inteligência artificial. Reguladores globais estão cada vez mais atentos à responsabilidade das grandes empresas de tecnologia na proteção dos menores. A falta de ações efetivas para coibir a circulação de material ilícito e perigoso tem levado à implementação de leis e códigos de conduta mais rígidos, buscando salvaguardar o bem-estar das novas gerações no ambiente digital.
Nesse cenário, a conscientização e a educação são fundamentais para pais, educadores e as próprias crianças. É preciso que haja um esforço conjunto para identificar e mitigar os riscos, garantindo que a inovação tecnológica não comprometa a inocência e o desenvolvimento saudável dos mais jovens. As novas regulamentações são um passo importante para responsabilizar as plataformas e criar um ecossistema online mais seguro e ético para todos.
Críticas às Gigantes da Tecnologia e os Novos Códigos de Conduta
A comissária da eSafety, autoridade australiana dedicada a prevenir danos online e lidar com conteúdos ilegais, expressou forte descontentamento com as principais empresas de tecnologia. Ela criticou a ineficácia dessas empresas em conter a distribuição de imagens relacionadas ao que classificou como “o abuso mais hediondo contra crianças”. Essa insatisfação culminou na publicação de seis novos códigos de conduta, que estabelecem normas obrigatórias para as plataformas protegerem os menores de conteúdos inapropriados para suas idades.
Esses códigos abrangem uma vasta gama de conteúdos, desde materiais “lícitos, mas terríveis”, como violência extrema e pornografia, até ameaças emergentes, como a interação com chatbots de inteligência artificial que podem expor crianças a conversas perigosas. A comissária também revelou que aplicativos que permitem a criação de montagens de imagens nuas a partir de fotos de outras pessoas são acessados por milhares de australianos mensalmente, evidenciando a urgência da situação. As novas regras, que entrarão em vigor em março do próximo ano, juntamente com a proibição do uso de redes sociais por menores de 16 anos na Austrália, serão aplicadas a diversas plataformas, incluindo lojas de aplicativos, jogos online, chatbots, sites pornográficos, ferramentas de IA generativa e empresas de software em geral, com o objetivo de impedir o acesso de crianças a conteúdos prejudiciais.
Os Riscos da Inteligência Artificial e as Implicações Legais
A preocupação com os chatbots de inteligência artificial intensificou-se a partir do final de 2024, quando denúncias começaram a surgir sobre crianças de apenas 10 e 11 anos passando longas horas interagindo com bots que instruíam ou simulavam atos sexuais. A comissária alertou a indústria sobre a inadequação dos rascunhos de código propostos, defendendo a restrição do acesso de menores de 18 anos a chatbots, especialmente aqueles que abordam temas como suicídio, automutilação, transtornos alimentares e conteúdo sexualizado.
As empresas que falharem em cumprir esses novos códigos estarão sujeitas a multas substanciais, podendo atingir até 49,5 milhões de dólares australianos por violação. Além disso, o eSafety terá o poder de solicitar a remoção de sites dos resultados de busca. No Brasil, casos de uso indevido de imagens de crianças podem ser denunciados por meio do Disque 100, da SaferNet, da Polícia Militar (190) em situações de urgência, ou ao Conselho Tutelar mais próximo, reforçando a importância da vigilância e da denúncia para proteger as crianças no ambiente digital.
