Regulamentações tecnológicas transformam cenário global, abordando algoritmos e IA
Nos Estados Unidos, a discussão gira em torno dos algoritmos utilizados nas redes sociais. Desde a introdução do feed algorítmico pelo Facebook há mais de uma década, outras plataformas como Twitter, Instagram e TikTok seguiram o mesmo caminho, priorizando conteúdos que são selecionados e recomendados automaticamente para os usuários.
Esses algoritmos foram projetados para maximizar o engajamento e manter os usuários dentro das plataformas o maior tempo possível, uma estratégia que se mostrou altamente eficaz em termos de receita publicitária, mas que levantou preocupações significativas quanto aos impactos na saúde mental, especialmente entre os jovens.
A legislação recentemente aprovada em Nova Iorque, conhecida como Safe for Kids, representa um marco ao proibir os chamados “feeds viciantes” para menores de 18 anos. Essa iniciativa reflete um reconhecimento crescente dos efeitos adversos das tecnologias de engajamento extremo, que podem contribuir para problemas como ansiedade e depressão. Apesar de limitada à faixa etária juvenil, a regulamentação sinaliza uma possível mudança de paradigma na forma como as plataformas digitais são projetadas e operadas, colocando em questão a responsabilidade das empresas de tecnologia na promoção de ambientes online mais saudáveis.
Enquanto isso, no Brasil, o Marco Legal da Inteligência Artificial busca estabelecer um conjunto de regras para guiar o desenvolvimento e uso da IA no país. Proposto pelo senador Rodrigo Pacheco (PSD-MG), o projeto de lei visa categorizar os riscos associados aos sistemas de IA e definir responsabilidades claras para os operadores dessas tecnologias. Inspirado no AI Act da União Europeia, o Marco Legal brasileiro busca equilibrar a promoção da inovação com a proteção dos direitos individuais e a mitigação de riscos potenciais, como discriminação algorítmica e vieses de gênero e raça.
O projeto não está isento de críticas. Especialistas apontam que o texto pode ser demasiadamente prescritivo e não acompanhar adequadamente a rápida evolução da tecnologia. Há preocupações sobre como as regulamentações propostas podem impactar a capacidade do Brasil de competir globalmente no campo da IA, limitando a inovação e a adoção de novas tecnologias em setores críticos como transporte autônomo, segurança pública e saúde.
Ambos os casos destacam a complexidade de regular tecnologias emergentes em um ambiente globalizado. Enquanto as iniciativas legislativas buscam responder aos desafios éticos e sociais colocados por algoritmos e IA, também enfrentam o desafio de não sufocar a inovação. A transparência, a responsabilidade e a participação pública emergem como pilares essenciais para o desenvolvimento de um arcabouço regulatório que seja ao mesmo tempo justo e eficaz.
À medida que os governos continuam a moldar o futuro digital, é fundamental que as decisões políticas sejam informadas por uma compreensão profunda dos impactos das tecnologias emergentes na sociedade. A busca por um equilíbrio entre progresso tecnológico e proteção dos direitos individuais permanece como um desafio central para os legisladores e reguladores em todo o mundo, definindo o curso da inovação e da governança digital para as próximas décadas.
Flávia Fernandes é jornalista, professora e autêntica “navegadora do conhecimento IA”
Instagram: @flaviaconteudo
Emal: [email protected]