IA ainda não beneficia minorias

Muitos públicos ainda não recebem os benefícios adequados da Inteligência Artificial (IA). Isso inclui grupos excluídos, como pessoas com deficiências, trabalhadores migrantes, LGBTQIA+, e comunidades rurais e indígenas. Por outro lado, é importante lembrar que a IA ainda não está disponível para todos devido à desvantagem no acesso à tecnologia e à internet. No entanto, espera-se que possa ajudar a enfrentar esses desafios no futuro.

Um desafio específico é a IA considerar a diversidade e as minorias, sendo assim, os mecanismos precisariam levar em consideração diferentes nuances quanto ao lado social. Um exemplo de como a inteligência artificial pode contribuir com os LGBTQIA+, por exemplo, é quanto ao uso de sistemas de reconhecimento de voz que consigam identificar corretamente os transgêneros.

Outra área em que a IA pode manter a inequidade é o mercado de trabalho. Com a automação de mais tarefas, muitos empregos podem se tornar obsoletos, afetando trabalhadores da classe trabalhadora e dos menos favorecidos. Além disso, há o risco de novos empregos gerados pela IA estarem acessíveis somente às pessoas altamente qualificadas, o que limita a inclusão daqueles que vivem à margem da sociedade.

Na área da saúde, a falta de representatividade de certas populações nos bancos de dados usados no treinamento de modelos de IA são uma preocupação porque a maioria dos diagnósticos de doenças foi baseada em informações de pacientes de países desenvolvidos, principalmente homens ocidentais brancos. A falta de representatividade nos dados usados na capacitação de algoritmos de IA pode resultar em soluções inadequadas e ineficientes no atendimento aos subrepresentados.

A aplicação da IA pode sustentar a desigualdade nas áreas jurídica e no setor público. A tomada de decisões baseada em algoritmos não é imune a falhas e pode resultar em decisões injustas e desiguais. Casos de preconceito racial, de gênero e de classe já foram relatados à justiça criminal devido à falta de pluralidade no conjunto de informações usado no desenvolvimento da IA.

A fim de enfrentar esses desafios, os centros de pesquisa devem colaborar com os representantes dessas comunidades visando entender necessidades específicas e desenvolver soluções que atendam aos seus requisitos. É importante incentivar as empresas de IA a projetarem o algoritmo com inclusão e multiculturalismo em mente, apoiando as comunidades excluídas e ampliando o contato com as IAs.

A falta de transparência e responsabilidade na aplicação da IA pode dificultar a responsabilização de indivíduos e organizações por possíveis opressões perpetuadas pelos modelos de IA. Isso aumenta o risco de injustiça social em áreas como empréstimos, contratações e decisões judiciais. Também devem ser tomadas medidas que garantam aos excluídos o acesso a tecnologias necessárias a fim de se beneficiarem da IA, incluindo melhorias na infraestrutura de internet e maior disponibilidade de recursos e assistência.

A Inteligência Artificial desponta como uma poderosa aliada para promover impactos positivos nos grupos excluídos. Suas ferramentas têm o potencial de ampliar a acessibilidade e a participação de pessoas com deficiência, aprimorar o diagnóstico e o tratamento médico em regiões carentes de recursos, além de contribuir para a diminuição da segregação. Esses são apenas alguns exemplos do vasto horizonte de possibilidades que oferece. Porém, apesar do imenso potencial transformador em diversos aspectos de nossas vidas, é preocupante constatar que muitos segmentos da sociedade não estão sendo adequadamente contemplados por esses avanços.

Diante desse desafio, urge a necessidade de uma abordagem coletiva, envolvendo a indústria da inovação, os governos e as organizações sem fins lucrativos, com o objetivo de assegurar que a IA seja desenvolvida e utilizada de maneira responsável, inclusiva e equitativa.

Flávia Fernandes é jornalista, professora e autêntica "navegadora do conhecimento IA"
Instagram: @flaviaconteudo
Emal: