Uma reportagem da Wired revelou que uma província da Argentina utilizou um algoritmo criado pela Microsoft para prever quais jovens tinham mais chances de ficarem grávidas ainda na adolescência — tudo de acordo com possíveis indicadores sociais e envolvendo até monitoramento presencial.
O caso aconteceu a partir de 2018 na região de Salta, no noroeste do país, e envolveu a chamada Plataforma Tecnológica de Intervención Social.
O algoritmo chegou a ser anunciado em rede nacional, mas o governo não divulgou detalhes sobre como ele operava o que acontecia com as pessoas identificadas como mães em potencial.
Sempre de olho
Agora, detalhes sobre o sistema começaram a aparecer. Segundo a reportagem, o sistema era baseado em dados dos 200 mil residentes de Salta e envolvia diferentes variáveis — como renda da família, estrutura da casa e local de residência, por exemplo.
Além disso, o governo utilizava agentes presenciais para acompanharem de perto as jovens identificadas pelo algoritmo como mais prováveis para engravidar, enviando funcionários para realizar entrevistas, tirar fotos e gravar a localização via GPS. A maior parte das jovens consultadas eram imigrantes de países vizinhos ou de etnias indígenas locais.
Qual o problema?
O principal problema da utilização da plataforma em Salta, segundo especialistas consultados pela Wired, é a falta de transparência do algoritmo: simplesmente não há detalhes sobre o seu código. Além disso, foi detectada a ausência de avaliações externas sobre o uso dessa tecnologia e não há publicação dos dados coletados ou de informações adicionais, como ações afirmativas realizadas nas regiões monitoradas.
Além disso, o próprio algoritmo não levava em conta fatores como educação sexual e métodos contraceptivos — que são considerados essenciais no combate à gravidez na adolescência, mas muitas vezes negligenciados. Ainda assim, segundo uma universidade local, o modelo realizou previsões corretas em 98% das vezes.
Jornalistas e ativistas na Argentina também protestaram contra o algoritmo pelo contexto da região: o governo local tem um longo histórico de vigilância populacional e embates sobre direitos das mulheres. O aborto foi legalizado no país no final de 2020. Segundo a Microsoft, a plataforma é "um caso pioneiro de utilização de Inteligência Artificial" em programas sociais.
Fonte: https://www.tecmundo.com.br/mercado/234213-microsoft-criou-algoritmo-preve-gravidez-adolescentes.htm
Sem comentários:
Enviar um comentário
Comente de forma construtiva...
Nota: só um membro deste blogue pode publicar um comentário.