Uma reportagem da Wired revelou que uma província na Argentina usou um algoritmo criado pela Microsoft para prever quais jovens tinham maior probabilidade de engravidar na adolescência, tudo com base em indicadores.Os números sociais podem ter e até envolver vigilância direta.
O incidente ocorreu em 2018 na região de Salta, no noroeste do país, e envolveu a chamada Plataforma Tecnológica de Intervenção Social.
O algoritmo chegou a ser anunciado em rede nacional, mas o governo não divulgou detalhes sobre como funcionava e o que acontecia com as identificadas como mães em potencial.
Esteja sempre em guarda
Agora, informações detalhadas sobre o sistema começaram a aparecer. De acordo com o relatório, o sistema é baseado em dados dos 200 mil moradores de Salta e envolve diversas variáveis - como renda familiar, estrutura da casa e localização.
Além disso, o governo emprega agentes presenciais para monitorar de perto as jovens identificadas pelo algoritmo como com maior probabilidade de engravidar, enviando funcionários para realizar entrevistas, fotografar e documentar sua localização via GPS. A maioria das jovens consultadas são imigrantes de países vizinhos ou de etnias indígenas locais.
O que há de errado?
O principal problema do uso da plataforma em Salta, segundo especialistas consultados pela Wired, é a falta de transparência do algoritmo: simplesmente não há detalhes sobre seu código. Além disso, foi detectada a ausência de avaliações externas do uso dessa tecnologia e não divulgação dos dados coletados ou informações adicionais, como ações positivas realizadas nas áreas monitoradas.
Além disso, o próprio algoritmo não levou em consideração fatores como educação sexual e anticoncepcionais, considerados essenciais para combater a gravidez na adolescência, mas muitas vezes deixados de lado. No entanto, de acordo com uma universidade local, o modelo fez a previsão correta 98% das vezes.
Jornalistas e ativistas na Argentina também se opuseram ao algoritmo devido ao contexto regional: os governos locais têm uma longa história de vigilância populacional e conflitos sobre os direitos das mulheres. O aborto foi legalizado no país no final de 2020. Segundo a Microsoft, a plataforma é um “caso pioneiro de uso de inteligência artificial” em programas sociais.
