ONU alerta para riscos do uso de IA na violência contra mulheres

O Comitê da ONU para a Eliminação da Discriminação contra as Mulheres (Cedaw) pediu que os países adotem medidas para combater estereótipos de gênero . A entidade alerta que tecnologias como a inteligência artificial (IA) podem ampliar a violência digital e reproduzir preconceitos que afetam a vida das mulheres. Em uma nova diretriz, o comitê defende mudanças nas leis, nas plataformas digitais e nas práticas institucionais para enfrentar a discriminação em diferentes áreas da sociedade.

A ONU defende que plataformas digitais criem canais diretos e ágeis para a remoção de conteúdos discriminatórios. – Imagem: sebra/Shutterstock IA pode ampliar a violência digital O Cedaw demonstrou preocupação com o uso de ferramentas de IA generativa e de sistemas autônomos, conhecidos como agentes de IA , para facilitar agressões na internet. Entre os riscos estão a criação de imagens e vídeos sexualizados sem consentimento, fraudes de identidade, extorsão sexual e ataques contra mulheres em cargos de liderança.

Os chamados deepfakes são imagens, vídeos ou áudios manipulados ou gerados com inteligência artificial. Para enfrentar esses abusos, o comitê recomenda medidas que ampliem a transparência e a responsabilidade das empresas e dos governos. Entre as propostas estão: Estabelecer mecanismos de responsabilização pelo uso abusivo de sistemas de IA.

Garantir supervisão independente sobre essas tecnologias. Assegurar revisão humana de decisões automatizadas. Criar procedimentos para denunciar e remover conteúdos discriminatórios nas plataformas digitais.

Preconceitos também afetam a Justiça e a saúde Os estereótipos de gênero também podem influenciar o funcionamento das instituições. Na Justiça, por exemplo, preconceitos podem interferir na avaliação do testemunho das mulheres e nas decisões dos tribunais, contribuindo para erros judiciais. O Cedaw defende a revisão de leis e práticas que tratam a violência como um assunto privado ou familiar, responsabilizam as vítimas pelas agressões sofridas ou justificam a violência masculina.

A entidade também propõe mecanismos para responsabilizar juízes, procuradores e agentes de segurança que perpetuem práticas discriminatórias, além da revisão de decisões marcadas por preconceitos. Na saúde, esses estereótipos podem afetar diagnósticos e decisões relacionadas à saúde reprodutiva. Por isso, o comitê defende o consentimento informado antes de procedimentos médicos, medidas contra a violência obstétrica e a descriminalização do aborto .

Estereótipos de gênero podem influenciar a avaliação de testemunhos e decisões nos tribunais. – Imagem: cottonbro studio/Pexels Divisão do trabalho de cuidado também preocupa A desigualdade aparece ainda na distribuição das responsabilidades familiares. A ideia de que as mulheres devem assumir a maior parte dos cuidados com filhos e familiares contribui para disparidades econômicas.

Para enfrentar esse problema, o Cedaw propõe uma divisão mais equilibrada do trabalho não remunerado e políticas de licença parental. Conflitos, catástrofes climáticas e crises humanitárias podem agravar a sobrecarga de cuidados e contribuir para a normalização da violência de gênero. A diretriz sustenta que o combate à discriminação exige mais do que medidas pontuais.

Os países precisam enfrentar também as atitudes, os sistemas e as estruturas sociais que perpetuam os estereótipos. O post ONU alerta para riscos do uso de IA na violência contra mulheres apareceu primeiro em Olhar Digital . ]]>