Regulação da inteligência artificial generativa e racismo algorítmico no reconhecimento facial

Com uma abordagem interdisciplinar, este livro traz uma avaliação nesse ponto de intersecção entre tecnologia, direito e discriminação: a análise das iniciativas da União Europeia e do Brasil para a regulação da Inteligência Artificial (IA) e da Inteligência Artificial Generativa (GenAI), sob a ótica da capacidade em efetivamente assegurar a eliminação do racismo algorítmico nos sistemas de reconhecimento facial, que historicamente apresentam taxa de erro maior para pessoas negras.
Aborda-se, no primeiro capítulo, considerações técnicas sobre a IA, com destaque para a GenAI, além de pontuar sobre violações aos direitos humanos, impacto ambiental, colonialismo de dados, riscos de segurança, vieses discriminatórios de gênero, de deficiência, de etnia e de orientação afetivo-sexual, entre outros aspectos que motivam a necessidade da regulação da IA.
No segundo capítulo, discute-se o uso do reconhecimento facial, em especial no Brasil. Ainda, partindo-se de breve digressão sobre o racismo e a branquitude, conceitua-se o racismo algorítmico e debate-se como o surgimento e o crescimento do uso da GenAI podem impactar esse fenômeno.
Já no terceiro capítulo, discorre-se sobre algumas tentativas internacionais de regular a IA, a exemplo de boas práticas, autorregulação, princípios éticos e leis de proteção de dados. Por fim, analisa-se a contribuição da Lei de Inteligência Artificial da União Europeia (EU AI Act) e do Projeto de Lei nº 2.338/2023 para o combate ao racismo algorítmico.

Mestrado em Direito, na Ambra University. Especialização em Direito Digital e Compliance, no Damásio Educacional / Ibmec, e em Segurança da Informação, no Instituto de Educação Superior de Brasília (IESB). Bacharelado em Direito, no Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa (IDP), e em Física, na Universidade Estadual de Campinas (Unicamp). Auditora federal de controle externo no Tribunal de Contas da União (TCU). Pesquisadora do núcleo IA e Discriminação na Lawgorithm.