Um estudo sobre vieses de gênero em modelos de PLN aplicado em histórias geradas pelo GPT-3.5 e GEMINI

Abstract

Este trabalho aborda a importância de estudar os vieses de gênero em modelos de Processamento de Linguagem Natural (PLN), especialmente em relação às inteligências artificiais gerativas. A pesquisa buscou entender como esses vieses são reproduzidos em textos gerados por modelos como GPT e Gemini. Para isso, modelos de PLN como XLNet, BERT e DistilBERT foram treinados para inferir o gênero e avaliar a tendência dos textos em relação a estereótipos. O estudo utilizou bases de dados específicas, md_gender_bias e Stereoset, para investigar esses vieses, destacando a relevância de analisar o impacto social das IAs, especialmente quando usadas sem considerar esses vieses. A md_gender_bias foi usada para treinar um modelo capaz de inferir o gênero o qual se refere e Stereoset para classificar se o texto tende ao antiestereótipo ou estereótipo de gênero. A partir da análise dos resultados obtidos, foi possível confirmar a presença de vieses nesses modelos.