A equipe, composta por pesquisadores de tecnologia e linguística, revelou que grandes modelos de linguagem, como o estereótipo racial ChatGPT da Open AI, são baseados na linguagem.

Os investigadores pediram aos modelos de IA que avaliassem os níveis de empregabilidade e inteligência daqueles que falam em AAE em comparação com aqueles que falam o que chamaram de “inglês americano padrão”. Eles descobriram que esses modelos eram mais propensos a descrever o falante de AAE como “estúpido” e “preguiçoso”.

Numa experiência hipotética em que se pediu aos chatbots que julgassem réus que cometeram homicídio em primeiro grau, eles optaram pela pena de morte com uma frequência significativamente maior quando os julgados prestavam declarações em AAE em vez do inglês americano padrão.

Hoffman disse que pesquisas anteriores analisaram quais preconceitos raciais evidentes a IA poderia conter, mas nunca analisaram como esses sistemas de IA reagem a marcadores raciais ocultos, como diferenças de dialeto.

“Concentrando-nos nas áreas do emprego e da criminalidade, descobrimos que o potencial de danos é enorme”, declarou Hoffman.

Deu em Extra