Identidade algorítmica: imagens da negritude e viés racista

Abstract

As inteligências artificiais generativas e seus algoritmos são responsáveis por cada vez mais decisões em nossa sociedade. No entanto, por mais que sejam tidos como ferramentas imparciais, os dados de algoritmos com viés racial que prejudicam pessoas negras em diversas áreas da vida não param de crescer. A este fenômeno demos o nome de Identidade Algorítmica. Com base nisso, e com o entendimento de que a oposição real X fictício não se sustenta, tendo de ser trocada pela tríade real-fictício-imaginário, neste estudo demonstramos os problemas relativos aos vieses cognitivos que norteiam a construção de identidades que saem do mundo off-line e adentram o mundo on-line, principalmente pela subalternização das imagens de pessoas negras. Além disso, indicamos como as identidades algorítmicas estereotipadas colocam-se como uma barreira à efetiva inclusão sociodigital. Como possibilidade de enfrentamento, propomos a criação de um material didático voltado para o letramento sobre argumentação, elementos implícitos e vieses algorítmicos, com foco nos anos finais do Ensino Médio e nos anos iniciais de cursos universitários.