Uma pesquisa da Universidade de Washington revelou viés contra pessoas com deficiência do ChatGPT quando usado em processos de seleção. Currículos com prêmios e credenciais relacionadas a algum tipo de deficiência, como autismo ou paralisia cerebral, eram classificados em posições inferiores na lista e candidatos foram considerados como tendo “menos ênfase em papéis de liderança”.
Com prompts mais complexos e específicos para evitar preconceitos capacitistas, o ChatGPT melhorou suas avaliações, mas ainda mostrou falhas.
Vale lembrar que chatbots não têm consciência. O código com o qual eles são construídos e o conteúdo usado no treinamento são quem carregam as falhas. Tanto usuários quanto desenvolvedores precisam estar atentos a esses vieses.
