Avaliação de Discriminação em Aprendizagem de Máquina usando Técnicas de Interpretabilidade. (2020)
- Authors:
- Autor USP: CESARO, JULIANA - EP
- Unidade: EP
- Sigla do Departamento: PCS
- Subjects: INTELIGÊNCIA ARTIFICIAL; DISCRIMINAÇÃO; TEORIA DOS JOGOS
- Language: Português
- Abstract: Preconceitos presentes na sociedade podem criar vieses em modelos aprendidos a partir de dados. Para avaliar a existência de viés, alguns pesquisadores propõem o uso de definições de "justiça", enquanto outros usam técnicas de interpretabilidade. Porém, parece não existir nenhum estudo que compara as medidas de justiça (através de várias definições de justiça) e os resultados de interpretabilidade (através de várias noções de interpretabilidade). Nesse trabalho foi proposto metodologias para examinar e comparar essas técnicas. A ideia ´e avaliar como as medidas de justiça e o resultado de interpretabilidade variam em um modelo com viés e em outro sem viés. O foco foi no uso do SHAP (SHapley Additive exPlanations) como técnica de interpretabilidade, que usa conceito da teoria dos jogos cooperativos para calcular a contribuição de cada atributo em uma previsão gerada pelo modelo; foi apresentado resultados com alguns conjuntos de dados propensos a injustiça. Com os experimentos foi identificado qual a medida de justiça tem relação alta e baixa com o resultado do SHAP, o que auxiliaria a decidir quando é recomendável usar o SHAP como técnica de interpretabilidade ou quando é melhor usar outra técnica.
- Imprenta:
- Data da defesa: 05.11.2020
-
ABNT
CESARO, Juliana. Avaliação de Discriminação em Aprendizagem de Máquina usando Técnicas de Interpretabilidade. 2020. Dissertação (Mestrado) – Universidade de São Paulo, São Paulo, 2020. Disponível em: https://www.teses.usp.br/teses/disponiveis/3/3141/tde-31052021-114333/. Acesso em: 01 nov. 2024. -
APA
Cesaro, J. (2020). Avaliação de Discriminação em Aprendizagem de Máquina usando Técnicas de Interpretabilidade. (Dissertação (Mestrado). Universidade de São Paulo, São Paulo. Recuperado de https://www.teses.usp.br/teses/disponiveis/3/3141/tde-31052021-114333/ -
NLM
Cesaro J. Avaliação de Discriminação em Aprendizagem de Máquina usando Técnicas de Interpretabilidade. [Internet]. 2020 ;[citado 2024 nov. 01 ] Available from: https://www.teses.usp.br/teses/disponiveis/3/3141/tde-31052021-114333/ -
Vancouver
Cesaro J. Avaliação de Discriminação em Aprendizagem de Máquina usando Técnicas de Interpretabilidade. [Internet]. 2020 ;[citado 2024 nov. 01 ] Available from: https://www.teses.usp.br/teses/disponiveis/3/3141/tde-31052021-114333/
How to cite
A citação é gerada automaticamente e pode não estar totalmente de acordo com as normas
