O Funcionamento Diferencial dos Itens na Indução de Classificadores Mais Justos (2024)
- Authors:
- Autor USP: MINATEL, DIEGO - ICMC
- Unidade: ICMC
- Sigla do Departamento: SCC
- DOI: 10.11606/T.55.2024.tde-06012025-175603
- Subjects: INTELIGÊNCIA ARTIFICIAL; APRENDIZADO COMPUTACIONAL; ALGORITMOS; TEORIA DE RESPOSTA AO ITEM
- Keywords: Análise de justiça; Aprendizado supervisionado; Bias; DIF; DIF; Pós-processamento; Fairness analysis; IRT; Item response theory; Model selection; Postprocessing; Pré-processamento; Preprocessing; Seleção de modelo; Supervised learning; TRI; Unfairness; Viés
- Agências de fomento:
- Language: Português
- Abstract: Um dos principais desafios atuais em Inteligência Artificial é desenvolver modelos mais imparciais, que não perpetuem os diversos tipos de preconceitos presentes na sociedade. Com esse objetivo, surge um campo de pesquisa emergente denominado Senso de Justiça em Aprendizado de Máquina, que visa incorporar conceitos de justiça ao processo de aprendizado. Esses conceitos podem ser integrados nas diferentes etapas desse processo, e a literatura propõe diversos métodos para esse fim, todos focados predominantemente na melhoria de um único conceito de justiça, ao mesmo tempo que tentam preservar a qualidade das previsões. No entanto, ao priorizar a maximização de apenas um conceito, pode ocorrer a deterioração de outras noções de justiça. Em vista disso, este trabalho propõe os métodos DIF-SR, DIF-MS e DIF-PP, baseados nos princípios do Funcionamento Diferencial dos Itens (DIF), que se distinguem pela etapa do processo de aprendizado em que são aplicados: pré-processamento, seleção de modelo e pós-processamento, respectivamente. O DIF é amplamente utilizado na elaboração de testes imparciais, identificando quais questões favorecem ou prejudicam grupos sociodemográficos distintos, com o objetivo de eliminá-las do teste. Além disso, é possível determinar quais dessas questões são mais imparciais para diferentes grupos de pessoas analisados. Por não se fundamentar em nenhum conceito específico de justiça e por possuir um arcabouço matemático robusto para avaliação, a aplicação doDIF representa uma abordagem promissora para induzir modelos de aprendizado de máquina mais justos. Para viabilizar a aplicação das definições de DIF nos métodos propostos, foi desenvolvida uma modelagem inédita que transforma as previsões dos classificadores em itens de teste de avaliação. Os resultados experimentais indicam que os métodos DIF-SR, DIF-MS e DIF-PP contribuem para a indução de classificadores mais imparciais, melhorando múltiplas noções de justiça e, consequentemente, minimizando a propagação de efeitos discriminatórios.
- Imprenta:
- Publisher place: São Carlos
- Date published: 2024
- Data da defesa: 08.11.2024
- Este periódico é de acesso aberto
- Este artigo é de acesso aberto
- URL de acesso aberto
- Cor do Acesso Aberto: gold
- Licença: cc-by-nc-sa
-
ABNT
MINATEL, Diego. O Funcionamento Diferencial dos Itens na Indução de Classificadores Mais Justos. 2024. Tese (Doutorado) – Universidade de São Paulo, São Carlos, 2024. Disponível em: https://www.teses.usp.br/teses/disponiveis/55/55134/tde-06012025-175603/. Acesso em: 04 ago. 2025. -
APA
Minatel, D. (2024). O Funcionamento Diferencial dos Itens na Indução de Classificadores Mais Justos (Tese (Doutorado). Universidade de São Paulo, São Carlos. Recuperado de https://www.teses.usp.br/teses/disponiveis/55/55134/tde-06012025-175603/ -
NLM
Minatel D. O Funcionamento Diferencial dos Itens na Indução de Classificadores Mais Justos [Internet]. 2024 ;[citado 2025 ago. 04 ] Available from: https://www.teses.usp.br/teses/disponiveis/55/55134/tde-06012025-175603/ -
Vancouver
Minatel D. O Funcionamento Diferencial dos Itens na Indução de Classificadores Mais Justos [Internet]. 2024 ;[citado 2025 ago. 04 ] Available from: https://www.teses.usp.br/teses/disponiveis/55/55134/tde-06012025-175603/ - Uma abordagem multinível para construção de redes sociais geolocalizadas a partir de pontos de permanência
- Semi-supervised coarsening of bipartite graphs for text classification via graph neural network
- Diretrizes para melhorar a imparcialidade de classificadores
- A multilevel approach for building location-based social network by using stay points
- Bipartite graph coarsening for text classification using graph neural networks
- Local-entity resolution for building location-based social networks by using stay points
- Fairness-aware model selection using differential item functioning
- DIF-SR: a differential item functioning-based sample reweighting method
- Item response theory in sample reweighting to build fairer classifiers
- Unfairness in machine learning for web systems applications
Informações sobre o DOI: 10.11606/T.55.2024.tde-06012025-175603 (Fonte: oaDOI API)
How to cite
A citação é gerada automaticamente e pode não estar totalmente de acordo com as normas
