T-Explainer: uma abordagem para a explicabilidade em Aprendizado de Máquina baseada em gradientes (2024)
- Authors:
- Autor USP: ORTIGOSSA, EVANDRO SCUDELETI - ICMC
- Unidade: ICMC
- Sigla do Departamento: SME
- DOI: 10.11606/T.55.2024.tde-11072024-171752
- Subjects: INTELIGÊNCIA ARTIFICIAL; APRENDIZADO COMPUTACIONAL; SÉRIES DE TAYLOR
- Keywords: Atribuição de importância; Black box models; Explainable artificial intelligence; Feature importance attribution; Inteligência artificial explicável; Inteligência artificial robusta e responsável; Interpretabilidade; Interpretability; Modelos caixa-preta; Robust and responsible artificial intelligence
- Agências de fomento:
- Language: Português
- Abstract: Sistemas baseados em Aprendizado de Máquina têm alcançado desempenhos notáveis em muitas tarefas dentro dos mais variados domínios de aplicação. Quando aplicados em áreas sensíveis, ou seja, aquelas que podem impactar na vida e bem-estar de seus usuários, os modelos de aprendizado encontram barreiras. Isso ocorre devido à natureza complexa dos mecanismos de decisão desses modelos, que leva à falta de transparência em seus resultados e os transforma em caixas-pretas, de onde não é possível compreender a lógica do processo de tomada de decisão. Compreender o porquê um modelo fez uma certa predição é tão e muitas vezes até mais importante do que a sua precisão preditiva, revelando a necessidade de equilíbrio entre a interpretabilidade e a acurácia. Embora não seja possível interpretar modelos complexos diretamente, é possível explicá-los. Prover explicações para decisões tomadas por sistemas computacionais pode ser visto como um meio de justificar sua confiabilidade, além de proporcionar um modo efetivo de verificar e corrigir erros antes escondidos dentro da complexidade estrutural do Aprendizado de Máquina. A pesquisa em eXplainable Artificial Intelligence (XAI) vem propondo diversas abordagens neste sentido, sendo os métodos de atribuição de importância de particular interesse devido à sua capacidade de explicar a importância de atributos individuais para a decisão do modelo. No entanto, as principais soluções em atribuição de importância sofrem de instabilidade, comexplicações distintas podendo ser geradas a cada aplicação do método em uma mesma instância de dado. Neste cenário, esta pesquisa de doutorado vem para contribuir com o desenvolvimento da explicabilidade ao propor e desenvolver um novo método de atribuição de importâncias denominado T-Explainer. Baseado na expansão em série de Taylor, T-Explainer possui um conjunto de propriedades desejáveis, como precisão local e consistência, enquanto mantém a estabilidade das suas explicações. Finalmente, a eficácia do T-Explainer é demonstrada por meio de um conjunto de experimentos comparativos com outros métodos de atribuição de importâncias do atual estado da arte.
- Imprenta:
- Publisher place: São Carlos
- Date published: 2024
- Data da defesa: 09.05.2024
- Este periódico é de acesso aberto
- Este artigo é de acesso aberto
- URL de acesso aberto
- Cor do Acesso Aberto: gold
- Licença: cc-by-nc-sa
-
ABNT
ORTIGOSSA, Evandro Scudeleti. T-Explainer: uma abordagem para a explicabilidade em Aprendizado de Máquina baseada em gradientes. 2024. Tese (Doutorado) – Universidade de São Paulo, São Carlos, 2024. Disponível em: https://www.teses.usp.br/teses/disponiveis/55/55134/tde-11072024-171752/. Acesso em: 27 dez. 2025. -
APA
Ortigossa, E. S. (2024). T-Explainer: uma abordagem para a explicabilidade em Aprendizado de Máquina baseada em gradientes (Tese (Doutorado). Universidade de São Paulo, São Carlos. Recuperado de https://www.teses.usp.br/teses/disponiveis/55/55134/tde-11072024-171752/ -
NLM
Ortigossa ES. T-Explainer: uma abordagem para a explicabilidade em Aprendizado de Máquina baseada em gradientes [Internet]. 2024 ;[citado 2025 dez. 27 ] Available from: https://www.teses.usp.br/teses/disponiveis/55/55134/tde-11072024-171752/ -
Vancouver
Ortigossa ES. T-Explainer: uma abordagem para a explicabilidade em Aprendizado de Máquina baseada em gradientes [Internet]. 2024 ;[citado 2025 dez. 27 ] Available from: https://www.teses.usp.br/teses/disponiveis/55/55134/tde-11072024-171752/ - Visualização de séries temporais multidimensionais: uma análise sobre a qualidade do ar em São CarlosSP
- T-Explainer: a model-agnostic explainability framework based on gradients
- Getting over high-dimensionality: how multidimensional projection methods can assist data science
- Time series information visualization: a review of approaches and tools
- Analysis and visualization of multidimensional time series: particulate matter (PM10) from São Carlos-SP (Brazil)
- Explainable artificial intelligence (XAI): from theory to methods and applications
Informações sobre o DOI: 10.11606/T.55.2024.tde-11072024-171752 (Fonte: oaDOI API)
How to cite
A citação é gerada automaticamente e pode não estar totalmente de acordo com as normas
