A study about Explainable Articial Intelligence: using decision tree to explain SVM (2020)
- Authors:
- USP affiliated authors: DIGIAMPIETRI, LUCIANO ANTONIO - EACH ; VIEIRA, CARLA PIAZZON RAMOS - EACH
- Unidade: EACH
- DOI: 10.5335/rbca.v12i1.10247
- Subjects: INTELIGÊNCIA ARTIFICIAL; APRENDIZADO COMPUTACIONAL
- Language: Inglês
- Abstract: As tecnologias baseadas em Inteligência Artificial (IA) avançaram rapidamente nos últimos e anos e a IA está se tornando comum em todos os aspectos da vida, como o futuro dos carros autônomos ou agilidade em diagnósticos médicos. Para que isso ocorra, toda a comunidade está diante da barreira da explicabilidade, um problema inerente às mais recentes técnicas trazidas por modelos mais complexos de aprendizado máquina (por exemplo, redes neurais profundas) que não estavam presentes na última onda de IA (modelos baseados em regras). A maioria desses modelos mais recentes é usada como caixa preta, sem entender parcialmente ou até completamente como diferentes características influenciam nas predições do modelo, evitando a transparência algorítmica. Este artigo foca na identificação da melhor maneira de entender as decisões tomadas por um classificador SVM em uma abordagem agnóstica post-hoc. Além disso, treinamos um modelo baseado em árvore de decisão (inerentemente interpretável) usando rótulos do SVM, chamado de dado secundário de treinamento, para fornecer explicações e comparar a importância das características por meio do método de permutação com as métricas mais usadas, como acurácia, e mostrar que nossos métodos e técnicas são mais significativos. Também delineamos os principais desafios de tais métodos e concluímos que a interpretabilidade post-hoc é um componente essencial para tornar o aprendizado de máquina mais confiável
- Imprenta:
- Publisher place: Passo Fundo
- Date published: 2020
- Source:
- Título: Revista Brasileira de Computação Aplicada
- ISSN: 2176-6649
- Volume/Número/Paginação/Ano: v. 12, n. 1, p. 113-121, abr. 2020
- Este periódico é de acesso aberto
- Este artigo NÃO é de acesso aberto
-
ABNT
VIEIRA, Carla Piazzon Ramos e DIGIAMPIETRI, Luciano Antonio. A study about Explainable Articial Intelligence: using decision tree to explain SVM. Revista Brasileira de Computação Aplicada, v. 12, n. 1, p. 113-121, 2020Tradução . . Disponível em: https://doi.org/10.5335/rbca.v12i1.10247. Acesso em: 24 fev. 2026. -
APA
Vieira, C. P. R., & Digiampietri, L. A. (2020). A study about Explainable Articial Intelligence: using decision tree to explain SVM. Revista Brasileira de Computação Aplicada, 12( 1), 113-121. doi:10.5335/rbca.v12i1.10247 -
NLM
Vieira CPR, Digiampietri LA. A study about Explainable Articial Intelligence: using decision tree to explain SVM [Internet]. Revista Brasileira de Computação Aplicada. 2020 ; 12( 1): 113-121.[citado 2026 fev. 24 ] Available from: https://doi.org/10.5335/rbca.v12i1.10247 -
Vancouver
Vieira CPR, Digiampietri LA. A study about Explainable Articial Intelligence: using decision tree to explain SVM [Internet]. Revista Brasileira de Computação Aplicada. 2020 ; 12( 1): 113-121.[citado 2026 fev. 24 ] Available from: https://doi.org/10.5335/rbca.v12i1.10247 - Machine learning post-hoc interpretability: a systematic mapping study
- Uso de agrupamento para alcançar explicabilidade global de modelos de aprendizado de máquina
- Improving researcher’s area of expertise identification using TF-IDF Characters N-grams
- Methods and Challenges in Social bots Detection: a Systematic Review
- A systematic review of automated feature engineering solutions in machine learning problems
- Desenvolvimento de jogos para o aperfeiçoamento na aprendizagem de disciplinas de ciência da computação
- Análise da relação entre obtenção de bolsas de produtividade do CNPq e medidas bibliométricas e de análise de redes sociais
- Dinâmica das relações de coautoria nos programas de pós-graduação em computação no Brasil
- Análise da evolução das relações de coautoria nos programas de pós-graduação em computação no Brasil
- Um estudo de caso sobre genes compartilhados e mais representativos para bactérias do gênero Xanthomonas
Informações sobre o DOI: 10.5335/rbca.v12i1.10247 (Fonte: oaDOI API)
How to cite
A citação é gerada automaticamente e pode não estar totalmente de acordo com as normas
