Safety ArtISt: um método para a garantia de segurança crítica de sistemas com inteligência artificial. (2024)
- Authors:
- Autor USP: SILVA NETO, ANTONIO VIEIRA DA - EP
- Unidade: EP
- Sigla do Departamento: PCS
- Subjects: AGENTES INTELIGENTES; ENGENHARIA DE SISTEMAS DE COMPUTAÇÃO; FALHAS COMPUTACIONAIS; INTELIGÊNCIA ARTIFICIAL; SEGURANÇA DE SOFTWARE
- Agências de fomento:
- Language: Português
- Abstract: Quarta Revolução Industrial levou, entre outras características, ao aumento da presença de Inteligência Artificial (IA) em sistemas de engenharia críticos em relação à segurança (safety) e reforça a tendência de que a década de 2020 é o ponto de inflexão para que métodos de garantia de segurança de sistemas críticos dotados de IA sejam estabelecidos visando à certificação desses sistemas para operação comercial. Normas técnicas e pesquisas científicas correlatas possuem duas limitações principais: (i.) a contextualização incipiente da IA nos processos de garantia de segurança atrelados ao ciclo de vida de sistemas de engenharia e (ii.) a escassez de diretrizes detalhadas sobre técnicas de garantia de segurança recomendáveis para cada categoria de IA. Dentro desse contexto, a presente pesquisa possui três objetivos principais. O primeiro deles é definir um método iterativo e incremental para promover a garantia de segurança de sistemas que incluem IA, mediante um processo de levantamento dedutivo de requisitos de segurança e de verificação indutiva sob óticas qualitativa e quantitativa. O segundo, por sua vez, é agregar ao método técnicas de garantia de segurança de IA já presentes na literatura e outras técnicas e melhorias concebidas durante a pesquisa para generalizar o método para diferentes categorias de IA e implementações (software e hardware programável). Por fim, o terceiro objetivo consiste em identificar técnicas promissoras e recomendáveis de garantia de segurança e mapeá-las em cada categoria de IA e etapa do ciclo de vida. O método Safety ArtISt (Safety Artificial Intelligence Structure), detalhado nesta tese, foi concebido visando ao atendimento dos três objetivos prévios. Ele foi avaliado por meio de um benchmark de facto, composto por quatro estudos de caso idealizados para exercitar a íntegra do método e avaliar,qualitativa e quantitativamente, como os resultados obtidos corroboram os objetivos da pesquisa. Tais resultados evidenciam que o método Safety ArtISt cumpre tais objetivos, uma vez que ele se mostrou eficaz em promover o desenvolvimento de sistemas críticos em relação à segurança com IA e em identificar e mitigar, de forma antecipada, potenciais problemas de segurança não antevistos em projetos realizados, por terceiros, sem o uso do método. Trabalhos futuros para o seguimento da pesquisa em áreas correlatas também são explorados.
- Imprenta:
- Data da defesa: 18.06.2024
-
ABNT
SILVA NETO, Antonio Vieira da. Safety ArtISt: um método para a garantia de segurança crítica de sistemas com inteligência artificial. 2024. Tese (Doutorado) – Universidade de São Paulo, São Paulo, 2024. Disponível em: https://www.teses.usp.br/teses/disponiveis/3/3141/tde-14112024-090238/pt-br.php. Acesso em: 03 jan. 2026. -
APA
Silva Neto, A. V. da. (2024). Safety ArtISt: um método para a garantia de segurança crítica de sistemas com inteligência artificial. (Tese (Doutorado). Universidade de São Paulo, São Paulo. Recuperado de https://www.teses.usp.br/teses/disponiveis/3/3141/tde-14112024-090238/pt-br.php -
NLM
Silva Neto AV da. Safety ArtISt: um método para a garantia de segurança crítica de sistemas com inteligência artificial. [Internet]. 2024 ;[citado 2026 jan. 03 ] Available from: https://www.teses.usp.br/teses/disponiveis/3/3141/tde-14112024-090238/pt-br.php -
Vancouver
Silva Neto AV da. Safety ArtISt: um método para a garantia de segurança crítica de sistemas com inteligência artificial. [Internet]. 2024 ;[citado 2026 jan. 03 ] Available from: https://www.teses.usp.br/teses/disponiveis/3/3141/tde-14112024-090238/pt-br.php - Modelo de predição de falhas baseado em processos estocásticos e filtragem Kalman para suporte à manutenção preditiva de sistemas elétricos, eletrônicos e programáveis
- Safety assurance of artificial intelligence-based systems: a systematic literature review on the state of the art and guidelines for future work
- Design and assurance of safety-critical systems with artificial intelligence in FPGAs: the safety ArtISt method and a case study of an FPGA-Based autonomous vehicle braking control system
How to cite
A citação é gerada automaticamente e pode não estar totalmente de acordo com as normas
