Atenção:
O eduCAPES é um repositório de objetos educacionais, não sendo responsável por materiais de terceiros submetidos na plataforma. O usuário assume ampla e total responsabilidade quanto à originalidade, à titularidade e ao conteúdo, citações de obras consultadas, referências e outros elementos que fazem parte do material que deseja submeter. Recomendamos que se reporte diretamente ao(s) autor(es), indicando qual parte do material foi considerada imprópria (cite página e parágrafo) e justificando sua denúncia.
Caso seja o autor original de algum material publicado indevidamente ou sem autorização, será necessário que se identifique informando nome completo, CPF e data de nascimento. Caso possua uma decisão judicial para retirada do material, solicitamos que informe o link de acesso ao documento, bem como quaisquer dados necessários ao acesso, no campo abaixo.
Todas as denúncias são sigilosas e sua identidade será preservada. Os campos nome e e-mail são de preenchimento opcional. Porém, ao deixar de informar seu e-mail, um possível retorno será inviabilizado e/ou sua denúncia poderá ser desconsiderada no caso de necessitar de informações complementares.
Metadados | Descrição | Idioma |
---|---|---|
Autor(es): dc.contributor | Universidade Estadual Paulista (UNESP) | - |
Autor(es): dc.creator | da Feitosa, Juliana Costa | - |
Autor(es): dc.creator | Roder, Mateus | - |
Autor(es): dc.creator | Papa, João Paulo | - |
Autor(es): dc.creator | Brega, José Remo Ferreira | - |
Data de aceite: dc.date.accessioned | 2025-08-21T22:03:56Z | - |
Data de disponibilização: dc.date.available | 2025-08-21T22:03:56Z | - |
Data de envio: dc.date.issued | 2025-04-29 | - |
Data de envio: dc.date.issued | 2023-12-31 | - |
Fonte completa do material: dc.identifier | http://dx.doi.org/10.5220/0012424800003660 | - |
Fonte completa do material: dc.identifier | https://hdl.handle.net/11449/309700 | - |
Fonte: dc.identifier.uri | http://educapes.capes.gov.br/handle/11449/309700 | - |
Descrição: dc.description | The current scenario around Artificial Intelligence (AI) has demanded more and more transparent explanations about the existing models. The use of eXplicable Artificial Intelligence (XAI) has been considered as a solution in the search for explainability. As such, XAI methods can be used to verify the influence of adverse scenarios, such as pixel disturbance on AI models for segmentation. This paper presents the experiments performed with fish images of the Pacu species to determine the influence of pixel perturbation through the following explainable methods: Grad-CAM, Saliency Map, Layer Grad-CAM and CNN Filters. The perturbed pixels were considered the most important for the model during the segmentation process of the input image regions. From the existing pixel perturbation techniques, the images were subjected to three main techniques: white noise, color black noise and random noise. From the results obtained, it was observed that the Grad-CAM method had different behaviors for each perturbation technique tested, while the CNN Filters method showed more stability in the variation of the image averaging. The Saliency Map was the least sensitive to the three types of perturbation, as it required fewer iterations. Furthermore, of the perturbation techniques tested, Black noise showed the least ability to impact segmentation. Thus, it is concluded that the perturbation methods influence the outcome of the explainable models tested and interfere with these models in different ways. It is suggested that the experiments presented here be replicated on other AI models, on other explainability methods, and with other existing perturbation techniques to gather more evidence about this influence and from that, quantify which combination of XAI method and pixel perturbation is best for a given problem. | - |
Descrição: dc.description | Departmant of Computing School of Science Sao Paulo State University (UNESP) | - |
Descrição: dc.description | Departmant of Computing School of Science Sao Paulo State University (UNESP) | - |
Formato: dc.format | 624-631 | - |
Idioma: dc.language | en | - |
Relação: dc.relation | Proceedings of the International Joint Conference on Computer Vision, Imaging and Computer Graphics Theory and Applications | - |
???dc.source???: dc.source | Scopus | - |
Palavras-chave: dc.subject | Artificial Intelligence | - |
Palavras-chave: dc.subject | eXplainable Artificial Intelligence | - |
Palavras-chave: dc.subject | Pixel Pertubation | - |
Título: dc.title | Influence of Pixel Perturbation on eXplainable Artificial Intelligence Methods | - |
Tipo de arquivo: dc.type | aula digital | - |
Aparece nas coleções: | Repositório Institucional - Unesp |
O Portal eduCAPES é oferecido ao usuário, condicionado à aceitação dos termos, condições e avisos contidos aqui e sem modificações. A CAPES poderá modificar o conteúdo ou formato deste site ou acabar com a sua operação ou suas ferramentas a seu critério único e sem aviso prévio. Ao acessar este portal, você, usuário pessoa física ou jurídica, se declara compreender e aceitar as condições aqui estabelecidas, da seguinte forma: