Evaluation of Transformer-Based Large Language Models for Email Spam Detection Using BERT, Phi, and Gemma

Registro completo de metadados
MetadadosDescriçãoIdioma
Autor(es): dc.contributorUniversidade Estadual Paulista (UNESP)-
Autor(es): dc.creatorGrassmann, Ana Clara C.-
Autor(es): dc.creatorFeitosa, Juliana C.-
Autor(es): dc.creatorBrega, José R.F.-
Autor(es): dc.creatorda Costa, Kelton A.P.-
Data de aceite: dc.date.accessioned2025-08-21T16:44:46Z-
Data de disponibilização: dc.date.available2025-08-21T16:44:46Z-
Data de envio: dc.date.issued2025-04-29-
Data de envio: dc.date.issued2024-12-31-
Fonte completa do material: dc.identifierhttp://dx.doi.org/10.19139/soic-2310-5070-2267-
Fonte completa do material: dc.identifierhttps://hdl.handle.net/11449/304869-
Fonte: dc.identifier.urihttp://educapes.capes.gov.br/handle/11449/304869-
Descrição: dc.descriptionIn this paper, we study how LLMs based on the transformer architecture work and the possibility of adjusting these models to use only the body of email messages to classify them as spam or ham. The models studied are BERT, Gemma, and Phi. All of them underwent quantization stages, fine-tuning with a real dataset, and evaluation with metrics commonly used in binary classification problems. The Gemma model achieves over 99% accuracy in detecting spam, standing out as the best among the compared models.-
Descrição: dc.descriptionFundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP)-
Descrição: dc.descriptionDepartment of Computing São Paulo State University - UNESP-
Descrição: dc.descriptionDepartment of Computing São Paulo State University - UNESP-
Descrição: dc.descriptionFAPESP: 2023/12830-0-
Formato: dc.format459-473-
Idioma: dc.languageen-
Relação: dc.relationStatistics, Optimization and Information Computing-
???dc.source???: dc.sourceScopus-
Palavras-chave: dc.subjectBinary Classification-
Palavras-chave: dc.subjectCybersecurity-
Palavras-chave: dc.subjectFine-Tuning-
Palavras-chave: dc.subjectLarge Language Models-
Palavras-chave: dc.subjectSpam Detection-
Título: dc.titleEvaluation of Transformer-Based Large Language Models for Email Spam Detection Using BERT, Phi, and Gemma-
Tipo de arquivo: dc.typelivro digital-
Aparece nas coleções:Repositório Institucional - Unesp

Não existem arquivos associados a este item.