Estudo dos efeitos das diferentes formas de suavização de ruído em cromatogramas simulados em excel

Registro completo de metadados
MetadadosDescriçãoIdioma
Autor(es): dc.contributorVaz, Fernando Antônio Simas-
Autor(es): dc.contributorDuarte, Lucas Mattos-
Autor(es): dc.contributorMarques, Flávia Ferreira de Carvalho-
Autor(es): dc.creatorLuiz, Thamires da Silva-
Data de aceite: dc.date.accessioned2024-07-11T17:46:14Z-
Data de disponibilização: dc.date.available2024-07-11T17:46:14Z-
Data de envio: dc.date.issued2023-04-06-
Data de envio: dc.date.issued2023-04-06-
Fonte completa do material: dc.identifierhttp://app.uff.br/riuff/handle/1/28493-
Fonte: dc.identifier.urihttp://educapes.capes.gov.br/handle/capes/757126-
Descrição: dc.descriptionCompreender a análise instrumental é essencial para obter resultados analíticos confiáveis exigidos por profissionais de diversas áreas de pesquisa e de atividades industriais. Em cromatografia, que é um grupo de poderosas técnicas de separação utilizadas em vários ramos da ciência e de grande importância na química analítica, a resposta analítica é obtida através de um gráfico do sinal do detector em função do tempo, chamado cromatograma, podendo conter uma série de picos (sinais analíticos) que correspondem aos componentes da amostra. Por mais sofisticados que sejam os cromatógrafos modernos, os cromatogramas envolvem, além dos sinais analíticos, ruídos que podem ser originados na amostra ou por efeitos espúrios intrinsecamente relacionados ao processo de medição. Com isso, surge a necessidade de diminuir de forma efetiva o ruído a fim de minimizar a sua magnitude e aumentar a razão sinal/ruído (S/R), que é um parâmetro de desempenho que indica a qualidade de uma medição analítica. Como os ruídos de alta frequência podem estar presentes mesmo nos picos, os algoritmos para suavização são aplicados em todo o cromatograma, o que faz com que o sinal analítico também possa sofrer alguma distorção indesejada. Neste contexto, é proposto um estudo para avaliar o impacto de quatro diferentes tipos de suavizações de ruído, a fim de se minimizar o ruído, porém preservando o sinal analítico, aumentando, consequentemente, a razão S/R. Para isso, gerou-se um banco de cromatogramas simulados em Excel onde os picos foram formados através de função gaussiana exponencialmente modificada com controle de largura, altura, tempo de retenção, frequência de amostragem e ruído. Os cromatogramas foram posteriormente submetidos ao processamento através do Chromophoreasy, um programa desenvolvido em Visual Basic for Applications (VBA) em ambiente Excel para reconhecimento e integração de picos em dados cromatográficos ou de eletromigração, a fim de avaliar o impacto da suavização por média móvel, função Gaussiana, função polinomial de 2ª ordem e polinomial de 4ª ordem. O método baseado na média móvel foi o mais adequado para reduzir os níveis de ruído, seguido das funções Gaussiana, polinomial de 2ª ordem e polinomial de 4ª ordem. Porém, as distorções indesejadas observadas nos picos cromatográficos também foram maiores com o uso da média móvel, seguindo esta mesma ordem. O tamanho da janela de suavização foi avaliado em todos os modos de suavização, sendo que, de forma geral, quanto maior a janela, maior o poder de suavização do ruído e, no entanto, maior a distorção do sinal analítico. Com o modelo Gaussiano e uma janela de suavização de onze pontos, foi possível combinar uma boa capacidade de suavização com uma boa preservação do formato do pico investigado. Assim, este modelo foi empregado para se avaliar o impacto da suavização aplicada em dados cromatográficos para construção de curvas de calibração analítica simuladas. Para comparação, uma curva foi construída através da integração de cromatogramas simulados contendo um pico com alturas crescentes (representando concentrações analíticas) e ruído, e a outra, através da integração destes mesmos cromatogramas, porém suavizados. Comparando- se os resultados obtidos da curva submetida à suavização, observou-se uma melhora nos parâmetros relacionados à dispersão dos pontos, como erros-padrão de regressão, de interseção e do coeficiente de determinação. Além disso, os coeficientes de inclinação e de interseção permaneceram satisfatoriamente inalterados, em relação à curva de calibração simulada original. Com isso, este trabalho mostrou que as funções de suavização são ferramentas muito promissoras para aplicação na integração dos dados (e não apenas para o reconhecimento de picos cromatográficos), desde que empregadas com critério, permitindo a obtenção de resultados quantitativos mais confiáveis.-
Descrição: dc.descriptionUnderstanding instrumental analysis is crucial to obtain reliable analytical results required by professionals from different areas of research and industrial activities. In chromatography, which is a group of powerful separation techniques used in various branches of science and of great importance in analytical chemistry, the analytical response is obtained through a graph of the detector signal as a function of time, called a chromatogram, which may contain a series of peaks (analytical signals) that correspond to sample components. As sophisticated as modern chromatographs are, chromatograms involve, in addition to analytical signals, noise that may be originated in the sample or by spurious effects intrinsically related to the measurement process. As a result, there is a need to effectively reduce noise in order to minimize its magnitude and increase the signal-to-noise (S/N) ratio, which is a performance parameter that indicates the quality of an analytical measurement. As high frequency noise can be present even in the peaks, smoothing algorithms are applied throughout the entire chromatogram, which means that the analytical signal can also suffer some undesirable distortion. In this context, a study is proposed to evaluate the impact of four different types of noise smoothing, in order to minimize the noise, but preserving the analytical signal, consequently increasing the S/N ratio. For this, a set of simulated chromatograms was generated in Excel where the peaks were formed through an exponentially modified Gaussian function with control of width, height, retention time, sampling frequency and noise. The chromatograms were subsequently submitted to processing through Chromophoreasy, a program developed in Visual Basic for Applications (VBA) in Excel environment for recognizing and integrating peaks in chromatographic or electromigration data, in order to evaluate the impact of smoothing by moving average, Gaussian function, 2nd order polynomial function and 4th order polynomial function. The method based on the moving average was the most adequate to reduce noise levels, followed by the Gaussian, 2nd and then 4th order polynomial functions. However, the unwanted distortions observed in the chromatographic peaks were also greater throughout the use of the moving average, following this same sequence. The smoothing window size was evaluated in all smoothing modes, and, in general, the larger the window, the greater the noise smoothing power and, however, the greater the distortion of the analytical signal. With the Gaussian model and an eleven-point smoothing window, it was possible to combine a good smoothing capability with a good preservation of the investigated peak shape. Thus, this model was used to evaluate the impact of smoothing applied to chromatographic data for the construction of simulated analytical calibration curves. For comparison, one curve was constructed through the integration of simulated chromatograms containing a peak with increasing heights (representing analytical concentrations) and noise, and the other, through the integration of these same chromatograms, but smoothed. Comparing the results obtained from the curve submitted to smoothing, an improvement was observed in the parameters related to the dispersion of the points, such as standard errors of regression and intersection, and coefficient of determination. Furthermore, the slope and intersection coefficients remained satisfactorily unchanged from the original simulated calibration curve. Thus, this work showed that the smoothing functions are very promising tools for application in data integration (and not just for the recognition of chromatographic peaks), provided that they are used with discretion, allowing to obtain more reliable quantitative results.-
Descrição: dc.description65 p.-
Formato: dc.formatapplication/pdf-
Idioma: dc.languagept_BR-
Direitos: dc.rightsOpen Access-
Direitos: dc.rightsCC-BY-SA-
Palavras-chave: dc.subjectCromatografia-
Palavras-chave: dc.subjectCromatograma-
Palavras-chave: dc.subjectPico cromatográfico-
Palavras-chave: dc.subjectRuído-
Palavras-chave: dc.subjectSuavização-
Palavras-chave: dc.subjectChromophoreasy-
Palavras-chave: dc.subjectCromatografia-
Palavras-chave: dc.subjectRuído-
Palavras-chave: dc.subjectAnálise instrumental (Química)-
Palavras-chave: dc.subjectMedição-
Palavras-chave: dc.subjectSuavização (Análise numérica)-
Palavras-chave: dc.subjectChromatography-
Palavras-chave: dc.subjectChromatogram-
Palavras-chave: dc.subjectChromatographic peak-
Palavras-chave: dc.subjectNoise-
Palavras-chave: dc.subjectSmoothing-
Palavras-chave: dc.subjectChromophoreasy-
Título: dc.titleEstudo dos efeitos das diferentes formas de suavização de ruído em cromatogramas simulados em excel-
Tipo de arquivo: dc.typeTrabalho de conclusão de curso-
Aparece nas coleções:Repositório Institucional da Universidade Federal Fluminense - RiUFF

Não existem arquivos associados a este item.