Algoritmos Heurísticos para a Seleção de Neurônios em Redes Neurais Polinômios Potências de Sigmóide (PPS) - Wavelet
DOI:
https://doi.org/10.5540/tema.2007.08.01.0129Resumo
Este artigo trata-se da aplicação das funções PPS-wavelet na área de redes neurais artificiais. Subdividimos estes estudos em duas partes, na primeira parte, serão apresentados os aspectos fundamentais das funções PPS e uma aplicação da utilização das funções PPS-wavelets para o desenvolvimento de redes neurais artificiais com funções de ativação wavelets e, a seguir, serão mostrados três algoritmos para a seleção das funções de ativação, em ordem de apresentação, a técnica de seleção de funções baseada em valor de resíduo, a técnica de seleção de funções passo-a-passo por ortogonalização e a técnica de eliminação recorrente de funções. Todas estas técnicas foram investigadas e implementadas para as redes neurais PPS-wavelet. Um dos principais objetivos da implementação destas técnicas é a contribuição que elas trazem no contexto de inicialização dos parâmetros das redes neurais PPS-wavelets, que são as dilatações, as translações e os pesos sinápticos; de maneira a determinar, segundo cada técnica utilizada, os “melhores” neurônios para compor a camada escondida da arquitetura neural em estudo.Referências
[1] W. Bellil, C.B. Amar, A.M. Alimi, Comparison between beta wavelets neural networks, RBF neural networks and polynomial approximation for 1D, 2D functions approximation, Trans. on Eng., Comp. and Tech., 13 (2006), 102-107.
S. Chen, S. Billings, W. Luo, Orthorgonal least squares learning methods and their application to non-linear system identification, Ind. J. Control, 50 (1989),1873-1896.
C.S. Chui, “An Introduction to Wavelets”, Academic Press, 1992.
G. Cybenko, Approximation by superpositions of a sigmoidal function, Math. of Control, Signals, and Systems, 2 (1989), 303-314.
S. Haykin,“Redes Neurais: Princípios e Práticas”, Bookman, 2001.
K. Hornik, M. Stinchcombe, H. White, Multilayer feedforward networks are universal approximators, Neural Networks, 2 (1989), 359-366.
K.Z. Mao, H. Guang-Bin, Neuron selection for RBF neural network classifier based on data structure preserving criterion , IEEE Trans. on Neural Networks, 16 (2005), 1531-1540.
J.F. Marar, E.C.F. Carvalho, G.C. Vasconcelos, Function approximation by polynomial wavelets generated from powers of sigmoids, SPIE - Wavelet Application III, 2762 (1996), 365-374.
J.F. Marar, “Polinômios Potências de Sigmóide (PPS): Uma Nova Técnica para Aproximação de Funções, Construção de Wavenets e Suas Aplicações em Processamento de Imagens e Sinais”, Tese de Doutorado, UFPE, Recife, PE, 1997.
J.F. Marar, E.C.B. Carvalho Filho, J.D. Santos, Mathematical tests about the existence and applications of PPS wavelets in function approximation problems, in SPIE, 3391 (1998), 455-466.
X. Mei, S.-H. Sun, Comparison of neuron selection algorithms of waveletbased neural network, SPIE - Neural Network and Distributed Processing, 4555 (2001), 121-126.
R.A.B. Queiroz, J.F. Marar, Algoritmo adaptativo baseado no método Levenberg-Marquardt para treinamento de Redes Neurais PPS-wavelet: Aproxima ção de funções-um estudo de caso, em “XI Encontro de Iniciação Científica e Pós-Graduação do Instituto Tecnológico de Aeronáutica”, 2005.
Q. Zhang, A. Benveniste, Wavelet Networks, IEEE Trans. on Neural Networks, 3 (1992).
Q. Zhang, Regressor selection and wavelet network construction, 32nd IEEE Conference on Decision and Control, 4 (1993), 3688-3693.
Q. Zhang, Using wavelet network in nonparametric estimation, IEEE Trans. on Neural Networks, 8 (1997), 227-236.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Política para Periódicos de Acesso Livre
Autores que publicam nesta revista concordam com os seguintes termos:
- Autores mantém os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons Attribution que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
- Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
- Autores têm permissão e são estimulados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou na sua página pessoal) a qualquer ponto antes ou durante o processo editorial, já que isso pode gerar alterações produtivas, bem como aumentar o impacto e a citação do trabalho publicado (Veja O Efeito do Acesso Livre).
- Esta é uma revista de acesso aberto, o que significa que todo o conteúdo é livremente disponível gratuitamente para o usuário ou sua instituição. Os usuários estão autorizados a ler, baixar, copiar, distribuir, imprimir, pesquisar ou vincular os textos completos dos artigos, ou usá-los para qualquer outro propósito legal, sem pedir permissão prévia do editor ou do autor. Isso está de acordo com a definição de acesso aberto do BOAI.
Todo o conteúdo do periódico está licenciado sob uma Licença Creative Commons do tipo atribuição BY.