A Clustering Based Method to Stipulate the Number of Hidden Neurons of mlp Neural Networks: Applications in Pattern Recognition
DOI:
https://doi.org/10.5540/tema.2008.09.02.0351Resumo
In this paper, we propose an algorithm to obtain the number of necessary hidden neurons of single-hidden-layer feed forward networks (SLFNs) for different pattern recognition application tasks. Our approach is based on clustering analysis of the data in each class. We show by simulations that the proposed approach requires less computation CPU time and error rates as well as a smaller number of neurons than other methods.Referências
[1] A. Asuncion, D.J. Newman, “UCI Machine Learning Repository”, Irvine, CA: University of California, School of Information and Computer Science, 2007. Available: http://www.ics.uci.edu/~mlearn/MLRepository.html
W. Duch, R. Adamczak, N. Jankowski, Initialization and optimization of multilayered perceptrons, in “Proceedings of the 3th Conference on Neural Networks and Their Applications”, pp. 105-110, 1997.
G.B. Huang, H.A. Babri, Upper bounds on the number of hidden neuron in feedforward networks with arbitrary bounded nonlinear activation functions, IEEE Transactions on Neural Networks, 9, No. 1 (1998), 224-229.
R.A. Johnson, D.W. Wichern, “Applied Multivariate Statistical Analysis”, 5th ed., Prentice Hall, Upper Saddle River, 2002.
R.P. Lippmann, Pattern classification using neural networks, IEEE Communications Magazine, (1989), 47-64.
S.A. Mingoti, “An´alise de Dados atrav´es de Metodos de Estat´ıstica Multivariada: uma Abordagem Aplicada”, UFMG, Belo Horizonte, 2005.
H.C. Romesburg, “Cluster Analysis for Researchers”, Robert E. Krieger, Malabar, 1990.
M.R. Silvestre, L.L. Ling, Optimization of neural classifiers based on Bayesian decision boundaries and idle neurons pruning, in “Proceedings of the 16th International Conference on Pattern Recognition”, pp. 387-390, 2002.
N. Weymaere, J.P. Martens, On the initialization and optimization of multilayer perceptrons, IEEE Transactions on Neural Networks, 5, No. 5, (1994), 738-751.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Política para Periódicos de Acesso Livre
Autores que publicam nesta revista concordam com os seguintes termos:
- Autores mantém os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons Attribution que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
- Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
- Autores têm permissão e são estimulados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou na sua página pessoal) a qualquer ponto antes ou durante o processo editorial, já que isso pode gerar alterações produtivas, bem como aumentar o impacto e a citação do trabalho publicado (Veja O Efeito do Acesso Livre).
- Esta é uma revista de acesso aberto, o que significa que todo o conteúdo é livremente disponível gratuitamente para o usuário ou sua instituição. Os usuários estão autorizados a ler, baixar, copiar, distribuir, imprimir, pesquisar ou vincular os textos completos dos artigos, ou usá-los para qualquer outro propósito legal, sem pedir permissão prévia do editor ou do autor. Isso está de acordo com a definição de acesso aberto do BOAI.
Todo o conteúdo do periódico está licenciado sob uma Licença Creative Commons do tipo atribuição BY.