Neural Network Binary Factorization as a Tool for Large Dataset Clustering

0031747 - UIVT-O 336081 RIV CZ eng K - Konferenční příspěvek (tuzemská konf.)
Frolov, A. A. - Húsek, Dušan - Snášel, Václav - Řezanková, H. - Polyakov, P.Y.
Neural Network Binary Factorization as a Tool for Large Dataset Clustering.
[Binární faktorová analýza založená na neuronových sítích jako nástroj pro shlukování velkých datových souborů.]
ELNET 2004. Ostrava: Technical University, 2004 - (Snášel, V.), s. 64-88. ISBN 80-248-0738-6.
[ELNET 2004. Workshop /1./. Ostrava (CZ), 07.12.2004-09.12.2004]
Grant CEP: GA ČR(CZ) GA201/01/1192
Výzkumný záměr: CEZ:AV0Z1030915
Klíčová slova: associative memory * Hopfield model * neural network * boolean factor analysis
Kód oboru RIV: BB - Aplikovaná statistika, operační výzkum

The feature space transformation is a widely used method for data compression. Due to this transformation the original patterns are mapped into the space of features or factors of reduced dimensionality. In this paper we demonstrate that Hebbian learning in Hopfield-like neural network is a natural procedure for binary factorization. This paper is dedicated to estimation of the size of attraction basins around factors. Two global spurious attractors are shown to prevent convergence of the network activity to the factors invalidating any procedure of their search. These global attractors can be completely deleted from network dynamics by introducing a single inhibitory neuron with bi-directional Hebbian synapses. Due to additional inhibition, the size of attraction basins around factors becomes the same as around the stored patterns in usual Hopfield network.

Transformace prostoru příznaků je velmi častou metodou komprese dat.Prostor příznaků je transformován do prostoru faktorů o nižší dimenzi. Zde je ukázáno, že pro binární případ lze k tomuto účelu použít variantu Hopfieldovy NS. Studována je velikost oblastí atrakce po odstranění dvou globálních atraktorů pomocí jednoho neuronu s dvosměrnými Hebbovskými synapsemi a je ukázáno že oblasti atrakce kolem faktorů jsou řízeny stejnou zákonitostí jako u tradiční Hopfieldovy sítě.
Trvalý link: http://hdl.handle.net/11104/0132401