Topology and learning of a class RNN

Geri beslemeli eğitilebilir sinir ağlarının (RTNN,) sürekli ve ayrık zaman matematiksel modellerinin birleşik bir durum-uzayı gösterimi verilmiştir. Yeni model, Jordon ve Luenberger'in (eş) denetlenebilir ve gözlenebilir basit yapılarına ilişkin üç sinir ağı modelinin dikkatli bir şekilde incelenmesiyle elde edilmiştir. Sürekli sinir ağı modeli eğer sistemin özdeğerlerinin gerçek kısımları negatif ise kararlı olacaktır. Ayrık zaman sinir ağı modelinin davranışı ayrıklaştırma dönemine bağlıdır. Ayrık zaman sinir ağı modeli eğer sistemin özdeğerleri birim dairenin içinde ise kararlı olacaktır. RTNN öğrenimi için, iyi bilinen "geri yaydım" yöntemine benzer yeni bir yöntem önerilmiştir. Sistem azaltması sayesinde, öğrenmenin ortalama kare hatasını enküçültecek, en uygun bir model ve yapıyı seçmek mümkündür.

Bir geri beslemeli eğitilebilir sinir ağları sınıf için topoloji ve öğrenme

An unified state-space representation of continuous and discrete-time mathematical models of Recurrent Trainable NNs (RTNN); is given. The new model is obtained after careful consideration of three types NN models, corresponding to the Jordan canonical form and both the Controllable and Observable Luenberger's (or companion) canonical forms. The continuous NN model will be stable if system eigenvalues have negative real parts. The behaviour of the discrete-time NN model depends on the period of discretization. The discrete-time NN model will be stable if system eigenvalues are inside the unit circle. A new method for RTNN learning, similar to the well known Backpropagation method, is proposed. By means of system reduction, it is possible to choose the most appropriate model order and structure, minimising the obtained mean square error of learning.

___