Modelul de baza la neuronului

Modelul de baza la neuronului

Unitatea fundamentala a unei ANN este elementul de procesare numit neuron artificial, foarte putin asemanator cu neuronul biologic. El are in general n intrari surse de semnale x_j. Fiecare intrare, inainte de a fi introdusa intr-un element de procesare, este ponderata printr-o intensitate a conexiunii (sau factor de ponderare) w_j. Aditional, elementul de procesare este caracterizat printr-o valoare de prag , care trebuie atinsa sau depasita pentru ca neuronul sa produca un semnal R (in general o suma a unor valori initiale w₀ ale ponderilor de conexiune). Asupra semnalului produs R actioneaza o functie de activare F, a carei iesire poate reprezenta o intrare pentru alti neuroni. Daca neuronii sunt parti ai unei retele, ei se mai numesc noduri. Daca reteaua are m noduri, fiecare din ele este desemnat printr-un indice aditional i, cu valori intre 1 si m.

Figura 10.10. Modelul de baza al neuronului si modul sau de lucru

Structura modelului de baza si modul sau de lucru sunt ilustrate in Figura III.10. Functia de transfer a modelului de baza este:

(3.68)

cu conditia de activare a neuronului:

(3.69)

Functia neliniara cu raspuns marginit F este aleasa in functie de modelul si algoritmul de instruire utilizate, cel mai frecvent fiind alese neliniaritati de tip sigmoidal sau hard-limiter ( Figura III.11).

Functiile sigmoidale sunt monotone si marginite, cu o derivata simpla, dar neliniara: . Functia hard-limiter nu este monotona (are o discontinuitate in origine) si deci nu este usor diferentiabila, dar intre anumite limite este liniara si are o derivata constanta, f'(s) = k.

Figura III.11. Neliniaritati tipice pentru functia de activare a neuronului artificial

Functiile sigmoidale sunt monotone si marginite, cu o derivata simpla, dar neliniara: . Functia hard-limiter nu este monotona (are o discontinuitate in origine) si deci nu este usor diferentiabila, dar intre anumite limite este liniara si are o derivata constanta, f'(s)=k.

Pentru proiectarea unei ANN cu capacitatea de a recunoaste modele, in conditiile in care la intrarea ei informatia poate fi completa, partiala sau perturbata, trebuie determinati numerosi parametri: topologia retelei si numarul ei de nivele (sau straturi), numarul de neuroni (sau noduri) de pe fiecare nivel, algoritmul de instruire ce va fi utilizat, numarul de iteratii de calcul necesare pentru invatarea unui model si numarul calculelor pe o iteratie, viteza de instruire, capacitatea retelei (adica multimea modelelor pe care aceasta le poate recunoaste), plasticitatea retelei (adica numarul de neuroni care pot fi dezactivati fara ca reteaua sa-si piarda esential capacitatea functionala), adaptabilitatea retelei (adica gradul in care aceasta, dupa instruire, se poate adapta singura la situatii noi), robustetea retelei (adica gradul ei de insensibilitate la avarii partiale sau semnale de intrare incomplete sau imprecise), valorile de prag ale activarii neuronilor, limitele ponderilor de conexiune care sa asigure o relativa imunitate la perturbatii, tipul functiei neliniare de activare, valorile de echilibru (sau finale) ale ponderilor.