Usuari:Mcapdevila/Perceptró

perceptró amb 2 entrades

El perceptró és un tipus de xarxa neuronal artificial desenvolupat per Frank Rosenblatt, vegeu perceptró multicapa, també es pot entendre com perceptró la neurona artificial i unitat bàsica d'inferència a forma de discriminador lineal, que constitueix aquest model de xarxa neuronal artificial, això pel fet que el perceptró pot usar-se com neurona dins d'un perceptró més gran o un altre tipus de xarxa neuronal artificial.

El perceptró utilitza una matriu per a representar les xarxes neuronals i és un discriminador terciari que traça la seva entrada $x$ (un vector binari) a un únic valor de sortida $f(x)$ (un sol valor binari) a través d'aquesta matriu.

$f(x)={\begin{cases}1&{\text{if }}w\cdot x+b>0\\0&{\text{else}}\end{cases}}$

On $w$ és un vector de pesos reals i $w\cdot x$ és el producte escalar (que computa una suma ponderada). $o$ és el 'llindar', el qual representa el grau d'inhibició de la neurona, és un terme constant que no depèn del valor que prengui l'entrada.

El valor de $f(x)$ (0 o 1) s'usa per classificar $x$ com un positiu o un cas negatiu, en el cas d'un problema de la classificació binari. El llindar pot pensar de com compensar la funció d'activació, o donant un nivell baix d'activitat a la neurona del rendiment. La suma ponderada de les entrades ha de produir un valor més gran que $o$ per canviar la neurona d'estat 0 a 1.

Aprenentatge

L'algorisme d'aprenentatge és el mateix per a totes les neurones, tot el que segueix s'aplica a una sola neurona en l'aïllament. Nosaltres definim algunes variables primer:

• El $x(j)$ denota l'element en la posició $j$ en el vector de l'entrada
• El $w(j)$ l'element en la posició $j$ en el vector de pes
• El $i$ denota la sortida de la neurona
• El $\delta$ denota la sortida esperada
• El $\alpha$ és una constant tal que $0<\alpha <1$

Els pesos són actualitzats després de cada entrada segons la regla d'actualització següent:

$W(j)'=w(j)+\alpha (\delta -i)x(j)\,$

Per la qual cosa, l'aprenentatge és modelat com l'actualització del vector de pes després de cada iteració, la qual cosa només tindrà lloc si la sortida $i$ difereix de la sortida desitjada $\delta$ . Per considerar una neurona en interactuar en múltiples iteracions hem de definir algunes variables més:

• $X_{i}$ denota el vector d'entrada per a la iteració i
• $W_{i}$ denota el vector de pes per a la iteració i
• $Y_{i}$ denota la sortida per a la iteració i
• $D_{m}=\{(x_{1},y_{1}),\dots ,(x_{m},y_{m})\}$ denota un període d'aprenentatge de $m$ iteracions

En cada iteració el vector de pes és actualitzat de la manera següent:

• Per a cada parella ordenada $(x,y)$ en $D_{m}=\{(x_{1},y_{1}),\dots ,(x_{m},y_{m})\}$
• Passar $(x_{i},y_{i},w_{i})$ a la regla d'actualització $w(j)'=w(j)+\alpha (\delta -i)x(j)$

El període d'aprenentatge $D_{m}$ es diu que és separable linealment si existeix un valor positiu $\gamma$ i un vector de pes $w$ tal que: $y_{i}\cdot \left(\langle w,x_{i}\rangle +o\right)>\gamma$ per a tots els $i$.

Novikoff (1962) va provar que l'algorisme d'aprenentatge convergeix després d'un nombre finit d'iteracions si les dades són separables linealment i el nombre d'errors està limitat a: $\left({\frac {2R}{\gamma }}\right)^{2}$.

No obstant això si les dades no són separables linealment, la línia d'algorisme anterior no es garanteix que convergeixi.

Exemple

Considereu les funcions AND i OR, aquestes funcions són linealment separables i per tant poden ser apreses per un perceptró.

La funció XOR no pot ser apresa per un únic perceptró ja que requereix almenys de dues línies per separar les classes (0 i 1). S'ha d'utilitzar almenys una capa addicional de perceptró per permetre el seu aprenentatge.