Aprendizaje supervisado



Descargar 28.48 Kb.
Fecha de conversión18.12.2018
Tamaño28.48 Kb.
APRENDIZAJE SUPERVISADO
REGLA DELTA - LMS

Se aplica en entrenamientos Supervisados y, es utilizada para entrenar un simple elemento de procesado con función de transferencia lineal.


Evidentemente, se pueden combinar un cierto nº de PE en una capa (capa de salida), formando así una estructura con un cierto grado de complejidad. En este caso, para el entrenamiento se aplica dicha regla sobre cada uno de los PE de manera individual.
A esta regla también se la conoce por el nombre de Regla de Widrow-Hoff, ya que, éste la utilizó en su modelo de neurona Adaline (Adaptive Linear Elemento).

Es una estructura lineal, porque cada una de las salidas reprensenta una función lineal de los valores de entrada.




La idea de esta regla consiste en modificar los pesos para tratar de reducir la diferencia entre la salida deseada para cada patrón y la salida obtenida para cada uno de ellos. Se denomina LMS, porque minimiza el Error cuadrático medio sobre todos los patrones de entrenamiento.

Cálculo de los Pesos Optimos
Supongamos el conjunto de patrones de entrenamiento:(X,D), siendo X un conjunto de "L" vectores de dimensión "n" y D un conjunto de "L" vectores de dimensión "m", representando cada uno de ellos los patrones de entrada (cada uno de ellos con "n" entradas) y las salidas deseadas correspondientes.
La Regla Delta se utiliza sobre elementos individuales de procesado por lo que en el desarrollo que se hará a continuación, se tendrán en cuenta dicho hecho significando que, la salida deseada para cada patrón será un vector de dimensión 1 (un sólo PE).
----------------------

Al estar trabajando con un conjunto de patrones de entrenamiento, es necesario minimizar la diferencia entre la salida deseada y la obtenida para todos los patrones. Empleamos la aproximación de minimizar el error cuadrático medio.


Sea Yk la salida obtenida para el patrón k.
El error para el patrón k entonces

El Error Cuadrático Medio:







Para hallar el mínimo derivamos con respecto a W y hacemos igual a 0:



Con esto diremos que la función del error x(w), posee un extremo y, por otro lado, podemos asegurar que el extremo es un mínimo ya que la 2ª derivada es siempre positiva. La gráfica que se obtiene de la función error es un hiperparaboloide (dependiendo de la dimensión de "w". en el caso de 2 entradas, 2 pesos, sería un paraboloide). Ejemplo Freeman pag. 63.


Ejercicio:


Probar que el valor mínimo del error cuadrático medio se puede escribir de la manera siguiente:


Cálculo de W* mediante el método del Gradiente Descendente
Una manera de encontrar los pesos idóneos sería hacer que el mecanismo buscase por todo el espacio de pesos hasta encontrar los que hiciesen el error mínimo. Una búsqueda puramente aleatoria podría no ser eficiente, por lo tanto, la búsqueda en cierta manera será Dirigida.
Se inicializan al principio los pesos a valores aleatorios, con lo cual, ya tenemos el punto de partida en la superficie de pesos. Se determina a continuación, la dirección de la pendiente más pronunciada en dirección hacia abajo. Se modifican entonces los pesos para encontrarnos un poco más abajo en la superficie.
Típicamente el vector de pesos no se desplaza al principio directamente hacia el mínimo. La sección transversal de la superficie paraboidal suele ser elíptica, de modo que el gradiente negativo, puede no apuntar de manera directa al punto mínimo.
Sea W(t) el vector de pesos en el instante t.
En el instante t+1 el vector habrá cambiado de la manera: W(t+1)=W(t) + DW(t)
Dirección opuesta y más pronunciada Þ Dirección opuesta al gradiente de la Superficie Ñx(W(t))
Para obtener la magnitud del cambio Þ mÑx(W(t))
Se realiza la siguiente aproximación:


Nota: Dibujos Freeman pag. 65-66-67

Algoritmo:
1- Inicialización de pesos.
2- Se aplica un patrón de entrada (entradas y salida deseada).
3- Se computa la salida lineal que se optiene de la red.
4- Se calcula el error cometido para dicho patrón.
5- Se actualizan las conexiones mediante la ecuación obtenida anteriormente.
6- Se repiten los pasos del 2 al 5 para todos los patrones de entrenamiento.
7- Si el error cuadrático medio es un valor reducido aceptable, termina el proceso. Sino se vuelve al paso 2.


Aplicaciones:
La principal aplicación de las redes tipo Adaline se encuentra en el campo de procesamiento de señales. Concretamente en el diseño de filtros capaces de eliminar ruido en señales portadoras de información.
Otra aplicación es la de los filtros adaptivos, que pueden ser utilizados para predecir el valor futuro de una señal, a partir de su valor actual.


CONCLUSIONES:

- Una simple capa de PE lineales pueden realizar aproximaciones a funciones lineales o asociación de patrones.


- Una simple capa de PE lineales puede ser entrenada con algoritmo LMS.
- Relaciones No Lineales entre entradas y salidas no pueden ser representadas exactamentes por redes lineales. Dichas redes harán aproximaciones lineales. Otro tipo de redes abordarán la resolución de problemas no lineales.

REGLA DEL PERCEPTRON (Rosenblatt)
Supongamos un PE con una función de transferencia del tipo Hardlimiter y en donde las entradas son binarias o bipolares (mismo que Adaline pero con esas restricciones).
La regla que rige el cambio de pesos es:
Wi(t+1) = Wi(t) Si la salida es correcta.
Wi(t+1) = Wi(t) + Xi(t) Si la salida = -1 y debería de ser 1.
Wi(t+1) = Wi(t) - Xi(t) Si la salida = 1 y debería de ser -1.
Sobre la regla anterior se han realizado diferentos modificaciones:

A)

Wi(t+1) = Wi(t) Si la salida es correcta.


Wi(t+1) = Wi(t) + mXi(t) Si la salida = -1 y debería de ser 1.
Wi(t+1) = Wi(t) - mXi(t) Si la salida = 1 y debería de ser -1.
Con m Î [0,1], término de control de ganancia y velocidad de aprendizaje.
B)

Otra de las modificaciones propuestas fue sugerida por Widrow and Hoff. Ellos propusieron una regla basada en la regla Delta. (Es la más utilizada).


Los Pesos cambian según la formula:

Tomando las entradas y salidas como bipolares tenemos que el cambio en los pesos se produce de la manera siguiente:



Con esta regla de aprendizaje se otiene una convergencia finita si el conjunto de entrenamiento es linealmente separable.



Pasos del Algoritmo:
1- Inicializar las conexiones a valores aleatorios.

2- Presentación de un nuevo par de entrada y salida deseada.

3- Cálculo de salida actual.

4- Chequeo de error.

5- Adaptación de pesos.

6- Se realiza esta operación para todos los patrones de entrenamiento.

7- Si el error cometido para cada patrón es suficientemente pequeño, acabó

sino volver al paso2.



REGLA DE BUTZ

La regla del perceptrón no converge para el caso en el que el conjunto de entrenamiento está formado por clases no separables linealmente.


Butz propone una solución al problema al tratar de minimizar la probabilidad del error para los casos no separables linealmente. Introduce un nuevo parámetro denominado Factor de Reforzamiento.


La base de datos está protegida por derechos de autor ©bazica.org 2016
enviar mensaje

    Página principal