REDES NEURONALES ASOCIATIVAS
En búsqueda de una implementación practica, Hopfield presentó su modelo básico como un circuito eléctrico, el cual se muestra en la Fig. 5.1, donde cada neurona se representa por un amplificador operacional y una red asociada formada por una capacitancia y una resistencia, la entrada a cada amplificador es la suma de las corrientes Ii mas las realimentaciones provenientes de otros amplificadores, por ejemplo el segundo amplificador realimenta al amplificador S a través de la resistencia RS2, en caso de necesitarse realimentaciones con signo negativo, estas se hacen por medio de la salida inversora de cada amplificador; la ecuación para el modelo de Hopfield basado en las leyes de Kirchhoff se muestra en la Ecuacion (5.1).
![]() |
(5.5) |
Donde es el voltaje de entrada a cada amplificador y
su salida, con característica de amplificación
la cual es generalmente de tipo sigmoidal,
![]() |
(5.6) |
Multiplicando a ambos lados de la Ecuación (5.5) por y definiendo
,
y
, esta puede reescribirse en la Ecuación (5.6) la cual describe el comportamiento de cada una de las neuronas dinámicas que componen el circuito eléctrico de la red de Hopfield.
![]() |
(5.7) |
Ecuación 148
Utilizando la Ecuación (5.7) y escribiéndola en su forma matricial con , se obtiene (5.8), en esta ecuación se describe el comportamiento de la red de Hopfield
![]() |
(5.8) |
Lared de Hopfield en notación compacta se muestra en la Fig. 5.2, en donde el vector de p no se considera como la entrada a la red sino como la condición inicial de la red
Como se observa, la red de Hopfield está compuesta de neuronas dinámicas altamente interconectadas gobernadas por ecuaciones diferenciales no lineales, esta red funciona como una memoria asociativa no lineal que puede procesar patrones presentados de forma incompleta o con ruido, siendo útil como una poderosa herramienta de optimización
En el libro "Neural Network Design" [23], se muestra que una de las principales contribuciones de Hopfield fue la aplicación de la teoría de estabilidad de Lyapunov al análisis de las redes recurrentes, la teoría de estabilidad de Lyapunov se aplica a través del teorema de LaSalle y para su utilización el primer paso es escoger una función de Lyapunov, para lo cual Hopfield sugirió la siguiente función:
![]() |
(5.9) |
Donde a es la salida de la red, W es la matriz de pesos y b es el vector de ganancias.
La escogencia de esta particular función, fue clave en el desarrollo de Hopfield, pues el primer y el tercer término de esta ecuación conforman una función cuadrática, las cuales pueden aproximar gran cantidad de funciones en un pequeño intervalo, especialmente cerca de puntos donde se encuentre un mínimo local.
Para usar el teorema de LaSalle se necesita evaluar la derivada de la Ecuación (5.9), por claridad se evaluará cada uno de los tres términos de forma independiente, tomando la derivada del primer término de la Ecuación 5.10 se obtiene:
![]() |
(5.10) |
Derivando el segundo termino de la Ecuación (5.10), el cual consiste de una sumatoria de integrales y considerando una de estas integrales se obtiene:
![]() |
(5.11) |
Tomando en consideración todas las integrales, en forma matricial la derivada del segundo término es:
![]() |
(5.12) |
Derivando el tercer término de la Ecuación 5.11 y apoyándose en las propiedades de las funciones cuadráticas se obtiene la Ecuación 5.13
![]() |
(5.13) |
La derivada total de la Ecuación 5.14 se obtiene al unir los resultados de las ecuaciones 5.10, 5.12 y 5.14
![]() |
(5.14) |
comparando con la Ecuación 5.8 del modelo eléctrico de Hopfield, se tiene que:
![]() |
(5.15) |
Esto permite reescribir la Ecuación 5.14 así como sigue:
![]() |
(5.16) |
ya que es posible expandir la derivada de
de la siguiente forma:
![]() |
(5.17) |
Con esto la Ecuación 5.17 puede ser reescrita como:
![]() |
(5.18) |
Si se asume que es una función incremental, como sucede en los amplificadores operacionales, entonces:
![]() |
(5.19) |
Este resultado implica en la ecuación 5.18 que:
![]() |
(5.20) |
De esta manera, si es una función incremental, todos los valores propios de la función
son no positivos lo cual implica que la red sea estable, entonces V(a) es una función de Lyapunov válida.
Los atractores de Hopfield son puntos estacionarios de la función de Lyapunov que satisfacen la Ecuación 5.22
![]() |
(5.21) |
Estos puntos estacionarios son puntos donde se encuentra un mínimo de la función descrita en la Ecuación 5.6 en estos puntos el gradiente de la función
igual a cero [21].
![]() |
(5.22) |
La función de Lyapunov descrita por la Ecuación 5.9 puede simplificarse si se considera que la ganancia es grande, como sucede en los amplificadores con los que se implementa la red, una función de transferencia típica para estos amplificadores no lineales se muestra a continuación:
![]() |
(5.23) |
Para evaluar el segundo termino de la función de Lyapunov se requiere el cálculo de
![]() |
(5.24) |
Si la ganancia es muy grande y la salida de la red se mantiene en el rango
, el segundo término de la función de Lyapunov tiende a cero y puede definirse la función de alta ganancia de Lyapunov como:
![]() |
(5.25) |