El sueño ayuda a los modelos de IA a aprender cosas nuevas sin olvidar las antiguas
Tu cuerpo necesita dormir para descansar. Pero tu cerebro no está descansando cuando tú lo estás. Está haciendo muchas cosas mientras duermes, incluida la clasificación de experiencias recientes. Esto aumenta su capacidad de aprender y recordar. Ahora resulta que la misma estrategia puede ayudar a los cerebros informáticos.
Pavel Sanda es informático en la Academia Checa de Ciencias en Praga. Formó parte de un equipo de investigación que utilizó un modelo informático para explorar cómo el sueño ayuda al cerebro a aprender. “Algo muy importante está pasando [during sleep],» él dice. El equipo trabajó con un sistema informático que modela el cerebro, también conocido como inteligencia artificial o IA.
Los modelos de IA están en todas partes. Te recomiendan videos en las redes sociales. Pueden reconocer tu cara en las fotos. Incluso pueden conducir automóviles. La gran mayoría de estos modelos funcionan con lo que se conoce como redes neuronales artificiales o ANN. Estas son una forma popular de aprendizaje automático.
Las RNA se inspiraron originalmente en las redes de neuronas de un cerebro vivo. Pero en la práctica, las ANN más comunes no se parecen en nada a un cerebro. “Debajo del capó, son esencialmente técnicas matemáticas y de álgebra lineal”, dice J. Erik Delanois. Es estudiante de posgrado en informática en la Universidad de California en San Diego. Trabajó con Sanda en la nueva investigación.
La mayoría de las ANN pueden aprender a realizar una tarea sin problemas. Pero cuando se trata de aprender una nueva tarea, tienen un problema que el cerebro no tiene. O no logran aprender la nueva tarea, o aprenden algo nuevo pero borran la mayor parte de lo que sabían sobre su tarea original. Los desarrolladores de IA se refieren a esto como «olvido catastrófico», explica Sanda.
Pero este problema no suele afectar al cerebro humano. Sanda se preguntó: “¿Cómo [our] los nuevos recuerdos entran en la piscina de los viejos recuerdos sin borrarlos?
Sabía que, a medida que nuestros cerebros procesan nuevas experiencias durante el sueño, repiten esos eventos muchas veces. Decidió imitar este aspecto del sueño humano en un modelo de IA. Y ayudó a la IA a aprender cosas nuevas sin olvidar las antiguas. Ese “sueño” ayudó a evitar el olvido catastrófico. El grupo de Sanda compartió su descubrimiento el 18 de noviembre de 2022, en PLOS Biología Computacional.
Explorando un mundo cuadriculado
El modelo que utilizó el equipo de Sanda no era una ANN típica. Utilizaron un tipo conocido como «red neuronal de picos». Modela más de cerca el cerebro humano, pero requiere más tiempo y esfuerzo para entrenar.
Primero, entrenaron a esta red en una tarea simple. Controlaba un punto azul que deambulaba por una cuadrícula. La cuadrícula se sembró con tres tipos de bloques verdes emparejados. Algunas parejas se sentaron una al lado de la otra. Otros se sentaron unos encima de otros. El tercer tipo de pareja se sentó en diagonal el uno del otro.
Para la primera tarea, la red aprendió a buscar pares uno al lado del otro. Al mismo tiempo, tenían que evitar las diagonales que se inclinaban hacia abajo. Es como si fuera un animal aprendiendo que “algunas bayas son tóxicas, mientras que otras son buenas para ti”, explica Sanda.
¿Cómo aprendió la red? Contenía tres capas. Una capa de entrada actuaba como los sentidos. Interactuó con el mundo de la cuadrícula. La capa intermedia era como una red de neuronas digitales. Cada uno aprendió a reconocer ciertos patrones que encontraban los sentidos. Luego, una capa de salida tomó decisiones basadas en esos patrones y actuó. Cuando se acercó a las bayas deliciosas o se alejó de las bayas malas, obtuvo una recompensa. Entonces aprendió qué patrones buscar y cuáles evitar.
A continuación, el equipo intentó enseñarle a la red algo nuevo.
Ahora, los bloques apilados eran sabrosos y las diagonales inclinadas hacia arriba eran desagradables. Normalmente, la red tendría que olvidar su primera lección para aprender esta nueva. Sin embargo, el equipo no trató de enseñarle las nuevas reglas de una sola vez. En cambio, dejan que el sistema de IA explore la cuadrícula por un breve tiempo, luego toman un descanso para dormir.
Durante el descanso, no había cuadrícula ni formas que encontrar. Así que no había nada que ver ni acciones que tomar. Aún así, la red zumbaba. Reprodujo aleatoriamente la forma en que la capa intermedia había respondido al mundo. Gracias a estos descansos similares al sueño, la red logró aprender bien ambas tareas.
La importancia del sueño
Imitar el sueño puede no ser la mejor manera para que todos los modelos de IA aprendan múltiples tareas. Una computadora no tiene cuerpo. Y muchas de las cosas que suceden durante el sueño tienen que ver con mantener la salud del cerebro (como eliminar los desechos).
Sin embargo, esta investigación es interesante para los neurocientíficos, dice Kanaka Rajan. Es neurocientífica en la Escuela de Medicina Icahn en Mount Sinai en la ciudad de Nueva York. Rajan no participó en el estudio, pero sí utiliza modelos informáticos para estudiar cómo aprenden las personas y otros animales. La mayoría de estas investigaciones se centran en lo que sucede mientras el cerebro está despierto.
Los modelos de inteligencia artificial de los cerebros rara vez incluyen una fase similar al sueño, dice ella. Y ahora, agrega, tal vez deberían hacerlo. La nueva investigación «es un primer paso muy importante para comprender la importancia del sueño», dice. Sin embargo, señala, los investigadores deberán agregar más a su modelo para que represente mejor un cerebro real.
El grupo de Sanda espera descubrir cómo el sueño mejora el aprendizaje y la memoria. Si tiene éxito, los médicos podrían encontrar formas de estimular el cerebro durante el sueño para ayudar a tratar los trastornos de la memoria.
