Intel construye sistema neuromórfico más grande del mundo para posibilitar una IA más sostenible

Con nombre en código Hala Point, este sistema a gran escala, implementado inicialmente en Sandia National Laboratories, utiliza el procesador Loihi 2 de Intel, tiene como objetivo apoyar la investigación para la futura inteligencia artificial (IA) inspirada en el cerebro y aborda los desafíos relacionados con la eficiencia y la sostenibilidad de la IA actual.

Este hará avanzar el sistema de investigación a gran escala de primera generación de Intel, Pohoiki Springs, con mejoras arquitectónicas para lograr más de 10 veces más capacidad neuronal y hasta 12 veces más desempeño.

"El costo informático de los modelos de IA actuales está aumentando a tasas insostenibles. Fundamentalmente, la industria necesita enfoques nuevos capaces de escalar. Por esa razón, desarrollamos Hala Point, que combina la eficiencia del aprendizaje profundo con nuevas capacidades de aprendizaje y optimización inspiradas en el cerebro. Esperamos que la investigación con Hala Point avance en la eficiencia y adaptabilidad de la tecnología de IA a gran escala".

–Mike Davies, director de Neuromorphic Computing Lab en Intel Labs

Qué hace: Hala Point es el primer sistema neuromórfico a gran escala que demuestra eficiencias computacionales de vanguardia en cargas de trabajo de IA convencionales. La caracterización muestra que puede soportar hasta 20 cuatrillones de operaciones por segundo, o 20 petaops, con una eficiencia superior a 15 billones de operaciones de 8 bits por segundo por vatio (TOPS/W) cuando se ejecutan redes neuronales profundas convencionales. Esto rivaliza y supera los niveles alcanzados por las arquitecturas construidas sobre unidades de procesamiento gráfico (GPU) y unidades de procesamiento central (CPU). Las capacidades únicas de este sistema podrían permitir el aprendizaje continuo en tiempo real futuro para aplicaciones de IA como resolución de problemas científicos y de ingeniería, logística, gestión de infraestructura de ciudades inteligentes, modelos de lenguaje grandes (LLM) y agentes de inteligencia artificial.

Cómo se utilizará: Los investigadores de Sandia National Laboratories planean usar Hala Point para la investigación avanzada de computación a escala cerebral. La organización se centrará en resolver problemas informáticos científicos en física de dispositivos, arquitectura de computadoras, ciencias de la computación e informática.

"Trabajar con Hala Point mejora la capacidad del equipo de Sandia para resolver problemas de modelado computacional y científico. Realizar investigaciones con un sistema de este tamaño nos permitirá seguir el ritmo de la evolución de la IA en campos que van desde el comercial hasta la defensa y la ciencia básica", dijo Craig Vineyard, líder del equipo de Hala Point en Sandia National Laboratories.

Actualmente, Hala Point es un prototipo de investigación que avanzará en las capacidades de los futuros sistemas comerciales. Intel anticipa que tales lecciones conducirán a avances prácticos, como la capacidad de los LLM para aprender continuamente de los nuevos datos. Estos avances prometen reducir significativamente la carga de capacitación no sostenible de las implementaciones generalizadas de IA.

Por qué es importante:Las tendenciasrecientes en la ampliación de los modelos de aprendizaje profundo a billones de parámetros han expuesto enormes desafíos de sostenibilidad en la IA y han resaltado la necesidad de innovación en los niveles más bajos de la arquitectura de hardware. La computación neuromórfica es un enfoque fundamentalmente nuevo que se basa en conocimientos de neurociencia que integran memoria y computación con un paralelismo altamente granular para minimizar el movimiento de datos. En los resultados publicados de la International Conference on Acoustics, Speech, and Signal Processing (ICASSP) de este mes, Loihi 2 demostró aumentos de órdenes de magnitud en la eficiencia, velocidad y adaptabilidad de las cargas de trabajo emergentes de edge a pequeña escala¹.

Avanzando sobre su predecesor, Pohoiki Springs, con numerosas mejoras, Hala Point ahora aporta rendimiento neuromórfico y ganancias de eficiencia a los modelos convencionales de aprendizaje profundo, especialmente aquellos que procesan cargas de trabajo en tiempo real como video, voz y comunicaciones inalámbricas.

Por ejemplo, Ericsson Research está aplicando Loihi 2 para optimizar la eficiencia de la infraestructura de telecomunicaciones, como destacó en el Mobile World Congress de este año.