Intel Hala Point, el sistema neuromórfico para IA que supera a cualquier arquitectura de GPU y será usado para investigaciones cerebrales y de computación

Intel Hala Point, el sistema neuromórfico para IA que supera a cualquier arquitectura de GPU y será usado para investigaciones cerebrales y de computación

abril 18, 2024 Desactivado Por

Siempre lo decimos, pero es que cada día que pasa es más y más cierto: la IA avanza a pasos agigantados y está limitada por el hardware actual, aunque en breve la electricidad y el agua pueden ser mayores problemas sostenibles. Por ello, Intel ha creado el primer sistema neuromórfico que es capaz de superar ampliamente a cualquier arquitectura de GPU existente y que se centrará en tareas de IA basadas en la investigación del cerebro humano. Así es Intel Hala Point con procesadores Loihi 2.

Potencia, eficiencia y sostenibilidad, ciencia ficción para todas las empresas actuales que trabajan con IA y el hardware más potente del mundo proporcionado por NVIDIA. Intel se propuso cambiar esto, además, con un costo y escalabilidad increíbles, lo que dejó al equipo de ingenieros una tarea titánica que hoy conocemos en profundidad y que puede sentar un antes y un después en un sector muy concreto de la Inteligencia Artificial.

Intel Hala Point, el sistema neuromórfico a gran escala para dejar atrás a las GPU

¿Pueden las gráficas estar obsoletas en estos momentos? Quizás no por potencia, quizás no por optimización o software, pero en cuanto a eficiencia y sostenibilidad, sin duda, no es factible ni sostenible.

Con esto en mente, Intel decidió crear un procesador específico para capacidad neuronal e inferencia, y creó para ello la plataforma de nueva generación Pohoiki Springs, donde Loihi 2 es el primer procesador en darle vida. Mike Davies, director del Laboratorio de Computación Neuromórfica de Intel Labs, nos da las primeras claves:

«El costo informático de los modelos de IA actuales está aumentando a un ritmo insostenible. La industria necesita enfoques fundamentalmente nuevos capaces de escalar.

Por esa razón, desarrollamos Hala Point, que combina la eficiencia del aprendizaje profundo con novedosas capacidades de optimización y aprendizaje inspiradas en el cerebro.

Esperamos que la investigación con Hala Point avanzará en la eficiencia y adaptabilidad de la tecnología de IA a gran escala»

El rendimiento es la clave principal sin olvidar las mencionadas eficiencias y escalabilidad. Intel asegura que Hala Point con Loihi 2 tiene más de 10 veces la capacidad neuronal que los sistemas actuales y hasta 12 veces más rendimiento. A estos datos generales hay que sumarles la capacidad de admitir hasta 20 mil billones de operaciones por segundo (20 petaops) con una eficiencia fuera de serie: 15 billones de operaciones de 8 bits por segundo y por vatio.

Por encima de las GPU de NVIDIA y los aceleradores de AMD

Es cierto que es un sistema muy específico y no de propósito general como lo puede ser Gaudi 3, GB200 o MI300A, por ejemplo, pero por ello, tiene ventajas en los escenarios concretos. La IA quiere virar hacia estos dos puntos dentro del hardware, Intel lo ha visto y lo ha implementado con una serie de propósitos concretos:

«Los investigadores de los Laboratorios Nacionales Sandia planean utilizar Hala Point para investigaciones informáticas avanzadas a escala cerebral. La organización se centrará en la resolución de problemas informáticos científicos en física de dispositivos, arquitectura informática, informática e informática.

Trabajar con Hala Point mejora la capacidad de nuestro equipo de Sandia para resolver problemas de modelado científico y computacional. Realizar investigaciones con un sistema de este tamaño nos permitirá seguir el ritmo de la evolución de la IA en campos que van desde el comercial hasta la defensa y la ciencia básica», afirmó Craig Vineyard., líder del equipo de Hala Point en Sandia National Laboratories.

Loihi 2, el procesador creado para el cerebro, redes neuronales asíncronas y computación integrada

Es un procesador neuromórfico, es decir, Loihi 2 está diseñado para emular al cerebro humano, y no contentos con eso, es capaz de realizar cálculos de forma paralela y distribuida con redes neuronales asíncronas con memoria integrada. Las neuronas en nuestro cerebro se comunican entre sí para funcionar y poder trabajar los datos que nos llegan sin usar la memoria como tal, Loihi 2 funciona de una manera similar, reduciendo el consumo de energía.

El sistema neuromórfico Hala Point tiene nada menos que 1.152 procesadores Loihi 2, fabricados estos en Intel 4. Los chasis tienen seis unidades rack de un tamaño similar a un microondas, por lo que podríamos decir perfectamente que Intel tiene 1.150 millones de neuronas funcionando interconectadas entre sí y 128.000 millones de sinapsis en 140.544 núcleos.

El consumo máximo según los azules es de nada menos que 2.600 vatios, lo que supone una cifra que refuta lo anteriormente dicho sobre la eficiencia, pero hay que contar con que además de los 1.152 procesadores Loihi 2, hay 2.300 CPU x86 para cálculos auxiliares.

Para finalizar los datos, Intel afirma que Hala Point puede ejecutar «su capacidad total de 1.150 millones de neuronas 20 veces más rápido que un cerebro humano y hasta 200 veces más rápido a menor capacidad».

La entrada Intel Hala Point, el sistema neuromórfico para IA que supera a cualquier arquitectura de GPU y será usado para investigaciones cerebrales y de computación aparece primero en El Chapuzas Informático.