d-Matrix presenta su solución de inferencia para modelos de lenguaje a gran escala

La empresa d-Matrix, especializada en hardware de inteligencia artificial, presentó su solución de inferencia diseñada específicamente para modelos de lenguaje de gran escala (LLM), según reportó ServeTheHome, medio especializado en infraestructura de centros de datos.

La propuesta de d-Matrix apunta a optimizar la eficiencia energética y el rendimiento en tareas de inferencia, uno de los cuellos de botella más críticos en la implementación de modelos de IA a escala empresarial. La compañía busca posicionarse como una alternativa a las GPU tradicionales dominadas por NVIDIA.

El enfoque de la firma se centra en arquitecturas de procesamiento en memoria, tecnología que promete reducir la latencia y el consumo de energía al minimizar el movimiento de datos entre memoria y procesador, un problema persistente en los sistemas de IA actuales.

Con este anuncio, d-Matrix se suma a un ecosistema creciente de startups que compiten por capturar parte del mercado de infraestructura de IA, un segmento que continúa expandiéndose a medida que la demanda por servicios basados en modelos de lenguaje sigue en aumento.