MADRID, 26 (Portaltic/EP)
PUBLICIDAD
PUBLICIDAD
La compañía tecnológica ha indicado que este 'software' está diseñado para potenciar a una amplia gama de clientes, ya sean empresas emergentes de IA hasta grandes industrias con un nuevo entorno denominado SGLang y diseñado para optimizar la inferencia de modelos generativos de vanguardia.
De esta manera, con esta novedad es posible lograr un rendimiento hasta 6 veces mayor en la inferencia de modelos de lenguaje grandes (LLM, por sus siglas en inglés) en comparación con los sistemas existentes, lo que facilita a las organizaciones ofrecer aplicaciones de IA a escala.
ROCm 6.3 de AMD también viene con lenguaje Python integrado y preconfigurado en los contenedores Docker, lo que brinda a los desarrolladores la oportunidad de acelerar la implementación de asistentes de IA interactivos, flujos de trabajo multimodales y 'backends' en la nube con un tiempo de configuración reducido.
AMD también ha puntualizado que ha optimizado el algoritmo FlashAttention-2 para acelerar el entrenamiento y la inferencia de modelos de transformadores, lo que a su vez reduce el tiempo de comercialización de la IA empresarial.
La marca también ha señalado que el compilador Fortran simplifica la aceleración de aplicaciones HPC heredadas en la GPU, debido a que ofrece descarga directa, compatibilidad con versiones anteriores y se integra sin necesidad de realizar grandes cambios en el código.
Esta nueva versión del 'software' de código abierto también introduce compatibilidad con la transformada rápida de Fourier (FFT) multinodo, que permite realizar cálculos FFT de alto rendimiento en grandes conjuntos de datos, lo que mejora la toma de decisiones en industrias como la del petróleo y el gas o en la investigación científica.
Por último, ROCm 6.3 presenta mejoras en sus bibliotecas de visualización por ordenador -rocDecode, rocJPEG y rocAL-, lo que permite a las organizaciones abordar diferentes cargas de trabajo, desde análisis de vídeo hasta el aumento de conjuntos de datos. Esto beneficia a sectores que van desde los medios de comunicación y entretenimiento hasta los sistemas autónomos.
