A escassez e os custos elevados de memória DRAM transformaram-se num dos maiores obstáculos ao avanço da inteligência artificial nos centros de dados. Para contornar esta limitação, a empresa norte-americana pretende alterar a forma como os seus aceleradores gráficos interagem com os sistemas de armazenamento. Segundo revelou a empresa no blog da NVIDIA, a ideia passa por permitir que as GPUs acedam e leiam dados diretamente em unidades SSD de tecnologia NAND Flash, eliminando a intermediação e o processamento habitual feito pela CPU.
Código aberto e aliança com gigantes do setor
A peça central desta estratégia assenta na disponibilização em código aberto da interface cuFile, que faz parte do ecossistema GPUDirect Storage. Para desenvolver esta camada de software aberta e interoperável, a tecnológica juntou-se a empresas como a Google, a Intel e a Meta através do grupo XIO-SIG. Com esta arquitetura, a GPU consegue lançar milhares de pedidos simultâneos ao armazenamento e receber a informação sem passagens intermédias na sua memória de alta velocidade.
Ainda que um SSD não consiga atingir a largura de banda nem a latência da memória HBM, esta abordagem cria uma camada ampla para guardar contextos extensos, bases de dados, memória persistente de agentes e caches KV que não necessitam de permanecer constantemente dentro do acelerador. A comunicação ocorre na escala dos microsegundos, recorrendo a centenas de milhares de tarefas em simultâneo para extrair apenas a informação necessária.
Estrutura SCADA e o projeto Storage-Next
Para viabilizar a extração de dados específicos sem mover ficheiros inteiros, foi criada a estrutura SCADA (Scaled, Accelerated Data Access). Uma vez que autorizar a escrita direta no armazenamento traz desafios de segurança, o SCADA separa a execução rápida da aplicação de um componente privilegiado que pré-configura as permissões, garantindo a manutenção dos mecanismos de proteção do sistema Linux.
Este esforço faz parte da iniciativa Storage-Next, um grupo com mais de 40 empresas que inclui a Kioxia, a Micron e a DDN para definir os futuros padrões de armazenamento geridos por placas gráficas. No centro desta arquitetura está o hardware NVIDIA Vera BlueField-4 STX, cujo processador integra 88 núcleos Olympus Armv9.2, 176 threads, 164 MB de cache L3 e até 1,2 TB/s de largura de banda de memória. Em testes de compressão e cifragem, o chip alcançou um desempenho até 3,21 vezes superior ao de um processador x86 tradicional, embora faltem realizar medições em sistemas reais em funcionamento.
Nenhum comentário
Seja o primeiro!