No mês passado, para a sua conferência Vision, a Intel anunciou o acelerador Habana Labs Gaudi2 . O Gaudi2 é a oferta de segunda geração do Habana Labs, de propriedade da Intel, para treinamento e inferência. O suporte de driver de kernel Linux de código aberto para Gaudi2 está agora em andamento junto com o suporte de pilha de software de espaço de usuário de código aberto.
A Intel apresentou o Gaudi2 como oferecendo desempenho de treinamento de IA duas vezes melhor do que as soluções NVIDIA A100. Gaudi2 é fabricado em um processo de 7 nm em vez de 16 nm com o Gaudi original, uma melhoria de 3x para os TPCs, 96 GB de memória HBM2e acima de 32 GB de HBM2, cache SRAM de 48 MB que é o dobro do original, 24 x 100 GbE e possui um TDP de 600 Watts (350 Watts para o original).
Pouco mais de um mês desde o anúncio do Habana Labs Gaudi2, o trabalho do driver de código aberto está sendo divulgado publicamente. O suporte Gaudi2 baseia-se no driver in-kernel "habanalabs" existente que suporta os aceleradores Gaudi e Goya existentes.
Gaudi2 do ponto de vista do driver é bastante próximo do Gaudi original e reafirma a mesma arquitetura geral. Habilitar Gaudi2 são cerca de 158k linhas de novo código do kernel, mas muito disso são arquivos de cabeçalho - assim como estamos acostumados com os enormes arquivos de cabeçalho com o driver de kernel AMDGPU. Os novos arquivos de cabeçalho representam, de longe, a maior parte da variação de código para a ativação do Gaudi2 para esse driver principal.
Além do trabalho do driver do kernel, também foi publicado hoje o TPC_LLVM 1.1 como o mais novo lançamento de seu compilador baseado em LLVM de código aberto para direcionar os aceleradores do Habana Labs. TPC_LLVM 1.1 adiciona o suporte do compilador para Gaudi2, bem como o novo Greco ASIC. Eles também estão trabalhando na atualização de seu SynapseAI Core de código aberto para Gaudi2.
Veja esta série de patchespara o novo código de driver do kernel Gaudi2. Dada a evolução da mesma arquitetura Gaudi, esperamos que a revisão do código corra bem e possamos ver esse suporte Intel Gaudi2 adicionado assim que o ciclo da v5.20 se tudo correr bem.
O Intel Vision 2022 também viu o anúncio do Habana Labs Greco como seu cartão otimizado para eficiência de inferência de aprendizado profundo. Greco é uma grande atualização sobre Goya. Além do suporte ao compilador TPC_LLVM, ainda não vimos o suporte do driver do kernel do Habana Labs para o Greco, mas presumivelmente isso também será lançado em breve.
Até a próxima !!
Nenhum comentário:
Postar um comentário