No AI Day da AMD, além dos lançamentos do Bergamo e do Genoa-X, a empresa também destacou suas ofertas de software de código aberto para IA e apresentou uma prévia da sua próxima APU aceleradora, o Instinct MI300 de última geração.
Victor Peng, da AMD, enfatizou as ofertas de software de código aberto da empresa e os avanços realizados na pilha ROCm, em particular no ambiente Linux. Embora não seja novidade para os leitores habituais do Phoronix, que acompanham meus artigos sobre as atualizações do ROCm, é sempre positivo ver a AMD e outros fabricantes de hardware promovendo seus esforços em software de código aberto.
Clément Delangue, CEO da Hugging Face, também participou do evento AMD AI Day para discutir a importância da ciência aberta e do código aberto no campo da IA. A AMD e a Hugging Face estabeleceram uma parceria para garantir suporte total da AMD aos softwares e modelos hospedados pela Hugging Face, além de integração contínua/distribuição contínua em hardware AMD, entre outras iniciativas.
O AMD Instinct MI300A, com 24 núcleos Zen 4, 128 GB de memória HBM3 e arquitetura CDNA3, já está disponível como amostra para clientes. Além disso, a AMD anunciou o Instinct MI300X como uma versão exclusivamente com GPU da arquitetura CDNA3, com 192 GB de memória HBM3, projetada para lidar com modelos de linguagem de grande escala.
Durante a apresentação, o AMD Instinct MI300X foi demonstrado executando o modelo de linguagem Falcon-40B inteiramente na memória, mostrando sua capacidade de lidar com modelos de linguagem extremamente grandes, com cerca de 80 bilhões de parâmetros.
Lisa Su também apresentou a plataforma AMD Instinct, que inclui oito unidades MI300X em uma infraestrutura OCP, fornecendo 1,5 TB de memória HBM3 para lidar com modelos de linguagem de aprendizado de máquina muito grandes (LLMs).
Os testes do Instinct MI300A já estão em andamento desde o início deste trimestre para clientes no segmento HPC/AI. A amostragem do MI300X e da plataforma AMD Instinct está prevista para o terceiro trimestre, enquanto a produção em larga escala é esperada para o quarto trimestre.
Até a próxima !!
Nenhum comentário:
Postar um comentário