O IREE 3.12 reescreve a Vulkan HAL, adiciona um driver HSA AMD experimental e suporta o Raspberry Pi 5, Arm Mali G5 e LLVMpipe. Veja o que muda no compilador MLIR.
IREE 3.12: a atualização que muda o jogo para compiladores de ML
A nova versão do IREE (Intermediate Representation Execution Environment) foi disponibilizada na última semana, trazendo mudanças profundas para quem trabalha com compilação de modelos de machine learning em diferentes stacks de hardware.
O IREE é um compilador e runtime de ponta a ponta baseado em MLIR que rebaixa modelos de ML para uma IR unificada, escalando do datacenter até dispositivos móveis e de borda.
O que torna a versão 3.12 notável é a reescrita completa do seu código Vulkan.
O engenheiro da AMD Ben Vanik reescreveu o Vulkan HAL (Hardware Abstraction Layer) que agora é significativamente superior ao driver Vulkan anterior do IREE.
O novo código tem como alvo o Vulkan 1.3 e implementa caminhos nativos de fila, push descriptors e uma ABI de despacho baseada em endereço de dispositivo de buffer sem descritores.
Suporte ampliado a GPUs: Raspberry Pi 5, Arm Mali e LLVMpipe
Com o novo caminho de código Vulkan, o IREE 3.12 passa a suportar a GPU Broadcom VideoCore VII usada pelo Raspberry Pi 5, além da Arm Mali 5ª Geração e do LLVMpipe.
A GPU VideoCore VII é uma GPU integrada de 12 núcleos com clock de até 800 MHz, presente no SoC Broadcom BCM2712 do Raspberry Pi 5. Essa adição representa um avanço significativo para a computação de borda e projetos de IoT que utilizam modelos de ML leves.
Produto Recomendado
Sua paixão por Linux agora tem lugar na mesa.
Para devs, sysadmins e fãs do Ubuntu, a Caneca Linux B-Orange Ubuntu é o item perfeito para acompanhar o café da manhã ou aquele deploy de madrugada.
Com um design dark, estilo geek e a identidade do Ubuntu em destaque. Ideal para o uso próprio ou para presentear quem vive e respira tecnologia.
Caneca Linux B-Orange Ubuntu.
Clique no link e garanta a sua agora mesmo: -> https://link.amazon/B04XnP5oW
Eu ganho uma comissão quando você faz uma compra.
Driver HSA/ROCR experimental para a AMD
Do lado da AMD, o IREE 3.12 introduz um novo driver HSA HAL nativo experimental, disponível apenas por opt-in. Trata-se de um back-end direto HSA/ROCR que utiliza filas HSA e pacotes AQL, contornando a pilha ROCm tradicional para comunicação de baixo nível com dispositivos AMD.
O driver é referenciado como amdgpu e usa o ROCR-Runtime como base para descoberta de agentes HSA e criação de dispositivos lógicos.
Outras melhorias no compilador
O IREE 3.12 também traz uma reescrita do caminho de execução do back-end de CPU, novos alvos de compilador para a NVIDIA Ada e Blackwell, além de detalhes de chips AMD CDNA5/MI455X e RDNA3 no código do compilador. A versão completa pode ser consultada nas releases do GitHub do projeto.
Por que isso importa para o ecossistema de IA
O IREE resolve um problema fundamental: a fragmentação de hardware. Em vez de compilar modelos separadamente para cada GPU, NPU ou CPU, o IREE produz uma IR unificada que escala do datacenter até sistemas embarcados com binários de apenas 30KB.
Com o novo Vulkan HAL, o suporte a dispositivos como o Raspberry Pi 5 se torna nativo, abrindo portas para inferência de ML em dispositivos de borda com custo acessível.
Princípios EEAT aplicados
Checklist para copiar e colar
✅ Verificar se o Vulkan 1.3 está disponível no dispositivo (use vulkaninfo).
✅ Confirmar features necessárias: compute queues, timeline semaphores, scalar block layout, synchronization2
✅ Habilitar driver HSA AMD experimental: IREE_HAL_DRIVER_AMDGPU=ON na build.
✅ Testar em Raspberry Pi 5 com GPU VideoCore VII usando SPIR-V CodeGen.
✅ Atualizar para IREE 3.12 via releases do GitHub.
✅ Verificar suporte a Arm Mali 5ª Geração e LLVMpipe.
✅ Revisar back-end de CPU com o novo caminho de execução.
✅ Testar alvos NVIDIA Ada/Blackwell e AMD CDNA5/RDNA3.
Considerações finais
O IREE 3.12 representa um marco importante na evolução de compiladores para machine learning. A reescrita do Vulkan HAL não apenas moderniza a base de código, mas também democratiza o acesso a inferência de ML em dispositivos de borda como o Raspberry Pi 5.
O driver HSA experimental sinaliza um compromisso contínuo com a otimização para hardware AMD, enquanto os novos alvos de compilador para NVIDIA Ada/Blackwell e AMD CDNA5/RDNA3 mostram que o projeto está preparado para as próximas gerações de aceleradores.
Para desenvolvedores brasileiros interessados em IA embarcada e computação de borda, esta versão do IREE abre oportunidades concretas de experimentação com hardware acessível, mantendo a robustez de um projeto governado pela LF AI & Data Foundation e amplamente adotado pela indústria.
Nenhum comentário:
Postar um comentário