Atenção, entusiastas da tecnologia AI/NPU! 🚀
Quando se trata de aceleradores de unidade de processamento neural (NPU/AI) para Linux, opções de código aberto como Habana Labs, de propriedade da Intel, estão liderando o caminho. Além disso, o driver iVPU da Intel para o NPU encontrado nos SoCs Meteor Lake e o recentemente postado Driver Ryzen AI Linux da AMD são outros exemplos notáveis.
No campo da engenharia reversa, o projeto Etnaviv tem feito progressos significativos. Originalmente focado apenas no IP gráfico Vivante, o projeto expandiu seu escopo para abraçar também o IP Vivante NPU, permitindo a execução de cargas de trabalho como TensorFlow Lite. Com as mais recentes conquistas de código aberto, o desempenho do NPU Etnaviv está chegando incrivelmente perto do driver proprietário e oficial.
Tomeu Vizoso, que está liderando a ativação do driver de código aberto Etnaviv NPU, recentemente fundiu a nova estrutura de Teflon para o Mesa 24.1, expandindo o escopo do Mesa para NPUs. Após estabelecer todas as bases iniciais, ele está trabalhando para aumentar ainda mais o desempenho, tornando-o competitivo em relação ao desempenho do driver proprietário.
Em uma nova postagem no blog, Vizoso descreve como tornar o desempenho do driver de código aberto ainda mais rápido, graças a mais convoluções e à ativação do cache de imagens.
Para ilustrar o progresso do driver Etnaviv e, finalmente, o desempenho do driver proprietário, Vizoso compartilhou um gráfico de desempenho da NPU Etnaviv.
Ele também observou em sua última postagem no blog que está bastante confiante de que eles podem chegar bem perto do desempenho do driver proprietário sem muito trabalho adicional. Ele planeja investir algum tempo adicionando alguns recursos de criação de perfil para direcionar melhor os esforços e obter os melhores retornos.
Esta é certamente uma grande conquista para o Mesa e para o mundo do código aberto em geral. Fique ligado para mais atualizações!
Até a próxima !!
Nenhum comentário:
Postar um comentário