Os engenheiros da Arm e da NXP publicaram os primeiros patches de código aberto do driver para o Ethos-U, um processador de aprendizado de máquina, visando permitir que o Linux envie trabalhos de inferência de IA para esse hardware. Esse driver de inferência/acelerador está caminhando em direção à integração no kernel principal, mas enfrentou alguns desafios iniciais, com vários problemas de código sendo identificados.
Recentemente, uma série de patches foi apresentada à Linux Kernel Mailing List para implementar o driver Ethos-U NPU e foi testada na plataforma NXP i.MX93. O objetivo do driver Ethos-U Linux é fornecer um exemplo de como um sistema operacional robusto como o Linux pode despachar inferências para um subsistema Arm Cortex-M, que consiste em um Arm Cortex-M e um Arm Ethos-U NPU.
O Ethos-U foi projetado para casos de uso de IA, como reconhecimento de som/fala, tradução de idiomas, classificação e detecção de objetos, cancelamento de ruído, entre outros. Essa série de processadores Ethos-U é voltada para uma ampla gama de implantações Arm, desde automóveis e infraestrutura até dispositivos móveis e componentes domésticos inteligentes. A Arm está trabalhando para integrar esse driver Ethos-U NPU ao kernel do Linux, que possui cerca de quatro mil linhas de código.
Greg Kroah-Hartman apontou rapidamente vários problemas no código, apesar de muitos engenheiros terem assinado os patches do driver. Também foi questionado o motivo pelo qual esse driver não foi projetado para o novo subsistema "accel" de aceleradores, optando por se enquadrar na área de drivers de firmware do kernel. Em qualquer caso, é esperado que haja mais revisões neste driver no futuro, caso a Arm e a NXP desejem atualizá-lo.
No espaço do usuário, existe um repositório no GitHub da NXP com os componentes de software do espaço do usuário para interagir com o driver do kernel.
Até a próxima !!
Nenhum comentário:
Postar um comentário