Confira !!
Bem antes de a Intel comprar a startup Habana Labs de AI, esta empresa com seu treinamento de AI convincente e aceleradores de inferência mantinha um driver de kernel de código aberto no kernel Linux. Felizmente, isso continuou sob a propriedade da Intel, sem nenhuma surpresa, e o lançamento do ciclo Linux 5.11 traz mais melhorias para este driver acelerador para os produtos Gaudi AI Training e Goya AI Inference.
As atualizações de driver do Habana Labs foram enfileiradas como parte da área "char-misc", que permanece onde ele e os drivers semelhantes residem até que haja um subsistema "acelerador" formal para o kernel Linux. As alterações com este código para Linux 5.11 incluem:
- As mudanças na preparação para ASICs de Habana Labs futuros, sem nome. As preparações em torno do suporte ASIC futuro incluem suporte para carregar vários tipos de firmware, alterações de buffer de comando e suporte para colocar as tabelas de página PCI MMU na memória do host. No entanto, nenhum novo suporte de hardware está habilitado como parte dessas alterações do Linux 5.11. Será interessante ver o que vem depois de Gaudi e Goya, dado o quão bem o hardware já está funcionando.
- O suporte para "sincronização de fluxo" para sincronizar entre fluxos de computação e rede.
- Os preparativos para upstreaming do código Ethernet e RDMA com hardware Habana Labs.
- Uma nova opção para que a SRAM / DRAM interna seja limpa quando um usuário fecha um descritor de arquivo para garantir que nenhum traço do trabalho seja deixado na memória.
- Junto com a limpeza de memória no fechamento do FD, há suporte para novo firmware para fornecer melhor segurança ao dispositivo. Essas melhorias de segurança são boas, considerando que acaba de ser anunciado que o hardware de IA da Habana Labs começará a ser implementado na nuvem pública Amazon AWS.
- O suporte para novo firmware com o hardware Gaudi onde o firmware agora é responsável pelas redefinições do dispositivo.
- Várias outras correções e melhorias.
Este driver do Habana Labs está em char-misc-next até que a janela de mesclagem do Linux 5.11 seja aberta.
Nenhum comentário:
Postar um comentário