Com o kernel Linux 6.3, o driver Habana Labs AI mudou para o novo subsistema/framework acelerador "accel", enquanto para o ciclo Linux 6.4 neste verão, este driver Intel continua acelerando enquanto prepara o suporte para o novo hardware Gaudi2 AI e tornando outras melhorias para esta pilha de treinamento/inferência de código aberto.
O driver Intel Habana Labs continua vendo muito trabalho em torno do hardware Gaudi2, especialmente. Embora um tanto surpreendente seja não ver muita atividade de motorista em torno de Greco, que também foi anunciado no ano passado ao mesmo tempo que o Gaudi2.
Uma solicitação pull inicial foi enviada na segunda-feira com as atualizações iniciais do driver do Habana Labs prontas para o DRM-Next, que terá como alvo a janela de mesclagem do Kernel Linux 6.4. O driver do acelerador Habana Labs para o Kerrnel Linux 6.4 está adicionando um mecanismo de redefinição elegante para redefinição de computação, adições contínuas em torno do suporte de hardware Gaudi2, permitindo que o usuário busque o uso atual da memória do dispositivo mesmo quando passando por uma redefinição de computação, fornecendo ao usuário o motivo específico pelo qual um dispositivo ainda está em uso e se adaptando ao firmware mais recente do dispositivo.
O driver do acelerador Habana Labs com Kernel Linux 6.4 inclui uma série de novas adições de API de espaço de usuário. Entre essas mudanças está a capacidade de interromper/reiniciar motores específicos dentro do Gaudi2 como parte de testes/medições de potência durante o treinamento com diferentes topologias. Há também uma nova interface para consultar a quantidade de memória do dispositivo que o driver e o firmware reservaram para si. Há também novas adições de API de espaço de usuário para expor a máscara de bits de Gaudi2 para os mecanismos rotadores disponíveis, expondo o endereço do registro do firmware que deve ser usado para acionar interrupções de dentro do código do usuário em execução nos mecanismos de computação e novos opcodes para buscar informações sobre eventos de hardware e firmware.
No geral, o driver de aceleração "habanalabs" continua avançando e emparelhado com sua pilha de espaço de usuário de código aberto e o compilador continua sendo a melhor solução de acelerador de IA por ter um driver de kernel upstream com pilha de software totalmente de código aberto, além da advertência de firmware usual.
Até a próxima !!
Nenhum comentário:
Postar um comentário