A Nova Versão do Llamafile: Facilitando o Compartilhamento e Execução de LLMs

 

O grupo Mozilla Ocho acaba de publicar a mais recente versão do Llamafile, o projeto de código aberto que torna muito fácil distribuir e executar grandes modelos de linguagem (LLMs) como um único arquivo. 

Llamafile 0.8.1: Expansão do Suporte de GPU e Melhorias de Desempenho

 

O Llamafile 0.8.1, um projeto inovador da Mozilla para implantações autocontidas e facilmente redistribuíveis de modelos de linguagem grande (LLM), foi lançado recentemente. Esta nova versão traz melhorias significativas, incluindo suporte expandido para GPUs AMD.