FERRAMENTAS LINUX: Llamafile
Mostrando postagens com marcador Llamafile. Mostrar todas as postagens
Mostrando postagens com marcador Llamafile. Mostrar todas as postagens

domingo, 28 de abril de 2024

Llamafile 0.8.1: Expansão do Suporte de GPU e Melhorias de Desempenho

 

O Llamafile 0.8.1, um projeto inovador da Mozilla para implantações autocontidas e facilmente redistribuíveis de modelos de linguagem grande (LLM), foi lançado recentemente. Esta nova versão traz melhorias significativas, incluindo suporte expandido para GPUs AMD.